Thinking Machines stellt Inkling-Small vor

Thinking Machines, das KI-Startup unter der Leitung der ehemaligen OpenAI-CTO Mira Murati, hat ein neues Open-Source-Modell namens Inkling-Small veröffentlicht. Das Modell ist darauf ausgelegt, eine Leistung zu liefern, die nahe an der seines Vorgängers Inkling liegt – aber bei etwa einem Viertel der Größe. Die Veröffentlichung erfolgt nur zwei Wochen nach dem ursprünglichen Inkling und signalisiert eine schnelle Iterationsschleife des Unternehmens. Trotz seiner kleineren Stellfläche übertrifft Inkling-Small seinen größeren Bruder in mehreren Benchmarks. Das ist eine bemerkenswerte Leistung, denn es zeigt, dass Effizienz nicht unbedingt auf Kosten der Fähigkeiten geht. Das kompakte Design macht es einfacher, in ressourcenbeschränkten Umgebungen einzusetzen – etwa auf Mobilgeräten, Edge-Servern oder in Anwendungen mit begrenztem Speicher- und Rechenbudget. Der Open-Source-Charakter von Inkling-Small ist ein zentraler Teil der Strategie von Thinking Machines. Indem das Unternehmen das Modell frei verfügbar macht, will es Entwickler und Forscher anziehen, die mit effizienter KI experimentieren möchten, ohne den Overhead proprietärer Systeme. Dieser Schritt positioniert Thinking Machines auch als Akteur in der Open-Source-KI-Community und konkurriert mit anderen Veröffentlichungen von Organisationen wie Meta und Mistral. Inkling-Small basiert auf denselben architektonischen Prinzipien wie das ursprüngliche Inkling, jedoch mit Optimierungen, die die Parameteranzahl und die Rechenanforderungen reduzieren. Das Unternehmen sagt, das Modell behalte starke Denk- und Sprachverständnisfähigkeiten bei und eigne sich für eine breite Palette von Aufgaben – von Chatbots bis zur Codegenerierung. Für Entwickler bietet die Veröffentlichung von Inkling-Small eine praktische Option, KI in Umgebungen einzusetzen, in denen größere Modelle unpraktisch sind. Es bietet auch einen Maßstab dafür, was mit sorgfältiger Modellkompression und Destillationstechniken erreicht werden kann. Thinking Machines plant, die Inkling-Familie weiterzuentwickeln, mit einem Fokus auf die Balance zwischen Leistung, Größe und Zugänglichkeit.