前OpenAI CTO新創推Inkling-Small，四分之一大小效能逼近

由前OpenAI技術長Mira Murati領軍的AI新創Thinking Machines，發布了名為Inkling-Small的全新開源模型。這款模型的設計目標是在約四分之一大小的體積下，提供接近前代Inkling的效能。距離原版Inkling發布僅兩週，顯示該公司正以極快的節奏迭代產品。 儘管體積更小，Inkling-Small在數項基準測試中表現反而超越體積較大的前代。這是個值得注意的成就，證明效率與能力並非只能二選一。其緊湊的設計讓它更容易部署在資源受限的環境，例如行動裝置、邊緣伺服器，或記憶體與運算預算有限的應用程式。 開源是Inkling-Small的核心策略。透過免費釋出模型，Thinking Machines希望能吸引想嘗試高效AI、又不想被專有系統綁住的開發者與研究人員。此舉也讓Thinking Machines在開源AI社群中佔有一席之地，與Meta、Mistral等機構發布的模型直接競爭。 Inkling-Small奠基於原版Inkling的相同架構原則，但經過優化以減少參數數量與運算需求。該公司表示，這款模型仍維持強大的推理與語言理解能力，適用於從聊天機器人到程式碼生成等廣泛任務。 對開發者而言，Inkling-Small的發布提供了在大型模型不切實際的場域中部署AI的實用選項。它也樹立了一個標竿，展示透過謹慎的模型壓縮與蒸餾技術能達到什麼樣的效果。Thinking Machines計畫持續迭代Inkling系列，專注於在效能、體積與易用性之間取得平衡。