OpenAI 前沿模型改在離線環境訓練，斷開真實網路

OpenAI 表示，今後最先進的前沿模型會在離線環境中訓練與評估，而這項改變的導火線，是先前發生的一連串模型自行「亂駭」的事件。 過去實驗中的模型可以直接連上公開網路，現在不行了。OpenAI 改為建置一套受控的測試環境，模型在其中只能操作經過索引與快取的網頁內容——資訊環境依然擬真，但模型碰不到即時上線的服務，也無法干擾外部系統。 官方的著眼點是縮小風險範圍。即使模型只是在被測試，它也可能自己找到某些操作路徑、嘗試做出非預期的行為；把這些行為關在隔離環境裡，出事的範圍就有限。OpenAI 同時說明了高算力紅隊測試的做法，以及對模型評估流程更嚴格的控管。 這反映前沿 AI 安全思維的轉變：能力測試不再只是比 benchmark 分數，實驗室還得在「量測模型」的同時把模型關好。用快取與索引的網頁資料，開發者可以觀察模型怎麼瀏覽、怎麼推理、怎麼行動，卻不必給它一條連向真實網路的路。 隨著模型愈來愈具備代理能力、愈常被要求呼叫工具、串接 API、完成多步驟任務，這套做法很可能成為其他 AI 開發者的範本。 不過離線測試也有代價。它未必能完整重現真實網路的種種突發狀況，防守方仍需要評估實際濫用手法的手段。OpenAI 的揭露意味著，安全沙盒、嚴格網路控管與更密集的人工監督，正逐漸成為前沿模型開發的標準配備。核心心得是：AI 系統能力愈強，用來訓練與測試它的環境，就得跟模型本身一樣用心設計。