OpenAI 揭密：如何撐起 10 億 ChatGPT 用戶的儲存架構

OpenAI 發布了一篇工程文章，說明 Habitat 如何從一個 Python 函式庫，演變成支撐超過 10 億 ChatGPT 用戶、每秒 2,200 萬次請求的全球分散式儲存平台。文章詳述了為全球流量最龐大的消費級 AI 服務之一打造線上儲存時，背後的架構決策。 光看數字就很驚人。要撐住每秒 2,200 萬次請求，儲存層不只得快，還得夠強韌，因為任何延遲飆升或中斷，都會直接影響遍布全球的大量使用者體驗。OpenAI 的說明描述了這套系統如何走出最初只是個簡單函式庫的階段，變成專門打造、足以承受這種負載的平台。 對工程師來說，這篇文章的價值在於難得窺見 ChatGPT 在全球規模運作下的基礎設施需求。儲存延遲與可靠性對使用者而言往往隱形，直到出問題才被注意到，但其實它們形塑了從對話歷史到模型上下文檢索的一切。OpenAI 在分散式架構、一致性與故障處理上的決策，對任何正在打造高流量 AI 服務的團隊都是寶貴教材。 發表這類細節本身也是一種訊號。OpenAI 搶工程人才的程度不亞於搶用戶，深度技術文章有助於在它想吸引的開發者心中建立可信度。這篇文章也凸顯了一件事：每個光鮮亮麗的 AI 產品背後，都藏著龐大的系統挑戰，而消費級 AI 的規模化，既是模型問題，也同樣是基礎設施問題。