AI Infrastructure2026-10-24OpenAI Blog

撑住 10 亿 ChatGPT 用户,OpenAI 讲了讲存储怎么扩

OpenAI 详细讲了它是怎么把自家的在线存储系统 Habitat 扩到支撑 10 亿多 ChatGPT 用户的。核心工作包括可靠的多租户、全局缓存,以及与 Azure Cosmos DB 的集成——这些合起来让 ChatGPT 的读取速度提升了 12 倍。 这些工程细节之所以重要,是因为随着 AI 助手处理更多对话、文件和持久上下文,存储的延迟和可靠性正变成核心约束。一个只回答一次性问题的聊天机器人,存储层简单点也能扛。但一个要记住上下文、管理文件、支撑大量并发用户的大众市场助手,就需要一层又快、又一致、又高可用的存储。Habitat 就是为这些需求设计的。 多租户让 OpenAI 能在共享基础设施上高效服务大量客户,同时保持数据隔离;全局缓存缩短了取回高频访问信息所需的距离和时间;与 Azure Cosmos DB 的集成则撑起了服务背后的数据库操作。 结果不只是性能提升,也是可靠性提升——存储一旦成为瓶颈,用户会直接感受到:响应变慢,或者请求失败。 OpenAI 这篇文章说明,做大众市场的 AI 不只是拼 GPU 和模型训练。大规模推理依赖数据库、缓存、网络和存储系统,它们得跟得上海量的读写。随着助手承担更长的对话、更大的文件和更持久的记忆,这些基础设施层只会更重要。 12 倍的读取提升是个有用的基准,但更大的意义在架构层面:OpenAI 把存储当成 AI 产品体验的一等公民,而不是后台管道。对做消费者 AI 服务的对手来说,教训很清楚——只靠模型质量不够,模型周围的系统必须按全球规模、低延迟和可靠隔离来设计。

相关资讯