Cómo OpenAI escala almacenamiento para 1B usuarios

OpenAI publicó un informe de ingeniería sobre cómo evolucionó Habitat, de ser una librería de Python a una plataforma de almacenamiento distribuida globalmente que atiende a más de 1.000 millones de usuarios de ChatGPT y 22 millones de solicitudes por segundo. El texto detalla las decisiones de arquitectura detrás del escalado del almacenamiento online de uno de los servicios de IA de consumo más transitados del mundo. Solo los números ya impresionan. Sostener 22 millones de solicitudes por segundo exige una capa de almacenamiento que no solo sea rápida, sino también resiliente, porque cualquier pico de latencia o caída afecta directamente la experiencia de una audiencia global enorme. El informe de OpenAI describe cómo el sistema dejó atrás sus orígenes como una simple librería para convertirse en una plataforma hecha a medida, capaz de soportar esa carga. Para los ingenieros, el valor del artículo está en su mirada poco habitual a las demandas de infraestructura de correr ChatGPT a escala global. La latencia y la fiabilidad del almacenamiento suelen ser invisibles para los usuarios hasta que algo se rompe, pero moldean todo, desde el historial de conversaciones hasta la recuperación de contexto del modelo. Las decisiones que tomó OpenAI en torno a distribución, consistencia y manejo de fallos dejan lecciones para cualquier equipo que construya servicios de IA con mucho tráfico. Publicar este nivel de detalle también es una señal. OpenAI compite por talento de ingeniería tanto como por usuarios, y los artículos técnicos profundos ayudan a establecer credibilidad ante los desarrolladores que quiere atraer. El texto subraya que detrás de cada producto de IA pulido hay un desafío de sistemas considerable, y que escalar IA de consumo es tanto un problema de infraestructura como de modelado.