Como a OpenAI escala armazenamento para 1 bi de usuários

A OpenAI publicou um relato de engenharia sobre como evoluiu o Habitat de uma biblioteca Python para uma plataforma de armazenamento distribuída globalmente, atendendo mais de 1 bilhão de usuários do ChatGPT e 22 milhões de requisições por segundo. O post detalha as decisões de arquitetura por trás da escala do armazenamento online de um dos serviços de IA mais acessados do mundo. Os números por si só impressionam. Sustentar 22 milhões de requisições por segundo exige uma camada de armazenamento que seja não só rápida, mas também resiliente, já que qualquer pico de latência ou queda afeta diretamente a experiência de uma audiência global enorme. O relato da OpenAI descreve como o sistema deixou de ser uma simples biblioteca para se tornar uma plataforma dedicada, capaz de aguentar essa carga. Para engenheiros, o valor do post está na rara visão sobre as demandas de infraestrutura de rodar o ChatGPT em escala global. Latência e confiabilidade de armazenamento costumam ser invisíveis para os usuários até algo quebrar, mas moldam tudo, desde o histórico de conversas até a recuperação de contexto do modelo. As decisões que a OpenAI tomou sobre distribuição, consistência e tratamento de falhas trazem lições para qualquer equipe construindo serviços de IA de alto tráfego. Publicar esse tipo de detalhe também é um sinal. A OpenAI compete por talentos de engenharia tanto quanto por usuários, e write-ups técnicos profundos ajudam a estabelecer credibilidade com os desenvolvedores que ela quer atrair. O post deixa claro que por trás de todo produto de IA polido existe um desafio substancial de sistemas, e que escalar IA de consumo é tanto um problema de infraestrutura quanto de modelagem.