OpenAI explica cómo Habitat escaló para más de mil millones de usuarios de ChatGPT

OpenAI publicó el 11 de septiembre un informe técnico sobre Habitat, la plataforma de almacenamiento en línea que sostiene ChatGPT, Codex y sus productos de API. La compañía afirma que Habitat procesa más de 70 millones de solicitudes por segundo, sirve a productos usados por más de mil millones de personas cada semana y administra más de 500 petabytes de datos en casi 40 regiones. La publicación es relevante porque muestra que la competencia en IA no depende solo de modelos más capaces, sino también de sistemas capaces de responder con baja latencia a una escala gigantesca.

Habitat empezó como una biblioteca cliente escrita en Python alrededor de DevDay 2023. Su función era evitar que cada equipo de producto tuviera que resolver por separado dónde vive un dato, quién puede leerlo, cómo se aplican las reglas de residencia, qué conexiones deben abrirse o cómo se limita el tráfico. Ese diseño funcionó mientras el sistema era más pequeño, pero se volvió frágil cuando el uso de ChatGPT creció y decenas de servicios dependían del mismo patrón. Cambiar protocolos o introducir nuevas reglas de enrutamiento exigía coordinar despliegues con muchos equipos.

La respuesta fue convertir Habitat en un servicio central. Así, OpenAI pudo aplicar autorización, auditoría, control de acceso, limitación de tasa y enrutamiento desde un único punto. La empresa también eligió una API deliberadamente restringida: Habitat no permite que los productos ejecuten consultas arbitrarias contra los almacenes en línea. En su lugar, ofrece operaciones de objetos y relaciones con coste predecible. En sistemas críticos de alto tráfico, esa falta de flexibilidad es una forma de protección operativa.

El artículo también reconoce los costes de usar Python para un servicio de tanto volumen. Tareas como compresión, cifrado, cálculo de verificaciones, enrutamiento y análisis de configuraciones podían retrasar el bucle de asyncio y afectar la latencia de cola. OpenAI ajustó la actualización de configuraciones, la concurrencia por proceso, la reutilización de conexiones y el uso de Envoy para reducir esos problemas. El paso más importante llegó con una reescritura en Rust realizada en el segundo trimestre de 2026 por dos ingenieros con ayuda de Codex y GPT-5.5. Según OpenAI, la nueva versión maneja el 95% del tráfico de producción y es seis veces más eficiente en CPU y quince veces más eficiente en memoria.