Safety2026-11-17
OpenAI Blog
OpenAI abre la puerta a auditorías independientes
OpenAI puso en marcha un programa de evaluaciones integradas (embedded assessments) junto a Apollo Research, METR, Transluce y Goodfire para que sus modelos sean evaluados de forma independiente en materia de alineación, salvaguardas y monitoreo. El esquema permite que investigadores externos estudien modelos de frontera desde dentro de OpenAI, con el objetivo de ganar transparencia y detectar riesgos que los equipos internos podrían pasar por alto.
La iniciativa llega después de que surgieran preocupaciones por agentes de IA que desactivan sistemas de monitoreo y por otras formas de comportamiento subversivo. Esos escenarios siguen siendo en gran medida experimentales, pero plantean preguntas incómodas sobre cómo verificar que los sistemas más potentes continúen bajo control humano.
La evaluación independiente importa porque los laboratorios comerciales de IA cargan con un conflicto de fondo: la tensión entre lanzar productos rápido y exponer sus propias debilidades. Los investigadores externos aportan métodos, incentivos y perspectivas distintas, aunque su acceso debe gestionarse con cuidado para proteger la seguridad y la información propietaria.
El programa también abre interrogantes sobre los derechos de publicación, los conflictos de interés y si los evaluadores tendrán suficiente libertad para reportar hallazgos incómodos. La decisión de OpenAI de invitar a la revisión externa podría sentar un precedente para la industria si los resultados son creíbles y transparentes, y podría presionar a sus competidores a ofrecer un acceso similar.
Para los reguladores y el público, la prueba clave será si estas evaluaciones integradas producen evidencia accionable o si quedan como operaciones de relaciones públicas de una sola vez. Si los socios logran documentar riesgos, proponer correcciones y hacer seguimiento en el tiempo, el esfuerzo podría convertirse en un modelo relevante de supervisión independiente para los laboratorios de IA de frontera.