La industria de la IA se ha vuelto 'doomer'

MIT Technology Review ha detectado una convergencia inusual en la industria de la IA: varios de sus líderes más poderosos coinciden ahora, en términos generales, en que la última generación de modelos conlleva un riesgo catastrófico. Dario Amodei, Sam Altman, Elon Musk y Demis Hassabis han advertido, cada uno a su manera, que la IA avanzada podría causar daños graves si se desarrolla y despliega sin la debida cautela. El cambio no fue repentino. Los debates anteriores solían centrarse en daños acotados, como sesgos, desinformación o pérdida de empleos. Ahora algunos jefes de laboratorio hablan de peligro existencial, pérdida de control y la necesidad de una coordinación sin precedentes. El artículo traza cómo este giro 'doomer' se volvió mainstream dentro de las propias empresas que empujan las capacidades de frontera. También se pregunta qué debería venir después. Una posibilidad es una regulación más fuerte, con pruebas de seguridad obligatorias, licencias y auditorías independientes. Otra son los compromisos internos voluntarios, con laboratorios que se autorregulan mediante red teams, políticas de uso y lanzamientos por etapas. Una tercera es un mayor escrutinio público, con investigadores, periodistas y sociedad civil exigiendo transparencia sobre capacidades y riesgos. Cada camino enfrenta obstáculos. La regulación puede ser lenta y quedar capturada por los actores ya establecidos. Los compromisos internos son difíciles de verificar y pueden debilitarse por la competencia. El escrutinio público a menudo carece de acceso a los detalles técnicos más sensibles. La tensión en el centro del relato es que las advertencias de los líderes de laboratorio conviven con incentivos comerciales para desplegar rápido. El lenguaje catastrofista puede generar conciencia, pero también justificar la concentración de poder en unas pocas empresas que se presentan como administradoras responsables. La verdadera prueba no es si los ejecutivos de IA suenan alarmados, sino si sus advertencias se traducen en límites concretos, supervisión externa y rendición de cuentas cuando los sistemas causan daño.