EE. UU. y China hablan de alertas por incidentes de IA

Funcionarios de Estados Unidos y China habrían conversado sobre la creación de un canal para notificarse mutuamente incidentes de IA que puedan amenazar la seguridad nacional. Según WIRED, las conversaciones reflejan el reconocimiento de que los sistemas avanzados de IA generan riesgos que no se detienen en las fronteras. Esos riesgos incluyen ciberataques, campañas de desinformación y armas autónomas. Cualquiera de ellos podría escalar rápido si un lado malinterpreta las intenciones del otro. Un mecanismo de alerta dedicado funcionaría como sistema de advertencia temprana. Si ocurre un incidente grave relacionado con IA —por ejemplo, un modelo usado en una intrusión informática, un sistema autónomo peligroso que se comporta de forma inesperada o una operación de desinformación a gran escala—, los dos gobiernos podrían compartir datos básicos antes de que las especulaciones y las culpas se descontrolen. En una crisis, incluso una comunicación limitada reduce el riesgo de un cálculo erróneo. Pero los obstáculos son enormes. Washington y Pekín mantienen una desconfianza profunda en temas tecnológicos. Ambos compiten por el liderazgo en IA y cada uno teme que compartir información revele inteligencia, exponga vulnerabilidades o le dé ventaja al otro. Además, definir qué cuenta como incidente de seguridad con IA sería difícil: un ciberataque puede atribuirse a criminales, a actores estatales o a herramientas de IA, y las pruebas suelen ser disputables. Las conversaciones están en una etapa temprana, así que podrían no llegar a un acuerdo formal. Aun así, incluso una línea directa modesta o un diálogo técnico podrían tener valor. Los sistemas de IA son cada vez más capaces y se despliegan más ampliamente, mientras sus modos de falla no se entienden del todo. El riesgo de escalada accidental puede crecer a medida que los sistemas militares, de inteligencia y civiles se entrelazan más con la toma de decisiones automatizada. Las conversaciones son una señal de que ambos gobiernos ven la IA como un tema de estabilidad estratégica, no solo como una carrera comercial. Un mecanismo de notificación no resolvería las tensiones de fondo ni evitaría todos los usos peligrosos de la IA. Pero podría abrir un canal acotado para desescalar cuando un incidente veloz podría interpretarse como un ataque deliberado.