Newsom impulsa un 'kill switch' para la IA en California

El gobernador de California, Gavin Newsom, se mueve para posicionar a su estado como líder en la supervisión de la IA, incluida la posibilidad de exigir el llamado kill switch o interruptor de apagado para los modelos frontera. Una nueva orden ejecutiva instruye a los funcionarios estatales a convocar a expertos y producir recomendaciones sobre seguridad y gobernanza de la IA. La idea del interruptor daría a las autoridades una forma de desactivar sistemas de IA peligrosos si representan un riesgo urgente. La propuesta refleja la preocupación creciente por la IA avanzada y la necesidad de guardarraíles, sobre todo porque California alberga a muchas de las mayores empresas de IA del mundo. Sus defensores sostienen que un kill switch podría ser una medida de seguridad de último recurso. Si un modelo se usa para lanzar ciberataques, manipular infraestructura crítica o causar daños físicos, poder desactivarlo rápido podría evitar una escalada. Un proceso de expertos también podría definir umbrales para intervenir, requisitos de auditoría y obligaciones de reporte. La influencia de mercado de California hace que sus reglas puedan convertirse en estándar nacional de facto, tal como las leyes estatales de privacidad han moldeado prácticas en otros lugares. Los críticos advierten que el concepto es más fácil de anunciar que de implementar. Los modelos frontera suelen distribuirse, ajustarse y desplegarse a través de servicios en la nube, así que puede que no exista un único interruptor. Un mandato también podría enfriar la investigación, empujar a las empresas a otros estados o generar una falsa confianza en que los controles técnicos son suficientes. Los grupos de libertades civiles pueden preguntar quién decide cuándo un sistema es peligroso y cómo las empresas pueden impugnar una orden. La industria prefiere marcos flexibles basados en riesgo y coordinación federal antes que un mosaico de normas estatales. La orden ejecutiva no impone por sí misma un kill switch: arranca un proceso que podría derivar en legislación o en acciones de agencias. El verdadero debate será sobre definiciones, transparencia y rendición de cuentas. El movimiento de Newsom señala que la seguridad de la IA se está volviendo un asunto político mainstream, no solo técnico. Si California logra combinar objetivos ambiciosos con salvaguardas prácticas, puede influir en cómo otros gobiernos abordan la IA frontera. Si no, el esfuerzo podría convertirse en símbolo de lo difícil que es gobernar una tecnología que avanza tan rápido.