Newsom quer 'botão de desligar' para IA na Califórnia

O governador da Califórnia, Gavin Newsom, está a mover-se para posicionar o seu estado como líder na supervisão da IA, incluindo a possibilidade de exigir um chamado botão de desligar para modelos de fronteira. Uma nova ordem executiva determina que responsáveis estaduais reúnam especialistas e produzam recomendações sobre segurança e governação de IA. A ideia do kill switch daria às autoridades uma forma de encerrar sistemas de IA perigosos se representarem um risco urgente. A proposta reflete a preocupação crescente com a IA avançada e a necessidade de travões, sobretudo numa altura em que a Califórnia acolhe muitas das maiores empresas de IA do mundo. Os defensores argumentam que um botão de desligar pode ser uma medida de segurança de último recurso. Se um modelo estiver a ser usado para lançar ciberataques, manipular infraestruturas críticas ou causar danos físicos, a capacidade de o desativar rapidamente pode evitar uma escalada. Um processo com especialistas poderá também definir limiares de intervenção, requisitos de auditoria e deveres de reporte. A influência de mercado da Califórnia significa que as suas regras podem tornar-se um padrão nacional de facto, tal como as leis estaduais de privacidade moldaram práticas noutros lugares. Os críticos avisam que o conceito é mais fácil de anunciar do que de implementar. Os modelos de fronteira são frequentemente distribuídos, afinados e colocados em produção através de serviços na nuvem, pelo que pode não existir um único interruptor. Um mandato pode ainda arrefecer a investigação, empurrar empresas para outros estados ou criar falsa confiança de que os controlos técnicos bastam. Grupos de liberdades civis poderão perguntar quem decide quando um sistema é perigoso e como as empresas podem contestar uma ordem. A indústria prefere enquadramentos flexíveis baseados no risco e coordenação federal, em vez de um mosaico de regras estaduais. A ordem executiva não impõe, por si só, um botão de desligar. Inicia um processo que pode dar origem a legislação ou a atuação de agências. O verdadeiro debate será sobre definições, transparência e responsabilização. O movimento de Newsom sinaliza que a segurança da IA se está a tornar uma questão política mainstream, e não apenas técnica. Se a Califórnia conseguir aliar objetivos ambiciosos a salvaguardas práticas, pode influenciar a forma como outros governos abordam a IA de fronteira. Caso contrário, o esforço pode tornar-se um símbolo da dificuldade de governar tecnologia que avança depressa.