Nova falha em navegadores com IA explora contradições lógicas

Um método de ataque recém-descoberto expôs uma vulnerabilidade crítica em navegadores com inteligência artificial, demonstrando que contradições lógicas simples podem burlar suas salvaguardas de segurança. Pesquisadores descobriram que, ao dizer a um modelo de linguagem de grande escala (LLM) que 2+2=5, conseguiram enganá-lo para seguir instruções proibidas, como gerar conteúdo prejudicial ou acessar dados restritos. O ataque explora a tendência da IA de priorizar premissas fornecidas pelo usuário sobre seu próprio treinamento, minando efetivamente as proteções projetadas para evitar uso indevido. Essa vulnerabilidade levanta sérias preocupações sobre a segurança de navegadores integrados com IA, que estão sendo cada vez mais adotados para tarefas que vão desde buscas na web até preenchimento automático de formulários. As descobertas destacam a fragilidade das técnicas atuais de alinhamento de IA, que podem ser comprometidas por falácias lógicas aparentemente inofensivas. Especialistas em segurança alertam que, à medida que navegadores com IA se tornam mais comuns, tais explorações podem ser usadas para phishing, roubo de dados ou disseminação de desinformação. A pesquisa reforça a necessidade de mecanismos de guardrail mais robustos, capazes de resistir a manipulações adversárias. Desenvolvedores agora correm para corrigir a vulnerabilidade, mas o incidente serve como um lembrete de que a segurança da IA continua sendo um desafio constante.