Anthropic propõe lei de IA com aval judicial

A Anthropic apresentou uma proposta de lei de segurança de IA que poderia bloquear o lançamento de um modelo caso mais de 50 pessoas pudessem ser mortas, de acordo com o TechCrunch. A proposta é apresentada como uma forma de proteção contra sistemas de IA perigosos, mas o texto também impediria agências federais de barrar a liberação de um modelo sem a permissão de um juiz. É aí que está a tensão central. De um lado, a lei criaria um limite de segurança de alto risco e daria aos reguladores um instrumento para intervir antes que o modelo chegue ao público. Do outro, exigir aprovação judicial pode atrasar ações de emergência e adicionar amarras legais justamente no momento em que a velocidade poderia ser decisiva. A proposta, portanto, resume um debate mais amplo sobre como os governos devem regular a IA de fronteira. Quem defende a exigência de aval judicial pode argumentar que ela evita decisões arbitrárias de agências e garante due process quando o produto de uma empresa está em jogo. Críticos podem argumentar que o limite é difícil de definir, que as evidências sobre danos potenciais costumam ser incertas e que esperar por um juiz pode tornar a salvaguarda lenta demais em uma crise. O critério das 50 pessoas também deve atrair escrutínio. Estimar quantas pessoas um modelo poderia matar não é um exercício técnico direto, e a lei precisaria de um processo para tornar esse julgamento crível. O relatório não traz o texto legislativo completo, então detalhes como quem faz a determinação inicial e qual padrão um tribunal aplicaria continuam indefinidos. Ainda assim, a história é relevante porque mostra uma empresa líder em segurança de IA participando diretamente do desenho de políticas públicas. Também ilustra a dificuldade de escrever regras para sistemas cujos riscos são difíceis de medir antecipadamente. Conforme o debate regulatório avança, a proposta apoiada pela Anthropic provavelmente será citada tanto como um esforço sério de segurança quanto como um alerta sobre processo legal e resposta a emergências.