Codificadores já driblam marca d'água do Claude

O anúncio da Anthropic de que vai embutir marcas d'água invisíveis em conteúdos gerados por IA, para atender às novas regras da União Europeia, encontrou resistência imediata da comunidade de programadores. Em poucas horas, desenvolvedores já estavam compartilhando overrides e workarounds na internet, levantando dúvidas sérias sobre a eficácia da marca d'água como ferramenta de conformidade. As marcas d'água são feitas para serem imperceptíveis para humanos, mas detectáveis por sistemas automatizados, permitindo que plataformas identifiquem textos gerados por IA. O AI Act da UE exige transparência sobre conteúdo gerado por IA, e a marca d'água é uma das formas propostas para cumprir essa exigência. No entanto, os codificadores rapidamente encontraram maneiras de remover ou alterar as marcas. As técnicas incluem reescrever o texto, inserir e remover caracteres específicos, ou usar outros modelos de IA para reformular o conteúdo. Alguns desenvolvedores até criaram ferramentas que removem automaticamente as marcas d'água da saída do Claude. Esse jogo de gato e rato expõe um desafio fundamental: se as marcas d'água podem ser facilmente contornadas, elas oferecem pouca proteção real. As regras da UE podem criar uma falsa sensação de segurança, já que os reguladores podem assumir que a marca d'água é um mecanismo confiável de fiscalização, quando claramente não é. A Anthropic provavelmente vai responder com técnicas de marca d'água mais robustas, mas a corrida armamentista deve continuar. O episódio também levanta questões mais amplas sobre a viabilidade de regular conteúdo de IA. Se usuários determinados sempre encontram formas de contornar, soluções técnicas sozinhas não bastam. Talvez seja preciso combinar medidas técnicas, legais e sociais para garantir transparência no conteúdo gerado por IA.