IA agora marca texto gerado com 'assinatura' invisível

Numa ação coordenada para combater a desinformação, a Anthropic anunciou que todas as futuras versões dos seus modelos Claude vão incorporar uma marca d'água invisível no texto que geram. A medida alinha a empresa com Google e OpenAI, que já implementaram técnicas semelhantes nos seus sistemas de IA, nomeadamente no Gemini, do Google. A tecnologia de marca d'água, na qual a abordagem da Anthropic se baseia, funciona através de alterações subtis e estatisticamente detetáveis nas escolhas de palavras e nas estruturas de frases que os modelos de IA produzem. Estes padrões são impercetíveis ao olho humano, mas podem ser identificados de forma fiável por software especializado. O objetivo é criar um método confiável para distinguir conteúdo gerado por IA de escrita humana, respondendo às crescentes preocupações sobre a autenticidade da informação online. Este desenvolvimento surge numa altura em que as ferramentas de escrita por IA se tornam cada vez mais sofisticadas, dificultando a deteção de artigos, avaliações ou publicações em redes sociais gerados por máquinas. O potencial de uso indevido é vasto, desde propaganda automatizada a fraude académica. Ao incorporar uma impressão digital no seu resultado, as empresas esperam fornecer uma rede de segurança para plataformas e reguladores que precisam de verificar a origem do texto. Embora a tecnologia não seja infalível e possa potencialmente ser contornada por utilizadores sofisticados, representa um passo significativo em direção à responsabilização. A adoção da marca d'água em toda a indústria sinaliza um reconhecimento coletivo de que, à medida que as capacidades criativas da IA crescem, também devem crescer os mecanismos para garantir transparência e confiança no ecossistema digital.