A indústria da IA adotou o discurso apocalíptico

A MIT Technology Review identificou uma convergência invulgar na indústria da IA: vários dos seus líderes mais poderosos concordam agora, de forma geral, que a última geração de modelos carrega risco catastrófico. Dario Amodei, Sam Altman, Elon Musk e Demis Hassabis avisaram, de formas diferentes, que a IA avançada pode causar danos graves se for desenvolvida e implementada sem o cuidado suficiente. A mudança não aconteceu de um dia para o outro. Os debates anteriores centravam-se muitas vezes em danos específicos, como enviesamento, desinformação ou perda de empregos. Agora, alguns responsáveis de laboratórios falam em perigo existencial, perda de controlo e necessidade de coordenação sem precedentes. O artigo traça como esta viragem apocalíptica se tornou mainstream precisamente dentro das empresas que empurram as capacidades de fronteira. E pergunta o que deve seguir-se. Uma possibilidade é regulação mais forte, incluindo testes de segurança obrigatórios, licenciamento e auditorias independentes. Outra são compromissos internos voluntários, com os laboratórios a policiarem-se através de red teams, políticas de utilização e lançamentos faseados. Uma terceira é maior escrutínio público, com investigadores, jornalistas e sociedade civil a exigir transparência sobre capacidades e riscos. Cada caminho enfrenta obstáculos. A regulação pode ser lenta e acabar capturada pelos incumbentes. Os compromissos internos são difíceis de verificar e podem enfraquecer com a competição. O escrutínio público raramente tem acesso aos detalhes técnicos mais sensíveis. A tensão no centro da história é que os avisos dos líderes dos laboratórios coexistem com incentivos comerciais para lançar depressa. A linguagem apocalíptica pode aumentar a consciência do problema, mas também pode justificar a concentração de poder em poucas empresas que se apresentam como guardiãs responsáveis. O verdadeiro teste não é se os executivos de IA soam alarmados. É se os seus avisos se traduzem em limites concretos, supervisão externa e responsabilização quando os sistemas causam danos.