Chefe do DeepMind quer órgão independente para regular IA

O CEO do DeepMind, Demis Hassabis, apresentou uma proposta ousada para criar um órgão independente de padrões para regular a inteligência artificial de ponta. Em uma entrevista recente, Hassabis sugeriu modelar essa nova organização com base na FINRA, a Autoridade Reguladora do Setor Financeiro dos Estados Unidos, que supervisiona as corretoras de valores. O órgão proposto seria responsável por testar modelos de IA de fronteira antes de serem lançados ao público. Ele desenvolveria melhores práticas para implantação segura, estabeleceria benchmarks de desempenho e segurança, e responsabilizaria as empresas por violações. Hassabis argumenta que o atual conjunto de compromissos voluntários e revisões de segurança internas é insuficiente, dado o ritmo acelerado do avanço da IA. "Precisamos de uma organização independente, liderada por especialistas, que possa avaliar esses modelos de forma objetiva", disse Hassabis. "Os riscos são altos demais para deixar a segurança inteiramente nas mãos de empresas individuais." O órgão teria autoridade para realizar auditorias, exigir modificações nos modelos e até interromper lançamentos se os padrões de segurança não forem atendidos. Esse pedido surge em um momento em que as preocupações com a segurança da IA estão crescendo. Incidentes recentes envolvendo modelos violados, resultados tendenciosos e uso indevido potencial destacaram a necessidade de estruturas de governança robustas. A proposta de Hassabis é notável porque vem de dentro da indústria, sinalizando que até mesmo líderes de IA reconhecem os limites da autorregulação. Embora a ideia tenha recebido apoio de alguns pesquisadores e formuladores de políticas, também levanta questões sobre implementação. Quem financiaria esse órgão? Como ele acompanharia a tecnologia em rápida evolução? E as empresas cumpririam voluntariamente? Apesar desses desafios, a proposta de Hassabis representa um passo significativo em direção a um ecossistema de IA mais estruturado e responsável.