DeepMind abre un instituto para debatir la AGI

Google DeepMind ha puesto en marcha un nuevo instituto con el objetivo de ampliar el debate público sobre la inteligencia artificial general, la AGI. La organización quiere reunir a investigadores, responsables políticos, organizaciones de la sociedad civil y otros actores para analizar los riesgos, los beneficios y las cuestiones de gobernanza que plantean unos sistemas capaces algún día de igualar o superar las capacidades humanas en muchas tareas. La AGI sigue siendo un concepto discutido e incierto. No hay acuerdo universal sobre cuándo llegaría, qué forma tendría ni si los enfoques actuales pueden conducir a ella. El movimiento de DeepMind indica que el laboratorio quiere que la conversación salga de los entornos cerrados de investigación y de las revisiones éticas internas. Con un foro dedicado, podría intentar influir en cómo gobiernos, industria y público entienden tanto la promesa como los peligros de la IA avanzada. Entre los temas que podría abordar el instituto están la seguridad, la rendición de cuentas, la disrupción económica y la coordinación internacional. También puede actuar como puente entre la investigación técnica y las preocupaciones sociales, traduciendo capacidades complejas a términos que los no especialistas puedan evaluar. Esa labor de traducción es cada vez más importante a medida que los sistemas de IA se despliegan en sanidad, educación, finanzas y servicios públicos. Las críticas no tardarán: un instituto financiado por un laboratorio difícilmente será neutral, sobre todo cuando su empresa matriz compite en el mismo campo. Sus defensores responden que sumar más voces es mejor que dejar el debate sobre la AGI en manos de un puñado de empresas. La prueba real será si el instituto produce recomendaciones concretas, fomenta el escrutinio independiente e influye en las políticas, en lugar de limitarse a organizar conversaciones. Si lo consigue, podría convertirse en un modelo de cómo la industria de la IA dialoga con la sociedad sobre sus cuestiones más trascendentales.