OpenAI publica un plan para que la AGI beneficie a todos

OpenAI ha publicado un documento de visión integral titulado 'Construido para beneficiar a todos: nuestro plan', que describe su enfoque para garantizar que la inteligencia artificial general (AGI) beneficie a toda la humanidad. El plan aborda tres pilares fundamentales: acceso, seguridad y prosperidad compartida. La AGI, definida como sistemas de IA que pueden realizar cualquier tarea intelectual que un humano pueda realizar, representa una tecnología transformadora. El plan de OpenAI reconoce tanto el inmenso potencial como los riesgos significativos asociados con sistemas tan poderosos. En cuanto al acceso, OpenAI se compromete a hacer que la AGI esté ampliamente disponible, en lugar de concentrar sus beneficios entre unos pocos privilegiados. Esto incluye continuar ofreciendo niveles gratuitos de sus servicios de IA, invertir en investigación para reducir los costos computacionales y desarrollar interfaces que funcionen en múltiples idiomas y para usuarios con diferentes niveles de experiencia técnica. La seguridad es el segundo pilar, y recibe una atención sustancial en el plan. OpenAI describe su compromiso con pruebas rigurosas, equipos de prueba de adversarios (red-teaming) e investigación de alineación para garantizar que los sistemas de AGI se comporten según lo previsto. El plan enfatiza la importancia de la implementación iterativa: lanzar sistemas cada vez más capaces gradualmente para que la sociedad pueda adaptarse y las medidas de seguridad puedan perfeccionarse. El tercer pilar, la prosperidad compartida, aborda las implicaciones económicas de la AGI. OpenAI reconoce que la AGI podría alterar los mercados laborales y concentrar la riqueza si no se gestiona con cuidado. El plan propone mecanismos para distribuir los beneficios económicos, incluido el posible acceso universal a herramientas y servicios impulsados por IA, inversiones en educación y reciclaje profesional, y asociaciones con gobiernos y organizaciones sin fines de lucro. OpenAI también pide cooperación global en la gobernanza de la AGI. El plan argumenta que ninguna empresa o país debería controlar unilateralmente el desarrollo de la AGI, y aboga por marcos internacionales que equilibren la innovación con una supervisión responsable. Si bien el plan es ambicioso, los críticos señalan que carece de detalles específicos sobre cómo se implementarán estas propuestas y cómo se garantizará la rendición de cuentas.