DeepMind ficha a un filósofo para pensar la ética de la IA

Google DeepMind contrató a un filósofo residente para examinar cómo deberían relacionarse los humanos con la IA generativa, según un perfil de IEEE Spectrum. El puesto es poco habitual, pero cada vez más relevante. Aborda preguntas que es fácil descartar como abstractas hasta que afectan decisiones de producto: ¿debería tratarse alguna vez a un LLM como una persona?, ¿cómo podrían los investigadores detectar consciencia?, ¿podrían los sistemas de IA tener algún día derechos morales? Estas cuestiones se ubican en la intersección entre seguridad, diseño y confianza pública. Influyen en cómo las empresas enmarcan el comportamiento de la IA, dónde ponen límites a las interfaces antropomórficas y qué tipo de afirmaciones resultan aceptables en el marketing y en las políticas. Un filósofo puede ayudar a separar la incertidumbre conceptual genuina del lenguaje engañoso. Por ejemplo, una IA que usa la primera persona y expresa preferencias puede invitar a los usuarios a inferir una experiencia interna, aunque el sistema subyacente no tenga nada parecido. El movimiento de DeepMind indica que la experiencia ética y conceptual se incorpora al proceso de desarrollo en lugar de sumarse después de una polémica. Eso no significa que los filósofos vayan a resolver los debates sobre consciencia o estatus moral de las máquinas. Significa que la compañía crea un espacio para preguntarse qué implican sus productos sobre las mentes, los vínculos y la responsabilidad. El perfil también subraya un giro más amplio en la ética de la IA. A medida que los sistemas se vuelven más conversacionales y autónomos, las preguntas sobre la confianza y el sentido humano pasan a ser preocupaciones de ingeniería concretas. Es probable que el trabajo del filósofo residente se juzgue por si influye en decisiones concretas, no por si produce una teoría definitiva. Aun así, la designación refleja el reconocimiento de que el progreso técnico por sí solo no puede responder todas las preguntas que plantea la IA.