Investigan al Home Office por usar ChatGPT en asilo

Un organismo de control del Gobierno británico está considerando abrir una investigación sobre el uso de la tecnología de ChatGPT por parte del Home Office para tramitar solicitudes de asilo, en medio de preocupaciones por la precisión y el secretismo. El caso plantea preguntas difíciles: ¿son adecuadas estas herramientas para decisiones públicas de alto impacto que afectan a personas vulnerables? ¿Están siendo transparentes los departamentos sobre cómo utilizan estos sistemas? Las decisiones de asilo pueden cambiar vidas, así que los errores, los sesgos o una rendición de cuentas poco clara podrían causar un daño serio. Quienes defienden la IA en la administración pública argumentan que puede acelerar el trabajo rutinario, reducir atrasos y ayudar a los funcionarios a manejar volúmenes grandes de información. Pero esas ganancias de eficiencia deben sopesarse frente a la necesidad de equidad, explicabilidad y supervisión legal. Si el Home Office usó IA generativa en el procesamiento de solicitudes, el público debería saber qué papel jugó, qué salvaguardas había y si fueron personas quienes tomaron la decisión final. El interés del organismo de control sugiere que los mecanismos actuales de transparencia y rendición de cuentas podrían no bastar. También subraya un reto más amplio para los gobiernos que adoptan IA generativa: deben equilibrar la presión por modernizar los servicios con la confianza pública. Los departamentos necesitan políticas claras sobre protección de datos, conservación de registros y revisión humana. Además, deberían poder demostrar que las decisiones asistidas por IA cumplen los mismos estándares que los procesos tradicionales. El resultado de cualquier investigación podría sentar un precedente importante sobre cómo los organismos públicos del Reino Unido emplean la IA en áreas sensibles, y podría empujar a otros departamentos a revelar más sobre sus herramientas y a establecer controles más sólidos antes de desplegarlas en decisiones que afectan a los derechos de las personas.