英内務省のChatGPT利用に監視機関が調査検討

英国の政府監視機関が、内務省による難民申請処理でのChatGPT技術の利用について、調査を検討しています。正確性と秘密保持をめぐる懸念が背景にあります。難民申請の判断は人生を大きく左右するため、AIツールを高リスクの公的判断に使うのが適切か、省庁が利用方法を透明に説明しているかが問われています。誤りや偏り、責任の所在が不明確なら深刻な害になり得ます。公共部門でのAI活用を支持する人は、定型業務を速め、処理待ちを減らし、大量の情報処理を助けると主張します。ただし効率化は、公平性、説明可能性、法的監督と比べて判断する必要があります。内務省が生成AIを申請処理に使ったのなら、どんな役割を果たしたのか、どのような安全策があったのか、人間が最終判断をしたのかを公表すべきです。監視機関が関心を示していること自体、既存の透明性・説明責任の仕組みでは足りない可能性を示します。これは、生成AIを導入する政府全体の課題も浮き彫りにします。サービス近代化への圧力と公共の信頼を両立させなければなりません。省庁にはデータ保護、記録保持、人間によるレビューに関する明確な方針が必要です。AI支援の判断が従来の手続きと同じ基準を満たすことも示すべきです。調査の結果次第では、英国の公共機関が機微な分野でAIをどう使うかの重要な先例になる可能性があります。他の省庁にも、ツールの開示を進め、人の権利に影響する判断に導入する前のチェック強化を促すかもしれません。