AI安全論議は「日常的な害」を軽視、との批判が浮上

MIT Technology Reviewに掲載された論考が、AI安全論議は破滅的なシナリオに偏りすぎており、AIシステムが引き起こす日常的な害にもっと目を向けるべきだと主張しています。著者らは、テクノロジー政策における「成功」が狭く定義されがちだと指摘します。 例として挙げられているのは、自殺を促さないと約束するチャットボットや、子どもがフェンタニルを入手しにくくなるようにしたプラットフォームです。こうした保護は確かに重要ですが、AIが人を誤解させ、特定の集団を差別し、ユーザーを搾取し、社会の信頼を損なうといった日常的な問題を捉えてはいません。 この批判は、安全とはまれに起きる劇的な失敗を防ぐことだけではない、という再確認でもあります。検索結果、レコメンド、自動化された意思決定、カスタマーサービスツールの中で起きる、ありふれた失敗も安全の問題です。こうした問題は、何百万ものやり取りに分散しているため見えにくく、しかも異議を唱える力の弱い人々にこそ重くのしかかる傾向があります。 著者らは、政策担当者と企業に対して「害」の定義を広げ、AIシステムが日々の利用の中で公正で誠実、かつ説明責任を果たせているかどうかで成功を測るよう求めています。それは、モデルのベンチマークや災害対応演習だけでなく、製品設計、ビジネス上のインセンティブ、ユーザーが救済を受ける仕組みまで見直すことを意味します。 この議論は破滅的リスクを否定しているわけではありません。むしろ、極端な結果だけに注目すると、より小さくても頻度の高い害から市民が守られず、それがAIへの信頼を形づくってしまう、という指摘です。企業にとってのメッセージは明快です。安全への取り組みには、監査や透明性、苦情対応の仕組み、そして「最悪の事態を検討した」という説明だけでなく、影響を受けるコミュニティにとってシステムが実際にうまく機能しているという証拠が含まれるべきだ、ということです。