AIが捏造した証人、弁護士に5000ドル罰金

ニューメキシコ州最高裁は、依頼人の殺人罪控訴審でAIが捏造した証人や偽の警察証言を含む書面を提出した弁護士スティーブン・アーロンズ氏に5000ドルの罰金を科し、侮辱罪に問いました。Reutersが報じています。この件は、AI生成の法的コンテンツを検証しなかった弁護士に対する、これまでで最も厳しい制裁の一つに数えられます。 捏造された内容は、存在しない証人陳述や警察の証言として裁判所の書面に現れたとされています。全米の裁判所は、弁護士が幻覚による引用、でっち上げられた判例、捏造された事実を含む書面を提出する事例が相次ぐとして、繰り返し警告を発してきました。大規模言語モデルは、こうした誤りを説得力のある流暢さで生成することがあります。 この判断が注目されるのは、対応の厳しさです。これまでの事例は、戒告や研修の義務付け、比較的軽い制裁にとどまることが多くありました。5000ドルの罰金と侮辱罪の認定が組み合わさったことは、裁判官が訓戒から実効性のある処罰へと移行し、AIを使った書面を技術的な珍事ではなく職業上の責任の問題として扱っていることを示しています。 根本にある法的原則は新しいものではありません。弁護士は、どのように作成されたかにかかわらず、提出するすべての内容の正確性に責任を負います。調査や起草をAIツールに委ねても、この義務が移ることはありません。裁判所は一貫して、弁護士が提出前に引用や事実主張を独自に検証しなければならないとしてきました。 この件は、司法アクセスをめぐる厄介な問いも提起します。AIツールは、個人開業の弁護士やリソースの乏しい被告を助けられますが、それは慎重に使われた場合に限られます。今回のような制裁は、不注意な利用を抑止する一方で、弁護士がそもそもAIに頼る深い事情に対処するものではありません。 現時点でニューメキシコ州からのメッセージは明確です。すべてを検証せよ、さもなくば結果を受け入れよ、ということです。