AIが生み出した「架空の証人」が殺人事件の上訴に紛れ込んだ#
ニューメキシコ州最高裁判所が、ChatGPTを使って作成した上訴状にAIが捏造した架空の証人や偽の証言を盛り込んだ弁護士に対し、5,000ドルの罰金と法廷侮辱の処分を科した。Reutersの報道をもとにThe Vergeが伝えたもので、法曹界におけるAIリスクの深刻さを改めて浮き彫りにしている。
事件の詳細：何が起きたのか#
問題となったのは、殺人罪で有罪判決を受けたクライアントのために提出された上訴状だ。ニューメキシコ州最高裁の裁判所文書によれば、この上訴状には**「完全に架空の証人による虚偽の証言」**が含まれていたほか、射手の服装や外見に関する虚偽の証言も記載されていたとされる。
担当弁護士のスティーブン・アーロンズ氏は、ChatGPTを使用して上訴状を作成したと認めており、裁判のサマリーとして「完璧な要約」が生成されると考えていたと述べている。裁判所はアーロンズ氏が「AI生成の上訴状に含まれる事実の主張および法的根拠を検証しなかった」として罰金と法廷侮辱の処分を言い渡した。
8月に行われた審問では、ジャスティス・C・シャノン・ベーコン裁判官がアーロンズ氏に対し厳しい言葉を向けた。Reutersによれば、裁判官は「弁護士さん、ニュースは見ていますか？ラジオは聴いていますか？世の中で起きていることを何か読んでいますか？」と問いただし、「弁護士がAIのハルシネーション（幻覚）に依存することの問題は、毎日トップニュースで報じられている」と指摘した。
アーロンズ氏はReutersへの声明で「反省しているが、意図的な過失ではなく誠実なミスであったと懲戒委員会に考慮してほしい」と語っている。
「AIハルシネーション」とは何か#
AIハルシネーション（幻覚）とは、AIが事実に基づかない情報を、あたかも正確であるかのように生成してしまう現象のことを指す。特に法律文書の分野では、実在しない判例や証言、人名などが生成されるケースが繰り返し報告されており、今回の事件もその典型例と言える。
なぜこのニュースが重要なのか#
この事件が注目される理由はいくつかある。
① 法曹界でのAI利用は増加している
The Vergeの報道によれば、業務でAIツールを活用する弁護士の数は増加しており、それに伴い裁判所がAIによって捏造された引用文献を発見するケースも増えている。今回の事件はその流れの中で起きた一例に過ぎない。
② 過去にも同様の事例が存在する
ソース記事によれば、昨年には別の2つの法律事務所が「多数の虚偽・不正確・誤解を招く法的引用と引用文」を含む書面を提出したとして裁判官から厳しく批判された。また、マイピローのマイク・リンデル氏の弁護士も、AIが生成した誤った引用や架空の引用を使用したとして罰金を科されている。
③ 裁判官の反応が示す現場の危機感
ベーコン裁判官の「毎日トップニュースで報じられている問題を知らないのか」という発言は、AIリスクに関する情報がすでに広く流通しているにもかかわらず、それを無視してAIを盲目的に信頼する法律専門家が後を絶たない現状への強い警告と受け取れる。
まとめ#
今回の事件は、AIツールを業務に活用する際の人間による検証の重要性を改めて示した事例だ。ChatGPTをはじめとする生成AIは強力なツールである一方、ハルシネーションという根本的なリスクを抱えている。特に法律や医療など、正確性が生命線となる分野での無検証な利用は、重大な結果をもたらしかねない。
筆者の見解: AIを「補助ツール」として正しく位置づけ、その出力を必ず専門家が検証するというワークフローの確立が、今すべての業界で求められている。今回の5,000ドルという罰金は金銭的な損失にとどまらず、被告のクライアントにとっても深刻な影響を及ぼしうる出来事であった点を忘れてはならない。
出典: Lawyer fined $5K over AI-hallucinated witnesses in a murder case
