ChatGPTが生成した「架空の証人証言」を裁判所に提出——弁護士に制裁#
アメリカ・ニューメキシコ州最高裁判所は、ChatGPTを使用して作成した準備書面に架空の証人による虚偽の証言を含めたとして、弁護士スティーブン・アーロンズ氏を法廷侮辱罪（direct contempt of court）で制裁した。同氏は州弁護士会の懲戒委員会に付託され、今後さらなる処分を受ける可能性がある。
事件の経緯——何が起きたのか#
アーロンズ氏は40年以上の経歴を持つニューメキシコ州の刑事弁護士で、殺人罪で有罪判決を受けた被告人の家族から控訴審の依頼を受けた。2025年8月、同氏は控訴趣意書を提出したが、その数週間後、ニューメキシコ州がその書面の一部削除を求める申立てを行った。
裁判所の命令によると、書面には以下の架空・虚偽の証言が含まれていた。
- Officer Michelle Amarillo、Officer Sanchez、Manal Al-Jibury、Teresa Marquez（すべて完全な架空の証人）による偽の証言
- Danny Stanton と Linda Stanton による脅迫に関する虚偽の証言
- Mariah Chavez と Teresa Marquez（架空の証人）による射手の服装・外見に関する虚偽の証言
- 過去の判例の不正確な引用・記述
どのようにAIを使用したのか#
アーロンズ氏は法廷での審問において、以下のプロセスを説明した。
- まず音声ファイルのAI文字起こしサービス「Rev.com」を使用して、殺人裁判の審理記録をテキスト化した
- その文字起こし記録と、事件記録・争点の陳述書・証拠開示資料などをChatGPTに入力した
- ChatGPTが出力した内容をそのまま書面に使用した
同氏が使用したのはOpenAIのo3モデル搭載バージョンのChatGPTとされる。「AIが訴訟記録の要約を完璧に生成してくれると思っていた。法律・医療分野でのAI利用が広まっているため、正確だと思い込んでいた」と法廷で述べた。また、「自分の愚かさがこの午後の集まりをもたらしたことは、あまり慰めにならない」とも発言した。
重要な点として、アーロンズ氏は書面に署名・提出する前に、AIが生成した事実的主張や法的権威の正確性を確認しなかったことを認めた。さらに、依頼人にもその失敗や書面に複数の虚偽が含まれていることを告知していなかった。
裁判官たちの厳しい批判#
審問において、判事たちはアーロンズ氏を激しく批判した。
Justice C. Shannon Bacon 判事は特に辛辣で、「あなたは行動規範の少なくとも8〜9条項に違反している」と指摘。AIのハルシネーション（事実に反する出力）を知らなかったというアーロンズ氏の主張に対し、「私の13歳の甥も75歳の義母もこの問題を知っている」と述べた。
さらにBacon判事は「弁護士がAIのハルシネーションに頼った問題は毎日トップニュースになっている。砂の中に頭を埋めていたか、賭けに出たかのどちらかで、どちらも行動規範に反する」と断言した。
アーロンズ氏は「書面を提出したのは1年前で、この1年で多くのことが明らかになった」と反論したが、実際にはAIを使った虚偽の法律文書問題は3年以上前から継続的にニュースになっていると記事は指摘している。
Bacon判事はまた、「あなたの対応で完全に欠けているのは、依頼人への影響についての言及だ」とも指摘している。
下された処分の内容#
- 法廷侮辱罪の認定
- 5,000ドルの罰金（ニューメキシコ州弁護士会クライアント保護基金への支払い）
- ニューメキシコ州最高裁判所への出廷禁止（懲戒委員会の調査・手続きの結論が出るまで）
- 懲戒委員会への付託（追加処分の可能性あり）
依頼人への対応として、裁判所は公設弁護人事務所に新たな弁護士を選任するよう命じ、これまでのすべての準備書面を記録から抹消。事件は2026〜27年度の審理期間に進めることとなった。
このニュースが重要な理由#
この事件が特に注目される点は複数ある。
第一に、被害を受けたのは依頼人である。終身刑を受けた被告人は、弁護士のミスにより正当な控訴審の機会が損なわれた。裁判官が指摘したように、依頼人への影響こそが最も深刻な問題だ。
第二に、AIツールへの盲目的な信頼の危険性が改めて示された。アーロンズ氏は後に「AIが事実をハルシネーションする可能性を知らなかった」と述べたが、判事が指摘したように書類に署名する弁護士は、情報源がAIであれ法学生であれ同僚弁護士であれ、その正確性を保証する義務がある。
第三に、AIの問題は「新しい問題」ではないという点だ。弁護士によるAI生成の虚偽判例引用問題は3年以上前から繰り返し報道されており、「知らなかった」という言い訳が通用しない状況になっている。
まとめ#
ニューメキシコ州最高裁は、ChatGPTを使用した弁護士が生成AIの出力を無検証で裁判所に提出したことに対し、法廷侮辱罪の認定と罰金・出廷禁止という厳しい処分を下した。本件は、AI活用における「確認義務」の重要性と、専門家がAIツールに依存する際のリスクを改めて浮き彫りにした事例といえる。
筆者の見解: AIツールは業務効率化に有用だが、最終的な成果物の正確性を担保する責任は常に人間側にある。本件はその原則が法的にも厳格に問われることを示している。法律・医療・技術など高い専門性と倫理が求められる分野でのAI活用においては、「出力を信頼する」のではなく「出力を検証する」姿勢が不可欠だ。
出典: ChatGPT-using lawyer punished for citing fake testimony from made-up witnesses
