- 生成 AI の利用が弁護士や本人訴訟当事者の間で広がっているが、それに伴い裁判書類に架空の内容が含まれるケースが増えている。
- 2024年以降、インディアナ州では AI が架空の判例や誤った法律情報を生成した事案が少なくとも 34 件記録されている。
- 「AI ハルシネーション事案（AI Hallucination Cases）」データベースには、現在、米国を中心に世界で約 2,000 件が登録されている。
- 2025年以前は月に 2 〜 3 件程度だったが、現在は 1 日約 5 件に増加している。
- インディアナ州の 34 件のうち、25 件は本人訴訟、9 件は弁護士が AI の捏造内容を含む書類を提出したものだった。
- ジョー・エキゾチックの弁護士は、誤った書類 1 件につき 500 ドルの罰金を科され、不正確な法的引用により訴訟が却下された。
- 別の弁護士は、存在しない事件を 3 回引用したことで 6,000 ドルの罰金を科され、その後に辞任した。
- また別のケースでは、AI が生成した 3 つの偽の判例を使用したとして 10,000 ドルの罰金が提案されている。
- インディアナ州における AI 捏造関連の罰金総額は約 20,000 ドルに達し、その大半が弁護士に科されている。
- インディアナ州の裁判所は 8 月から規則を改定し、AI 支援を受けたすべての書類は、提出者が自ら完全に検証することを義務付けた。
- インディアナ州南部地区連邦地方裁判所は、提出前にすべての引用と法的根拠を独立して確認したことを提出者に求めている。
- Legal Tech Hub によると、2026年 6 月時点で法務分野向けの生成 AI 製品は 1,000 を超えている。
- 多くの裁判官は、AI は司法へのアクセスを拡大させるが、専門家としての責任や人間の判断を代替することはできないとの見解を示している。
📌 AI は法律サービスへのアクセスを拡大する一方で、司法制度に大きな課題を突きつけています。AI による判例捏造が急増する中、裁判所は単なる注意喚起から、罰則の適用や義務的な検証へと舵を切っています。AI は弁護士や市民の時間を節約できますが、情報を検証し法的判断を下す責任は依然として人間にあります。
