米連邦地裁ニューヨーク州南部地区(S.D.N.Y.)の裁判記録が、生成AIの出力をそのまま裁判所に提出した弁護士に何が起きたかを詳細に記録している。この記事では、その裁判記録(一次資料)だけを根拠に経緯を確認する。
この記事で分かること
- 弁護士がどのようにChatGPTの出力を裁判所への提出書面に使ったか
- 指摘を受けた後、なぜ撤回せず「本物のはずだ」と主張し続けたか
- 裁判所が制裁の内容と金額をどう決めたか
この記事で分からないこと(正直に書く)
- 同種の行為が他の裁判所や他の弁護士でどの程度起きているか(この記録は1件の事件の記録である)
- ChatGPT側の技術的な原因(なぜ存在しない判例を生成したか)
何が起きたか
Roberto Mata が Avianca航空を訴えた人身傷害訴訟(Mata v. Avianca, Inc., No. 22-cv-1461、S.D.N.Y.)で、原告側弁護士が2023年3月1日に提出した意見書について、被告側弁護士が「引用された判例のいくつかが見つからない」と裁判所に伝え、裁判所自身も見つけられなかった。裁判所は5月4日・5月26日にOrder to Show Causeを発し、6月8日の審問を経て6月22日、弁護士Peter LoDuca、Steven A. Schwartz、所属法律事務所Levidow, Levidow & Oberman, P.C.に連帯して5,000ドルの制裁金を科した(出所: Mata v. Avianca, Inc.事件 Opinion and Order on Sanctions、S.D.N.Y. Document 54、https://www.courtlistener.com/docket/63107798/mata-v-avianca-inc/ 、確認日2026-09-06)。
一次資料は何と言っているか
裁判記録によれば、Schwartz弁護士は事務所がWestlawやLexisNexisを契約しておらず、Fastcaseでは連邦判例へのアクセスが限られていたため、ChatGPTを「検索エンジン」と誤認して利用した。ChatGPTは”Varghese”など6件の実在しない判例を判事名や事実関係まで含めて生成し、弁護士が「実在するか」と問い直しても「実在する」と回答した。裁判所は、再三の指摘後も撤回や説明がなかったことを「主観的な悪意」と認定し、制裁の根拠とした(出所: 同上、確認日2026-09-06)。
どこで防げたか
防止点は3つある。Rule 11は弁護士に提出書面の正確性を確認する義務を課しており、独立した検証を経ずに提出したことが問題とされた。被告側と裁判所の双方から「見つからない」と2度指摘された時点で撤回や確認の機会があった。そして確認の手段として同じChatGPTに聞き直したことは、独立した検証にならなかった。生成した側に真偽を問うのは検証ではなく生成の繰り返しである(出所: 同上、確認日2026-09-06)。
自社製品に当てはめるなら何を検査するか
生成AIが出典や事例を含む文章を作る場面に置き換えると、検査すべき点は2つある。1つは、生成AIが提示した出典の存在を、生成に使ったAIではなく独立した情報源で確認する工程を挟むこと。もう1つは、外部から「情報源が存在しない」と指摘された際に生成AIへの再質問で済ませず、人が一次資料に当たって決着させる運用にすることである。
AIチャットボットが想定外の出力をした別の事例はエアカナダ・Tayの記事を参照してほしい。年齢を理由に応募者を自動的に除外していたと米当局が認定した事例は採用ソフトの記事、自動運転車の許可停止の経緯はCruiseの記事を参照してほしい。
自社のプロダクトで生成AIの出力を外部に公開する前の検査体制について相談したい場合は、お問い合わせから編集部まで連絡してほしい。
よくある質問
Q1. 何がきっかけで発覚したのか
被告Avianca側の弁護士が、意見書に引用された判例の一部を「見つけられない」と裁判所に伝え、裁判所自身も見つけられなかったことがきっかけだった。
Q2. 弁護士はなぜ生成AIの出力をそのまま使ったのか
担当のSchwartz弁護士は、事務所がWestlawやLexisNexisを契約しておらずFastcaseでは連邦判例へのアクセスが限られていたため、ChatGPTを検索エンジンのようなものと誤って認識し利用したと裁判記録は記している。
Q3. 指摘を受けた後、なぜ撤回しなかったのか
Schwartz弁護士はChatGPTに「その判例は実在するか」と問い直し、「実在する」という回答を信じたと裁判記録にある。生成した側への再質問は、独立した検証にはならなかった。
Q4. 最終的にどのような制裁が科されたか
2023年6月22日の命令で、弁護士2名と所属法律事務所に連帯して5,000ドルの制裁金が科され、依頼人と実在しない判例の著者とされた各判事に事情を説明する書面を送るよう命じられた。