AIハルシネーション事件簿(2) 弁護士が法廷に提出した「実在しない判例」6件

きっかけは、ありふれた個人賠償請求だった

事の発端は、決して劇的なものではなかった。

ロベルト・マタという男性が、2019年8月、アビアンカ航空の国際便に搭乗中、配膳用のカートが膝にぶつかり負傷したとして、航空会社を訴えた。よくある個人賠償請求訴訟——

アメリカの裁判所では、日常的に扱われる類の案件だ。

マタ側の代理人を務めたのが、弁護士スティーブン・シュワルツと、同僚のピーター・ロデュカだった。裁判所に提出する法的答弁書を準備する中で、シュワルツはある「近道」を使うことにする。ChatGPTに、参考になりそうな過去の判例を調べさせたのだ。

ChatGPTは、迷うことなく、それらしい判例を提示した。

架空の航空会社を被告とする、もっともらしい事件名。具体的な引用文。内部での参照番号まで、細部まで作り込まれていた。

問題は、これらの判例が一つも実在しなかったことだ。

シュワルツはこの回答を鵜呑みにし、内容を裁判所に提出する答弁書に、そのまま盛り込んでしまう。合計6件の、存在しない判例が、正式な法廷文書として提出された。

異変に気づいたのは、被告アビアンカ航空側の弁護士たちだった。

答弁書に引用された判例を確認しようとしたが、どうしても見つけることができない。裁判所に対し、「引用されている複数の判例が確認できない」と正式に報告した。

裁判を担当したケヴィン・キャステル判事は、2023年6月8日、満席の法廷で、緊迫した審問を開いた。シュワルツ弁護士は、ChatGPTを利用したことを認めた上で、まさかAIが「判例を作り出す」とは思わなかった、と釈明した。

当時、AIが自信満々に架空の情報を生成する「ハルシネーション」という現象は、一般にはまだほとんど知られていなかった。

キャステル判事は6月22日、正式な決定を下す。

判決文で特に問題視されたのは、AIを使ったこと自体ではなかった。判例が実在しないと指摘された後も、弁護士たちがそれを率直に認めず、訂正や取り下げを行わないまま、架空の判例をあたかも正当なものであるかのように扱い続けたことだった。

最終的に、シュワルツ、ロデュカ、そして所属する法律事務所レヴィドウ・レヴィドウ・アンド・オーバーマンに対し、合計5000ドルの制裁金が科された。

この一件は、AIが法廷という「絶対に間違いが許されない場」に入り込んだとき、何が起きうるかを世界に示す、最初の象徴的な事件になった。

しかし——これで終わりではなかった。むしろ、これは始まりに過ぎなかった。次回は、Mata v. Avianca事件をきっかけに燃え広がった、法曹界を揺るがす連鎖反応と、皮肉にも「AIの危うさ」を専門に研究する学者自身が同じ過ちを犯した、ある事件を追う。