AIハルシネーション事件簿(4) チャットボットの"口約束"は、誰の責任か

祖母を亡くした男性が、航空会社のサイトを開いた

2022年11月、カナダ在住のジェイク・モファットは、祖母を亡くしたばかりだった。悲しみの中、彼はエア・カナダの公式サイトを開き、カスタマーサポート用のチャットボットに、こう尋ねた。「死亡による搭乗の場合、割引運賃はありますか?」

チャットボットは、明快に答えた。「はい、弊社には死亡時割引運賃制度があります。搭乗後90日以内に申請すれば、払い戻しを受けられます」

モファットはこの案内を信じ、バンクーバー・トロント間の往復航空券を、通常料金の約1200ドルで購入した。搭乗後、案内どおりに割引の申請をしたところ——航空会社のサポート担当者から、思いがけない返答が返ってくる。「チャットボットの回答は誤りです。実際の規定では、搭乗前に承認を得る必要があり、事後の払い戻しには対応できません」

チャットボットが自ら約束したことを、運営会社自身が「AIの間違いなので拘束力はない」と突っぱねたのだ。

“AIが言ったことだから”は、通用しなかった

納得のいかないモファットは、ブリティッシュコロンビア州の少額請求を扱う紛争解決機関、民事審判所(Civil Resolution Tribunal)に訴え出た。

2024年2月14日、審判官クリストファー・リバーズは、モファット側の主張を認める裁定を下す。判断の核心は、次の一文に集約されている。

「チャットボットには対話的な要素があるとはいえ、それはあくまでエア・カナダのウェブサイトの一部にすぎない。サイト上のすべての情報について会社が責任を負うのは当然のことだ。その情報が静的なページから来たものか、チャットボットから来たものかによって、扱いが変わる理由はない」

エア・カナダは「不実表示による過失」があったと認定され、約束通りの割引額483カナダドルと、追加費用の支払いを命じられた。

金額としては決して大きくない。しかし、この裁定が示した原則は大きい——AIチャットボットが顧客に何かを約束した場合、それは会社自身の発言と同じ重みを持つ、という前例が、司法の場で明確に示されたのだ。

数か月後、今度は「検索エンジン」が話題をさらった

エア・カナダの一件から3か月後の2024年5月、Googleは自社の検索結果に、AIが要約を生成して表示する新機能「AIオーバービュー」を、年次イベントGoogle I/Oで大々的に発表した。

ところが、公開直後からSNS上で、奇妙な回答のスクリーンショットが次々と共有され始める。中でも特に話題になったのが、この二つだった。

「ピザのチーズがうまく乗らないときは、少量の接着剤をソースに混ぜると粘着力が増す」

「1日に小さな石を1つ食べると、栄養補給になる」

もちろん、どちらも真に受けてはいけない情報だ。調査の結果、「接着剤」の回答は、11年前に投稿された冗談交じりのReddit(海外掲示板)のコメントを、AIがそのまま情報源として拾い上げていたことが判明した。「石を食べる」に至っては、風刺ニュースサイト「The Onion」のジョーク記事が元ネタだった。

AIは「理解」していない、「統計的なつながり」を出しているだけ

なぜこんなことが起きるのか。専門家の説明はシンプルだ。AIは「ピザ」や「チーズ」が何であるかを実際に理解しているわけではない。学習データの中で、「粘着力」「チーズがくっつかない」といった悩みの表現と、「接着剤」という単語が統計的に結びつきやすい——それだけの理由で、この組み合わせを”もっともらしい答え”として生成してしまったのだ。

Googleは該当する検索結果を手動で削除し、「まれな検索クエリにおける、限定的な事例」だと説明した(なお、拡散したスクリーンショットの中には、悪意を持って捏造された偽物も混ざっていたことをGoogleは指摘しているが、実際に起きた本物の誤答も相当数あったことは、複数の報道で確認されている)。

日常に溶け込んだAIだからこそ、リスクも身近になる

エア・カナダの裁判と、Googleのピザ事件。この二つに共通しているのは、法廷や研究機関といった特別な場所ではなく、私たちの日常生活の中で、ごく普通にAIのハルシネーションが顔を出した、という点だ。

航空券の予約、料理のちょっとした調べもの——AIが生活のあらゆる場面に組み込まれていく中で、「AIの言うことを、どこまで信じてよいのか」という問いは、もはや専門家だけの問題ではなくなっている。

次回、シリーズ最終回では、舞台をさらに大きく——企業の経営判断や政府の政策そのものに関わる領域に移す。世界的な大手コンサルティング会社が、政府への納品物に紛れ込ませてしまった、数十万ドル規模の”AIの嘘”の顛末と、そもそもこの現象がなぜ半世紀以上も前から人間を騙し続けてきたのか、その原点に立ち返る。