AIハルシネーション事件簿(1) たった一つの嘘が、1000億ドルを溶かした日

デモ動画、公開からわずか数時間
NASAも認めた、明確な間違い
ロイターの記事から、株価急落まで
なぜAIは、平然と嘘をつくのか
シリーズについて
出典・参考情報源

デモ動画、公開からわずか数時間

2023年2月8日、Google社にとって特別な日になるはずだった。ChatGPTの急成長に対抗する自社のAIチャットボット「Bard」を、世界に向けて初披露する日だったからだ。

Googleは公式Twitter(現X)アカウントに、短いデモ動画を投稿した。ユーザーがBardにこう尋ねる。「ジェイムズ・ウェッブ宇宙望遠鏡の新発見について、9歳の子どもに何を話せる?」

Bardは自信たっぷりに、箇条書きで答えを返した。その中の一行に、こう書かれていた。

「JWST(ジェイムズ・ウェッブ宇宙望遠鏡)は、太陽系外惑星の史上初めての写真を撮影した」

一見、何の変哲もない”豆知識”に見える。だが、これは事実ではなかった。

NASAも認めた、明確な間違い

太陽系外惑星の初めての撮影は、ジェイムズ・ウェッブ宇宙望遠鏡ではない。NASA自身が認めているとおり、実際に世界初の系外惑星撮影を成し遂げたのは、ヨーロッパ南天天文台(ESO)の超大型望遠鏡(VLT)で、しかもそれは2004年——ジェイムズ・ウェッブ宇宙望遠鏡が打ち上げられるおよそ20年近く前の出来事だった。

つまりBardは、時系列的にありえない、しかも簡単にファクトチェックできる事実を、いかにも本当らしい自信満々の口調で、堂々と語ってしまったことになる。

ロイターの記事から、株価急落まで

この間違いに最初に気づいたのは、専門家や天文ファンだった。指摘はすぐにロイター通信の記事となり、世界中のニュースメディアが後を追った。

市場の反応は、Googleの想定をはるかに超えていた。記事が報じられたその日のうちに、親会社アルファベットの株価は7.7%下落。時価総額にして、実に1000億ドル(当時のレートで日本円にして13兆円超)が、一日で消え去った。

たった一行の”うそ”が、世界最大級のテクノロジー企業の企業価値を、瞬時に大きく揺るがしたのだ。

なぜAIは、平然と嘘をつくのか

ここで一つ、正確に理解しておきたいことがある。Bardは「嘘をつこう」として、この間違いを答えたわけではない。

大規模言語モデルと呼ばれる種類のAIは、質問に対して「正しい答えを検索して引用する」のではなく、学習した膨大な文章データをもとに、「もっともらしく続く言葉の並び」を統計的に生成している。悪意も自覚もなく、事実と異なる情報を、まるで真実であるかのように流暢に語ってしまう——この現象は、後に「ハルシネーション(幻覚)」と呼ばれるようになる。

Bardの一件は、この「AIが自信満々に嘘をつく」という現象が、単なる笑い話では済まされない、実際の企業価値・市場を動かしうるリスクだと世界に知らしめた、最初の大きな警鐘だった。