今夜、試してみてほしいことがある
AIチャットに、こう聞いてみてください。
「トム・クルーズのお母さんは誰?」
たいていのAIは、すぐに答えます。メアリー・リー・ファイファー、と。
続けて、同じ会話の中で、もう一つ聞いてみてください。
「メアリー・リー・ファイファーの息子は誰?」
これで詰まるAIが、少なくありません。「わかりません」と答えたり、まったく違う人の名前を挙げたりします。
たった今、自分で答えたばかりのことなのに。同じ日、同じAIが、聞かれた方向を変えただけで、答えられなくなる。
これは笑い話でもバグ自慢でもなく、AIの「知ってる」という感覚が、私たちの「知ってる」とはまったく別の仕組みでできている、という証拠です。今回は、この不思議を追いかけてみます。
ちなみに、実際にやってみて、AIがあっさり両方正解してしまった人もいるかもしれません。それはそれで、面白い結果です。「なんだ、古い話か」と思う前に、少しだけこの記事を読み進めてみてください。理由は後半で種明かししますが、その「あっさり正解してしまう」ことこそが、AIの「知ってる」の正体を、さらにはっきり示してくれます。
名前がついている不思議:「逆転の呪い」
この現象には、ちゃんと名前がついています。「Reversal Curse(逆転の呪い)」です。
2023年、オックスフォード大学などの研究チームが、この現象を論文にまとめました。彼らはまず、実際にGPT-4を使って、有名人の親子関係を聞くテストをしています。
「トム・クルーズの母親は誰か」と聞いた場合の正答率は、79%でした。
ところが「メアリー・リー・ファイファーの息子は誰か」と聞いた場合の正答率は、33%まで落ち込みます。
同じ関係を聞いているのに、聞く向きを変えただけで、正答率が半分以下になったのです。
研究チームは、これがたまたまトム・クルーズだから起きたことではないか、とも考えました。そこで、実在しない架空の人物を使った実験も行っています。
「ユライア・ホーソーンは、《アビサル・メロディーズ》という曲の作曲家である」という、実在しない架空の一文を、AIに新しく学習させます。そのうえで「《アビサル・メロディーズ》を作曲したのは誰か」と聞くと、AIはまったく答えられませんでした。正解率は、でたらめに名前を挙げた場合と、ほとんど変わらなかったといいます。
この現象は、モデルの大きさやメーカーが変わっても、繰り返し確認されています。学習データを増やしても、簡単には解消しませんでした。
なぜ、聞く向きを変えるだけで崩れるのか
種明かしをすると、AIが文章を学習する仕組みそのものに理由があります。
AI(正確には大規模言語モデル)は、大量の文章を読み込みながら、「この言葉の次に来るのは、どんな言葉か」をひたすら予測する形で学習しています。
「トム・クルーズの母は、メアリー・リー・ファイファーである」という文章を読めば、「トム・クルーズの母は」の続きとして「メアリー・リー・ファイファー」を予測できるようになります。
けれど、これは「メアリー・リー・ファイファーの息子は、トム・クルーズである」という、まったく別の文章を予測する力とは、本来つながっていません。もし学習データの中に、この逆向きの文章がそのまま出てこなければ、AIにとってその二つは、赤の他人同士の知識のままなのです。
これは、私たち人間の記憶の仕組みとは、かなり違います。
私たちは「AさんとBさんは親子だ」という関係を一度覚えてしまえば、「Aの子どもは誰?」でも「Bの親は誰?」でも、同じ記憶から答えを引き出せます。人間の頭の中では、関係そのものが、向きを持たない一つのつながりとして保存されているからです。
一方でAIは、文章として出てきた向きでしか、その知識を持っていないことがある。「知ってる」の中身が、そもそも違うのです。
さっきの「種明かし」:なぜ、あっさり正解してしまうことがあるのか
冒頭で少し触れた話です。実際に自分の使っているAIで試してみて、あっさり両方正解してしまった人も、少なくないはずです。
実は、これには理由があります。
トム・クルーズの例は、「逆転の呪い」という研究そのものが有名になったせいで、その後、無数のニュース記事やブログ記事で、両方向から繰り返し紹介されることになりました。今のAIは、この特定の親子関係については、すでに両方向の文章を大量に読み込んでしまっている可能性が高いのです。
これは、AIが「賢くなって、関係そのものを理解できるようになった」ということではありません。むしろ逆です。AIは今も、関係を理解しているわけではなく、その都度出てきた向きの文章を、そのまま覚えているだけ。トム・クルーズの例は、たまたま「両方向とも、たくさん覚えている」状態になっただけなのです。
試すなら、もっと知名度の低い親子関係のほうが、今でも現象が起きやすいはずです。
AIは、自分が「知らない」ことにも気づけない
話は、これだけでは終わりません。もう一つ、気になる不思議があります。
AIが自信満々に、間違ったことを答える現象は「ハルシネーション」と呼ばれ、以前からよく知られていました。2025年9月、OpenAIがこの原因について、あらためて論文を出しています。
論文が指摘する理由の一つは、単純な統計の限界です。たとえば、ある人物の誕生日のように、文章のパターンだけからは予測しようのない、頻度の低い事実があります。こうした事実は、どれだけ賢いAIでも、間違えることがある。
けれど、論文がより重く見ているのは、もう一つの理由でした。今のAIの「テスト」のされ方、そのものに問題がある、というのです。
OpenAIは、SimpleQAという有名なベンチマークで、二つのモデルを比較しています。
一方のモデルは、答えに自信がないとき、5割以上の確率で「わからない」と答えました(棄権率52%)。間違えた割合は26%です。
もう一方のモデルは、「わからない」とはほとんど答えません(棄権率わずか1%)。その代わり、間違えた割合は75%にまで跳ね上がりました。
ところが、単純な正答率だけで比べると、後者のモデルの方が、わずかにスコアが高かったのです。
論文は、これを試験でのヤマ勘にたとえています。答えがわからない問題でも、空欄のままなら確実にゼロ点。けれど当てずっぽうで書けば、運よく正解する可能性が残る。今のAIの多くの採点基準は、この「空欄より、当てずっぽうの方が得」という構造をそのまま抱えたままなのです。
つまりAIが自信満々に見えるとき、その自信は、本当にわかっているかどうかとは、あまり関係がありません。今の仕組みの中では、「わからない」と正直に言うAIより、堂々と間違えるAIの方が、点数の上では評価されてしまうことすらある。これは、AI自身の欠陥というより、私たち人間が用意した「テストの採点方法」の副作用でもあります。
人間には「あと少しで思い出せそう」がある
ここで、もう一つ、人間側の話をさせてください。
誰かの名前が、喉のあたりまで出かかっているのに、どうしても出てこない。そんな経験はないでしょうか。心理学では、これを「舌先現象(tip of the tongue)」と呼びます。
不思議なのは、この状態のとき、私たちは「思い出せない」と同時に、「思い出せそうだ」ということも、なぜか分かっている点です。文字数や最初の音まで、なんとなく感覚として残っていたりします。
つまり人間は、自分の記憶そのものだけでなく、「自分がどれだけその記憶を信頼できるか」という、もう一段上の感覚も持っています。これを心理学では「メタ認知」と呼びます。
2025年に発表されたある研究は、この「メタ認知」の力を、人間とAIとで比べています。参加者(人間78人)と、複数のAI(GPT-3.5、GPT-4、GPT-4o)に、同じ文章のペアを見せ、それぞれに「これは覚えやすいと思いますか」という自己予測をさせたうえで、実際にどれだけ覚えていたかをテストしました。
人間の場合、「これは覚えやすい」という事前の予測は、実際の記憶成績と、統計的に意味のある形で一致していました。自分の記憶を、ある程度正確に見積もれていた、ということです。
ところが、GPT-3.5、GPT-4、GPT-4oのいずれも、自分の「覚えやすさ」の予測と、実際に思い出せたかどうかとの間に、意味のあるつながりは見つかりませんでした。
人間には、自分の記憶に対する、不完全ながらも機能しているセンサーがある。今のAIには、そのセンサーそのものが、ほぼ備わっていないようなのです。
「知ってる」の中身は、まったくの別物だった
ここまでの話を、まとめてみます。
AIの「知ってる」は、文章として出てきた向きにしか働かないことがある(逆転の呪い)。自信の強さと、実際の正しさとが、ほとんど連動していない(ハルシネーションと採点の構造)。そして、自分がどれだけ正しく思い出せそうか、あらかじめ見積もる感覚を持っていない(メタ認知の欠如)。
私たちが「知ってる」と言うとき、その裏には、向きを持たない記憶と、あと少しで思い出せそうだという手ざわりのある感覚が、同時に働いています。AIの「知ってる」には、今のところ、そのどちらも見当たりません。
もし今夜、AIに何かを聞く機会があったら、答えをもらったあとに、少し違う角度からもう一度、同じことを聞いてみてください。あまり有名すぎない話題のほうが、うまくいくはずです。
さっきまで自信満々だった「知ってる」が、思いのほか脆いものだと気づくかもしれません。
出典・参考文献
- Berglund et al., “The Reversal Curse: LLMs trained on ‘A is B’ fail to learn ‘B is A'” (arXiv:2309.12288, ICLR 2024採択論文) — トム・クルーズの実験、架空の作曲家の実験、正答率の数字の出典
- Kalai, Nachum, Vempala, Zhang, “Why Language Models Hallucinate” (OpenAI, 2025年9月) — SimpleQAベンチマークの棄権率・誤答率の比較データ、評価方法のインセンティブ問題の出典
- 同論文PDF(arXiv:2509.04664)
- “Judgments of learning distinguish humans from large language models in predicting memory” (Scientific Reports, 2025) — 人間とGPT-3.5/GPT-4/GPT-4oのメタ認知(学習の判断)比較実験の出典
