世界の謎図鑑
よみもの約7分

AIは偽の記憶を植えつけるか — 2025年以降の研究から

加工された写真を見ただけで、人は「そうだった」と思い出す。生成AIの時代に記憶はどう変わるのか、最新の実験を追います。

01写真が記憶を書き換える

「見た記憶」は、あとから見せられた写真に引きずられます。これは生成AI以前から知られていた現象で、2000年代には、子どものころ気球に乗った合成写真を見せられた人の半数近くが、その出来事を「思い出した」という実験があります。

生成AIは、この加工を誰でも数秒でできるものにしました。問題は量だけではありません。静止画が動き出す、表情が変わる、そこに居なかった人が立っている。そうした「もっともらしい改変」が、記憶にどれだけ影響するのかが問われています。

02200人の実験

2025年に発表されたマサチューセッツ工科大学などの研究では、200人の参加者を4つの組に分け、同じ出来事の写真を、加工なし、AIで加工、AIで加工してさらに動画化、といった形で見せたあと、何を見たかを尋ねました。

AIで加工した写真を見た組は、元の写真を見た組より偽の記憶が増え、加工写真をさらに動画にした組では、加工なしの組の2倍を超えました。しかも参加者は、その偽の記憶に対する自信まで高くなっていました。「見た気がする」ではなく「確かに見た」になるのです。

03会話するAIは3倍

同じ研究グループは2024年に、目撃者の聞き取りを模した実験も行っています。短い犯罪の映像を見た参加者に、質問文を読ませる組と、AIチャットボットが対話しながら質問する組を比べました。

チャットボットと対話した組では、直後の偽の記憶が対照の組の3倍以上に増え、1週間後もその数は減りませんでした。会話の中で誤った前提をさりげなく混ぜられると、人はそれを自分の記憶として取り込んでしまいます。これは1970年代から知られる「誤情報効果」が、対話する機械によって増幅された形です。

04AIどうしでもマンデラは起きる

2026年1月に公開された計算機科学の研究は、複数の大規模言語モデルを会話させる仕組みの中で、人間のマンデラエフェクトに似た現象が起きるかを調べました。研究チームは、まちがいが起きやすい4種類の課題と、役割や記憶の持続時間を変えた5通りの話し合いの形を組み合わせた試験問題集を作り、いくつものモデルを突き合わせています。結果は、試したモデルのすべてで「共通の誤記憶」が確かめられました。

興味深いのは、その誤りが長期の記憶の中では薄れていったという結果です。人間の集団でも、話し合いで記憶が同調する一方、記録に当たり直せば修正できるのと似ています。対策も試されました。「出どころを確かめさせる」「最初に得た情報に錨を下ろさせる」といった指示の工夫と、モデル自体の調整を組み合わせると、現象の起きる割合は平均で7割あまり減ったといいます。裏を返せば、何もしなければ機械の集団も人の集団と同じように、もっともらしい誤りを互いに補強し合うということです。

05では、どうするか

研究者が繰り返し強調するのは、「見た」という感覚の確かさは、記憶の正しさを保証しないということです。自信が高いほど正しいわけではなく、むしろ加工された映像は自信を高める方向に働きました。

このサイトで事例を「記憶」と「記録」に分けて並べているのは、そのためです。確かめる手段は変わりません。元の写真、元の映像、元の文書に戻ること。生成AIが「もっともらしい偽物」を無限に作れる時代には、それが一段と大切になります。

この記事に出てくる項目

出典

リンク先は各社・各機関の公式ページです。記載が変わることがあるため、食い違いを見つけたら X までお知らせください。