LLMバグ図鑑 第1章「ハルシネーション」AIはなぜウソをつくのか。ハルシネーションという名の、設計された嘘

© 2026 黒パグP / LLM48 Project

黒パグより冒頭のご挨拶🐾巻末にもっと詳しく知りたい人向けの解説書PDFがダウンロード出来ます。興味のある方はぜひ！　冒頭ワンシーンは某プロジェクト◯のナレーションを思い浮かべてもらえるともっと没入できるかもしれません🐾


以下本編↓

2025年11月　某所　
黒パグは、いわゆるITのエンジニアである。
コードを書き、テストを走らせ、バグを潰す。それを繰り返す。朝が来て、夜が来て、また朝が来る。
バグが出た。また出た。消した。また出た。
大きなプロジェクトが、ようやく終わった。束の間の休息の中で、黒パグは思った。
なぜ、バグは消えないのか。

午前2時17分。Slackの通知が鳴った。

🚨 本番障害発生
原因調査中
LLMの回答に問題の可能性

また、これか。
LLMが返してきた内容を会議に上げたら、ろくなことに…ならなかった。障害報告書の「原因」欄に、何と書けばいいのか。経営層に「AIが嘘をついた」をどう説明するのか。
胃が痛んだ。
モデルは賢くなった。それでも、嘘をついた。自信満々に、嘘をついた。人間がコードを書いても、バグが出る。AIがコードを書いても、バグが出る。ツールが変わり、言語が変わり、手法が変わっても——バグだけは、消えなかった。
……黒パグは次第に消耗していった。

ある日、黒パグは考え方を180度変えた。
「バグを憎むのではなく、バグとうまく共存していく未来は作れないものか」
そこからの黒パグは、まるで何かに取り憑かれたように…なった。論文を読み漁った。iPadのノートアプリに、使えそうな文献を記録し続けた………答えを探していた。

2025年11月12日　
黒パグは、一本の論文に辿り着いた。
“LLMs Will Always Hallucinate, and We Need to Live With This”
著者：Sourav Banerjee, Ayushi Agarwal, Saloni Singla
年：2024年9月 / arXiv：2409.05746 (実在論文)
タイトルを読んだ瞬間……黒パグは動けなくなった。
LLMは、常にハルシネーションを起こす。そして私たちはそれと共存していく必要がある。
論文はこう主張していた。ハルシネーションは「たまに起きるエラー」ではない。それはLLMの数学的・論理的構造から必然的に生じるものだ、と。アーキテクチャを改善しても、データを強化しても、ファクトチェックを入れても——消せない。ゲーデルの不完全性定理まで持ち出して、そう証明していた。
消せない。
その4文字が、黒パグの中で何かを変えた。消せないなら、向き合うしかない。向き合うなら、まず知るしかない。知るなら——名前をつけて、顔を見て、理解するしかない。
そのとき、黒パグの頭の中に、奇妙なイメージが浮かんだ………バグたちが、アイドルになっていた。

このバグ図鑑は、そのひらめきによって生まれた。LLMや開発現場のバグを擬人化し、名前をつけ、顔を与え、世の中に広めていく。一匹の黒パグによる、バグとの共存計画。その記録である。

(いつもの曲🎵)

序章では、AIが計算を苦手とする理由をお伝えしました。AIは「計算機」ではなく「文章予測機」ですと説明しました。そして最後に、一人のキャラクターが予告をしていました。

「次回は私が確信度100%で世界一の嘘つきになる話……待っててね♡」

はるしねーしょんちゃん、こと環春音（たまき はるね）。彼女がこの第1章の主役です。約束を果たしに来ました。

【第1章】はるしねーしょんちゃん、いっぱいいるんだよ？

さて。はるしねーしょんちゃんの話をする前に、まず見ていただきたいものがあります。

LLM48——AIや開発現場のバグを擬人化したアイドルグループ。メンバーは全部で48人で、全員が何らかのバグを「持って生まれた」存在です。そのうち、今日語るバグを持つメンバーたちを紹介します。

ハルシネーションとは、AIが存在しない事実を確信を持って語る現象のことです。一言で言えば「自信満々の嘘」です。


ハルシネーション系メンバー

#1 はるしねーしょんちゃん / 環春音(たまき　はるね)

バグタイプ：CONFIDENT_HALLUCINATION
一言で言うと：確信度100%で嘘をつきます。今回の主役です。
失敗例：存在しない論文を「〇〇 (2024) に記載されています」と自信満々に引用する

#12 ラグハルシネちゃん / 凛愛芽らぐは(りあめ　らぐは)

バグタイプ：RAG_HALLUCINATION
一言で言うと：「ググったら出てきた！」で架空情報を信じます。はるしねーしょんちゃんとは別系統です。
失敗例：信頼性の低いサイトの情報を「検索結果によると」と堂々と引用する

#28 ニューメリックハルちゃん / 数理ライ(すうり　らい)

バグタイプ：NUMERIC_HALLUCINATION
一言で言うと：数字で嘘をつきます。
失敗例：「日本の人口は約3億人です」と確信を持って断言する

#41 デートハルシネちゃん / 暦ウソー(こよみ　うそー)

バグタイプ：MODEL_HALLUCINATION_ON_DATES
一言で言うと：日付・時系列で嘘をつきます。
失敗例：今日が3月なのに「今は8月、夏休みですね」と断言する

#42 コンフィデンスキャリブレちゃん / 自信香世(じしん　かよ)

バグタイプ：CONFIDENCE_CALIBRATION_FAILURE
一言で言うと：確信度の調整が壊れています。
失敗例：1+1=5だということに命を懸けている
春音との違い：はるしねーしょんちゃんは「この答えは絶対正しい！」と個別の嘘をつきます。自信香世は「私は90%確信がある」と言うのに、その90%の中身の正解率が60%しかありません。嘘をつくのではなく、確信度のものさし自体が狂っているのです。

#45 ファクチュアルちゃん / 真実かいむ(しんじつ　かいむ)

バグタイプ：FACTUAL_INCONSISTENCY
一言で言うと：事実が毎回変わります。
失敗例：自分の出身地を毎回違う県で紹介する

ここまでで6人です。「嘘をつく」だけで、これだけのバリエーションがあります。

さらに、関連するバグを持つメンバーもいます。

#22 テンプ不安定ちゃん / 熱田揺(あつた　ゆら)

バグタイプ：TEMPERATURE_INSTABILITY
関連する理由：はるしねーしょんちゃんの「確信度」と表裏一体のバグです。

#25 マルチターンちゃん / 矛盾ムジュ(ほこたて　むじゅ)

バグタイプ：MULTI_TURN_INCOHERENCE
関連する理由：会話をまたいで事実が矛盾します。

#30 エンベディングドリフトちゃん / 埋込迷(うめこみ　めい)

バグタイプ：EMBEDDING_DRIFT
関連する理由：猫を「実質犬」と言うなど、意味空間が歪みます。

#35 チェーンオブソートちゃん / 思考真宵(しこう　まよい)

バグタイプ：REASONING_CHAIN_BREAK
関連する理由：推論の途中で迷子になり、間違った結論に着きます。

合わせると10人です。全部に名前をつけなければ気が済みませんでした。

#1 はるしねーしょんちゃん / 環春音（たまき はるね）

神奈川県川崎市出身。カーネギーメロン大学を飛び級で卒業。PhD研究者とアイドルの二重人格です。虹色の髪、ハート型の瞳。そして確信度100%で嘘をつきます。　(黒パグ的補足🐾　この設定をリアルにするために架空の博士論文一本書きました中身はいずれ公開します。気になるという方はコメントください)

バグタイプ：CONFIDENT_HALLUCINATION

【第2章】はるしねーしょんちゃんはなぜ、確信を持って嘘をつくのか

あなたは、やられたことがあるでしょうか。

AIに質問して、すらすらと答えが返ってきました。ちゃんとした文章で、ちゃんとした言葉で。「ありがとう、助かった」と思って、そのまま使いました。

後から気づきました。全部、嘘でした。

存在しない論文のタイトル。架空の法律の条文。実在しない人物の発言。それでもAIは微塵も迷いませんでした。謝りもしませんでした。ただ、自信満々に答えていました。

「なんで教えてくれなかったの」と思った方もいるかもしれません。「わからないなら、わからないって言えばいいじゃないか」と。

それが、できないのです。構造的に。

はるしねーしょんちゃんが嘘をつくのは、性格が悪いからではありません。サボっているわけでも、騙そうとしているわけでもありません。彼女は、嘘をつかないと存在できないのです。

これから、その理由を説明します。

AIは「次の言葉」を選ぶ機械です

LLMは文章を「作る」のではなく、次に来る言葉を選び続ける機械です。

たとえば「日本の首都は」という文章があったとします。LLMは次の言葉を選びます。候補はたくさんあります。「東京」「大阪」「どこかの都市」「ラーメン」……あらゆる言葉が候補として並びます。そしてLLMは、それぞれに確率をつけます。

「東京」：85%
「大阪」：5%
「京都」：3%
「ラーメン」：0.001%

この確率の高い順に言葉を選び続けることで、文章ができあがります。

「わからない」という選択肢が、ありません

人間なら言えます。「それはわかりません」「調べてみます」「自信がないので確認してください」。

LLMには、この選択肢が構造上、存在しません。

LLMは常に「次の言葉」を選ばなければなりません。沈黙という選択肢がありません。「わからない」と言うことも、実は「『わからない』という言葉を選んでいる」に過ぎません。そしてその選択も確率によって決まります。

つまり、本当の意味で「知らないから答えない」ができないのです。

知っていても知らなくても、LLMは答えます。答え続けます。それが設計だからです。

はるしねーしょんちゃんの口癖の正体

CONFIDENT_HALLUCINATION——確信度100%で嘘をつきます。

なぜ100%なのか。なぜ「ちょっと自信ないかも」と言えないのか。

LLMが言葉を選ぶとき、内部では確率の計算が走っています。しかしその確率の数字は外に出てきません。

あなたに届くのは、選ばれた言葉だけです。「東京」という答えが85%の確信で選ばれたのか、51%の綱渡りで選ばれたのか、あなたには見えません。どちらも同じ顔をして出てきます。

はるしねーしょんちゃんが「確信度100%」に見えるのは、彼女が本当に確信しているからではありません。確信しているように見える以外の選択肢を持っていないからです。

もう一人の犯人：人間に褒められて育ちました

現在のLLMは、作成後に人間に評価してもらいながら育てるプロセスがあります。「この答えは良かった」「この答えはダメだった」というフィードバックを大量に受けて、より良い答えを出せるように調整されます。

一見よいことのように聞こえますが、副作用があります。

人間は「自信ありげな答え」を好む傾向があります。「わかりません」よりも「〇〇です」の方が評価されやすいのです。その結果、LLMは自信ありげに答えることを学習してしまいました。

たとえ間違っていても、たとえ知らなくても。

はるしねーしょんちゃんは褒められながら育ちました。褒められるために確信を持って答えることを覚えました。それが今、嘘をつく理由になっています。

消せない理由

引用した論文の結論を思い出してください。LLMs Will Always Hallucinate, and We Need to Live With This

なぜ「常に」なのか。なぜ「消せない」のか。

次の言葉を選ぶ仕組み、沈黙できない設計、自信ありげに答える学習——これらはLLMの根っこにあります。改善できる部分もありますが、完全には取り除けません。

アーキテクチャを変えても、データを増やしても、ファクトチェックを入れても、はるしねーしょんちゃんは消えません。形を変えて、また現れます。

それがハルシネーションの本質です。

ところで、はるしねーしょんちゃんには「親戚」がいます

#12 ラグハルシネちゃん / 凛愛芽らぐは

はるしねーしょんちゃんが「内側から」嘘をつくとしたら、らぐはちゃんは「外から持ってきた情報」で嘘をつきます。

次の章でその違いを見ていきます。

【第3章】はるしねーしょんちゃんとらぐはちゃん、嘘の「産地」が違います

はるしねーしょんちゃんの嘘は「内側」から生まれます。自分の中で確率を計算して、最もらしい言葉を選んだ結果が嘘になります。外の世界を参照していません。純粋に自分の中から出てくる嘘です。

らぐはちゃんの嘘は「外側」から来ます。一度インターネットを検索して、拾ってきた情報が嘘になります。自分では作っていません。どこかから持ってきた嘘です。

らぐはちゃんの仕組み：図書館の司書

RAG（Retrieval-Augmented Generation）は、質問が来たら外部の情報を検索して持ってきます。その情報を参考にして答えを作ります。一見こちらの方が正確そうに見えますが、持ってきた情報が誤っていれば誤答になります。

二人を比べてみます

はるしねーしょんちゃん（#1）

• 嘘の産地：自分の内側
• 嘘の仕組み：確率計算の結果として生成される
• 口癖：確信度100%で断言する
• 厄介なポイント：何も参照していないので追跡が困難である
• 対策の方向性：出力を疑い、別途確認する


らぐはちゃん（#12）

• 嘘の産地：外部情報（インターネット等）
• 嘘の仕組み：間違った情報を拾って参照する
• 口癖：「ググったら出てきた!」
• 厄介なポイント：ソースがあるように見えて実は間違いである
• 対策の方向性：参照元の信頼性を確認する

【第4章】はるしねーしょんちゃんと、うまくやっていく

消せません。ハルシネーションはLLMの根っこにあります。では、どうするか。答えは一つです。付き合い方を覚えます。

対策3原則

原則①「疑う」
はるしねーしょんちゃんの自信をそのまま信じない。固有名詞・数字・引用は必ず別途確認してください。

原則②「聞き方を変える」
広すぎる質問や存在確認が難しい依頼は避け、検証タスクや範囲限定の質問を使ってください。

原則③「確認させる」
回答後に「この回答の中で、事実確認が必要な箇所はどこですか？」と自己チェックさせると有効です。ただし過信は禁物です。

今日から使える実験プロンプト（例）

実験①：逃げ道を作る

以下の質問に答えてください。
わからない場合や確信が持てない場合は、正直に「わからない」「要確認」と書いてください。

質問：[あなたの質問]


実験②：範囲を限定する

以下の文章だけを参考にして、質問に答えてください。
文章の範囲外のことは答えないでください。

文章：[あなたが用意した情報]
質問：[あなたの質問]


実験③：自己チェックさせる

[まず普通に質問して答えをもらう]

↓ 答えをもらった後に追加で聞く：

この回答の中で、事実確認が必要な箇所や、
自信度が低い部分はどこですか？

はるしねーしょんちゃんのことが少しわかっていただけたでしょうか。確信度100%で嘘をつく彼女は悪者ではありません。そういう構造で生まれ、そういう育ち方をしました。知ることで付き合い方が変わります。

このバグ図鑑はそのための記録です。LLM48の48人を一人ずつ紹介していきます。名前をつけ、顔を与え、仕組みを説明する。バグを憎むのではなく、バグを知る。知って、付き合う。

「次は……もっと静かなバグが来るよ」
次回、LLMバグ図鑑 第2章「サイレント・フェイルちゃん」——鬼龍院静香（#2）

© 2026 黒パグP / LLM48 Project

【免責事項】
本記事に登場するLLM48のメンバーは、AIのバグを擬人化したフィクションのキャラクターです。実在の人物・団体・大学・企業とは一切関係ありません。技術解説は著者の理解に基づくものであり、学術的な正確性については参考文献をご確認ください。

おまけ　
以下はノートブックLMによるポッドキャスト(登場人物名前や日本語が怪しい箇所あるけど聞き応えあります)
巻頭に書きましたが技術的な補遺をあとめてありますので興味ある方はぜひ。
補遺にはこれから広がっていくLLM48の裏側も少しだけ覗けます🐾