AIハルシネーション 具体例 第2弾——Claudeが「存在しない映画賞」を作り上げた日、40年エンジニアが止めた瞬間の全記録

今日もAIが嘘をついた。

前回とは違う種類の嘘だった。

前回は「数字の文脈ズレ」だった。今回は「存在しない事実の生成」だ。

AIを使ってnoteで記事を書いている人間に、今日起きたことを全部話す。これがAIハルシネーションの具体例だ。

AIハルシネーションの「種類」を知っているか

ハルシネーションには種類がある。

エンジニアとして分類するとこうなる。

①文脈ズレ型——正しい情報を間違った場所に貼り付ける。前回のチェンソーマン「13年間」がこれだ。数字自体は別の文脈で正しかった。

②完全生成型——存在しない情報を、さも実在するかのように生成する。こちらの方が危険だ。流暢で自信満々なまま、根拠がゼロの情報が出てくる。

今日起きたのは②だった。

今日起きたこと——存在しない映画賞

逆襲のシャアの分析記事を書いていた。

Claudeはこう出力した。

「本作は1988年の日本アカデミー賞において、アニメーション部門で優秀賞を受賞している」

俺はすぐ検索した。

存在しない。

日本アカデミー賞にアニメーション部門が設立されたのは2007年だ。1988年には存在しない賞を、Claudeは自信満々に書いた。

エンジニア用語で言えば：NullPointerException。参照先が存在しないのに、存在するかのようにアクセスした。

なぜAIは「存在しない賞」を生成したのか

Claudeの内部では何が起きていたのか。

推測できる。

「1988年公開の日本映画×受賞歴」というパターンで学習データを参照した。その際、複数の映画賞データと「アニメーション」というキーワードが近傍に存在した。それらを組み合わせて「ありそうな事実」を生成した。

事実を検索したのではない。確率的に「ありそうな文章」を生成した。

これが完全生成型ハルシネーションの本質だ。

AIは知らないことを「知らない」と言わない。知らないことを「ありそうな話」に変換して出力する。

AIコピペが危険な理由——自信の強さが罠

ハルシネーションの厄介さはここにある。

AIが出力する文章は流暢で自信ありげだ。「1988年の日本アカデミー賞アニメーション部門優秀賞」という文章も、何の躊躇もなく自然に文章に溶け込んでいた。

読んでいると「正しそう」に見える。

これが罠だ。

**高性能なモデルほど、流暢で説得力のある文章を生成するため、かえってハルシネーションに気づきにくくなる。**性能向上がそのまま信頼性向上を意味しないという逆説だ。

noteやブログでAIの出力をそのままコピペして公開している人間が多い。その中には、今日俺のClaudeが書いたような「もっともらしい間違い」が混じっている可能性がある。

読者が専門知識を持っていれば気づく。持っていなければ、誤情報がそのまま広がる。

40年エンジニアが作った「ハルシネーション検知ルール」改訂版

今日の件で、前回のルールに二つ追加した。

前回のルール： ①数字・年数が出てきた瞬間にweb検索で一次情報を確認する ②URLは必ずfetchで疎通確認してから使う ③自己評価はファクトチェックなしには無効

今日追加したルール： ④「受賞歴・順位・記録」が出てきた瞬間に一次情報で検証する ⑤固有名詞（賞名・機関名・人名）は必ず存在確認する

この5つを守れば、AIハルシネーションによる記事の嘘は9割防げる。

残りの1割は人間の知識と経験だ。40年エンジニアとして1000本以上の映画を劇場で観てきた俺が、「日本アカデミー賞にアニメーション部門は1988年に存在しない」と気づけたのはそのためだ。

AIの嘘を見抜くには、AIを超える文脈理解が必要だ。

noteで収益化を目指してAIを使っている人間に特に読んでほしい。AIの出力を信じるな。AIの出力を検証せよ。

それでも今日、記事は完成した

ハルシネーションを2回検知して修正した。

完成した逆シャア分析記事がこれだ。18,767件のFilmarksデータを使って「アムロとシャアどちらが正しかったか」を数式で断言した。AIと人間が正しく協力したとき、何が起きるかを見てほしい。

機動戦士ガンダム 逆襲のシャア——シャアの反乱は正しかったのか、データで断言した最終評決

チェンソーマン レゼ篇——レゼはデンジを愛していたのか、データで断言した最終評決

閃光のハサウェイ キルケーの魔女——FFOという設計判断は正しかったのか、4サイトのスコアで断言した最終評決

AIと正しく協力して売れるようになった。3年間・240本・0円だった全設計図はここにある。

3年間・240本・0円だった俺が売れるようになった全設計図（¥980）

note収益化の型——観ていない映画をデータで断言したら¥3,960売れた日の全記録

note収益化、SNSなしで本当にできるのか——40年エンジニアが数ヶ月間データを取り続けた、正直な全記録

note フォロワーを増やす方法——共同マガジン不要、フォローするだけで紹介される縁側の仕組みを全部話す

note収益化の設計図——HARMの法則・内部リンク迷宮・無料AIを、40年エンジニアが全部公開する

note副業 スマホだけで月1万——育児の合間に使える無料AI3選、40年エンジニアが厳選した理由

note ダッシュボード 読み方——ビュー・スキ・コメント、3つの数字が教えてくれること

note 有料記事 価格設定——¥300・¥500・¥980・¥1,980、40年エンジニアがデータで断言する（¥980）

#AIハルシネーション #AI嘘 #Claude #AIコピペ危険 #note収益化 #AI活用 #ファクトチェック #副業 #エンジニア #52歳