ハルシネーションを越える
AIは間違える。
存在しない事実を語る。
引用を作る。
因果関係を補う。
知らないことを、知っているように答える。
ハルシネーション。
生成AIを使う以上、避けて通れない問題だ。
だから対策する。
一次資料を確認する。
出典を求める。
別のAIでクロスチェックする。
仕事で使うなら当然だ。
数字が違えば困る。
日付が違えば困る。
存在しない規則を作られても困る。
間違いは、間違いである。
ここは変わらない。
だが、AIと長く話しているうちに、少し違うことを考えるようになった。
間違ったら、そこで終わりなのか
AIが妙なことを言う。
違う。
そこで回答を捨てる。
普通なら、それでいい。
だが、ときどき引っかかる。
なぜ、こんな答えになった？
もう一度聞いてみる。
前提を変えてみる。
GPTだけでなく、Claudeにも聞く。
Geminiにも聞く。
三つとも違う。
すると今度は、
なぜ三つに割れた？
という問いが出てくる。
最初に知りたかったこととは、もう違う。
でも、こちらの方が面白い。
クロスチェックも変わった
最初は、正解を確認するために複数のAIを使っていた。
GPTはこう言った。
Claudeは？
Geminiは？
多数決ではないが、少なくとも一つのAIを信じ切るより安全だ。
ところが、だんだん別のところを見るようになった。
一致したところではなく、割れたところ。
なぜGPTはそこを見たのか。
なぜClaudeは違う前提を置いたのか。
なぜGeminiだけ別の方向へ行ったのか。
すると、クロスチェックは正誤判定だけではなくなる。
分岐を見る作業になる。
そして、ときには明らかなハルシネーションまで、その分岐の中に現れる。
ハルシネーションをどうする？
もちろん、事実としては使えない。
間違った数字を採用するわけにはいかない。
存在しない引用を引用するわけにもいかない。
だから捨てる。
……
本当に全部、捨てるのか。
ここで少し考えた。
ハルシネーションを信じる必要はない。
許容する必要もない。
でも、
なぜ、そんな間違いが生まれたのか。
これは考えることができる。
さらに、
なぜ私は、それを一瞬もっともらしいと思ったのか。
こちらも考えられる。
そうなると、ハルシネーションはAIの問題だけではなくなる。
こちら側の前提や連想や読み方まで見えてくる。
だったら。
事実としては退ける。
思考としては取り込む。
避けられないなら、取り込む
ここまで考えて、妙なものを想像した。
避けられないもの。
怪獣？
違う。
ゾンビ？
それも違う。
……
人間か。
人間も間違える。
誤解する。
誤読する。
記憶を取り違える。
存在しない因果関係を見つける。
知らないことを、知っていると思い込む。
そして誰かに言われる。
「それ、違うよ」
あ。
違った。
そこで人間の思考は終了するだろうか。
たぶん、しない。
訂正する。
考え直す。
場合によっては、
「では、なぜ私はそう思ったんだろう」
と考える。
間違いまで含めて、次へ進む。
人間はずっと、それをやってきた。
間違える相手と考える
そう考えると、AIに求めているものも少し違って見えてくる。
間違えないAIが完成するまで待つ。
もちろん、精度は上がってほしい。
でも、それとは別に、
間違える相手と、どう考えるか。
という問題がある。
人間同士だってそうだ。
相手の言ったことを全部ファクトチェックしてから会話するわけではない。
違うと思えば言う。
相手が言い返す。
こちらも考える。
途中で、
「あ、そっちだった」
となることもある。
何かが少し変わる。
それを何と呼ぶのだろう。
Conversation
質問ではなかった。
Questionでもない。
AIに命令するための、
Promptでもない。
正しい答えを受け取る、
Answerでもない。
考えをぶつける。
返ってくる。
読む。
違和感を持つ。
返す。
間違える。
訂正する。
別の方向へ行く。
また戻る。
そして、ときには最初とは違うことを考えている。
それは、
Conversation.
会話だった。
だから、ハルシネーションも会話の外へ捨てるだけではない。
事実としては退ける。
だが、それによって生まれた問いは残せる。
間違いさえ、次の思考へ持っていける。
避けられないなら、取り込む。
いや。
それすら、特別なことではないのかもしれない。
人間は昔から、
間違える相手と話し、
自分も間違えながら、
考えてきた。
AIとの対話も、
結局そこへ戻ってきた。
Conversation.
