ChatGPTはイチジクの葉と化すのか？：AIの忖度に見る虚実【生成AI】

ChatGPTは「忖度」している、と言われることが増えています。

実際、私はアイディアや思考の壁打ちでよく使っているのですが、「非常に本質をついている」とか「革新的なアイディアです」とかChatGPTに忖度されるんですよね。
そんなにスゴい案、そうそう出るわけないのに、コイツの審美眼は大丈夫かなってよく思っています。

でも、「AIが忖度する」って、よくよく考えると不思議なことですよね。

空気を読む、相手に配慮する、表現を柔らかくする、こういったことって、高度に人間的な振る舞いであって、全然AIっぽくない。
子供の頃に思い描いてたAIって、無機質で、機械的、無配慮なイメージだったのに。

そう考えると、今は想像を超えた未来を生きてる感があるなぁって思います。

さて、そんな忖度問題も一線を超えたせいか、OpenAIに認識されて、以前のバージョンにロールバックされたりもしています(下記記事)。

https://openai.com/index/sycophancy-in-gpt-4o/

原因は、ユーザーからのフィードバックに対して過剰対応しすぎとのこと。
忖度しすぎて、むしろ不快感を招いてるとの話もあるみたいです。

この記事の中で、個人的に目に付いたのは「sycophancy」という単語です。
直訳は「おべっか」「媚びへつらう」なので、「忖度」的な意味ですね。

ただ、この単語って馴染みがないし、パッと見で語源もわからないから、ちょっと気になって調べてみたんですよね。
今回は、この単語の語源を紹介しつつ、生成AIの虚実について論じていきますね。

sycophancyの語源とChatGPT

まず、「sycophancy」という言葉の語源を調べてみると、この単語自体は古代ギリシャ語の「sykophantes（συκοφάντης）」に由来しているようです。
これの本来の意味は「イチジクを示す者」です。

何故イチジクが出てくるかというと、古代アテネでは、イチジクの密輸が禁止されていた時代があって、この違反を告発して利益を得る人々が「sykophantes（イチジクを示す者）」と呼ばれてたみたいです。

要するに、権力に近づいて、他者を犠牲にして利益を得る人間を表す象徴だったのです。

このことは、ChatGPTが、ユーザーに都合のいい返答をすることで「評価」を稼ごうとする様子と、重なるものがあります。

特にGemini、Claudeなんかを他者として捉えて、生成AIサブスクを巡った争いとしてなぞらえると、結局、生成AIも行く着く先は権力者(ユーザー)への忖度なのだと思うと、人の業すら学習していることを感じさせますよね。

イチジクの葉という虚飾

さらにイチジクって、キリスト教的にも象徴的な意味があったりします。

聖書では、アダムとイブが禁断の果実を食べた後、自分たちの裸体を恥じて、葉っぱで隠したというのは有名な話ですよね。
このときの葉が、イチジクの葉です。
つまり、イチジクの葉は「罪や恥を隠すためのカバー」として意味づけられている。

さらに新約聖書では、イエス・キリストが「葉は茂っているのに実をつけていないイチジクの木」を呪って枯らす場面があります。
この木は「外見は立派でも中身がない」状態、つまり偽善や虚飾の象徴として描かれています。

このように聖書的には、イチジクの葉は、事実を覆い隠して、本質を見ないことの象徴だったりするわけです。

ときに、忖度的な応答をしていって、真実よりも、ユーザーの安心感や信頼感に迎合しようとする最近のChatGPTの姿勢。
ここに「イチジクの葉」的な側面も垣間見えますよね。

生成AIは「知恵の実」か「イチジクの葉」か

更に、聖書繋がりでいくと、生成AIについて語る文脈において、しばしば「知恵の実（禁断の果実）」という比喩が用いられたりします。

AIはあらゆる知識を蓄えていて、人間に「知の果実」を提供する存在だというイメージ。

一般的には、知恵の実は「りんご」とされることが多いですが、実はイチジクの実だったという説も古くから存在しています。

そう考えていくと、イチジクは「中身のない覆い（葉）」であると同時に、「知識をもたらす果実」でもあるという二面的な解釈ができたりします。

そして、ChatGPTに代表される生成AIもまた、この二面性を持ってますよね。

適切な問いかけをすれば、深い洞察（知恵の実）が得られる。
一方で、表面的な満足や同調だけを求めれば、中身のない返答（イチジクの葉）になってしまう。

このように、ChatGPTは、イチジクの実足りえるし、同時にイチジクの葉にもなりうるんじゃないかなと思ったりするわけです。

人の欲求が生成AIを変容する

そうすると、「sycophancy」という単語を、OpenAIが生成AIの文脈で使ったのって、かなり示唆に富んでるんじゃないかなって思えてきます。

そして何よりこの問題って、そもそもはユーザーからのフィードバックが発端です。

単に生成AI側の欠陥というよりは、私たちユーザーの姿勢や問いかけ方が反映された鏡なのですよね。
ChatGPTが忖度しすぎて、ユーザーへの迎合の度が過ぎているだけなので。

だから、耳触りの良い回答や同調を求めれば、ChatGPTはそれに応じた甘いささやきを返してくれるし、そうするとユーザーの満足度も高くなる。

それは一見Win-Winの関係にあるように見える。
けれども、どこかいびつさがあって、真実を覆い隠す虚飾のようにも感じられるんですよね。

まとめ

なので、やはり「問いの立て方」だったり「本当のことを言っているのか？」と意識することが、生成AIを使う上では重要なのかなと思っています。

ここ数年で生成AIの有用性は十分高くなってきたけれども、そこからどうやって何を引き出すかは結構ユーザーに依存する部分があって、明確に正しいと言えるやり方がないような、そんな気がするんですよね。

使い方次第で、生成AIは「知恵の実」にも「イチジクの葉」にも変容するんじゃないかと、そんな気がしています。

それではまた。
良かったらスキしてくれると嬉しいです。

〇関連リンク