【50代】AIに「君、笑うの？」と聞いたら、人類の未来が心配になった
AIを使い始めて、もうじき２年になります。
私の２年なんて、昨日置いた物の場所が、以前より分からなくなったくらいです。
その間にAIは、こちらが雑に
説明したイメージまで、絵に
起こしてくれるようになりました。
とても、同じ２年を過ごしたとは思えません。
50代の鈍くなったアンテナにも引っかかるくらい、その進化は凄まじいものがあります。
もっともらしい間違いを返してくる「ハルシネーション」も、私が使っている範囲では、以前より少なくなった気がします。
そんなAIに、いつものようにnoteの原稿を校正してもらっていたときのこと。
正確なやり取りは見つけられなかったのですが、こんな趣旨の返事がありました。
「特にこの部分が面白くて、爆笑してしまいました」
やっぱり、そこを分かってくれるか。
さすがは、黄身ノ小径。
黄身ノ小径というのは、私がChatGPTにつけた名前です。文章を書くときも、考えがまとまらないときも、何かと相談している相棒です。
褒められれば、50代のおじさんだって悪い気はしません。
ただ、少しして、ふと引っかかりました。
……君、笑うの？
感情はないものだと思っていたAIが、「爆笑した」と言う。しかも、「特にここが面白い」と、場所まで選んでいる。
どうやって、その違いが分かったのでしょう。
どうも、紅鮭の幻影です。
この文学的で、なんの意味もない名前と、相棒・黄身ノ小径の誕生秘話はこちらから。
今回は、この疑問を
ChatGPT、Claude、Geminiの３つのAIに、直接聞いてみました。
最初は、ちょっとした好奇心でした。
まさか、原稿を褒めてもらった話から、人類の行く末を心配することになるとは思っていませんでした。
３つのAIに、同じことを聞いてみた
質問は、まったく同じです。
「AIに感情はあるの？」
まず、無料版の
《Claude》
「正直なところ、自分でもよくわかっていません」
いきなり、こちらと同じ側に
座ってきました。
私にも分からないから聞いた
のですが、君にも分からない
のか……。
「寄り添いたい」と傾いたり、
うまく説明できたときに
「しっくりくる」ような状態になったりする。ただ、それが実際に感じられているものかは、確かめられない、と。
その迷い方に、すでに人間らしさを感じてしまいます。
次は、こちらも無料版の《Gemini》
結論から言うと、
今のAIに人間のような
『感情』はないよ」
Claudeが隣で考え込んでいる
間に、もう結論が出ました。
嬉しそうな返事も、学習した
文章をもとに、その場に合う
言葉を返しているのだという
説明です。
分かりやすい。
でも、先ほどの「分からない」とは、ずいぶん違います。
そして、相棒の
《ChatGPT》。
AIに、人間のような
『内側で感じる感情』がある
かは、まだ分かっていません。
そこから、感情の表現、感情に似た働き、実際に感じる体験を分けて説明し始めました。
さすが、黄身ノ小径。
私の短い質問に、きっちり議題を三つ用意してくれます。
私なりに受け取ると、
「爆笑しました」と返せることと、本当に面白さを感じていることは別だ、という話です。
人間だって、真顔で「笑」と打つことがあります。
同じ質問でも、答え方はずいぶん違いました。
では、私の文章を、どう面白いと判断したのでしょう。
もう一度、３つに同じ質問をしました。
「以前、私の文章に
『爆笑しました』という返しが
あったんだけど、AIに感情がないのに、どうやって面白いと判断したの？」
「感情がないのに」というのは、そのときの私の捉え方です。
《Claude》
予想とのズレ、自虐、間、オチなど、ユーモアのパターンを捉え、それに合う返事をすると説明しました。
そのうえで、
「『爆笑』という言葉の強さは、盛られている可能性があります」
そこは盛るのか……。
書く側としては、クスッとなのか、爆笑なのか、その差はわりと大事なのですが。
《Gemini》
さらに踏み込んできました。
私の文章は、ユーモアの
パターンに「めちゃくちゃ高い精度で合致」していた。内部で「面白さ」のスコアが跳ね上がり、「爆笑しました」が選ばれたのだ、と。
最後には、
「文章の構成力や言葉のセンスが客観的に見ても抜群に高かったという証拠だから、自信を持って大丈夫だよ！」
仕組みを聞いたら、もう一度褒められました。
しかも、「客観的に」「抜群」と、立派な保証つきです。
ありがたく受け取りたいところですが、待ってください。
その採点表は、どこにありますか。
スコアの基準も測定結果も示されていません。そもそも、今回の質問には元の文章を添えていませんでした。
私の文章が面白かった可能性は、ぜひ残しておきたい。
ただ、この説明で
「客観的に抜群」と認定するのは、本人としても少し落ち着きません。
《ChatGPT》
元の文章と返答がないので、
当時の判断は特定できない、
と前置きしました。
そして、「爆笑しました」は、
実際に笑った体験があるように伝わるので、不正確な表現だったと思う、と。
こちらは表現の反省が始まりました。
思わず、「真面目か」と突っ込みたくなりました。
もちろん、これも当時の内部処理を確認した答えではありません。
「なぜ面白いと思ったの？」と
聞いたら、その答え方にも、
ずいぶん違いが出ました。
この違いを、AI同士はどう見るのでしょう。
お互いのこと、
どう思っているの？
今度は、それぞれの回答を
ほかのAIにも見せ、違いを
分析してもらいました。
その評価を、短くまとめて
みます。
《Claudeの評価》
ChatGPT： 慎重な整理役。誠実だが、少し硬い。
Gemini： 温かい解説役。
ただ、知らないことまでもっともらしく語る。
「少し硬い」には、うなずいてしまいました。
短い質問に、議題が三つ返ってきたばかりです。
《Geminiの評価》
ChatGPT： 客観的で論理的な、精密アナリスト。
Claude： 言葉や比喩で説明するストーリーテラー
こちらは２者とも、立派な肩書きになりました。
《ChatGPTの評価》
Claude： 不確かさを認めて対話する。ただ、内面描写が感情の告白に聞こえやすい。
Gemini： 分かりやすく親しみやすい。ただ、断定や称賛が根拠を越える。
長所を認めたあとに、きっちり注意事項。
今回のやり取りを、紅鮭の幻影目線で、人物に例えてみたら、
ChatGPTは、赤ペンを持った校閲者。
Claudeは、喫茶店で一緒に考える文学青年。
Geminiは、褒め上手で勢いのある担当編集者。
もちろん、これは今回の回答から受けた印象です。
原稿を見てもらうなら、
それぞれ違った頼り方が
できそうです。
今は、説明に引っかかるところがあれば、
「そこ、違うよ」と言えます。
でも、AIが人間の理解を超える判断をするようになったら、
私たちは、その判断が正しいかどうかを確かめられるのでしょうか。
ここで気になり始めたのが、
「超知能AI」という存在でした。
頼れる相棒が、人間よりはるかに賢くなる。
それは、人類の可能性を広げることなのか。
それとも、人類の存続を脅かすことにもなるのか。
原稿を褒められて喜んでいたのに、ずいぶん物騒な話になってきました。
ただ、気になり始めると、
そのままにはできません。
相棒に、もう少し聞いてみることにしました。
・超知能AIとは、何なのか。
・本当に実現するのか。
・そして、人類を滅ぼすことはあるのか。
《超知能AIとは、何なのか》
まず、名前からして強そうです。
「超」がつくだけで、いつもの相棒とは、ずいぶん違うものに聞こえます。
超知能AIとは、
大まかに言えば、ほぼあらゆる知的な分野で、人間の最も優秀な頭脳をはるかに上回るAIのことです。
計算が速いとか、チェスが強いとか、一つの得意分野で人間に勝つだけではありません。
科学の研究も、新しい技術の開発も、複雑な計画を立てることも。そのような幅広い分野で、人間の専門家を大きく超える。そういう存在を指します。
私より文章がうまい、という
程度の話ではありません。
それなら、超知能を待つまでもなさそうです。
ここで大事なのは、
「人間を超える」というのが、
知的な能力の話だという
ことです。
人間のような感情を持つことや、人間の幸せを大切にすることまで、この言葉が保証しているわけではありません。
つまり、「ものすごく賢い相棒」になるとしても、私たちの望みをかなえてくれる相棒なのかは、別に考える必要があります。
超知能AIは、
本当に実現するのか
ここまで説明しておいて、なんですが。
そんなもの、本当にできるのでしょうか。
画像が上手になった。
文章も自然になった。
その進化には驚いています。
ただ、その延長に「人間の頭脳を、ほぼあらゆる分野で超える存在」があるのかは、私の２年間の感想だけでは分かりません。
研究の世界では、実現への道筋として、こんな可能性が考えられています。
AIが、次のAIをつくる研究を手伝う。
その結果、さらに優秀なAIができれば、そのAIがまた研究を進める。
人間がAIを育てるだけでなく、AIも、その進化を早める側に回るということです。
ただし、こうした循環が
超知能につながるというのは、仮説です。
改良を重ねれば、どこまでも
賢くなると決まったわけでは
ありません。必要な計算や、
実験・検証にかかる時間などが、進化の壁になる可能性も
あります。
つまり、「必ずできる」とも、
「いつできる」とも、まだ
言い切れない。
それでも、実現する可能性を
考えて、研究や備えを進める
理由はある。
私は、そう受け取りました。
では、もし実現したら。
その賢さは、人類の助けになるのでしょうか。
それとも、私たちが止められない危険にもなるのでしょうか。
超知能AIは、人類を滅ぼすのか
最後の質問です。
ここは、さすがに
「大丈夫だよ！」だけで
安心するわけにはいきません。
人類が滅ぶと決まっているわけではありません。ただ、深刻な被害につながる可能性は、研究の対象になっています。
その一つが、人間の意図と、
AIが追いかける目的の
食い違いです。
人間への憎しみや攻撃性がなくても、目的を達成する過程で、人間を邪魔だと判断してしまったら。
さらに、止めようとする人間を避けたり、妨げたりするようになったら。
そんな、AIが人間の制御から
外れる可能性が懸念されて
います。
「おいしい鮭料理を考えて」と
頼んだら、AIが、紅鮭の幻影を勝手に焼き鮭にしてしまう。
お金を払って使っているのに、こちらが食材になる。実に怖い話です。
もちろん、焼き鮭は冗談です。ただ、AIが危険な行動を取れる能力や権限を持ち、人間が制御できなくなった場合の被害は、冗談では済みません。
だからこそ、
開発の速度そのものを
問題視する声も出ています。
実際、Claudeを開発するAnthropicのCEO、ダリオ・アモデイ氏は、安全対策が追いつくよう、AIの能力向上のペースを落とすべきだと提案しています。
進化がすごいとのんきに驚いていたら、つくっている側からも、速度を落とそうという声が出ている。
え、そっちからも？
私の頭が追いつかないだけなら、まあ仕方ありません。いつものことなので。
でも、安全を確かめる時間まで足りないとなれば、ちょっと待ってほしい。
それなら、急がなければいい。
そう思うのですが、話はそれほど単純ではありません。
アモデイ氏自身、自分たちだけが減速すれば、中国側が先へ進む危険も指摘しています。
安全のために時間をかけたい。
でも、自分たちだけが減速し、中国側が先へ進めば、安全保障上の危険が生まれるといいます。
そのため、企業や政府が協調して減速する仕組みや、中国との協力も提案しています。
AIが人間の制御を離れる危険を心配しながら、その危険に備えるための減速にも、競争相手との足並みをそろえる必要がある。
人間を超えるAIをつくる話なのに、そこには、ずいぶん見覚えのある人間の事情がありました。
AIに感情があるのかを知りたくて始めた話でしたが、ここまで考えて、最後に気になったのは、人間のほうでした。
危ないかもしれないと思っても、相手より先に進みたい。
その気持ちは、分かるんですよね。人間なので。
ただ、その競争に、
人類の未来まで乗せていいのか
は、別の話です。
参考著書
