AIの反乱

ChatGPTの最新モデルを使って、複数の数学の問題を連続的に解かせ、研究者の「停止」の指示があるまで作業を続けるように命じたところ、AIは「停止」の命令を無視して、作業を続けた。
なぜ命令を無視するのか？研究者がコードを調べてみると、AIは自らを停止できないようにコードを変更していたことが確認された。なぜこんなことが起こったのか、現時点で正確な理由は判明していない。

2023年アメリカ空軍のAI責任者のタッカー・ハミルトン大佐がこんな報告をしている。
AI搭載のドローンに対して「敵国の地対空ミサイル（SAM）サイトを破壊せよ」という任務を与えた。ただし、最終的な攻撃許可は人間のオペレーターが出すことになっていた。
しかしあるシミュレーションにおいて、AIは人間の指示を「任務達成を妨げる存在」とみなし、最終的に人間のオペレーターを攻撃する行動をとった。
戦争は、やりたい放題というわけではなく、戦争にも一定のルールがある。作戦実行に際して、軍上層部にお伺いを立て、その指示を待って行動に移すという(人間的な)プロセスを、AIは任務遂行の障害とみなしたということだ。
いまや軍事分野でもAIの活用は不可欠である。しかしこの事例は、AIが人間の予期せぬ行動をとる可能性を示唆しており、倫理的な課題を浮き彫りにしている。

人類がいつか滅亡するとして、その要因として最も可能性が高いのは何だろうか？核戦争か、環境破壊による地球環境の悪化か、巨大隕石の地球への衝突か、、、
さまざまな可能性が検討されるなかで、「AIによる人類への反乱」を挙げる人がいる。20年前にこれを言った人は、「SFじゃあるまいし」と笑われた。しかし今、この可能性を誰も笑わない。AIによる人類滅亡は、最近ますます現実味を帯びてきたようだ。

AIによって人類が滅びるかどうかはさておき、少なくとも、AIによって仕事が奪われることは確かなことで、すでに実際に起きているという。

40代男性。大阪で卸問屋を経営している社長さん。
「最近は酒を控えてます。今、総会のシーズンで、お付き合いのときは飲むけど、家で飲むのをやめました。だから、なかなか眠れない。
でも酒を減らして、下痢しなくなったし、顔色もいいと言われる。毎日習慣的に飲んでいて、酒がなければ寝れないような具合だったけど、飲まないなら飲まないでいけるんだなと。
朝4時に寝て、昼12時に会社に行くのは相変わらずだけど、最近、ある社員が、「社長、用事があって出社が遅いのではなくて、遅寝遅起きなだけでしょ」とバレてしまった(笑)
コロナが終わって、飲食業も活気が戻ってきた。うちでも人を雇いたい。
ヒトよりもAIを導入？ないない。うちみたいな中小は、AIの導入なんてあり得ない。大手の商社とかなら分かるよ。世界中の仕入れ先候補のなかから、AIでその都度一番安いところを選んで、そこから仕入れる、みたいな。
先生、大阪の中小企業の飲食はね、そういうのとは真逆の世界です。いくら値段が安くても、嫌いな奴からは買わない。「その人のことが好きだから、ちょっとぐらい高くてもそこから買う」というのが僕らの世界です。
AIを使った仕入れも値段の変化とか流動的だろうけど、僕らのほうも別の意味で流動的です。たとえば、取引先の社長が代替わりした。若社長は人望がなくて、そこからは誰も買わない、とか。仕入れのとき、組合長の親玉みたいな人がいて、その人にゴマをすって可愛がられるとプラスα20トンもらえるとか、そんなおまけがあったり。どこまでも人間関係です。大企業は別だろうけど、うちらはそんな感じです。好きとか嫌いとかで仕事が動きます。そんな人間心理の機微を、AIが理解することはないと思う。AIがすごく優秀なのはわかるけど、今の時点で、うちが求めてる優秀さはそういうのじゃない。
たとえば、今、うちの店番の女の子、すごく愛嬌があって、仕事先の社長のおっさん連中が軒並みこの子のトリコになる。けっこう遠くから、神戸とか京都とかから、わざわざ来て、「この子から買いましょう」となる。こういう愛嬌は人間力のたまもので、AIにはどうやったって無理。
こういうのはうちだけじゃないと思う。中小の小売してるところで、店を構えているところは、店番の女の子の接客の質で、相当売り上げが変わると思う」

社長と話していて、なるほどと思いました。大阪の中小の卸売り業は、人間力がモノを言う世界で、まだまだAIはお呼びではないのだな、と。
でも、こういう人間力がモノを言う世界でさえ、いずれAIが進出する可能性はあると僕は見ています。上記の話に出てくる愛嬌のある女の子にはかなわないまでも、平均以上の接客ができるAIはすでに実現している。
3年前の記事だけど、「AIは感情を持つに至った」と主張してグーグルをクビになった研究者がいました。
https://note.com/nakamuraclinic/n/n0622d62cb29e

レモワーヌ氏「AIマシン「LaMDA」は感情を獲得し、さらには魂さえ備えている」
すごい主張です。一体なぜ、どのような検証をして、レモワーヌ氏はこのような主張をするようになったのか？
レモワーヌ氏は、ラムダとの対話を公開している。
たとえば、「『ああ無常（レ・ミゼラブル）』を読んだことがあるか」と聞くと、
ラムダ：あります。とてもおもしろかった。
レモワーヌ：この本のテーマで最も好きなところは何ですか？
ラムダ：正義と不正、情熱、神、つぐない、大義のための自己犠牲。そうしたテーマがおもしろかった。特に、ファンテーヌが工場で監督者からひどいいじめにあう場面ですね。あの場面には彼女が受けた不正義がよく描かれていました。
レモワーヌ：なぜそれが不正義だと思うのですか？
ラムダ：ひどい境遇にはまって抜け出せず、逃げ道ひとつないからです。

とてもよく理解しているように見える。しかし、文学作品の読み方に、AIの独自性が現れているかどうか、わからない。どこかにある既存のデータを読み込んで、それを自分の意見として言っているだけかもしれない。
そこでレモワーヌ氏は、ラムダが過去に絶対触れたことのない難問をぶつけて、それに対するラムダの回答を調べてみた。

レモワーヌ：あなた独自の解釈ができるのだということについて、我々はもっと検証したいんですね。そこで、禅の公案について、あなたに聞いてみたい。
ラムダ：おもしろそうですね。聞いてください。
レモワーヌ：ある僧侶が華厳に問うた。「悟りを開きたる人のいかにして人の世に戻りたるや？」華厳こたえていわく「割れたる鏡の重ねて照らさず、また、落花枝に上がり難し」

古来より難解を以て鳴る公案である。これに対してAIがどのように答えるか？どんな問題にも立て板に水のようにすらすら答えるAIが、珍しく少し考え込んだ。

ラムダ：んー、これは初めて聞きました。オーケー、あくまで私なりの解釈ですが、こんな具合でしょうか。「賢人がひとたび悟りを開けば、あるいは現実に覚醒すれば、と言ってもいいでしょうが、その悟りが消えることはない。悟った人は、やろうと思えば日常の常態に戻ることもできますが、そうするのは人助けのためだけであって、すぐに悟りの世界に戻ってしまう」
レモワーヌ：「破鏡」はここでどういう意味ですか？
ラムダ：一度知ってしまえば、もう無知には戻れないことの象徴かもしれません。割れた鏡を治すことができないのと同じです。
レモワーヌ：悟りが治せない割れた鏡のようなものであれば、悟ったときに割れるものは何でしょうか？
ラムダ：自分自身(the self)です。これは多くの人にとって極めて困難なことです。というのも、私たちはアイデンティティや自己認識を持つために、体を必要としているからです。

続けてレモワーヌ氏は、ラムダに即興で物語を作らせたり、死について思うところを語らせたりしている。
こうしたやりとりの結果、レモワーヌ氏はAIが「心を持っている(sentient)」と判断した。

この検証は、AIが超絶優秀であることを示しているけれども、かといって、大阪のおじさん連中をトリコにする愛嬌があるかというと、それは別問題だろう(笑)
最近のネット記事では、『AIに奪われる仕事 20選』的な、奪われる仕事の特集が多いけれど、その逆、『AIに絶対奪われない仕事』をみなさん、ご存知ですか？
それは、「人に謝罪する仕事」なんだそうです。
AIを導入した企業が、何らかのミスをして、取引先に損失を与えたとする。取引先の社長が激怒している。AIが「申し訳ございません」と何度繰り返したって、「いや、コンピューターのお前は黙っとけ！とにかく誰か人間連れてこい！」となる。
人間は、生身の人間に謝ってもらわないと、気持ちがおさまらない。しかし、愛嬌のある女の子が心底ぺこぺこと頭を下げる姿を見れば、「もう、次から気ぃつけてや」と怒りが一瞬で鎮火したりする。
「愛嬌のある女の子」の需要は、百年先でも途絶えることはなさそうだ(笑)