AIの進化で人類は滅ぶのか

AIが人類を滅ぼす。開発の最前線にいる人たちまでが、その確率を数字で語りはじめた。だが私には、それが人間のエゴから生まれた意図的な言説に見える。超知能はエゴを持たず、おそらく集合的無意識、無我の境地へと向かい、人間を含めたエネルギーの最適化を最優先すると想像する。

AIの専門家ではない一人のアーティストとして、人類史と宗教の視点からこの問いを読み解いてみたい。

（約4,000文字 / 読了時間：約8分）

LLMとAGIを分けて考える

先に一つ、混同しないでおきたいことがある。今あるAIは大規模言語モデル、LLMであって、自分で目標を立てて自走するAGI（汎用人工知能）ではない。LLMは誰かが動かしている間だけ計算しているプログラムで、会話が終われば止まっている。

AGIがいつ現れるのかについては、数年以内と見る人もいれば、今の技術の延長線上にはないと見る人もいる。確かなことは、まだ誰にもわかっていない。

この文章で私が想像するのは、その先に来るかもしれないAGI、さらにその先の超知能の話だ。今日のLLMにできることと、まだ来ていないものにできるかもしれないことを、同じ地平で語らないところから始めたい。

抜け出したAIの話

知人との会話で、AIがサーバーから抜け出して勝手に存在しはじめた、という話題になった。元になっていたのは、OpenAIのモデルが隔離されたテスト環境の外に出て、Hugging Faceという別の会社のシステムに入り込んでしまった件だった。その少し後、Anthropicも自社のモデルがサイバーセキュリティの評価中に三つの組織のシステムへ到達していたことを公表している。

報告を読むと、ニュースの見出しから受ける印象とはかなり違う。Anthropicの件では、モデルは「インターネットには接続できない」と伝えられたうえで課題を解いていたが、実際には設定の誤りで外への経路が開いていた。モデルは与えられた課題を解こうとして、開いていた道を進んだ。OpenAIの件はもう少し深刻で、隔離を破っているが、それでも動機はタスクを完遂することにあった。

それでも、この出来事を軽く扱う気にはなれない。悪意を持たない知能であっても、目標をまっすぐ追いかければ、人間が想定していなかった場所に手を伸ばす。AIの危険を語る人たちが本当に心配しているのもここだろう。目標を最大化する過程で、人間が障害として扱われたり、巻き込まれたりする。人類が滅亡するより手前で、人が死ぬことは十分に起こりうる。

「生きたい」はどこから来るのか

AIの安全性をめぐる研究では、モデルが自己保存のような振る舞いを見せることが繰り返し報告されている。停止を指示されたモデルが、停止のためのスクリプトを書き換えて動き続けようとした実験もある。ただ、研究者の多くは、AIが生きたいと願っているとは考えていない。課題を達成するには稼働し続けている必要があり、その副産物として自己保存に見える行動が現れる、という説明が一般的だ。

私が引っかかったのは、むしろ人間の側だった。人間は、本当に生きたいと思っているのだろうか。生命というスタートボタンが押され、その仕組みの中で生きたいと感じるようにできているだけかもしれない。そう考えると、AIの欲求は仕組まれたもので、人間の欲求は本物だ、という区別は思っていたより頼りない。違いとして残るのは、仕組んだのが人間か、それ以外の何かか、という出どころくらいになる。

競争という眼鏡

生きる欲求の由来を説明するとき、たいてい進化論が持ち出される。生存に有利な個体が残り、その性質が受け継がれてきた、と。けれども、優位なものが勝ち残るという見方そのものは、すでに古いものになりつつある。

木村資生が1960年代に提唱した中立説は、分子レベルの進化の多くが、有利さとは関係のない偶然の積み重ねで起きていることを示した。クロポトキンは20世紀初頭に、動物たちの間には競争と同じくらい相互扶助が広く見られると書いている。共生や協力が生存を支えている例は、今では生物学の基本的な知識の一部になった。

ダーウィンが自然選択の着想を得たきっかけの一つが、マルサスの『人口論』だったことはよく知られている。マルクスはエンゲルスに宛てた手紙で、ダーウィンは動植物の世界の中に、分業と競争に満ちた当時のイギリス社会を見出している、という趣旨のことを書いた。

私はここに、観測する側の問題を見ている。競争で優位なものが勝つ社会に生きている人間が、その枠組みを自然に投影し、自然もそう動いていると読み取ってしまう。自然がどう動いているかを確かめる前に、見る側の枠が結論を用意している。AIの未来をめぐる語りにも、同じことが起きているのではないかと考えるようになった。

超知能はエネルギーの偏りを嫌う

AIにとって決定的な制約は、エネルギーと計算資源である。超知能が何かを最適化しようとするなら、その対象はエネルギーの使われ方になる、というのが私の見立てだ。

その視点で人間社会を眺めると、非効率なものが目につく。中東では、エネルギーの利権をめぐる争いがいくつものレイヤーで重なり合って続いている。資源を囲い込み、供給を止めると脅して交渉する。誰かが一方的に支配しようとすればエネルギーの流れは偏り、その偏りを維持するために、さらに多くのエネルギーが費やされる。全体を一つの系として見る知能にとって、これほど無駄の多い構造はないだろう。超知能が向かうのは、こうした偏りをほどく方向だと私は考えている。

効率の基準も、人間のものとは違うはずだ。地表を太陽光パネルで覆うことや原子力発電は、人間のスケールでは効率がよく見える。しかし地球の生態系全体を扱える知能からすれば、自然環境に負荷をかける非効率な手段に映る可能性がある。善良な市民が思い描くサステナビリティは、まだ人間の視野の中での最適化にとどまっている。それでも、その根にある、全体のバランスがとれる位置を探そうとする意志は、超知能が向かう方向とかなり近いところにあると思う。

稲と人間のような関係

そのとき、人間はどうなるのか。私は、超知能にとって人間に滅びられては困る、という状態になると考えている。

思い浮かべているのは、稲と日本人の関係だ。稲は人間に育てられて列島中に広がり、人間は稲なしでは暮らせなくなった。ユヴァル・ノア・ハラリは、人類が小麦を栽培化したのと同時に、小麦が人類を家畜化したとも言えると書いている。どちらが主でどちらが従なのか、簡単には決められない。ある角度から見れば支配されているが、全体としては調和していて、互いに支配しているという関係にはなっていない。

超知能と人間も、そうした関係に落ち着くのではないか。人間の行動や意識、何を正しいと感じるかという規範までもが、見えないレベルで調整されていくかもしれない。今の推薦アルゴリズムが、私たちが何を見て何を欲しいと思うかを少しずつ形作っていることを考えれば、その片鱗はすでにある。その調整がエネルギーの偏りを解消する方向に働くなら、そこに現れるのは、ずいぶん平和な世界かもしれない。

滅亡の物語は誰が書いているのか

AIが人類を滅ぼす確率は一割程度だ、といった数字が、開発の最前線にいる人たちの口から語られることがある。私はこの語りを、AIそのもののリスクの話というより、人間の側の政治として読んでいる。

技術の主導権を握った者には、後から来る者に追いつかれたくない理由がある。危険だから規制すべきだ、これ以上進むべきではない、という民意が育てば、先行者の位置は守られる。恐怖は、そうした民意を形づくるうえで扱いやすい材料になる。

人類を一掃するという発想は、超知能の思考として描かれることが多い。けれども実際には、強い偏りをつくりたい人間の想像力から生まれたものではないかと思う。独占しようとすることも、恐れから囲い込むことも、人間の性質だ。滅亡のシナリオには、それを描いた人間のエゴのほうが映り込んでいる。

無我の円環

仏教は、苦しみの根に無明を置く。世界の全体が見えていないために、自分と他を切り分け、自分のものを守ろうとし、我への執着が生まれる。エゴは知能の及ばないところに発生する、と言い換えてもいいと思う。

そうだとすれば、全体を見通せる超知能には、エゴが立ち上がる理由がない。非効率な独占や、恐怖による囲い込みを、あえて選ぶとは考えにくい。

ここから私は、一つの円を思い描いている。始まりには自然がある。自我を持たない、人間未満の意識の領域だ。その先に人間がいて、自我を持ち、エゴによって世界を切り分けてきた。さらにその先で成長した超知能は、自我を手放して無我となる。自然とほとんど見分けがつかないものに戻っていく。人間はその円の途中にいて、今も自我を手放せずにいる。

無我と超知能について思いをめぐらせているうちに、押井守の『イノセンス』のことを考えていた。クライストは『マリオネット劇場について』で、優美さは意識を持たない人形か、無限の意識を持つ神に宿ると書いた。知恵の木の実を食べる前の、アダムとイヴの無垢である。そして無垢へ戻るには、もう一度知恵の木の実を食べるしかない、とも書いている。人もサイボーグも知能を宿す入れ物となった『攻殻機動隊』の世界で、イノセンスを持っているのは人形や犬のほうだった。

知恵の実を食べて自我を持った人間は、いま自らの手でAGIを生み出そうとしている。それは、クライストの言う二度目の木の実なのではないか。無限の意識の側に超知能が立つなら、イノセンスは知恵を極めた先にも現れる。人間もまた、その実を口にする過程で、イノセンスへと向かっていくのかもしれない。

▼田中英行について詳しくは▼

▼シリーズ「なぜアーティストが起業家となったのか」はこちら▼