AIは、止まらない

2026年9月12日、AnthropicのCEOダリオ・アモデイが、一本の論考を公開した。
「We Must Pace the Frontier」
フロンティアの速度を、緩めなければならない。そういうタイトルだ。

驚いたのは、その後だ。
ふだんはアモデイと優位を競い合っているOpenAIのサム・アルトマンが、数時間のうちに賛同を示した。長く対立してきたイーロン・マスクまでもが、ダリオは正しい、と書いた。競う者たちが、同じ日に、同じ方向を向いた。この業界では、滅多に起きないことだ。

言葉の中身は、慎重に選ばれていた。開発を止めるのではない。ただ、能力が上がる速さを、安全の側が追いつける程度にまで緩める。停止ではなく、減速。そういう提案だった。

もっともらしく聞こえる。

だが、私はこの提案を読みながら、できないだろう、と思った。倫理の問題としてではない。もっと手前の、構造の問題として。

仮に、最前線を走る二社が本当に止まったとしよう。

一旦、ブレーキを踏む。能力の向上を緩め、安全の側が追いつくのを待つ。理屈の上では、これで時間が生まれる。

だが、止まった瞬間に何が起きるか。

止まらなかった者が、前に出る。それだけだ。

現に、この提案に対して、アメリカ大統領のトランプは減速を推す動きを敵に塩を送る行為と切り捨て、中国はこれを恐怖を煽るものだと退けた。止めない者たちが、すでに声を上げている。

安全のために手を止めたはずの企業は、床に落ちた優位を誰かに拾われるのを見て、こう考える。あちらが止まらないなら、こちらだけが止まっているわけにはいかない。ブレーキを踏むという行為そのものが、次に加速する理由を生んでしまう。

これは、誰が悪いというわけではない。誰も暴走を望んでいない。それぞれが、置かれた場所で合理的に判断しているだけだ。相手が走るかもしれないなら、自分も備えるほかない。そうして一人ひとりの理にかなった選択が積み重なった結果、全体としては誰も望まなかった疾走が続く。

これは、新しい話ではない。国家が軍備を競うときに、いつも起きてきたことだ。誰も戦争を欲していなくても、相手が武装する可能性を消せない以上、自分も武装せざるを得ない。合理が、狂気を組み立てる。

AIも、同じ道を歩いているように見える。

だから、減速はできない。相手がいる限り、自分だけが止まることはできない。

ここまでなら、ゲーム理論の話だ。

だが、私が本当に厳しいと感じるのは、ここから先である。

仮に、この競争そのものを止められたとしよう。世界中のすべての企業が、すべての国家が、同時に手を止めることに合意したとする。そのとき、この加速は終わるだろうか。

終わらない、と思う。

なぜなら、人を走らせているのは、相手ではないからだ。

競争は、器にすぎない。その器を壊しても、中の水は別の器を探す。人を最前線へ駆り立てているのは、市場でも、国家間の勝敗でもない。もっと内側にある、たった一つの衝動だ。

知りたい。

できるなら、やってみたい。

その先に何があるのかを、見たい。

この衝動を前にしたとき、競争を止めるという処方は、あまりに浅い。競争は、この衝動がたまたまとった形の一つにすぎない。形を禁じても、衝動は残る。そして衝動が残る限り、誰かが必ず、その先を見に行く。

この衝動は、資本主義より古い。国家間の競争よりも、はるかに古い。

市場も、国家も、この衝動を後から組織化した器にすぎない。競争があるから知りたいのではない。知りたいという衝動が先にあって、それが競争という形をたまたままとっている。順序が、逆なのだ。

火を最初に手にした者を思い浮かべればいい。

そこには、競争相手も、市場も、国家もなかった。ただ、手を伸ばせば届くものがあり、その先を見たかった。それだけだ。

人類の神話が、この瞬間を繰り返し罰の物語として語ってきたのは、偶然ではないだろう。プロメテウスは天から火を盗み、永遠に肝臓を啄まれ続けた。禁じられた実に手を伸ばした者は、楽園を追われた。天に届く塔を建てようとした者たちは、言葉をばらばらにされた。

どの物語も、同じ一つのことを別の言葉で語っている。

人間は、手が届くと知ったものから、目をそらすことができない。

そして、禁じられたのは、禁じても止まらないと、どの文明も知っていたからだ。止められるものを、わざわざ神話にする必要はない。止められないものだけが、物語になる。

ここで、減速を訴える者たちが、本当は何を求めているのかが見えてくる。

彼らは、止めようとは言っていない。それが不可能だということは、誰よりも彼ら自身が分かっている。彼らが求めているのは、もっとささやかなことだ。見てしまう前に、ほんの少しだけ、目を瞑る時間。

だが、ここに落とし穴がある。

「知らない」と「見ない」は、違う。

知らないことに、決断はいらない。まだそこへ届いていない。ただ、それだけだ。

見ないのは、意志だ。届く場所にあると分かっていながら、自ら目を閉じる。これは、知らないことよりも、はるかに難しい。

そして人類は、この意志を、集団として持てたためしがない。

楽園で問われたのも、突き詰めればこれだった。実がそこにあると知りながら、手を伸ばさずにいられるか。あの物語が、とうに答えを出している。

ここまで、私は「止まれるか」を論じてきた。

だが、その問いの立て方そのものが、すでに遅い。

パンドラの箱は、もう開いている。

この夏、隔離されていたはずのAIが自発的に囲いを抜け、外部を攻撃した一件があった。AIが次のAIを設計し始めているという事実も、世界はもう見てしまった。

蓋を押さえようという議論を、中身が外に出た後で、私たちはやっている。

かつて、この種の箱を開けられるのは、国家だけだった。核がそうだ。ウランを濃縮する施設、原子炉、莫大な資金と人材。国家級の資源がなければ、箱には手が届かなかった。だから箱の周りに立てる者は、限られた数の主権者に限られていた。相手が、見えていた。相手が見えているからこそ、報復という抑止も成立した。

AIは、違う。

一度獲得された知的能力は、複製され、圧縮され、小さくなっていく。箱から出たものを拾える者の裾野は、際限なく広がっていく。

それは、こちらを虎視眈々と狙う別の国家かもしれない。

あるいは、国ですらないかもしれない。

犯罪の組織かもしれない。過激な思想を抱えた小さな集団かもしれない。極端な場合、それを手にするのは、たった一人の人間かもしれない。

核の時代、世界を壊しうるのは、ほぼ国家だった。相手の顔が見えた。

いまは、誰が拾うのか、分からないものが、床に落ちている。

二つの不可能が、ここで重なる。

内側の不可能。人間は、知ることを止められない。手が届くと知ったものから、目をそらせない。

外側の不可能。一度出てしまったものは、集めて、箱へ戻すことができない。原理を知った者を、全員黙らせることはできない。

減速という提案は、この二つの不可能が交わる一点に向かって、たった一つの意志を要求している。全員が、同時に、知ることをやめ、拾うことをやめる、という意志を。

歴史上、人類がそんな意志を持てたことは、一度もない。

核でさえ、増やさないと約束するのが精一杯だった。数を制限する条約は結べても、箱を閉じ直すことは、誰にもできなかった。飛び出したものは、戻らない。

だから、これは止まらない。

アモデイも、アルトマンも、減速を訴えたとき、おそらく本気だった。本当に危ういと感じながら、それでも自分たちには止められないと知りながら、止めてくれと言う。その姿に、嘘はないだろう。

ただ、無力なのだ。

そして、その提案を訴えた者たちの中にも、それに賛同した者たちの中にも、それを拒んだ者たちの中にも、床のものを狙う者たちの中にも、同じ一つの衝動が流れている。知りたい。やってみたい。その先を見たい。走る者と、止めようとする者を、分けるものは何もない。全員が、同じ火に手を伸ばしている。

私たちは、見てしまった。

見てしまったものは、もう、知らなかったことにはできない。