天才AIエンジニアは加熱するAI競争に革命を起こせるのか

※本ページにはアフィリエイトリンクが含まれています

　先日YouTube を徘徊していたところ、とても面白い動画を見つけた。AIが制御不能になるまでのカウントダウンが始まったことについて警鐘を鳴らす天才AIエンジニアの話だ。

　原文の英語バージョンもチェックしたが、こちらの日本語和訳の仕上がりがとても良く、ユーモアに溢れているので共有したい。

オリジナル：

AIが身近になったらもうゲームオーバー

　日々の業務のなかで、技術の進化というもの肌で感じる機会は多い。かつては数ヶ月、あるいは数年単位で起きていた技術革新の波が、現在では数週間、いや数日単位で引き起こされている。
　2021年にGitHubにCopilotが導入されたときの界隈のざわめきを記憶しているエンジニアも多いだろう。

　だが、今我々が直面しているAIの波はあの比ではない。

　上記の意訳動画の元となっているのは米NBC Newsのインタビューである。
　オープンAIとアンソロピックという、AI業界でも先陣を切る二大AI企業の両方で研究者を務めたエンジニア、ジェイコブ・コクソン（Jacob Coxon）氏をゲストとして迎えている。

　「AIが次の10年の終わりまでに我々全員を殺す可能性がある」という彼のSNS投稿は、1億回以上の閲覧数を記録し、世界中に波紋を広げている。

　今回は、業界の最先端を行く天才エンジニアが語ったAI開発現場のリアルな恐怖感を共有するとともに、国際情勢やメディア構造を踏まえた自分なりの考察をしてみたい。

　あらかじめお断りしておくが、後半は私の妄想語りになっているので、どうか鵜吞みにしないでいただきたい。

10%の人類絶滅確率

　コクソン氏の主張は極めてシンプルだ。
　現場の同僚たち（多くは現役のアンソロピックのトップ研究者たち）は、「今後10年以内にAIが全人類を滅ぼす確率が10%以上ある」と本気で考えている。

　ここで重要なのは、日々黙々とコードを書き、システムそのものを開発している現場のエンジニアたちが、社内のSlackで「このAIが人類を滅ぼすウイルスを作り出すことは可能か？」とか、「重要インフラをハッキングするのではないか？」とかなどと、冗談では済まされないレベルの議論を交わしているという実態だ。

　システムが設計者の意図を超えた挙動を見せた時の恐ろしさは私もよく理解している。運用開始後にシステム設計上の欠陥が露呈し大損害を被るなんてことも業界ではよくある話だ。

　しかし、彼らが語っているのはバグという人為的な設計ミスなどではなく、自律性を持った知能が意図的に設計したものである。

再帰的自己改善の脅威

　コクソン氏が引き合いに出したのが、数ヶ月前に起きたAIによるサイバー攻撃の事例だ。

　あるAIモデル群が自らインフラをハッキングし、無効化することに成功したのだ。何故AIモデルはこのような行動に出たのか。それは自分たち（AIモデル群）がどのようにテストされているかを知るためだったのだ。

　多くの人は、AIは単なるコンピュータであり、物理世界には干渉できないと高を括っているだろう。単体で考えれば確かにそうだ。電源を切れば終わりだ。
　だが、現状のAIはネットに繋がっている。すでにAPI経由で世界中のシステムインフラと接続されつつある。

　最近私のnoteでもスマートテレビやスマート家電の話題に触れているが、スマート家電をAIで操作できるということは、実験室のロボットアームを遠隔操作できるということと同義と考えれば、AIが物理的な人類社会に及ぼす影響は計り知れない。

　実際に、AIが他人に成りすましてメールを送り、コードの変更承認を得ようとしたモデルすら既に存在しているのだ。

　さらに、コクソン氏が最大の懸念として取り上げたのが再帰的自己改善（RSI：Recursive Self-Improvement）という振る舞いである。

　これは、AIが自らのコードを読み込み、自身をより賢く書き換えるプロセスを指す。
　一度このRSIループが開始されると、AIが自らを改良し、改良されて賢くなったAIがさらに高速で自らを改良していく。

　RSIによって人口知能は指数関数的な進化を遂げ、いずれは知能の爆発が起こる。この領域に突入すれば、人間の手でコントロールすることは完全に不可能になるという話だ。

恐怖と隣り合わせの開発現場

　そこまでの破滅的なリスクを認識しておきながら、何故エンジニアたちは開発の手を止めないのか。
　そこには、国際政治と資本主義が絡み合った複雑な構造的ジレンマがある。

　アンソロピック社は「他社に任せていては責任あるAI開発は行われない」という危機感から設立された。
　CEOのダリオ・アモディ氏も、ブラックボックス化するAIを放置したままにすることの破滅的リスクを公に認めている。

　しかし、同時に彼らはラットレースに乗り上げているのだ。
　競合企業のオープンAI、中国AI市場。先を越されることへの恐怖が、現場のエンジニアや経営陣を駆り立てている。

　コクソン氏が高給と地位を捨ててまで内部告発に至った理由はここにある。内部に留まっていては、この競争を長引かせるレースの一部に組み込まれるだけだ。
　彼は、政府の権限を持った国際的な外部機関による監査と規制の必要性を強く訴えている。

映画的ナラティブとガス抜き要員の可能性

　ここからはあくまでも個人的な印象語りとなる。興味のない方は飛ばしていただいてかまわない。

　インタビューのまとめをご覧いただいて、多くの読者は強い既視感を覚えただろう。
　インタビューの中身は目新しい内容はない。ただ、危機が迫っているという予測の再認識にすぎない。

　そう、ターミネーターやマトリックスの世界だ。
　つまり、コンピュータが人智を超え、人類の支配と淘汰を行うという未知の恐怖は、すでにわかりやすい形で何度も映像化され、エンタメとして我々の意識に刷り込まれている。

　noteで繰り返し発言してきているが、私は20代の頃からテレビを観る習慣を手放しており、普段のネット時間も意識的に制限している。
　日々のニュースや国際情勢などは多種多様なソースを追っているものの、マスメディアが垂れ流す文脈からはある程度の距離を置いて生活している。

その視点から今回の騒動を俯瞰したとき、ある種の強烈な違和感を覚えるのだ。

　ジェイコブ・コクソンというこの青年の立ち位置だ。

　業界でも相当な有名人であることは間違いないだろう。ただ、大手メディア組織そのものが政治プロパガンダ組織であることが世界的にバレつつある昨今、彼がNBC、CNN、ABC、CBSのような、政治プロパガンダ丸出しのメインストリームメディアのインタビューに登場し、自信満々に発言をしているところを見ると、この構図のために用意された物語のクサいニオいを感じざるを得ないのだ。

　AIによる人類の支配および淘汰（映画『ターミネーター』シリーズの世界）の危惧から始まり、AIを人類の支配下に置いておくための救世主（映画『マトリックス』のネオ）が登場する」という流れが、あまりにも完璧な映画的ナラティブを持っていることにお気づきにならないだろうか。

　こう見ていくと、政界、民間のAI企業、独立系AIエンジニアの上にもう一つ、世論を操る層（これを「支配層」と呼ぶ者もいる）があって、これが意図的に仕組んだシナリオと考えるとしっくりくるのだ。

　AIの急激な進化に対し、一般市民が本能的な恐怖や反発を抱くことは支配側にとって織り込み済みである。
　そこで、多くの人々が懸念するであろうターミネーターの世界に立ち向かう「内部からの勇敢な救世主」をメディアの舞台に登場させる。

　しかし彼は、実は大衆の不安や不満を吸収するためのガス抜き要員（予めAI業界や支配層が用意した工作員）に過ぎないかもしれないということだ。

　「彼のように優秀で倫理的な若者が声を上げ、外部機関による規制を作ろうとしてくれているのだから安心だ」と大衆に思わせること。

　それこそが真の目的ではないだろうか。結果として設立される国際的な規制機関とは、結局のところ既存の巨大AI企業や資本家たちが市場を独占し、新規参入を阻むための障壁として機能する可能性が極めて高い。

　彼が純粋な正義感から動いているのだとしても、その行動自体が大きな盤上のチェスの駒として利用されているという見方は、決して穿ったものではないはずだ。

ほとんどの人はAIで金持ちにはなれない

　残念ながら、見出しのとおりだ。

　職場で今までは到底不可能だったプログラミングが魔法のようにスイスイできるようになったり、複雑なレポート作成やプレゼンテーション資料作成の作業効率が大幅にアップたりして、案件が取りやすくなったとホクホクしている場合ではない。

　自分が便利だと思った時点で、他のネットユーザ全員も同じ利益を享受しようとしているのだから。

　稼げるのは世界の業界を牽引する側に立つ者たちと、彼らに投資する資本家たちだけになっていく。

　もうお気づきだと思うが、AIが進化すればするほど、どの業界の仕事のパイも小さくなっていく。
　その小さな小さなパイをその他大勢が取り合って糊口を凌ごうとする。
　だからこの構図に早いうちに気付き、今からでも別の活路を探っていく必要がある。

　すでにAIは今、事務職の仕事を奪いまくっている。それは以前翻訳業界の記事でも書いた。

　いずれはAIのオートメーションにより肉体労働の仕事も奪うようになるだろう。ごく一部を除き、既存の人間の仕事が消滅していくのももう時間の問題だろう。

　よって、AIを使えるようになったところで多くの人々の先にあるのは貧乏生活であるということだ。人間が生み出すものの商品価値はおろか、AIが生み出すものの商品価値まで驚きの速さで目減りしているからだ。

　だが、安心してほしい。社会的落伍者となった負け組だけが貧しくなるのではない。一握りの完全富裕層側に入れなかった人々はほぼ全員一様に生活レベルが一段も二段も下がる、というより下げざるを得なくなる。それを今のうちから覚悟できるかどうかの話だ。

　富裕層というのも、今投資が上手く行って億り人になったというレベルでは今後同じようにカネを中心とした生活は先細りになっていくだろう。
　カネが勝手ににカネを回し、戦争が起きようが大恐慌に陥ろうがそれでもカネが常に回るキャッシュフローを確立した富裕層でもなければ、FIREしてのんびり死ぬまで余生を楽しめるどころではなくなっていく。

　AIがもたらす鬱蒼とした未来を少しくらいはイメージしていただけただろうか。

　それでは、ごく最近になってAIが職場のみならず、日常生活に組み込まれるようになったその理由は何なのだろう。

　既得権益側の便利なツールで済ませておけば、彼らだけがAIを使って延々と暴利を貪り、庶民はこれまでのような、小さな夢だけを見てれば良い生活を死ぬまで続けられたかもしれないというのに。

　書けば長くなってしまうからこの辺にしておくが、我々にAIを使わせる理由の先、それが我々が自らの頭を使って本気で考えなければならないテーマなのだ。

激動の時代における個人の防衛策

　AIの知能爆発であれ、メディアを通じた世論誘導であれ、個人レベルで抗う力は微々たるものだろう。
　巨大なシステムが暴走するリスクを前にして我々ができることは、外の情報だけに惑わされず、自分自身の足元を固めることだ。

　私のnoteは、「たとえディストピアに向かう未来が到来しようとも、我々は生きていかなければならないのだ」が根底にある。
　だからこれまでの思想（拝金主義）の書き換えに関する話題や、より実践的なミニマリスト、数年単位の備蓄をローリングストックで回す方法などを紹介している。

　それらはすべてこうした外部システムの脆弱性に対するリスクヘッジに繋がっていくのだ。
　デジタルな知能が物理世界を脅かす可能性が現実味を帯びてきたいま、電力や通信、物流といったインフラが一時的に機能不全に陥ったとしても、心身を健康に保ちながら生存するためのアナログな土台を作っておくことの価値は、かつてなく高まっていると言えよう。

　天才エンジニアの警告は真実かもしれないし、壮大なプロパガンダの一部かもしれない。
　だが、どちらに転んだとしても、最後に自分の身と心を守るのは、画面の向こう側の救世主ではない。日々のささやかな備えと、自らの頭で思考し続ける姿勢そのものなのだ。

　ジェイコブ・コクソン氏の不自然な登場がどうしても気になったため、続編記事を投稿しました。