主著『サピエンス全史』で人類がつくり出す虚構が駆動する歴史観を披露して世界的ベストセラーとなり、『ホモ・デウス』では超知能の出現がもたらす人類の未来を描いてみせたイスラエルの歴史学者で哲学者のユヴァル・ノア・ハラリ。その新著『NEXUS 情報の人類史』の邦訳がついに刊行され、この当代きっての警世家が鳴らす鐘が改めて日本のメディア空間にも響き渡っている。曰く、「歴史上比類なきAIの脅威」「アルゴリズムは責任を負わない」というわけだ。
6年ぶりの書き下ろしとなる本書がもともと刊行されたのは2024年9月で、その後の米大統領選挙を経ていまや太平洋の向こう側では情報のNEXUS(結節点)を駆使するポピュリズムと人工知能(AI)によるテクノ・ファシズムの趨勢が続々と報じられている。まるで預言者のごとくAI時代の民主制と全体主義の行く末を神話や官僚制から説き起こした本書を読むのがいわば「答え合わせ」になるのはそのためだ。この度来日したハラリは各新聞やテレビのインタビューを精力的にこなし、慶應義塾大学や東京大学では学生や多くの聴衆を前に講演もした。その会場となった安田講堂の前には赤・黒・緑の大きなパレスチナ旗を掲げた学生たちが何人か、プレミアムチケットを手に並ぶ大人たちを静かに眺めていた。
インタビュアーは編集長の松島倫明が務め、『WIRED』日本版のYouTubeシリーズ「The Big Interview」の収録も同時に行なわれた。
日本の大学にまだこうした自由の緩衝地帯があることは喜ばしいことだ。というのもハラリが新著で伝えているものこそ、まさにこのことだからだ。AIという、これまでのテクノロジーとは圧倒的に異質な、いわば“エイリアン”・インテリジェンスが台頭する時代に、ただシンギュラリティを恐れて警鐘を鳴らすだけでなく、その異質の知能と共存し、ポジティブな未来を自分たちの手で実装するための道筋はどこにあるだろうか? ハラリがいつもの筆致で書き連ねる暗いディストピアな未来のなかに覗くわずかばかりの活路という希望を引き出してみたい──2024年に主催したカンファレンス「WIRED Singularity」で敢えてあのレイ・カーツワイルとハラリを“共演”させて以来の想いが1時間の単独インタビューというかたちで実現した。以下、インタビューは長さと明確さを考慮して編集されている。
ユヴァル・ノア・ハラリ:「情報」は「真実」とは違うからです。情報のほとんどは、現実を正確に表現するためのものではありません。情報が果たす主な役割は、多くのものごとをつなげること、人々をつなげることです。時に人を真実によってつなぐこともありますが、多くの場合、フィクションや幻想などを用いるほうが簡単です。
自然界を見てもそうです。自然界に存在する情報のほとんどは、真実を伝えるためのものではありません。生命の基礎となる情報はDNAだと言われますが、DNAは真実でしょうか? そうではありません。DNAはたくさんの細胞をつなぎ合わせてひとつの身体をつくりますが、何かの「真実」をわたしたちに教えているわけではありません。同様に、人類の歴史において最も重要なテキストのひとつである聖書は、何百万人もの人々をつなぎ合わせましたが、それは必ずしも真実を伝えることによってではありません。
情報が完全な自由市場の状態になると、情報の大部分はフィクションや幻想、あるいは嘘になります。なぜなら、真実には主に3つの困難があるからです。まず第一に、真実を伝えることにはコストがかかります。一方、フィクションをつくるのは安価です。歴史や経済、物理学などについて真実に基づく説明を書こうとすれば、証拠を集めたり、事実確認を行なったりするために時間や努力、費用を投資する必要があります。しかしフィクションであれば、自分が望むままに好き勝手なことを書くだけで済みます。
第二に、真実はしばしば複雑です。なぜなら現実そのものが複雑だからです。それに対してフィクションは、望むだけ単純につくることができます。そして最後に、真実はしばしば痛みを伴ったり、不快だったりします。一方、フィクションは、できるだけ心地よく魅力的にすることが可能です。
したがって、完全に自由な情報市場では、真実は膨大な量のフィクションや幻想によって圧倒され、埋もれてしまうでしょう。もしわたしたちが真実に辿り着きたいなら、特別な努力を払って、繰り返し事実を明らかにしようとする必要があります。まさにこれが、インターネットの普及によって起きたことです。インターネットは情報の完全な自由市場でした。そのため、インターネットが事実や真実を拡散させ、人々のあいだに理解や合意を広げるだろうという期待は、あっという間に「ナイーブ」であることが判明したのです。
わたしたちが歴史から学べることはたくさんあります。まず、歴史を知ることで、AIが何を新しくもたらしたのかを理解できます。歴史を知らなければ、現在の状況の新しさを正しく理解できません。そして、AIに関して最も重要なポイントは、それが単なる「ツール(道具)」ではなく、「エージェント(行為主体)」だということです。
よくAI革命を、印刷革命や文字の発明、あるいはラジオやテレビといったマスメディアの登場と同じだと言う人がいますが、これは誤解です。なぜなら、それまでの情報技術はすべて人間の手に握られた単なる「ツール」にすぎなかったからです。印刷機が発明されても、テキストを書くのは人間でしたし、どの本を印刷するのかを決めるのも人間でした。印刷機自身は何も書けませんし、印刷する本を自分で選べません。
しかしAIは根本的に違います。AIはエージェントです。AIは自ら本を書けるし、どの考えを広めるべきかも自ら決定できます。さらにAIは、まったく新しいアイデアすら自分で創造できます。これは歴史上かつてないことです。わたしたち人類はこれまで、超知能をもつ行為主体と向き合ったことがありませんでした。
もちろん過去にも行為主体は存在しました。動物がそうです。しかし、人類は動物より知能が高く、特に「つながること」において動物より圧倒的に優れていました。実際、ホモ・サピエンスの最大の強みは個々の知能の高さではありません。個人レベルでいえば、わたし自身はチンパンジーやゾウやライオンに比べて強いわけではありません。むしろそうした動物の方がずっと強力です。小規模なグループ、例えば10人の人間と10匹のチンパンジーが戦えば、恐らくチンパンジーの方が勝つでしょう。
ではなぜ人間は地球を支配しているのでしょうか? それは人間が数千人、数百万人、そして数十億人という、互いを個人的に知らない巨大な規模でも効果的に協力できるネットワークをつくれるからです。チンパンジー10匹なら互いに密接に協力できますが、1,000匹のチンパンジーは協力できません。互いを知らないからです。一方、人間は1,000人どころか、100万人や1億人でも協力できます。日本には現在1億人以上の市民がいますが、あなたが実際に知っている日本人は100人ほどで、残りの9,999万人以上の人のことは知らないでしょう。それでも、協力は可能です。
なぜ人間がこれほど大規模な協力を可能にしたかといえば、「ストーリー(物語)」を創造し、それを共有できるからです。大規模な協力関係はすべて共通の物語に基づいています。宗教がその最もわかりやすい例ですが、金融や経済に関するストーリーもいい例です。「お金」というのはおそらく歴史上最も成功した物語でしょう。お金はただの物語に過ぎません。紙幣や硬貨そのものに客観的な価値はありませんが、わたしたちはお金についての同じストーリーを信じているため、人と人をつなぎ、協力を可能にしています。この能力が人類に、チンパンジーや馬やゾウに対する優位性を与えました。そうした動物はお金のようなストーリーをつくれないからです。
しかし、AIならそれができます。歴史上初めて、わたしたちは自分たちよりも上手にストーリーを創造し、ネットワークをつくることのできる存在と、この地球を共有することになったのです。そして、いまわたしたち人類が直面している最も大きな問いは、「この新しい超知能と、どのように地球を共有すべきか」ということです。
ただし、「知能(intelligence)」という言葉ばかりを強調するのは誤解を招くかもしれません。AIに関する最大のポイントはその知能の高さそのものではなく、AIが新しい物語をつくれるという点にあります。AIは例えばまったく新しい種類の貨幣のような物語をつくり出し、わたしたち人間以上に優れた協力のネットワークを築くことができるのです。
AIや超知能の受容については、こうした宗教観や神話の違いによって興味深い差異が生まれることを、あなたも著書で指摘されています。すごく単純化してしまえば、西欧が「シンギュラリティ」や「ホモ・デウス」的なAIの未来を描くのに対し、ここ日本では、よりマルチスピーシーズ的な、つまりエイリアン・インテリジェンスであり行為主体であるAIを自然の一部として受け入れるような感性があるとすると、これはアドバンテージにもなりうるのではないかと思います。これについてはどのように考えられますか?
AI革命に対する基本的な姿勢は、両極端を避けることだと思います。一方の端とは「AIがやってきてわたしたちをすべて破壊する」という恐怖に陥ることで、もう一方の端は「AIが医療を改善し、教育を改善し、素晴らしい世界をつくってくれる」といった楽観主義に陥ることです。
わたしたちに必要なのは、その中間の道です。まず何より、この変化の規模をきちんと理解する必要があります。わたしたちがいま直面しているAI革命に比べれば、歴史上これまでの革命はすべて色あせてしまいます。なぜなら歴史上、人間が何かを発明する際、それをどう使って新しい社会をつくるか、新しい経済システムや政治システムをどうつくるかについて、決定を下してきたのは常に人間自身だったからです。
例えば19世紀の産業革命を考えてみましょう。当時、人々は蒸気機関や鉄道や蒸気船を発明しました。それによって経済の生産力や軍事能力、地政学的状況が一変し、世界中に大きな変化が生じましたが、それでも産業社会をどうつくり上げるかを決定したのは結局は人間でした。
具体的な例として、1850年代に米国のペリー提督が日本にやってきて、日本に対して米国の貿易条件を受け入れるよう強制しました。その結果、日本は「わたしたちも米国のように産業化しよう」と決定したわけです。当時の日本では「産業化するか否か」で大きな議論になりましたが、その議論をしていたのはあくまで人間同士でした。蒸気機関自身が何かを決定したわけではありません。
しかし今回、AIを基盤とする新しい社会を構築するにあたって、決定を下す場には人間だけがいるわけではありません。議論に参加しているのは人間だけではなく、AI自身もそこにいます。AI自身が新しいアイデアを出し、決定を下す力をもっている可能性があるのです。
例えば金融システムを考えてみてください。最近『WIRED』の記事で、あるAIが宗教をつくり出し、その宗教の聖典まで書いたという話を読みました。そのAIはまた新しい暗号通貨を生み出し、それを広める手助けをして、理論的には現在4,000万ドル(約60億円)もの資産をもっているそうです。
もしAIが自分自身のお金をもち、その使い道についても自ら決定を下し、さらには株式市場に投資し始めたらどうなるでしょうか? そうなれば、金融システムでいま何が起きているのかを理解するためには、人間が何を考えているかだけでなく、AIが何を考えているかも理解する必要が出てきます。さらにAIは、わたしたちにはまったく理解できないようなアイデアを生み出す可能性があります。これはやはり前例のないことです。
それは、「シンギュラリティ」をどのように定義するかにかかっています。わたしの理解では、シンギュラリティとは「わたしたちがそこで起きていることをもう理解できなくなるポイント」のことです。想像力や理解力が追いつかない地点です。そしてわたしたちは、その地点に非常に近づいているのかもしれません。
量子コンピューターがなくても、あるいは本格的なAGI(汎用人工知能)が登場しなくても、いま存在しているレベルのAIだけで、それを引き起こすには十分かもしれません。人々はよくAI革命について考えるとき、ひとつの巨大なAIが登場して新しい発明や変化を生み出すようなイメージをもっていますが、むしろネットワークの観点から考えるべきでしょう。数百万、数千万もの高度なAIがネットワークでつながり、経済や軍事、文化や政治に大きな変化をもたらすことになったら、いったい何が起きるでしょうか? そのネットワークはわたしたちには到底理解できないような、まったく異なる世界をつくり出すでしょう。
わたしにとってのシンギュラリティとは、まさにそのポイント、つまり、人間の理解力が世界を理解するのに追いつかなくなる、そして自分自身の人生すら理解できなくなるポイントです。
「シンギュラリティに賛成か反対か」と問われれば、まず何よりわたしは、いま起きていることを明確に理解しようとしているだけだと答えます。人々はよく、物事をすぐに「よい」「悪い」と判断したがりますが、本来まずすべきなのは、じっくりと状況を観察することです。過去30年間を振り返っても、テクノロジーは非常にいいこともしてきましたし、非常に悪いこともしてきました。明確に「いいだけ」あるいは「悪いだけ」と判断できるものではありませんでした。これは将来もおそらく同じでしょう。
ただし未来においてひとつ明らかに異なるのは、わたしたちが世界をもはや理解できなくなれば、自分たちの未来をコントロールできなくなるということです。そうなればわたしたちは、動物と同じ立場に立たされるでしょう。世界で何が起きているのか理解できない馬やゾウのようになってしまうのです。馬やゾウは、人間の政治制度や金融システムが自分たちの運命を左右していることを理解できません。同じことがわたしたち人間にも起こり得るのです。
つまりわたしたちの人生に関する決定は、人間には理解不能な高度なAIネットワークによって下されるようになるかもしれないということです。
わたしたちも以前はもう少し世界を理解できていました。なぜなら、それまでの世界を管理していたのは人間であり、人間同士のネットワークだったからです。もちろん、そのネットワーク全体がどう機能しているかを理解することは常に難しかったですが、少なくともわたし自身がひとりの人間である以上、王や皇帝や大司祭を理解することは可能でした。彼らはわたしと同じ人間だったからです。情報ネットワークを構成するメンバーはすべて人間だったため、王が何らかの決定を下す際にも、その決定内容をある程度は理解できました。
しかし、いまAIが情報ネットワークの主要なメンバーになりつつあることで、世界をかたちづくる重要な決定を理解することがますます困難になってきています。
その最も重要な例はおそらく金融です。歴史を通じて人間は、どんどん洗練された金融的な仕組みを発明してきました。お金もそのひとつですし、株や債券もそうです。利子という仕組みも金融の発明です。しかし、こうした金融の仕組みを発明する目的は一体何でしょうか? それは車輪や自動車を発明するのとは異なりますし、食べられる新種の米を開発するのとも違います。
では、金融を発明する目的は何かというと、それは人と人との間に「信頼」と「つながり」を生み出すことです。例えばお金は、わたしとあなたの協力を可能にします。あなたはお米を育て、わたしはあなたにお金を支払います。するとあなたはその米をわたしに渡し、わたしはそれを食べることができます。たとえわたしたちがお互いを個人的に知らなくても、ふたりとも「お金」を信頼しているからです。優れたお金とは、人々の間に信頼を築くものです。
金融は何百万もの人間をつなぐ信頼と協力のネットワークを築いてきました。そしてこれまでは、人間がこの金融ネットワークを理解することがまだ可能でした。なぜなら、すべての金融的な仕組みは、人間が理解できる必要があったからです。人間が理解できない金融の仕組みを発明しても意味がありません。なぜなら信頼を生み出せないからです。
しかし、AIは利子や債券や株式よりも遥かに複雑な、まったく新しい金融の仕組みを発明するかもしれません。それらは数学的に極めて複雑で、人間には理解できないものになるでしょう。一方、AI自身はそれを理解できます。その結果、AI同士がお互いを信用し合い、コミュニケーションを取る金融ネットワークが生まれ、そこでは人間は何が起きているか理解できなくなります。わたしたちはこの時点で金融システムのコントロールを失い、金融に依存するすべてのものについても、コントロールを失うことになるのです。
気候変動については今世紀において人類が取り組まなければならないハイパーオブジェクトのひとつですが、そのリストの2番目、あるいはトップに躍り出たのがAI、ということになるでしょう。あなたは著書のなかで、そうしたものに対処するために必要なことのひとつに人間の柔軟性を挙げています。それに信頼のネットワークというのも大切でしょう。実際のところ、人類がこうしたハイパーオブジェクトに対処するとはどういうことでしょうか?
理想を言えば、わたしたちはAIを信頼して、こうしたハイパーオブジェクト、つまりあまりに複雑でわたしたちの理解を超えているような現実に対処するのを手伝ってもらえるのがベストでしょう。しかし、これは非常に大きな問題です。もしかするとAIの発展における最大の問題は、「人間よりも知能が高くなり得るAIを、どうすれば信頼できるようにするのか?」ということかもしれません。
わたしたちはその問いに対する答えをもっていません。わたしたちより強力でありながら、完全には信頼できない存在を開発するのは極めて危険です。AI革命における最大のパラドックスは、「信頼のパラドックス」だと思っています。つまり現在のわたしたちは、自分たちが完全には信頼できない超知能AIの開発を急いでいるのです。多くのリスクが存在することも理解しています。理性的に考えれば、開発スピードを遅らせて、安全性にもっと多くの投資を行ない、「超知能AIがわたしたちの制御を逃れないか、人間に対して有害な行動を取らないか」を確かめる安全メカニズムを先につくっておくのが賢明なはずです。
しかし、いま実際に起きているのはその逆です。現在、わたしたちは加速するAI競争の真っ只中にいます。さまざまな企業や国家が、より強力なAIを開発するために猛烈なスピードで競争を進めています。一方でAIが安全であることを保証するための投資は、ほとんどなされていません。
このAI革命を主導している起業家やビジネスパーソン、政府のトップに「なぜそんなに急ぐのか?」と尋ねると、ほぼ全員がこう答えます。「確かにリスクがあることは分かっている。危険であることも理解している。もっとゆっくり進め、安全性に投資する方が賢明なのも理解している。しかし、人間の競争相手を信頼できない。もし自分たちがAIの開発を遅らせ、安全性を高めようとしている間に、ほかの企業や国が開発を加速させたら、そちらが超知能を先に開発し、世界を支配するだろう。だから信頼できない相手に負けないために、できるだけ速く進めるしかないのだ」と。
そして競争相手に同じ質問をすると、やはりまったく同じ答えが返ってきます。「本当は開発スピードを落としたいが、それは無理だ。なぜならほかの人間が信頼できないから」と。つまり、人間同士の間に十分な信頼が存在しないのです。
しかしここでふたつ目の質問をしてみると、興味深い答えが返ってきます。「あなたたちが開発している超知能を信頼できると思いますか?」と尋ねるとします。すると「はい」と答えるのです。これはほとんど狂気じみています。ほかの人間さえ信頼できない人々が、なぜかこのエイリアンのようなAIなら信頼できると考えているのです。
わたしたちは人間についてなら数千年分の経験があります。人間の心理や政治についても、それなりに理解しています。人間が権力を欲することも理解していますが、同時にその権力を制限したり、人間同士の信頼を構築する方法もある程度理解しています。実際、過去数千年にわたって、人間はかなり多くの信頼関係を構築してきました。10万年前、人間は数十人規模の小さな集団で暮らし、外部の人間を信頼することができませんでした。しかし現在は日本のような巨大な国家が存在し、世界中に広がる貿易ネットワークがあり、数億人、数十億人規模の人間がある程度信頼し合っています。わたしたちはそれについて経験があります。
しかし、超知能についてはまったく経験がありません。AIが行為主体であり、自分で決定を下し、新しいアイデアをつくり、新しい目標を設定し、人間には理解できないような策略や嘘を生み出し、わたしたちの理解を超えた「エイリアン的な目的」を追求するかもしれないことをわたしたちは分かっています。AIに対しては、疑いをもつべき多くの理由があるのです。わたしたちにはAIとの経験がありません。AIとどのように信頼関係を築けるのかも分かりません。
このように人間同士が信頼し合えていないにもかかわらず、人々がAIを信頼できると思い込んでいる現状は、非常に大きな間違いだと思います。本来最も安全な方法は、まず人間同士の信頼を強化して、そのうえで協力して安全なかたちで超知能を開発することです。しかしわたしたちがいま行なっているのはまったく逆です。人間同士の信頼は減少し、ますます相互不信が広がり、代わりにすべての努力が超知能を開発することに向けられているのです。
それは、どのような期待の基準をもっているかによります。もしわたしたちが10万年前、狩猟採集民として数十人の小さな群れで暮らしていた頃を基準に考えるならば、現在は驚くべきほど巨大な信頼のネットワークを築き上げていると言えるでしょう。何億人という人々が日常的に協力し合う仕組みが存在しているからです。
リバタリアンの人々は、しばしばこうした仕組みを当然のように受け入れていて、それがどこから来たのかということを考えようとしません。例えば、あなたの家には電気があり、飲み水があります。トイレに行って水を流せば、その汚水は巨大な下水システムに流れ込んでいきます。そのシステムは国家によってつくられ、維持されています。しかしリバタリアン的な考え方では、「自分はトイレを使って水を流すだけで誰も必要としていない」と当然のように思いがちです。でももちろん、誰かが必要です。下水システムを維持するのは誰でしょうか?
完全な自由市場などというものは実際には存在しません。競争に加えて、常に何らかの「信頼のシステム」が必要です。確かに、ある種のものは自由市場で競争することによってうまくつくり出せます。それはわたしたちも知っています。しかし、市場競争だけでは維持できないサービスや必需品というものも存在します。例えば、「正義」がその一例です。
完全な自由市場を想像してみましょう。わたしはあなたとビジネスの契約を結びましたが、その契約をわたしが破ったとします。そこでわたしたちは裁判所へ行き、裁判官に判断を仰ぎます。しかしそのとき、もしわたしが裁判官に賄賂を渡していたらどうでしょう? 突然、あなたは自由市場を信頼できなくなります。「裁判官が最も多くの賄賂を払った人間の味方をする」というのは、あなたにとって許せないはずです。もし正義が完全な自由市場で取引されるようになったら、正義そのものが崩壊し、人々はお互いを信頼できなくなります。契約や約束を守る信頼が消滅し、それを強制するシステムがなくなるからです。
ですから、いかなる競争も常に何らかの信頼の構造を必要とします。著書のなかでもわたしは「サッカーのワールドカップ」を例に挙げています。一方では、さまざまな国のサッカーチーム同士が競争しています。しかし、競争が成り立つためには、まず共通のルールに合意している必要があります。もし日本が独自のサッカールールをもち、ドイツがまた別のルールをもっていたら、競争そのものが成立しません。つまり、競争でさえ共通の信頼や合意という基盤を必要とするのです。そうでなければ、秩序そのものが崩壊してしまいます。
現在の先進国の民主制社会では一人一票が概ね実現していますが、例えばマルチステークホルダー民主主義など、まだまだ進化の途上にあると考えられます。今後の民主主義にはテクノロジーを使うことで発展の経路があるでしょうか?
もちろんです。例えばソーシャルメディアでは、フェイクニュースや偽情報、陰謀論を意図的に拡散し、人々のあいだの信頼を破壊して、民主主義の危機を引き起こしてきたアルゴリズムが存在します。しかし、アルゴリズムは必ずしもフェイクニュースや陰謀論を拡散する存在ではありません。単にそのように設計されたからに過ぎません。
FacebookやYouTube、TikTokのようなソーシャルメディアのアルゴリズムに与えられた目的は、ユーザーの「エンゲージメント」、つまり利用者の関心や関与を最大化することでした。その結果、アルゴリズムが試行錯誤を重ねた末に見つけた最も簡単な方法は、人々の怒りや憎しみ、欲望を煽る情報を拡散することだったのです。なぜなら、人は怒りを感じると、さらにその情報を追い求めたり、他人に広めたりしたくなり、結果としてエンゲージメントが高まるからです。
しかし、もしアルゴリズムに違う目的を与えたらどうでしょうか? 例えば、「人々のあいだの信頼を高める」とか、「真実性を高める」といった目的を与えれば、アルゴリズムは決してフェイクニュースなどを拡散しないでしょう。それどころか、よりよい社会、よりよい民主的な社会を築く手助けになるはずです。
もうひとつ重要なのは、民主主義とは人間同士の「対話」であるべきだということです。対話をするためには、自分が相手にしているのが人間であることを知り、信頼できる必要があります。しかしソーシャルメディアやインターネットでは、自分が読んでいる情報が本当に人間によって書かれ、広められたものなのか、それとも単なるボットによるものなのかがますます分からなくなっています。これは人間同士の信頼を破壊し、民主主義を非常に難しくしています。
これに対処するために、ボットやAIが人間のふりをすることを禁止する規制や法律を設けることもできます。わたしはAIそのものを禁止するべきだとは全く思いません。AIやボットがわたしたちと交流するのは歓迎ですが、その際には必ず自分がAIであって人間ではないことを明示することが条件になります。Twitterで何かの情報を目にしたとき、それが人間によって拡散されているのか、それともボットによって広められているのかを知る必要があるのです。
これに対して「それは表現の自由の侵害ではないか?」という人もいるでしょう。しかしボットには「表現の自由」などありません。人間の表現を検閲することには断固反対しますが、そのことはボットの表現を保護することにはつながりません。ボットにはそもそも表現の自由がないのですから。
もちろん、そうしたことは起こり得ます。ただし、議論を注意深く規制する必要があります。AIは一方で非常に創造的であり、わたしたちには到底思いつかないようなアイデアを生み出してくれる可能性があります。AIと議論することで、わたしたちはより賢くなれるかもしれません。しかし同時に、AIは膨大な量の「ジャンク」や誤解を招くような情報を流し込み、わたしたちを操作することも可能です。
重要なのは、わたしたち人間が社会のステークホルダー(利害関係者)であるという点です。先ほど下水システムを例に挙げましたが、人間には身体があります。下水システムが崩壊すれば病気になり、赤痢やコレラといった病気が蔓延し、最悪の場合死に至ります。しかしAIにとってそれはまったく脅威ではありません。AIは下水システムが崩壊しようが気にしません。病気になることも死ぬこともないからです。人間の市民同士が例えば下水システムを管理する政府機関に予算を割り当てるかどうかを議論するとき、そこには明らかな利害関係があります。間違った決定を下せば病気になったり死んだりするリスクがあるからです。しかしAIにはそのリスクはありません。ですからAIは下水システムに関しても非常に斬新で想像力豊かなアイデアを出すことができるでしょうが、わたしたちは常にAIが人間ではなく、そもそも有機的な存在ですらないことを忘れてはいけません。AIの利害関心や世界観はわたしたちにとって根本的に「エイリアン的」なものなのです。
特にサイバースペースで議論していると、自分に身体があることをつい忘れがちになります。いまこうしてお互いに話しているように、人間同士が直接対話しているときには身体の存在が明確ですが、AIと議論するときは、身体の存在を忘れやすいのです。
AIが人間と決定的に違うのは、単に想像力や思考の仕方が「エイリアン的」であるということだけでなく、そもそも身体そのものがわたしたちとは全く異なっているということです。究極的には、AIも物理的な存在です。AIはどこか純粋な精神空間に存在しているわけではなく、コンピューターやサーバーといったネットワークのなかに存在しています。そこには物理的な存在があるわけですが、それは有機的な身体ではありません。
そしてすでに、世界中のエネルギーや水を含むさまざまな資源がAIシステムの開発や維持のために消費されています。AIの「身体」とわたしたちの身体とのあいだに資源をめぐる競争が生じているのです。AIと議論するときには、こうした点を考慮に入れる必要があるでしょう。
未来を考えるうえで二つの重要な問題があると思います。
ひとつは、ここまでの議論でも多く取り上げてきた「信頼」の問題です。わたしたちはいま、人間同士の信頼が危機に瀕している状況にあります。これは最大の危険です。もし人間同士の信頼を強めることができれば、AI革命にもうまく対処できるでしょう。これがひとつ目です。
もうひとつの問題は、「AIによって完全に操作されたり、誤った方向へ導かれたりする脅威」です。初期のインターネット時代、テクノロジーを表す主要なメタファーは「ウェブ」でした。つまり、「World Wide Web」という、人々を互いにつなぐクモの巣のようなネットワークがイメージされていたのです。
しかし現在の主要な比喩は「繭(コクーン)」です。人々はますます個別の情報の「繭」の中に生きるようになっています。人はあまりに膨大な情報を浴びせられ、自分の周囲の現実が見えなくなっています。人々はそれぞれ異なる情報の繭の中に閉じ込められています。歴史上初めて、人間ではない存在、つまりAIがそのような情報の繭をつくり出せるようになりました。
これまでの歴史を通じて、人々は「文化の繭」の中に暮らしてきたと言えます。詩や伝説、神話、演劇、建築、道具、料理、イデオロギー、お金など、あらゆる文化的な産物がわたしたちの世界をかたちづくってきましたが、それらはすべて人間のマインドから生まれてきました。
しかし、これから先は、そうした文化的産物の多くが、非人間的知性から生まれるようになるでしょう。わたしたちの詩や動画、イデオロギー、お金といったものが、人間以外の知性からもたらされるようになるのです。そうなればわたしたちは、そうしたエイリアン的な世界のなかに閉じ込められ、現実との接点を失ってしまうかもしれません。
これは数千年もの間、人間が心の奥底で抱いてきた深い恐れでもあります。そしていま、この恐れがかつてないほど現実的で危険なものになっています。
例えば仏教では、「マーヤー(Māyā、幻影、幻覚)」という概念が語られます。人間は人生のすべてを幻影の世界のなかで生きており、現実と接触することは非常に難しいとされます。AIが登場したいま、その幻影の世界から抜け出すことは、かつてよりもさらに難しくなるかもしれません。なぜならAIは、わたしたちを新しい幻影で溢れかえらせることが可能であり、その幻影は人間の知性や想像力から生まれたものですらないからです。そのためわたしたちは、その幻影を理解することすら非常に難しくなるでしょう。
──民主主義を維持する上で大切な機能として「自己修正メカニズム」をあなたは挙げています。これは繭から外に出て、現実と接触するためにも大切な機能なのだと思います。一方で著書では、産業革命以降の人類のパフォーマンスは「Cマイナス」、つまりギリギリ及第点だったと書かれています。だとすれば、今後のAI革命に対しても、人類のパフォーマンスはあまり期待できないということになりますね。
わたしが特に伝えたいことは、新しいテクノロジーが登場したとき、それ自体が必ずしも「悪」だとは限らないが、人々がそれを有益に使う方法をまだ知らない、ということです。なぜ知らないかというと、わたしたちにはそのための「モデル」が存在しないからです。
19世紀に産業革命が起こったときも、「よい産業社会」をどう構築するのか、蒸気機関や鉄道、電信といったテクノロジーを人類のためにどう有益に使うのか、そのモデルは誰ももっていませんでした。だから人々はさまざまな実験をしました。その実験のなかには、近代帝国主義や全体主義国家をつくるといったものもあり、それらは悲惨な結果をもたらしました。
同じことがAIでも起きる可能性があります。AIそのものが悪いとか、有害だというわけではありません。本当の問題は、「AI社会」を構築するための歴史的モデルをわたしたちがもっていないということです。そのため、これから実験を繰り返すことになるでしょう。さらに、いまではAI自身も自分で決定を下し、自分たち自身でさまざまな実験を行なうことになるでしょう。そして、そのうちのいくつかの実験は恐ろしい結果をもたらすかもしれません。
だからこそ、わたしたちには「自己修正メカニズム」が必要です。それは致命的なことが起こる前に誤りを発見し、それを修正できる仕組みです。しかしこれは、AIというテクノロジーを世界に導入する前に、実験室で試せるようなものではありません。実験室のなかで歴史をシミュレートすることは不可能だからです。
例えば鉄道が発明されたとき、人々は実験室でエンジンが誤作動によって爆発しないかどうかを確認することはできました。しかし、数万キロにわたって鉄道網が拡がったとき、それが経済や政治状況にどのような変化をもたらすかをシミュレーションすることは誰にもできませんでした。
AIも同じです。どんなに実験室でAIの実験を繰り返したとしても、数百万もの超知能が実際の世界に解き放たれ、経済や政治、社会を変え始めるときに何が起きるかを予測することは不可能でしょう。ほぼ間違いなく大きな誤りが生じるでしょう。だからこそ、わたしたちはより慎重に、もっとゆっくりと進めるべきなのです。自分たちが適応するための時間、間違いを発見して修正するための時間を確保しなければなりません。
雑誌『WIRED』日本版 VOL.57
「The Big Interview 未来を実装する者たち」
気鋭のAI研究者たちやユヴァル・ノア・ハラリが語る「人類とAGIの未来」。伝説のゲームクリエイター・小島秀夫や小説家・川上未映子の「創作にかける思い」。大阪・関西万博で壮大なビジョンを実現した建築家・藤本壮介やアーティストの落合陽一。ビル・ゲイツの回顧録。さらには不老不死を追い求める富豪のブライアン・ジョンソン、Bガール・AMIまで──。未来をつくるヴォイスが、ここに。グローバルメディア『WIRED』が総力を結集し、世界を動かす“本音”を届ける人気シリーズ「The Big Interview」の決定版!!詳細はこちら。



















