ハッカブル・ヒューマンとデジタル独裁者　ユヴァル・ノア・ハラリとのQ&A

ユヴァル・ノア・ハラリ：テクノロジーは人類最大の挑戦｜アルジャジーラとの対話
2018年8月24日

元記事はこちら。

Hackable humans and digital dictators: Q&A with Yuval Noah Harari New technologies are the biggest challenges facing humanity s www.aljazeera.com

ベストセラー『サピエンス』と『ホモ・デウス』の著者が語る、新しいテクノロジーは人類が直面する最大の難問です。

ユヴァル・ノア・ハラリは2014年、著書『サピエンス』の英訳をきっかけに、国際的な文学界の脚光を浴びるようになった。

火の発見から現代のロボット工学まで、人類の歴史を網羅した同書は、当時のバラク・オバマ米大統領やフェイスブック創業者のマーク・ザッカーバーグに祭り上げられ、世界で800万部以上を売り上げるノンフィクション出版現象となった。

イスラエルの歴史家であり作家でもある彼は、次作『Homo Deus』において、ビッグデータ、人工知能（AI）、バイオテクノロジーの発展がいかに人類社会を根本的に変え、分断し、ひょっとしたら種を完全に絶つかもしれないかを探求しています。

最新作『21世紀のための21のレッスン』でも同じテーマが再び登場し、瞑想から気候変動まで、あらゆることに対する考察をまとめたエッセイ、講演、読者への回答が収められている。

トーク・トゥ・アルジャジーラとのインタビューにて 宣伝、ハリー、民政、ジャー、そうそう、そうそう。

編集者注：このインタビューは分かりやすく簡潔にするために編集されています。

アルジャジーラ 現在、そして今後、私たちが直面する重要な課題や脅威は何だとお考えですか？

ユヴァル・ノア・ハラリ：21世紀の人の直行便。? これは何よりも世界を変えるでしょう。

うまくいけば、核戦争や気候変動は防げるかもしれません。しかし、技術的破壊は必ず起こります。AIやバイオエンジニアリングがどのような影響を与えるかについては、まだ選択の余地がありますが、これまで起こったことよりも、もしかしたら世界を変えてしまうかもしれません。

これらは主要な課題です。それ以外のことは、気晴らしになります。

アルジャジーラ ビッグデータ、バイオエンジニアリング、AIで何が起きると思いますか？私たち全員にどのような影響があるのでしょうか？

ハラリ：間違いなく起こることもあります。例えば、コンピューターやロボットがどんどん人間に取って代わることです。しかし、その帰結はどうなるのでしょうか。エリートが経済のすべてを支配し、利益を上げ、ほとんどの人間はある種の無用な階級に属するという極端な不平等社会が生まれるのでしょうか。これは避けられないことではなく、私たち次第なのです。

同様に、AIとバイオテクノロジーの組み合わせは、人間をハッキングできる時代がすぐそこまで来ていることを意味します。

コンピューターや電子メール、銀行口座のハッキングについては、よく話題になります。しかし、私たちは人間をハッキングする時代に突入しているのです。そして、今生きている人が21世紀について知るべき最も重要な事実は、私たちがハッキング可能な動物になりつつあるということだと言えるでしょう。

アルジャジーラ ハッキング可能とは、どのようなものですか？

ハラリ：企業や政府が、私たちがどこに行き、何をネットで検索し、何を買ったかというデータを膨大に蓄積することから始まります。しかし、これはすべて、世界における私たちの行動に関する表面的な情報です。大きな分水嶺となるのは、体内や脳内で何が起きているかをモニタリングし、調査できるようになったときです。そうなれば、人間を本当にハッキングできるようになり、私たちはそれにとても近づいています。

すでに多くの人が、心拍数や血圧を常時計測するフィットネス・トラッカー「Fitbit」を持っています。それを、購入したもの、ネットで検索したもの、読んだもの、テレビで見たものと掛け合わせるのです。映画を見ると同時に、Netflixはあなたの心拍数や脳で何が起こっているのかを知ることができるのです。

「AIやバイオエンジニアリングが世界にどのような影響を与えるかについては、まだ選択の余地がありますが、世界を変えるでしょう。」
ユヴァル・ノア・ハラリ著

生物学、特に脳科学に対する理解が深まり、機械学習やAIがもたらす膨大な計算能力が組み合わさったとき、人間をハックする能力が生まれます。つまり、人間の選択を予測し、感情を理解し、操作し、さらに人間を置き換えることができるのです。何かをハックすることができれば、それを置き換えることもできるのです。

アルジャジーラ AIが将来、より大きな役割を果たすようになることを懸念する声が多く聞かれます。あなたはそのことをそれほど心配していないようですね。なぜでしょうか？

ハラリ：大きな危険は雇用市場であり、AIが少数の人々に力を与え、デジタル独裁を生み出すことになることです。

近い将来、いや中期的にAIが意識を持ち、自ら感情や欲望を持つようになり、人を殺し始める可能性は極めて低いと思っています。それはSFの世界です。私はSFがとても好きですが、ここ数年SFが行った最悪のサービスは、AIの本当の危険性から人々の目をそらし、非現実的なシナリオに注目させることだと思います。

AIやコンピューターが意識を持つようになる兆候はまったくありません。

私はAIにもっと権限を与えることに反対ではありませんが、問題は、AIの主は誰なのか、ということです。AIは小さなエリートや大企業に仕えているのでしょうか？独裁的な政府に仕えているのでしょうか？それとも私に仕えるのでしょうか？AIを使って政府の完全な監視体制を作り、国民をコントロールすることもできます。また、市民が政府を調査し、汚職がないことを確認するためにAIを使うこともできます。同じ技術でどちらにも対応できるのです。

アルジャジーラ 最新作は「今」のための一冊とおっしゃっていましたね。今の政治はここしばらくなかったほど荒れており、あなたはブレグジットがイギリスとEUの両方を崩壊させる可能性があると示唆しています。ここからどう解きほぐすのでしょうか。

ハラリ：他者や他国と協力することへの信頼を失うと、人々はずっと自己中心的になっていきます。そうすると、誰もが自分の利益を優先し、協力することが難しくなります。

私は、Brexitが本質的に悪いとは思いません。イギリスがEUから独立したいと思ったのは、本当にタイミングの問題です。AI、気候変動、核戦争など、地球規模の問題はすべて、国家的な解決策がありません。

気候変動は国単位では防げません。自国の温室効果ガス排出量をゼロにすることはできても、他の国々が同じようにしなければ、何の役にも立ちません。同様に、国単位でAIを規制することもできません。

「21世紀について、今生きている誰もが知っておくべき最も重要な事実は、私たちがハッキング可能な動物になりつつあるということです...。何かをハックすることができれば、それを置き換えることができる。」
ユヴァル・ノア・ハラリ著

アルジャジーラ ブレグジットは、移民増加への懸念に大きく影響されたものです。あなたが話したカルチュリズムのような考え方は、現在EUで起こっているような、人種差別主義者や自分たちと異なる人々が自分たちのゾーンに入ってくることを恐れる人々にライセンスを与えるものではないのでしょうか？

ハラリ：もちろん危険はあります。人種差別とカルチュリズムの違いは、人種差別は生物学に関する議論であるということです。この人たちは、血の中に何かがある、遺伝子の中に何かがある、生物学の中に何かがある、それが必然的に彼らをある種の姿にしている、これは変えることができない、生物学の中にある」と言うわけです。

文化主義とは生物学のことではありません。文化の中に何かがある』と言うことです。彼らの文化は女性を尊重しない、彼らの文化はより権威主義的である、彼らの文化は......何でもいいのです」。

文化に関する議論というのは、常にではありませんが、正しい場合もあるということです。一方、人々の間に生物学的に大きな違いがあると考える科学的な根拠はない。覚えておかなければならないのは、文化は変わり、人は変わるということです。たとえ特定の文化圏に生まれたとしても、その後の人生において、世界観や道徳観、行動を変えられないということではありません。

人の一生の間に、文化全体がとてつもなく大きく変化することがあるのです。過去100年間のドイツを考えてみると、非常に多くの文化的変化がありました。ヒトラーの時代のドイツとメルケルの時代のドイツの文化は全く違うし、少なくとも一部の人々は同じです。

アルジャジーラ 厳しい批評家の中には、あなたはトレンドや問題を診断するのは得意だが、解決策や答えを提案することに関しては、あまり積極的ではないと言う人もいます。

ハラリ：確かに、解決策を見つけるのはずっと難しいのですが、問題や疑問をピンポイントで指摘することも非常に難しいのです。現在の私の主な仕事は、人々に最も重要な問題に焦点を当てさせ、明晰さをもたらすことだけだと考えています。そして、問題提起をする。では、その解決策とは何でしょうか。多くの場合、解決策はわかっています。ただ、それを実行に移すのは、特に世界的な協力がなければ難しいのです。

気候変動については、その解決策がわかっています。もはや大きなミステリーではありません。どのような技術を開発する必要があるかは分かっていますし、それを実行することもできます。どのような環境規制が必要なのかもわかっていますし、実行することも可能です。しかし、問題は政治的な意志がないことです。

AIやバイオエンジニアリングの場合は、もっと複雑です。なぜなら、誰もそれがどこに向かっているのか、どんな可能性が目の前に広がっているのか、知らないからです。それでも、私たちにできることはたくさんあります。問題は、政治的な意思の欠如と、それ以上に注目度の低さです。もし、人々がこれらの問題に注目すれば、解決はそれほど難しいことではないと思うのです。

参考記事

1.  神経調節(ニューロモジュレーション)技術の発達と人権についてのマガジン

神経に関わる諸権利ー侵される人権｜homme jian｜note note.com

2.  2020ダボス会議におけるユヴァルノアハラリの講演と日本語字幕及び編者による解説