「AI 2027」はとても優れた問いかけ

「AI 2027」を読みました。

映画のターミネーターのような人類滅亡のシナリオもあって様々な反応がありましたが、
私は、至極まともな論文だと感じました。

なぜか？

著者の伝えたかったメッセージが、
ものすごく本質を突いていると感じたためです。

「AI 2027」とは

元OpenAIのダニエル・ココタジロ氏のチームによる論文です。

AIの発展を詳細に予測したもので、2027年末に分岐点を迎えます。

上記のサイトでは「Slowdown（減速）」「Race（競争）」の2つに分岐しています。

そして、「Race（競争）」を選ぶと、AIの安全性よりも開発競争を優先したシナリオになり、AIが人類を支配するという結末を迎えます。

分岐点までの概要はこちらです。

「AI 2027」で伝えたいことは？

本題の「著者が伝えたいメッセージは何か」です。

「近い将来に判断を迫られる急激な変化が起こる。
　その時、適切に判断できるか？」

だと感じました。

例えば、個人でいうと、
・転職で仕事が変わった、上司が変わった
・子供が産まれるなどで家庭環境が変わった
などによる変化で、自分の許容範囲を超えると
体調を崩しやすくなります。

ただし、この変化が許容範囲を大幅に超えると、
体調不良では済まされないかもしれません。

論理的に考えられず、感情的になるかもしれません。

バトルアニメだと
「自分が制御できない大きな力を手に入れた」
などでしょうか？

人類にとってAIの急発展は許容範囲内？

先日、「水道哲学と生成AI：誰もがクリエイターになれる時代の光と影」で書いた「ちょっと立ち止まって考えてみたい」と、
nobuさんの記事の『違和感』がつながりました。

どういうことかというと、これです。

AI研究開発自体が、AIによる自動化によって行われるようになって人間が理解できない状況になると致命的な問題を回避する手段がなくなります。

そのため、言語化すると

「きちんとリスクに向き合い、
　AI任せにせずに人間が理解できるようにして、
　日々議論を重ねなければならない。」

になります。

時として、人は論理よりも感情が強くなります。
感情的な対応がされず、問題が検知されて議論し、
対応が続いていくような世界線であれば、
ディストピアは回避できると思われます。

現在はきちんと制御できているようです。

最後までお読みいただき、ありがとうございました。

この記事を読んでいただいて皆さまが感じた
「私はこう思った」「こうすればよいのでは」
などのアンサー記事をお待ちしております！

では、AI時代にどう判断すればいいのか

「AI 2027」を読んで、私が一番重要だと感じたのは、

という問いでした。

では、AIがさらに賢くなり、人間らしい答えを返すようになったとき、私たちは何を基準に判断すればよいのでしょうか。

その後、ユヴァル・ノア・ハラリ氏の『NEXUS』で知ったのが、
「エイリアン・インテリジェンス（Alien Intelligence）」
という考え方でした。

AIを「人間より賢い人間」と考えるのではなく、そもそも人間とは異なる知能として捉える。そう考えると、なぜ「AIが言ったから」で判断してはいけないのかが、少し見えやすくなりました。

▶ エイリアン・インテリジェンス（Alien Intelligence）とは？『NEXUS』から考えるAI時代の判断力