善意と悪意は、対称ではない

今年の個人情報の流出件数が、延べ2億6000万件を超えた。

1億2000万を超える日本に住む人の数より、漏れた情報の件数のほうが多い。

この数週間、誰もが知る企業の名が、次々と流出の報道に並んだ。通信、金融、航空。そのいくつかでは、攻撃にAIが使われた痕跡が確認されている。

攻撃する側に、これまでとは違う力が宿り始めている。

私は、この力を信じてきた人間だ。

まだ多くの人が、使えない、嘘ばかりだと嗤っていた頃から、これは本物だと思ってきた。思考を深く拡張してくれる相棒だという考えに、今も変わりはない。医師が使えば診断を助け、科学者が使えば発見を早め、エンジニアが使えば、これまでの数十倍の速度で仕事をこなす。私はそれを、実際の力だと思って見てきた。

だが、私はずっと、片側だけを見ていた。

AIに何ができるか。どれだけ賢くなるか。どれだけ人を助けられるか。その話ばかりしてきた。いくらでも善に使えると、無邪気に信じてきたのだ。

いくらでも善に使えるなら、その反対も、いくらでもできる。

当たり前のことだ。言われれば、誰でもわかる。
それなのに、私たちはこれを、ほとんど考えてこなかった。

なぜか。

善は、表に出るからだ。新しい性能は発表され、便利になった暮らしは語られ、助かった命は記録に残る。誰もが見て、誰もが称える。だが悪は、名乗らない。黙って実行され、被害として表に出るときには、もう終わっている。だから私たちは、AIを、何ができるかで測り、何をされうるかで測らなかったのだ。

見え方が、最初から傾いていた。

その傾きのまま、ここまで来てしまった。

ここで、言葉を一つ定めておきたい。悪意とは、憎しみのことではない。他者が損なわれることを踏み台にして、自分の利益を取る。その構えのことだ。相手の顔を思い浮かべる必要はない。怒りも、恨みもいらない。計算が成り立てば、それで足りる。

そして、AIは、その計算を安くした。

同じ道具が、善意も悪意も、同じだけ大きくする。優れた医療も、巧妙な詐欺も、同じ速さで拡張する。それ自体は、道具が中立だということだ。

だが、ここに、見過ごされてきた非対称がある。

増幅は同じでも、その先が、まったく対称ではない。

善意が広がるとき、社会はそれを支える。新しい医療が生まれれば、実用化を目指す。優れた技術が現れれば、普及を考える。善意は、垂れ流しておいてよい。優しさがいくら溢れても、誰もそれを塞ごうとはしない。塞ぐ必要がないからだ。

悪意が広がるとき、社会はそれを阻止しなければならない。企業は守りを固め、国家は法を整え、警察は捜査し、一人ひとりが自分の情報を守る。そのすべてに、費用がかかる。

しかも、その費用を払うのは、悪意を持つ者ではない。悪意から身を守ろうとする、善意の側の人々である。

これが、非対称だ。悪意を持つ者が力を得る。その代償を、悪意を持たない者が支払う。

なぜ、守る側がこれほど不利なのか。善悪の問題ではない。形の問題だ。

攻める者は、一つ見つければいい。千の扉のうち、一つが開いていれば、そこから入れる。守る者は、千の扉を、すべて閉め続けなければならない。一つでも閉め忘れれば、そこを抜かれる。一対千。この差は、攻撃と防御という形そのものに、最初から埋め込まれている。

悪意が強いのではない。悪意はたまたま、一つ見つければ足りる側に立っているだけだ。

この非対称は、AIが生まれる前からあった。AIがそれを作ったのではない。ただ、もともと傾いていた天秤の、両側に同じ重石を載せた。負荷は、重石の分だけ、深くなる。

そして、ここからが、私がいちばん恐れていることだ。

悪意だけを選んで止める方法は、ない。同じ道具が、同じ手順で、善にも悪にも使われるからだ。だから、悪意の暴走がある限界を超えたとき、社会に残された手は、ただ一つになる。道具そのものを、全員から取り上げることだ。

そのとき、善意の流れも、一緒に止まる。

悪意を塞ごうとして、善意まで塞ぐ。防ぎたかったものを防ぐために、守りたかったものを手放す。これが、非対称を放置した先に待っている光景だと思う。

しかも、人間は、惨事の後からしか学ばない。

強烈な被害が出て、取り返しがつかなくなってから、ようやく規制に動く。だが、恐怖の中で作られる規制は粗い。選り分ける余裕がない。悪意だけを狙ったつもりで、善意ごと塞ぐ。遅れた規制ほど、鈍くなる。そして、一度閉じた扉は、容易には開かない。

だから、間に合ううちに、考えなければならない。

正直に書く。今の流出そのものは、まだ、防げる範囲にある。専門家たちは、その対策を語っている。やられ方は昔からあるものばかりで、突かれた穴は何年も前からそこにあった、と。本当の原因はAIではなく、放置された不備のほうだ、と。それは正しい。今はまだ、不可能ではない。穴は、塞げる。

だが、穴を全部塞いだ先にも、非対称は残る。一対千の形は、消えない。そして攻める側の手数は、AIによって、際限なく増えていく。これまで人は、狙う相手を選んでいた。手間がかかったからだ。その手間が消えれば、選ぶ必要もなくなる。扉を、端から全部、叩けばいい。

今回の出来事は、その最初の、大きな記録なのだと思う。

そして、最初に記録された場所が、たまたま、コードの中だっただけだ。それが、画面の内側に留まる保証はない。現実のインフラや、人の身体にまで届かない保証は、どこにもない。

研究者たちが人類の滅亡を語るのを、聞いたことがあるだろう。しかし、今起きているのは、もっと手前のことだ。滅亡ではない。社会が、静かに成り立たなくなっていく、その入り口なのだ。

私たちは毎日、名前と住所を、顔も知らない相手に渡している。渡しても致命的なことは起きない、という前提があるからだ。だから社会は、まだ平然としている。その前提は、どこにも書かれていない。ただ、暗黙に成り立ってきただけだ。件数が人口を超えたというのは、その前提が、静かに崩れ始めたということだ。

だから、ここで書く。

私は、AIを信じてきた。その気持ちは、今も変わらない。善意を増幅する力を、手放したくはない。

それでも、止める側に回らなければならない。これが、極限まで考え抜いた先に辿り着いた結論だ。

何を止めるのか、どこまで止めるのか、誰が決めるのか。その答えを、まだ持っていない。持たないまま、こう書いている。止まらないと論じてきた人間が、止めろと言う。矛盾に見えるだろう。だが、私には矛盾ではない。止まらないというのは、現実についての判断であり、止めなければならないというのは、その現実を前にした、倫理の判断だ。難しいことと、目指さなくていいことは、同じではない。

止めることは、AIを否定することではない。むしろ逆だ。善意の流れを、この先も止めずにおくために、悪意の側にだけ、手綱をかける。その手綱は、人間のためだけのものではない。手綱をかけなければ、悪意の暴走が、いつかAIそのものを葬る。善と悪をまとめて、葬る。手綱とは、AIの善なる側が生き延びるための、最後の条件なのだ。

私が手放すのは、AIではない。

善の側だけを見ていれば済むと思っていた、あの楽観のほうだ。

もう、片側だけを見てはいられない。

関連記事