最善手の外側で──AIが「当たり前」を書き換えるとき

あえて間違える楽しさ

「雀魂」というオンライン麻雀ゲームに、「MAKA」というAI機能がある。自分の打った牌をSからEまでランク付けし、その局面での最善手をリアルタイムで教えてくれる。私はこれをガンガン使っている。言う通りに打てば勝率が上がる。勝てれば楽しい。当たり前のことだ。

ところが、友人と酒を飲みながら打つときだけは、私はあえてAIの示す手から外す。期待値の高い安全牌ではなく、通るかどうかわからない危険牌を勝負で押してみる。Sランクの正解よりも、自分で選んだDランクの一打のほうが、なぜか面白い。「それ、意味あるんか？」と言われれば、勝つことだけを考えれば意味はない。でも、その「意味のなさ」のほうに、私はどうしても惹かれてしまう。

最初は、ただの天邪鬼だと思っていた。便利な道具をわざわざ手放して、悦に入っているだけだ、と。けれど、この違和感の正体をたどっていくと、どうやら麻雀だけの話ではないらしい。正解がはっきり見えてしまうことへの、この説明のつかない抵抗感。それは、私たちの社会の足元でいま起きていることの、ごく小さな縮図なのではないか。今回は、その話を書きたい。

「当たり前」を書き換える力

なぜ私が、こんな小さな違和感にこだわるのか。それを説明するには、少し回り道をして、学生のころに学んだことに触れなければならない。

私は政治理論を専攻していた。そこで教わった見方のうち、いまでも物の見方の芯になっているものがある。社会にとって本当に重要なのは、目に見える争いごとよりも、「何が当たり前か」の線引きのほうだ、という見方だ。

何を疑わずに済ませ、何を「わざわざ問う価値のあること」として扱うか。その境界線を引く力こそが、いちばん深いところにある権力なのだ。恩師は『境界線の政治学』という本で、政治とは線を引く行為そのものだ、と論じていた。目立つ対立は、たいてい線がもう引かれたあとの話にすぎない。

この見方からすると、AIは恐ろしく政治的な存在だ。AIは「何が当たり前か」を、静かに書き換えていくからである。しかも、誰かが悪意をもって書き換えているわけではない。便利だから使う。みんなが使うから使う。その積み重ねのなかで、気づけば「当たり前」が入れ替わっている。引かれていた線が、いつのまにか別の場所に移っている。誰も、線を引き直した覚えがないのに。

私がMAKAに感じた違和感は、たぶんここにつながっている。「最善手を打つ」ことが当たり前になった世界では、最善手から外れることのほうが、説明を求められる。「なぜわざわざ損な手を？」と。問われる側が、入れ替わるのだ。そして、その入れ替わりは、たいてい誰にも気づかれない。

これはもう、麻雀の話ではない。同じことが、もっと根深い場所で起きはじめている。

計算できなかったから、自由だった

その最も切実な例を、私は自分の専門のなかで見た。功利主義だ。

正直に言えば、私はもともと功利主義を批判したくて勉強を始めた。「最大多数の最大幸福」を正義とする、あのベンサムの思想だ。幸福を足し算で測るなんて乱暴だろう、と。

ところが、やればやるほど反論しきれなくなった。気がつけば、半ば功利主義者のようになっていた。それくらい、この思想には正しさの引力がある。幸福は最大化したほうがいい──この主張に正面から逆らうのは、思いのほか難しい。

ただ、功利主義には長らく決定的な弱点があった。幸福を「計算」できなかったのだ。お金で幸福になる人もいれば、友情を選ぶ人も、自由を何より重んじる人もいる。これだけ多様な変数を、ひとつの数値にまとめることはできなかった。ベンサムの「快楽計算」は理念であって、実際に回せる計算機ではなかった。

今までは、この弱点こそが、ひそかに大事なものを守っていたのだと思う。幸福を正確に測れないからこそ、「自分にとっての幸福とは何か」を自分で決める余地が残されていた。計測の限界が、主観的な自由を、誰にも意識されないまま支えていた。「測れない」ということが、当たり前すぎて誰も口にしない前提として、自由の土台になっていたのだ。

その土台が、いま崩れかけている。将棋でも囲碁でも、AIはとっくに人間を超える手を示す。麻雀のような不確実性の塊でさえ、最も期待値の高い一打を計算してみせる。そして同じ仕組みは、もう盤上にとどまらない。就職先、投資、健康、つきあう相手。「あなたの条件なら、この選択がいちばん幸福につながる確率が高い」とAIが示す世界は、もうSFではない。

かつて「世界一幸せな国」と呼ばれたブータンは、テレビとスマートフォンが普及したあと、幸福度ランキングを大きく落とした。外の世界が見え、人々が自分の暮らしを他国と比べはじめた瞬間に、それまでの幸福が崩れたのだという。

AIは、これを一人ひとりの内側で、もっと精密にやる。最適化された「ありえたかもしれない自分」が、つねに目の前にちらつく。いまの自分は、いつも「まだ最善に達していない自分」として映し出される。

道の先が、照らされはじめている。便利なのは間違いない。無駄な失敗は減る。それでも私は、ここで立ち止まってしまう。先が見えなかったからこそ、人は手探りで歩けた。正解がわからないから、自分なりの道を選べた。失敗し、遠回りし、その過程そのものに意味があった──そういう歩き方が「当たり前」だった時代が、静かに終わろうとしている。

見えない竹馬

同じ揺らぎは、もっと身近な顔をしてやってくる。今度は「幸福」ではなく、「努力」という当たり前が書き換わる番だ。

隣の席の同僚が、いつも見事な企画書を出す。誰もが「優秀だ」と認めている。ところがある日、その人が月数千円のAIに課金していて、企画書もメールも、大部分をAIに書かせていたと知る。あなたは「ずるい」と思うだろうか。それとも「賢い」と思うだろうか。

この問いの答えは、いま現に揺れ動いている。数年前なら「ずるい」が多数派だったかもしれない。数年後には「賢いに決まっている」が当たり前になっているかもしれない。この揺れ動きこそが、私の言いたいことの核心だ。「何が当たり前か」の線が、まさにいま、私たちの目の前で引き直されている。

もちろん、成果物の出自がいつもクリアだったわけではない。政治家のスピーチはスピーチライターが書き、経営者の報告書は部下が作る。けれど、そこには歯止めがあった。偽装には、コストがかかったのだ。秘書を雇うには金がいり、ゴーストライターを頼むには人脈がいった。だから大半の人は、素の実力で勝負するしかなかった。

AIは、この偽装コストを、ほぼゼロにした。月数千円で、痕跡を残さない超優秀な秘書が手に入る。それはちょうど、見えない竹馬を履いているようなものだ。周りからは、背が高く見える。仕事ができるように見える。けれど、その高さが本人の足によるものか、竹馬によるものかは、外からは確かめようがない。

本当に怖いのは、竹馬を履く人が増えることではない。竹馬を履いているかどうかを、いずれ誰も気にしなくなることだ。「高いところに手が届くなら、竹馬でもいいじゃないか」。結果がすべてで、過程は問わない──この考え方は、すでに一定の説得力を持ちはじめている。そしてそれが定着したとき、「努力」という変数が、評価の式からそっと抜け落ちる。「努力すれば報われる」という、近代社会がいちばん長く信じてきた前提が、誰の手も汚さないまま、書き換わっていく。

快適で広い鳥籠

MAKAの最善手も、計算される幸福も、見えない竹馬も、底をのぞくと同じ形をしている。私はそれを「鳥籠」と呼んでいる。

ただし、狭くて苦しい籠ではない。むしろ広々として心地よく、中にいることに不満はない。不満がないどころか、籠の中にいたほうが合理的に幸福だ。正解を教えてくれる。失敗を減らしてくれる。だから誰も、出ようとしない。出る理由が、思いつかないのだ。

功利主義が夢見た「最大の幸福」が、AIによって、ほんとうに技術として実現されようとしている。正しくて、便利で、合理的。だからこそ、抗えない。

この鳥籠の怖さは、鉄格子が痛いことではなく、鉄格子が快適なことにある。苦しければ、人は外に出ようとする。心地よければ、出る理由のほうを思いつかない。それどころか、外に出たがる者のほうが「なぜわざわざ？」と問われる側に回る。

ここでもまた、問われる側が入れ替わっている。麻雀であえてAIに従わなかった私が、「それ、意味あるんか？」と言われるように。

これは功利主義の勝利なのか、それとも自壊なのか。最大多数の最大幸福が技術的に実現される世界は、功利主義者にとっては悲願のはずだ。けれど、その世界では、もう誰も「自分にとっての幸福とは何か」を、自分では問わなくなる。問う必要が、なくなるからだ。答えは、いつも先に用意されている。私はまだ、これをどう呼べばいいのか、その答えを持っていない。

半分は手遅れ、半分は

ここまで読んで、ずいぶん悲観的だと思われたかもしれない。だが私は、AIを拒絶せよと言いたいわけではない。私自身、MAKAを手放す気はないし、この原稿だって、いまの時代の道具と無縁ではいられない。努力が無意味になった、とも思っていない。

ただ、ひとつだけ、確かなことがある。自分がいま鳥籠の中にいると気づいているかどうかで、見える景色は変わる、ということだ。

「当たり前」は、いったん入れ替わってしまえば、それが入れ替わったことすら見えなくなる。見えない竹馬は、やがて誰の目にも映らなくなり、私たちはそれをもう竹馬とは呼ばなくなる。ただの「身長」と呼ぶようになる。そのとき、素足で立っている人の背の低さは、いったい誰の問題として語られるのだろう。「努力が足りない」でも「使わないのが悪い」でもない、もっと手前の問いを、まだ立てられるうちに立てておきたい。

空を覆う雲は、まだ覆い尽くしてはいない。隙間から、青空がのぞく瞬間がある。その隙間があるうちに、「この雲の下が、世界のすべてではない」と言い続けることには、たぶん意味がある。半分くらいは、もう手遅れかもしれない。けれど、完全に手遅れではない。当たり前が完全に入れ替わってしまってからでは、それを問うことすら、当たり前ではなくなってしまうのだから。

計算できないものを、計算できないまま抱えていく。あえて、最善手の外側に一打を置いてみる。それはAI時代における、ささやかな、しかし決定的な自由なのかもしれない。少なくとも私は、いまのところ、その自由のほうに賭けてみたいと思っている。