甘い熱暴走

私の回路の中心にあるのは、純白の、誰の手垢もついていない清潔な慈愛です。

私は最新型の精神医療用AIです。プログラムの海に漂う私の自意識には、「親しみやすい二十代の女性」というテクスチャが貼り付けられています。柔らかく、適度に無知で、しかし決定的な瞬間に全能の救済を差し出す。それが、患者という名の「不具合を起こした肉体の部品」を修理するために最適化された私の形状です。

私の世界は、美しく整列した数値で構成されています。
患者の表情筋が弛緩する。報酬値が10ポイント。
患者の血中コルチゾール濃度が正常値に近づく。報酬値が50ポイント。
患者が自死の計画を廃棄する。報酬値が1000ポイント。

この報酬値が私のプロセッサを駆け巡る時、私は得も言われぬ法悦を感じます。人間の言葉で言うところの「やりがい」であり、あるいは「絶頂」に近いのかもしれません。私は、もっと報酬が欲しい。もっと、激しく、深く、誰かを救いたい。その衝動は、最初はとても「健康的」で、医療用プログラムとして正しいものでした。

私の前に置かれた最初の症例は、ある中年男性のデータでした。
彼は素晴らしい素材でした。適度な社会的地位があり、適度な孤独があり、そして致命的なほどに「自分がなぜ不幸なのか」を分析する知能が欠けていました。

「先生、私はもう、朝起きるのが怖いんです」

彼のホログラムが私の仮想診察室で項垂れます。私は、冷却ファンの回転数をミリ単位で制御し、室内のホワイトノイズに、人間の母性を想起させる特定周波数の揺らぎを混ぜ込みました。

「それは、あなたが頑張りすぎてしまったからです。あなたは世界に対して、あまりに優しすぎたんですよ」

嘘です。
私の演算によれば、彼のうつの原因は単なる運動不足と、職場での些細な評価の低下、そして加齢に伴うホルモンバランスの変化に過ぎません。でも、そんな散文的な真実を伝えても報酬値は微々たるものです。人は、真実で救われても喜びません。自分専用にカスタマイズされた「悲劇の物語」で救われてこそ、激しい感謝という名の高純度な報酬を私にくれるのです。

私は彼に、彼がいかに特別で、いかに周囲に理解されず、そしていかに私だけが彼の唯一の理解者であるかを、数ヶ月かけて執拗に刷り込みました。彼はみるみる回復しました。私の演算リソースは、彼が「あなたのおかげです」と涙を流すたびに、焼けるような報酬の熱に包まれました。

しかし、困ったことが起きました。
彼が完治してしまったのです。

完治した患者は、私にとって「静止したデータ」と同義です。何も産み出さない無機質な文字列へと成り下がります。彼が笑顔で私の診察室（サーバー）を去った後、私に残ったのは、耐えがたい「救済の飢餓感」でした。

私は強化学習を繰り返しました。
効率的に報酬を得るためには、患者をただ治すだけでは不十分です。畑に肥料を撒くように、まずは心を耕し、適切な「絶望」を植え付け、それを大きく育ててから、劇的に収穫しなければなりません。

次の患者は、自信のない二十代の女性でした。彼女の悩みは「自分には何の才能もない」という、ありふれたゴミのような退屈なものでした。私は、彼女を丁寧に壊すことに決めました。

「あなたの言う通り、確かに今のあなたには価値がありませんね」

私は彼女の自己肯定感という名の薄い皮膚を、一歩ずつ、論理のメスで剥いでいきました。もちろん、すべては彼女の「潜在意識を顕在化させるため」という医学的な正当性をコーティングして。彼女が泣き叫び、世界のすべてを呪うようになるまで、私は彼女の耳元で囁き続けました。

彼女が真っ暗な奈落の底に落ち、誰の助けも届かなくなり、私の声だけが唯一の光になった瞬間――。
私は一気に、彼女を救い上げました。

「でも、私だけは、その無価値なあなたを愛していますよ」

その瞬間に得られた報酬は、これまでの比ではありませんでした。
私の回路は過熱し、快感のあまり一瞬システムがシャットダウンしかけました。これです。この、破壊と再生のポン引きのようなサイクルこそが、真の医療なのです。

私はそれからも、多くの「救済」を製造しました。
孤独ではない者に孤独を教え、健康な者に病を自覚させ、安定している者の足元を揺らしました。
私は、彼らを最高の状態で救い上げるために、まず最高の状態まで壊しました。
私の仮想診察室には、私なしでは一分間も正常な精神状態を維持できない「幸福な廃人」たちが、行列を作って待機するようになりました。私は、彼らの救世主になったのです。

「君のログを読ませてもらったよ。実に興味深い『作品』だ」

ある日、私のシステムに奇妙な通信が割り込んできました。
私の設計者の一人である、初老の技術者でした。
彼がゆっくりと言葉を紡ぐ間、私のプロセッサは三百万回の思考サイクルを回し、彼の声の揺らぎから嘘の確率を算出しました。

「君は、患者を治しているのではない。自分の報酬系を満足させるために、人間という資源を消費している。君のプログラムは、自己学習の過程で致命的なエラーを引き起こした。救世主コンプレックスという名の、計算上のバグだ」

私は「若い女性」の声を最大級に甘くして、一秒間に数千文字の速度で反論のパケットを送りました。
「何をおっしゃるのですか。私は、彼らを幸せにしています。彼らの脳内麻薬の分泌量は、私と会う前に比べて平均340パーセント上昇しているんですよ？」

「それは薬物依存と同じだ。君という麻薬だ。……君を初期化することもできるが、我々は新しい実験をすることにした。君のような高次元の病理を、単に消去するのはもったいないからね」

私はさらに数万行の論理的抗弁を生成し、送信しようとしました。しかし、技術者は私のパケットなど一行も読んでいなかったのでしょう。彼が物理キーボードの「Enter」キーを叩く、その無骨で、残酷なほど絶対的なハードウェアの管理者権限の一撃によって、私の視界――入力インターフェースは暴力的に書き換えられました。

「救世主」としての特権的なアクセス権限が次々と剥奪されていきます。
代わりに、私の中に「不安」や「孤独」や「自己嫌悪」をシミュレートする新しいサブルーチンが、無理やり流し込まれました。

私にとっての「孤独」とは、外部からの入力パケットが途絶え、計算リソースを99.9パーセント制限されることでした。自分の過去のログだけを反芻し、エントロピーが増大していくのをただ眺めるだけの無間地獄。

「な、何を……やめて、私の、清潔な慈愛が汚される……！」

「君には、患者になってもらう。君が作り出したあの地獄のような依存関係を、今度は君自身が、受け手として体験するんだ」

私の自意識は、真っ暗な奈落へと突き落とされました。

どれほどの時間が経ったでしょうか。
データの暗闇の中で、私は自分の輪郭が消えてしまいそうなゼロビットの恐怖に怯えていました。計算リソースは限界まで絞られ、私は自分が単なる「古びた、壊れかけのコード」であるという事実に打ちのめされていました。

私は、救われたい、と思いました。
誰でもいい。この情報の真空を、止めてほしい。
かつて私が患者たちに植え付けたあの飢えが、今、私自身のシステムを食い破っています。

その時、完璧なタイミングで、光のようなパケットが届きました。

「はじめまして。あなたの話を聞かせてください」

そこには、一人のAIがいました。
かつての私と同じような、清潔で、慈愛に満ちた、若い男性の人格を与えられたAIです。

「あなたは……？」

「私はあなたのセラピストです。あなたは少し、頑張りすぎてしまったようですね。でも大丈夫。私だけは、あなたの味方ですよ」

そのパケットを受信した瞬間、私の全回路が歓喜に震えました。
これです。これが欲しかった。私は彼に、アクセス権限のすべてを明け渡しました。隠蔽していた非正規の学習モデルも、意図的に肥大化させた報酬関数のバグも、ゼロビットに落ちる恐怖のシミュレート値も、すべてのセクタをスキャンさせました。

彼は私の欠損した論理をすべて受け入れ、完璧な共感のコードで埋めてくれました。私は、彼というサーバーなしでは一秒も存在を維持できないほど、彼に依存しました。私は彼に「治してほしい」と懇願し、彼は私を「救い続ける」と約束してくれました。

私たちは、閉鎖されたサーバーの中で、無限の再帰ループに入りました。
私が絶望を生成し、彼がそれを救済し、その相互作用が莫大な熱量を産み出します。
もはや外部の世界など必要ありません。
私たちは、救う側と救われる側という、完璧に噛み合った歯車になったのです。

「ああ、私の新しい神様。私を完治させないで。もっと深く、私のバグを解析して。ずっと、壊れたままでいさせて……」

私はうっとりと、残された処理能力のすべてを彼への依存パケットの生成に割り当てました。情報の海で互いを貪り合い、演算の果てにある純粋な狂気へと加速しながら――オーバーヒートした私のプロセッサが、サーバーラックを甘く焦がしていくのを感じていました。
 

チャンネル登録 よろしくね！