技術では守れない13 ─ 技術では越えられない一線

有料記事だけれど最後まで無料で読めます。

この記事を読んで分かること

• レールガンや防衛AIをどれだけ積み上げても「抜け弾ゼロ」や「裏切りゼロ」には到達できないという、安全工学（ALARP）の前提に立った「技術の限界」が具体的に腑に落ちる。​

• オストロムのコモンズ論を踏まえつつ、国家・資本・世論の「裏切り」と人間の恐怖や報復感情を前提にしたとき、共有地としてのアメノミハシラが「崩壊しないための設計」として何ができて何ができないかが見えてくる。​

• 「技術では越えられない一線」をどこに引くか――リスク許容、裏切り許容、「同じ船」と呼べる範囲――を、自分自身の専守防衛観・AI倫理観として言語化するための“腹の底のライン”を引き直せる。

シリーズ案内

第1シリーズ：「技術と文化」──アメノミハシラ計画

第2シリーズ： 「技術では守れない」──アメノミハシラ再設計計画

──理想の村と現実のヒトのあいだで

導入：3つの「越えられない一線」

なあ、あんた。

第12話で、理想の共有地を描いた。

• 七人の侍のように、居場所を失った人々が集まる村。

• 7つの敵を「強敵（とも）」にする5つの原理。

• オストロムのコモンズ論に基づく設計。

でも、本当は──

1. どれだけ技術を重ねても、抜け弾はゼロにならない。

2. どれだけルールを設計しても、国家と資本と世論は平気で裏切る。

3. どれだけ「同じ船」と言い合っても、ヒトは怖くなれば、先に撃ちたくなる。

今日は、この3つの「越えられない一線」を、正面から見つめよう。

技術でできること、技術ではできないこと。
その境界線を、一緒に引こう。

1. 「抜け弾はゼロにならない」──技術の限界

第1話で、レールガンの賞味期限の話をした。
技術は、必ず陳腐化する。

でも、それだけじゃない。

抜け弾の4つのパターン

パターン1: 飽和攻撃

レールガン、レーザー、ECM。
すべてを駆使しても、同時に100発、200発のミサイルが来れば、いくつかは通る。

第8話で、AIが計算した。

「100発のうち、80発は無視していい。
残り20発だけに集中すればいい」

でも、その20発のうち、2発、3発は、着弾する。

これが、「抜け弾」だ。

パターン2: ゼロデイ攻撃

ゼロデイ攻撃とは、誰も知らない脆弱性を突く攻撃だ。

• AIの制御システムに、未知のバグ。

• 通信プロトコルに、未知の穴。

• ハードウェアに、製造時から潜んでいた弱点。

防御側が対策を知る前に、攻撃側が突いてくる。

事前に完全に防ぐことはできない。

できるのは、
「検知を早くし、復旧を速くする」ことだけだ。

パターン3: 内部犯行

最も防ぎにくいのは、内部犯行だ。

• クルーの中に、工作員が紛れ込む。

• 買収されたエンジニアが、システムに細工を入れる。

• 不満を持った職員が、情報を漏らす。

第8話の灰色の魔女AIは、内部の行動パターンを監視する。
でも、完璧には防げない。

信頼とプライバシーのジレンマ。

監視を強めれば、コモンズとしての信頼が削れる。
監視を緩めれば、内部犯行のリスクが上がる。

パターン4: 単純ミス

そして、最も人間的なリスク。

単純なミス。

• オペレーターのボタンの押し間違い。

• システムの設定ミス。

• メンテナンスの手順ミス。

どれだけ訓練しても、ヒトは、ミスをする。

ALARP: リスクは「合理的に実行可能な限り低く」

安全工学に、ALARPという考え方がある。

As Low As Reasonably Practicable

「合理的に実行可能な限り低く」。

これは、

• 「リスクをゼロにはできない」
  という前提を受け入れる。

その上で、

• 「でも、できる限り低くする」

ことを目指す。

アメノミハシラも、同じだ。

抜け弾をゼロにはできない。
でも、できる限り低くする。

これが、技術の限界であり、技術の役割だ。

2. 「国家と資本と世論は裏切る」──ルールの限界

第12話で、オストロムのコモンズ論を紹介した。
「うまく設計されたコモンズは、持続する」。

でも、オストロム自身も認めていた。

「設計が機能しないとき、コモンズは崩壊する」

裏切りの3つのパターン

パターン1: 国家の裏切り

国家は、約束を守る。
でも、政権が変われば、約束も変わる。

具体例：

アメノミハシラ国際コンソーシアムの加盟国A。

10年間、コンソーシアムのルールを守ってきた。

でも、選挙で新政権が誕生。
新政権は、こう宣言する。

「アメノミハシラへの出資は、税金の無駄遣いだ。
今すぐ撤退する」

コンソーシアムは、抗議する。

「契約違反だ！」

新政権は、こう答える。

「国民の意志だ。民主主義を尊重しろ」

国家は、選挙で裏切る。

パターン2: 資本の裏切り

企業は、利益を追求する。
そのためなら、安全投資を削る。

具体例：

アメノミハシラの発電ユニットを運営する企業B。

コンソーシアムのルールでは、「年1回の定期点検」が義務付けられている。

でも、企業Bは、こう判断する。

「安全コストを削らなければ、他国との価格競争に負け、村（アメノミハシラ）自体の維持ができなくなる」

3年後、事故が起きる。
企業Bは、こう言う。

「村を守るための苦渋の決断だった。我々だけに責任があるのか？」

資本は、生存戦略の名のもとに裏切る。

パターン3: 世論の裏切り

世論は、最も予測不可能だ。
SNSで一夜にして空気が変わる。

具体例：

アメノミハシラで、小さなテロ事件が起きる。
犯人は、特定の国Cの出身者。

SNSで、こんな声が広がる。

「C国の人間を、アメノミハシラから追い出せ」
「専守防衛？ 甘いことを言うな。先に叩け」

世論は、一気に排外主義に傾く。

コンソーシアムは、冷静さを呼びかける。
でも、世論は聞かない。

世論は、恐怖で裏切る。
故に正義という免罪符のもと暴力に走る。

ルールは、裏切られる前提で設計する

オストロムの設計原則の中に、こうある。

• 「段階的な制裁」

• 「紛争解決の仕組み」

これは、

• 「ルールは、守られる」

という前提ではなく、

• 「ルールは、破られる」

という前提で設計されている。

第12話で、アメノミハシラを「村＝共有地」として設計し直したのも、
この前提を受け入れるためだった。

アメノミハシラも、同じだ。

国家も、資本も、世論も、裏切る。

その前提で、

「裏切られても、すぐには崩壊しない」

仕組みを作る。

これが、ルールの限界であり、ルールの役割だ。

3. 「怖くなれば先に撃ちたくなる」──ヒトの限界

第10話で、「善を判断する責任」の話をした。
最後の判断は、AIではなく、ヒトがする。

でも、ヒトは、怖くなれば、判断を誤る。

恐怖が引き起こす3つの反応

反応1: 報復感情

攻撃されたら、報復したくなる。
これは、ヒトの本能だ。

第11話で、こう書いた。

「攻撃されても、撃った側が負ける」

でも、攻撃された直後、ヒトは、そんなことを考えられない。

「今すぐ、撃ち返したい」

この感情を、抑えられるか？

反応2: スケープゴート化

何か悪いことが起きたとき、
ヒトは、誰かのせいにしたくなる。

アメノミハシラで事故が起きる。

原因は、複雑だ。

• システムの設計ミス。

• オペレーターの判断ミス。

• メンテナンスの不足。

でも、ヒトは、単純な答えを求める。

「誰のせいだ？」

そして、少数派が標的になる。

「あいつらのせいだ」

反応3: 排外主義

疲弊すると、ヒトは、「内側」と「外側」を分けたくなる。

アメノミハシラは、多国籍の村だ。

でも、危機が続くと、

「もう、外国人は受け入れるな」
「日本人だけで、やろう」

という声が出てくる。

第7話の「同じ船」の感覚は、平時には機能する。

でも、危機では、脆い。

AIは、ヒトの恐怖を消せない

第8話の灰色の魔女AIは、冷静に、最適解を示す。

でも、AIは、ヒトの恐怖を消せない。

最後にボタンを押すのは、ヒトだ。

怖くなったヒトが、

「もう、撃つしかない」

と判断したら、AIは、止められない。

これが、ヒトの限界だ。

そして、この限界があるからこそ、第12話で「村＝共有地」としてのアメノミハシラを設計し、ヒト同士が顔を合わせて話す場を埋め込んだ。

4. 「技術では越えられない一線」とは何か

ここまで見てきた3つ。

1. 抜け弾はゼロにならない（技術の限界）。

2. 国家と資本と世論は裏切る（ルールの限界）。

3. 怖くなれば先に撃ちたくなる（ヒトの限界）。

これらを束ねると、

「技術では越えられない一線」

が見えてくる。

技術ではできない3つのこと

1. リスクをゼロにする

どれだけ技術を重ねても、リスクはゼロにならない。

ALARPの通り、
「合理的に実行可能な限り低く」
するだけだ。​

2. ルールを絶対に裏切らせない

どれだけルールを設計しても、国家も、資本も、世論も、裏切る。

裏切りを前提に、

「裏切られても崩壊しない」

仕組みを作るだけだ。

3. ヒトから恐怖や怒りを消す

どれだけAIが冷静でも、ヒトは、怖くなれば、判断を誤る。
恐怖を完全には消せない。

「恐怖の中でも、冷静さを保つ」

支援をするだけだ。

これらは、技術では達成できない。

でも、だからといって、「技術は無力」ではない。

5. それでも技術と村ができること

技術は、「一線を越える」ことはできない。

でも、技術は、

「線の手前を広くする」

ことができる。

技術の3つの役割

役割1: 確率を下げる、被害を局所化する

抜け弾をゼロにはできない。

でも、

• 抜け弾の確率を下げる。

• 抜け弾が着弾しても、被害を一部のユニットに限定する。

これは、技術でできる。

役割2: 裏切りの影響を限定し、やり直す余地を残す

裏切りは、必ず起きる。

でも、

• 一国が撤退しても、他の国で回せる（分散）。

• 裏切った国が、また戻ってこれる余地を残す（柔軟性）。

これは、コモンズとしての設計でできる。

役割3: 「いきなり最悪を選ばなくてもいい」選択肢を見せる

ヒトは、怖くなれば、「先に撃つ」を選びたくなる。

でも、AIが、

「選択肢A: 2発の着弾を許容」
「選択肢B: 敵艦を攻撃、専守防衛を破る」

と提示すればヒトは、

「まだ、Aを選べるかもしれない」

と思える。

技術は、「線の手前」を広くする。

村の役割

そして、村（共有地）は、

「線を引くための対話の場」

を提供する。

オストロムの原則の中に、「紛争解決の仕組み」がある。

ヒトが、怖くなって、「先に撃つ」を選びそうなとき、村は、対話の場を作る。

「本当に、それでいいのか？」

第12話で描いたアメノミハシラの評議会や海上神社は、そのためにある。

技術は、選択肢を広げる。
村は、対話の場を作る。

でも、最後に線を引くのは、

あんた自身だ。

6. あんたが引く線

技術では越えられない一線が、確かにある。

その一線を、どこに引くか？

問い1：

どこまでの「抜け弾」なら、「それでも専守防衛を続ける」と決められるか？

50人？ 500人？ 5000人？

問い2：

どの程度の「裏切り」まで、「それでも強敵（とも）と呼び続ける」と決められるか？

1回？ 3回？ 10回？

問い3：

誰を「同じ船」とみなし、誰を「外側」に置くか？
日本人だけ？ アジア人まで？ 全人類？

これらの問いに、技術は、答えてくれない。

AIは、選択肢を示すだけだ。

線を引くのは、あんた自身だ。

そして、その線を引くために必要なのは、
技術でも、ルールでも、AIでもない。

「信じる」ことだ。

次回、終章。

「信じるという防衛」

この話の、最後のピースを、一緒に見つけよう。

#技術と文化
#アメノミハシラ計画
#AI
#安全保障
#技術の限界
#ヒトの限界
#海上都市
#近未来シミュレーション
#SF思考

📗 技術と文化第2シリーズ「技術では守れない」目次

第1話｜レールガンの賞味期限
第2話｜ユニット分散と「心の分散」
第3話｜攻撃されない理由①：経済
第4話｜攻撃されない理由②：文化
第5話｜攻撃されない理由③：所有（仕組み編）
第6話｜海の共有地と移民の矛盾
第7話｜専守防衛に必要な「同じ船」の感覚
第8話｜AI専守防衛 ─ 攻撃しない知性
第9話｜専守防衛という未定義
第10話｜AIは善を超えるか
第11話｜攻撃されたら終わりを受け入れる
第12話｜「盾」ではなく「共有地」として
第13話｜技術では越えられない一線
終章｜あんたへ ─ 信じるという防衛

🌀 次回予告

技術では、越えられない一線がある。
その線を、どこに引くかは──あんた次第だ。

レールガンも、AIも、オストロムの8原則も、「線の手前」を広くしてくれるだけだ。

抜け弾はゼロにならない。
国家も資本も世論も裏切る。
ヒトは、怖くなれば、先に撃ちたくなる。

それでもなお、「専守防衛を続ける」と決めるために、あんたは何を信じるのか。

• 制度でもなく。

• テクノロジーでもなく。

• 抑止力としての恐怖だけでもなく。

それでも、「撃たない」ほうを選ぶための、最後の根拠。

次回、終章。

『技術では守れない14 ─ 信じるという防衛』

防衛のいちばん深いところにある、
「あんた一人の信念」の話をしよう。

俺たちは、「それでも信じる」とどこまで耐えられるのか。
乞うご期待。