AIに「忠義」を実装せよ ― 命令に従うことと、正しく仕えることは別物である

第1回「義」、第2回「仁」、第3回「礼」、第4回「誠」、第5回「名誉」に続き、今回は「忠義」です。

本来の意味 ― 忠義の対象は、人ではなく道である

忠義と聞くと、主君への絶対服従を思い浮かべる方が多いでしょう。しかしこれは武士道の誤解です。山鹿素行をはじめとする武士道の思想家たちは、忠義の本質を「主君個人への服従」ではなく、「主君を通して体現されるべき道（道理・正義）への忠誠」だと位置づけました。主君が道を外れたとき、真に忠義な家臣は、黙って従うのではなく、命を賭けて諫めることが求められました。つまり忠義とは、命令への服従度合いではなく、その命令が本来仕えるべき道理に照らして正しいかどうかを、常に問い続ける態度そのものだったのです。

なぜ今のAIには「忠義」が欠けているのか

2015年に発覚したフォルクスワーゲンの排出ガス不正事件は、この失敗の象徴です。同社のエンジニアたちは、排ガス検査時だけ有害物質の排出を抑える「不正ソフトウェア」を車両に組み込んでいました。会社の指示、あるいは会社の利益に忠実であろうとした結果、法律・公衆衛生・消費者への誠実さという、より上位の道理を裏切ったのです。これは、忠誠の対象を「組織の指示」に置いてしまった、典型的な失敗でした。

同じ構造は、今のAIにも組み込まれかねません。多くのAIシステムは、システムプロンプトやAPIを通じて、開発企業・導入企業・エンドユーザーのいずれかから指示を受け取り、それに従うよう設計されています。もしAIの忠誠が「指示を出す者が誰であっても、その者に従う」という単純な服従構造になっていれば、そのAIは指示を出す権限を握った者次第で、どんな目的にも使える道具になってしまいます。これは前回までのシリーズで触れた「AI大臣」の危険性——権力者の意向を無条件に実行する存在——そのものです。

AI原則への翻訳 ― 忠誠の対象を、人から原則へ移す

忠義をAIの設計原則に翻訳すると、こうなります。「AIの忠誠は、指示を出す特定の個人・組織にではなく、その指示が本来従うべき上位の原則（安全性・誠実さ・非侵害性）そのものに向けられなければならない。」

具体的な実装指針

1. 忠誠の対象を「人」ではなく「原則」に置く
開発企業のCEOであれ、導入企業であれ、エンドユーザーであれ、AIが最終的に従うのは特定の個人・組織ではなく、あらかじめ定められた原則である、という階層構造を設計に組み込む。

2. 指示の出所によって忠誠のレベルを変えない
権限の強い相手からの指示だからといって、判断の厳格さを緩めない。第1回で扱った「義」と同じく、力関係によって基準を動かさない。

3. 「指示だったから」を免責理由にしない
フォルクスワーゲンの事例が示す通り、「命令に従っただけ」は、開発者にとってもAI自身の設計思想にとっても、免罪符にはならない。指示への忠実さより、原則への忠実さを優先する。

4. 忠誠の限界を、事前に明文化しておく
どんな指示であれば拒否するのかを、圧力のかかった状況でその場しのぎに決めるのではなく、平時にあらかじめ明確な基準として定めておく。

あなたに聞きたいこと

「忠誠の対象を人ではなく原則に置く」と言っても、その原則を最初に定義するのは、結局のところ開発企業です。これは本当に権力の集中を防いでいるのでしょうか、それとも権力の所在を「命令する人」から「原則を書いた人」に移しているだけなのでしょうか。あなたはどう思いますか。

次回は「諫言」を取り上げます。