【人間と機械の役割分担を考えるシリーズ ②司法・弁護士】AIは判決を下せるのか？法廷から考える、経営者とAIの境界線

今日は「人間と機械の役割分担を考えるシリーズ」、第2回です💡
（※第１回「医療・外科手術」はこちら）

今日も、「AIには、どこまで判断を任せてよいのだろうか。」

第1回では、慶應義塾大学などが進める外科手術AIの研究を紹介しました📝AIが手術映像を「見る」。状況を「考える」。外科医の判断を支援する。

では、人の命を扱う医療ではなく、人の権利や人生を左右する「法廷」ではどうでしょうか。

世界を見てみると、裁判官や弁護士の世界でも、まったく同じ問いが始まっています。AIはどこまで考えてよいのか。そして、人間はどこから判断しなければならないのか。

そんな問いから、今日の記事を始めてみたいと思います💡

🧑‍⚖️英国では、すでに「裁判官がAIを使う」ためのルールがある

象徴的なのが英国です。

イングランド＆ウェールズ司法部は、裁判官など司法関係者に向けて、生成AI利用に関する公式ガイダンスを公表しています。

面白いのは、

「裁判官はAIを使ってはいけない」とはしていない

ことです。

AIは文章の要約や作成など、さまざまな仕事を助ける可能性があります。

一方で、大規模言語モデルは、もっともらしい誤情報を生成することがある。法律について聞いたからといって、必ず正確な法律を答えるわけでもない。

機密情報や個人情報の入力にも注意しなければなりません。

そして、非常に重要な原則があります。

AIを使ったとしても、最終的な責任は裁判官本人にある。

AIが書いたから。
AIが調べたから。
AIがそう判断したから。
それは、司法判断の責任を免れる理由にはならないのです。

ここは企業経営を考えるうえでも、非常に興味深いところです。

🧑‍⚖️アメリカでは、弁護士にも同じ問題が起きている

アメリカでも状況は似ています。

American Bar Association（ABA）は、2024年に生成AI利用について弁護士向けの「Formal Opinion 512」を発表しました。

弁護士が生成AIを利用すること自体を否定しているわけではありません。

しかし、AIを使っても、依頼人に対する能力上の責任。

• 守秘義務。

• 裁判所に対する誠実義務。

• 仕事の内容や料金に関する責任。

こうした

弁護士本人の職業上の義務はなくなりません。

• 特に重要なのは、AIが生成した法律情報や文章を、そのまま信用してはいけないということです。

• 生成AIが存在しなかった時代でも、若手弁護士やパラリーガルが調査した内容について、最終的には担当弁護士が責任を持っていました。

AIもある意味では同じです。

ただし、非常に高速で、大量に仕事ができ、しかも時々ものすごく自然に間違える「新しい部下」が加わった、と考えた方が近いのかもしれません。

🧑‍⚖️ドイツでも「AIを使いこなす能力」が専門家に求められ始めた

ドイツはどうでしょうか。

ドイツ連邦弁護士会（BRAK）も、法律事務所におけるAI利用についてガイドラインを公表しています。

AIによって、法律情報を調べる。文書を分析する。翻訳する。大量の資料を整理する。こうした仕事は大きく効率化できます。

一方で、AIにはハルシネーションやバイアスなどの問題があります。

だから、AIを導入すれば弁護士の専門能力が不要になる、という方向には進んでいません。

むしろ逆です。

AIが作ったものを評価し、間違いを発見し、適切に監督する能力まで含めて、これからの専門家の能力になる。

そんな考え方が見えてきます。

🧑‍⚖️では、「判決」そのものをAIに任せられるのか？

ここで、とても面白い研究があります。

BarysėとSarelによる、

“Algorithms in the court: does it matter which part of the judicial decision-making is automated?”

という研究です。

タイトルをそのまま訳せば、

「法廷のアルゴリズム――司法判断のどの部分を自動化するかは重要なのか？」

というものです。

この研究が面白いのは、

「AI裁判官に賛成ですか、反対ですか？」という大雑把な質問はしていないことです。

司法判断をいくつかの工程に分けて考えています。

簡単に言えば、

情報を集める
　　↓
分析する
　　↓
判断する

という流れです。

そして、そのどこをアルゴリズムに担当させるかによって、人々が司法判断をどう評価するのかを実験しています。

結果として興味深いのは、AIが関与したから一律に司法判断への評価が悪くなる、という単純な話ではなかったことです。

AIがどこに入るのかが重要だった。

つまり、

「AIか、人間か」

ではなく、

「判断プロセスのどこをAIに渡すのか」

が本当の問題なのです。

🧑‍⚖️実は、25年以上前から同じことが研究されている

これはAIだけの新しい問題でもありません。

2000年、IEEEに掲載されたParasuraman、Sheridan、Wickensの有名な研究では、人間と機械の役割を大きく4つに分けています。

👉見る → 考える → 決める → 動く

もう少し正確には、

• 情報を取得する。

• 情報を分析する。

• 意思決定する。

• 実行する。

です。

そして重要なのは、全部を人間か機械のどちらかに任せる必要はない、ということでした。

例えば、

• 見る：AI

• 考える：AI＋人間

• 決める：人間

• 動く：システム

でもいい。

仕事によっては、

• 見る：AI

• 考える：AI

• 決める：AI

• 動く：AI

まで任せてもいいかもしれません。

大切なのは、

「AIを導入するか」ではなく、「どこまでAIに任せるか」を設計すること。

ここで、法廷の話が突然、企業経営の話につながってきます。

🧑‍⚖️では、経営者ならどうでしょう？

企業の意思決定も、実はよく似ています。

法律・司法企業経営見る、法令、証拠、判例を調べる市場、顧客、競合を見る考える法的論点を分析するデータ、事業性、リスクを分析する決める法的判断を行う、投資、撤退、M&Aなどを決める動く判決、契約、法的手続きを行う、人、資本、組織を動かす

いま生成AIは、最初の「見る」だけではありません。

膨大な資料を読み、論点を整理し、選択肢をつくり、それぞれのリスクを評価する。

さらにAIエージェントになれば、その先の「動く」ことまでできるようになります。

では、M&AについてAIが、

「この会社を買収すべきです」

と結論を出したら、CEOは承認ボタンを押せばよいのでしょうか。

AIが、

「この事業から撤退すべきです」

「この投資案件は却下すべきです」

「この人材を採用すべきではありません」

と提案したら？

技術的に判断できることと、判断を委ねてよいことは同じではありません。

🧑‍⚖️「最後は人間が承認します」だけでは、本当は足りない

ここには、もう一つ厄介な問題があります。

AIが世界中の情報を集め、
AIが重要な情報を選び、
AIが選択肢をつくり、
AIが成功確率を計算し、
最後だけCEOが、「承認」を押す。

これは本当に、人間が意思決定したと言えるのでしょうか。

形式上は人間が最終決定者です。

しかし、経営者が見る世界そのものをAIがつくっているなら、実質的にはAIが判断をかなり支配しています。

だから、人間を最後に残せば安全、というほど単純ではありません。

経営者には、
AIが何を見ているのか。何を見ていないのか。なぜその選択肢を出したのか。どの程度自信があるのか。どんな条件になれば結論が変わるのか。
を理解し、必要なら、

「いや、その前提は違う」

と言える能力が必要になります。

🧑‍⚖️AI時代のプロフェッショナルとは何か

外科医。

裁判官。

弁護士。

そして経営者。

一見まったく違う仕事ですが、AIによって、同じ問いを突きつけられ始めています。

専門家とは、誰よりも大量の情報を知っている人なのか。

それとも、

AIを含むさまざまな知性を使いながら、最後に何を判断し、何に責任を負うべきかを理解している人なのか。

おそらく、後者の重要性が急速に高まっていくのでしょう。

AI時代の経営者に求められるのも、AIより速く情報を集めることではありません。

AIより大量の資料を読むことでもありません。

「見る・考える・決める・動く」のどこまでをAIに任せ、どこからを人間が引き受けるのか。

その境界線を設計することです。

法廷で「AIがそう言ったから」という判決が許されないのなら、

企業でも、

「AIがそう言ったから」という経営判断で、本当によいのでしょうか。

AIが高度になればなるほど、

最後に問われるのは、AIの賢さではなく、

人間は何を判断する存在なのか。

なのかもしれません。

次回は、教室へ。

法廷で問われた「AIはどこまで考えてよいのか」という問いは、教育の現場でも姿を変えて現れています。AIが「先生」になったら、教師は何をする人になるのか？
次回は、教育の現場から考えます💡

もしこの記事にご興味を持っていただけましたら、こちらで僕が考える新しい仕事の定義も書いてみたので、ぜひご参照ください。
→みなさまそれぞれの立場や状況に合わせてどんなふうに仕事が変わっていくのか、一緒に考えられるコンテンツになっています^_^

#生成AI #AIエージェント #リーガルテック #経営戦略 #意思決定 #経営者 #弁護士 #司法 #HumanInTheLoop #DX

📚 関連記事・マガジン

この記事は、「AI時代、人はどう生きるのか ～未来を考える～」シリーズの一編です。
AI時代・未来予測・働き方・教育・人間らしさをテーマに、社会の変化を読み解く記事を公開しています。ぜひ他の記事もご覧ください。

CROSS Business Producers
CROSS Graph Team
Knowledge Architect　フランソワ🐾
未来を描く事業開発のプロフェッショナル。
新規事業・AI戦略・未来構想の伴走支援を行っています。
「正しい戦略より、美しい構想を。」

💻ウェビナー開催！参加者募集中👇

今流行りの「 #データセンター 」「 #エネルギー 」に関する最新情報です！ぜひお申込みください✨