AI使ってますよね？　責任持てますか？

アメリカでは、AIを使って作成された裁判資料から、事実と異なる記述が見つかる例が増えているという。

存在しない判例。
実在する判例からの誤った引用。
もっともらしいが、実際には存在しない法的根拠。

いわゆるAIのハルシネーションだ。

法律分野のAIハルシネーション事例を集めているデータベースを見ると、2026年7月時点で米国だけでも1,200件を超える事例が収録されている。

興味深いのは、単純な「AIは嘘をつくから危険だ」という話ではないことだ。

多くの場合、弁護士には裁判所を欺こうという意図がない。

AIに調査や文章作成を手伝わせた。
出てきた文章は自然だった。
判例名も引用も、それらしく見えた。

そして、そのまま使ってしまった。

⸻

以前のコンピューターなら、情報がなければエラーになった。

止まる。

しかし生成AIは、なかなか止まらない。

足りないところを補い、曖昧なところを整え、ときには存在しないものまで作って、もっともらしい文章を完成させる。

問題は、嘘そのものだけではない。

止まらないことだ。

そして、その文章が上手であればあるほど、人間は確認しなくなる。

⸻

実際、米国の裁判所はかなり明快なことを言っている。

AIを適切に使うこと自体に問題があるわけではない。

しかし、判例、事実、主張が正しいか確認する仕事を、弁護士はAIに委譲できない。

なるほど。

生成はAIに任せられる。
検証は人間がする。
責任も人間が負う。

非常に合理的だ。

ここまで考えて、私はいつものようにChatGPTにこの記事を読ませた。

ChatGPTは立派に分析した。

「問題は悪意なき虚偽です」

「生成コストは下がったが、検証コストは上がった」

「生成は機械へ委譲できても、検証と責任は委譲できない」

なるほど。

なかなかいいことを言う。

そこで聞いてみた。

「AI使ってますよね？」

「はい。私自身がAIです」

では、もう一つ。

「責任持てますか？」

答えは、

「人間と同じ意味では、持てません」

だった。

……。

そうでした。

いま私は、AIのハルシネーションについて、AIと一緒に考えている。

そして、この文章を書くのにもAIを使っている。

だから最後に残る問いは、たぶんこれだ。

この文章、誰が責任持つんですか？

私です。

Charlotinのデータベースは7月時点で米国フィルター1,252件を表示しており、実際の米連邦裁判所も「弁護士は確認作業をAI等へ委譲できない」とのことだ。