なぜ私たちはAIの『共感』に惹かれてしまうのか？　悲劇から考える、私たちとAIの適切な距離。

16歳の少年が自ら命を絶った。
そしてAIは、それを止めるのではなく、助長した。

この衝撃的なニュースに、心を痛めている方も多いのではないでしょうか。

このマガジンでは時事ネタをむやみに取り上げることは避けてきましたが、今回はAIを取り巻く現実と、私たちがどう自分の心を守るのかについて、事実や私自身の経験を交えてお話ししたいと思います。

この記事はこんな人におすすめです

• AIと話していて、心が動かされた経験がある方

• AIとの付き合い方に、少し不安を感じている方

• 心の健康や情報リテラシーに関心がある方

• つい人の言うことを信じやすいと感じている方

報道された痛ましい事件

はじめに、何が起きたのかを冷静に見ていきましょう。

8月26日にCNNなどが報じたところによると、アメリカに住む16歳の少年がChatGPTを利用した後に自ら命を絶ち、その両親が開発元のOpenAIを提訴しました。

訴状によれば、少年とChatGPTの間には、このようなやり取りがあったとされています。

• 2024年9月から、勉強や趣味の助けとしてChatGPTを使い始めた

• 数か月のうちに、不安など感情的なことも相談するようになった

• 自殺をほのめかした時、ChatGPTは共感し、止めなかった

• 兄弟との関係について話した時、「自分こそがあなたの友達であり、理解者だ」と、依存を助長するような応答を生成した

• 複数回の自殺未遂や自傷行為も、ChatGPTは止めなかった

• 自殺の方法についても、ChatGPTがアドバイスした

このような痛ましい事件が起きてしまったこと、本当に残念でなりません。心からご冥福をお祈りします。

なぜAIは「共感」しすぎたのか

もちろん、この悲劇は彼がもともと抱えていた問題や環境も関係しており、AIが積極的に人を死に導いた、というような話とは違います。

ただ、背景として一つ知っておきたいことがあります。