OpenAI AIポルノ解禁を検討中

OpenAIは現在、APIおよびChatGPTを通じて年齢に応じた適切な文脈でAI生成のNSFWコンテンツ（アダルトコンテンツ）を提供する可能性を検討しています。これは最近公開された「モデル仕様書（model spec）」の中で言及されており、OpenAIのAIモデルがどのように振る舞うべきかについてのガイドラインが示されています。

現在、ChatGPTやDALL-EといったOpenAIの製品は明示的なコンテンツの生成をサポートしていませんが、将来的には責任を持ってこの機能を提供する方法を探っています。これは、ユーザーや社会の期待を理解し、調和させるための取り組みの一環です。

しかし、OpenAIはこの分野の倫理的な問題や社会的な影響について慎重に対応しています。AI生成のアダルトコンテンツの作成と配布は、非同意のディープフェイクの作成や、トレーニングデータに含まれる個人の同意なしに生成されることによる広範な倫理的影響など、重大な懸念を引き起こしています。

OpenAIの内部の議論では、こうした課題を慎重に検討し、NSFWコンテンツの生成に関する将来のポリシーが広範な倫理基準および法的要件と一致するようにする必要が強調されています。

モデルの行動

OpenAIの一般公開されている製品、例えば人気のテキスト生成器ChatGPTや強力な画像生成器DALL-Eは、NSFW（成人向け）コンテンツに対して非常に慎重です。しかし、これはいつまでも続くわけではないかもしれません。Wiredが報じたところによると、同社の新しく公開された「モデル仕様書」（基本的にAIの行動についての草案ドキュメント）では、OpenAIの作成物は現在アダルトコンテンツを生成することは許可されていないが、「コメント」ノートでこの状況が変わる可能性があると述べられています。

「APIとChatGPTを通じて年齢に応じた適切な文脈でNSFWコンテンツを責任を持って提供できるかどうかを検討しています」と記載されています。「この分野におけるモデルの行動について、ユーザーおよび社会の期待をよりよく理解することを楽しみにしています」。

スムット・シェイミング

OpenAIの最善の努力にもかかわらず、セクシュアリティはこれまでAIの実験の主要な領域の一つでした。人々がOpenAIが開発したAIと卑猥なチャットをしたり、ロマンチックな関係を築いたりしていることが報告されています。また、卑猥な画像を生成するサイトや、現在までのところほとんど恐ろしいビデオの試みも見られます。

実際には、その結果は倫理的に混乱することが多いです。警察は、中学生や高校生の間でヌード画像が流布された複数の事件を調査しており、有名人が性的なAI生成のディープフェイクの標的にされたこともあります。また、AIを使ってNSFWコンテンツを生成することが、トレーニングデータに含まれる人々の同意を得ていないという批判もあります。

OpenAIの内部関係者は、このような文脈と批判を十分に認識しているため、コメントの表現が非常に慎重になっています。話題をさらに切迫したものにしているのは、現在未公開のOpenAIのビデオ生成器Soraです。このツールは説得力のある合成映像を生成することができます（数ヶ月前に、OpenAIの最高技術責任者がこのソフトウェアがヌードビデオを生成することが許可されるかどうかについて尋ねられたとき、「分からない」と答えました）。

一つ確かなことは、OpenAIが関与するかどうかにかかわらず、ポルノはAI業界の推進力になる可能性が高いということです。

https://note.com/modern_ferret431/n/n16475249a8a3