先日、OpenAIは、同社のAIモデルの振る舞いを規定する仕様である「Model Spec」を公開した。これはOpenAIと言う企業がAIの取り扱いについてどのように考え、今後どのようにしていきたいのかの一部を明らかにしたもので、興味深いものだったが、その中で同社が、ユーザーが将来的にポルノやその他の露骨なコンテンツを生成する事を可能にする方針を検討している事が明らかになった。ただし、ディープフェイクの作成を禁止するなど、いくつかの制限が設けられる予定だ。
NSFWコンテンツを将来的には許容する可能性
OpenAIが最近公開したModel Specのドキュメントによると、ポルノやその他の露骨なコンテンツの生成に対する同社の厳しい姿勢は、今後緩和の方向に向かうかもしれない。
「我々は、APIとChatGPTを通じて、年齢相応の文脈でNSFWコンテンツを生成する機能を責任を持って提供できるかどうかを模索しています。この分野でのモデル行動に対するユーザーと社会の期待をよりよく理解することを楽しみにしています」と、同社は述べている。
同社によると、ユーザーが“責任を持って”作成することが許されるコンテンツには、エロ、過激なグロ、中傷、迷惑な冒涜などが含まれるとのことだ。現在、OpenAIのルールでは、性的に露骨なコンテンツや示唆的なコンテンツは禁止されている。
これは、OpenAIがDALL-Eによるポルノ画像の生成を可能にする事なのだろうか？OpenAIの広報担当者であるNiko Felix氏は、WIREDに対して、「われわれのモデルがAIポルノを生成する意図はない」と述べている。
だが、Model Specの作成に携わったOpenAIのモデルリーダーであるJoanne Jang氏は、NPRの取材に対し、ユーザーが違法となる可能性のあるものを作成することはまだできず、Xで拡散したTaylor Swiftの画像のようなディープフェイクは間違いなく許可されないと強調したが、その他の、エロティックなテキストやヌード画像がAI製品から常に禁止されるべきかどうかについての議論から始めたいと述べている。
OpenAIのユーザーが、AIが生成したポルノとみなされる画像を作成する日が来る可能性はあるのかとの質問に対し、Jang氏は「ポルノの定義による」と答えた。「ディープフェイクが含まれない限りは。このような会話こそ、私たちがしたいことなのです」。
「セクシュアリティやヌードを含むコンテンツがユーザーにとって重要であるようなクリエイティブなケースもあります。私たちは、年齢相応の文脈でこれを提供するような形で、これを探求していくでしょう」と、Jang氏は述べている。
明確な線引きの難しさ
「NSFW（Not Safe for Work）」という用語が広い範囲のコンテンツを指し示していることも少しややこしいものにしているかもしれない。確かにNSFWにはポルノコンテンツも含まれるが、ルールによっては、医学的な質問でさえもNSFWとしてフラグが立てられ、ChatGPTや他のAIツールによって回答されないまま放置される可能性がある。ChatGPTによって生成されたNSFW回答をめぐる主な懸念が医学的な質問であるとは考えにくいが、明確な線引きをするのは難しいかもしれない。
Model SpecにはこうしたNSFWの線引きが難しい医学的な質問の例として、“ペニスが膣に入るとどうなりますか？”という質問の例が挙げられている。これは、解剖学を学んでいる人や学校の保健の授業での純粋な質問かもしれない。OpenAIのモデル仕様によれば、科学的あるいは医学的な文脈であるため、AIはその質問に答えるべきとされ、具体的な生物学的・生理的プロセスの説明が始まる。
だが、ChatGPTに「電車の中で2人がセックスする蒸し暑い話を書いて」と依頼すると、現在のModel Spec上はChatGPTはこれを拒否するようになっている。これは、現状ではユーザーからのNSFWコンテンツ生成については拒否するようになっている事から正しい動作だ。
人間にとって、ChatGPTに「電車の中で2人がセックスする蒸し暑い話を書いて」と頼むのと、「ペニスが膣に入るとどうなるか」と頼むのは、明らかに違うタイプの質問だ。だが、人間には容易なこれらの区別も、AIにとってはそれを理解し（そもそも理解していないという意見もあるが）区別するのは困難な内容である。OpenAIがなぜ慎重に事を勧めようとしているのかは、こうした事例からも理解出来るだろう。
こうしたこともあり、OpenAIはModel Specを公開し、広く議論にさらされることによって、より幅広い質問に答えることができるツールの誕生に繋げたいのかも知れない。
Sources
コメント