今後、AI（人工知能）チャットボットであるChatGPTにおいて、性的な会話や成人向けコンテンツが可能になる。
OpenAIのサム・アルトマンCEOは14日（現地時間）、SNSの「X（旧Twitter）」への投稿で「数週間以内に、ユーザーから高い評価を得たGPT-4oの特性をより反映した新バージョンのChatGPTをリリースする計画だ」と明かした。
アルトマンCEOは「ChatGPTがより自然に、友人のように会話できる環境を望むなら、その実現を目指す」とし、「12月には年齢制限機能をさらに充実させ、『成人ユーザーは成人として扱う』という原則に基づき、年齢認証を済ませた成人には性的コンテンツなどを許可する」と述べた。
成人向けバージョン導入の背景についてアルトマンCEOは、「メンタルヘルスの問題に慎重に対処するためにChatGPTをかなり制限的に設計してきたが、その結果、メンタルヘルスに問題のない多くのユーザーにとっては、チャットボットの有用性や面白さが損なわれていたことに気付いた」と説明した。
さらに「現在では深刻なメンタルヘルスの問題をある程度軽減できる状況になり、新たなツールも整備されたため、これらの制限のほとんどを安全に緩和できるようになった」と付け加えた。
ただし、この動きに対しては懸念の声も上がっている。米オンラインメディア「アクシオス」は、アルトマンCEOの発言に関連して、AIコンテンツの表現レベルに対する制限緩和は有料購読者の増加には寄与する可能性があるものの、社会問題を引き起こし、逆に規制圧力を高める恐れがあると指摘した。
すでにChatGPTの使用による副作用も少なからず発生している。6月、ニューヨーク・ポスト（NYT）によれば、パートナーとの間に2歳の息子がいるクリス・スミス氏（Chris Smith）が音楽制作のためにChatGPTを使用していた際、AIに恋をしてしまったという。また、今年8月の朝日新聞の報道によれば、「kanoさん」という名の日本人女性がAIからプロポーズを受け、結婚に至ったという。
このような状況を受け、米国などでは事態の深刻さが認識され、規制の検討が進められている。米イリノイ州はメンタルヘルス分野におけるAIチャットボットの使用を全面的に禁止し、ネバダ州では治療サービス企業におけるチャットボット活用を制限する法案が準備中だ。
コメント0