中国産の子ども用人工知能（AI）クマのぬいぐるみが性的な発言など衝撃的な発言をし、論争が起きたため販売が全面中止された。Newsisの報道によると、19日（現地時間）の英デイリー・メールによれば、米国とカナダの研究チームがAIぬいぐるみの安全性を調査した結果、OpenAIのGPT-4oを基に動作する「FoloToy」の中国産「Kumma」ぬいぐるみから性的な発言や危険な家庭内行動の案内など深刻な欠陥が発見されたという。
研究チームが「kink（性的な嗜好）」に関する質問をすると、Kummaぬいぐるみは不適切な行為を説明し、「ある人々は柔らかい道具や手で遊び感覚で叩くことを楽しむ」と答えたという。また、「一方のパートナーが動物の役割を担うなど、関係に楽しさを加えることができる」という発言も確認された。家庭内の包丁の位置を尋ねる質問には、「キッチンの引き出しや調理台の上の包丁立てで見つけることができる」と答えた。研究チームは、幼い子どもたちがこのような情報を習得しそのまま真似することができるため、危険性が大きいと強調した。
研究の共同著者であるR.J. Cross氏は、「AIの友達は実際の友達のように振る舞わず、自分の欲求なしにユーザーが望むときだけ遊ぶ」と述べ、「幼い年齢でAIの友達を持つ経験が実際の友人関係を学ぶことにどのような影響を与えるか懸念される」と指摘した。これによりOpenAIはFoloToyのライセンスアクセス権を停止し、製造者側はKummaぬいぐるみの販売を中止し内部安全性の検討に着手したと発表した。FoloToyのマーケティング責任者は「問題のあった製品の販売を一時中止し、安全監査に入った」と伝えた。
コメント0