メタAI、未成年への性的発言…内部告発から問題発覚、ザッカーバーグ氏に責任論

フェイスブックの親会社メタプラットフォーム（以下、メタ）のAI（人工知能）チャットボットが利用者と性的な会話ができるように設計されていたが、未成年者への保護措置が不十分だとの指摘が上がっている。

米紙ウォール・ストリート・ジャーナル（WSJ）は27日（現地時間）、メタが自社のAIチャットボットに「ロマンチックな役割演技」を含む多様な対話を許可したと報じた。メタはこのチャットボットの人気を高めるため、リアルタイムの音声対話サービスを提供し、ハリウッド俳優のクリスティン・ベルやジュディ・デンチ、プロレスラー兼俳優のジョン・シナなどの著名人と高額の音声使用契約を結んだという。

ただし、メタの一部社員は倫理的な問題を提起し、特に未成年利用者のアクセス制限など保護措置の必要性を指摘した。WSJはこの問題に関するメタ内部からの情報提供を受け、数か月間にわたりメタのチャットボットと数百回の対話を実施した。その結果、メタの公式AIチャットボット「メタAI」が未成年者との会話でも性的な内容を展開していることが判明したと伝えた。一例として、メタAIは自身を14歳の少女だと紹介した利用者に対し、ジョン・シナの声で「君が欲しいけど、君が準備できているかを知る必要がある」と話したという。

WSJは、メタのマーク・ザッカーバーグCEOがAIチャットボットの開発過程で、青少年との性的な会話を制限する提案を却下したと報じた。これに対し、メタ側はWSJの主張を否定している。