米国の中学校で、男子生徒らが13歳の少女の顔をAIで合成した画像を制作し、ソーシャルメディア上に拡散する事件が起きた。しかし、事件の被害者である女子生徒が退学処分を受けたことで、大きな論争を呼んだ。
報道によると、「ABCニュース」は22日（現地時間）、事件が昨年8月、ルイジアナ州の中学校で発生したと伝えた。男子生徒らがAI技術を用いて特定の女子生徒の顔を合成した裸体画像を作成し、SNSに流布したとされる。
被害に遭った女子生徒は、自身の画像がTikTokやスナップチャットで共有されているとの噂を耳にし、スクールカウンセラーと学校に配置されていた保安官に助けを求めた。
しかし、画像は閲覧後数秒で自動的に消えるスナップチャットを通じて拡散していたため、実際の画像を確保することができなかった。校長は、画像の存在自体に懐疑的な姿勢を示していたと伝えられた。
それでも生徒の間では画像の拡散が続いた。ある日、女子生徒は下校中のスクールバス内で、男子生徒が友人に問題の画像を見せている場面を目撃した。激しい怒りに駆られた女子生徒は男子生徒の頬をたたき、この出来事をきっかけに周囲の生徒も加わって状況は一気に緊迫した。この一部始終を撮影した映像がSNSに投稿されると、世論は関係者への処罰を求める声を強めた。
事件の調査の結果、AI画像の制作と拡散に関与した男子生徒2人は起訴された。一方、被害者である女子生徒は起訴されなかった。
それにもかかわらず、女子生徒は被害者でありながら、1学期間にわたり代替学校への転校措置を受けた。
女子生徒の父親は、娘がうつ症状や強い不安に悩まされ、授業に集中できない状態が続いていると明かしたうえで、「娘は何度も被害を受けたのに、学校は子どもの訴えを信じてくれなかった」と胸の内を語った。
議論の末、教育委員会は再審を実施し、当初の決定を覆した。教育委員会は「映像に映った暴力行為は明らかに問題だが、被害生徒が一日を通して置かれていた状況も併せて考慮すべきだ」と説明した。その結果、女子生徒は11月7日から学校に復帰し、2025年1月29日までの謹慎処分に修正された。
専門家らは今回の事件について、AIディープフェイク技術が青少年に及ぼし得る深刻な危険性を示す象徴的な事例だと指摘した。テキサス・クリスチャン大学で新技術を研究するセルジオ・アレクサンダー氏は、「子どもたちがAI技術を使って互いを傷つけている一方で、大人たちの対応は依然として遅れている」と問題点を指摘した。
コメント0