芸能人になりすまし、投資を誘導したり犯罪に悪用する事例はこれまでにも少なくなかった。偽のSNSアカウントを開設したり、無断で盗用した写真を広告に利用するなどして被害者に接近し、金銭をだまし取るだけでなく、芸能人本人のイメージを傷つけてきた。
しかし、名前や写真だけを使ったなりすましには目に見える実体がなく、ある程度の限界があった。だがAIやディープフェイク技術の発達により、芸能人を装う手口はますます巧妙かつ精密になっている。今では何が本物で何が偽物なのか、容易に区別がつかないほどだ。
芸能界では早くからAI犯罪への警戒が強まっている。特に多くの女性芸能人が性的対象化され、顔をディープフェイクで合成したわいせつ動画の制作犯罪が増加した。BLACKPINK、IU、TWICE、NewJeans、クォン・ウンビらがディープフェイクによる被害を訴え、法的対応に乗り出している。
実際に金銭的被害へ発展した例もある。著名人の顔や声をディープラーニングで再現したAI映像を利用し、投資を誘導する詐欺事件が発生したのだ。俳優ソン・ヘギョやチョ・インソンの顔と声を真似た祝電映像を作り、それを用いて数千万ウォン規模の投資を引き出した詐欺もあった。
いまや目に見えるものすべてを信じられない時代だ。問題は、こうしたAI技術が一般化し、誰でも簡単に偽物を作れるようになった点である。専門知識がなくても、スマートフォンさえあれば数回のタップで本物そっくりの偽物を生成できる。そして、そうして容易に作られた偽物が社会に大きな混乱をもたらす危険がある。
最近発生した俳優イ・イギョンの私生活をめぐる虚偽暴露騒動は、AI技術の普及とそれによる偽コンテンツ制作がいかに恐ろしい結果を招くかを示した。
今月20日、あるネットユーザーが「イ・イギョンの正体を暴露する」としてカカオトークの対話内容を公開した。このやり取りの中で、イ・イギョンと思われる人物は卑猥な発言や暴言を繰り返しており、誠実なイメージで知られる彼とはあまりにかけ離れた内容だった。さらに、その人物は自分の写真だと主張する日常写真まで共有し、これまで公開されたことのない私的な姿が含まれていたため、多くの人が暴露を信じ込んだ。
しかし、この暴露は虚偽だった。イ・イギョンの所属事務所が虚偽事実の流布と悪質な噂による被害に対し法的措置を警告すると、該当ユーザーは「AIを使ったいたずらだった」と真実を告白し、謝罪した。
AIを利用した自作劇だったことが判明し、事件はひとまず終息したものの、論争が続いた3日間、イ・イギョン本人は地獄のような時間を過ごしただろう。何もしていないのに突然非難の中心に立たされ、暴露を信じた人々の誹謗を全身で受け止めなければならなかった彼に、いったいどんな罪があるというのか。AIがどれほど容易に悪用されうるかを示す象徴的な事件である。
コメント0