ディープフェイクボットが引き起こす新たな脅威、SNS上でのわいせつ画像合成の現状と法的空白

「今すぐ好きな女性の写真を送って始めてみましょう。」

SNSで「ディープフェイクボット」と検索すると、このようなチャンネルが現れた。ディープフェイクは人工知能（AI）を利用した画像合成技術である。

「ボット」はロボットの略で、アルゴリズムによって単純作業を自動的に処理するプログラムである。したがって、AIを利用して画像を自動的に合成し、わいせつ物を作成する場所が「ディープフェイクボットチャンネル」であると言える。これらのチャンネルは、好きな女性の写真をわいせつなものと合成すると広告し、事実上の性犯罪を誘発する雰囲気だった。

SNS上でディープフェイクボットチャンネルはアクセスしやすく、これを利用すれば1分ほどでわいせつ物が作成できることがわかった。問題は、韓国の現行法上、広める目的でない単純な購入及び所持については、処罰が不可能である点である。

■クリック数回、1分程度で性犯罪と見なされる作業を完了させるディープフェイクボット

1日、メディアで、わいせつ物を連想させる言葉と「AI」を組み合わせてX（旧Twitter）やテレグラムなどで検索してみると、数十個のディープフェイクボットチャンネルが見つかった。特に一つのチャンネルに入ると、複数の類似チャンネルが次々と推薦され、他のディープフェイクボットチャンネルを見つけることも容易であった。

ディープフェイクボットチャンネルに入る際「18歳以上の成人でなければならない」という文言は存在していた。しかし、成人認証などの手続きが特にないため、意味のない文言であった。

別のチャンネルに接続すると、「私たちは究極のリアリズムを追求する画像処理ボットである。写真をボットに送れ」というメッセージが表示された。処理したい画像を送ると、1分でわいせつ物に合成された画像が得られるという説明も付いていた。

ディープフェイクボットチャンネルは、ほとんどが有料であった。合成物を作成するにはポイントが必要で、ポイントはお金で購入できると案内されていた。チャンネルに写真を送ると、ぼやけた合成物が表示され、高品質の画像をダウンロードするには決済が必要な仕組みである。

チャンネルの中には、1回体験用に無料ポイントを配布するところも多かった。無料体験を提供するチャンネルを複数利用すれば、制限なく無料のわいせつ物を作成できるという意味である。友人を招待するたびにポイントをもらえるところもあり、構造的なディープフェイク性犯罪の拡散が懸念された。

その後、写真をアップロードすると、何を合成するかの選択肢が与えられた。「裸にする」、「ビキニを着せる」など、性犯罪と見なされる文言である。選択肢によって価格も異なった。元の画像にこのような選択肢を適用するのにかかる時間はわずか1分程度であった。クリック数回、短時間で性犯罪と見なされる作業が完了してしまう。

■単純購入や所持は処罰不可「立法の空白」

技術の発達により、事実上性犯罪と同様の行為がSNS上で行われているが、現実では処罰が不可能な場合がある。

韓国の性暴力犯罪の処罰等に関する特例法第14条の2は「頒布」（広く配ること）などの目的で、対象者の意思に反して映像または音声を編集・合成した者に対し、5年以下の懲役または5000万ウォン（約548万円）以下の罰金に処することを規定している。

しかし、頒布せず合成物を単純に購入・所持したり視聴する場合は、処罰に値する内容が存在せず、立法の空白がある。

韓国サイバーセキュリティ協会のキム・ヒョンゴル会長は「ディープフェイクボットを運営して合成物を作成することだけでは、処罰が曖昧で根拠もやや不足している」とし、「犯罪であると認識しながらも傍観したかどうか、収益性の有無が争点である」と述べた。

警察側では、ディープフェイクボットチャンネルのリンクを共有する行為について、状況に応じて処罰が可能であると説明した。警察関係者は「具体的な状況を見て、場合によっては幇助の疑いで適用されることがある」と述べた。