【緊急速報】「火山噴火ソウルに溶岩噴出」！？AIが作ったリアル過ぎる「地獄の風景」に騙された人続出

人工知能（AI）を活用して制作された映像が現実と区別がつかないほどリアルになった今、不安の声が高まっている。

8日、聯合ニュースによると、「ソウル市内で溶岩が噴出している」というニュース速報を伝える映像が話題となっている。

速報を伝えるアナウンサーは現場記者と中継をつなぎ、その後登場した取材記者の背後には真っ赤な溶岩が噴き上がっている。

記者は「後ろに見える溶岩は本物ではありません。私はAIです」と語り、続いて登場した学生、芸能人、事業家らも全員が自分がAIであることを強調し、視聴者に「フェイク映像に注意してほしい」と呼びかけた。

この映像はグーグルのAI映像生成モデル「Veo（ビオ3）」を活用して制作されており、実際のアナウンサーのニュースのような映像美と自然な音声合成が話題となった。

当該映像を制作したユーチューバー「タルカクデザイナー」は、「ニュースでイーロン・マスクの顔でロマンス詐欺（恋愛を装った詐欺）に遭った事例が印象的だった」と述べ、「粗末なAI技術でも人々が騙されることに驚き、映像を作ることにした」と語った。

彼は「ビオ3を使えば誰でも簡単に映像や音声を生成できる」とし、「AIによる映像制作が誰でも可能になった一方で、それに対する警戒心や認識は低いようだ」と指摘した。

来年施行予定のAI基本法には、生成型AIを通じて制作された映画・ドラマなどのコンテンツサービスにAI生成物であることの表示を義務付ける内容が盛り込まれている。

ネイバーは先月、コンテンツブログ、カフェ、ネイバーTV、クリップなどで「AI活用」表示を通じて、作成者がAI利用の有無を示せる機能を提供し始めた。

ネイバーは「コンテンツによっては実際と虚構の区別が困難になることがあり、AIを活用したコンテンツの区別が必要になっている」と説明し、「AI活用表示により利用者はコンテンツの出所を明確に把握でき、AI生成コンテンツが現実と混同されることを防げる」と述べた。