韓国で、AIが生成したコメントを高精度で見分ける新技術が開発され、注目を集めている。手がけたのは韓国科学技術院（KAIST）のキム・ヨンデ教授率いる研究チーム。国家保安技術研究所と協力し、韓国語のAIコメントを世界で初めて識別可能にする技術を構築した。
生成型AIが進化する中、数時間で何十万件ものコメントを自動生成することが可能となり、あたかもそれが「世論」のように見えてしまう危険性が指摘されていた。特に韓国では、ウェブサイトのコメント数が記事の閲覧数や世論形成に直結しており、2021年の調査では42％が「コメント数の多い記事を選んで読む」、55％が「コメントが思考に影響する」と回答している。
実際にChatGPT-4oなどを使えば、コメント1件あたりのコストはたった1ウォン（約0.1円）ほどで済み、韓国最大ウェブサイトNAVERの1日平均コメント数（約20万件）も20万ウォン（約2万円）で全て埋め尽くせてしまう計算だ。
研究チームはAIと人間のコメントを比較分析し、AIは「〜のようだ」「〜について」など形式的な表現を多用しがちである一方、人間は感情を直接表す繰り返し文字を頻繁に使っていることを突き止めた。実験では、AIが作成したコメントの67％を人間が「人が書いた」と誤認したほど、識別は難しい作業だった。
研究では、GPTやGeminiなど14種類の大規模言語モデル（LLM）を活用してAIコメントのパターンを収集・解析。それぞれのAIが持つ独特な「口癖」のような表現傾向を可視化し、どのAIが生成したかまで特定する技術を確立した。この結果、既存の識別技術より68％も高い精度でAIコメントの判別に成功したという。
研究を率いたキム教授は「世論操作を防ぐには、まずAIが書いたものかを見分ける必要がある」と強調し、「この技術が実際にポータルサイトに導入されることで、AIによる世論操作の懸念が払拭されることを願う」と語った。
AIの力で「ネットの声」を自在に操れる時代。だが、それに立ち向かうテクノロジーの反撃も、すでに始まっている。
コメント0