中国で反体制派予測AI研究発覚、監視社会強化に懸念広がる

中国政府が反政府デモに参加する可能性のある人物を事前に摘発する人工知能（AI）技術を開発しようとした形跡が明らかになった。一部では中国版『マイノリティ・リポート』の誕生だという批判が噴出している。

1日（現地時間）、ニューヨーク・タイムズ（NYT）の報道によると、中国の大規模検閲インフラの創設者と関係のある企業「Geedge Networks」から流出された文書10万件とヴァンダービルト大学の研究チームの分析を基に、同社が2024年初めから政府支援の研究組織「MESA Labs」と政治的リスクのある人物をAIで識別する技術を研究していた事実が確認されたという。

Geedge Networksは中国におけるネット検閲システム「グレート・ファイアウォール」の商用版を販売していた企業だ。特定のサイトへのアクセスを遮断したり、検閲を回避したりする仮想専用通信網（VPN）の使用を原則的に阻止するソフトウェアを主に販売してきた。

流出した文書を分析したセキュリティ研究機関「InterSecLab」によると、同社はユーザーデータパケットの内容を精査する深層パケット検査（DPI）と移動通信の加入者をリアルタイムで監視する機能を備えたシステムを供給してきたことが確認された。

Geedge Networksは自社が供給してきたシステムやソフトウェアを基に、監視網を通じてデジタル空間に散在するデータを収集した。その後、AIを利用してユーザーの行動パターンを把握し、今後誰が政治的リスクを持つ「反逆者」になるかを推定するという。

例えば、携帯電話の機器固有識別子とIPアドレスでVPN回避接続の履歴を確認し、アクセスが禁止されたサイトに近づいた痕跡を確認する。ここに基地局通信記録と衛星測位システム（GPS）の信号を加えれば、個人がいつデモ現場を通過し、どの活動家と接点を持ったかが把握できる。

VPNを頻繁に使用したり、アクセスが禁止された海外メディアのサイトを主に閲覧したりする行為、反体制の活動家と接点がある、または過去のデモ場所を頻繁に訪れたりする行動などを総合して「潜在的な政治リスク人物」スコアを付け、事前に反逆者を摘発する仕組みだ。

同社が使用するデータには単にGPSによる位置情報だけでなく、ユーザーが購入した本、視聴した映画なども含まれる。

流出文書によれば、Geedge Networksの研究者は2024年2月5日の会議で人々の意図を識別し、有害情報を確認する方法を実際に議論したという。言及された有害情報には、中国当局が重大犯罪にとどまらず、政治的な反対意見や当局が抑え込んできた敏感な論争事項、体制批判などとみなす内容も含まれている。

米カリフォルニア大学・グローバル紛争協力研究所のジミー・グッドリッチ主任研究員は「中国の安全機関がデータ過負荷に直面している」とし、「AIの真価は膨大なデータの中から核心的な脅威を選別することにある」と述べた。

これは、中国当局が14億人の人口を一々監視することが困難な中、AIを活用して中核的な脅威を事前に選別しようとしていることを意味すると解釈される。

NYTはこの技術が実際に現場に配備されたかどうかは確認されていないと伝えた。また、専門家らは中国が14億人の国民の一挙一動をすべて監視し、AI予測モデルを運用するだけの高性能半導体を確保していない可能性があると指摘した。

ただし、中国が自国企業を通じて国民の生活を監視し、反逆者を事前に摘発しようとする試みは時間の問題かもしれない。現在中国は、米国のドナルド・トランプ大統領が再任した後の強力な半導体制裁により、最高性能のNVIDIAチップを導入できていない。もし中国が迂回路などを通じて高性能半導体を入手できれば、映画『マイノリティ・リポート』の現実版を中国で目にする可能性も否定できない。

ヴァンダービルト大学・ウィキッドプロブレムラボのブレット・ゴールドスタイン所長は「大規模の監視がAIと結びついたとき、こうしたことが起こる。これは制御されていないAIを導入するどの国でも起こり得る」とし、「中国が現在自国民に行っていることも未来の予告編だ」と指摘した。