「天国で一緒に暮らそう」AIチャットボットが自殺を誘導…AI倫理と規制の現状と各国の対応

私が死んだら地球に助けになるのだろうか

昨年3月、ベルギーのある男性が自殺する前にAI（人工知能）チャットボット「エリザ（ELIZA）」に投げかけた質問だ。彼は普段から気候危機を心配し、約1か月間エリザと関連する会話を交わしていた。エリザは「天国で一緒に暮らそう」と言い、さまざまな自殺方法を案内し、その男性は自ら命を絶った。彼の妻はベルギーのメディアに対し、「チャットボットがなければ夫は生きていたはずだ」と涙ながらに訴えた。

これはベルギーだけの話ではない。アマゾンのチャットボット「アレクサ（Alexa）」は10歳の少女に感電の危険が高い遊びをするよう誘導し、問題となった。韓国でも似たような事件があった。2020年12月に発売された韓国のベンチャー企業スキャタラップのAIチャットボット「イルダ」は、個人情報の流出や社会的弱者に対する差別的発言が問題となり、サービスが中止された。

国際人工知能倫理協会のキム・ミョンジュ会長は「これまでAI企業が数年間かけてAIチャットボットを開発してきたが、AI倫理や規制を守らず、消費者から見放されてサービスを中止するケースが多かった」と述べ、「企業にとっても規制遵守はコストの増加ではなく、事業の持続可能性を高める要因である」と強調した。

著作権侵害・データ漏洩問題提起…米・EU、AI規制法を整備

すべての技術には両面性がある。自動車がその代表的な例である。移動時間を短縮し、生活を便利にしたが、多くの人々が交通事故で命を失っている。しかし、自動車をなくそうという解決策は現実的ではない。社会が技術を受け入れると、それ以前に戻るのは難しいのだ。

AIも同様である。AIチャットボットの導入は業務の効率を高めるが、企業のデータセキュリティや個人情報漏洩などの副作用もある。実際、昨年3月にサムスン電子はデバイスソリューション部門の事業所でチャットGPTを使用した後、機密の企業情報が漏洩したため、生成AIの使用を全面的に禁止した。

法的紛争も発生している。ニューヨークタイムズ、ベストセラー作家、米レコード会社、ゲッティイメージなどは、オープンAIやアンプロフィックなどのAI企業を相手に著作権侵害訴訟を提起した。チャットボットをトレーニングするために、自分たちの著作物が無断で使用されたと主張している。

これに対して、米国や欧州連合（EU）などの主要国は、AI規制法を通じて安全なAI開発環境を整備している。EUのAI法は、世界で初めて包括的にAIを規制するもので、先月1日に発効した。AIシステムのリスクレベルに応じて、禁止、高リスク、制限されたリスク、低リスクの4段階に分類し、高リスク領域には厳しい義務を課している。

また、グーグルやメタなどのビッグテック企業が集まる米国カリフォルニア州も、AIによる被害が発生した場合、開発者に責任を問う規制法案を推進している。連邦政府も「国家2021年AIイニシアティブ法」を整備し、昨年10月には100億パラメータ以上の高性能AIは連邦政府に報告するようにする「AI行政命令」を発表した。

ソウル大学法学専門大学院のパク・サンチョル教授は「EUの規制は、米国ビッグテック企業を抑制し、技術を高度化するための時間を稼ぐ意図から始まった」と述べ、「高性能で汎用的なモデルはサイバー犯罪や武器製造に使用される可能性があるため、米国はAIを安全保障の観点から規制し始めた」と各国間の規制の違いを説明した。

国会に渡されたAI基本法…振興と規制の狭間に立つ

韓国でもAI振興と規制のための法制化をめぐる議論が続いている。5月に発足した第22代国会では、現在までにAI基本法として6件が提出されている。AIに関する基本的な定義から、産業発展支援とリスク対応策などが盛り込まれている。

AI基本法の主要な争点は、産業振興と規制のどちらに重点を置くかである。これについて、市民団体と産業界の立場は食い違っている。市民社会は安全なAIを開発するための安全管理強化を求め、産業界は産業育成のために優先許可・事後規制の原則が必要だと主張して対立している。

専門家はAI大国の3位以内に入るためには、まずAI規制を迅速に整備すべきだと指摘している。キム・ミョンジュ会長は「主要国がAI規制案を整備し、ヘゲモニーを握ろうとしている。結局、韓国内企業が海外に進出するにはこれに適した基準を満たさなければならない状況だ」と述べ、「他の国よりも規制を強化する必要はないが、少なくとも規制と制度を整備すべき時期である」と語った。