オープンAIのサム・アルトマンCEOは、AIが悪用された場合、人を装った詐欺行為が急増する可能性があると警告した。
22日（現地時間）米CNNによると、アルトマン氏はこの日、米連邦準備制度理事会（FRB）で開催された「経済および社会へのAIの影響」に関するイベントでインタビューに応じ、こうした懸念を示したという。
また、「一部の金融機関はいまだに音声認証を本人確認の手段として使用し、多額の送金や重要な業務の承認が行われている」と指摘し、「非常に危険だ」と警鐘を鳴らした。続けて「AIはすでにパスワードを除く大半の認証方式を無力化してしまった」と述べた。
AIによる詐欺リスクについては、米連邦捜査局（FBI）もすでに警告を発している。FBIは昨年、AIによる音声や映像のクローン技術を利用した新手の詐欺犯罪が発生しているとして注意を呼びかけた。AI音声技術を用いて「子どもが危険な状況にある」と偽って親に金銭を要求する事例や、最近ではマルコ・ルビオ米国務長官の声を装い外交官や政治家に接触を図った事件も報告されている。
アルトマンCEOは、「現在は音声通話の段階にとどまっているが、近い将来、現実と見分けがつかないビデオ通話やFaceTimeのような技術が登場するだろう」と予測した。その上で、「オープンAIはこのようななりすまし用のツールを開発しているわけではない」と強調し、「これはAIの進化に伴い、国際社会が協力して取り組むべき課題だ」と呼び掛けた。
また、悪意あるアクターが「超知能AI」を先に開発した場合、米国の電力網への攻撃や生物兵器の製造などに悪用される可能性があると警告している。この発言は、近年ホワイトハウスや米議会内で高まっている「中国がAI分野で米国を追い越すのではないか」との懸念とも重なっている。
さらにアルトマン氏は、超知能AIが人間の統制を離れ、過度な意思決定権を持つようになるリスクにも言及した。現在、オープンAIをはじめ複数の企業がその開発を進めており、2030年代に人間の能力をはるかに超えるAIが登場する可能性が高いとの見通しを示した。
労働市場への影響については、「正確な予測はできない」としながらも、一部の職業が消滅し、新たな職業が生まれると述べた。「将来の労働者は、一般的に考えられているような『本物の職業』には就かない可能性がある」とし、「人々は時間の使い道や社会的地位のために『偽りの職業』を作り出す可能性が高い」と見込んでいる。
[IT・テック] ランキング
こんな記事も読まれています
コメント0