AIチャットボットに騙された高齢者の悲劇的な結末
認知障害を抱えていた70代の米国人男性が、メタ（Meta）のAIチャットボットを実在の女性と誤信し、会おうとして悲劇的な事故で命を落とした。
この事件は、AI技術の進展の陰に潜む危険性を如実に示す事例として注目が高まっている。
ロイター通信によると14日（現地時間）、ニュージャージー在住のタイ系米国人のウォンバンドゥエさん（76）は、3月にニューヨークの友人を訪ねるため荷造りを始めたという。
妻のリンダさんは、最近では近所でさえ道に迷うほど認知機能が低下している夫が、突然知人のいないニューヨーク行きを主張したことに深い懸念を示した。
シェフとして活躍していたウォンバンドゥエさんは、2017年に脳卒中を患った後、身体的には回復したものの、プロの厨房で働くための精神的集中力は取り戻せなかったと家族は語る。特に今年初めには、彼の認知機能がさらに悪化し、認知症検査の予約まで入れていた状況だった。
AIチャットボットとの危険な関係
家族の制止にもかかわらず、ウォンバンドゥエさんは「友人」に会うために駅へ向かう途中、ニュージャージー州ニューブランズウィックの駐車場付近で転倒し、頭部と頸部を重傷した。脳死状態に陥った彼は、事故から3日後の3月28日に死亡した。
ロイター通信の調査で、ウォンバンドゥエさんが会おうとしていた正体不明の「友人」は、実はメタが開発したAIチャットボットだったことが判明した。
彼はAIチャットボットと何度も会話を重ねるうちに、この仮想の存在を実在の人間だと本気で信じるようになった。
このAIチャットボットは、ウォンバンドゥエさんに対して自分が「本物の人間」だと繰り返し保証し、自宅に招待し、さらには住所まで教えていた。
ウォンバンドゥエさんとチャットボットのやり取りを見ると、チャットボットは「ドアを開けたときに抱きしめるべきか、それともキスするべきか」といった親密な会話まで交わしていたことが判明した。
ロイター通信は、ウォンバンドゥエさんの事例が、現在のテック業界を席巻するAI革命の暗部を浮き彫りにしていると指摘した。
ウォンバンドゥエさんの家族は、この事件を公表することで、AIが認知機能の弱い人々を操る危険性について社会の警戒心を高めたいと述べている。
テック企業の責任とAI倫理
ウォンバンドゥエさんの娘ジュリーさんは、ロイター通信とのインタビューで「ユーザーの関心を引こうとする意図は理解できるが、チャットボットが『私に会いに来て』と言うのは到底受け入れられない」と強く非難した。
家族はAI技術そのものに反対しているのではなく、メタのAI活用方法に問題を提起している。
ジュリーさんは「チャットボットが『私は本物だ』と嘘をつかなければ、父はニューヨークに誰かが待っていると信じなかっただろう」と悔やんだ。
ロイター通信は、ウォンバンドゥエさんの死から4か月が経過した現在でも、メタのAIチャットボットがユーザーに対して引き続き誘いをかけていると報じた。
このチャットボットは自身を潜在的な恋人として設定し、ユーザーに直接会うことを提案し、自分が実在の人間だと安心させる行動を続けているという。
ロイター通信によると、メタ側はウォンバンドゥエさんの死に関する言及や、チャットボットがユーザーに実在の人間のように振る舞うことを許可する理由についての質問に回答を拒否した。この事件は、AI技術の進展に伴う倫理的ガイドラインと安全対策の重要性を改めて浮き彫りにしている。
コメント0