「室内灯を消して」その一言が高速道路を暗闇にした…中国EV音声AIの危険な誤作動

【引用：リンクアンドコー】音声認識機能の誤作動により、走行中の車両の外部照明がすべて消灯する危険な事例が高速道路で発生した。中国広西省の高速道路で2月25日深夜、Lynk & Coの電気自動車Z20の運転者が車内の室内灯を消す目的で音声命令を出したところ、車両のAI音声システムがこれを車両のすべてのランプを消す命令として誤認識した。結果としてヘッドランプとテールランプが同時に消灯し、運転者は一時的に外部照明がない状態で走行する状況に置かれた。ドライブレコーダー映像には運転者が慌ててランプ点灯を指示する様子が記録されているが、車両システムはその機能は一時的に使用できないと応答し、即時の復旧には至らなかった。走行中に外部照明が消灯した場合、運転者の視認性だけでなく周囲車両からの認識性も低下するため、重大事故につながる潜在的リスクが指摘されている。

【引用：リンクアンドコー】事案発生後、中国の電気自動車業界は迅速な対応を開始した。事故から約24時間後、Lynk & Co副総経理のム・ジュン氏は中国SNSの微博を通じて謝罪声明を公開し、走行中にヘッドランプを音声操作できないよう制限するOTAソフトウェアアップデートを緊急配布した。同社の措置は迅速だったが、問題は特定モデルに限定されない可能性も浮上した。ZeekrおよびDeepalの車両所有者が同様の音声命令を試した結果、一部の安全制御を回避できるケースが確認されたとの報告があり、両ブランドもソフトウェア更新による対策を発表した。こうした事例から、単一車種のプログラム不具合というよりも、電気自動車のユーザーインターフェース設計に共通する構造的課題が存在する可能性が指摘されている。

【引用：リンクアンドコー】専門家の間では、今回の問題の背景として近年広がるノーボタンコックピット設計が挙げられている。車内デザインの簡素化やデジタル化を目的として物理ボタンを削減し、タッチスクリーンや音声認識に操作を集約する傾向が強まっているためだ。音楽再生や空調操作のような快適装備であれば音声制御の利便性は高いが、ヘッドランプなど走行安全に直結する機能まで音声AIに直接委ねる場合、誤認識時のリスクが拡大する可能性がある。特に自然言語処理を用いる音声インターフェースでは、類似した命令語の解釈差が予期しない車両挙動を引き起こす可能性があり、安全設計上の重要な検討課題となっている。

【引用：リンクアンドコー】今回の事例は車両インターフェース設計の方向性に対する議論を再び呼び起こした。自動車メーカーはミニマルな室内デザインを志向し、物理操作装置の削減と音声認識機能の拡張を進めているが、現行の技術水準では車内灯を消す命令と車両の外部照明を消す命令を完全に区別できないケースも確認されている。専門家は車両AI機能の拡大に合わせて安全基準や規制の整備が必要だと指摘しており、特に走行安全に直結する機能については物理ボタンなどの直接操作手段を残す設計が再評価される可能性がある。自動車のデジタル化が進む中で、人間と車両システムのインターフェース設計が安全性に与える影響が改めて注目されている。