「水1万8000杯ください」→「え？」AI受付係の“乏しい対応力”が露呈！アイスにベーコンを乗せる珍行動まで…

「水18,000杯ください」に戸惑うAIスタッフ…アイスクリームにベーコン追加も

米ファストフード大手タコベルは、ドライブスルーでの注文受付に導入を進めていたAIスタッフの運用について、見直しを検討している。AIが的外れな応対をしたり、予想外の注文に適切に対応できないケースが相次いだことが背景にある。

問題が注目を集めたのは、最近SNSで話題になったタコベルのドライブスルーでの注文動画だ。動画では、客が食事を注文せず、飲料「マウンテンデュー」の大サイズのみを注文したところ、AIは「お飲み物は何にしますか？」と質問。客が苛立ちながら「マウンテンデューの大サイズだって言ってるだろ！」と繰り返しても、AIは同じ質問を続けた。

その様子を後部座席から見ていた同乗者は、AIの的外れな応対と困惑する運転手の様子に笑いをこらえきれなかったという。この動画は2,150万回以上再生され、大きな話題となった。

別の動画では、客がタコベルのAIに冗談で「水1万8,000杯ください」と注文すると、AIは一瞬沈黙した後、「え？」とだけ応答。その後、すぐに人間のスタッフが「ご注文は何になさいますか？」と対応した。

タコベルは2023年以降、米国内の500店舗以上にAIを導入し、注文処理の迅速化を目指していた。

英国『BBC』は、AIの誤作動を捉えた動画が話題となり、企業の期待とは裏腹にAIが逆効果を示したと報じた。

タコベルの最高デジタル技術責任者（CDTO）、デイン・マシューズ氏はウォール・ストリート・ジャーナルのインタビューで、「音声AIの開発には苦労があった」と述べ、「時には落胆することもあるが、時には本当に驚かされることもある」と語った。

マシューズ氏は、同社が「多くを学んでいる」としたうえで、今後のAI活用については慎重に検討する方針を示した。ドライブスルーでのAI利用を取りやめる可能性も視野に入れているという。また、特に混雑時には、人間のスタッフが注文を受けた方が効率的な場合もあると指摘した。

注文受付にAI技術を導入して苦い経験をしたのはタコベルだけではない。

マクドナルドもドライブスルーでの注文受付にAIを導入したが、注文ミスが相次いだため、昨年撤去に踏み切った。当時、同社のAIは、アイスクリームにベーコンを追加したり、チキンナゲットに数百ドル（数万円）相当の価格を加算するなどのミスを連発していた。

一方、タコベルは一部のミスを除き、AI受付係が約200万件の注文を正常に処理したと説明している。