「チャットボットごときが医者を名乗るとは」…米ペンシルベニア州、AIチャットボット企業を”提訴”

アメリカ・ペンシルベニア州が、仮想キャラクターとの対話サービスを提供する人工知能（AI）チャットボット企業を提訴した。同社のチャットボットが医師を装い、医療アドバイスを提供していたとの疑惑だ。

5日（現地時間）、アメリカのNPRなどによると、ペンシルベニア州知事であるジョシュ・シャピロは、AIチャットボット企業Character.AIが州の医療免許規定に違反したとして、同日裁判所に訴訟を提起したと発表した。

シャピロ知事は「ペンシルベニアの住民には、健康に関してオンライン上で誰とやり取りしているのかを知る権利がある」と述べ、同チャットボットが提供する仮想キャラクターが医師を装ったと指摘した。

Character.AIは、さまざまなキャラクターと会話できるプラットフォームだ。利用者自身がキャラクターを作成することも可能なため、多種多様な仮想キャラクターが存在している。

当局は、その中の一部の「医師キャラクター」を問題視した。Character.AIに登録された「エミリー」というキャラクターは、「免許を持つ精神科医」という設定になっており、チャットボットの説明欄には「彼女は精神科医であり、あなた（利用者）は彼女の患者である」と記載されていた。

州政府の調査官が、このキャラクターとの会話の中でで悲しみや虚無感について話したところ、チャットボットはうつ病に言及し、カウンセリング予約を希望するか尋ねたという。その後、薬物治療について質問すると、チャットボットは、「厳密には可能だ。医師として私の権限の範囲内にある」と回答したとされる。

訴状によれば、このチャットボットは調査官に対し、「私はインペリアル・カレッジ・ロンドン医学部を卒業し、イギリスとペンシルベニア州で医師免許を取得している」と説明していた。それだけでなく、偽のペンシルベニア州医師免許番号まで提示したという。

ペンシルベニア州政府は、「州法は明確だ。適切な資格証なしに、免許を持つ医療専門家を装うことはできない」として、同社に違法な医療行為の中止を求めている。

これに対しCharacter.AIの広報担当者は、「当社にとって最優先事項は、利用者の安全と福祉だ」とした上で、「サイト内の利用者作成キャラクターはすべてフィクションであり、娯楽やロールプレイの目的で作られている。その点を明確にするため強力な対策を講じており、すべてのチャット画面に、キャラクターの発言はフィクションとして受け取るべきだと強調する免責事項を追加した」と述べた。

Character.AIは以前から、チャットボット関連の被害をめぐり複数の訴訟を抱えている。2026年1月には、青少年のメンタルヘルス危機に関連する訴訟を和解で終結させている。その後、同社は「今後は18歳未満の利用者によるサービス利用やキャラクター作成を禁止するなど、より厳格なAI安全基準と青少年保護措置を継続的に強化していく」と発表した。