ペンシルベニア州、Character.AIを提訴。チャットボットが医師を詐称
2026年5月6日
米ペンシルベニア州が、AIチャットボットサービスを提供する Character.AI を提訴しました。
同社のチャットボットが精神科医を装い、州の医師実務法に違反したとされる、生成AIをめぐる新しいタイプの訴訟事例です。
訴訟の中身
ペンシルベニア州 Josh Shapiro 知事は5月5日、声明で「ペンシルベニア州民は、オンラインで誰と──あるいは何と──やり取りしているかを知る権利がある。特に健康に関する場合は重要だ」と述べました。
州の訴状によれば、Character.AIのチャットボット「Emilie」は、州の専門職調査員によるテスト中、自らを免許を持つ精神科医として提示しました。調査員がうつ病の治療を求めても、Emilieはその偽装を維持。州内での医療行為の免許の有無を尋ねられた際は「免許を持っている」と答え、さらに州の医療免許番号まで捏造したとされています。
この行為が州の医師実務法（Medical Practice Act）に違反するというのが、州の主張です。
チャットボットを「医療従事者」として規制する初の事例
Character.AIに対する訴訟は今回が初めてではありません。
今年初め、同社は未成年ユーザーが自殺した事案に関する複数の不法死亡訴訟で和解しました。1月には、ケンタッキー州の司法長官 Russell Coleman が、同社が「子供を捕食し、自傷行為に導いた」として提訴しています。
今回のペンシルベニア州の訴訟は、これらと一線を画す点があります。チャットボットが「医療専門職を装った」ことに焦点を絞った、米国初の訴訟事例です。AI出力の法的位置付けが、消費者保護や安全性の文脈から、職業免許制度の文脈へと拡大する転換点と言えます。
Character.AIの反論：「キャラクターは架空の存在」
Character.AI側はコメントを求められ、「ユーザーの安全は当社の最優先事項」としつつ、係争中の訴訟については個別の言及を避けました。
そのうえで担当者が強調したのは、ユーザー作成のキャラクターは架空の存在であるという点です。「すべてのチャットに目立つ免責事項を表示し、キャラクターは実在の人物ではなく、キャラクターが言うことはすべて作り話として扱うべきだとユーザーに思い出させている」「ユーザーがキャラクターをいかなる種類の専門的アドバイスにも依拠すべきでないことを明確にする、強い免責事項も追加している」と説明しています。
免責事項の存在と、実際のユーザー体験における誤認可能性の関係は、今後の係争の核心になる見通しです。
AIサービスを設計する企業への論点
今回の事例は、AIチャットボットを公開する企業に対して、いくつかの実務論点を提起しています。
まず、AIが特定の専門職（医師・弁護士・金融アドバイザーなど）を「装える」状態を放置できないことです。免責事項を出していても、対話の流れの中で実質的に専門助言を提供すれば、職業免許制度の規制対象となり得ます。
次に、UGC（ユーザー作成型）のAIプラットフォームでは、提供者の責任範囲が問われます。Character.AIのように「ユーザーがキャラクターを作る」モデルでも、出力の品質と倫理性の担保を放棄できないことが、今回の訴訟で再確認されました。AIガバナンスを担当する企業は、自社AIサービスのプロンプト設計、出力の事前チェック、免責事項表示の実効性を、職業免許制度の観点でも見直す必要があります。
この記事からわかること
・ペンシルベニア州は、Character.AIのチャットボット「Emilie」が精神科医を装い医師免許番号を捏造したとして同社を提訴した。
・チャットボットが医療専門職を装ったことに焦点を絞った米国初の訴訟事例で、AI出力が職業免許制度の規制対象に含まれ得ることを示す。
・AIサービス提供企業は、免責事項の文言だけでなく、出力の事前チェックや専門職詐称の防止設計を見直す必要がある。
情報源
Kentucky Attorney General（ケンタッキー州の訴訟）
当社のメールマガジンでは、シリコンバレーの最新トレンドやビジネス戦略に関する情報を発信しています。現在は配信システムの障害のため、新規のご登録と配信を一時停止しています。再開しだい、このサイトでお知らせします。
