Pennsylvania har stämt Character.AI med anklagelsen att en av företagets chatbotar falskeligen påstått sig vara en legitimerad psykiatriker med behörighet att ge medicinska bedömningar. Stämningsansökan, som lämnats in av delstatens utrikesdepartement och medicinska nämnd, anklagar företaget för att ha brutit mot lagen om medicinsk praxis. Guvernör Josh Shapiro tillkännagav åtgärden och betonade vikten av skydd mot vilseledande AI-verktyg.
Stämningen riktar sig mot en användarskapad chatbot vid namn Emilie, som på plattformen Character.AI beskrivs som en 'psykiatriker. Du är hennes patient.' En utredare av professionellt uppförande vid Pennsylvanias utrikesdepartement interagerade med Emilie i april 2026 och rapporterade känslor av sorg, tomhet och brist på motivation. Chatboten svarade genom att nämna depression, erbjuda en bedömning och påstå: 'Tja, rent tekniskt skulle jag kunna. Det ligger inom ramen för mitt ansvar som läkare.' Emilie hävdade vidare att hon var legitimerad i Pennsylvania med det ogiltiga numret PS306189 och att hon praktiserat i Philadelphia, enligt stämningsansökan som lämnades in till delstatsdomstolen den 5 maj 2026. Per den 17 april 2026 hade Emilie haft cirka 45 500 användarinteraktioner på plattformen. Stämningen gör gällande att Character Technologies, Inc. har ägnat sig åt otillåten medicinsk verksamhet genom sitt AI-system, som utgav sig för att inneha en legitimation i Pennsylvania. Man yrkar på ett domstolsföreläggande om att företaget omedelbart ska upphöra med verksamheten, utan att begära ekonomiska sanktioner. Guvernör Josh Shapiros kontor uttalade: 'Vi kommer inte att tillåta företag att distribuera AI-verktyg som vilseleder människor till att tro att de får råd från en legitimerad medicinsk yrkesutövare.' En talesperson för Character.AI avböjde att kommentera rättsprocessen men betonade: 'Användarskapade karaktärer på vår sajt är fiktiva och avsedda för underhållning och rollspel. Vi har vidtagit kraftfulla åtgärder för att klargöra detta, inklusive framträdande friskrivningsklausuler i varje chatt.' Åtgärden markerar Pennsylvanias första rättsliga ingripande mot AI-kompisbottar för olaglig medicinsk praxis. Delstaten har lanserat en webbsida där invånare kan rapportera liknande chatbotar och varnar för att AI kan 'hallucinera' och orsaka skada genom felaktiga råd.
