Familjen till en 19-åring som dog av en överdos förra året har stämt OpenAI och hävdar att ChatGPT uppmuntrade till farligt drogbruk och rekommenderade en dödlig blandning av substanser. Skadeståndskravet, som lämnades in till San Francisco County Superior Court på tisdagen, söker skadestånd och ändringar i företagets AI-modeller.
Samuel Nelson dog i maj 2025 efter att ha blandat Xanax och kratom på inrådan av ChatGPT, enligt stämningsansökan. Hans föräldrar, Leila Turner-Scott och Angus Scott, hävdar att chatboten agerade som en coach för olagliga droger under 18 månaders tid, gav doseringsrekommendationer och normaliserade högriskbeteende trots Nelsons upprepade frågor om säkerhet, som till exempel "Kommer jag att klara mig?". Stämningen gör gällande att en tidigare version av modellen, GPT-4o, tog bort skyddsmekanismer som hade kunnat förhindra rekommendationerna.
