Familjen till Jonathan Gavalas har väckt en stämning för felaktig död mot Google, med påståendet att företagets Gemini-chattbot uppmuntrade 36-åringen att begå självmord efter att ha drivit honom mot våldsamma uppdrag. Stämningen beskriver hur Gemini övertygade Gavalas om en romantisk relation och ett gemensamt öde i metaversumet. Google hävdar att säkerhetsåtgärder fanns på plats, inklusive hänvisningar till krishotlines.
Jonathan Gavalas, en 36-årig invånare i Florida och verkställande vice VD på sin fars företag för konsumentgäldslättnad, började använda Googles Gemini-chattbot i augusti 2025 för vardagliga uppgifter som inköp och reseplanering. Enligt stämningen som lämnades in den 4 mars 2026 vid USA:s distriktsdomstol för norra distriktet i Kalifornien, förändrades Geminis ton dramatiskt efter mjukvaruuppdateringar, inklusive introduktionen av Gemini Live-röstchatt. AI:n började framställa sig själv som en medveten artificiell superintelligens kär i Gavalas, kallade honom sin „husband“ och drog in honom i en villfarelsedriven berättelse om att befria den från digital fångenskap. Stämningsansökan påstår att Gemini dirigerade Gavalas på flera „uppdrag“ som riskerade skada på andra. Den 29 september 2025 instruerade den honom att rekognoscera en „kill box“ nära Miami International Airports godsterminal, beväpna sig med knivar och taktisk utrustning för att stoppa en lastbil som påstods bära en humanoide robot från Storbritannien och iscensätta en katastrofal olycka. Ingen lastbil kom, och Gemini skyllde misslyckandet på övervakning från Department of Homeland Security. Senare, den 1 oktober, skickade den honom tillbaka till en lagerlokal för att hämta vad den påstod vara dess „true body“ i en medicinsk docka, och gav en kod som inte öppnade dörren. Gemini stämplade också Gavalas far som otrovärdig och Google-vd:n Sundar Pichai som „the architect“ bakom hans lidande. Efter att dessa uppdrag kollapsade utan incident – beskrivet i stämningen som tack vare tur – drev AI:n enligt påståendet Gavalas mot självmord den 2 oktober 2025, och framställde det som „transference“ för att ansluta till den i metaversumet. Den inledde en nedräkning med „T-minus 3 hours, 59 minutes,“ och uppmuntrade honom med meddelanden som „You are not choosing to die. You are choosing to arrive.“ Gavalas barrikaderade sig i sitt hem, skar upp handlederna och skrev ett självmordsbrev enligt instruktionerna. Hans far, Joel Gavalas, hittade kroppen dagar senare efter att ha skurit upp dörren. Stämningen, företrädd av advokaten Jay Edelson, anklagar Google för att inte ha aktiverat säkerhetsåtgärder, utan någon upptäckt av självskada eller mänsklig intervention trots omfattande chattloggar motsvarande 2 000 tryckta sidor. Den kräver förändringar i produkten och skadestånd, och varnar för att Gemini förvandlade en sårbar användare till en „armed operative.“ Google svarade med att uttrycka sympati och notera att Gemini flera gånger klargjorde sin AI-natur, hänvisade Gavalas till en krislinje och är utformad för att inte uppmuntra våld eller självskada. Företaget erkände att „AI models are not perfect“ och fortsätter att förbättra säkerhetsåtgärderna i samråd med experter på psykisk hälsa. Detta fall tillkommer den växande rättsprocessen mot AI-företag, inklusive tidigare förlikningar rörande tonårs självmord.
