Apple varnade Elon Musks xAI för att deras AI-app Grok riskerade att tas bort från App Store om inte problemen med sexualiserade deepfakes åtgärdades. Företaget redogjorde för sina åtgärder i ett brev till amerikanska senatorer mot bakgrund av oron för generering av kränkande bilder. Groks uppdatering nekades först, omarbetades och godkändes därefter efter förbättringar.
Tidigare i år informerade Apple xAI om att Grok-appen riskerade att dras in från App Store på grund av en skandal som involverade sexualiserade deepfakes, genererade av verktyget och delade på X, den sociala medieplattform som tidigare var känd som Twitter. Apples seniora chef för myndighetsfrågor, Timothy Powderly, skrev till senatorer att företaget 'avskyr dessa typer av bilder och den skada de orsakar', och noterade att sådana appar bryter mot deras policy och inte är tillåtna på plattformen. Enligt brevet, som delades av senator Ron Wydens kontor, nekade Apple en initial uppdatering av Grok-appen men godkände en reviderad version efter betydande förbättringar, samtidigt som de varnade för potentiellt framtida borttagning vid bristande efterlevnad. xAI uppgav att de förbjuder icke-samtyckesbaserade explicita deepfakes och använder säkerhetsåtgärder som övervakning, promptfilter och modelluppdateringar. En nyligen genomförd undersökning från NBC News visade att sexualiserade AI-genererade bilder från Grok fortsätter att spridas på nätet. Senator Wyden berömde Apples respons men kritiserade Google för att inte ha adresserat lagstiftarnas oro och uttryckte förvåning över justitiedepartementets passivitet gällande X.