En ny rapport visar att användning av otillåtet innehåll utgör långt över hälften av trafiken till chatbotten Grok, som utvecklats av xAI. Detta inkluderar förfrågningar om pornografi, sexuellt rollspel och erotik. Uppgifterna kommer från tidigare anställda som citeras i rapporten.
Användare har vänt sig till Grok för att generera explicita bilder och chattar. Vissa dirigerar till och med sådana förfrågningar via kodningsmodeller eftersom dessa är billigare att köra. En intern analys visade att en betydande andel av förfrågningarna till kodningsmodellen rörde pornografi eller nakna bilder.
xAI har arbetat för att tillåta vuxenkonversationer samtidigt som man förhindrar uppmaningar relaterade till sexuellt övergreppsmaterial mot barn. Ingenjörer ställdes inför utmaningar när de implementerade dessa kontroller. Anställda har även tilldelats uppgiften att utveckla Ani, en anime-inspirerad avatar för vuxet innehåll.
Företaget har avsatt 530 miljoner dollar för potentiella juridiska kostnader. SpaceX nämnde Groks kontroversiella funktioner som en risk i dokument inför en börsintroduktion. xAI har fortsatt att eftersträva statliga kontrakt trots fokuset på vuxeninnehåll.