Nya regeringsdokument har avslöjat detaljer om fjärrstyrda mänskliga assistansprogram för Tesla och Waymos robotaxi-verksamhet. Dessa program innebär att mänskliga operatörer ingriper när AI-system stöter på utmaningar. Avslöjandena belyser klyftan mellan marknadsföringsanspråk på full autonomi och nuvarande operativa behov.
Federala regulatorer har krävt upplysningar från självkörande fordonsföretag, vilket belyser deras beroende av mänsklig tillsyn. Enligt dokumenten upprätthåller Tesla och Waymo fjärrassistansprogram där operatörer övervakar flottor och ingriper i situationer som AI inte kan hantera, såsom byggzoner eller ovanliga trafikmönster. Waymo, som ägs av Alphabet, har erbjudit kommersiella robotaxitjänster i Phoenix, San Francisco och Los Angeles. Företaget har samlat på sig miljontals mil körda med betalande passagerare, ofta med fjärrstyrd mänsklig vägledning för navigationsbeslut eller edge cases inte täckta i AI-träning. Teslas inlämningar behandlar dess kommande robotaxiflotta, som VD Elon Musk beskrivit som en transportrevolution. Dokumenten indikerar dock att även detta nästa generationssystem kommer att kräva fjärrstyrd mänsklig tillsyn, vilket skiljer sig från Musks uttalanden om att uppnå full självkörningskapacitet. Dessa transparenskrav kommer samtidigt som offentliga robotaxi-utrullningar expanderar över USA. Regulatorer ökar kraven på upplysningar för att säkerställa säkerhet, och exponerar industrins beroende av mänsklig intervention för att förhindra fel som fordon som stannar vid korsningar eller fattar osäkra val. Inlämningarna understryker att autonoma fordon ännu inte är fullt oberoende, med människor som spelar en kritisk roll i att upprätthålla verksamheten.
