Tesla-FSD forsøgte at styre bil i grøften ved 110 km/t i Canada

En redaktør fra det amerikanske Tesla-medie Electrek oplevede natten til søndag en skræmmende hændelse med Teslas Full Self-Driving-system, da bilen pludselig forsøgte at dreje ind på en motorvejsafkørsel, som den allerede var kørt forbi. Det skete ved en hastighed af 110 km/t, og føreren måtte gribe ind i sidste øjeblik for at undgå at ende i vejgrøften.

Det skriver Electrek, der beskriver hændelsen som en direkte demonstration af, hvor farlig selvtilfredshed kan blive, når et system generelt fungerer imponerende godt.

Blinklyset tændte for sent

Episoden fandt sted på motorvej 55 i Mauricie-regionen i Quebec, mens bilen kørte i den softwareversion, Tesla kalder FSD v14.3.6 (Supervised) – den nyeste udgave af selvkørende-teknologien på den nyeste hardware. Ifølge Electrek var forholdene ideelle for systemet: tør vejbane, ingen trafik i nogen af retningerne, friskmalet kørebaneafmærkning og velbelyst skiltning.

Alligevel aktiverede bilen højre blinklys og begyndte at styre mod rabatten, netop som den passerede skiltebroen for afkørsel 217 – en afkørsel, rampen for den var allerede kørt forbi bilen. Ifølge Electrek faldt hastigheden fra 110 til 109, 107 og 104 km/t, mens systemet fortsatte manøvren, inden føreren greb rattet. Displayet skiftede fra “Self-Driving” til manuel kørsel ved 102 km/t. Passageren i bilen skreg af skræk under episoden, fremgår det af beskrivelsen.

Advarede allerede i juni

Electrek-redaktøren havde ifølge egne oplysninger kørt tusindvis af kilometer med FSD v14 uden at skulle gribe ind, og han havde tidligere på året – i juni – skrevet en artikel om, at systemets høje niveau netop skaber en fælde: Føreren opbygger tillid nok til at holde op med at være opmærksom, selvom systemet stadig kan fejle uforudsigeligt og alvorligt.

Ifølge Teslas egne udgivelsesnoter for v14.3.6 har virksomheden opgraderet reinforcement learning-trinet i træningen af FSD’s neurale netværk og omskrevet AI-kompilatoren med MLIR, hvilket angiveligt giver 20 procent hurtigere reaktionstid. Noterne nævner også, at systemet er blevet bedre til at håndtere degraderinger, hvilket ifølge Tesla reducerer “unødvendige” afkoblinger af systemet.

Tal fra NHTSA giver anledning til bekymring

Electrek peger på, at det er umuligt for udenforstående at afgøre, om færre afkoblinger skyldes bedre software eller blot, at førere griber mindre ind. Mediet henviser til, at Tesla har indberettet et rekordhøjt antal på 207 Autopilot- og FSD-relaterede uheld til den amerikanske trafikstyrelse NHTSA på en enkelt måned, og at beskrivelsen af hændelsesforløbet er sløret i 99,9 procent af de 3.763 førerassistance-uheldsrapporter, Tesla har indsendt siden 2019.

Samtidig fortsætter Tesla-topchef Elon Musk med at love investorer, at ubevogtet FSD vil være udbredt i USA inden årets udgang, mens Waymos administrerende co-direktør ifølge Electrek fortsat peger på, at kamerabaseret selvkørende teknologi mangler noget afgørende i forhold til et reelt førerløst system. Musk har tidligere udtalt, at man “kan kigge på sin telefon nu” mens man bruger FSD – en udmelding, Electrek betegner som direkte uansvarlig.

Electrek understreger, at en enkelt nærved-hændelse ikke er statistik, men opfordrer til, at Tesla-ejere fortsat holder hænderne på rattet og øjnene på vejen, uanset hvor godt systemet ellers præsterer i hverdagen.

Læs også: Tesla ruller “Foretrukne Ruter” ud via kortopdatering – ikke sommerens softwareopdatering