Forskare från Stanford University upptäcker att Teslas autopilotteknik misslyckas med att korrekt klassificera människor på cyklar
I ett försök att förstå hur framtidens självkörande bilar kan interagera med cyklister tog forskare vid Stanford University en Tesla Model S för en provkörning, och resultaten kanske inte är goda nyheter för cyklister.
Forskarna fann att bilen regelbundet inte lyckades identifiera dem som tar sig runt med cykel på stadens gator.
Även om Tesla Model S-elbilen de testade inte är självkörande, använder den några av de system som senare kan komma att användas om tekniken, som för närvarande testas över hela världen, skulle bli laglig.
Tesla hävdar för närvarande att alla dess fordon "har den hårdvara som behövs för full självkörande förmåga på en säkerhetsnivå som är betydligt högre än för en mänsklig förare."
Dr Heather Knight, som är medlem i Stanfords Center for Design Research, och expert på interaktion mellan människa och robot och automatiserade fordonsgränssnitt, sa dock att hon tyckte att autopilotens agnostiska beteende kring cyklister var "skrämmande".
2016 års Model S Tesla de körde har en lägesbild som hjälper användarna att förstå vad bilen "ser".
Det var att använda den här funktionen som ledde Dr Knight till hennes slutsats att bilen regelbundet misslyckas med att känna igen cyklister. Även om att misslyckas med att klassificera objekt korrekt är inte detsamma som att inte lägga märke till deras närvaro, tyckte hon ändå att systemets begränsningar var djupt oroande.
'Att inte kunna klassificera objekt betyder inte att Tesla inte ser att något finns där, men med tanke på de liv som står på spel rekommenderar vi att folk aldrig använder Tesla-autopiloten runt cyklister!'
Dr Knight förklarade att hon trodde att Teslas märkning av tekniken som en "autopilot" var potentiellt vilseledande.
Såsom det ser ut gör Tesla klart att noggrann användarövervakning krävs när bilen används i autopilotläge. Men med tanke på bilens förmåga att utföra uppgifter som att automatiskt byta fil och hastighet uttryckte Dr Knight oro för att användare kunde invaggas till en falskt uppblåst känsla av bilens kapacitet.
När hon följde upp svaren på hennes ursprungliga blogginlägg förklarade hon: Min oro var att behandling av autopilot som ett helt autonomt system kan vara hänsynslöst för en person i en bil men dödligt för en cyklist, som har mycket mindre skydd.
'Att uppmuntra en balanserad mental modell av maskinen är exakt målet med den här artikeln… Robotar i allmänhet skulle tjäna på att kommunicera sina begränsningar till människor.’
I teorin är självkörande bilar mycket mer benägna att undvika kollisioner med alla trafikanter, men införandet av tekniken har varit orsaken till en omfattande debatt.
Detta är särskilt fallet i fråga om ansvarsfrågor med avseende på incidenter som involverar bilar på autopilot, tillsammans med etiken för att använda sådana system.
Tester av självkörande bilar började i London i februari, med försöken med Nissans Leaf-elbil som den första på europeiska allmänna vägar.
Dr Knights fullständiga rapport finns tillgänglig på Medium.
Video stillbild taget från en demonstrationsvideo för autopilot för autonom körning för Tesla Model X
