Een zelfrijdende auto kan onverwacht hard op de rem gaan als er heel kort een stopbord wordt getoond op een reclamescherm.

Onderzoekers van de Israëlische Ben Gurion Universiteit hebben een bijzondere 'hackaanval' aangetoond, waarbij een afbeelding van een stopteken enkele milliseconden wordt getoond op een elektronisch reclamebord. De systemen in de auto's reageren daar op door te remmen. Het fenomeen wordt een 'split-second phantom attack’ genoemd.

De onderzoekers hebben twee geavanceerde zelfrijdende systemen getest, die van een Tesla Model X en Mobileye 630. Naast het beeld van een stopteken op een reclamebord dat heel kort te zien was, hebben de onderzoekers ook een afbeelding van een voetganger op de weg geprojecteerd met een beamer. In beide gevallen remde de auto direct af.

Omdat het beeld zo kort te zien is hebben mensen niet in de gaten dat de auto gevaar detecteert, en kan zo’n gemanipuleerd reclamebord moeilijk preventief worden uitgeschakeld.

Er is volgens de onderzoekers wel een manier om de zelfrijdende systemen zo te trainen dat ze niet langer gevoelig zijn voor deze manipulaties. Ze hebben een systeem ontwikkeld dat ze ‘GhostBusters’ noemen en dat op basis van onder meer een neuraal netwerk moet kunnen detecteren of een object echt is, dus een echte voetganger of een fysiek stopbord, in plaats van een projectie. Dat zou het systeem doen op basis van licht, context, oppervlakte en diepte.

Tesla brengt binnenkort een software-update uit voor zijn zelfrijdende Autopilot-functie. De update gaat volgens Tesla-baas Elon Musk om 'de volledig zelfrijdende versie' van het systeem. De volledig zelfrijdende functie werkt niet met oudere Tesla-auto's, die hebben eerst een hardware-upgrade nodig.