Können Autonome Fahrzeuge vor komplexen Angriffen geschützt werden?

Können Autonome Fahrzeuge vor komplexen Angriffen geschützt werden?

1. März 2021 0 Von Horst Buchwald

Können Autonome Fahrzeuge vor komplexen Angriffen geschützt werden?

Brüssel, 1.3.2021

Autonome Fahrzeuge sind laut einem neuen Bericht der EU-Agentur für Cybersicherheit “hochgradig anfällig” für Angriffe, einschließlich solcher, die von gegnerischen maschinellen Lernsystemen ausgeführt werden. Die EU-Agentur erwähnt speziell, wie ein Angreifer die Bilderkennung in AVs manipulieren könnte, um sie dazu zu bringen, Fußgänger falsch zu kennzeichnen und sie zum Beispiel auf dem Zebrastreifen anzufahren.

Diese Art von Angriffen würde auch Algorithmen zur Bewegungsplanung und Entscheidungsfindung sowie andere Systeme täuschen. Die Studie erwähnt auch “bösartige Back-End-Aktivitäten” und Sensorangriffe mit “Lichtstrahlen”.

https://www.enisa.europa.eu/news/enisa-news/cybersecurity-challenges-in-the-uptake-of-artificial-intelligence-in-autonomous-driving#:~:text=A%20new%20report%20by%20ENISA,State%2C%20so%20do%20its%20vulnerabilities.

Eine viel zitierte Studie aus dem Jahr 2017 zeigte zum Beispiel, dass Forscher ein AV dazu bringen konnten, ein Stoppschild fälschlicherweise als Geschwindigkeitsbegrenzungsschild zu identifizieren, indem sie einen Aufkleber darüber platzierten. Tencent-Forscher führten 2019 eine ähnliche Studie durch, in der sie Teslas Autopilot-System mithilfe von Aufklebern dazu brachten, die falsche Fahrspur einzuschlagen.

Die EU-Agentur sagt daher, dass Autohersteller dazu übergehen sollten, maschinell lernende Systeme zu entwickeln, um Angriffen entgegenzuwirken und Sicherheitsrisiken zu minimieren. Außerdem fordert sie Unternehmen und politische Entscheidungsträger auf, eine “Sicherheitskultur” in der Auto-Lieferkette zu fördern.

Sie kommt zu dem Schluss: “KI-Systeme sollten von Teams entworfen, implementiert und eingesetzt werden, in denen der Experte für die Automobilbranche, der ML-Experte und der Cybersecurity-Experte zusammenarbeiten.”

 

Aufrufe: 6