Welche Verbrechen planen Kriminelle in den nächsten 15 Jahren mit KI-Technologie?

Welche Verbrechen planen Kriminelle in den nächsten 15 Jahren mit KI-Technologie?

Berlin, 10.8.2020

Forscher des University College London (UCL) haben die Möglichkeiten erkundet, wie die KI von Kriminellen in den nächsten 15 Jahren genutzt werden könnte. Zu ihrer Überraschung stellten sie fest, dass die KI-synthetisierten Medien wie Deepfakes das größte Schadenspotenzial aufweisen.

KI kann auf verschiedene Weise für Verbrechen genutzt werden: als Werkzeug für Verbrechen, als Ziel für Verbrechen oder als Kontext für Verbrechen. Informatiker an der Londoner UCL identifizierten 20 KI-basierte Verbrechen aus Zeitungen, Nachrichten, Fiktion und Populärkultur.
Dazu gehören der Einsatz von autonomen Autos als Waffen, Spearphishing*, das Stören von KI-gesteuerten Systemen, KI-synthetisierte gefälschte Nachrichten und das Sammeln von Daten zum Zwecke einer groß angelegten Erpressung.

Diese Verbrechen wurden von einer Gruppe von 31 Experten, die Akademiker, Verteidigungs- und Strafverfolgungsexperten vertraten, über einen zweitägigen Diskussionszeitraum anhand des potenziellen Schadens, des Potenzials für kriminelle Gewinne, der Einfachheit ihrer Ausführung und der Schwierigkeit, sie zu stoppen, in eine Rangfolge gebracht.

„In dem Maße, wie sich die Möglichkeiten der KI-basierten Technologien erweitern, wächst auch ihr Potenzial für kriminelle Ausbeutung“, sagte der leitende Autor Professor Lewis Griffin. „Um uns angemessen auf mögliche KI-Bedrohungen vorzubereiten, müssen wir herausfinden, was diese Bedrohungen sein könnten und wie sie sich auf unser Leben auswirken könnten.

KI-synthetisierte Audio- oder Video-Inhalte (oft als „Deepfakes“ bezeichnet) wurden als am besorgniserregendsten eingestuft, wobei die Experten sie als äußerst schädlich, zugänglich und schwer zu besiegen einstuften. Grundlegende Deepfakes sind mit Open-Source-Tools sehr einfach zu erstellen, wodurch die Zugangsbarriere für Kriminelle ohne technisches Fachwissen verringert wird.

Obwohl Deepfakes im Volksmund als Werkzeuge für Satire oder Desinformation bekannt sind, werden sie zunehmend auch dazu verwendet, sich per Telefon- oder Videoanruf als besonders vertrauenswürdig auszugeben, um Zugang zu Geldern oder sicheren Systemen zu erhalten. Den Forschern der UCL zufolge gibt es in Mexiko Beispiele von Kriminellen, die diese Techniken nutzten, um Zugang zu Bankkonten zu erhalten.

In der vergangenen Woche wurde ein zweites manipuliertes Video veröffentlicht, das eine angeblich berauschte US-Politikerin Nancy Pelosi (Demokraten) zeigt. Während Millionen Facebook-Fact-Checker das Video als „teilweise falsch“ bezeichneten, weigerte sich das Unternehmen, dieses Video von der Plattform zu entfernen.

Zu den KI-unterstützten Verbrechen gehören ferner der Missbrauch von Militärrobotern, der Verkauf von betrügerischen „Schlangenöl“-Diensten, autonome Angriffsdrohnen, KI-unterstütztes Stalking und der Einsatz von kleinen autonomen Robotern, die über Katzenklappen in Wohnungen eindringen und Einbrüche begehen.

„Menschen führen heute große Teile ihres Lebens online,. Diese Aktivitäten können Ansehen schaffen oder Zerstörung. Eine Online-Umgebung, in der Daten Eigentum und Informationsmacht sind, eignet sich ganz besonders für die Ausbeutung durch KI-basierte kriminelle Aktivitäten“, betonte der zu den Autoren gehörende Wissenschaftler Dr. Matthew Caldwell. „Im Gegensatz zu vielen traditionellen Verbrechen können Verbrechen im digitalen Bereich leicht ausgetauscht, wiederholt und sogar verkauft werden, so dass kriminelle Techniken vermarktet und Verbrechen als Dienstleistung angeboten werden können. Das bedeutet, dass Kriminelle in der Lage sein können, die schwierigeren Aspekte ihrer KI-basierten Verbrechen auszulagern“.

Vor diesem Hintergrund muss man die Forderung von Professor Shane Johnson, Direktor des Dawes Centre for Future Crimes der UCL, verstehen: „Wir leben in einer sich ständig verändernden Welt, die neue Möglichkeiten schafft – gute und schlechte. Daher ist es unerlässlich, dass wir künftige Bedrohungen durch Kriminalität antizipieren, damit politische Entscheidungsträger und andere Interessenvertreter mit der nötigen Handlungskompetenz dies tun können, bevor neue „Verbrechensarten“ eintreten.

Dies ist der erste Bericht aus einer Reihe von Studien, die
– künftige neue Kriminalitätsbedrohungen identifizieren und
– Lösungen beschreiben, mit denen man einen möglichen Schaden verhindert.

* Spearfishing: dies ist ein Betrugsversuch mit Hilfe einer E-Mail. Es geht immer darum, an vertrauliche, besonders schützenswerte Daten zu gelangen. Zu diesem Zweck erkundet der Kriminelle ihr persönliches Umfeld und präsentiert sich dann dann als „Bekannter von“ , als „Freund der..“ oder als „der, den Sie in …kennen lernten“. Sind Sie nicht achtsam und geben Ihm /Ihr das Passwort von…. Oder das Geburtsdatum sowie die Bankverbindung von… dann müssen Sie sich nicht wundern, wenn von …. schon bald beklagt, das es Probleme mit den Daten gibt.