Hat Putin die besseren Hacker? Teil 4  Zerbrechliche ML- Architektur- Einfallstor für Cyberkrieger?

Hat Putin die besseren Hacker? Teil 4 Zerbrechliche ML- Architektur- Einfallstor für Cyberkrieger?

28. März 2022 0 Von Horst Buchwald

Hat Putin die besseren Hacker? Teil 4

Zerbrechliche ML- Architektur- Einfallstor für Cyberkriegfer?

Washington, 28.3.2022

Mehrere Medien berichteten, das maschinelle Lernmodelle, die von Banken und anderen Finanzinstituten verwendet werden, in einzigartiger Weise Cyberangriffen ausgesetzt sind. Insofern sind sie ein erhebliches Risiko. Einige Experten schließen nicht aus, dass diese Modelle Ziel von Vergltungs-Cyberangriffen sein können, die mit Russland in Verbindung gebracht werden.

Die maschinellen Lernmodelle der Banken wickeln derzeit Finanzdienstleistungen wie den Handel und die Kreditvergabe ab oder unterstützen sie dabei. Der Schutz dieser Modelle vor Angriffen steckt jedoch noch in den Kinderschuhen. Darum hatte US- Präsident Biden die amerikanischen Unternehmen aufgefordert, ihre Cyberabwehr “sofort” zu verstärken. Zuvor waren Geheimdienstberichte bekannt geworden , aus denen hervorging , dass Russland Cyberangriffe gegen die USA vorbereitet.

Die folgenden Beispiele machen deutlich, wo die Cyberkrieger angreifen könnten und welche Folgen das hätte:

– David Van Bruwaene von Fairly AI gegenüber dem „Wall Street Journal“ : Die Modelle von “überschuldeten Banken” auszutricksen, um riesige Verluste zu verursachen, “wäre eine Art groß angelegte Atombombe für unsere Wirtschaft.”

– Andrew Burt von der auf KI spezialisierten Anwaltskanzlei BNJ: Die Schwachstellen der KI- sind beträchtlich und werden von vielen Unternehmen, die sie einsetzen, weitgehend übersehen- ”

– Abhishek Gupta, Gründer des Montreal AI Ethics Institute: die Einführung von ML in die Software-Infrastruktur eröffne “neue Angriffsflächen”. Die gesamte Architektur ist zerbrechlich, “wie ein Kartenhaus-”

– Der Wissenschaftler Fabio Urbina arbeitet für Collaboration Pharmaceuticals, ein Startup-Unternehmen in North Carolina, das sich auf KI für die Arzneimittelforschung spezialisiert hat.

Das Unternehmen verfügt über ein maschinelles Lernsystem namens MegaSyn, das Moleküle für therapeutische Arzneimittel zur Behandlung von Krankheiten wie Alzheimer entwickeln kann.

In einem Experiment optimierte Urbina das Modell so, dass es stattdessen potenziell tödliche Verbindungen generierte, die in einer Rangfolge von hoher bis niedriger Toxizität eingestuft waren.

Sechs Stunden später hatte die KI eine Liste mit 40.000 Molekülen erstellt. Einige, wenn auch nicht alle, der Verbindungen waren tödlich und könnten sogar giftiger sein als bestehende chemische Wirkstoffe.

Ein Artikel über die Ergebnisse wurde in !Nature Machine Intelligence“ anlässlich einer Konferenz über biologische Waffenkontrolle veröffentlicht. Darin wird auf das Potenzial der KI für einen “doppelten Verwendungszweck” verwiesen, d. h. den Missbrauch eines potenziell nützlichen Systems für schädliche Zwecke.

Aufrufe: 12