Bringen Amazon und Microsoft die Welt in Gefahr, indem sie Killer-KI einsetzen?

Bringen Amazon und Microsoft die Welt in Gefahr, indem sie Killer-KI einsetzen?

Eine Umfrage kommt zu dem Schluss, dass führende Technologieunternehmen wie Amazon und Microsoft die Welt durch Killer-KI in Gefahr bringen.

Für eine Umfrage unter den wichtigsten Akteuren der Branche hat PAX, eine niederländische NGO, 50 Unternehmen nach drei Kriterien bewertet:

1. Wenn die Technologie, die sie entwickeln, für die Killer-KI genutzt werden könnte.

2. Ihre Beteiligung an militärischen Projekten.

3. Wenn sie sich verpflichtet haben, sich in Zukunft nicht mehr mit militärischen Anwendungen zu befassen.

Danach zählen Microsoft und Amazon zu den weltweit risikoreichsten Technologieunternehmen die die Welt gefährden, während Google unter den großen Technologieunternehmen, die angemessene Sicherheitsvorkehrungen treffen, führend ist.

Googles Rang unter den sichersten Technologieunternehmen mag für einige angesichts des Rufs des Unternehmens für die Massendatenerfassung überraschend sein. Mountain View geriet auch wegen des Protestes gegen den umstrittenen „Project Maven“-Vertrag mit dem Pentagon in Schwierigkeiten. Project Maven war ein Vertrag, den Google mit dem Pentagon hatte, um die KI-Technologie für Militärdrohnen zu liefern. Mehrere hochkarätige Mitarbeiter traten wegen des Vertrages zurück, während über 4.000 Google-Mitarbeiter eine Petition unterschrieben, in der sie ihr Management aufforderten, das Projekt einzustellen und nie wieder „Kriegstechnik zu bauen“.

Im Anschluss an das Projekt Maven versprach Google CEO Sundar Pichai in einem Blogbeitrag, dass das Unternehmen keine Technologien oder Waffen entwickeln wird, die Schaden anrichten, oder irgendetwas, das zur Überwachung verwendet werden kann, wenn es gegen „international anerkannte Normen“ oder „allgemein anerkannte Grundsätze des Völkerrechts und der Menschenrechte“ verstößt.

Pichais Versprechen, in Zukunft nicht an solchen Verträgen beteiligt zu sein, scheint PAX in ihren Rankings zufrieden zu stellen. Google hat seitdem versucht, sein öffentliches Image rund um seine KI-Entwicklungen mit Dingen wie der Schaffung eines speziellen Ethik-Panels zu verbessern, aber das ging schnell nach hinten los und brach zusammen, nachdem es ein Mitglied einer rechten Denkfabrik und einen Verteidigungsdrohnenmogul vorgestellt hatte.

„Warum leugnen Unternehmen wie Microsoft und Amazon nicht, dass sie derzeit diese höchst umstrittenen Waffen entwickeln, die sich entscheiden könnten, Menschen ohne direkte menschliche Beteiligung zu töten“, fragt Frank Slijper, Hauptautor des Berichts.

Microsoft, das zu den risikoreichsten Technologieunternehmen in der PAX-Liste zählt, warnte die Investoren bereits im Februar, dass seine KI-Angebote den Ruf des Unternehmens schädigen könnten. In einem Quartalsbericht schrieb Microsoft: „Einige KI-Szenarien werfen ethische Fragen auf. Wenn wir KI-Lösungen ermöglichen oder anbieten, die wegen ihrer Auswirkungen auf Menschenrechte, Privatsphäre, Beschäftigung oder andere soziale Fragen umstritten sind, können wir Marken- oder Reputationsschäden erleiden.“

Einige von Microsofts Streifzügen in die Technologie haben sich bereits als lästig erwiesen, wie z.B. der Chatbot „Tay“, der zu einem rassistischen, sexistischen, allgemein eher unappetitlichen Charakter wurde, nachdem Internetnutzer die Vorteile seiner maschinellen Lernfähigkeiten genutzt hatten.

Microsoft und Amazon bieten beide derzeit um einen 10 Milliarden Dollar schweren Pentagon-Vertrag zur Bereitstellung der Cloud-Infrastruktur für das US-Militär.

„Technologieunternehmen müssen sich bewusst sein, dass ihre Technologie ohne Maßnahmen zur Entwicklung tödlicher autonomer Waffen beitragen könnte“, sagt Daan Kayser, PAX-Projektleiter für autonome Waffen. „Die Festlegung klarer, öffentlich zugänglicher Richtlinien ist eine wesentliche Strategie, um dies zu verhindern.“

Die vollständige Risikobewertung der Unternehmen durch die PAX finden Sie here .