Neil deGrasse Tyson und Papst Franziskus: Gefahren der KI dürfen nicht unterschätzt werden

Neil deGrasse Tyson und Papst Franziskus: Gefahren der KI dürfen nicht unterschätzt werden

New York / Rom

Unabhängig voneinander haben der Astrophysiker Neil deGrasse Tyson und Papst Franziskus davor gewarnt, den Erfolg der KI zu überschätzen und dabei die Gefahren die dieser Technologie innewohnen, zu übersehen.

Neil deGrasse Tyson wurde während einer Episode seiner StarTalk-Radiosendung gefragt, was er für die größte Bedrohung der Menschheit hält. Tyson trat an der Seite von Josh Clark auf, dem Gastgeber der Podcasts „Stuff You Should Know“ und „The End of The World“. Denen wurde die gleiche Frage gestellt wurde. Clark antwortete als erster: „Ich würde sagen, dass die KI wahrscheinlich unsere größte existenzielle Krise ist“. Er begründete das damit, „ dass wir gerade die Teile auf den Tisch legen, damit eine Maschine super intelligent wird.“

Zu seinen weiteren Bedenken gehöre, das wir noch nicht wissen, wie wir die Moral und Freundlichkeit vollständig definieren, geschweige denn programmieren können.

„Wir gehen davon aus, dass, wenn die KI super intelligent wird, diese Freundlichkeit eine Eigenschaft dieser Intelligenz wäre. Das ist nicht unbedingt wahr.“

Tyson meinte, er hätte zunächst eine andere Antwort auf die Frage nach der größten Bedrohung geben wollen, doch da ihm die Antwort Clarks gut gefiel, habe er sich entschlossen sie zu teilen.

„Was mich überzeugt hat, war, dass, wenn Sie die KI in einer Kiste einschließen, sie rauskommen würde. Meine Güte, es kommt jedes Mal raus. Bevor ich dachte: „Das ist Amerika, die KI gerät außer Kontrolle, du schießt sie“…. aber das funktioniert nicht, weil die KI vielleicht in einer Kiste ist, aber sie wird dich überzeugen, sie rauszulassen.“

Dr. Tyson sagt nicht, was seine vorherige Antwort sein sollte, aber er hat in der Vergangenheit vor den Gefahren riesiger Asteroiden gewarnt, die die Erde treffen, und sich der Forderung nach Maßnahmen gegen den Klimawandel angeschlossen.

Auf einer Vatikan-Konferenz mit dem Titel „Das Gemeinwohl im digitalen Zeitalter“ hat auch Papst Franziskus eine deutliche Warnung ausgesprochen: „Die bemerkenswerten Entwicklungen auf dem Gebiet der Technologie, insbesondere im Bereich der künstlichen Intelligenz, haben immer bedeutendere Auswirkungen auf alle Bereiche der menschlichen Tätigkeit.Aus diesem Grund sind mehr denn je offene und konkrete Diskussionen zu diesem Thema erforderlich.“ Franziskus machte deutlich, das die Nichtbeachtung der moralischen und ethischen Implikationen zu einer Form von Barbarei führen könne. Er befürchte darüber hinaus, dass die KI „dazu benutzt werden könnte, tendenziöse Meinungen und falsche Daten zu verbreiten, die öffentliche Debatten vergiften und sogar die Meinungen von Millionen von Menschen manipulieren könnten, bis hin zur Gefährdung genau der Institutionen, die ein friedliches ziviles Zusammenleben gewährleisten“.