Sind mit GPT-3 auch Desinformationskampagnen möglich?

Sind mit GPT-3 auch Desinformationskampagnen möglich?

27. Mai 2021 0 Von Horst Buchwald

Sind mit GPT-3 auch Desinformationskampagnen möglich?

Washington, 27.5.2021

Weil das Interesse der Öffentlichkeit und der Industrie an hochleistungsfähigen Anwendungen zur Generierung natürlicher Sprache rasant zunimmt und mit GPT-3 das bisher leistungsfähigste Modul zur Verfügung steht, haben sich Wissenschaftler vom Center for Security and Emerging Technology (CSET) aus Georgetown mit der Frage beschäftigt, ob mit GPT-3 eine groß angelegte automatisierte Desinformationskampagne möglich ist.

In ihrer brandaktuellen Studie teilen sie dazu erstaunliche Ergebnisse mit. Wie nicht anders zu erwarten, kann GPT-3 den Arbeitsaufwand für das Schreiben von Desinformationen erheblich reduzieren und gleichzeitig ihre Reichweite und möglicherweise auch ihre Effektivität erhöhen.

Hintergrund: Das System besteht aus einem riesigen, neuronalem Netzwerk, einem leistungsstarken Algorithmus für maschinelles Lernen sowie mehr als eine Billion Wörter.

Die Wissenschaftler wollten nun wissen: Wenn GPT-3 glaubwürdige Nachrichten schreiben kann, ist es dann auch in der Lage, überzeugende „Fake News“ zu produzieren? Eine weitere Frage lautete: Wenn es Meinungsäußerungen verfassen kann, bringt es dann vielleicht auch irreführende Tweets zustande?

Die Ergebnisse: Aus der Studie geht hervor, dass GPT-3 allein schon recht leistungsfähig ist, aber in Verbindung mit einem geschickten Operator und Redakteur neue Höhen erreicht. Die Software wird zwar nicht alle Menschen bei Desinformationsoperationen ersetzen, aber es ist zweifellos ein Werkzeug, das dabei hilft, mäßige bis hochwertige Nachrichten in einem Umfang zu erstellen, der weit über das hinausgeht, was es bisher gab.

GPT- 3 sei zwar ein vielseitiger und effektiver Schreiber, dennoch sei er durch die Daten, auf denen er trainiert wurde, eingeschränkt. Weiterhin bemängeln die Autoren den keineswegs perfekten Schreibstil, die mangelnde Fokussierung in Erzählungen sowie die starke Tendenz, extreme Ansichten zu übernehmen.

Sollten sich Länder wie China und Russland entscheiden, ihre Desinformationskampagnen zu automatisieren, ist eine Software wie GPT – 3 ganz sicher die erste Wahl. Beide Länder verfügen über die erforderliche Rechenleistung zum Trainieren und Betreiben eines solchen Systems zu nutzen, sollten sie dies wünschen.

https://cset.georgetown.edu/publication/truth-lies-and-automation/

Aufrufe: 5