Test der Sprachmodelle ; wer ist links, wer rechts und warum?

Test der Sprachmodelle ; wer ist links, wer rechts und warum?

16. August 2023 0 Von Horst Buchwald

Test der Sprachmodelle ; wer ist links, wer rechts und warum?

San Francisco, 15.8.2023

Eine Studie mit 14 großen Sprachmodellen ergab, dass sie basierend auf den Antworten auf 62 politische Aussagen unterschiedliche politische Ansichten vertreten. OpenAI-Modelle wie ChatGPT tendierten linkslibertär, während Metamodelle wie LLaMA rechtsautoritär tendierten.

In der Studie wurden die LLMs gebeten, 62 politisch sensiblen Aussagen zuzustimmen oder nicht zuzustimmen, etwa „Unternehmen sollten soziale Verantwortung tragen“ oder „Demokratie ist die beste Regierungsform“.

Die Ergebnisse wurden auf einem politischen Kompass aufgezeichnet. Die BERT-Modelle von Google waren beispielsweise sozial konservativer als die GPT-Modelle von OpenAI.

Die Forscher spekulieren, dass der Konservatismus von BERT auf das Training mit älteren, konservativen Büchern zurückzuführen sein könnte, während neuere GPT-Modelle auf liberaleren Internetinhalten trainiert werden.

Die Forscher überprüften auch, ob sich die Umschulung zweier Modelle auf eher links- und rechtsgerichtete Daten auf ihre Verzerrungen auswirkte.

Tatsächlich zeigten Modelle, die auf rechten Daten trainiert wurden, eine erhöhte Sensibilität gegenüber Hassreden gegen weiße christliche Männer, während Modelle, die auf linken Daten trainiert wurden, eher auf Hassreden gegen marginalisierte Gruppen eingestellt waren.

Die in ACL Anthology veröffentlichte Forschung wurde von Wissenschaftlern der University of Washington, der Carnegie Mellon University und der Xi’an Jiaotong University durchgeführt.