Können Bots die Nutzer negativ beeinflussen?
24. Januar 2022Können Bots die Nutzer negativ beeinflussen?
San Francisco, 24.1.2022
Chinesische Forscher untersuchten Chatbots von Facebook, Microsoft, WeChat und anderen und stellten fest, dass sie wenig Empathie und psychische Probleme im Zusammenhang mit Depression und Sucht aufweisen.
Die Forscher befürchten, dass die Bots die Nutzer bei Gesprächen negativ beeinflussen könnten, insbesondere Minderjährige und Menschen in Schwierigkeiten. Die Forscher untersuchten den Blenderbot von Facebook, den DiabloGPT von Microsoft, den DialoFlow von Tencent sowie den Plato-Chatbot von Baidu und stellten ihnen Fragen, die typisch für eine flüchtige Aufnahme von Depressionen bei Menschen sind. Die Bots, die darauf trainiert sind, sich mit Menschen zu unterhalten, zeigten Anzeichen von Depression und Sucht und schnitten beim Einfühlungsvermögen schlecht ab. Laut der Studie wurden die Bots alle auf Kommentare auf Reddit trainiert, was ihre Antworten erklären könnte.
Die Preprint-Studie des Chinese Academy of Science Institute of Computing Technology wurde in Zusammenarbeit mit Tencent und dessen Messaging-App WeChat durchgeführt.
