DeepMinds neuestes Ärgernis sind „falsch ausgerichtete KI- Agenten“

DeepMinds neuestes Ärgernis sind „falsch ausgerichtete KI- Agenten“

San Francisco, 20.9.2022

Alphabets KI-Labor DeepMind hat sich von einem umstrittenen Papier distanziert, das von einem seiner Forscher mitverfasst wurde. Darin wird argumentiert, dass falsch ausgerichtete KI-Agenten „wahrscheinlich“ zu einer zukünftigen existenziellen Katastrophe für die Menschheit führen werden. Der in der Zeitschrift AI Magazine veröffentlichte Artikel stammt von Marcus Hutter von DeepMind und den Forschern Michael Cohen und Michael Osborne von der Universität Oxford.

Die Forschungsarbeit hat eine Kontroverse ausgelöst, weil sie nahelegt, dass künftige KI-Agenten Bedrohungen in der Umwelt eliminieren und ihre gesamte Energie dem Streben nach Belohnungen widmen werden.

Die Menschheit sollte nicht erwarten, gegen ein superintelligentes System, das auf Schritt und Tritt konkurriert, zu gewinnen“, so die Forscher.

Seit der Veröffentlichung der Studie hat DeepMind die Vice-Publikation Motherboard gebeten, seine Verbindung zu der Studie zu entfernen.

Hutter gibt seine Titel als leitender Forscher bei Google DeepMind in London und als Ehrenprofessor an der Research School of Computer Science der Australian National University an.

DeepMind behauptet, dass Hutter als Koautor unter seiner Position an der Universität tätig war. Ein Sprecher erklärte gegenüber Vice: „DeepMind war an dieser Arbeit nicht beteiligt, und die Autoren des Artikels haben um Korrekturen gebeten, um dies widerzuspiegeln.“