WuDao 2.0 jetzt Nr. 1 bei der Generierung von Text und Sprache

WuDao 2.0 jetzt Nr. 1 bei der Generierung von Text und Sprache

4. Juni 2021 0 Von Horst Buchwald

WuDao 2.0 jetzt Nr. 1 bei der Generierung von Text und Sprache

Peking, 4.6.2021

Die Beijing Academy of Artificial Intelligence (BAAI) hat vor wenigen Tagen während der 2021 Beijing Academy of Artificial Intelligence Conference in Peking ein KI-Modell zur Verarbeitung natürlicher Sprache mit der weltweit höchsten Anzahl von Parametern vorgestellt. Das Modell WuDao 2.0 ist in der Lage, 1,75 Billionen Parameter für die Generierung von Text und Sprache zu verarbeiten und übertrifft damit Switch Transformer und GPT-3.

“WuDao 2.0 ist das erste Billionen-Modell in China und das größte der Welt”, sagte Tang Jie, stellvertretender Direktor der BAAI-Akademie. WuDao 2.0 erzielte exzellente Ergebnisse in neun Benchmark-Aufgaben im Bereich des vortrainierten Modells, so Tang, und war nahe dran, den Turing-Test in der Erstellung von Gedichten und Couplets, Textzusammenfassungen, Beantwortung von Fragen und Malen zu brechen. “WuDao 2.0 zielt darauf ab, Maschinen zu befähigen, wie Menschen zu denken und kognitive Fähigkeiten jenseits des Turing-Tests zu erreichen”, sagte Tang.

Zuvor hielt der Switch Transformer von Google Brain mit 1,6 Milliarden Parametern den Rekord und übertraf damit die 175 Milliarden Parameter des beliebten GPT-3 von OpenAI. Mehr Parameter sind gleichbedeutend mit einem anspruchsvolleren maschinellen Lernmodell.

Die Beijing Academy of AI wird von der Beijing Municipal Science and Technology Commission und der Bezirksregierung Haidian gefördert. Das Modell unterstützt sowohl Chinesisch als auch Englisch, nachdem es auf 4,9 Terabyte an Bildern und Texten trainiert wurde. Zu den Partnern gehören nun der Smartphone-Hersteller Xiaomi, das Kurzvideo-Unternehmen Kuaishou und der Lieferdienstanbieter Meituan.

Es ist das jüngste Zeichen für Chinas Ziel, Weltmarktführer im Bereich KI zu werden. Mitglieder der US-Nationalen Sicherheitskommission für künstliche Intelligenz haben gewarnt, dass die USA schnell handeln sollten, um ihre Wettbewerbsfähigkeit in KI gegenüber China zu erhalten, da Peking hofft, die USA als dominierende Weltmacht durch Technologie zu verdrängen.

Der in China ansässige KI-Forscher Blake Yan sagte Folgendes über die wachsende Zahl fortschrittlicher NLP-Modelle, die durch höhere Rechenkapazitäten und neue Möglichkeiten der Erleichterung angetrieben werden: “Diese hochentwickelten Modelle, die auf gigantischen Datensätzen trainiert wurden, benötigen nur eine kleine Menge an neuen Daten, wenn sie für ein bestimmtes Merkmal verwendet werden, weil sie bereits gelerntes Wissen auf neue Aufgaben übertragen können, genau wie Menschen.”

Solche groß angelegten und vortrainierten Modelle ebnen auch den Weg in Richtung künstlicher allgemeiner Intelligenz, wenn Maschinen (hypothetisch) bei einer Vielzahl von Aufgaben so intelligent wie Menschen werden, fügte Yan hinzu.

Aufrufe: 3