Das kleinere Macaw übertrifft GPT-3
1. Februar 2022Das kleinere Macaw übertrifft GPT-3
San Francisco, 1.2.2022
Das Allen Institute for AI hat sein KI-Frage-und-Antwort-Modell Macaw mit dem beliebten GPT-3-Sprachmodell von OpenAI verglichen. Das Forschungsinstitut, das von Paul Allen von Microsoft gegründet wurde, hat Macaw im vergangenen Jahr als Open Source zur Verfügung gestellt. Es ist darauf beschränkt, Fragen zu beantworten, zu generieren und Erklärungen dazu zu liefern.
Das Institut hat kürzlich eine Online-Demo veröffentlicht, mit der jeder die Antworten von Macaw auf eine Reihe von Benchmark-Fragen untersuchen kann. Diese Antworten werden dann mit den Antworten von GPT -3 verglichen. Laut dem Allen Institute for AI übertrifft Macaw oft GPT-3, obwohl es um eine Größenordnung kleiner ist.
Macaw enthält 11 Milliarden Parameter im Vergleich zu den 175 Milliarden Parametern von GPT-3. Mehr Parameter sind im Allgemeinen gleichbedeutend mit einem ausgefeilteren Modell. Um Macaw zu erstellen, trainierten die Forscher das T5-Transformatormodell von Google auf ~300.000 Fragen und Antworten.
Macaw ist öffentlich und kostenlos verfügbar.
