Künstliche Intelligenz entwickelt sich ganz von selbst
19. April 2020Künstliche Intelligenz entwickelt sich ganz von selbst
New York, 19.4.2020
Forscher haben Software entwickelt, die Konzepte aus der Darwinschen Evolution entlehnt, einschließlich des „Überlebens des Stärkeren“, um KI-Programme zu entwickeln, die eine Generation nach der anderen ohne menschliches Zutun verbessern. Das Programm replizierte Jahrzehnte der KI-Forschung innerhalb weniger Tage, und seine Entwickler glauben, dass es eines Tages neue Ansätze zur KI entdecken könnte.
„Während die meisten Menschen noch Babyschritte machten, unternahmen sie einen riesigen Sprung ins Unbekannte“, sagt Risto Miikkulainen, ein Informatiker an der Universität von Texas, Austin, der an der Arbeit nicht beteiligt war. „Dies ist eine dieser Arbeiten, die eine Menge zukünftiger Forschung in Gang setzen könnte“.
Die Erstellung eines KI-Algorithmus benötigt Zeit. Nehmen wir neuronale Netze, eine verbreitete Art des maschinellen Lernens, die für die Übersetzung von Sprachen und das Autofahren verwendet wird. Diese Netze ahmen die Struktur des Gehirns lose nach und lernen aus Trainingsdaten, indem sie die Stärke der Verbindungen zwischen künstlichen Neuronen verändern. Kleinere Unterschaltkreise von Neuronen führen spezifische Aufgaben aus – zum Beispiel das Erkennen von Verkehrszeichen – und die Forscher können Monate damit verbringen, herauszufinden, wie man sie so miteinander verbindet, dass sie nahtlos zusammenarbeiten.
In den letzten Jahren haben Wissenschaftler den Prozess beschleunigt, indem sie einige Schritte automatisiert haben. Aber diese Programme sind immer noch darauf angewiesen, fertige, von Menschenhand entworfene Schaltkreise zusammenzufügen. Das bedeutet, dass der Output immer noch durch die Vorstellungskraft der Ingenieure und ihre bestehenden Verzerrungen begrenzt ist.
Also entwickelten Quoc Le, ein Informatiker bei Google, und seine Kollegen ein Programm namens AutoML-Zero, das KI-Programme mit praktisch keinem menschlichen Input entwickeln konnte und nur grundlegende mathematische Konzepte verwendete, die ein Gymnasiast kennen würde. „Unser Endziel ist es, tatsächlich neuartige Konzepte des maschinellen Lernens zu entwickeln, die selbst Forscher nicht finden konnten“, sagt er.
Das Programm entdeckt Algorithmen mit einer losen Annäherung an die Evolution. Es beginnt mit der Erstellung einer Population von 100 Algorithmenkandidaten durch zufällige Kombination mathematischer Operationen. Dann testet es sie an einer einfachen Aufgabe, wie zum Beispiel einem Bilderkennungsproblem, bei dem es entscheiden muss, ob ein Bild eine Katze oder einen Lastwagen zeigt.
In jedem Zyklus vergleicht das Programm die Leistung der Algorithmen mit handgeschriebenen Algorithmen. Kopien der Top-Performer werden durch zufälliges Ersetzen, Bearbeiten oder Löschen eines Teils ihres Codes „mutiert“, um leichte Variationen der besten Algorithmen zu erzeugen. Diese „Kinder“ werden der Population hinzugefügt, während ältere Programme ausgemerzt werden. Der Zyklus wiederholt sich.
Das System erzeugt Tausende dieser Populationen auf einmal, wodurch es pro Sekunde Zehntausende von Algorithmen durchlaufen kann, bis es eine gute Lösung findet. Das Programm verwendet auch Tricks, um die Suche zu beschleunigen, wie z.B. den gelegentlichen Austausch von Algorithmen zwischen Populationen, um evolutionäre Sackgassen zu vermeiden, und das automatische Aussortieren von doppelten Algorithmen.
In einem im letzten Monat auf arXiv veröffentlichten Preprint-Papier zeigen die Forscher, dass der Ansatz über eine Reihe klassischer Techniken des maschinellen Lernens stolpern kann, darunter auch neuronale Netze. Die Lösungen sind im Vergleich zu den heutigen fortschrittlichsten Algorithmen einfach, räumt Le ein, aber er sagt, die Arbeit sei ein Beweis des Prinzips und er sei optimistisch, dass sie auf viel komplexere KIs skaliert werden könne.
Dennoch meint Joaquin Vanschoren, ein Informatiker an der Technischen Universität Eindhoven, dass es noch eine Weile dauern wird, bis der Ansatz mit dem Stand der Technik konkurrieren kann. Eine Sache, die das Programm verbessern könnte, so Vanschoren, ist, dass es nicht bei Null anfangen muss, sondern stattdessen einige der Tricks und Techniken einsetzt, die die Menschen entdeckt haben. „Wir können die Pumpe mit erlernten maschinellen Lernkonzepten anschieben“.
Das ist etwas, an dem Le arbeiten will. Auch die Konzentration auf kleinere Probleme statt auf ganze Algorithmen sei vielversprechend, fügt er hinzu. Seine Gruppe veröffentlichte am 6. April ein weiteres Papier über arXiv, das einen ähnlichen Ansatz für die Neugestaltung einer beliebten Fertigkomponente verwendete, die in vielen neuronalen Netzen verwendet wird.
Le glaubt aber auch, dass eine Erhöhung der Anzahl der mathematischen Operationen in der Bibliothek und die Bereitstellung von noch mehr Rechenressourcen für das Programm es ihm ermöglichen könnte, völlig neue KI-Fähigkeiten zu entdecken. „Das ist eine Richtung, die uns wirklich am Herzen liegt“, sagt er. „Etwas wirklich Grundlegendes zu entdecken, dass die Menschen erst nach langer Zeit herausfinden werden“, sagt er.
