Der KI-Durchbruch erfordert Forscher, die ihre Kriegsbeile begraben

Der KI-Durchbruch erfordert Forscher, die ihre Kriegsbeile begraben

New York, 10.6.2019

Durch die Kombination von regelbasierter künstlicher Intelligenz mit „Connectionismus“ haben die Forscher des MIT und der IBM vielleicht den Schlüssel zur nächsten Phase der KI-Entdeckung gefunden. Damit verbunden ist auch das Ende einer langjährigen Rivalität.

Seit langem verfolgen KI- Forscher bei der Entwicklung von Problemlösungsalgorithmen im Allgemeinen einen von zwei Ansätzen: 1. den Symbolismus oder die regelbasierte KI, die sich auf die manuelle Kodierung von Konzepten, Regeln und Logik in Computersoftware konzentriert. 2. und den Connectionismus, der auf künstlichen neuronalen Netzwerken und digitalen Darstellungen des Gehirns basiert, die ihr Verhalten organisch entwickeln, indem sie viele Beispiele im Laufe der Zeit vergleichen.

Bis vor kurzem war die symbolische KI beliebter, und neuronale Netze wurden von vielen Forschern und Unternehmen gemieden. Aber 2012 gelang den Informatikern der University of Toronto der Durchbruch, indem sie mit Hilfe von tief lernenden KI-Algorithmen, die auf neuronalen Netzwerken basieren, ImageNet, einen berühmten jährlichen Wettbewerb für Computer Vision, gewinnen konnten.

Seitdem haben Deep Learning und neuronale Netze eine Revolution in der KI-Branche ausgelöst und dazu beigetragen, Probleme zu lösen, die außerhalb der Möglichkeiten von Computern lagen. Anfang des Jahres wurden die Pioniere der neuronalen Netze mit dem Turing-Award geehrt, der dem Nobelpreis für Informatik entspricht.

Deep Learning hat deutliche Schwächen

Als neuronale Netze an Popularität gewannen, fiel die symbolische KI in Ungnade und wurde an den Rand der Forschung gedrängt. Aber jetzt, sieben Jahre nach der Revolution des tiefen Lernens, haben wir gesehen, dass tiefes Lernen keine perfekte Lösung ist und deutliche Schwächen hat, die seine Anwendungen einschränken.

Eine Gruppe von Forschern des MIT und IBM glaubt, dass der nächste Durchbruch in der KI daraus resultieren könnte, dass die Rivalität zwischen symbolischer KI und neuronalen Netzwerken beendet wird.

In einem Beitrag, der auf der International Conference on Learning Representations (ICLR) Anfang des Monats vorgestellt wurde, präsentierten diese Forscher ein Konzept namens Neuro-Symbolic Concept Learner, das symbolische KI und neuronale Netzwerke zusammenbringt. Dieser hybride Ansatz kann eine KI schaffen, die flexibler ist als die traditionellen Modelle und Probleme lösen kann, die weder symbolische KI noch neuronale Netze allein lösen können.

„Tiefes Lernen ist enorm kraftvoll, und es wird nicht verschwinden. Aber es hat heute Grenzen“, sagt David Cox, Direktor am MIT-IBM Watson AI Lab. „Einer von ihnen ist, dass es auf riesige Datenmengen ankommt. Sie brauchen alarmierende Datenmengen, um eines dieser Systeme zu trainieren, Daten, die sorgfältig kommentiert werden müssen.“

Neuronale Netze sind im Kern komplexe mathematische Funktionen, die aus Tausenden von Variablen bestehen. Während der Phase „Training“ nimmt das Netzwerk zahlreiche beschriftete Beispiele auf und stimmt seine Variablen auf der Grundlage der gemeinsamen Muster ab, die es in jeder Klasse von Beispielen findet. Wenn Sie anschließend eine neue Datei durch das Netzwerk laufen lassen, kann sie die Daten basierend auf ihrer statistischen Ähnlichkeit mit Beispielen klassifizieren, die das Netzwerk zuvor gesehen hat. Neuronale Netze sind besonders effizient bei Aufgaben wie Bildklassifizierung, Spracherkennung und natürlicher Sprachverarbeitung, Bereichen, in denen die regelbasierte KI in der Vergangenheit Schwierigkeiten hatte.

Die Abhängigkeit von Datenmengen ist problematisch

Aber diese Abhängigkeit von Daten stellt eine große Schwierigkeit dar. „Für viele der Probleme, die wir haben, gibt es keine ausreichende Datenmenge. Die ist aber notwendig , um Deep-Learning-Algorithmen entsprechend trainieren zu können“ sagt Cox.

Als Faustregel gilt: Je mehr qualitativ hochwertige Trainingsdaten Sie haben, desto genauer wird Ihr neuronales Netzwerk. In vielen Fällen benötigen Sie Millionen von Beispielen für eine angemessene Schulung.

Tatsächlich ist das Konzept der neuronalen Netze fast so alt wie die KI selbst. Vor allem wegen der gestiegenen Verfügbarkeit großer Mengen an kommentierten Daten und Computerressourcen, die diese Daten schnell verarbeiten können, ist die Technik in den letzten Jahren praktisch geworden.

Die Erklärbarkeit ist ein weiteres Problem des tiefen Lernens. Es ist schwierig, die Entscheidung der neuronalen Netze zu untersuchen und zu auditieren, da sie äußerst komplex sind und ihre eigene Art der Verhaltensentwicklung haben. Dies stellt eine Herausforderung für ihre Anwendung in Bereichen dar, in denen Fehler kritische oder fatale Folgen haben können oder in denen das Gesetz von den Anwendern von KI-Systemen verlangt, Erklärungen für automatisierte Entscheidungen abzugeben.

Kombination von symbolischer KI und neuronalen Netzwerken

Eine echte Herausforderung für die KI ist die Aufgabe der visuellen Fragebeantwortung (VQA), bei der man der KI ein Bild zeigt und ihr Fragen über das Verhältnis der verschiedenen vorhandenen Elemente stellt. Es ist schwierig, weil VQA Elemente der Bilderkennung, der natürlichen Sprachverarbeitung und der logischen Argumentation beinhaltet, die am besten von symbolischen KI- und neuronalen Netzwerken bewältigt werden, die parallel arbeiten.

Die Forscher des MIT und der IBM nutzten den Neuro-Symbolic Concept Learner (NSCL), um VQA-Probleme zu lösen. Der NSCL verwendet neuronale Netze, um das Bild im VQA-Problem zu verarbeiten und es dann in eine tabellarische Darstellung der darin enthaltenen Objekte zu transformieren. Als nächstes verwendet es ein anderes neuronales Netzwerk, um die Frage zu analysieren und in ein symbolisches KI-Programm zu transformieren, das auf der Tabelle der im vorherigen Schritt erzeugten Informationen laufen kann.

„Eines der interessanten Dinge bei der Kombination von symbolischer KI mit neuronalen Netzwerken – der Schaffung hybrider neurosymbolischer Systeme – ist, dass man jedes System das tun und lassen kann, worin es gut ist. Die neuronalen Netze können sich um die Unordnung und Zusammenhänge in der realen Welt kümmern und diese in Symbole umwandeln, mit denen ein regelbasiertes System viel effizienter arbeiten kann“, sagte Cox.

Vorteile des Hybridansatzes

Die Forscher testeten die NSCL auf CLEVR, einem Datensatz von Bildern von gerenderten Objekten, die bei VQA-Problemen verwendet wurden. Frühere Versuche, CLEVR-Probleme mit neuronalen Netzwerkansätzen zu lösen, lieferten beeindruckende Ergebnisse, aber sie erforderten viele Trainingsbeispiele, und die entwickelten Modelle liefen bei Edge Cases schlecht (Einstellungen, für die die Netzwerke nicht trainiert wurden).

NSCL war in der Lage, mit einem Bruchteil der Daten 99,8 Prozent Genauigkeit auf CLEVR zu erreichen, denn anstatt sich durch Millionen von Beispielen zu kämpfen, entwickelt es eine konzeptionelle Repräsentation der Domäne, die es viel einfacher macht, Szenarien anzugehen, die es bisher nicht gegeben hat. Dies ist wichtig, da es in vielen Bereichen nicht genügend qualitativ hochwertige kommentierte Daten gibt, um neuronale Netze zur Problemlösung zu trainieren.

Außerdem löst NSCL bis zu einem gewissen Grad das Erklärungsproblem neuronaler Netze. In traditionellen neuronalen Netzwerkmodellen wird die KI mit dem Problem konfrontiert und gibt das Ergebnis aus, aber es vermittelt keine Erklärung , wie sie das Problem löst, so dass die Korrektur von Fehlern schwierig ist. Im Gegensatz dazu erstellt das Hybridsystem ein regelbasiertes Programm, das seine Funktionen Schritt für Schritt beschreibt.

„Hier können Sie das Programm sehen, und Sie können es durchgehen und sehen, was es getan hat. Wenn es die falsche Antwort bekommen hat, können Sie sehen, warum es die falsche Antwort bekommen hat und wo es verloren ging. Wenn es die richtige Antwort erhalten hat, können Sie überprüfen, ob es aus den richtigen Gründen geschehen ist. Du kannst verstehen und auditieren, was herauskam“, sagt Cox.

Die Roadmap zur Schaffung einer echten KI

Die KI-Branche entwickelt sich ständig weiter, und es gibt immer noch keinen Konsens darüber, welcher Ansatz der beste ist. Regelmäßig kommt es zu Streitigkeiten.

In einem kürzlich erschienenen Blog-Post erläutert der Deep-Learning-Experte Rich Sutton Gründe dafür, sich an Methoden des Deep-Learning und Discarding zu halten, die versuchen, menschliches Wissen manuell in Computercode umzuwandeln.

“ Das Einzige, was auf lange Sicht zählt, ist die Nutzung von Berechnungen“, sagt Sutton. „Der Mensch-Wissen-Ansatz verkompliziert Methoden in einer Weise, die sie weniger geeignet macht, die Vorteile allgemeiner Methoden zu nutzen, die Berechnungen nutzen.“ (Suttons Argument wurde von anderen Wissenschaftlern, auch vom Robotik-Pionier Rodney Brooks, vorhersagbar bestritten.)

Aber wie die Arbeit der Wissenschaftler von IBM und MIT zeigt, wird der Weg in die Zukunft nicht darin bestehen, die beiden Ansätze gegeneinander auszuspielen, sondern sie zu kombinieren, um etwas Größeres als die Summe seiner Teile zu schaffen.