Wie die Pandemie die Krise und die Automatisierung beschleunigt

Wie die Pandemie die Krise und  die Automatisierung beschleunigt

New York, 3.4.2020

Die COVID-19-Pandemie beschleunigt eine automatisierte Zukunft, die bereits auf dem Weg ist. Darum: Konzentrieren Sie sich auf den Einsatz realer Lösungen, die 24 Stunden am Tag mit einem Minimum an menschlicher Intervention laufen können und den Nutzern einen echten Mehrwert bieten.

Tausende von Amerikanern haben mitten in der aktuellen Pandemie begonnen, von zu Hause aus zu arbeiten. Der chinesische E-Commerce-Riese JD damit begonnen, einen autonomen Lieferroboter der Stufe 4 in Wuhan zu testen und seine automatischen Lager rund um die Uhr zu betreiben, um den Nachfrageschub zu bewältigen.

Plötzlich müssen autonome Maschinen besser sein als nur ein Proof-of-Concept. Sie müssen robust genug sein, um in verschiedenen Situationen des realen Lebens unabhängig zu arbeiten.

Es ist offensichtlich: die  Pandemie beschleunigt eine automatisierte Zukunft. Sie hat Probleme aufgedeckt, die es in der KI-Venture-Szene schon lange gibt: Schlagworte und Hype vernebeln das Urteilsvermögen der Menschen und machen es schwierig, echte Fortschritte zu erkennen.

Die Industrie muss dringend notwendige Reformen in Richtung realer autonomer Systeme in den folgenden drei Bereichen durchführen:

1. Überdenken Sie die Metriken

Da in der realen Welt immer mehr autonome KI-Maschinen eingesetzt werden, können herkömmliche Metriken wie Geschwindigkeit, Zykluszeit oder Erfolgsrate nicht mehr das vollständige Bild darstellen. Wir müssen die Zuverlässigkeit des Systems unter Unsicherheiten mit Robustheitsmetriken wie der durchschnittlichen Anzahl menschlicher Eingriffe messen. Wir brauchen mehr Werkzeuge und Industriestandards, um die Gesamtleistung des Systems in einer Vielzahl von Szenarien zu bewerten, da das reale Leben im Gegensatz zu einer kontrollierten Umgebung nicht vorhersehbar ist.

Wenn ein Auslieferungsroboter eine maximale Geschwindigkeit von 4 mph erreichen kann, aber ohne menschliche Unterstützung vor Ort keine einzige Lieferung durchführen kann, schafft der Roboter für seine Benutzer keinen großen Wert.

DevOps ist vor einigen Jahren entstanden, um den Entwicklungszyklus zu verkürzen und kontinuierlich hochwertige Software zu liefern. Im Vergleich zum Software-Engineering ist die KI oder ML viel weniger ausgereift. 87% der ML-Projekte gehen nie in Produktion. In letzter Zeit tauchen jedoch immer mehr MLOps oder AIOps auf.

Dies markiert einen entscheidenden Übergang von der KI/ML-Forschung zu tatsächlichen Produkten, die täglich benutzt und getestet werden. Es erfordert einen bedeutenden Mentalitätswandel, um sich auf die Qualitätssicherung statt auf modernste ML-Modelle zu konzentrieren. Das heißt nicht,  dass wir nicht beides gleichzeitig haben können, aber bisher haben wir mehr Gewicht auf Letzteres gelegt.

2. Neugestaltung der Fehlerbehandlung und Kommunikation

Es ist wichtig, die Anzahl der erforderlichen menschlichen Eingriffe zu messen. Noch wichtiger ist, dass wir eine bessere Art und Weise entwickeln müssen, um Fehler zu behandeln und zu kommunizieren. Beispielsweise kann man durch das Aufzeigen des Vertrauensniveaus von Vorhersagen des maschinellen Lernens oder durch die Formulierung von Vorhersagen in Form von Vorschlägen anstelle von Entscheidungen Vertrauen bei den Anwendern schaffen.

Außerdem ist eine Zweiwege-Kommunikation von entscheidender Bedeutung, damit Benutzer auch Unbekanntes markieren können, Fehler, die von den Systemen nicht erkannt werden können. Insbesondere bei größeren Fehlern, die ein sofortiges menschliches Eingreifen erfordern, um den Systembetrieb wieder aufzunehmen.

Die Fehlerbehandlung ist der erste Schritt. Es geht darum, Fälle zu identifizieren, in denen Maschinen nicht jedes Szenario allein bewältigen können. Der nächste Schritt besteht darin, eine nahtlose Übergabe und Zusammenarbeit zwischen Maschinen und Menschen zu gewährleisten, um Grenzfälle zu bewältigen und die Gesamtleistung zu optimieren.

3. Neudefinition der Mensch-Maschine-Interaktion

Wir sind es gewohnt, Roboter zu führen oder Maschinen Befehle zu geben. Aber da Maschinen immer intelligenter werden, sollten wir Menschen immer die letzte Entscheidung treffen?

Wer sollte zum Beispiel ein autonomes Robotaxi steuern? Das Auto selbst? Der menschliche Sicherheitsfahrer? Jemand, der eine Flotte von Roboterachsen aus der Ferne überwacht? Oder die Passagiere? In welcher Situation? Haben wir das richtige Werkzeug und die richtige Technologie, um alle relevanten Informationen zeitnah an diesen Entscheidungsträger weiterzuleiten?

Neben der Technologie gibt es auch Vertrauensfragen. Auch wenn Untersuchungen zeigen, dass autonome Autos sicherer sind, zieht es fast die Hälfte der Amerikaner immer noch vor, kein selbstfahrendes Auto zu benutzen.

Wie können wir eine auf den Menschen ausgerichtete KI entwickeln, um sicherzustellen, dass autonome Maschinen unser Leben besser und nicht schlechter machen? Wie automatisieren wir die richtigen Anwendungsfälle, um den Menschen zu vergrößern? Wie bauen wir ein Hybridteam auf, das bessere Ergebnisse liefert und es Mensch und Maschine ermöglicht, voneinander zu lernen?

Es gibt noch viele Fragen, die wir beantworten müssen. Aber die gute Nachricht ist, dass wir damit begonnen haben, dies zu tun. Und wir scheinen in die richtige Richtung zu gehen.

Dieser Beitrag wurde in leicht gekürzter und veränderter Form von Bastiane Huang verfasst. Sie ist Produktmanager bei OSARO, einem KI/Robotik-Startup mit Sitz in San Francisco, das von Peter Thiel und Jerry Yangs AME Cloud unterstützt wird. Zuvor arbeitete sie für Amazon Alexa.