Die nächste Evolutionsstufe der KI: Transparent und reflektiert

Stellen Sie sich bitte folgende Situation vor: Sie fahren in einem Ort und sehen ein Verkehrsschild mit der Höchstgeschwindigkeit 120 km/h. Was würden Sie tun? Aufs Gaspedal drücken und das Tempolimit ausreizen? Wahrscheinlich nicht – denn Sie wissen, dass man in geschlossenen Ortschaften nur maximal 50 km/h fahren darf.

Was aber würde eine heutige Künstliche Intelligenz (KI) tun? Sie wäre problemlos in der Lage, das Verkehrsschild zu erkennen und korrekt zu interpretieren. Ohne Zusatzwissen wäre für sie klar: Hier gilt ein Tempolimit von 120 km/h. Sie käme von sich aus nie auf den Gedanken, dass das Schild aus Versehen oder aus böser Absicht am Straßenrand platziert worden sein könnte.

Denn der KI fehlt eine typische menschliche Fähigkeit: Reflexion. In einer Situation wie dieser würde jeder Mensch nachdenken und Hypothesen bilden. Oder er würde seinen Beifahrer um dessen Meinung fragen. Genau das wollen wir mit der „dritten Welle der KI“ erreichen: KI-Systeme sollen in Zukunft menschenähnlicher werden – indem sie bei ihren Entscheidungen Wissen über die Welt berücksichtigen und gegebenenfalls Menschen um ihre Meinung fragen.

Das lässt sich an einem aktuellen Beispiel zeigen. Heute können wir KI-Systemen bereits ethisches Verhalten beibringen, indem wir ihnen viele menschliche Texte präsentieren, aus denen sie unsere Vorurteile extrahieren – denn ethische Regeln sind in gewissem Sinn auch nur Vorurteile. Eine heutige KI würde darum sagen, dass das öffentliche Tragen einer Maske in Deutschland nicht akzeptiert ist. Dabei berücksichtigt sie aber nicht, dass in der Corona-Pandemie der Mund-Nasen-Schutz zu unserem Alltag gehört. In Zukunft könnte eine KI aktuelle Nachrichten durchsuchen und das so gewonnene Wissen bei ihren Entscheidungen berücksichtigen.

Um den Unterschied zu bestehenden KI-Systemen besser verstehen zu können, ist ein Blick in die Vergangenheit hilfreich: Während der ersten Welle der KI von 1956 bis in die 1980er-Jahre wurde das intelligente Verhalten von Menschen vorprogrammiert. Aus einer großen Menge von Wenn-dann-Beziehungen konnte der Computer mithilfe einer Programmlogik seine Schlüsse ziehen. So entstanden die ersten „Expertensysteme“, die in einem speziellen Gebiet Handlungsempfehlungen gaben.

Die zweite Welle der KI startete in den 1980er-Jahren und hält bis heute an. Heute sind die Computer in der Lage, aus Beispielen – auch „Daten“ genannt – zu lernen und so „intelligentes“ Verhalten zu entwickeln. Der Mensch muss nicht mehr alle Eventualitäten ersinnen und unzählige Regeln manuell vorprogrammieren. Programmiert ist nur noch der Lernalgorithmus. Zu den bekanntesten Erfolgen solcher KI-Systeme gehören der Sieg des IBM-Schachcomputers „Deep Blue“ über Weltmeister Garri Kasparow (1996) und der Sieg der KI-Software „AlphaGo“ gegen den südkoreanischen Go-Weltklassespieler Lee Sedol (2016). Heute profitieren wir alle von der zweiten Welle der KI – zum Beispiel durch Spracherkennung im Smartphone oder durch Autos, die teilweise ohne unser Zutun fahren können.

Die dritte Welle nimmt gerade Fahrt auf. Und sie baut auf dem auf, was wir in den vergangenen zwei Wellen der KI entwickelt haben. Man könnte den neuen Ansatz so zusammenfassen: Wahrnehmung auf niedriger Ebene („Tempo 120“) und Argumentation auf hoher Ebene (Verkehrsregeln) miteinander kombinieren sowie Entscheidungen kontextualisieren (geschlossene Ortschaft) und sie auf menschenähnliche Weise kommunizieren (beim Beifahrer nachfragen).

Technisch nutzen wir dafür eine Kombination aus neuronalen Netzen, Wahrscheinlichkeitsmodellen und Logik – so wie es der Nobelpreisträger Daniel Kahneman in seinem Buch „Thinking, Fast and Slow“ für uns Menschen beschreibt: Das schnelle, instinktive und emotionale System (neuronale Netzwerke und Wahrscheinlichkeitsmodelle) arbeitet mit dem langsameren, Dinge durchdenkenden und logischeren System (Programmlogik) zusammen.

Zu den wichtigen Entwicklungen für die dritte Welle der KI gehört die „Neural Symbolic AI“: Während die bekannten Convolutional Neural Networks (CNN) beispielsweise aus den Pixeln einer Videokamera Verkehrszeichen erkennen können, fehlt ihnen eine besondere Zutat, die uns menschlich macht: der gesunde Menschenverstand – dieses intuitive Gespür für Zusammenhänge, das uns so selbstverständlich erscheint. Durch ihn können Menschen die Bedeutung eines neuen Wortes, die Eigenschaften von unbekannten Substanzen oder auch soziale Normen anhand von wenigen Erfahrungen ableiten. Solche Schlüsse gehen weit über die verfügbaren Daten hinaus.

So weit ist die Technik derzeit noch nicht. Heutige neuronale Netzwerke verwechseln gerne einen auf die Seite gekippten Schulbus mit einem Schneepflug – anders als der Mensch: Wenn wir einmal gelernt haben, was ein Schulbus ist, werden wir keine größeren Schwierigkeiten haben, ihn auch in ungewohnten Situationen zu erkennen. Denn wir Menschen können abstrahieren, Lösungsstrategien verallgemeinern und auf ähnliche, wenn auch unterschiedliche Situationen anwenden.

Dank der Neural Symbolic AI werden das bald auch Maschinen können. Wir werden in Zukunft neuronale Netze einsetzen, die (auch im Zusammenspiel mit anderen Methoden der KI) die wahre Bedeutung der Verkehrszeichen erfassen, sie als „Symbole“ begreifen und so mittels einer Programmlogik „eins und eins“ zusammenzählen können – zum Beispiel, dass man in einem Ort nicht 120 km/h fahren darf.

Durch die dritte Welle der KI werden Maschinen bald Partner des Menschen sein, die wie wir denken und uns verstehen. Sie werden zum Beispiel in der Klimaforschung Daten und Modelle für die Atmosphäre, die Ozeane und das Wolkensystem mit ökonomischen Modellen sowie Biosphärenmodellen zu einem „Big Picture“ zusammenfügen.

Zudem werden die künftigen KI-Systeme für uns viel durchschaubarer sein. Denn sie können ihre Entscheidungen in Worte fassen, von unwichtigen Details abstrahieren und uns so verständlicher machen, wie sie zu ihren Entscheidungen kommen: Warum nimmt das Navigationssystem genau diese Route? Warum empfiehlt mir die Finanzsoftware genau dieses Investment? Wieso lehnt eine KI einen bestimmten Bewerber ab und gibt einem anderen den Vorzug? Mit der dritten Welle der KI lösen wir das Problem der „Black Box“ und machen die Prozesse transparent.

Für die dritte Welle der KI werden gerade die Claims abgesteckt. Vor allem Unternehmen aus den USA haben das Potenzial der Entwicklung bereits erkannt und kaufen aktuell viele Start-ups in diesem Bereich. Auch in Europa sind wir gut aufgestellt, weil es hier viele fähige Wissenschaftler und Entwickler gibt – leider aber weniger Risikokapital. Der Zug ist jedoch noch nicht abgefahren, und es liegt an uns, die Zukunft der KI mitzugestalten. Meine Botschaft an Politik, Wirtschaft und Wissenschaft lautet darum: Lasst uns eine KI schaffen, die noch freundlicher und nützlicher ist. Eine KI zum Wohle aller. Reiten wir die dritte Welle!

Gastautor Prof. Dr. Kristian Kersting ist Professor für Künstliche Intelligenz und Maschinelles Lernen an der TU Darmstadt und Träger des ersten Deutschen KI-Preises (2019). Seit August 2020 ist er auch zusammen mit Prof. Dr. Dr. h.c. Mira Mezini Co-Sprecher des neuen Hessischen Zentrums für Künstliche Intelligenz, an dem sich 13 Hochschulen des Bundeslandes beteiligen. Das Land Hessen richtet dafür 20 zusätzliche Professuren ein und stellt in der fünfjährigen Aufbauphase 38 Millionen Euro zur Verfügung. Schwerpunkt der Arbeit wird die dritte Welle der KI sein.

Text erstmals erschienen im Porsche Engineering Magazin, Ausgabe 1/2021.

Text: Prof. Dr. Kristian Kersting

Copyright: Alle in diesem Artikel veröffentlichten Bilder, Videos und Audio-Dateien unterliegen dem Copyright. Eine Reproduktion oder Wiedergabe des Ganzen oder von Teilen ist ohne die schriftliche Genehmigung von Porsche Engineering nicht gestattet. Bitte kontaktieren Sie uns für weitere Informationen.

Sie haben Fragen oder möchten weitere Informationen? Wir freuen uns über Ihre Kontaktaufnahme: info@porsche-engineering.de