chrismon: Smartphones entschlüsseln gesprochene Wörter, Großrechner weisen Gesichter Personen zu, Bordcomputer identifizieren Gefahrenquellen im Verkehr und steuern Autos, die wiederum von ­Robotern zusammengebaut werden. Was kommt als Nächstes?

Jürgen Schmidhuber: Die gegenwärtigen kommer­ziellen Anwendungen der Künstlichen Intelligenz wie Sprachsoftware auf den Smartphones beruhen vor allem auf passiver Mustererkennung. Das ist aller-dings eine sehr eingeschränkte Form von KI, denn sie kann die Welt nicht durch Handlungen gestalten. Das nächste große Ding aber wird eine Welle von ­intelligenten Maschinen sein: Roboter, die lernen, etwas herzustellen – und zwar nur durch Zuschauen und Zuhören.

German computer scientist Juergen Schmidhuber poses after a conversation during the 71st Locarno International Film Festival, Friday, August 10, 2018, in Locarno, Switzerland. The Festival del film Locarno runs from 1 to 11 August. (KEYSTONE/Alexandra Wey) [ Rechtehinweis: picture alliance/KEYSTONE ] cp_02_19, Interview, chrismon plus Februar 2019Alexandra Wey/dpa Picture-Alliance

Jürgen Schmidhuber

Jürgen Schmid­huber, Jahrgang 1963, ist wissenschaftlicher Direktor am Dalle-Molle-Forschungsinstitut für KI in Lugano in der Schweiz, Professor für KI an der Universität Lugano und Chefwissenschaftler einer Firma, die KI-Systeme entwickelt.

Wie soll das funktionieren?

Die rückgekoppelten künstlichen neuronalen Netzwerke, die ich mit meinen Studenten entwickelt habe, sind dem menschlichen Gehirn nachempfunden. Am Anfang ist so ein Netzwerk dumm wie ein Baby. Aber mit der Zeit lernt es, immer bessere Ergebnisse zu produzieren. Meist muss es dabei heute noch einen Lehrer imitieren, der ein bestimmtes Ziel vorgibt. Viel interessanter wird es aber, wenn nur noch Schmerz- oder Belohnungssensoren die Maschine steuern, die auf diese Weise Erfahrungen sammelt und umsetzt. Sie lernt dann wie ein kleines Kind.

Sie vergleichen Rechner mit Menschen und ­sprechen von "dummen" Maschinen, die "lernen". Aber ­Menschen fühlen – und technische Systeme rechnen. Kann man das gleichsetzen?

Wir haben längst mit Künstlicher Intelligenz ausgestattete Roboter oder Agenten, die emotional ­reagieren. So ein kleiner Roboter mit Schmerzsensoren zum Beispiel, der immer wieder mit Schlägen traktiert wird, versucht irgendwann, das zu vermeiden. Der versteckt sich dann zum Beispiel hinter einem Vorhang, wenn er seinen Peiniger erkennt. Das heißt, er hat eine vorhersagende Angst entwickelt und setzt das in seinem Verhalten um. Das ist extrem natürlich und eine ­Konsequenz rationalen Handelns. Es sieht aber von außen so aus, als fühle er die Angst auch.

"Das Wesen der Künstlichen Intelligenz ist das automatische Problemlösen"

Könnte man sagen: Menschen handeln oft irra­tional, Maschinen nicht?

Nein, die kleinen künstlichen Agenten in unserem ­Labor handeln ja auch sehr oft irrational. Die scheitern ja ständig. Sie lernen aber aus dem Scheitern.

Sie sagen Künstliche Intelligenz. Wie definieren Sie Intelligenz bei Maschinen?

Der Philosoph Karl Popper hat einmal gesagt, dass alles Leben Problemlösen sei. Da hat er recht. Wer ­intelligent ist, kann besser Probleme lösen als andere. Das Wesen der Künstlichen Intelligenz ist das automatische Problemlösen, insbesondere das automatische Erlernen des Lösens neuer Probleme.

Zur menschlichen Intelligenz gehören aber auch ­eine Absicht und ein Bewusstsein.

Bewusstsein hat mit dem Nachdenken über sich selbst zu tun. Schon seit Jahrzehnten bauen wir ­simple kleine Systeme, die das tun. Ein rückgekoppeltes neuronales Netzwerk lernt durch Erfahrung und Training, Scheitern und Belohnung und versucht beständig, mehr Erfolge zu erzielen. Ein zweites rückgekoppeltes neuronales Netzwerk beobachtet die ­Aktionen des ­ersten und versucht, ihre Konsequenzen vorherzu­sagen. Diese Vorhersagen haben einen Kompressionseffekt: Was man vorhersagen kann, muss man nicht speichern. Vorhersagen über alles, was häufig passiert, werden in kleinen Unternetzwerken repräsentiert, die automatisch entstehen. Das erste Netzwerk kann auf diese Unternetzwerke zugreifen und damit planen und mit den Vorhersagen über sich selbst arbeiten. Jedes Mal, wenn es das tut, denkt es über sich selbst nach.

Klingt kompliziert. Geben diese neuronalen Netzwerke, die sie da beschreiben, ihrem Handeln auch einen Sinn?

Ja, nämlich den Sinn, die Summe der Schmerz­signale zu minimieren und die Summe der Belohnungen zu maximieren. Das ganze Leben entfaltet sich dabei in immer komplexeren Problemlösungs­strategien.

Menschliches Bewusstsein entwickelt sich aber auch durch körperliche Erfahrungen.

Klar. Genau das ist der Grund, warum wir seit 30 ­Jahren kleine verkörperte Roboter oder Agenten ­bauen, mit Sensoren, die ihre Erfahrungen sammeln. Körperlichkeit ist da für uns zentral.

"Keiner hat Zugang zu allen Steckern"

Wenn Sie meinen, Roboter hätten eine Persönlichkeit, müssen wir dann etwa über Roboterpersönlichkeiten sprechen, die eigene Rechte und Pflichten haben?

Eine meiner Lieblings-Science-Fiction-Geschichten ist die "Waschmaschinentragödie" von Stanislaw Lem. Im Konkurrenzkampf zweier Waschmaschinenhersteller werden die Maschinen immer intelligenter und irgendwann den Menschen sehr ähnlich. Dies entfacht eine Diskussion darüber, ob sie Menschenrechte bekommen sollen. Eher zufällig stellt sich heraus, dass fast alle Diskussionsteilnehmer in Wirklichkeit verkleidete Waschmaschinen sind. Also, wenn Künstliche Intelligenz mal so clever ist wie Menschen, sollte sie dann nicht auch dieselben Rechte und Pflichten haben? Warum nicht!

Ein anderer Science-Fiction-Autor, William Gibson, erzählt in seiner Romantrilogie "Neuromancer" von einer ­Polizei, die KIs abschaltet, wenn sie zu intelligent werden. Und auch der Erfinder des Computers, Konrad Zuse, hat gesagt: "Wenn Computer zu frech werden, zieht ihnen die Stecker."

Das wird langfristig nicht funktionieren. Es gibt ­immer mehr Künstliche Intelligenz auf der Welt und keiner hat Zugang zu allen Steckern. Und ver­schiedene Menschen haben ja ganz verschiedene Ideen davon, wann welche Stecker gezogen werden sollten. Und ­einige werden fasziniert davon sein, KIs ohne Stecker zu bauen.

"Künstliche Wesen werden zusammenarbeiten"

Fehlen nur noch Roboter, die lieben können.

Wenn wir unseren kleinen KI-Agenten eine Aufgabe geben, die sie nur gemeinsam bewältigen können, dann lernen sie im Laufe der Zeit, zu kooperieren und sich gegenseitig zu helfen.

Ist das Liebe?

Das ist zumindest schon mal ein guter Ansatz. Vor 2000 Jahren gab es einen großen Vereinfacher: ­Jesus von Nazareth. Der hat gesagt, wir kompri­mieren die Zehn Gebote auf eine einzige Regel: Liebe ­deinen Nächsten wie dich selbst! Eine Gesellschaft, die ­diesem Gesetz folgt, hat rational einen Vorteil gegen­über ­anderen. Denn eine Gesellschaft, in der alle ­zusammenarbeiten und sich gegenseitig lieben – oder sich wenigstens nicht gegenseitig umbringen –, ist viel stärker als eine, in der Streit und Gewalt herrschen. Gleiches gilt aus rein rationalen Gründen auch für ­Gesellschaften künstlicher Wesen.