chrismon: Wenn Sie sich eine intelligente Maschine ­wünschen dürften, welche wäre das?

Thea Dorn: Ich will mit dem Kopf und dem Herzen ar­bei­ten, deshalb finde ich es wunderbar, dass Geräte mir Tätigkeiten im Haushalt abnehmen, die ich nur zähne­knirschend machen würde. Ich bin aber noch nie auf die Idee gekommen, meine Waschmaschine intelligent zu nennen.

Raúl Rojas: Ich wünsche mir eine Technologie, die mir nicht ständig im Weg steht und mich an den Computer fesselt – wie es zum Beispiel E-Mails tun. Ich habe kein Handy, das ist mein Ausweg. Ich möchte mein Gehirn für etwas anderes verwenden. Also entwickle ich etwa auto­nome Fahrzeuge, die man wie Taxis nutzen kann.

Sind wir denen nicht erst recht ausgeliefert?

Rojas: Nein. Im Gegenteil. Ich möchte das Auto in ein öffent­liches Verkehrsmittel verwandeln. Wir haben in Berlin 1,3 Millionen Fahrzeuge, dazu Busse und U-­Bahnen. Ich hätte gern statt der Autos nur noch 100 000 autonome Fahrzeuge: Sammeltaxis. Sie würden die Leute auf der Straße aufnehmen und sie zur U-Bahn, zum Bus oder einem anderen Ziel bringen. Man fährt gemeinsam, teilt sich die Kos­ten. Das entlastet den Verkehr. Es gäbe keine Parkspuren mehr, und die frei gewordene Spur bekämen die Fahrräder. Es gäbe weniger Unfälle. Und es wäre so bequem! Ich brauche nicht mehr selbst zu fahren, ich kann ins Taxi einsteigen, lesen, arbeiten. Das wäre meine "Autopie" für die Stadt.

Dorn: Keine Einwände gegen diese Vision! Letztlich ist es mir egal, ob ein Chauffeur am Steuer sitzt oder ob das ­Auto selbst fährt. Aber einstweilen sitzen wir ja selbst noch am Steuer – und werden dauernd bevormundet. Es macht mich rasend, wenn mein Auto mir durch hysterisches Piepsen vorschreiben will, wie ich einparken oder wann ich Pause machen soll. Und Navigationssysteme sind die reinsten Orientierungs-Verblödungs-Maschinen. Wenn möglich, schalte ich das alles ab.

"Ich mag keine Haushaltsroboter"

Rojas: Ein Navigationssystem habe ich auch nicht. Aber im Ernst: Ich halte viele Vorträge über autonome Fahrzeuge, und die häufigste Reaktion ist: Ich will nicht, dass mir jemand das Lenkrad wegnimmt! Da antworte ich: Reiche Leute haben einen Chauffeur und kümmern sich nicht um die Details. Wollen wir nicht alle reich sein? Dann interessiert mich das Fahren nicht mehr. Ich lese meine Zeitung, mein Buch, bis der Chauffeur sagt: Wir sind angekommen.

Dorn: Auch dies: schöne Vision! Ich fürchte nur, dass die Leute die gewonnene Zeit nicht nutzen werden, um Aristoteles oder wenigstens die Zeitung zu lesen. Sie werden noch mehr an ihren Geräten herumdaddeln. Aber es stimmt natürlich, dass sich – gerade in Großstädten – im Verkehr viel verbessern muss. Jeder, der in Berlin zu Fuß oder mit dem Rad unterwegs ist, hasst den Autoverkehr.

Aber?

Dorn: Mich beunruhigt die Rasanz, mit der wir Entscheidungen, die wir früher selbst treffen mussten, oder Kompetenzen, die wir uns selbst aneignen mussten, an die Technik delegieren: Ein Gespür dafür entwickeln, ob ich mich heute genügend bewegt habe? Überflüssig, die Gesundheits-App sagt’s mir. Vorratsplanung? Überflüssig, der Kühlschrank weiß selbst, wann neue Milch hermuss. Fremdsprachen ­lernen? Wozu, es gibt doch Übersetzungsprogramme.

Herr Rojas, Sie wollen eine Technologie, die Ihnen Dinge abnimmt und Arbeit von Ihnen fernhält. Stellen wir uns also einen Haushalt vor, der von selbst Wäsche wäscht, das Essen macht...

Rojas: Nein, nein. Ich mag keine Haushaltsroboter. Mein persönlicher Sport ist es, den Rasen zu mähen, Blätter aufzusammeln und die Wäsche zu machen. Man sollte den Menschen nicht alles im Haushalt abnehmen, weil sie sich dann nicht mehr bewegen und dick werden. Wie im Film "WALL-E". Kennen Sie den?

Dorn: Nur den Trailer.

Rojas: Da sitzen die Menschen auf einer fliegenden Couch, sie haben den Bildschirm vor der Nase, und Roboter bringen das Essen. So eine Zukunft wäre grausam. Manche Maschinen, die gebaut werden könnten, sollte man deshalb aus sozialen Gründen nicht bauen. Pflegeroboter für Krankenhäuser etwa, die den Kontakt der Kranken zu ­anderen Menschen minimieren.

Dorn: An deren Entwicklung wird aber massiv gearbeitet. Einerseits ist das verständlich: Es herrscht ein Mangel an Pflegekräften, warum also nicht Abhilfe durch Roboter schaffen? Andererseits wird mit jeder technologischen ­Lösung eines gesellschaftlichen Problems unsere ­soziale Kreativität weiter abnehmen. Im Kern scheint es mir darum zu gehen: Wie füllen wir die Freiräume aus, die uns die neue Technik beschert? Gehen wir einem Athen 4.0 entgegen, in dem jeder von morgens bis abends philosophieren und Sport treiben kann, weil ihm freundliche Robotersklaven alle lästige Arbeit abnehmen? Oder enden wir so, wie "WALL-E" es nahelegt: dick, faul und dumm?

Rojas: Das ist das Dilemma. Die klassische Antike ist sowieso nicht mein Vorbild, weil da nur Männer frei ­waren, während Frauen und Sklaven die Arbeit machten. Ich denke eher an die utopischen Sozialisten.

Begegnung / Thea Dorn und Paul Rojas, fotografiert am 26.11.2017 an der FU Berlin. Foto: Steffen RothSteffen Roth

Thea Dorn

Thea Dorn, geboren 1970, ist Schriftstellerin und Philosophin. In ihrem Roman "Die Unglückseligen" (Knaus, 24,99 Euro) geht es um die Abschaffung der Sterblichkeit. Das Thema künstliche Intelligenz treibt sie um: Auf der Jahrestagung des Deutschen Ethikrats zum Thema "Autonome Systeme" ging sie 2017 der Frage nach, wie diese Maschinen unser Selbstverständnis ändern.

Begegnung / Thea Dorn und Paul Rojas, fotografiert am 26.11.2017 an der FU Berlin. Foto: Steffen RothSteffen Roth

Raúl Rojas

Raúl Rojas, Jahrgang 1955, ist Mathematiker und Professor für Informatik an der Freien Universität Berlin. Er leitet das Dahlem Center for Machine Learning and Robotics und wurde bekannt durch fußballspielende Roboter, mit denen sein Team und er viele Meisterschaften gewannen. Derzeit arbeitet er an autonom fahrenden Fahrzeugen, der Prototyp heißt "AutoNOMOS". Seine Doktorarbeit hatte seinerzeit ein ganz anderes Thema: Karl Marx.

Dorn: Trotzki wäre heute wohl ein großer Verfechter der Technologisierung, weil er hoffen würde, man bekäme dadurch die Freiheit zur Bildung.

Rojas: Die große Frage bei den frühen Sozialisten war ja, wer die niederen Arbeiten macht. Ihre Antwort: Maschinen. Friedrich Engels schrieb, als er noch jung war: Ihr habt gesagt, wir brauchen eine untere Klasse, die ­Toiletten putzt, aber jetzt gibt es eine automatische ­Toilette, die selbst spült! Für ihn bewies das, dass die Menschheit der Zukunft von diesen niederen Arbeiten entbunden sein werde – die sozialistische Utopie des 19. Jahrhunderts. Inzwischen haben wir viel mehr Maschinen, als sich Marx und Engels jemals erträumt haben, aber die tolle Zukunft mit den freien Menschen haben wir nicht. Da kann man schon fast verzweifeln.

Dorn: Tja. Ich glaube, der Mensch hat nur zwei Möglichkeiten:Entweder er findet sich weiterhin damit ab, dass er neben all dem Großartigen, das er kann, auch ein beschränktes Mängelwesen ist: manchmal traurig, manchmal krank, und am Schluss steht der Tod. Oder er will all dies endgültig hinter sich lassen und ewig fit, ewig gut drauf und in letzter Konsequenz auch unsterblich sein. Unser abendländisches, humanistisch geprägtes Menschenbild wäre ­damit am ­Ende. Ich vermute, im Silicon Valley ­würde ich höhnisches Gelächter ernten, wenn ich dort sagen ­würde, dass ich die weitere Optimierung des Menschen im Maschinen­stil für das Ende unserer Autonomie und Würde halte. Die Allerkühnsten dort träumen ja davon, ihr Hirn in die Cloud hochzuladen, wo es mit dem Weltwissen verschmelzen kann: die totale Entgrenzung. In meiner Sprache: das Ende von Persönlichkeit, Charakter, Individuum.

Rojas: Das sind alles Fantasien, das ist alles Quatsch.

Dorn: Es beruhigt mich, wenn Sie das sagen.

Woher weiß ich als normale Leserin, dass das Quatsch ist?

Rojas: Das ist schwer herauszufinden. Ray Kurzweil, der Vordenker des Transhumanismus, behauptete schon vor Jahrzehnten, die Menschen würden durch Maschinen ersetzt, es gäbe irgendwann nur noch maschinelle Intelligenz. Er sagt, 2030 werden Computer genauso viele Transistoren wie Menschen Neuronen haben, also werden die Maschinen automatisch intelligenter sein. Das ist Unsinn, und es ist vermessen. Immer wieder merken wir, wie weit wir noch davon entfernt sind, Gehirn und Kognition zu verstehen. Wer glaubt, dass Maschinen haargenau wie Menschen sein können, verkennt, dass wir Körper und Geist sind.

Dorn: Kurzweil ist so konsequent, den Körper für ein läs­tiges Anhängsel des Geistes zu halten.

Rojas: Wenn er all seine Informationen auf einer Festplatte speichern könnte, würde er schnell merken, dass er ohne Körpernicht mehr derselbe wäre.

Dorn: Wie gesagt: Ich hoffe, Sie haben recht und die "Singularität", von der Kurzweil träumt, wird es niemals geben. Trotzdem glaube ich nicht, dass man alle trans- und posthumanistischen Visionen achselzuckend übergehen sollte...

Rojas: Doch. (lacht)

Dorn: ...weil sie uns mit dem Fluchtpunkt unserer technologischen Zivilisationsgeschichte konfrontieren. Sie zwingen uns, uns zu fragen: Wollen wir den Weg, den wir eingeschlagen haben, wirklich so radikal zu Ende gehen?

Rojas: Wer Roboter baut, ist wie ein Zauberer, und die Leute lassen sich täuschen. Ein Beispiel: Wenn Sie kleine Roboter per Zufallsprinzip Würfel durch die Gegend schieben lassen, bildet sich irgendwann in der Mitte der Arena ein Haufen. Das ist zufällig, doch die Leute denken: Ah! Die Roboter bauen gemeinsam einen Turm. Sie sind intelligent!

Dorn: Kommt das nicht daher, dass die Menschen seit Anbeginn davon träumen, Wesen zu erschaffen, die sie unendlich überbieten – an Gesundheit, in Langlebigkeit, Schönheit, Stärke, Intelligenz? Pygmalion und die ideale Frau, die jüdische Mythologie und der Golem, Nietzsche und der Übermensch. Diese Begeisterung wundert mich also nicht. Aber ich teile Ihre Einschätzung, dass wir es zumindest derzeit noch mit eher billigem Budenzauber zu tun haben. Neulich war ich bei einem Empfang, da lief ein kleiner weißer Roboter herum, begrüßte die Gäste, konnte – meistens – erkennen, ob ihm ein Mann oder eine Frau gegenüberstand. Meinte er, eine Dame zu sehen, gab’s ne Rose.

Rojas: Das ist Volksverdummung. Ich weiß, was der Stand der Technik ist. Wir kochen alle nur mit Wasser. Die Leute, die diese Roboter bauen, tun so, als ob der Roboter wirklich viel versteht. Statt über die Grenzen und Probleme der Technologie aufzuklären, übertreiben sie maßlos, um Inves­toren oder neue Gelder für die Forschung zu bekommen.

Dorn: Glauben Sie, dass diese Künstlichen Intelligenzen eines Tages so etwas wie Emotionen ausbilden könnten?

Rojas: Nein. Das ist absolut undenkbar. Ich arbeite seit 35 Jahren daran. Es gibt gewisse bescheidene Fähigkeiten, die wir den Computern beizubringen versuchen. Aber: Die Spracherkennung ist immer noch nicht toll. Es gibt ein paar brauchbare Sachen wie Gesichtserkennung am Flughafen oder Übersetzungssysteme. Letztere funktionieren, weil inzwischen so viele Bücher auf Deutsch und Englisch online stehen, dass der Computer die Korres­pondenz ­zwischen beiden Sprachen automatisch lernen kann.

Das nennt sich Deep Learning – Menschen trainieren die Programme mit großen Datenmengen.

Rojas: Ja. Es funktioniert allerdings nur zu einem gewissen Grad. Ich zeige dem Computer Millionen von Katzenbildern. Dann weiß er irgendwann, was eine Katze ist. Aber wenn ich ihn frage, wieso?, kann er es nicht erklären.

Woher kommen diese Daten?

Rojas: Von uns allen.

Dorn: Täglich.

"Die menschliche Urteilskraft ist durch nichts zu ersetzen"

Rojas: Wenn man auf Instagram Bilder hochlädt, landen die Daten bei Facebook. Damit können die ihre Gesichts­erkennungsprogramme verbessern. Oder Katzen­erkennungsprogramme. Wir generieren diese Daten – freiwillig und kostenlos für Google und Facebook.

Eine Google-KI hat unlängst schwarze Menschen als Gorillas bezeichnet. Eine andere KI hat Küche und Frauen verbunden. Lernen die Systeme nicht wertneutral?

Rojas: Nein. Bei Deep Learning gibt es nur Muster. Und daraus ergibt sich eine Entscheidung. Wenn in 90 ­Prozent der Küchenwerbung eine Frau zu sehen ist, dann ist klar, woher das kommt. In Big Data sind all unsere Wert­vorstellungen, Widersprüche und Vorurteile enthalten.

Dorn: Ich habe gehört, dass eins dieser sogenannten autonomen Systeme im militärischen Bereich, das Panzer gut erkannt hat, plötzlich versagte. Keiner wusste, warum. Dann fand man heraus, dass die Mehrheit der Bilder, mit denen das System trainiert worden war, Panzer unter blauem Himmel zeigte. Nun war der Himmel bedeckt, und das System ratlos.

Rojas: Das ist leider ein Märchen, so ein System war nie im Einsatz. Ein gravierendes Beispiel ist ein Unfall von Tesla, weil da ein echtes, kommerzielles System beteiligt war. Da blockierte ein weißer Lkw quergestellt die Autobahn. Die Kamera des Autos konnte die Wolken am Himmel nicht vom Laster unterscheiden, es bremste nicht.

Links vorne ein "FUmanoid", ein fußballspielender Roboter, daneben das Modell "AutoMiny"

Steffen Roth

Dorn: Die menschliche Urteilskraft ist durch nichts zu ersetzen. Der Mensch ist imstande, abzuwägen und zu einem Urteil zu kommen, zu argumentieren und seine Entscheidung zu begründen. Kann das einer der Unterschiede sein zwischen Künstlichen Intelligenzen und uns?

Rojas: Ja. Maschinen verfügen tatsächlich über keine tiefe Urteilskraft. Vor allem besitzen sie keine Intuition, kein Fingerspitzengefühl.

"Ich bin immer für Regulierung. Nur in diesem speziellen Fall..."

Dorn: Es geht doch noch um viel mehr: Künstliche Intelligenzen kennen keine Scham- und Schuldgefühle, kein Mitleid, kein Gewissen. An Ihren Forschungsbereich wird ja oft die Frage gestellt: Wer trägt die Verantwortung, wenn ein selbstfahrendes Auto in einer brenzligen Situation entscheidet, lieber das Rentnerehepaar als die Mutter samt Kind zu überfahren? Müssten wir nicht eigentlich fragen, was es bedeutet, wenn auf unseren Straßen demnächst Hunderttausende Gefährte unterwegs sind, denen es schlicht egal ist, wenn sie jemanden überfahren haben?

Rojas: Diese Frage höre ich immer wieder: Wer trägt die Verantwortung? Natürlich die Menschen, die das System bauen! Mein Vorschlag ist, im Vorfeld so gut zu arbeiten, dass solche Situationen gar nicht erst entstehen können. Mindest­abstand, reduzierte Geschwindigkeit, leichte Baustoffe – wenn wir das alles berücksichtigen, können wir hoffentlich Fahrzeugsysteme bauen, die keine schlimmen Kollisionen verursachen und letztlich sicherer sind als die Autos heute.

Sollte die KI international reguliert werden?

Dorn: Die Menschheit hat die Internationale Atom­energie-Organisation gegründet, als sie erkannt hat, welch gefährliche, potenziell die ganze Erde bedrohende Macht sie mit der Atomkraft entfesselt hat. Vermutlich ist es an der Zeit, darüber nachzudenken, ob wir nicht eine vergleichbare Einrichtung brauchen, die über die Entwicklung und den Einsatz von KI wacht.

Rojas: Ich bin immer für Regulierung, zum Beispiel von Gentechnologie und Waffen. Nur in diesem speziellen Fall sehe ich nicht auf Anhieb, wie man intelligente Algorithmen regulieren kann. Darüber muss man gründlich nachdenken – die Lösung ist nicht gerade trivial.

Und wir müssen uns wirklich keine Gedanken darüber machen, Herr Rojas, dass Roboter einmal klüger sein werden als die Menschen oder sich einst von uns emanzipieren?

Rojas: Auf jeden Fall nicht in diesem Jahrhundert! Ich glaube generell nicht, dass Roboter irgendwann die Herrschaft über uns übernehmen werden. Konrad Zuse, der erste Computerbauer in Deutschland, sagte einmal: Wenn die Computer zu frech werden, zieh den Stecker raus.