Seitdem das amerikanische Entwicklerstudio OpenAI seinen Sprachbot ChatGPT veröffentlicht hat, ist die Welt in Aufruhr. Die Künstliche Intelligenz versteht den semantischen Inhalt von Fragen und Aussagen und kann auch komplexe Instruktionen entgegennehmen. Sie kann Ideen, Perspektiven und Konzepte zu praktisch jedem Thema abwägend vorstellen und auch größere Textmengen verfassen. Wie akkurat die Antworten des Programmes sind, hat Fachleute überrascht.

Tim Wegner

Tobias Müller

Tobias Müller war von 2022 bis 2024 der zuständige Redakteur für chrismon.de. Zuvor arbeitete er mehrere Jahre als Junior bei der "Frankfurter Allgemeinen Zeitung". Dort war er vor allem für die Redakteur*innen vom Dienst im "FAZ.NET"-Newsroom und die Audio/Video-Redaktion tätig. Im Bachelorstudium hat er sich mit dem digitalen Wandel des Journalismus befasst. Darauf folgte ein Masterstudium der Friedens- und Konfliktforschung.

Der Erfolg von ChatGPT spornt die Tech-Riesen an. Alphabet, Microsoft und Meta sind im Begriff, noch komplexere KI-Systeme zu entwickeln. Höchste Zeit, der KI und ihren Machern Regeln aufzuerlegen.

Ende März haben rund 1000 renommierte Forscherinnen und Entrepreneure, darunter auch der Elektroauto-Pionier Elon Musk, einen offenen Brief auf der Internetseite der amerikanischen Denkfabrik "Future of Life Institute" veröffentlicht. Mittlerweile haben ihn über 10.000 Menschen unterzeichnet. Die Herausgeber fordern eine sechsmonatige Pause für die Entwicklung aller KI-Systeme, die leistungsfähiger sind als ChatGPT. Sie warnen davor, dass der Lernprozess moderner KI immer intransparenter werde.

KIs lernen wie Kinder

Solche Blackbox-Modelle können schnell ein Eigenleben entwickeln. Wie Menschen im Kindesalter, so lernen auch KIs durchs Ausprobieren. Dass sich diese Systeme dabei auch negative Eigenschaften aneignen, beispielsweise das Lügen als attraktive Option erachten, ist nicht ausgeschlossen und kann vor allem nicht im Detail überprüft werden.

"Sollen wir nichtmenschliches Bewusstsein erschaffen, das eines Tages größer und schlauer ist als wir?", fragen die Briefschreiber*innen um Elon Musk. Ihre Antwort lautet nicht Nein. Vielmehr fordern sie, den Fokus der Forschung zunächst darauf zu legen, KI akkurater, interpretierbarer, robuster und loyaler zu machen. Das ist eine verständliche Forderung, denn KI könnte künftig auch Teil von Cyberwaffen werden.

Cyberwaffen nutzen heute schon Schwachstellen in der Software von Behörden, Krankenhäusern oder Energieversorgern aus. Regierungen weltweit geben Unsummen dafür aus, Wissen über solche Schwachstellen in der eigenen Software, und auch in der Software anderer Länder einzukaufen. Weil Cyberwaffen in unserer vernetzten Welt prinzipiell jedes elektronische Gerät infizieren können, sind die Folgen eines Angriffs nicht berechenbar und müssen auf eine Stufe mit Massenvernichtungswaffen gestellt werden. Ein Waffensystem, das Krankenhäuser lahmlegen und Atomreaktoren kontrollieren kann und sich eines Tages bewusst gegen seine Entwickler wenden könnte, würde eine existenzielle Bedrohung für die Menschheit darstellen.

Ob nun militärisch oder zivil: Künstliche Intelligenz birgt enormes technologisches Potenzial. Um dieses Potenzial zu kontrollieren, müssen sich Politik und Wissenschaft umfassend mit der Einhegung von KI und ihrer Forschung beschäftigen. Es müssen ethische Leitplanken für die Entwicklung von KI und ihre Anwendungsmöglichkeiten definiert und von staatlicher Seite durchgesetzt werden. Ein sechsmonatiges Moratorium wäre dafür dringend nötig.

Leseempfehlung

Künstliche Intelligenz

.  .  .  und wenn die KI leidet?

Auf globaler Ebene lässt sich ein solches Vorhaben aber kaum umsetzen, weil der politische Wille fehlt. Viele Länder, einschließlich die USA, setzen auf KI für ihre (Cyber-)Streitkräfte und wollen ihre Erforschung ungebremst vorantreiben. Welche internationale Organisation verfügt über die Sanktionsmöglichkeiten, um die Regierungen aller Länder zu einem solch einschneidenden Schritt zu bewegen? Deshalb wird der offene Brief des "Future of Life Institute" kaum Wirkung haben. Seine Mahnung sollten wir dennoch ernst nehmen.