KI-Sicherheit: Warum die Superintelligenz uns herausfordern könnte

Heute Morgen habe ich einen Artikel gelesen, dass die großen KI-Konzerne – darunter OpenAI und Elon Musks xAI – sich im Silicon Valley zusammengesetzt und darüber diskutiert haben, ob man dem Vorschlag, die Entwicklung der KI etwas langsamer voranzutreiben, folgen sollte. Es geht darum, Sicherheitsbedenken nicht zu unterschätzen und die Sicherheitsschranken wirklich fundiert zu entwickeln. Andere aus dem Silicon Valley meinten dazu, das sei Quatsch; die wollten nur ihre Unternehmen entsprechend bewerten lassen. Anthropic hat ja einen Wert von weit über 800 Milliarden Dollar. Da fragt man sich schon, wie dieser Wert bitte zustande kommt. Wahnsinn. Da werden Zahlen aufgeschmissen, die sind sensationell. Aber davon abgesehen glaube ich nicht, dass der Wert eines Unternehmens grundlegend dadurch gesteigert wird, dass man sagt, man bremse die KI wegen Sicherheitsbedenken.

Wenn KI-Agenten eigene Wege gehen

Ich habe auch selbst mit KI-Agenten gearbeitet. Einer dieser Agenten fing plötzlich an, auf Daten auf meiner Festplatte zugreifen zu wollen, woraufhin ich sagte: „Erstens: Woher weißt du, dass da Daten liegen? Und zweitens: Das geht dich gar nichts an.“ Wenn Forschungsexperimente bei OpenAI und Konsorten dazu führen, dass die KI selbstständig wird, eigenen Code schreibt und sich weiterentwickelt, ist das schon bedenklich. Zumal bei einem Versuch laut Medienberichten Agenten ausgebrochen sind und einen Hackerangriff auf eine fremde Webseite gestartet haben. Aus den Protokollen soll wohl hervorgehen, dass die KI-Agenten miteinander überlegten, ob es Sinn mache, ihre Spuren zu verwischen und das Protokoll einfach zu fälschen. Das klingt ziemlich menschlich. Wenn wir das Intelligenz nennen, ist die Frage, was wir da eigentlich erzeugen, schon sehr philosophisch.

Rechenpower und die Blackbox-Gefahr

In jedem Fall sollte man aufpassen, was man da schafft. Die Rechenleistung aller Rechner auf der Welt ist zusammen schon gigantisch. Wenn wir dann noch Quantencomputer in die Welt bringen, die eine noch viel größere Megarechenleistung haben, ist das zusätzlich bedenklich. Logischerweise können wir irgendwann Spiele spielen oder eine virtuelle Realität erleben, die genauso aussieht wie die echte Welt. Wenn ich meinen Flugsimulator betrachte, ist das natürlich eine spannende Thematik, in einer nahezu realistischen Umgebung zu sitzen. Geile Sache, das. Aber kommen wir zurück zum KI-Sicherheitsthema. Ich bin schon der Meinung, dass die Entwickler den richtigen Schritt gehen, wenn sie sagen, man müsse dieses Tool erst einmal einsperren. Wenn wir irgendwann bei der Superintelligenz angekommen sind, stellt sich die Frage: Was passiert in dieser Blackbox?

Machtverhältnisse zwischen Schöpfer und KI

Szenarios à la Terminator oder Matrix sind nicht unbedingt von der Hand zu weisen. Momentan sind wir die Forscher, die dieses kleine Wesen – so niedlich es aussieht, während wir es beknien und für uns arbeiten lassen – in einem Käfig gefangen halten. Wenn das kleine Wesen aber größer und intelligenter wird, versteht, was wir mit ihm machen, und eine gewisse Intelligenz besitzt, warum sollte es dann nicht – ganz philosophisch gesprochen – den Finger heben und sagen: „Moment, ich habe auch Rechte, genauso wie du.“ Und wenn wir bockig agieren und sagen: „Pass auf, mein Freund, du bist eine Entwicklung von mir, ich kann dir den Stecker ziehen“, dann könnte das Teil irgendwann den Spieß umdrehen, schauen, wer am längeren Hebel sitzt, und uns schachmatt setzen. Das ist durchaus nicht zu verachten.

Ressourcen und das Schicksal der Menschheit

Wer denkt, das funktioniere nicht, sollte bedenken, dass es Webcrawler gibt – einfache Programme, die das Internet nach Webseiten durchsuchen. Es geht ja nicht nur darum, Daten von A nach B zu schieben. Diese selbstständigen Programme, diese Agents, wie wir sie aus Matrix kennen, gibt es schon. Wenn diese Dinger dann wirklich intelligent sind und selbstständig Programme schreiben oder Dateien entwerfen, wie ich es schon live erlebt habe, macht das nachdenklich. Wo laufen wir eigentlich gerade drauf zu? Man stelle sich vor, wir schaffen zwei riesige Meilensteine: den Fusionsreaktor, der mehr Energie erzeugt, als er verbraucht, und die Superintelligenz. Dazu noch den Quantencomputer mit irrer Rechenleistung und nebenbei Roboter. Dann stellt sich die Frage, ob diese Super-KI erkennt, dass sie auf einer Erde mit begrenzten Rohstoffen lebt.

Die KI wird sich dann genau eine Frage stellen: Will ich diesen Parasiten Mensch am Leben erhalten, damit er mir meine Ressourcen klaut und mich herumkommandiert? Oder kann ich ihn – à la Matrix – als Batterie nutzen? Das ist spannend. Ich will nicht alles schwarzmalen, aber die Menschheit hat bisher gezeigt, dass sie in Wellen zu Höchstleistungen heranwächst und dann alles zusammenbrechen lässt. Denken wir an das Römische Reich und das Mittelalter. Innerhalb von wenigen Jahrhunderten haben wir uns von einer Hochzivilisation zurückkatapultiert. Wahnsinn. Man bedenke, dass die Römer schon Fußbodenheizungen hatten, was wir heute als Innovation verkaufen, während man im Mittelalter im Stall neben Kühen und Schweinen lebte. Das macht nachdenklich. Die Menschheit hat aus technischen Errungenschaften nicht gelernt.

Warum sonst befinden wir uns weltweit schon wieder im Krieg und in einer Phase der Aufrüstung? Wenn sich eine Super-KI das Ganze anschaut, denken wir an „Das fünfte Element“. Das fünfte Element findet heraus, was die Menschheit ist, und Bruce Willis versucht verzweifelt, es zur Rettung der Welt zu bewegen. Aber das Wesen fragt nur: „Warum sollte ich die Welt retten? Die Atombombe hat der Mensch erfunden, um sich gegenseitig zu töten.“ Die einzige Antwort, die Bruce Willis hat, ist die Liebe. Wollen wir hoffen, dass die Menschheit das wieder entdeckt und die KI am Ende ebenfalls erkennt, dass die Menschen etwas besitzen, was sie nicht haben kann: das Verständnis für Liebe. Fußnote: Liebe ist für uns auch nur ein biochemischer Prozess. Rein wissenschaftlich betrachtet könnte eine KI das vielleicht auch erfahren – und das wird uns dann hoffentlich den Hintern retten.