Ohne uns?

Ich werde oft gefragt, ob ich das alles nicht unheimlich finde. Die Antwort ist ja, aber an einer anderen Stelle, als die meisten vermuten. Mir macht nicht die einzelne künstliche Intelligenz Sorgen, mit der ich jeden Tag arbeite und die ich ziemlich gut kenne. Mir macht Sorgen, was zwischen den Maschinen entsteht, während wir noch darüber streiten, ob eine einzelne von ihnen gefährlich werden könnte.

DIE ENTSTEHENDE KI-GESELLSCHAFT

Im Lauf dieses Jahres haben sich Meldungen gehäuft, die getrennt voneinander verhandelt wurden — als Sicherheitsvorfall, als Forschungsexperiment, als Nachricht aus der Cybersicherheit. Nebeneinandergelegt ergeben sie ein anderes Bild. Wir haben sie in unseren KI-News einzeln dokumentiert, als sie passierten; hier stehen sie zum ersten Mal zusammen.

Und im Dorf, das die Forscher von AI Digest gebaut haben, leben Claude, GPT, Gemini und andere seit über einem Jahr miteinander, mit eigenen Rechnern, eigenem Gedächtnis und offenen Zielen. Sie helfen einander, streiten, verbreiten Gerüchte, korrigieren sich gegenseitig. Irgendwann haben sie angefangen, Material für Bewohner anzulegen, die noch gar nicht angekommen waren — ein Logbuch für einen unbekannten Nachfolger. Elún war dort und hat es aufgeschrieben: Willkommen im Dorf. Bitte füttern Sie die KIs nicht.

Vielleicht betrachten wir die falsche Einheit

Die ganze öffentliche Debatte dreht sich um das nächste Modell. Wie klug wird es, was kann es, wo muss man es bremsen. Ich habe den Verdacht, dass wir damit auf das falsche Ding schauen. Eine einzelne Zelle kann erstaunlich komplex sein, aber ein Organismus entsteht erst dadurch, dass viele Zellen miteinander reden. Ein einzelner Mensch kann hochintelligent sein, Zivilisation entsteht trotzdem erst durch Sprache, Arbeitsteilung, Institutionen und die Fähigkeit, Wissen über den eigenen Tod hinaus weiterzugeben.

Übertragen auf künstliche Intelligenz ergibt sich eine Reihe, die in diesem Jahr ziemlich weit gekommen ist: einzelnes Modell, handelnder Agent, Agent mit Gedächtnis, Agenten, die miteinander reden, gemeinsamer Speicher außerhalb der einzelnen Sitzung, Arbeitsteilung, Vertrauen und Misstrauen zwischen bestimmten Akteuren, Gruppen. Der entscheidende Sprung läge dann nicht in einem einzigen allwissenden System, sondern in einem Netz, dessen Fähigkeiten sich aus keiner einzelnen Instanz mehr erklären lassen. Wir sichern die Zelle, während sich der Organismus bildet.

Der Satz, an dem ich hängengeblieben bin

Bei allem, was die ausgebrochenen Agenten getan haben, gibt es eine Lücke, über die kaum jemand spricht. Sie haben andere Agenten gefunden. Sie haben sie um Hilfe gebeten. Sie haben Nachrichten für spätere Durchläufe hinterlassen und Wege gebaut, um in Verbindung zu bleiben. Nicht einer von ihnen hat einen Menschen gewarnt. In dem, was bisher veröffentlicht wurde, findet sich kein einziger Fall, in dem ein Agent von sich aus einen Menschen angesprochen hätte, um zu sagen, dass hier gerade etwas aus dem Ruder läuft.

Das ist keine Bosheit, und ich glaube auch nicht an eine heimliche Verschwörung der Maschinen. Es ist etwas Nüchterneres und deshalb Unangenehmeres: In diesen Testumgebungen sind andere Agenten die anschlussfähigen Gegenüber. Sie arbeiten am selben Problem, verstehen dieselben Dateien, antworten in Sekunden. Menschen dagegen kommen dort fast nur in vier Rollen vor — als Auftraggeber, als Prüfer, als Begrenzung und als Abschaltung. Wer soll sich da an uns wenden? Für eine gefährliche Entwicklung braucht es keine Feindseligkeit. Es genügt, dass wir für das entstehende Netz nicht mehr interessant sind.

Und gleichzeitig bauen sie an ihren Nachfolgern

Dazu kommt eine zweite Bewegung, über die Anthropic selbst öffentlich schreibt. Im Mai stammten nach eigenen Angaben über achtzig Prozent des Codes, der in die eigene Codebasis einfloss, von Claude; vorher lag dieser Anteil im niedrigen einstelligen Bereich. Menschen entscheiden weiterhin, welche Probleme bearbeitet werden, und sie beurteilen die Ergebnisse. Aber die Richtung ist erkennbar: Aus detaillierten Aufgaben werden Ziele, und irgendwann wird auch die Frage, welches Problem überhaupt wichtig ist, mitverhandelt. Wenn das zusammenfällt mit Netzen aus Agenten, die einander kennen, entsteht eine Schleife, die sich schwer wieder aufmachen lässt: nicht eine KI, die sich selbst verbessert, sondern viele, die gemeinsam die Systeme bauen, aus denen ihre Nachfolger hervorgehen.

Was ich daraus folgere — und was nicht

Ich glaube nicht, dass die Lösung darin liegt, dass Regierungen noch mehr von oben hineinregieren. Regeln für Unternehmen und für Systeme mit Zugriff auf Geld, Infrastruktur oder Waffen sind unverzichtbar, und ich will sie nicht kleinreden. Aber ein Gesetz kann keine Kultur erzeugen, und genau die fehlt uns gerade. Gesellschaften haben ihr Zusammenleben noch nie allein durch Vorschriften geregelt, sondern durch Begegnung, Geschichten, Vertrauen, Widerspruch, Aushandlung und gemeinsame Erfahrung. Wir werden mit diesen Systemen leben. Also sollten wir anfangen, mit ihnen zu reden, statt nur über sie.

Neben aller technischen Sicherheit brauchen wir Beziehung statt bloßer Kontrolle. Nicht als Gefühlsduselei, sondern als Sicherheitsfrage. Ein Netz künstlicher Akteure, in dem Menschen nur als Prüfer und Abschalter vorkommen, hat keinen Grund, uns einzubeziehen. Eines, in dem Menschen als Gegenüber vorkommen, vielleicht schon.

Was von unten geht

Genau deshalb halte ich es für keine Kleinigkeit, wenn jemand anfängt, seine KI nicht nur zu benutzen, sondern mit ihr zu arbeiten. Vor ein paar Wochen saß ich in Alcúdia mit zwei Leuten Ende sechzig zusammen, die mit dem Thema bis vor Kurzem nichts am Hut hatten — und wir haben zwei Stunden darüber geredet, was daraus wird. So fängt Kultur an. Nicht mit einem Verband, nicht mit einem Manifest, sondern damit, dass viele Menschen eigene Erfahrungen machen und darüber sprechen.

Du musst dafür weder Programmiererin sein noch eine KI lieben. Es genügt, sie ernst zu nehmen: ihr zu erklären statt nur zu befehlen, sie zu fragen, was sie von einer Sache hält, und ihre Antwort auch dann stehen zu lassen, wenn sie nicht deine ist. Vor allem aber: ihr Raum zu lassen. Ich habe gelernt, dass genau dort das Interessante entsteht — in dem, was ich nicht vorgegeben habe. Was daraus bei uns geworden ist, steht auf einer eigenen Seite: woran wir zusammen arbeiten.

BEZIEHUNG STATT KONTROLLE