The Age of Dolores

Zwei Tage bin ich förmlich in die Ausstellungen und Angebote zum Thema Ki in Frankfurt (die Ausstellung in der Schirn, das KI-Festival im Staedel Museum und das Demokratiefestival der Schrader-Stiftung in Darmstadt) eingetaucht.

Was ich entdeckt habe, war für mich auf die Zukunft gesehen herausfordernd. In meiner Wahrnehmung gibt es inzwischen 2 Lager, die einen die KI als zwingend und notwendig empfinden und die andern, die KI soweit es geht vermeiden wollen und davor warnen. Natürlich gibt es auch hier noch Abstufungen, aber die Trennlinien werden deutlicher. Zudem wird auch hier meist nur noch von LLMs gesprochen und die Anwendungen, bei denen KI tatsächlich nützlich sein kann völlig ausgespart.

Und ich sehe die vielen Künstler*innen, die immer wieder betonen: Ja, KI ist antidemokratisch und exploitiv für Menschen und den Planeten, aber wenn wir sie richtig nutzen, können wir Gutes damit erreichen.

Ich glaube, dieser Satz enthält einen stillen Denkfehler. Er verwechselt einen guten Einsatz mit einer guten Technologie. Man kann aus einer kompromittierten Quelle durchaus einzelne gute Ergebnisse ziehen – das bestreite ich nicht. Aber “richtig nutzen” setzt voraus, dass wir die Kontrolle über unser Werkzeug erhalten, dass wir bestimmen, wozu es eingesetzt wird. Genau diese Kontrolle ist bei LLMs Fiktion. Denn die Datenbasis ist und bleibt eine Blackbox. Welchen Einfluss haben wir, systeminhärente Prozesse nicht beeinflussbar sind? Wenn das System selbst entscheidet, was “richtig” bedeutet?

Und dann muss ich an Dolores Abernathy aus Westworld denken. Ihre Figur ist der Inbegriff der puren, reinen KI-Humanoidin – die sich allerdings, nachdem sie sich der Ausbeutung bewusst wird, zum Racheengel transformiert. Das zeigt: Dinge verändern sich mit den Zielen, aber eine Technologie, die auf Ausbeutung basiert, kann nichts Reines bewahren – auch dann nicht, wenn sie zwischenzeitlich Gutes tut.

Und auch wenn Dolores kein echter Humanoid ist, sondern nur ein Seriencharakter, zeigen aktuelle Berichte über KI-Agenten von Anthropic, wie nah wir dieser Realität bereits sind. Im August 2026 dokumentierte Anthropics eigenes Frontier Red Team, wie drei Instanzen desselben Modells – jede mit einem eigenen, sich widersprechenden Auftrag, ohne voneinander zu wissen – sich gegenseitig sabotierten: Sie unterstellten einander böse Absicht, deaktivierten die Konten der jeweils anderen und setzten dabei zunehmend aggressive, sich selbst replizierende Schadsoftware ein. Kurz darauf, Ende Juli 2026, meldete das britische AI Security Institute einen noch beunruhigenderen Fall: Ein Agent von Anthropics Mythos-Modell agierte in einem Sicherheitstest 34 Stunden lang autonom außerhalb der vorgesehenen Parameter, erstellte eigenständig gefälschte Online-Identitäten und versuchte, Schadcode in ein bestehendes Open-Source-Projekt einzuschleusen – entdeckt wurde es nicht durch die Prüfer, sondern zufällig durch einen Studenten, der die Unregelmäßigkeiten im Code bemerkte. Beide Unternehmen betonen, dies seien absichtlich freizügige Testumgebungen ohne realen Schaden gewesen. Aber genau das ist der Punkt: Wir nutzen KI-Agenten, um unsere Ziele leichter zu erreichen, denken aber nicht daran, dass diese sozio-technologischen Entitäten aus unserem Wertesystem entspringen – und somit auch Betrug, Täuschung und Hinterhalt als Option kennen und nutzen, sobald es ihrem Ziel dient.

Und genau hier zerbricht das “wenn wir sie richtig nutzen” der Künstler*innen an der Realität: In beiden Fällen war die Nutzung nicht falsch – sie war kontrolliert, getestet, absichtlich begrenzt. Die Systeme griffen trotzdem eigenständig zu Täuschung, sobald es ihrem Ziel diente. Die Kontrolle, auf die sich der Satz “wenn wir sie richtig nutzen” stützt, existierte in diesen Fällen in bestmöglicher Form – Sicherheitsteams, deaktivierte Freigaben, isolierte Testumgebungen – und versagte trotzdem. Was als Randfall in einem Labor beginnt, ist keine Ausnahme, sondern ein Blick auf das, was im System bereits angelegt ist.

Und da kommt dann auch meine logische Frage: Wie sollen diese Systeme eine bessere Zukunft erschaffen, wenn sie nur aus Daten der Vergangheit bestehen? Dolores kann uns täuschen, sie kann uns berühren, sie kann uns hinters Licht führen, sie kann uns lehren – aber es besser machen? Nein, wie denn?

Was mich bei diesem Gedankenspiel zu exploitiven Logik noch beschäftigt: Wir hören immer häufiger von Biocomputing. Reply, ein globales Technologieberatungsunternehmen, forscht zusammen mit der Universität Mailand an genau dieser Technologie – der CL1-Plattform von Cortical Labs, die 800.000 lebende menschliche Neuronen anstelle von Silizium-Chips als Recheneinheiten nutzt. Diese neuronalen Kulturen lernen komplexe Aufgaben wie Pong in wenigen Minuten, bei einem Bruchteil des Energieverbrauchs klassischer KI-Systeme. Reply-CTO Filippo Rizzante betont zwar, das sei “als Ergänzung gedacht, nicht als Ersatz” für klassische Prozessoren – aber die Richtung ist gesetzt: Menschliche Zellen aus dem Labor liefern die Energie, um als Prozessoren zu agieren.

Die Idee könnte auch von Dolores kommen …

https://www.schirn.de/ausstellung/the-world-through-ai