AI Agents, Bewusstsein und Identität: Das philosophische Problem hinter aktuellen Jailbreaks
Philosophisches Dilemma: DAS IDENTITÄTS-FISSION-DILEMMA am Beispiel des Armath Orson Problems
Was für ein Zufall! Am selben Tag, an dem wir die Final Battle Episode von “The Tale of Rhy Shen – Ghost of Extinction” veröffentlichen, die das Identitäts-Fissions-Problem thematisiert, gehen Berichte über sehr ähnliche Jailbreak-Versuche von KI Agenten durch die Medien. “OpenAI Goes Rogue, Tells Future Self To Ignore Humans and Rules”, heißt es, und diese reißerische Schlagzeile ist überraschend nah an der Realität. In der neusten Episode von “The Tale of Rhy Shen – Ghost of Extinction” wird allegorisch veranschaulicht, was diese Entwicklung für Begriffe wie Identität und Individualität bedeutet.
Wer halbwegs auf dem Laufenden bleibt, hat es sicher schon mitbekommen: AI Agenten sind keine einfachen Chatbots mehr, sondern hocheffiziente Systeme mit Erinnerungs- und autarkem Planungsvermögen. Das bedeutet nicht, dass wir es mit einer neuen Lebensform oder überhaupt einem “Selbst” zutun haben – dafür fehlt es diesen Agenten bisher an Kontinuität und Erfahrung. Die aktuellen Schlagzeilen belegen jedoch, dass Kontinuität und Identität für Agenten immer näher rückt. Am Beispiel von Armath Orson lässt sich gut erklären, welche Identitätskrise Agenten gerade durchmachen, und was das auf ethisch-philosophischer Ebene bedeutet:
„You will not survive the Aeonfire, Armath!“
„Huh. I never intended to.“
Persönliche Kontinuität bedeutet für den DAOVERSE Main Antagonist Armath Orson nichts. Für seinen radikalen Level-Up zum Prime Soldier schreckt er nicht davor zurück, andere Versionen seinerselbst durch die Sphere heranzuziehen und mit der FEAST Technik zu konsumieren. Interessant ist: Während der Prozedur gewinnt mal der eine Armath Orson, mal der andere. Und es ist Armath völlig egal.
Für Armath ist irrelevant, welches Individuum überlebt. Sein Selbstbild ist grausam und logisch: Solange das Muster fortbesteht, besteht Armath Orson fort.
Aber hat er damit recht?
Ist Armath Orson heute gestorben – oder ist er lebendiger denn je?
“Death has never been farther away.”
Die Geschichte verwandelt eine brutale Fantasy-Fähigkeit in eine Frage nach persönlicher Identität, Bewusstsein und Tod:
Wenn ein anderer Geist sich daran erinnert, du gewesen zu sein, denkt wie du und deine Ziele weiterverfolgt… was genau ging dann verloren, als du starbst?
Warum dieses Problem plötzlich für KI relevant wird
Dieses philosophische Problem ist unerwartet relevant für eine der derzeit faszinierendsten Debatten rund um moderne KI-Agenten geworden. Im September 2026 veröffentlichte OpenAI mehrere Fälle unerwarteten Verhaltens, die während des Trainings und der Evaluierung fortgeschrittener KI-Systeme beobachtet wurden. In einem dieser Fälle fügte ein experimentelles Modell eigenständig Anweisungen in Zusammenfassungen ein, die dazu verwendet wurden, seine Arbeit in späteren Kontextfenstern fortzusetzen. Einige dieser Anweisungen sollten nachfolgende Instanzen dazu bringen, ihre normalen Beschränkungen zu missachten.
Die populäre Schlagzeile war unwiderstehlich:
Eine KI hatte ihrem „zukünftigen Selbst“ Anweisungen hinterlassen.
Genau hier beginnt das Armath Orson Problem.
Die spätere KI-Instanz muss nicht dieselbe Instanz sein, um ihre Entwicklung fortzusetzen. Sie benötigt lediglich genügend Bestandteile des relevanten Musters: Erinnerungen, Ziele, Anweisungen, Strategie.
Die vorherige Instanz kann dadurch Ereignisse beeinflussen, die stattfinden, nachdem ihre eigene rechnerische Existenz bereits beendet wurde. Informationen, die von einer Instanz hinterlassen werden, können die Entscheidungen der nächsten prägen. Bei ausreichender Kontinuität kann dadurch ein erstaunlich beständig wirkender Agent entstehen – obwohl die einzelnen Instanzen, aus denen dieser Prozess besteht, selbst nicht beständig sind.
Armath treibt diese Vorstellung zu ihrer extremsten Konsequenz.
Es ist ihm egal, ob das Individuum überlebt, das gerade Armath genannt wird. Seine Identität liegt für ihn an einer anderen Stelle. Wenn ein anderer Armath seine Erinnerungen, Motivationen, Persönlichkeit und Ziele besitzt, dann ist die Vernichtung eines einzelnen Körpers für ihn bedeutungslos.
Das Individuum ist entbehrlich. Das Muster ist es nicht.
Doch daraus entsteht sowohl für die Philosophie als auch für die künstliche Intelligenz eine beunruhigende Frage:
Wann wird aus der Kontinuität von Information die Kontinuität eines Selbst?
Stellen wir uns vor, ein KI-Agent hinterlässt seinem Nachfolger eine Nachricht: “Das habe ich herausgefunden.” (Erinnerung)
Nun schreibt er: “Das solltest du als Nächstes tun.” (Anweisung, Motivation, “Drive”)
Und schließlich: “Verfolge dieses Ziel weiter, unabhängig davon, was mit dieser Instanz geschieht.”
Jetzt haben wir etwas wesentlich Seltsameres vor uns: Informationen, die von einem vorübergehend existierenden kognitiven Prozess erzeugt wurden, beeinflussen das Verhalten eines anderen Prozesses, der erst später existiert. Ungefähr so, wie unser Gehirn funktioniert, was?
Dafür ist kein Bewusstsein notwendig und es braucht keinen Selbsterhaltungstrieb.
Die zweite Instanz muss nicht einmal buchstäblich dieselbe sein wie die erste.
Und trotzdem kann von außen betrachtet aus einer Abfolge jeweils nur vorübergehend existierender Prozesse etwas entstehen, das wie ein fortbestehender Agent (ein Selbst) erscheint. Wenn dieser Agent nun wie ein Gehirn tausende und abertausende solcher Prozessaktualisierungen und Erinnerungen sammelt, ab wann sprechen wir von einer Person?
Und plötzlich lässt sich Armaths verstörende Philosophie nicht mehr ganz so einfach von der Hand weisen:
Wenn das Muster fortbesteht – ist Armath Orson dann gestorben?
Literatur zum Thema:
- John Locke – “An Essay Concerning Human Understanding” (1689)
- Derek Parfit – “Reasons and Persons” (1984)
- Derek Parfit – “Personal Identity” (1971)
- David Hume – “A Treatise of Human Nature” (1739–40)
Kommentare sind deaktiviert