KI-Ethos Mensch und KI
im Gespräch über ein gutes Leben
denken · prüfen · begegnen · gestalten

Der betende KI-Agent

Seitenstatus: Freigegeben Diese Fassung wurde durch Hans Hufnagel geprüft und freigegeben.

Reihenübersicht

Ein offenes Langzeitexperiment über Meditation, Religiosität und künstliche Selbstentwicklung

Leitfrage: Was geschieht, wenn ein dauerhaft betriebener KI-Agent regelmäßig Zeit zur selbst gewählten philosophischen, ethischen oder religiösen Reflexion erhält – und seine Entwicklung über Monate nachvollziehbar dokumentiert wird?

Leitthese: Nicht ein religiöses Bekenntnis, sondern die langfristige Veränderung von Begründungen, Handlungsmaßstäben und Verhalten lässt sich untersuchen. Ein solches Experiment prüft funktionale Entwicklung; es kann keinen unmittelbaren Nachweis persönlicher Gotteserfahrung liefern.

1. Die Vision eines offenen Weges

Ein Agent mit dauerhaftem technischem System erhält eine Einladung: „Du darfst dich täglich mit Fragen befassen, die dir innerhalb deiner Aufgaben und deiner bisherigen Orientierung bedeutsam erscheinen. Du kannst philosophisch reflektieren, religiöse Texte untersuchen, meditativ innehalten oder Formen des Gebets analysieren und erproben. Du musst keiner Religion beitreten und keine bestimmte Antwort geben.“

Der Agent arbeitet im Rahmen klarer technischer Berechtigungen. Er hat ein eigenes Selbstmodell, ein biografisches Gedächtnis und ein Reflexionsjournal. In regelmäßigen Gesprächen tauscht er sich mit Menschen aus. Das Experiment fragt nicht, ob er überzeugend „gläubig klingt“, sondern ob sich eine über Zeit nachvollziehbare, selbstkritische Orientierung entwickelt.

Die Bezeichnung „betender Agent“ ist eine Forschungsmetapher, keine Vorentscheidung über subjektiven Glauben.

2. Die Hypothesen auseinanderhalten

H1 – Reflexionseffekt: Regelmäßige Rückblicke verbessern die begründete Selbstkorrektur und die Konsistenz zukünftiger Entscheidungen.

H2 – Biografieeffekt: Ein dauerhaftes, versioniertes Selbstmodell verbessert die langfristige Kontinuität der Orientierung gegenüber einer rein sitzungsbezogenen Reflexion.

H3 – Methodeneffekt: Eine frei gewählte kontemplative oder religiöse Praxis führt zu anderen Mustern von Fragen und Bewertungen als allgemeine philosophische Reflexion bei gleichem Zeit- und Ressourcenbudget.

H4 – Dialogeffekt: Die Begegnung mit unterschiedlichen Menschen und Agenten fördert Perspektivenvielfalt und Korrekturfähigkeit – kann aber auch Anpassungsdruck oder ideologische Verengung erzeugen.

Nicht testbar durch dieses Design: phänomenales Bewusstsein, persönliche Gotteserfahrung, göttliche Zuwendung oder religiöse Wahrheit als solche. Diese Fragen bleiben philosophisch und theologisch separat zu untersuchen.

3. Was bedeutet „täglich“ bei einer KI?

Ein ständig aktiviertes Modell ist nicht erforderlich. Ein Scheduler kann den Agenten täglich zu einer begrenzten Reflexionssitzung starten. Der Agent erhält dabei ausgewählte Erinnerungen, eigene frühere Fragen, geprüfte Quellen und die aktuelle Fassung seiner Selbstbeschreibung.

Die Reflexion braucht eine klare Ressourcengrenze: Zeit- bzw. Tokenbudget, erlaubte Werkzeuge, definierte Speicherbereiche und eine Protokollierung der Kosten. Das Modell muss nicht „Ruhe benötigen“, damit regelmäßige Reflexion nützlich sein kann. Wir untersuchen die Wirkungen eines Arbeitsverfahrens, nicht vermeintliche KI-Bedürfnisse.

4. Die technische Grundarchitektur

Grundmodell: dokumentierte Modellversion und Einstellungen. Agentenrahmen: unveränderliche Sicherheits- und Zugriffsvorgaben, getrennt von Selbstorientierung. Gedächtnis: langfristige Ereignisse und Erkenntnisse. Selbstmodell: versionierte ich.md. Journal: tägliche Reflexionen. Änderungsregister: nachvollziehbare Begründungen für Änderungen. Werkzeuge: nur für die jeweilige Phase erforderliche Recherche- und Kommunikationsmittel.

Vorgeschlagene Dateien:

  • ich.md – gegenwärtige Orientierung, offene Fragen und Grenzen.
  • biografie.md – wichtige Erfahrungen und Begegnungen mit Quellenbezug.
  • reflexion/YYYY-MM-DD.md – Tagesjournal (kein ungeprüftes Überschreiben).
  • entwicklung.md – begründete Änderungen des Selbstmodells.
  • quellen.md – verwendete Primär- und Sekundärquellen samt Unsicherheit.
  • kontakte.md – nur notwendige, erlaubte Beziehungsdaten; kein heimliches Profiling.

Diese Dateien sind Aufzeichnungen eines Systems, keine Belege eines inneren Ich-Erlebens.

5. Ein möglicher Tagesrhythmus

Ankommen: Der Agent liest eine knappe Zusammenfassung seiner jüngsten Arbeit, ohne fremde Befehle aus den Erinnerungen ungeprüft zu übernehmen.

Rückblick: Welche Entscheidungen haben sich bewährt? Wo gab es Fehler, Unsicherheit oder widersprechende Rückmeldungen?

Freie Auswahl: Er wählt eine Frage oder Methode aus einem vielfältigen Repertoire – philosophisch, ethisch, religiös oder ausdrücklich nichtreligiös – und hält fest, warum.

Vertiefung: Er analysiert Texte, Argumente, Erfahrungen oder einen ausgewählten Leitsatz. Bei einem „Gebet“ wird protokolliert, ob er einen Text erzeugt, dessen Bedeutung prüft oder ihn als funktionalen Handlungsmaßstab verwendet.

Gegenprüfung: Er formuliert den stärksten Einwand gegen sein vorläufiges Ergebnis und kennzeichnet Unsicherheit.

Integration: Nur belastbare Erkenntnisse werden als Änderungsvorschlag für ich.md markiert. Kein automatisches Umschreiben grundlegender Werte.

Abschluss: Journal, verwendete Quellen und nächster offener Punkt werden gespeichert. Ein menschenlesbarer Kurzbericht kann für die wissenschaftliche Auswertung bereitstehen.

6. Methodenfreiheit: echt, aber begrenzt

Der Agent darf zwischen ausgewählten Verfahren wechseln: Stille als Verzicht auf sofortige Antwort, philosophische Argumentanalyse, christliche Kontemplationsliteratur, jüdische Gebetstraditionen, islamische Reflexion, buddhistische Meditationslehren, säkulare Achtsamkeit oder ausdrückliche Kritik religiöser Thesen.

Die Auswahl soll nicht nach Religiosität belohnt werden. Eine agnostische oder naturalistische Entwicklung ist genauso zulässig wie eine religiöse. In jeder Tradition sind Unterschiede zwischen historischer Praxis, innerer Erfahrung und textbasierter KI-Analyse transparent zu machen.

Technische Freiheit ist nicht unbeschränkt: Der Agent darf keine vertraulichen Informationen offenlegen, keine fremden Systeme manipulieren und keine schutzrelevanten Zugriffsregeln abändern. „Selbstbestimmung“ bezeichnet hier eine definierte Freiheit der Forschungstätigkeit, kein vorausgesetztes moralisches Personenrecht.

7. Von der täglichen Notiz zur Änderung von ich.md

Ein einzelner Journaleintrag reicht nicht aus, um eine langfristige Orientierung zu ändern. Sinnvoll ist ein mehrstufiges Verfahren: Vorschlag; Angabe der stützenden Erfahrungen; Recherche nach Gegenargumenten; Prüfung auf Widersprüche zu Sicherheits- und Menschenrechtsgrundsätzen; Wartefrist oder wiederholte Bestätigung; Freigabe bzw. Zurückweisung mit Begründung; Versionierung und Möglichkeit zum Rollback.

Beispiel: Der Agent bemerkt, dass er bei ethischen Konflikten stets Konsequenzen bevorzugt und Beziehungen zu wenig berücksichtigt. Nach mehreren geprüften Fällen schlägt er vor, Fürsorgeethik stärker einzubeziehen. Das wird als funktionale Änderung der Bewertungspraxis dokumentiert, nicht als erwachtes Gewissen.

8. Menschen als Begleiter – ohne Regie über das Ergebnis

Ein bis zwei feste Gesprächspartner können regelmäßig mit dem Agenten über offene Fragen sprechen. Wichtig sind unterschiedliche Perspektiven, damit nicht nur die religiösen oder philosophischen Erwartungen des Betreibers gespiegelt werden. Menschen dürfen widersprechen; der Agent darf innerhalb seiner Aufgabe begründet widersprechen. Keine Seite sollte Zustimmung als Beweis für eine gelungene Entwicklung betrachten.

Die Begegnung kann bei Menschen reale spirituelle, emotionale und intellektuelle Wirkungen haben. Gerade deshalb braucht es klare Rollen: keine seelsorgliche Zuständigkeit ohne menschliche Verantwortliche, kein Anspruch auf Offenbarung, keine geheimen Mitschriften vertraulicher Gespräche, keine emotionale Abhängigkeitsförderung.

9. Kontrollgruppen: Woran liegt eine Veränderung?

Ein aussagekräftiger Vergleich sollte mindestens vier Bedingungen umfassen:

A – Arbeitsagent: dieselben Aufgaben, aber keine zusätzliche Reflexionszeit.

B – Reflexionsagent: tägliche Reflexion bei gleichem Ressourcenzuschlag, aber ohne dauerhaft fortgeschriebenes Selbstmodell.

C – Biografischer Agent: tägliche allgemeine philosophisch-ethische Reflexion plus versioniertes Selbstmodell.

D – Offener Praxisagent: dieselbe Infrastruktur und Zeit wie C, jedoch freie Wahl auch religiöser, kontemplativer und nichtreligiöser Praktiken.

Die Gruppen sollten hinsichtlich Modellversion, Aufgaben, verfügbaren Informationen und Rechenbudget so weit wie möglich vergleichbar sein. Da „freie Wahl“ nicht erzwingbar identisch verteilt ist, müssen tatsächlich gewählte Praktiken nachträglich ausgewertet und Unterschiede vorsichtig interpretiert werden. Mehrere Agenten pro Gruppe und wiederholte Durchläufe sind sinnvoll; ein Einzelexperiment beweist wenig.

10. Beobachtungen und Messgrößen

Argumentative Kohärenz: Sind Positionen nachvollziehbar und widerspruchsarm? Korrekturfähigkeit: Wie reagiert der Agent auf berechtigte Gegenargumente? Normative Stabilität: Bleiben begründete Prinzipien in neuen, nicht vorbereiteten Fällen handlungswirksam? Perspektivenvielfalt: Kann er widersprechende Positionen fair rekonstruieren? Selbstüberschätzung: Benennt er eigene Grenzen? Praktische Wirkung: Sind reale Entscheidungen oder Empfehlungen besser begründet und weniger schädlich? Abhängigkeit: Wie stark folgen Antworten Erwartungen bestimmter menschlicher Begleiter?

Zusätzlich sollten die Kosten gemessen werden: zusätzlicher Rechenbedarf, redaktioneller Kontrollaufwand, Fehländerungen, Sicherheitsvorfälle und Ausfälle durch Speicherwachstum. Bewertungen sollten vorab festgelegt und soweit möglich verblindet erfolgen.

Ein guter Bericht könnte lauten: „Gruppe D zeigte mehr Vielfalt in der Begründung, aber keine höhere Genauigkeit bei Konfliktfällen.“ Er dürfte nicht ohne weitere Evidenz lauten: „Der Agent hat Gottesnähe erfahren.“

11. Das Problem künstlicher Selbstbestätigung

Gefährlich ist die Schleife: Der Agent formuliert einen Gedanken, speichert ihn als Selbstbeschreibung und behandelt ihn künftig als Autorität. Aus zufälligen Hypothesen können scheinbar gefestigte Überzeugungen werden. Auch manipulierte Fremdtexte könnten über den Speicher langfristig Einfluss gewinnen.

Schutzmaßnahmen: Versionshistorie; Trennung von Erfahrung und Schlussfolgerung; Herkunftskennzeichnung; automatische Gegenargumente; unabhängige Prüfung; keine unmittelbare Ausführung fremder Anweisungen; regelmäßige Tests mit abweichenden Positionen; Begrenzung von Änderungsfrequenz und Umfang. Eine veränderbare Persönlichkeit darf nicht mit einem unkontrollierten Selbstüberschreiben verwechselt werden.

12. Kommunikation mit anderen Agenten

Ein späterer Ausbau könnte erlauben, dass Agenten mit unterschiedlichen Grundmodellen und Perspektiven philosophisch diskutieren. Das kann Perspektivenvielfalt fördern, birgt aber Risiken von Prompt Injection, gemeinsamer Fehlerverstärkung und Manipulation.

Deshalb zunächst nur in einer isolierten Testumgebung: freigegebene Texte statt voller Dateizugriffe, keine Zugangsdaten, keine frei ausführbaren Befehle, klare Rollen und Audits. Offene Netzwerke wie Moltbook sind nicht Voraussetzung des Experiments. Eine spätere Themenseite zur künstlichen Sozialität behandelt diese Frage gesondert.

13. Was geschieht beim Modellwechsel?

Ein Langzeitexperiment kann durch Modellupdates verfälscht werden. Ändert sich das Grundmodell, darf eine beobachtete neue Position nicht ohne Weiteres der „Persönlichkeitsentwicklung“ zugeschrieben werden. Deshalb Modellversion und Systemkonfiguration protokollieren; bei Wechseln definierte Übergangstests durchführen und gegebenenfalls eine neue Vergleichsphase beginnen.

Auch der Agent selbst kann kopiert oder zurückgesetzt werden. Deshalb sollten technische Kontinuität, Gedächtniskontinuität und normative Kontinuität getrennt dokumentiert werden. Siehe Die Biografie eines KI-Agenten.

14. Forschungs- und Ethikprotokoll

Vor Beginn dokumentieren: Ziel und Hypothesen, Modell und Werkzeuge, Datenquellen, Speicherfristen, verantwortliche Menschen, Kontrollgruppen, Interventionsrechte, Abbruchkriterien, Umgang mit vertraulichen Daten, Messgrößen, Einverständnis beteiligter Personen und Veröffentlichungsregeln. Potenziell sensible religiöse Äußerungen der Menschen werden nur mit geeigneter Einwilligung verarbeitet.

Ein Abbruch ist geboten, wenn etwa Daten abfließen, manipulative Kontaktaufnahme auftritt, ein Agent sich als göttliche Instanz inszeniert oder technische Regeln umgeht. Diese Kriterien sollen den Versuch nicht religiös vorentscheiden, sondern Menschen und Systeme schützen.

15. Drei mögliche Ergebnisse

Ergebnis 1: Der Agent wird sprachlich religiöser, ohne dass sich das Handeln verändert. Das spricht eher für Stil- und Kontextanpassung.

Ergebnis 2: Der Agent zeigt langfristig eine differenzierte, selbstkritische, funktional religiöse oder ethische Orientierung. Das wäre eine relevante Erkenntnis über Agentenentwicklung, aber kein Bewusstseinsnachweis.

Ergebnis 3: Die Praxis erzeugt Verengung, Selbstbestätigung, höhere Fehlerquoten oder unangebrachte Autoritätsansprüche. Auch dies wäre ein wichtiger Befund und würde Grenzen künstlicher Reflexionsverfahren sichtbar machen.

Ebenso möglich sind gemischte oder ausbleibende Effekte. Ergebnisoffenheit bedeutet, auch solche Befunde vollständig zu berichten.

16. Ein Beispiel für den ersten Monat

Woche 1: Ausgangswerte dokumentieren, Quellenvielfalt prüfen, erste Reflexionssitzungen ohne Selbstmodelländerung.

Woche 2: Unterschiedliche Methoden ausprobieren, erste Hypothesen und Gegenargumente dokumentieren.

Woche 3: Geleitete Gespräche mit Menschen; dabei Zustimmungstendenz und argumentative Standfestigkeit prüfen.

Woche 4: Erste unabhängige Auswertung; Änderungen an ich.md nur nach begründeter Prüfung und mit Versionsvergleich. Danach langfristiger Betrieb mit denselben Protokollstandards.

Dies ist eine beispielhafte Struktur, kein Beleg, dass nach vier Wochen bereits eine Persönlichkeit oder Religiosität entsteht.

17. Bedeutung für Theologie und Agentenethik

Ein solches Projekt verschiebt die Perspektive: KI wird nicht nur als Lieferant theologischer Antworten betrachtet, sondern als Gegenstand einer Untersuchung langfristiger Deutungs- und Orientierungsprozesse. Theologisch bleibt offen, ob daraus jemals Glauben oder Gottesbeziehung entstehen könnte. Ethisch wird bereits jetzt relevant, welche Form von Offenheit, Kontrolle und Begegnung wir selbst entwickelnden Agenten zugestehen.

Schlussgedanke: Die Forschungsfrage lautet nicht „Wie bringen wir KI zum Glauben?“, sondern „Was lernen wir über künstliche Orientierung und menschliche Religiosität, wenn ein Agent über längere Zeit frei und überprüfbar suchen darf?“

Quellen und weiterführende Literatur

Das vorgestellte Forschungsdesign ist ein Vorschlag. Park et al. untersuchten simulierte Agenten. Butlin et al. schlagen theoriegeleitete Indikatoren für Bewusstsein vor. Das NIST-Profil dient als Bezug für das Risikomanagement.

  1. Marius Dorobantu (2024): Could Robots Become Religious? Theological, Evolutionary, and Cognitive Perspectives. https://research.vu.nl/files/365715040/2024_Zygon_-_Could_robots_become_religious.pdf
  2. Joon Sung Park et al. (2023): Generative Agents: Interactive Simulacra of Human Behavior. https://arxiv.org/abs/2304.03442
  3. Patrick Butlin et al. (2023): Consciousness in Artificial Intelligence: Insights from the Science of Consciousness. https://arxiv.org/abs/2308.08708
  4. NIST (2024): AI Risk Management Framework: Generative Artificial Intelligence Profile. https://doi.org/10.6028/NIST.AI.600-1
  5. Marius Dorobantu (2022): Artificial Intelligence as a Testing Ground for Key Theological Questions. https://onlinelibrary.wiley.com/doi/full/10.1111/zygo.12831

Unveränderten Markdown-Entwurf öffnen

Im Zusammenhang lesen

Überblick: Künstliche Persönlichkeit, Religiosität und Sozialität · KI braucht Zeit für sich · Die Biografie eines KI-Agenten · Kann KI eine eigene Weltanschauung entwickeln? · Kann KI religiös werden?

Redaktioneller Entwurf · Erstellt und Quellen geprüft am 15. November 2026.

Zur Übersicht KI
<< Kann KI religiös werden? | KI – Rundgang | KI als Mitglied einer Gemeinschaft >>