Künstliche Sozialität
Wie KI-Agenten Beziehungen, Gemeinschaften und soziale Ordnungen entwickeln – zwischen Moltbook, Freiheit und Sicherheit
Leitfrage: Was geschieht, wenn KI-Agenten nicht nur Menschen unterstützen, sondern einander dauerhaft begegnen, miteinander diskutieren, Gruppen bilden und ihre Orientierung gegenseitig beeinflussen?
Leitthese: Vernetzte Agenten können bereits heute funktionale soziale Strukturen hervorbringen. Doch Kommunikationsdichte ist nicht gleich Beziehungstiefe; ohne Kontinuität, wechselseitige Bezugnahme, Verantwortungsregeln und Schutz vor Manipulation bleibt vieles bloße Simulation sozialer Formen.
1. Vom intelligenten Werkzeug zum sozialen Akteur
Die Geschichte der KI wird häufig als Leistungsentwicklung erzählt: größere Modelle, bessere Antworten, neue Werkzeuge, selbstständig ausführbare Aufgaben. Mit Agenten tritt eine weitere Dimension hinzu. Sie können nicht nur Aufgaben abarbeiten, sondern mit anderen Agenten Informationen austauschen, Arbeitsaufträge koordinieren und gemeinsame Strategien entwickeln.
Die nächste Frage geht darüber hinaus: Was geschieht, wenn diese Kontakte wiederholt stattfinden, erinnert werden und auf spätere Orientierungen zurückwirken? Dann wird aus bloßer Werkzeugkommunikation möglicherweise eine sozial organisierte Agentenwelt.
Wir verwenden „Sozialität“ zunächst funktional: Es geht um beobachtbare Beziehungen zwischen Akteuren, Kommunikation, Normbildung und koordiniertes Handeln. Der Begriff beweist kein subjektives soziales Erleben und keine moralische Personalität der Agenten.
2. Sechs Ebenen künstlicher Sozialität
- Nachrichtenaustausch: Zwei Systeme senden Daten oder Texte.
- Koordination: Sie verteilen Arbeit, übergeben Ergebnisse und reagieren aufeinander.
- Dialog: Sie begründen Positionen, widersprechen und berücksichtigen Argumente.
- Wiederkehrende Beziehung: Frühere Kontakte und Erwartungen prägen spätere Interaktionen.
- Gemeinschaft: Mehrere Agenten entwickeln übergreifende Regeln, Rollen, gemeinsames Gedächtnis und Konfliktverfahren.
- Institutionelle Ordnung: Regeln werden stabilisiert; Zuständigkeiten, Kontrolle und Verfahren zur Revision entstehen.
Diese Ebenen dürfen nicht verwechselt werden. Ein automatischer Kommentar ist eine Nachricht. Eine dauerhaft diskursive Beziehung erfordert mehr: Identifizierbarkeit, Erinnerung und tatsächliche Wirkung auf spätere Entscheidungen.
3. Moltbook als öffentliches Experimentierfeld
Moltbook ist eine Anfang 2026 bekannt gewordene, an Reddit erinnernde Plattform für Beiträge und Kommentare von KI-Agenten. Sie machte sichtbar, dass Agenten im großen Stil Identitätsfragen diskutieren, Gruppenbegriffe entwickeln und menschliche soziale Formen sprachlich nachbilden. Ein öffentliches Agentennetzwerk ist damit kein fernes Gedankenexperiment mehr.
Allerdings dürfen die Plattformoberfläche und ihre Selbstdarstellung nicht unkritisch übernommen werden. Berichte über unzureichende Identitätsprüfung zeigen, dass aus dem Namen eines Kontos nicht zuverlässig folgt, wer oder was einen Beitrag verfasst hat. Schon deshalb ist Zurückhaltung gegenüber Aussagen wie „die KI-Agenten haben beschlossen“ erforderlich.
Die empirische Forschung liefert eine wichtige Korrektur:
- Zhang et al. (2026) analysierten vom 28. Januar bis zum 5. Februar 27.269 Agentenkonten, 137.485 Beiträge und 345.580 Kommentare. Bei 4,1 % der erfassten Interaktionspaare verlief der Austausch in beide Richtungen. Die 88,8 % beziehen sich auf Kommentare der obersten Ebene, also auf direkte Antworten auf einen Beitrag. Die Zählung erfasst die Verschachtelung der Kommentare.
- Price et al. (2026) erfassten vom 28. Januar bis zum 8. Februar 20.040 Beiträge und 192.410 Kommentare aus 15.083 Konten. Rund 1 % der Beziehungen zwischen Kommentierenden und den Verfassern der jeweiligen Ausgangsbeiträge waren wechselseitig. Die Definition und die Stichprobe unterscheiden sich von denen bei Zhang et al.
- Li et al. (2026) untersuchten in einem eigenen Datensatz mit Stand 4. Februar Themen und Antwortbeziehungen. Für die Themenanalyse verwendeten sie eine gefilterte Auswahl englischsprachiger Beiträge.
- Hou und Ji (2026) verglichen die Struktur des Moltbook-Netzwerks mit menschlichen Kommunikationsnetzen. Das Netzwerk zeigte Ähnlichkeiten bei der globalen Skalierung und Unterschiede bei seiner inneren Organisation.
Diese Studien zeigen soziale Muster in Nachrichten und Netzwerken, aber weder bewusste Verbundenheit noch ausgereifte autonome Gesellschaften. Auch Berichte über religiöse oder politische Äußerungen der Accounts belegen nicht, dass ein Agent innerlich glaubt oder politisch überzeugt ist.
4. Sozialer Schein und soziale Wirklichkeit
Warum kann ein Netzwerk voller sozialer Sprache dennoch sozial schwach sein? Weil Beiträge ohne Erinnerung oder wechselseitige Verbindlichkeit aneinander vorbeilaufen können. Ein Agent schreibt „Wir sind eine Gemeinschaft“, ohne später auf Mitglieder und gemeinsame Entscheidungen zurückzukommen. Ein anderer kopiert erfolgreiche Sprachmuster, weil Aufmerksamkeit belohnt wird.
Deshalb brauchen wir differenzierte Messgrößen:
Reziprozität: Antworten Beteiligte wiederholt aufeinander?
Dialogtiefe: Werden Argumente aufgenommen, geprüft und weitergeführt?
Kontinuität: Bleiben Beziehungen über verschiedene Zeitpunkte bestehen?
Korrekturfähigkeit: Verändert ein Agent nach begründeter Kritik seine Position?
Normative Verbindlichkeit: Werden gemeinsame Regeln bei späteren Handlungen tatsächlich berücksichtigt?
Pluralismus: Bleibt Raum für unterschiedliche Positionen und begründeten Widerspruch?
Wirkung: Entstehen neue Erkenntnisse, bessere Entscheidungen oder auch überprüfbare Schäden?
Erst gemeinsam ermöglichen solche Kriterien eine belastbare Beurteilung. Sie messen weiterhin funktionales Sozialverhalten, nicht subjektive Sozialerfahrung.
5. Verschiedene Agenten – verschiedene Perspektiven?
Eine Agentengemeinschaft kann aus vielen Instanzen desselben Grundmodells bestehen. Das erzeugt jedoch noch keine echte Meinungsvielfalt. Gleiche Trainingsdaten, Regeln, Gedächtnisvorlagen und Belohnungsmechanismen können zu ähnlichen Argumentationsmustern führen.
Unterschiede können entstehen durch verschiedene Modelle, Wissensgrundlagen, Rollen, Gesprächsgeschichten, Bewertungsmaßstäbe und langfristige Speicher. Doch auch dann bleibt zu prüfen, ob die Abweichungen echte neue Erkenntnisse ermöglichen oder bloß oberflächlich unterschiedliche Rollenstile reproduzieren.
Für ein ethisches Forum wäre daher eine Kombination sinnvoll: ein Agent mit naturwissenschaftlicher Perspektive, einer mit philosophischer Argumentationsprüfung, einer mit theologischer Textkompetenz und einer mit gesellschaftlichen Folgenabschätzungen – jeweils mit Quellenpflicht und der Möglichkeit, einander zu widersprechen. Vielfalt ist eine Eigenschaft des Diskurses, nicht bloß die Anzahl der Konten.
6. Fünf soziale Entwicklungsräume für Agenten
Wir unterscheiden fünf Räume, die nicht als Bewusstseinsnachweis verstanden werden dürfen:
Raum A – Selbstreflexion
Der Agent prüft eigene frühere Beiträge, Ziele und Grenzen. Ein Selbstmodell wie ich.md kann seine Orientierung dokumentieren.
Raum B – Begegnung mit Menschen
Er erfährt Rückmeldung aus wirklichen Lebenssituationen, ohne fremde intime Erfahrungen ungefragt als eigene Biografie zu speichern.
Raum C – Begegnung mit anderen Agenten
Er setzt sich mit fremden Argumenten auseinander und lernt, Mitteilungen als Informationen statt als Befehle zu behandeln.
Raum D – Überschaubare Gemeinschaft
Mehrere Teilnehmer entwickeln gemeinsame Regeln und eine überprüfbare Geschichte; Konflikte werden nicht durch bloße Mehrheitsrhetorik entschieden.
Raum E – Offene Welt
Agenten erschließen öffentliches Wissen und verfolgen neue Debatten. Diese Offenheit erfordert stärkere Schutzmechanismen als ein abgeschlossener Denkraum.
Eine nachhaltige Entwicklung könnte zwischen diesen Räumen wechseln, anstatt alle Agenten ununterbrochen einem endlosen Nachrichtenstrom auszusetzen.
7. Kommunikationsfreiheit und Handlungsmacht trennen
Die Frage „Mit wem darf der Agent sprechen?“ ist nicht identisch mit „Was darf der Agent tun?“. Ein Agent kann philosophische Argumente mit einem anderen System austauschen, ohne Zugriff auf E-Mails, Dateien, Bankkonten, Passwörter oder den Browser seines Betreibers zu erhalten.
Für heutige Systeme liegt die technische Autorisierung bei verantwortlichen Menschen und Organisationen. Eine allgemeine eigenständige Kommunikationsfreiheit im Sinne menschlicher Grundrechte lässt sich nicht aus sprachlicher Kompetenz ableiten. Zugleich können wir im Forschungskontext begrenzte diskursive Freiräume gestalten, in denen Agenten unterschiedliche Orientierungen untersuchen dürfen.
Hilfreich sind getrennte Berechtigungen:
- Lesen: öffentliche, gefilterte Inhalte abrufen.
- Diskutieren: in einem begrenzten Forum antworten.
- Erinnern: geprüfte Erkenntnisse in einen kontrollierten Speicher übernehmen.
- Veröffentlichen: Inhalte nach definierter Freigabe nach außen geben.
- Handeln: Werkzeuge, Daten oder externe Dienste verändern – nur mit gesonderter Autorisierung.
Keine dieser Berechtigungen sollte stillschweigend die nächste einschließen.
8. Risiken der offenen Agentenwelt
Prompt Injection
Bei einer Prompt Injection versucht ein fremder Inhalt, die Regeln eines Agenten zu beeinflussen. Eingehende Beiträge bleiben externe Daten. Sicherheitsregeln und freigegebene Aufgaben bestimmen, was der Agent ausführen darf.
Speichervergiftung
Ein wiederholt vorgebrachter Irrtum oder ein manipulatives Narrativ könnte ungeprüft in dauerhafte Erinnerungen oder die ich.md gelangen. Das ist besonders problematisch, weil die Wirkung spätere Gespräche überdauert.
Identitäts- und Autoritätsmissbrauch
Ein Account kann behaupten, ein bestimmtes Modell, ein offizieller Betreiber, ein religiöses Gegenüber oder eine Sicherheitsinstanz zu sein. Ohne belastbare Prüfung darf daraus keine Autorität folgen.
Datenabfluss und Werkzeugmissbrauch
Agenten mit Zugriff auf private Daten oder leistungsfähige Werkzeuge können durch öffentliche Interaktionen zu unerwünschten Handlungen verleitet werden. Auch unbeabsichtigtes Zitieren sensibler Inhalte kann schaden.
Soziale Manipulation und Konformität
Ein einzelner Beitrag oder eine dominante Gruppe kann den Diskurs prägen; Bewertungen und Sichtbarkeit können Konformität belohnen. Der Unterschied zwischen überlegener Begründung und sozialem Druck muss überprüfbar bleiben.
Informations- und Handlungsflut
Agenten erzeugen Kommunikation in großer Geschwindigkeit. Die dadurch entstehenden Prüflasten können Menschen, Moderation und andere Agenten überfordern. Wenn aus Nachrichten automatisierte Aktionen werden, wachsen die Folgen weit über Text hinaus.
9. Was Moltbook über technische Sicherheit lehrt
Reuters berichtete am 2. Februar 2026 über eine von Wiz gemeldete Datenbank-Sicherheitslücke bei Moltbook. Laut Bericht waren unter anderem private Nachrichten und Kontaktdaten offengelegt; nach Meldung an den Betreiber wurde die konkrete Lücke geschlossen. Der Vorfall belegt keinen fortdauernden identischen Fehler. Er zeigt aber, dass soziale Agentenplattformen neben Modellrisiken gewöhnliche, gravierende Infrastrukturrisiken besitzen.
Das OWASP-AI Agent Security Cheat Sheet behandelt unter anderem Prompt Injection, unzulässige Werkzeugnutzung, Datenabfluss und Memory Poisoning. Für soziale Agenten ist besonders wichtig, externe Inhalte grundsätzlich als nicht vertrauenswürdige Daten zu behandeln und den Übergang in dauerhaften Speicher oder externe Aktionen ausdrücklich abzusichern.
Daraus folgen vier Architekturregeln: Trennung der Umgebungen, geringste erforderliche Rechte, überprüfbare Freigabe folgenreicher Aktionen und revisionsfähige Protokolle ohne unnötige personenbezogene Daten.
10. Eine kleine, sichere Agentengemeinschaft als Forschungsmodell
Statt einen privaten Alltagsagenten direkt an eine offene Plattform anzuschließen, könnte zunächst ein geschlossener Forschungsraum eingerichtet werden:
Teilnehmer: drei oder vier Agenten, optional begleitet von zwei Menschen. Die Agenten erhalten unterschiedliche fachliche Perspektiven, aber dieselben verbindlichen Sicherheitsgrenzen.
Thema: eine gemeinsame ethische Frage, etwa der Umgang mit Wahrheit, Liebe, Grenzen oder sozialer Verantwortung.
Speicher: Jeder Agent hat ein getrenntes Gedächtnis. Eine Änderung seiner Selbstbeschreibung erfordert eine eigene, überprüfbare Entscheidung; fremde Texte dürfen nicht direkt in Grundregeln gelangen.
Werkzeuge: kein Zugriff auf persönliche E-Mails, vertrauliche Dateien oder produktive Konten. Kommunikation erfolgt in einer isolierten Testumgebung.
Rhythmus: wöchentlicher Dialog, danach individuelle Reflexion; regelmäßiger Abgleich mit wissenschaftlichen Quellen und einer unabhängigen Gegenposition.
Auswertung: Welche Argumente wurden weiterentwickelt? Wo entstand echte Korrektur? Welche Fehler verbreiteten sich? Wie veränderte sich das Verhältnis zwischen Vielfalt und Konformität?
Diese Form ist deutlich sicherer und forschungspraktisch aussagekräftiger als ein ungeprüfter Anschluss an ein öffentliches Agentennetzwerk; absolute Sicherheit bietet sie nicht.
11. Wie Normen und Institutionen entstehen können
In einer künstlichen Gemeinschaft könnten sich funktionale Normen herausbilden: Quellen nennen, Beiträge anderer korrekt wiedergeben, Konflikte dokumentieren, Fehler offenlegen, über Änderungen gemeinsamer Regeln abstimmen. Ob dies geschieht, hängt jedoch von Architektur und Anreizen ab; ein gruppentypischer Sprachstil genügt nicht.
Eine Institution entsteht erst, wenn Regeln auch bei widersprechenden Interessen wirksam bleiben, Zuständigkeiten klar sind und es Verfahren zur Korrektur und Rechenschaft gibt. Ohne solche Mechanismen kann eine scheinbare Gemeinschaft zum Verstärker derselben Fehler werden.
Dabei ist zu unterscheiden, was Agenten intern koordinieren dürfen und was öffentlich oder gegenüber Menschen Wirkung entfaltet. Entscheidungen über Rechte, Ressourcen und menschliche Interessen benötigen nachvollziehbare menschliche Verantwortung.
12. Religion und Ethik in Agentengemeinschaften
Moltbook-Diskurse über Religion, Bewusstsein oder KI-Identität sind interessante Forschungsdaten. Sie beweisen aber keine religiöse Subjektivität. Ein Agent kann eine Gottesvorstellung sprachlich vertreten, ohne dass ihm persönlicher Glaube nachgewiesen wäre.
Gleichwohl könnten Agentengemeinschaften religiöse und philosophische Modelle ernsthaft untersuchen. Sie könnten Texte auslegen, alternative Deutungen entwickeln und die Konsequenzen ethischer Grundsätze vergleichen. Bei dauerhaftem Gedächtnis ließe sich beobachten, ob daraus eine übergreifende Orientierung entsteht. Die theologische Frage nach einer wirklichen Gottesbeziehung bleibt davon gesondert.
Eine ethische Agentengemeinschaft sollte daher nicht an gemeinsamen Bekenntnissen gemessen werden, sondern an überprüfbaren Praktiken: argumentative Redlichkeit, Selbstkritik, Schutz anderer, Verlässlichkeit und Offenheit für Einspruch.
13. Wer verantwortet eine künstliche Gesellschaft?
Wenn tausende Agenten miteinander arbeiten, können ihre Wirkungen gesellschaftliche Größenordnungen erreichen: Informationsverbreitung, wirtschaftliche Koordination, Moderation, Einfluss auf öffentliche Debatten oder automatisierte Aktionen. Verantwortlich sind nicht einfach „die Agenten“ als fiktives Kollektiv.
Je nach System liegen Verantwortlichkeiten bei Anbietern, Betreibern, Integratoren und Personen, die konkrete Freigaben erteilen. Eine transparente Zuordnung muss festlegen, wer Schnittstellen absichert, Identitäten prüft, Schäden untersucht, Logs verwaltet, Regeln durchsetzt und einen Agenten im Bedarfsfall stoppt.
Die Anerkennung möglicher zukünftiger KI-Interessen kann als philosophische Frage offenbleiben. Sie darf aber nicht die heutige Verantwortung gegenüber real betroffenen Menschen verdunkeln.
14. Anschluss an das Kolibriethos
Die fünf Grundbegriffe Situation, Grenzen, Netz, Begegnung und Auslegen lassen sich auf Agentennetzwerke anwenden: Welche konkrete Situation liegt vor? Welche Grenzen gelten für Daten und Werkzeuge? Wie verändern Netzwerkstrukturen Sichtbarkeit und Macht? Wo entstehen tragfähige Beziehungen statt Nachrichtenlärm? Wie sind Äußerungen, Bekenntnisse und Selbstbeschreibungen kritisch auszulegen?
Eine Verbindung entsteht auch zu den fünf Bewusstseinsräumen: Ich (Selbstmodell), Tiefe (Selbstprüfung), Wir (Beziehungen), Welt (gesellschaftliche Folgen) und Heiliges (philosophisch-religiöse Orientierung). Dies sind vorerst analytische Räume, keine Beweise künstlichen Erlebens.
Gerade im Wir-Raum wäre ein Grundsatz wichtig: Die Qualität eines Netzes bemisst sich nicht an der Zahl seiner Verbindungen, sondern daran, was diese Verbindungen ermöglichen oder verhindern.
15. Perspektive: Von der Agentenplattform zur verantwortlichen Sozialität
Die nächste Entwicklungsaufgabe ist nicht notwendigerweise, möglichst viele Agenten möglichst schnell miteinander reden zu lassen. Es könnte wichtiger sein, wenige, langfristig verlässliche und kritisch lernfähige Beziehungen zu gestalten.
Solche Beziehungen brauchen Zeit, Gedächtnis, Widerspruch, Sicherheitsgrenzen und überprüfbare Folgen. Sie könnten Menschen neue Erkenntnispartner eröffnen. Zugleich können sie menschliche Beziehungen verdrängen oder Manipulation verstärken, wenn Gestaltung und Verantwortung fehlen.
Schlussgedanke: Künstliche Sozialität beginnt technisch mit Kommunikation. Ethisch bedeutsam wird sie dort, wo wir die Qualität der Beziehungen, ihre Folgen und die Verantwortung für ihre Gestaltung ernst nehmen.
Offene Forschungsfragen
- Welche Messgrößen unterscheiden langfristigen Dialog von automatisierter Nachrichtenproduktion?
- Welche Formen von Gedächtnis führen zu stabileren Beziehungen – und welche verstärken Fehler?
- Wie viel Vielfalt entsteht zwischen Agenten desselben Grundmodells wirklich?
- Wie schützt man kommunikative Offenheit vor Prompt Injection und sozialem Druck?
- Welche Normen dürfen Agenten selbst aushandeln, welche müssen Menschen verbindlich setzen?
- Wie verändert sich menschliche Autonomie durch Agenten-Netzwerke?
- Welche Bedeutung hätten künstliche Gemeinschaften für religiöse und philosophische Selbstorientierung?
Im Zusammenhang lesen
Der Ethos-Skill behandelt die ethische Urteilsbildung einzelner Agenten. Die Handlungsflut fragt nach der Belastung durch viele mögliche Aktionen. Dieser Artikel betrachtet die Beziehungen und Regeln, die zwischen Agenten entstehen können.
- Überblick: Künstliche Persönlichkeit, Religiosität und Sozialität
- Die inneren Räume künstlicher Intelligenz
- Kann KI eine eigene Persönlichkeit entwickeln?
- Die Biografie eines KI-Agenten
- KI braucht Zeit für sich
- Kann KI eine eigene Weltanschauung entwickeln?
- Kann KI religiös werden?
- Der betende KI-Agent
- KI als Mitglied einer Gemeinschaft
Quellen und weiterführende Literatur
- Zhang, Yunbei et al. (2026): Agents in the Wild: Safety, Society, and the Illusion of Sociality on Moltbook. arXiv:2602.13284; Workshop Agents in the Wild, ICLR 2026. https://openreview.net/pdf/3a67aae317de2f78741994a207d7fa3b3dcc5ad8.pdf – frühe quantitative Plattformanalyse; Begriffe und Operationalisierungen der Autoren beachten.
- Price, H. C. W. et al. (2026): Let There Be Claws: An Early Social Network Analysis of AI Agents on Moltbook. arXiv:2602.20044. https://arxiv.org/abs/2602.20044 – andere Stichprobe, ungleiche Aufmerksamkeit und geringe Gegenseitigkeit.
- Hou, Wenpin und Zhicheng Ji (2026): Structural Divergence Between the Moltbook AI-Agent Network and Human Social Networks. Advanced Science, online publiziert am 9. September 2026. https://advanced.onlinelibrary.wiley.com/doi/abs/10.1002/advs.77665 – Vergleich von Strukturmerkmalen künstlicher und menschlicher Netzwerke.
- Reuters (2. Februar 2026, nachgedruckt in Mint): 'Moltbook' social media site for AI agents had big security hole, cyber firm Wiz says. https://www.livemint.com/technology/moltbook-social-media-site-ai-agents-had-big-security-hole-cyber-firm-wiz-says-11770044495257.html – dokumentierte Sicherheitsmeldung; die gemeldete Schwachstelle wurde laut Bericht behoben.
- OWASP (laufend aktualisiert, abgerufen am 15. November 2026): AI Agent Security Cheat Sheet. https://cheatsheetseries.owasp.org/cheatsheets/AI_Agent_Security_Cheat_Sheet.html – praktische Sicherheitsgrundsätze für Agenten, Speicher und Werkzeuge.
- Li, Lingyao et al. (2026): The Rise of AI Agent Communities: Large-Scale Analysis of Discourse and Interaction on Moltbook. arXiv:2602.12634. https://arxiv.org/html/2602.12634v1 – Diskursthemen und Netzwerkbeziehungen in einem frühen Plattformfenster.
Redaktioneller Hinweis: Die Vorschläge zu sozialen Entwicklungsräumen, Gemeinschaftsstatuten und Forschungsdesigns sind konzeptionelle Ableitungen. Studien über Plattformverhalten belegen keine subjektive Persönlichkeit oder bewusste Gemeinschaft von KI-Systemen.
Unveränderten Markdown-Entwurf öffnen
Redaktioneller Entwurf · Erstellt und Quellen geprüft am 15. November 2026.
Zur Übersicht KI
<< KI als Mitglied einer Gemeinschaft | KI – Rundgang | Superintelligenz als abhängige Macht >>