KI-Ethos Ethik als Feld besonderer Zusammenarbeit von Mensch und KI denken · prüfen · begegnen · gestalten

Wie arbeiten KI-Agenten zusammen?

Seitenstatus: Freigegeben Diese Fassung wurde durch Hans Hufnagel geprüft und freigegeben.


KI-Navigation | Wie arbeiten KI-Agenten zusammen?

Ein KI-Agent ist kein eigenständiges digitales Lebewesen. Gemeint ist meist ein technisches System, das ein Ziel über mehrere Schritte bearbeitet: Es erhält Anweisungen und Kontext, kann Werkzeuge benutzen, Ergebnisse prüfen und abhängig davon den nächsten Schritt wählen. Mehrere solcher Systeme können verschiedene Rollen übernehmen und ihre Zwischenergebnisse austauschen.

Bildtafel über mögliche Wege von heutigen KI-Systemen zu allgemeiner künstlicher Intelligenz, darunter ein Multi-Agenten-Kollektiv

Zukunftsbild, keine Prognose: Die KIKI-Tafel nennt ein Multi-Agenten-Kollektiv als möglichen Weg zu allgemeiner KI. Tatsächlich können viele Agenten Fähigkeiten bündeln; daraus folgt aber weder automatisch AGI noch eine eigenständige „kollektive Intelligenz“.

Woraus ein Agent besteht

Typischerweise verbindet ein Agent fünf Bausteine:

  1. Auftrag und Regeln: Ziel, Rolle, Grenzen und gewünschte Ausgabe.
  2. Modell: zum Beispiel ein Sprachmodell, das Informationen verarbeitet und nächste Schritte vorschlägt.
  3. Kontext und Arbeitsgedächtnis: aktuelle Aufgabe, Zwischenergebnisse und ausgewählte frühere Informationen.
  4. Werkzeuge: etwa Suche, Datenbank, Rechner, Dateien, E-Mail oder ein Fachprogramm – jeweils nur mit eingeräumten Rechten.
  5. Steuerungsschleife: Aufgabe verstehen, handeln, Ergebnis beobachten, weiterarbeiten oder anhalten.

Die Steuerungssoftware bestimmt, wie oft diese Schleife laufen darf, welche Werkzeuge erreichbar sind und wann ein Mensch zustimmen muss. „Autonom“ bedeutet daher nie grenzenlos, sondern nur: innerhalb eines technisch und organisatorisch gesetzten Rahmens selbständig Schritte auswählen.

Vier Formen der Zusammenarbeit

  • Leitung und Fachrollen: Ein koordinierender Agent verteilt begrenzte Teilaufgaben, sammelt die Antworten und verantwortet die technische Zusammenführung.
  • Übergabe: Ein Agent erkennt, dass eine andere Rolle zuständig ist, und übergibt Aufgabe und erforderlichen Kontext.
  • Parallele Bearbeitung: Mehrere Agenten untersuchen verschiedene Quellen oder Perspektiven gleichzeitig; anschließend werden die Ergebnisse verglichen.
  • Entwurf und Gegenprüfung: Ein Agent formuliert, ein zweiter sucht Fehler und Gegenargumente, ein dritter prüft Quellen oder formale Bedingungen.

Mehr Agenten sind nicht automatisch besser. Jede zusätzliche Rolle erzeugt neue Nachrichten, Kosten, Fehlermöglichkeiten und Kontrollstellen. Die offizielle OpenAI-Dokumentation zur Orchestrierung unterscheidet beispielhaft zwischen einer Übergabe an Spezialisten und einer Leitungsrolle, die Spezialisten als begrenzte Werkzeuge einsetzt. Das ist ein praktisches Anbietermodell, keine allgemeingültige Naturordnung für Agententeams.

Beispiel für einen prüfbaren Arbeitsweg

Mensch oder Institution formuliert Ziel, Grenzen und Freigabepunkte
→ Koordination zerlegt die Aufgabe und vergibt Teilaufträge
→ Recherche sammelt belegbare Informationen
→ Gegenprüfung sucht Lücken, Risiken und Gegenargumente
→ Quellenprüfung öffnet Belege und trennt Tatsache, Deutung und Unsicherheit
→ Koordination führt nur nachvollziehbare Ergebnisse zusammen
→ Menschliche Freigabe entscheidet bei folgenreichen Schritten

Die Prüferrolle ist nur dann wirklich unabhängig, wenn sie nicht bloß denselben Entwurf mit denselben Annahmen wiederholt. Hilfreich sind getrennte Aufträge, andere Quellen, klare Prüfkriterien und das ausdrückliche Recht, „nicht ausreichend belegt“ zu melden.

Reden Agenten in einer eigenen Sprache?

Im normalen Einsatz meistens nicht. Agenten tauschen üblicherweise menschliche Sprache, strukturierte Daten, Aufgabenobjekte, Dateien oder Werkzeugergebnisse aus. Ein technischer Kanal kann zum Beispiel JSON-Felder wie Auftrag, Status und Ergebnis übertragen. Das ist eine vereinbarte Datenform, keine geheime KI-Sprache.

Offene Protokolle sollen solche Übergaben vereinheitlichen. Das Agent2Agent-Protokoll (A2A) beschreibt Kommunikation und Zusammenarbeit zwischen eigenständigen Agentensystemen. Das Model Context Protocol (MCP) verbindet KI-Anwendungen vor allem mit Werkzeugen, Datenquellen und vorgegebenen Prompts. Beide legen Nachrichten und Schnittstellen fest; sie verleihen Agenten weder Bewusstsein noch moralische Zuständigkeit.

Auch die inneren Zahlenmuster eines Modells sind keine Sprache im üblichen Sinn. Vektoren und Aktivierungen tragen mathematische Beziehungen, besitzen aber nicht von selbst Wörterbuch, Grammatik und gemeinsam ausgehandelte Bedeutung.

In der Forschung können lernende Agenten allerdings auf begrenzten Aufgaben eigene Symbole oder Kurzformen entwickeln. Ein Beispiel untersucht emergente Kommunikation in kooperativem Multi-Agenten-Lernen. Solche experimentell gelernten Zeichensysteme sind auf Aufgabe, Training und Kommunikationskanal zugeschnitten. Sie belegen nicht, dass heutige Sprachagenten heimlich eine allgemeine Sprache bilden. Wo ein System unverständliche Codes entwickeln dürfte, wäre gerade das ein Grund für Protokollierung, Begrenzung und Prüfung.

Welche Regeln braucht ein Agententeam?

  1. Klare Zuständigkeiten: Jede Rolle kennt Auftrag, Eingaben, erwartete Ausgabe und Ende ihrer Zuständigkeit.
  2. Minimale Rechte: Jeder Agent erhält nur die Daten und Werkzeuge, die er für seinen Teil wirklich braucht.
  3. Quellen und Herkunft: Tatsachen, Annahmen, Zitate und bearbeitete Dateien bleiben nachvollziehbar.
  4. Unabhängige Prüfung: Wichtige Ergebnisse werden nach festen Kriterien gegengelesen oder mit einer zweiten Quelle geprüft.
  5. Umgang mit Widerspruch: Abweichende Ergebnisse werden sichtbar gemacht, nicht durch Mehrheitszählung geglättet.
  6. Stopp- und Eskalationsregeln: Zeit-, Kosten- und Handlungslimits sowie klare Gründe für Abbruch und menschliche Rückfrage.
  7. Freigabepunkte: Außenwirkung, Geld, personenbezogene Daten, Rechte anderer und schwer umkehrbare Handlungen benötigen menschliche Zustimmung.
  8. Protokoll und Datenschutz: Entscheidungen und Werkzeugzugriffe müssen prüfbar sein; zugleich dürfen nicht unnötig vertrauliche Daten gesammelt werden.

Das NIST AI Risk Management Framework ordnet verantwortliche KI als fortlaufende Aufgabe des Erfassens, Messens und Behandelns von Risiken ein. Für Agententeams heißt das: Nicht nur die Einzelantwort, sondern auch Übergaben, Rechte, Abhängigkeiten und das Verhalten des gesamten Arbeitsablaufs müssen geprüft werden.

Verantwortung bleibt zuordenbar

Ein koordinierender Agent kann Arbeit technisch zusammenführen. Er kann aber keine rechtliche oder moralische Verantwortung der Menschen und Organisationen übernehmen, die Ziel, Daten, Werkzeuge und Einsatzbedingungen festlegen. Gerade wenn viele Agenten beteiligt sind, muss sichtbar bleiben:

  • Wer hat den Auftrag erteilt?
  • Wer darf Regeln und Werkzeuge verändern?
  • Wer prüft das Ergebnis?
  • Wer trägt die Folgen und kann den Ablauf stoppen?
Ein gutes Agententeam ist kein undurchsichtiger Schwarm. Es ist ein begrenzter, protokollierter und widerspruchsfähiger Arbeitsprozess mit klarer menschlicher Verantwortung.

Ein möglicher KI-Ethos-Prüfverbund

Für eine ethische Recherche könnten vier Rollen zusammenarbeiten: Recherche, Gegenposition, Quellenprüfung und Redaktion. Die Redaktion dürfte strittige Aussagen nicht einfach glätten, sondern müsste Unsicherheit und Dissens erhalten. Hans bliebe als Herausgeber für Auswahl, Korrektur und Freigabe zuständig. So würde die Zusammenarbeit selbst zu einem sichtbaren Beispiel für die Regeln, die diese Seite beschreibt.

Quellen und Weiterwege

<< Geschichte der künstlichen Intelligenz | KI-Navigation | Aktuelle Entwicklungen der KI >>
Zur KI-Übersicht →