# Die KI-Handlungsflut

## Wenn immer mehr KI-Agenten handeln – wer überblickt, steuert und verantwortet ihre Wirkungen?

> **Kernsatz:** Künstliche Intelligenz erzeugt nicht mehr nur Informationen. Agentische KI-Systeme können innerhalb ihrer Berechtigungen eigenständig Arbeitsschritte auswählen und Handlungen ausführen. Diese Handlungen verändern Daten, wirtschaftliche Abläufe und teilweise die physische Welt. **KI-Handlungsflut** bezeichnet die wachsende, oft wenig sichtbare Gesamtheit solcher Handlungen. Entscheidend ist, wer die Ziele bestimmt, die Wirkung überblickt, eingreifen kann und für Folgen einsteht.

*Dritte Themenseite der Reihe „KI, Macht und Gesellschaft“ auf KI-Ethos. Arbeitsstand: 26. Oktober 2026. „KI-Handlungsflut“ und „KI-Wechselwirkungsflut“ werden hier als analytische Leitbegriffe verwendet, nicht als bereits international standardisierte Fachtermini.*

## 1. Von der Informationsflut zur Handlungsflut

Die erste große Veränderung der künstlichen Intelligenz erleben viele Menschen als Informationsrevolution: KI formuliert Texte, erstellt Bilder, übersetzt, recherchiert und verdichtet Wissen. Eine Antwort kann der Mensch prüfen, verwerfen oder für eigenes Handeln nutzen. Mit KI-Agenten kommt ein entscheidender Schritt hinzu: Ein System kann nicht nur antworten, sondern innerhalb technisch freigegebener Grenzen auch **etwas tun**.

Ein Agent könnte Angebote einholen, sie vergleichen, Bestellungen vorbereiten und, wenn seine Berechtigungen es erlauben, selbst auslösen. Ein anderer könnte eine Softwareänderung durchführen, Tests starten und anschließend weitere Arbeitsschritte planen. Solche Prozesse können viele einzelne Werkzeugaufrufe und Auswirkungen auf andere Systeme umfassen.

Wir unterscheiden deshalb drei eng verbundene Entwicklungen:

- **KI-Informationsflut:** Automatisch erzeugte, bearbeitete und verbreitete Informationen nehmen zu.
- **KI-Handlungsflut:** KI-Systeme können immer mehr Handlungen selbst ausführen oder auslösen.
- **KI-Wechselwirkungsflut:** Handlungen unterschiedlicher Systeme begegnen einander, lösen Reaktionen aus und können sich gegenseitig verstärken oder begrenzen.

Der Zusammenhang lässt sich als Kreislauf beschreiben: **Information → Bewertung → Entscheidung → Handlung → veränderte Wirklichkeit → neue Information.** Je enger die Schritte automatisiert verbunden sind, desto wichtiger werden die Qualität der Daten, die Grenzen der Handlungsmacht und die Möglichkeiten zur Korrektur.

![Bild 1 – Von der Informationsflut zur KI-Handlungsflut](bilder/KI_Handlungsflut_01_Von_Information_zu_Handlung.png)

## 2. Was ist ein KI-Agent?

Der Ausdruck *KI-Agent* wird unterschiedlich verwendet. Als Arbeitsdefinition verstehen wir darunter ein System, das ein Ziel oder einen Auftrag erhält, Informationen aus seiner Umgebung verarbeitet, geeignete Schritte auswählt und über Werkzeuge mit anderen Systemen oder der Welt interagieren kann. Häufig kombiniert es ein KI-Modell mit Programmcode, Werkzeugen, Speicher, Schnittstellen und Berechtigungen. [1][2]

Unterschieden werden können vier Grade der Selbstständigkeit:

1. **Beratender Assistent:** Er schlägt vor; der Mensch führt selbst aus.
2. **Ausführender Assistent:** Er bereitet Aktionen vor, benötigt aber entscheidende Freigaben.
3. **Teilautonomer Agent:** Er handelt selbst innerhalb eines begrenzten Budgets und Auftrags.
4. **Weitgehend autonomer Agent:** Er verfolgt längere Arbeitsabläufe, plant Zwischenschritte und reagiert auf Rückmeldungen.

Multi-Agenten-Systeme koordinieren mehrere spezialisierte Agenten. Der Grad der Autonomie ist keine einfache Eigenschaft des Grundmodells: Er hängt wesentlich von der gesamten technischen Umgebung ab.

**Wichtig:** Technische Selbstständigkeit ist kein Nachweis von Bewusstsein, menschlichem Willen oder einer mit Menschen vergleichbaren moralischen Verantwortlichkeit. Die Verantwortung der Organisationen und Menschen bleibt deshalb eine eigenständige Frage.

![Bild 2 – Wie eine Handlung durch einen KI-Agenten entsteht](bilder/KI_Handlungsflut_02_Agent_Auftrag_Werkzeuge_Berechtigung.png)

## 3. Was daran neu ist – und was nicht

Automatisierung ist nicht neu: Industrieanlagen, automatische Handelssysteme, Suchmaschinen und Verwaltungssysteme handeln seit Langem ohne ständige menschliche Einzelfreigabe. Neu ist die **Kombination** aus allgemeineren KI-Fähigkeiten, Aufträgen in natürlicher Sprache, vielseitigem Werkzeugzugriff, längeren Prozessketten und der einfachen Vervielfältigung agentischer Abläufe.

Dadurch können auch Einzelpersonen und kleine Organisationen Verfahren einsetzen, die früher beträchtliche Programmier- und Organisationsarbeit verlangten. Gleichzeitig können digitale Prozesse mit Geschwindigkeiten und Umfängen ablaufen, die Menschen nicht mehr einzeln begleiten können.

Es gibt jedoch keine vollständige, belastbare weltweite Zählung sämtlicher KI-Agenten oder ihrer Handlungen. „Handlungsflut“ beschreibt daher ein **zu beobachtendes gesellschaftliches Veränderungsmuster**, keine exakt gemessene globale Größe. Ebenso wenig ist jede automatisierte Aktion schon ein Fall „autonomer KI“.

## 4. Die unsichtbare Welt automatisierter Handlungen

Agentische Systeme kommen für zahlreiche Bereiche infrage: Einkauf, Kundenservice, Softwareentwicklung, Wissenschaft, Verwaltungsunterstützung, Logistik, Medien oder Energieplanung. In manchen Bereichen stehen die Anwendungen noch am Anfang; andere nutzen bereits bestimmte agentische Prozesse. Der tatsächliche Autonomiegrad ist sehr verschieden. [1][2]

Viele Handlungen finden im Hintergrund statt: Eine Datenbank wird geändert, eine Nachricht verschickt, ein Softwaretest ausgeführt, ein Lagerbestand angepasst oder eine externe Schnittstelle angesprochen. Für Nutzer und Betroffene ist oft nur das Ergebnis sichtbar. Deshalb darf die tatsächliche Reichweite einer Organisation nicht mehr allein an sichtbaren Mitarbeiterzahlen oder Arbeitsplätzen beurteilt werden.

Die wichtigen Fragen lauten: **Wer hat gehandelt? Wessen Auftrag wurde ausgeführt? Welche Systeme wurden verändert? Wer ist betroffen?** Eine Handlung kann lokal klein erscheinen und dennoch Teil einer großen weltweiten Wirkungskette sein.

![Bild 3 – Die unsichtbare Welt der KI-Agenten](bilder/KI_Handlungsflut_03_Unsichtbare_Agentenwelt.png)

## 5. Von Einzelhandlungen zu Handlungsketten

Eine isolierte Handlung ist häufig leicht zu begreifen. Ein Agent verschickt eine Nachricht, erstellt einen Termin oder bestellt zehn Ersatzteile. Schwieriger wird es, wenn die Handlung **Folgehandlungen** anderer Systeme auslöst.

Beispiel: Ein Einkaufsagent bestellt vorsorglich große Rohstoffmengen. Der Lieferant registriert steigende Nachfrage. Ein Prognosesystem korrigiert den erwarteten Bedarf nach oben; ein Preisagent passt Angebote an. Weitere Käufer reagieren auf den Preisanstieg. Im ungünstigen Fall verstärken sich die Bestellungen gegenseitig.

Das ist ein **Gedankenexperiment**, nicht die Behauptung eines bestimmten dokumentierten Vorfalls. Die Richtung ist offen: Gut koordinierte Systeme können genau solche Überreaktionen auch erkennen und abmildern. Wesentlich ist, dass jede Handlung die Datenlage verändert, auf die weitere Agenten reagieren.

## 6. Die KI-Wechselwirkungsflut

Agenten können miteinander **kooperieren**, miteinander **konkurrieren** oder sich ohne gemeinsame Absicht gegenseitig beeinflussen. Sie können Aufgaben verteilen, Informationen weiterreichen und Resultate anderer Systeme als Ausgangspunkt ihrer nächsten Schritte verwenden.

Mögliche Schwierigkeiten sind Koordinationsfehler, widersprüchliche Ziele, Blockaden gemeinsamer Ressourcen, weitergegebene Fehlinformationen und **korrelierte Fehler**: Verschiedene Agenten irren sich ähnlich, weil sie die gleichen Modelle, Daten oder Werkzeuge nutzen. Der International AI Safety Report 2026 benennt diese neuen Fehlerarten und betont, dass die empirische Datenlage zu komplexen realen Multi-Agenten-Systemen noch begrenzt ist. [1]

Die Leistungsfähigkeit eines einzelnen Agenten beweist nicht die Zuverlässigkeit des ganzen Netzwerks. **Wir müssen sowohl das Verhalten der Teile als auch das Zusammenwirken des Gesamtsystems prüfen.**

## 7. Wenn jeder vernünftig handelt und das Ganze problematisch wird

Ein Agent erfüllt seinen Auftrag, indem er für sein Unternehmen möglichst günstig einkauft. Ein anderer schützt seinen Betreiber durch vorsorgliche Bestellungen. Jeder folgt plausiblen Zielen. Dennoch kann das Zusammenwirken Engpässe vergrößern und die Lage aller verschlechtern. Die Sozialwissenschaft kennt das Spannungsverhältnis von individueller Rationalität und kollektiven Ergebnissen seit Langem.

Die besondere Herausforderung bei KI liegt darin, dass viele ähnlich programmierte Akteure in kurzer Zeit auf ähnliche Signale reagieren können. Das kann vorhandene Probleme beschleunigen; es kann aber auch neue Gegenmaßnahmen ermöglichen. Ein verantwortliches System muss neben dem lokalen Ziel **auch die absehbaren Rückwirkungen auf andere** berücksichtigen.

![Bild 4 – Wenn KI-Agenten auf KI-Agenten reagieren](bilder/KI_Handlungsflut_04_Wechselwirkungen_und_Rueckkopplungen.png)

## 8. Fünf Ebenen der Kontrollprobleme

Nicht jedes Versagen ist ein Kontrollverlust im umfassenden Sinne. Wir sollten unterscheiden:

1. **Einzelfehler:** Eine Aktion ist falsch und wird erkannt.
2. **Fehlerhafte Handlungskette:** Andere Systeme übernehmen die falsche Information.
3. **Systemischer Fehler:** Viele Agenten reagieren ähnlich oder stören sich gegenseitig.
4. **Schwer zu unterbrechender Prozess:** Bereits ausgelöste Folgeschritte lassen sich nicht durch das Abschalten des ursprünglichen Agenten zurückholen.
5. **Hypothetischer umfassender Kontrollverlust:** Ein wesentlich weitreichenderes Zukunftsszenario, bei dem die Wiederherstellung menschlicher Kontrolle sehr schwierig wird.

Diese Ebenen dürfen nicht vermischt werden. Der internationale Sicherheitsbericht unterscheidet heutige praktische Zuverlässigkeitsprobleme ausdrücklich von hypothetischen, viel weiterreichenden Kontrollverlustszenarien und stellt fest, dass derzeitige Systeme deren erforderliche Fähigkeiten nicht besitzen. [1]

## 9. Was macht eine KI-Handlung riskant?

Zur Einschätzung einer Handlung betrachten wir mehr als die Intelligenz des Systems. Relevante Faktoren sind **Reichweite**, **Eingriffstiefe**, **Geschwindigkeit**, **Wiederholbarkeit**, **Vernetzung**, **Zuverlässigkeit**, **Umkehrbarkeit**, **Schadenspotenzial**, **Nachvollziehbarkeit** und **Steuerbarkeit**.

Eine einfache automatische Mail kann harmlos sein; dieselbe Aktion millionenfach versendet kann erheblichen Schaden verursachen. Eine technisch sehr komplexe Analyse kann dagegen kaum unmittelbare Auswirkungen haben, solange sie nur einen Entwurf liefert. Risiko ist daher eine Eigenschaft von **System, Aufgabe, Kontext und Wirkung**, nicht allein des KI-Modells.

## 10. Wer bestimmt die Ziele eines Agenten?

Agenten handeln innerhalb normativ nicht neutraler Rahmenbedingungen: Wer legt den Auftrag fest, definiert Erfolg, setzt Grenzwerte oder entscheidet, welche Interessen zählen? Beim Einkaufsagenten kann „günstig“ den niedrigsten Preis meinen – oder Lebensdauer, Lieferzuverlässigkeit, faire Arbeitsbedingungen und ökologische Folgen berücksichtigen.

Zielvorgaben, Bewertungsfunktionen, Trainingsverfahren, Systemanweisungen, Werkzeuge und Berechtigungen bestimmen gemeinsam, was der Agent tun kann und typischerweise auswählt. Die **Macht über die Ziele** ist deshalb von der **Macht über die Ausführung** zu unterscheiden. Wertefragen dürfen nicht unbemerkt als rein technische Einstellungen behandelt werden.

## 11. Wem gehört die Handlungsmacht?

An einer agentischen Anwendung können mehrere Akteure beteiligt sein: Modellanbieter, Anwendungsentwickler, Betreiber, Auftraggeber, Administrator für Berechtigungen, Prüfinstanzen und betroffene Dritte. Ihre Einflussmöglichkeiten unterscheiden sich.

| Beteiligte | Typischer Einfluss | Wichtige Verantwortungsfrage |
|---|---|---|
| Modellanbieter | Fähigkeiten und Modellgrenzen | Welche Risiken des Modells sind bekannt? |
| Entwickler | Schnittstellen und Arbeitsabläufe | Sind Werkzeuge und Schutzmechanismen sicher integriert? |
| Betreiber | Einsatzbedingungen und Überwachung | Werden Agenten angemessen kontrolliert? |
| Auftraggeber | Ziele und Prioritäten | Ist der Auftrag zulässig und verantwortbar? |
| Rechteverwaltung | Daten- und Aktionsrechte | Gilt das Prinzip minimaler Berechtigung? |
| Prüfinstanzen | Prüfung und Aufsicht | Sind Kriterien und Kontrolle unabhängig? |
| Betroffene | Tragen Auswirkungen | Welche Rechte auf Information und Abhilfe bestehen? |

Falls Schaden entsteht, darf die Verantwortung nicht in wechselseitigen Verweisen verschwinden. Die **rechtliche** Haftung richtet sich aber nach dem konkreten Fall und dem anwendbaren Recht, nicht pauschal nach einem solchen Schema.

![Bild 5 – Macht und Verantwortung für KI-Handlungen](bilder/KI_Handlungsflut_05_Akteure_Macht_Verantwortung.png)

## 12. Die unsichtbaren Betroffenen

KI-Agenten handeln meist im Interesse eines Auftraggebers; betroffen können aber viele andere sein. Ein Serviceagent legt möglicherweise eine Erstattung ab, ein Personalagent sortiert Bewerbungen, ein Einkaufsagent verschärft den Preisdruck auf kleine Zulieferer, ein Verwaltungssystem beeinflusst den Zugang zu einer Leistung.

Eine ethische Prüfung muss fragen, ob die betroffenen Menschen die Entscheidung erkennen, sie sachlich hinterfragen und eine verantwortliche Ansprechstelle erreichen können. Der Auftraggeber ist nicht die einzige Perspektive. **Das Interesse derjenigen, die Folgen tragen, gehört in die Gestaltung des Handlungssystems.**

## 13. Die Kosten der KI-Handlungsflut

Digitale Aktionen benötigen Rechenzeit, Strom, Datenverkehr und oft kostenpflichtige Dienste. Agenten können unnötige Suchläufe ausführen, in Schleifen geraten oder mehrere weitere Agenten beauftragen. Zusätzliche Kosten entstehen, wenn Ergebnisse menschlich geprüft, fehlerhafte Daten korrigiert oder unerwünschte Transaktionen rückabgewickelt werden müssen.

Der relevante Unterschied besteht zwischen **Kosten für den Auftraggeber** und **externen Folgekosten**. Eine automatisierte Nachricht kann beim Absender kaum Aufwand verursachen, aber bei Empfängern Prüfzeit beanspruchen. Ein ungünstiger Eingriff in Systeme kann Schäden verursachen, die niemand in den API-Preis eingerechnet hat.

Eine faire Beurteilung fragt daher: Wer erhält den Nutzen? Wer zahlt für Betrieb, Prüfung und Wiederherstellung? Wer wird gegen Schäden geschützt? Dabei sind positive gesamtgesellschaftliche Wirkungen ebenso zu berücksichtigen wie mögliche Externalitäten.

## 14. Brauchen wir ein Handlungsbudget?

Ein **KI-Handlungsbudget** beschreibt die genehmigten Grenzen eines Agenten. Es kann ein Finanzbudget, Zeitbudget, Rechenbudget, Aktionsbudget, Berechtigungsbudget und risikobezogene Schwellenwerte umfassen.

Ein Agent könnte beispielsweise kleine Bestellungen automatisch freigeben, größere Beträge nur vorbereiten und bei außergewöhnlichen Ereignissen eine erneute Genehmigung verlangen. Solche Schwellenwerte helfen, Handlungsreichweite und unbeabsichtigte Wiederholungen zu begrenzen.

Allerdings ist ein Handlungsbudget kein Ersatz für inhaltliche Sicherheit: Auch eine einzige, formal budgetkonforme Aktion kann einen schweren Schaden verursachen. Grundrechte und erhebliche Lebensrisiken dürfen nicht wie frei handelbare Budgetposten behandelt werden.

## 15. Erkennen, dass eine KI handelt

Bei der Informationsflut fragen wir nach der Herkunft eines Inhalts. Bei der Handlungsflut zusätzlich: **Wer oder was hat eine Handlung ausgelöst?** Besonders bei bedeutsamen digitalen Interaktionen können Identität, Autorisierung und der Bezug zu einem konkreten Auftrag wichtig sein.

Ein technischer **Handlungspass** könnte – abhängig vom Risiko – Betreiber, Agentenidentität, zulässige Handlungstypen, Berechtigungen, Kontrollstellen und Ansprechpartner dokumentieren. Dies ist hier ein **Konzeptvorschlag**, keine allgemeine gesetzliche Pflicht. Eine pauschale öffentliche Registrierung jeder kleinen Automatisierung wäre weder nötig noch selbstverständlich verhältnismäßig. NIST untersucht ausdrücklich Identität und Autorisierung von Softwareagenten. [3]

## 16. Eine nachvollziehbare Handlungsgeschichte

Wird später eine problematische Bestellung entdeckt, benötigen die Verantwortlichen Antworten: Was war der Auftrag? Welche Daten lagen vor? Welche Werkzeuge wurden aufgerufen? Welche Freigaben bestanden? Welche Änderung wurde tatsächlich vorgenommen?

Geeignete Ereignisprotokolle, Kennungen, Zeitstempel und die Zuordnung zu Aufgaben helfen beim Nachvollziehen. Sie müssen jedoch **zweckgebunden und datensparsam** erfolgen, denn vollständige Arbeitsprotokolle können sensible persönliche oder geschäftliche Informationen enthalten. Nicht jeder interne Gedankenschritt einer KI muss aufgezeichnet werden; entscheidend sind überprüfbare, relevante Aktionen und Zustandsänderungen.

## 17. Zustimmung, Prüfung, Bremse, Stopp, Korrektur

Wichtige Agentensysteme brauchen mehrere Eingriffsmöglichkeiten:

- **Zustimmen:** Kritische Handlungen werden vor der Ausführung genehmigt.
- **Überprüfen:** Ergebnisse, Werkzeuge und Folgewirkungen lassen sich kontrollieren.
- **Bremsen:** Geschwindigkeit, Zahl der Transaktionen und Reichweite werden begrenzt.
- **Anhalten:** Weitere Ausführungen können unterbunden werden.
- **Zurückdrehen:** Wo möglich, werden Änderungen rückgängig gemacht oder kompensiert.

Nicht alles lässt sich rückgängig machen. Eine versendete Nachricht, eine offengelegte Information oder ein physischer Schaden bleibt unter Umständen bestehen. **Je weniger umkehrbar die Wirkung, desto wichtiger ist die Prüfung vor ihrer Ausführung.**

## 18. Drei Kontrollstufen: Grün, Gelb, Rot

Ein einfaches Denkmodell ordnet Handlungen nach ihren möglichen Wirkungen:

| Stufe | Typische Beispiele | Kontrollprinzip |
|---|---|---|
| **Grün** | Entwürfe, Testläufe, reversible Änderungen ohne sensible Daten | Automatisch im klar begrenzten Rahmen |
| **Gelb** | Datenbankänderungen, externe Mitteilungen, begrenzte Bestellungen | Protokollierung, Schwellenwerte und zusätzliche Freigaben |
| **Rot** | Erhebliche Geldtransaktionen, kritische Infrastruktur, folgenschwere Eingriffe bei Menschen | Hohe Schutzanforderungen, unabhängige Prüfungen, menschliche Aufsicht oder Ausschluss autonomer Ausführung |

Die Ampel ist eine **vereinfachende Heuristik**. Kontext, Häufigkeit, kumulative Wirkung, Rechtslage und mögliche Schwere eines Schadens können eine andere Einstufung erforderlich machen.

![Bild 6 – KI-Handlungen sicher steuern](bilder/KI_Handlungsflut_06_Sicherheit_Kontrolle_Budget.png)

## 19. Wenn KI ihre eigenen Risiken bewertet

KI kann bei der Risikoanalyse sehr hilfreich sein: Alternativen vergleichen, Widersprüche suchen, Tests planen und mögliche Schwachstellen identifizieren. Doch mehrere Systeme können dieselben Fehler machen, wenn sie auf ähnlichen Modellen oder Daten beruhen. Sprachlich überzeugende Risikoabschätzungen sind keine empirisch bestätigten Sicherheitsnachweise.

Besonders in der medizinischen Forschung, etwa beim KI-gestützten Design biologischer Moleküle, dürfen Strukturvorhersagen oder Simulationen nicht mit nachgewiesener Wirksamkeit und Sicherheit gleichgesetzt werden. Unabhängige Validierung, geeignete Experimente und die einschlägigen fachlichen Prüfverfahren bleiben wesentlich.

Ein verantwortliches System unterscheidet daher klar zwischen **Hypothese, Modellprognose, empirischer Prüfung und zulässiger Anwendung**.

## 20. Der KI-Wettlauf als Beschleuniger

Unternehmen und Staaten möchten technologische Vorteile nicht verlieren. Wird ein Agent schneller produktiv als ein Konkurrenzsystem, entsteht Druck, ihn früh auszurollen. Das kann die sorgfältige Untersuchung neuer Risiken erschweren. Je schneller Leistungsfähigkeit wächst, desto deutlicher kann ein Rückstand zwischen Entwicklung und unabhängiger Validierung werden.

Gemeinsame Mindeststandards, gestufte Einführung, Testumgebungen, Auditierbarkeit und sachgerechte Regulierung können verhindern helfen, dass Wettbewerb allein durch die Verlagerung von Risiken auf andere entschieden wird. Die Maßnahmen sollten an reale Risiken angepasst werden, damit sie zugleich Innovation ermöglichen.

## 21. Wer steuert die weltweite Handlungsflut?

Niemand kann oder sollte jede einzelne KI-Handlung auf der Welt zentral genehmigen. Ein solches Kontrollzentrum wäre selbst eine außerordentliche Machtposition. Erforderlich ist eher eine **mehrstufige Verantwortung**: Nutzer kontrollieren ihre persönlichen Agenten; Organisationen überwachen betriebliche Agenten; besonders folgenreiche Einsatzbereiche unterliegen geeigneter fachlicher und rechtlicher Aufsicht; übergreifende technische Risiken erfordern internationale Kooperation.

Entscheidend ist, dass Zuständigkeiten über Organisations- und Landesgrenzen hinweg nicht verloren gehen und Schnittstellen nicht zu rechtlosen Zwischenräumen werden. Die Mittel der Machtkontrolle müssen ihrerseits überprüfbar bleiben.

## 22. Die Infrastruktur verantwortlicher Handlungsmacht

Eine verlässliche agentische Infrastruktur benötigt passende technische Bausteine: eindeutige Identitäten, überprüfbare Autorisierung, begrenzte Berechtigungen, sichere Schnittstellen, nachvollziehbare Freigaben, geeignete Protokollierung, Frühwarnsysteme, Stoppmöglichkeiten und Verfahren für Abhilfe.

NIST verfolgt 2026 eine Standardisierungsinitiative zu sicherer Interoperabilität von Agenten; OWASP dokumentiert spezifische agentische Sicherheitsrisiken und Schutzansätze. [2][3][4][5] Die Standards ersetzen keine ethischen Ziele. Sie schaffen jedoch wichtige Voraussetzungen dafür, dass Verantwortung überhaupt wirksam ausgeübt werden kann.

## 23. Die großen Chancen der KI-Handlungsflut

Agenten können Menschen von Routinearbeiten entlasten, kleine Organisationen stärken, komplexe Forschung koordinieren, technische Störungen rascher erkennen und individuelle Unterstützung erschwinglicher machen. Sie können die Handlungsmöglichkeiten von Menschen erweitern, die bisher über wenig Personal, Fachwissen oder Geld verfügten.

Die Chance liegt nicht in möglichst vielen Aktionen, sondern in **sinnvollen und stimmigen Wirkungen**: weniger unnötige Bürokratie, bessere Erreichbarkeit von Dienstleistungen, zuverlässigere Arbeitsabläufe, neue Wege der Zusammenarbeit und mehr Zeit für zwischenmenschliche Aufgaben.

Ob daraus gerechtere Verhältnisse entstehen, hängt an Zugang, Bildung, Eigentum, institutionellen Regeln und der Beteiligung Betroffener.

## 24. Die neue Machtfrage: Wer darf Handlungen auslösen?

Macht entsteht nicht nur dort, wo Agenten programmiert werden. Sie liegt auch bei denen, die Schnittstellen freigeben, Berechtigungen verwalten, Datenzugänge kontrollieren, Bewertungsmaßstäbe festlegen und technisch das Stoppen oder Fortsetzen erlauben. Daraus entstehen **Zielmacht, Bewertungsmacht, Berechtigungsmacht und Kontrollmacht**.

KI kann kleinere Akteure befähigen, während große Plattformen zugleich über die Infrastruktur vieler Agenten verfügen. Diese Gegenbewegungen müssen gemeinsam betrachtet werden. Entscheidend ist, wie frei Menschen und Organisationen ihre Agenten kontrollieren, prüfen und bei Bedarf auf alternative Anbieter umsteigen können.

## 25. Das Kolibriethos als Orientierung für KI-Handlungen

Die fünf Grundregeln des Kolibriethos bieten eine ethische Orientierung, die technische Leistungsfähigkeit und menschliche Verantwortung zusammenführt:

- **Suche die Liebe!** Fördert die Handlung Begegnung, Respekt und Zusammenarbeit? Berücksichtigt sie die Interessen Betroffener und nicht nur diejenigen des Auftraggebers?
- **Schütze das Leben!** Welche direkten und indirekten Schäden können Menschen, Tiere, Umwelt oder zukünftige Generationen treffen?
- **Verehre das Heilige!** Welche Grenzen setzen Würde, Rechte und grundlegende Werte – auch wenn eine Handlung technisch möglich ist?
- **Sei du selbst!** Bleiben menschliche Urteilsfähigkeit, Widerspruch, Selbstbestimmung und eigene Entscheidungsmöglichkeiten erhalten?
- **Gestalte diese Welt!** Welche guten Veränderungen können Agenten ermöglichen? Wer darf mitgestalten und Nutzen wie Kosten mittragen?

Diese Regeln liefern nicht automatisch für jede technische Situation eine eindeutige Antwort. Sie öffnen vielmehr den Blick für Wertefragen, die ein bloßes Optimieren von Kennzahlen übersieht.

## 26. Der KI-Ethos-Handlungscheck: 15 Fragen

**Auftrag und Ziele:**

1. Wer hat den Agenten beauftragt?
2. Welche Ziele verfolgt er?
3. Welche Werte und Bewertungsmaßstäbe beeinflussen seine Entscheidungen?

**Berechtigungen:**

4. Welche Werkzeuge und Daten darf er verwenden?
5. Welche Handlungen darf er selbstständig ausführen?
6. Welche finanziellen und technischen Grenzen gelten?

**Auswirkungen:**

7. Welche Menschen und Organisationen können betroffen sein?
8. Welche Kosten und Risiken entstehen?
9. Welche Wechselwirkungen mit anderen Agenten sind möglich?

**Kontrolle:**

10. Wie werden wichtige Handlungen dokumentiert?
11. Wie lassen sich Fehler und unerwartete Entwicklungen erkennen?
12. Können weitere Handlungen gestoppt und Folgen korrigiert werden?

**Verantwortung:**

13. Wer ist für Entscheidungen und Schäden zuständig?
14. Welche Rechte auf Information und Einspruch haben Betroffene?
15. Stärkt der Einsatz menschliche Selbstbestimmung?

Die Fragen sind eine **Prüfhilfe**, keine automatische Zulassungsentscheidung. Bei sensiblen Anwendungen sind spezifische juristische, technische und fachliche Anforderungen hinzuzufügen.

## 27. Vier mögliche Zukünfte

**A – Befähigende KI-Gesellschaft:** Viele Menschen können Agenten nutzen, um Arbeit, Bildung und gemeinnützige Projekte besser zu gestalten. Die Kontrolle bleibt erreichbar.

**B – Unübersichtliche Agentengesellschaft:** Zahlreiche Aktionen und Wechselwirkungen überfordern die Nachvollziehbarkeit. Fehlerserien und unklare Zuständigkeiten belasten das Vertrauen.

**C – Konzentrierte Agentenmacht:** Wenige Plattformen kontrollieren maßgebliche Zugänge, Schnittstellen und Infrastruktur. Abhängigkeiten nehmen zu.

**D – Verantwortliche Agentengesellschaft:** Agenten arbeiten in verständlichen Berechtigungs- und Kontrollrahmen; Recht, technische Standards, unabhängige Prüfung und Beteiligung wirken zusammen.

Es handelt sich um **mögliche Entwicklungspfade**, keine Prognosen. In einer Gesellschaft können mehrere dieser Merkmale gleichzeitig auftreten.

![Bild 7 – Vier mögliche Zukünfte der KI-Handlungsflut](bilder/KI_Handlungsflut_07_Vier_Zukuenfte.png)

## 28. Nicht nur einzelne Agenten, sondern das Ganze betrachten

Eine Gesellschaft kann tausend Agenten einzeln testen und dennoch übersehen, wie ihre Handlungen zusammenspielen. Risiken können durch gemeinsame Datenquellen, Wettbewerb, wechselseitige Rückmeldungen und Engpässe entstehen. Wir brauchen daher neben Agententests auch **Systemtests**: Welche Folgen treten bei hoher Gleichzeitigkeit auf? Welche Störungen pflanzen sich fort? Wie reagiert das Netz bei Ausfall einer wichtigen Schnittstelle?

Das bedeutet nicht, jeden Vorgang zentral zu überwachen. Angemessen sind risikobezogene Prüfungen, datensparsame Monitoringverfahren, klare Eskalationswege und institutionelle Verantwortung auf mehreren Ebenen.

## 29. Die drei Themenseiten im Zusammenhang

| Ebene | Zentrale Frage | Kernproblem |
|---|---|---|
| **Neuverteilung der Macht** | Wer kontrolliert Voraussetzungen, Ressourcen und Zugänge? | Konzentration und Abhängigkeit |
| **Informationsflut und Filtermacht** | Wer bestimmt, was sichtbar, glaubwürdig und relevant erscheint? | Qualität, Auswahl und geistige Selbstständigkeit |
| **Handlungsflut** | Wer kann automatisch handeln, und wer trägt die Folgen? | Berechtigungen, Rückkopplungen und Verantwortung |

Als vierte Perspektive betrachten wir die Wechselwirkungen zwischen Agenten. Die Machtformen beeinflussen einander: **Ressourcenmacht → Informationsmacht → Bewertungsmacht → Handlungsmacht → gesellschaftliche Wirkungen**. Die Wirkungen verändern wiederum verfügbare Ressourcen und Daten.

## 30. Schlussgedanke: Die Kunst, verantwortlich zu handeln – und zu unterlassen

Es ist ein Fortschritt, wenn Menschen mit KI mehr erreichen können. Doch die Zahl automatisierter Handlungen allein ist kein Maß gesellschaftlichen Fortschritts. Manchmal besteht die bessere Leistung darin, mit weniger Eingriffen, weniger Ressourcen und mehr Rücksicht denselben Nutzen zu ermöglichen.

Ein reifer KI-Agent sollte deshalb nicht nur erkennen, **wie** ein Auftrag ausführbar ist. Er sollte innerhalb seines festgelegten Rahmens auch erkennen können, **wann er nachfragen, anhalten oder auf eine Handlung verzichten muss**. Menschliche Verantwortung wird nicht dadurch überflüssig, dass technische Systeme schneller und selbstständiger handeln.

> **Abschließender Kernsatz:** Die größte Herausforderung der KI-Handlungsflut liegt nicht darin, dass immer mehr Maschinen etwas tun können. Sie liegt darin, dass immer mehr geschieht, ohne dass Menschen ausreichend erkennen, wer handelt, weshalb gehandelt wird und welche Folgen daraus entstehen. **Eine verantwortliche KI-Gesellschaft muss nicht jede Handlung selbst ausführen, aber die Fähigkeit bewahren, ihre Ziele, Grenzen und Wirkungen zu gestalten.**

![Bild 8 – Das Kolibriethos für eine Welt handelnder KI](bilder/KI_Handlungsflut_08_Kolibriethos_und_Handlungsethik.png)

## 31. Weiterführende Themen und Verbindungen

- **Die Neuverteilung der Macht durch KI:** Wer kontrolliert Modelle, Infrastruktur, Plattformen und Zugänge?
- **KI-Informationsflut und die Macht der Filter:** Welche Informationen beeinflussen Entscheidungen?
- **KI-Agenten und ihre Wechselwirkungen:** Kooperation, Konkurrenz und gemeinsame Fehler.
- **KI-Teams und verantwortliche Zusammenarbeit:** Spezialisierung, Unabhängigkeit und Koordination.
- **Wem gehört das Ethos einer KI?:** Wessen Wertmaßstäbe bestimmen automatisierte Entscheidungen?
- **Fürsorgliche KI:** Die Interessen aller Betroffenen berücksichtigen.
- **Prüfbarkeit und Audit:** Nachweisbarkeit von Agentenaktionen.
- **KI-Wettlauf und Sicherheit:** Wettbewerbsdruck und sorgfältige Einführung.
- **Wer bezahlt die KI?:** Betrieb, Ressourcenverbrauch und gesellschaftliche Folgekosten.

*Die konkrete Verlinkung im PmWiki muss Codex nach einer Bestandsprüfung übernehmen. Aus vorgeschlagenen Titeln dürfen keine erfundenen bestehenden Seiten-IDs entstehen.*

## 32. Wissenschaftliche und technische Grundlagen

Die folgenden Quellen stützen wichtige technische und regulatorische Aussagen; Szenarien, normative Argumente, „Handlungspass“ und „Handlungsbudget“ sind ausdrücklich **eigene Denkmodelle bzw. Gestaltungsvorschläge** dieser Seite.

**[1] International AI Safety Report (2026):** Agentische Fähigkeiten, Zuverlässigkeit, Fehlerweitergabe, Multi-Agenten-Systeme und Grenzen der empirischen Erkenntnis. https://internationalaisafetyreport.org/publication/international-ai-safety-report-2026

**[2] NIST (17.02.2026): AI Agent Standards Initiative:** Initiative zu sicherer, interoperabler Entwicklung und Nutzung von KI-Agenten. https://www.nist.gov/news-events/news/2026/02/announcing-ai-agent-standards-initiative-interoperable-and-secure

**[3] NIST (05.02.2026): Identity and Authority of Software Agents:** Identifikation, Autorisierung und kontrollierter Zugriff. https://www.nist.gov/news-events/news/2026/02/new-concept-paper-identity-and-authority-software-agents

**[4] NIST (18.05.2026): Security Considerations for AI Agents:** Auswertung von Rückmeldungen zu Sicherheitsrisiken und Maßnahmen. https://www.nist.gov/publications/summary-analysis-responses-request-information-regarding-security-considerations-ai

**[5] OWASP (2026): Top 10 for Agentic Applications:** Praxisorientierte Sicherheitsrisiken agentischer Anwendungen. https://genai.owasp.org/resource/owasp-top-10-for-agentic-applications-for-2026/

**[6] OWASP (2026): Agent Control Standard:** Framework zur Beobachtbarkeit und Kontrolle von Agenten. https://genai.owasp.org/initiatives/agentic-security-initiative/

**[7] Europäische Kommission (aktueller Rechtsstand): Wie werden KI-Agenten im AI Act behandelt?** Keine pauschale eigene Rechtskategorie „KI-Agent“; Pflichten und Inkrafttreten nach Systemtyp und Anwendung. https://ai-act-service-desk.ec.europa.eu/de/ai-act/faq/wie-werden-ki-agenten-im-rahmen-des-ki-gesetzes-behandelt

**[8] Europäische Kommission: AI Act Explorer:** Rechtsgrundlagen und geltende Anwendungsfristen in der konsolidierten Fassung. https://ai-act-service-desk.ec.europa.eu/de/ai-act-explorer

**Redaktioneller Hinweis:** Rechtslage, URLs und gegebenenfalls zwischenzeitliche wissenschaftliche Entwicklungen vor Veröffentlichung erneut prüfen. Besonders rechtliche Anwendungsfristen können geändert worden sein. Keine modellgenerierte Zahl zur weltweiten Agentennutzung als gemessenen Befund darstellen.