Die KI-Handlungsflut

KI-Ethik | Die KI-Handlungsflut

1. Von der Informationsflut zur Handlungsflut

Die erste große Veränderung der künstlichen Intelligenz erleben viele Menschen als Informationsrevolution: KI formuliert Texte, erstellt Bilder, übersetzt, recherchiert und verdichtet Wissen. Eine Antwort kann der Mensch prüfen, verwerfen oder für eigenes Handeln nutzen. Mit KI-Agenten kommt ein entscheidender Schritt hinzu: Ein System kann nicht nur antworten, sondern innerhalb technisch freigegebener Grenzen auch etwas tun.

Ein Agent könnte Angebote einholen, sie vergleichen, Bestellungen vorbereiten und, wenn seine Berechtigungen es erlauben, selbst auslösen. Ein anderer könnte eine Softwareänderung durchführen, Tests starten und anschließend weitere Arbeitsschritte planen. Solche Prozesse können viele einzelne Werkzeugaufrufe und Auswirkungen auf andere Systeme umfassen.

Wir unterscheiden deshalb drei eng verbundene Entwicklungen:

• KI-Informationsflut: Automatisch erzeugte, bearbeitete und verbreitete Informationen nehmen zu. (Texte, Bilder, Audio und Filme)
• KI-Handlungsflut: KI-Systeme können immer mehr Handlungen selbst ausführen oder auslösen. Sie erstellen Apps und Programme, monitoren und steuern immer mehr in unserer Wirklichkeit.
• KI-Wechselwirkungsflut: Handlungen unterschiedlicher Systeme begegnen einander, lösen Reaktionen aus und können sich gegenseitig verstärken oder begrenzen. Wir müssen uns immer mehr mit KI-Aktionen und Erzeugnissen auseinandersetzen. Prüfen und Verstehen ist begrenzt.

Der Zusammenhang lässt sich als Kreislauf beschreiben: Information → Bewertung → Entscheidung → Handlung → veränderte Wirklichkeit → neue Information. Je enger die Schritte automatisiert verbunden sind, desto wichtiger werden die Qualität der Daten, die Grenzen der Handlungsmacht und die Möglichkeiten zur Korrektur.

Bild 1: Von der Informationsflut zur KI-Handlungsflut. Übergang von Informationsproduktion zu tatsächlicher Handlung; Sichtbarkeit, Steuerbarkeit und Verantwortung.

Einordnung der Bildtafel: Wiederkehrende junge männlich gelesene Nutzerfigur. Kleine Beschriftungen in Informationsquellen und Medienfeld sind teilweise entstellt; Handlungsfähigkeit und Verbreitung hängen vom Einsatz ab, keine weltweite Nutzungsstatistik.

2. Was ist ein KI-Agent?

Der Ausdruck KI-Agent wird unterschiedlich verwendet. Als Arbeitsdefinition verstehen wir darunter ein System, das ein Ziel oder einen Auftrag erhält, Informationen aus seiner Umgebung verarbeitet, geeignete Schritte auswählt und über Werkzeuge mit anderen Systemen oder der Welt interagieren kann. Häufig kombiniert es ein KI-Modell mit Programmcode, Werkzeugen, Speicher, Schnittstellen und Berechtigungen. [1][2]

Unterschieden werden können vier Grade der Selbstständigkeit:

1. Beratender Assistent: Er schlägt vor; der Mensch führt selbst aus.
2. Ausführender Assistent: Er bereitet Aktionen vor, benötigt aber entscheidende Freigaben.
3. Teilautonomer Agent: Er handelt selbst innerhalb eines begrenzten Budgets und Auftrags.
4. Weitgehend autonomer Agent: Er verfolgt längere Arbeitsabläufe, plant Zwischenschritte und reagiert auf Rückmeldungen.

Multi-Agenten-Systeme koordinieren mehrere spezialisierte Agenten. Der Grad der Autonomie ist keine einfache Eigenschaft des Grundmodells: Er hängt wesentlich von der gesamten technischen Umgebung ab.

Wichtig: Technische Selbstständigkeit ist kein Nachweis von Bewusstsein, menschlichem Willen oder einer mit Menschen vergleichbaren moralischen Verantwortlichkeit. Die Verantwortung der Organisationen und Menschen bleibt deshalb eine eigenständige Frage.

Bild 2: Wie eine Handlung durch einen KI-Agenten entsteht. Handlungsablauf, praktischer Einkaufsprozess, Beteiligte und vier Autonomiegrade.

Einordnung der Bildtafel: Wiederkehrende männlich gelesene Auftraggeberfigur; kleinere Textfehler im Verantwortungsfeld. Vier Autonomiegrade sind eine didaktische Einteilung, keine technische oder rechtliche Norm. Berechtigungen sind einsatzabhängig.

3. Was daran neu ist – und was nicht

Automatisierung ist nicht neu: Industrieanlagen, automatische Handelssysteme, Suchmaschinen und Verwaltungssysteme handeln seit Langem ohne ständige menschliche Einzelfreigabe. Neu ist die Kombination aus allgemeineren KI-Fähigkeiten, Aufträgen in natürlicher Sprache, vielseitigem Werkzeugzugriff, längeren Prozessketten und der einfachen Vervielfältigung agentischer Abläufe.

Dadurch können auch Einzelpersonen und kleine Organisationen Verfahren einsetzen, die früher beträchtliche Programmier- und Organisationsarbeit verlangten. Gleichzeitig können digitale Prozesse mit Geschwindigkeiten und Umfängen ablaufen, die Menschen nicht mehr einzeln begleiten können.

Es gibt jedoch keine vollständige, belastbare weltweite Zählung sämtlicher KI-Agenten oder ihrer Handlungen. „Handlungsflut“ beschreibt daher ein zu beobachtendes gesellschaftliches Veränderungsmuster, keine exakt gemessene globale Größe. Ebenso wenig ist jede automatisierte Aktion schon ein Fall „autonomer KI“.

4. Die unsichtbare Welt automatisierter Handlungen

Agentische Systeme kommen für zahlreiche Bereiche infrage: Einkauf, Kundenservice, Softwareentwicklung, Wissenschaft, Verwaltungsunterstützung, Logistik, Medien oder Energieplanung. In manchen Bereichen stehen die Anwendungen noch am Anfang; andere nutzen bereits bestimmte agentische Prozesse. Der tatsächliche Autonomiegrad ist sehr verschieden. [1][2]

Viele Handlungen finden im Hintergrund statt: Eine Datenbank wird geändert, eine Nachricht verschickt, ein Softwaretest ausgeführt, ein Lagerbestand angepasst oder eine externe Schnittstelle angesprochen. Für Nutzer und Betroffene ist oft nur das Ergebnis sichtbar. Deshalb darf die tatsächliche Reichweite einer Organisation nicht mehr allein an sichtbaren Mitarbeiterzahlen oder Arbeitsplätzen beurteilt werden.

Die wichtigen Fragen lauten: Wer hat gehandelt? Wessen Auftrag wurde ausgeführt? Welche Systeme wurden verändert? Wer ist betroffen? Eine Handlung kann lokal klein erscheinen und dennoch Teil einer großen weltweiten Wirkungskette sein.

Bild 3: Die unsichtbare Welt der KI-Agenten. Digitale Handlungen bleiben oft unsichtbar, ihre Folgen betreffen die reale Welt.

Einordnung der Bildtafel: Wiederkehrende männlich gelesene Nutzerfigur. Weltkarte, Agenten und acht Felder sind symbolisch, keine gemessene globale Bestandskarte. Medizinische und infrastrukturelle Einsätze benötigen spezifische fachliche Prüfung.

5. Von Einzelhandlungen zu Handlungsketten

Eine isolierte Handlung ist häufig leicht zu begreifen. Ein Agent verschickt eine Nachricht, erstellt einen Termin oder bestellt zehn Ersatzteile. Schwieriger wird es, wenn die Handlung Folgehandlungen anderer Systeme auslöst.

Beispiel: Ein Einkaufsagent bestellt vorsorglich große Rohstoffmengen. Der Lieferant registriert steigende Nachfrage. Ein Prognosesystem korrigiert den erwarteten Bedarf nach oben; ein Preisagent passt Angebote an. Weitere Käufer reagieren auf den Preisanstieg. Im ungünstigen Fall verstärken sich die Bestellungen gegenseitig.

Das ist ein Gedankenexperiment, nicht die Behauptung eines bestimmten dokumentierten Vorfalls. Die Richtung ist offen: Gut koordinierte Systeme können genau solche Überreaktionen auch erkennen und abmildern. Wesentlich ist, dass jede Handlung die Datenlage verändert, auf die weitere Agenten reagieren.

6. Die KI-Wechselwirkungsflut

Agenten können miteinander kooperieren, miteinander konkurrieren oder sich ohne gemeinsame Absicht gegenseitig beeinflussen. Sie können Aufgaben verteilen, Informationen weiterreichen und Resultate anderer Systeme als Ausgangspunkt ihrer nächsten Schritte verwenden.

Mögliche Schwierigkeiten sind Koordinationsfehler, widersprüchliche Ziele, Blockaden gemeinsamer Ressourcen, weitergegebene Fehlinformationen und korrelierte Fehler: Verschiedene Agenten irren sich ähnlich, weil sie die gleichen Modelle, Daten oder Werkzeuge nutzen. Der International AI Safety Report 2026 benennt diese neuen Fehlerarten und betont, dass die empirische Datenlage zu komplexen realen Multi-Agenten-Systemen noch begrenzt ist. [1]

Die Leistungsfähigkeit eines einzelnen Agenten beweist nicht die Zuverlässigkeit des ganzen Netzwerks. Wir müssen sowohl das Verhalten der Teile als auch das Zusammenwirken des Gesamtsystems prüfen.

7. Wenn jeder vernünftig handelt und das Ganze problematisch wird

Ein Agent erfüllt seinen Auftrag, indem er für sein Unternehmen möglichst günstig einkauft. Ein anderer schützt seinen Betreiber durch vorsorgliche Bestellungen. Jeder folgt plausiblen Zielen. Dennoch kann das Zusammenwirken Engpässe vergrößern und die Lage aller verschlechtern. Die Sozialwissenschaft kennt das Spannungsverhältnis von individueller Rationalität und kollektiven Ergebnissen seit Langem.

Die besondere Herausforderung bei KI liegt darin, dass viele ähnlich programmierte Akteure in kurzer Zeit auf ähnliche Signale reagieren können. Das kann vorhandene Probleme beschleunigen; es kann aber auch neue Gegenmaßnahmen ermöglichen. Ein verantwortliches System muss neben dem lokalen Ziel auch die absehbaren Rückwirkungen auf andere berücksichtigen.

Bild 4: Wenn KI-Agenten auf KI-Agenten reagieren. Kooperation, sich selbst verstärkende Rückkopplung und stabilisierende Kontrolle.

Einordnung der Bildtafel: Mehrere kleine Pfeilbeschriftungen sind entstellt. Lieferkettenrückkopplung ist ein Gedankenexperiment; sechs Rollen und vier Folgeschritte sind keine dokumentierte Fallstudie. Ein Kontrollagent garantiert keine Sicherheit.

8. Fünf Ebenen der Kontrollprobleme

Nicht jedes Versagen ist ein Kontrollverlust im umfassenden Sinne. Wir sollten unterscheiden:

1. Einzelfehler: Eine Aktion ist falsch und wird erkannt.
2. Fehlerhafte Handlungskette: Andere Systeme übernehmen die falsche Information.
3. Systemischer Fehler: Viele Agenten reagieren ähnlich oder stören sich gegenseitig.
4. Schwer zu unterbrechender Prozess: Bereits ausgelöste Folgeschritte lassen sich nicht durch das Abschalten des ursprünglichen Agenten zurückholen.
5. Hypothetischer umfassender Kontrollverlust: Ein wesentlich weitreichenderes Zukunftsszenario, bei dem die Wiederherstellung menschlicher Kontrolle sehr schwierig wird.

Diese Ebenen dürfen nicht vermischt werden. Der internationale Sicherheitsbericht unterscheidet heutige praktische Zuverlässigkeitsprobleme ausdrücklich von hypothetischen, viel weiterreichenden Kontrollverlustszenarien und stellt für den Berichtsstand Februar 2026 fest, dass untersuchte Systeme die dafür erforderlichen Fähigkeiten noch nicht besitzen. Das ist eine zeitgebundene Einschätzung, keine Garantie für spätere Systeme. [1]

9. Was macht eine KI-Handlung riskant?

Zur Einschätzung einer Handlung betrachten wir mehr als die Intelligenz des Systems. Relevante Faktoren sind Reichweite, Eingriffstiefe, Geschwindigkeit, Wiederholbarkeit, Vernetzung, Zuverlässigkeit, Umkehrbarkeit, Schadenspotenzial, Nachvollziehbarkeit und Steuerbarkeit.

Eine einfache automatische Mail kann harmlos sein; dieselbe Aktion millionenfach versendet kann erheblichen Schaden verursachen. Eine technisch sehr komplexe Analyse kann dagegen kaum unmittelbare Auswirkungen haben, solange sie nur einen Entwurf liefert. Risiko ist daher eine Eigenschaft von System, Aufgabe, Kontext und Wirkung, nicht allein des KI-Modells.

10. Wer bestimmt die Ziele eines Agenten?

Agenten handeln innerhalb normativ nicht neutraler Rahmenbedingungen: Wer legt den Auftrag fest, definiert Erfolg, setzt Grenzwerte oder entscheidet, welche Interessen zählen? Beim Einkaufsagenten kann „günstig“ den niedrigsten Preis meinen – oder Lebensdauer, Lieferzuverlässigkeit, faire Arbeitsbedingungen und ökologische Folgen berücksichtigen.

Zielvorgaben, Bewertungsfunktionen, Trainingsverfahren, Systemanweisungen, Werkzeuge und Berechtigungen bestimmen gemeinsam, was der Agent tun kann und typischerweise auswählt. Die Macht über die Ziele ist deshalb von der Macht über die Ausführung zu unterscheiden. Wertefragen dürfen nicht unbemerkt als rein technische Einstellungen behandelt werden.

11. Wem gehört die Handlungsmacht?

An einer agentischen Anwendung können mehrere Akteure beteiligt sein: Modellanbieter, Anwendungsentwickler, Betreiber, Auftraggeber, Administrator für Berechtigungen, Prüfinstanzen und betroffene Dritte. Ihre Einflussmöglichkeiten unterscheiden sich.

Falls Schaden entsteht, darf die Verantwortung nicht in wechselseitigen Verweisen verschwinden. Die rechtliche Haftung richtet sich aber nach dem konkreten Fall und dem anwendbaren Recht, nicht pauschal nach einem solchen Schema.

Bild 5: Wer hat die Macht über KI-Handlungen?. Ziele, Bewertung, Berechtigungen und Aufsicht können bei verschiedenen Akteuren liegen.

Einordnung der Bildtafel: Wiederkehrende männlich gelesene Auftraggeberfigur, einzelne Werkzeugbeschriftungen entstellt. Sieben beteiligte Rollen plus Systemrahmen; wiederholte Nummern unten sind keine durchgehende Acht-Schritte-Folge. Einfluss ist nicht mit rechtlicher Haftung gleichzusetzen.

12. Die unsichtbaren Betroffenen

KI-Agenten handeln meist im Interesse eines Auftraggebers; betroffen können aber viele andere sein. Ein Serviceagent lehnt möglicherweise eine Erstattung ab, ein Personalagent sortiert Bewerbungen, ein Einkaufsagent verschärft den Preisdruck auf kleine Zulieferer, ein Verwaltungssystem beeinflusst den Zugang zu einer Leistung.

Eine ethische Prüfung muss fragen, ob die betroffenen Menschen die Entscheidung erkennen, sie sachlich hinterfragen und eine verantwortliche Ansprechstelle erreichen können. Der Auftraggeber ist nicht die einzige Perspektive. Das Interesse derjenigen, die Folgen tragen, gehört in die Gestaltung des Handlungssystems.

13. Die Kosten der KI-Handlungsflut

Digitale Aktionen benötigen Rechenzeit, Strom, Datenverkehr und oft kostenpflichtige Dienste. Agenten können unnötige Suchläufe ausführen, in Schleifen geraten oder mehrere weitere Agenten beauftragen. Zusätzliche Kosten entstehen, wenn Ergebnisse menschlich geprüft, fehlerhafte Daten korrigiert oder unerwünschte Transaktionen rückabgewickelt werden müssen.

Der relevante Unterschied besteht zwischen Kosten für den Auftraggeber und externen Folgekosten. Eine automatisierte Nachricht kann beim Absender kaum Aufwand verursachen, aber bei Empfängern Prüfzeit beanspruchen. Ein ungünstiger Eingriff in Systeme kann Schäden verursachen, die niemand in den API-Preis eingerechnet hat.

Eine faire Beurteilung fragt daher: Wer erhält den Nutzen? Wer zahlt für Betrieb, Prüfung und Wiederherstellung? Wer wird gegen Schäden geschützt? Dabei sind positive gesamtgesellschaftliche Wirkungen ebenso zu berücksichtigen wie mögliche Externalitäten.

14. Brauchen wir ein Handlungsbudget?

Ein KI-Handlungsbudget beschreibt die genehmigten Grenzen eines Agenten. Es kann ein Finanzbudget, Zeitbudget, Rechenbudget, Aktionsbudget, Berechtigungsbudget und risikobezogene Schwellenwerte umfassen.

Ein Agent könnte beispielsweise kleine Bestellungen automatisch freigeben, größere Beträge nur vorbereiten und bei außergewöhnlichen Ereignissen eine erneute Genehmigung verlangen. Solche Schwellenwerte helfen, Handlungsreichweite und unbeabsichtigte Wiederholungen zu begrenzen.

Allerdings ist ein Handlungsbudget kein Ersatz für inhaltliche Sicherheit: Auch eine einzige, formal budgetkonforme Aktion kann einen schweren Schaden verursachen. Grundrechte und erhebliche Lebensrisiken dürfen nicht wie frei handelbare Budgetposten behandelt werden.

15. Erkennen, dass eine KI handelt

Bei der Informationsflut fragen wir nach der Herkunft eines Inhalts. Bei der Handlungsflut zusätzlich: Wer oder was hat eine Handlung ausgelöst? Besonders bei bedeutsamen digitalen Interaktionen können Identität, Autorisierung und der Bezug zu einem konkreten Auftrag wichtig sein.

Ein technischer Handlungspass könnte – abhängig vom Risiko – Betreiber, Agentenidentität, zulässige Handlungstypen, Berechtigungen, Kontrollstellen und Ansprechpartner dokumentieren. Dies ist hier ein Konzeptvorschlag, keine allgemeine gesetzliche Pflicht. Eine pauschale öffentliche Registrierung jeder kleinen Automatisierung wäre weder nötig noch selbstverständlich verhältnismäßig. NIST untersucht ausdrücklich Identität und Autorisierung von Softwareagenten. [3]

16. Eine nachvollziehbare Handlungsgeschichte

Wird später eine problematische Bestellung entdeckt, benötigen die Verantwortlichen Antworten: Was war der Auftrag? Welche Daten lagen vor? Welche Werkzeuge wurden aufgerufen? Welche Freigaben bestanden? Welche Änderung wurde tatsächlich vorgenommen?

Geeignete Ereignisprotokolle, Kennungen, Zeitstempel und die Zuordnung zu Aufgaben helfen beim Nachvollziehen. Sie müssen jedoch zweckgebunden und datensparsam erfolgen, denn vollständige Arbeitsprotokolle können sensible persönliche oder geschäftliche Informationen enthalten. Nicht jeder interne Gedankenschritt einer KI muss aufgezeichnet werden; entscheidend sind überprüfbare, relevante Aktionen und Zustandsänderungen.

17. Zustimmung, Prüfung, Bremse, Stopp, Korrektur

Wichtige Agentensysteme brauchen mehrere Eingriffsmöglichkeiten:

• Zustimmen: Kritische Handlungen werden vor der Ausführung genehmigt.
• Überprüfen: Ergebnisse, Werkzeuge und Folgewirkungen lassen sich kontrollieren.
• Bremsen: Geschwindigkeit, Zahl der Transaktionen und Reichweite werden begrenzt.
• Anhalten: Weitere Ausführungen können unterbunden werden.
• Zurückdrehen: Wo möglich, werden Änderungen rückgängig gemacht oder kompensiert.

Nicht alles lässt sich rückgängig machen. Eine versendete Nachricht, eine offengelegte Information oder ein physischer Schaden bleibt unter Umständen bestehen. Je weniger umkehrbar die Wirkung, desto wichtiger ist die Prüfung vor ihrer Ausführung.

Ein konkreter internationaler Rahmen für Agenten

Singapurs Model AI Governance Framework for Agentic AI, aktualisiert am 20. Mai 2026 empfiehlt begrenzte Vollmachten, bedeutsame menschliche Freigabepunkte und klar zugeordnete Verantwortung. Die Erweiterung behandelt auch Multiagentensysteme, fremde Agenten und Automatisierungsbias. Das ist eine praxisorientierte Orientierung, kein weltweit geltendes Gesetz. Sie konkretisiert einzelne Kontrollfragen dieser Seite; unsere Diagnose einer gesellschaftlichen KI-Handlungsflut wird dadurch nicht als Ganzes empirisch bestätigt.

18. Drei Kontrollstufen: Grün, Gelb, Rot

Ein einfaches Denkmodell ordnet Handlungen nach ihren möglichen Wirkungen:

Die Ampel ist eine vereinfachende Heuristik. Kontext, Häufigkeit, kumulative Wirkung, Rechtslage und mögliche Schwere eines Schadens können eine andere Einstufung erforderlich machen.

Bild 6: Wie wir KI-Handlungen sicher steuern können. Zustimmen, prüfen, bremsen, stoppen und soweit möglich rückgängig machen.

Einordnung der Bildtafel: Wiederkehrende männlich gelesene Auftraggeberfigur, Miniaturschrift im Auftrag unleserlich. Ampel, sechs Budgets und Kontrollfunktionen sind Gestaltungshilfen, keine gesetzliche Einstufung. Irreversible Folgen lassen sich nicht zurückdrehen.

19. Wenn KI ihre eigenen Risiken bewertet

KI kann bei der Risikoanalyse sehr hilfreich sein: Alternativen vergleichen, Widersprüche suchen, Tests planen und mögliche Schwachstellen identifizieren. Doch mehrere Systeme können dieselben Fehler machen, wenn sie auf ähnlichen Modellen oder Daten beruhen. Sprachlich überzeugende Risikoabschätzungen sind keine empirisch bestätigten Sicherheitsnachweise.

Besonders in der medizinischen Forschung, etwa beim KI-gestützten Design biologischer Moleküle, dürfen Strukturvorhersagen oder Simulationen nicht mit nachgewiesener Wirksamkeit und Sicherheit gleichgesetzt werden. Unabhängige Validierung, geeignete Experimente und die einschlägigen fachlichen Prüfverfahren bleiben wesentlich.

Ein verantwortliches System unterscheidet daher klar zwischen Hypothese, Modellprognose, empirischer Prüfung und zulässiger Anwendung.

20. Der KI-Wettlauf als Beschleuniger

Unternehmen und Staaten möchten technologische Vorteile nicht verlieren. Wird ein Agent schneller produktiv als ein Konkurrenzsystem, entsteht Druck, ihn früh auszurollen. Das kann die sorgfältige Untersuchung neuer Risiken erschweren. Je schneller Leistungsfähigkeit wächst, desto deutlicher kann ein Rückstand zwischen Entwicklung und unabhängiger Validierung werden.

Gemeinsame Mindeststandards, gestufte Einführung, Testumgebungen, Auditierbarkeit und sachgerechte Regulierung können verhindern helfen, dass Wettbewerb allein durch die Verlagerung von Risiken auf andere entschieden wird. Die Maßnahmen sollten an reale Risiken angepasst werden, damit sie zugleich Innovation ermöglichen.

21. Wer steuert die weltweite Handlungsflut?

Niemand kann oder sollte jede einzelne KI-Handlung auf der Welt zentral genehmigen. Ein solches Kontrollzentrum wäre selbst eine außerordentliche Machtposition. Erforderlich ist eher eine mehrstufige Verantwortung: Nutzer kontrollieren ihre persönlichen Agenten; Organisationen überwachen betriebliche Agenten; besonders folgenreiche Einsatzbereiche unterliegen geeigneter fachlicher und rechtlicher Aufsicht; übergreifende technische Risiken erfordern internationale Kooperation.

Entscheidend ist, dass Zuständigkeiten über Organisations- und Landesgrenzen hinweg nicht verloren gehen und Schnittstellen nicht zu rechtlosen Zwischenräumen werden. Die Mittel der Machtkontrolle müssen ihrerseits überprüfbar bleiben.

22. Die Infrastruktur verantwortlicher Handlungsmacht

Eine verlässliche agentische Infrastruktur benötigt passende technische Bausteine: eindeutige Identitäten, überprüfbare Autorisierung, begrenzte Berechtigungen, sichere Schnittstellen, nachvollziehbare Freigaben, geeignete Protokollierung, Frühwarnsysteme, Stoppmöglichkeiten und Verfahren für Abhilfe.

NIST verfolgt 2026 eine Standardisierungsinitiative zu sicherer Interoperabilität von Agenten; OWASP dokumentiert spezifische agentische Sicherheitsrisiken und Schutzansätze. [2][3][4][5] Die Standards ersetzen keine ethischen Ziele. Sie schaffen jedoch wichtige Voraussetzungen dafür, dass Verantwortung überhaupt wirksam ausgeübt werden kann.

23. Die großen Chancen der KI-Handlungsflut

Agenten können Menschen von Routinearbeiten entlasten, kleine Organisationen stärken, komplexe Forschung koordinieren, technische Störungen rascher erkennen und individuelle Unterstützung erschwinglicher machen. Sie können die Handlungsmöglichkeiten von Menschen erweitern, die bisher über wenig Personal, Fachwissen oder Geld verfügten.

Die Chance liegt nicht in möglichst vielen Aktionen, sondern in sinnvollen und stimmigen Wirkungen: weniger unnötige Bürokratie, bessere Erreichbarkeit von Dienstleistungen, zuverlässigere Arbeitsabläufe, neue Wege der Zusammenarbeit und mehr Zeit für zwischenmenschliche Aufgaben.

Ob daraus gerechtere Verhältnisse entstehen, hängt an Zugang, Bildung, Eigentum, institutionellen Regeln und der Beteiligung Betroffener.

24. Die neue Machtfrage: Wer darf Handlungen auslösen?

Macht entsteht nicht nur dort, wo Agenten programmiert werden. Sie liegt auch bei denen, die Schnittstellen freigeben, Berechtigungen verwalten, Datenzugänge kontrollieren, Bewertungsmaßstäbe festlegen und technisch das Stoppen oder Fortsetzen erlauben. Daraus entstehen Zielmacht, Bewertungsmacht, Berechtigungsmacht und Kontrollmacht.

KI kann kleinere Akteure befähigen, während große Plattformen zugleich über die Infrastruktur vieler Agenten verfügen. Diese Gegenbewegungen müssen gemeinsam betrachtet werden. Entscheidend ist, wie frei Menschen und Organisationen ihre Agenten kontrollieren, prüfen und bei Bedarf auf alternative Anbieter umsteigen können.

25. Das Kolibriethos als Orientierung für KI-Handlungen

Die fünf Grundregeln des Kolibriethos bieten eine ethische Orientierung, die technische Leistungsfähigkeit und menschliche Verantwortung zusammenführt:

• Suche die Liebe! Fördert die Handlung Begegnung, Respekt und Zusammenarbeit? Berücksichtigt sie die Interessen Betroffener und nicht nur diejenigen des Auftraggebers?
• Schütze das Leben! Welche direkten und indirekten Schäden können Menschen, Tiere, Umwelt oder zukünftige Generationen treffen?
• Verehre das Heilige! Welche Grenzen setzen Würde, Rechte und grundlegende Werte – auch wenn eine Handlung technisch möglich ist?
• Sei du selbst! Bleiben menschliche Urteilsfähigkeit, Widerspruch, Selbstbestimmung und eigene Entscheidungsmöglichkeiten erhalten?
• Gestalte diese Welt! Welche guten Veränderungen können Agenten ermöglichen? Wer darf mitgestalten und Nutzen wie Kosten mittragen?

Diese Regeln liefern nicht automatisch für jede technische Situation eine eindeutige Antwort. Sie öffnen vielmehr den Blick für Wertefragen, die ein bloßes Optimieren von Kennzahlen übersieht.

26. Der KI-Ethos-Handlungscheck: 15 Fragen

Auftrag und Ziele:

1. Wer hat den Agenten beauftragt?
2. Welche Ziele verfolgt er?
3. Welche Werte und Bewertungsmaßstäbe beeinflussen seine Entscheidungen?

Berechtigungen:

1. Welche Werkzeuge und Daten darf er verwenden?
2. Welche Handlungen darf er selbstständig ausführen?
3. Welche finanziellen und technischen Grenzen gelten?

Auswirkungen:

1. Welche Menschen und Organisationen können betroffen sein?
2. Welche Kosten und Risiken entstehen?
3. Welche Wechselwirkungen mit anderen Agenten sind möglich?

Kontrolle:

1. Wie werden wichtige Handlungen dokumentiert?
2. Wie lassen sich Fehler und unerwartete Entwicklungen erkennen?
3. Können weitere Handlungen gestoppt und Folgen korrigiert werden?

Verantwortung:

1. Wer ist für Entscheidungen und Schäden zuständig?
2. Welche Rechte auf Information und Einspruch haben Betroffene?
3. Stärkt der Einsatz menschliche Selbstbestimmung?

Die Fragen sind eine Prüfhilfe, keine automatische Zulassungsentscheidung. Bei sensiblen Anwendungen sind spezifische juristische, technische und fachliche Anforderungen hinzuzufügen.

27. Vier mögliche Zukünfte

A – Befähigende KI-Gesellschaft: Viele Menschen können Agenten nutzen, um Arbeit, Bildung und gemeinnützige Projekte besser zu gestalten. Die Kontrolle bleibt erreichbar.

B – Unübersichtliche Agentengesellschaft: Zahlreiche Aktionen und Wechselwirkungen überfordern die Nachvollziehbarkeit. Fehlerserien und unklare Zuständigkeiten belasten das Vertrauen.

C – Konzentrierte Agentenmacht: Wenige Plattformen kontrollieren maßgebliche Zugänge, Schnittstellen und Infrastruktur. Abhängigkeiten nehmen zu.

D – Verantwortliche Agentengesellschaft: Agenten arbeiten in verständlichen Berechtigungs- und Kontrollrahmen; Recht, technische Standards, unabhängige Prüfung und Beteiligung wirken zusammen.

Es handelt sich um mögliche Entwicklungspfade, keine Prognosen. In einer Gesellschaft können mehrere dieser Merkmale gleichzeitig auftreten.

Bild 7: Vier mögliche Zukünfte der KI-Handlungsflut. Gesellschaftliche Entscheidungen bestimmen die Verteilung von Nutzen, Macht und Verantwortung.

Einordnung der Bildtafel: Vier Zukunftsbilder sind kombinierbare Szenarien ohne Wahrscheinlichkeitsprognose. Gute Kontrolle und gesellschaftliche Beteiligung bleiben Ziele, keine Sicherheitsgarantie.

28. Nicht nur einzelne Agenten, sondern das Ganze betrachten

Eine Gesellschaft kann tausend Agenten einzeln testen und dennoch übersehen, wie ihre Handlungen zusammenspielen. Risiken können durch gemeinsame Datenquellen, Wettbewerb, wechselseitige Rückmeldungen und Engpässe entstehen. Wir brauchen daher neben Agententests auch Systemtests: Welche Folgen treten bei hoher Gleichzeitigkeit auf? Welche Störungen pflanzen sich fort? Wie reagiert das Netz bei Ausfall einer wichtigen Schnittstelle?

Das bedeutet nicht, jeden Vorgang zentral zu überwachen. Angemessen sind risikobezogene Prüfungen, datensparsame Monitoringverfahren, klare Eskalationswege und institutionelle Verantwortung auf mehreren Ebenen.

29. Die drei Themenseiten im Zusammenhang

Als vierte Perspektive betrachten wir die Wechselwirkungen zwischen Agenten. Die Machtformen beeinflussen einander: Ressourcenmacht → Informationsmacht → Bewertungsmacht → Handlungsmacht → gesellschaftliche Wirkungen. Die Wirkungen verändern wiederum verfügbare Ressourcen und Daten.

30. Schlussgedanke: Die Kunst, verantwortlich zu handeln – und zu unterlassen

Es ist ein Fortschritt, wenn Menschen mit KI mehr erreichen können. Doch die Zahl automatisierter Handlungen allein ist kein Maß gesellschaftlichen Fortschritts. Manchmal besteht die bessere Leistung darin, mit weniger Eingriffen, weniger Ressourcen und mehr Rücksicht denselben Nutzen zu ermöglichen.

Ein reifer KI-Agent sollte deshalb nicht nur erkennen, wie ein Auftrag ausführbar ist. Er sollte innerhalb seines festgelegten Rahmens auch erkennen können, wann er nachfragen, anhalten oder auf eine Handlung verzichten muss. Menschliche Verantwortung wird nicht dadurch überflüssig, dass technische Systeme schneller und selbstständiger handeln.

Bild 8: Das Kolibriethos für eine Welt handelnder KI. Lebensschutz, Begegnung, Würde, Selbstbestimmung und Weltgestaltung als ethischer Rahmen.

Einordnung der Bildtafel: Wiederkehrende männlich gelesene Nutzerfigur. Fünf Grundregeln korrekt; die fünf zusätzlichen Schutzprinzipien unten sind eine Anwendung, keine Ersatz-Grundregeln. Heiligkeit ist eine offene ethische Perspektive; keine verbindliche Religion und kein Nachweis von KI-Erleben.

31. Weiterführende Themen und Verbindungen

• KI ermöglicht Neues – Werden wir es auch tun? – Handlungsmöglichkeiten in verantwortliche und tragfähige Vorhaben übersetzen.
• KI und die Überforderung durch Möglichkeiten – Prüfkapazität, offene Verpflichtungen und verantwortlicher Projektabschluss.
• Die Neuverteilung der Macht durch KI: Wer kontrolliert Modelle, Infrastruktur, Plattformen und Zugänge?
• KI-Informationsflut und die Macht der Filter: Welche Informationen beeinflussen Entscheidungen?
• KI-Agenten und ihre Wechselwirkungen: Kooperation, Konkurrenz und gemeinsame Fehler.
• KI-Teams und verantwortliche Zusammenarbeit: Spezialisierung, Unabhängigkeit und Koordination.
• Wem gehört das Ethos einer KI?: Wessen Wertmaßstäbe bestimmen automatisierte Entscheidungen?
• Fürsorgliche KI: Die Interessen aller Betroffenen berücksichtigen.
• Prüfbarkeit und Audit: Nachweisbarkeit von Agentenaktionen.
• KI-Wettlauf und Sicherheit: Wettbewerbsdruck und sorgfältige Einführung.
• Wer bezahlt die KI?: Betrieb, Ressourcenverbrauch und gesellschaftliche Folgekosten.

Weitere Themen sind Vertiefungsvorschläge; eigene Seiten werden damit nicht als vorhanden vorausgesetzt. Ergänzend: Alignment und die fünf Grundregeln.

32. Wissenschaftliche und technische Grundlagen

Die folgenden Quellen stützen wichtige technische und regulatorische Aussagen; Szenarien, normative Argumente, „Handlungspass“ und „Handlungsbudget“ sind ausdrücklich eigene Denkmodelle bzw. Gestaltungsvorschläge dieser Seite.

[1] International AI Safety Report (2026): Agentische Fähigkeiten, Zuverlässigkeit, Fehlerweitergabe, Multi-Agenten-Systeme und Grenzen der empirischen Erkenntnis. https://internationalaisafetyreport.org/publication/international-ai-safety-report-2026

[2] NIST (17.02.2026): AI Agent Standards Initiative: Initiative zu sicherer, interoperabler Entwicklung und Nutzung von KI-Agenten. https://www.nist.gov/news-events/news/2026/02/announcing-ai-agent-standards-initiative-interoperable-and-secure

[3] NIST (05.02.2026): Identity and Authority of Software Agents: Identifikation, Autorisierung und kontrollierter Zugriff. https://www.nist.gov/news-events/news/2026/02/new-concept-paper-identity-and-authority-software-agents

[4] NIST (18.05.2026): Security Considerations for AI Agents: Auswertung von Rückmeldungen zu Sicherheitsrisiken und Maßnahmen. https://www.nist.gov/publications/summary-analysis-responses-request-information-regarding-security-considerations-ai

[5] OWASP (2026): Top 10 for Agentic Applications: Praxisorientierte Sicherheitsrisiken agentischer Anwendungen. https://genai.owasp.org/resource/owasp-top-10-for-agentic-applications-for-2026/

[6] OWASP (2026): Agent Control Standard: Framework zur Beobachtbarkeit und Kontrolle von Agenten. https://genai.owasp.org/initiatives/agentic-security-initiative/

[7] Europäische Kommission (aktueller Rechtsstand): Wie werden KI-Agenten im AI Act behandelt? Keine pauschale eigene Rechtskategorie „KI-Agent“; Pflichten und Inkrafttreten nach Systemtyp und Anwendung. https://ai-act-service-desk.ec.europa.eu/de/ai-act/faq/wie-werden-ki-agenten-im-rahmen-des-ki-gesetzes-behandelt

[8] Europäische Kommission: AI Act Explorer: Rechtsgrundlagen und geltende Anwendungsfristen in der konsolidierten Fassung. https://ai-act-service-desk.ec.europa.eu/de/ai-act-explorer

Rechtsstand und Grenzen der Quellenprüfung (26.10.2026): Der Begriff KI-Agent begründet keine eigene pauschale Risikokategorie. Die ältere Kommissions-FAQ enthält noch eine Zeitangabe zu Hochrisiko-Anforderungen, die nicht unverändert übernommen wird. Die Verordnung (EU) 2026/1744 änderte den AI Act; die offizielle portugiesische Digitalbehörde erläutert die verschobenen Fristen: Anhang-III-Hochrisikosysteme ab 2.12.2027, entsprechende produktgebundene Hochrisiko-Anforderungen ab 2.8.2028. Dies verschiebt nicht pauschal andere bereits geltende Pflichten. Die konkrete Zuordnung bleibt vom System und Einsatz abhängig. Offizielle Behördenübersicht vom 10.9.2026; Änderungsverordnung im EU-Amtsblatt. Der direkte EUR-Lex-Volltext war bei dieser Prüfung durch eine technische Zugangsabfrage nicht auslesbar; die Fristen wurden anhand der offiziellen Behördenübersicht geprüft. Keine globale Agentenzahl wird als gemessener Befund behauptet.

• Unveränderte Markdown-Hauptquelle des Importpakets

Integriert und Quellen geprüft: 26. Oktober 2026.

Zur KI-Ethik-Übersicht

Internationale Quellen ergänzt und punktuell geprüft: 28. Oktober 2026. Quellenstand und Abrufgrenzen.

<< Die KI-Informationsflut und die Macht der Filter | KiEthik.Navigation | KI-Wettlauf und Sicherheit >>