# Die unsichere menschliche Welt – Ethische Defizite, Macht und institutionelle Schwächen

**KI-Sicherheit in einer unsicheren Welt · Teil 1 von 3**  
**KI-Ethos · Redaktioneller Entwurf · Stand: 14. November 2026**

> **Bevor wir fragen, wie sicher künstliche Intelligenz ist, müssen wir fragen, wie sicher die menschlichen Ziele und Strukturen sind, denen wir diese Intelligenz anvertrauen.**

[Zur Übersicht](KIS-00-Ueberblick.md) · [Weiter zu Teil 2](KIS-02-KI-Als-Umbruchskraft.md) · [Teil 3](KIS-03-Zukunftsfaehige-KI-Sicherheit.md)

## 1. Ausgangspunkt: Wir haben bereits eine Sicherheitskrise

Über Sicherheit von KI wird häufig gesprochen, als träfe eine neuartige Gefahrenquelle auf eine ansonsten geordnete Welt. Doch die Wirklichkeit ist komplizierter. Menschen können bereits ohne KI Kriege führen, Gesellschaften unterdrücken, Daten missbrauchen, wirtschaftliche Krisen auslösen und Lebensgrundlagen zerstören. Technische Neuerungen verändern die Reichweite dieser Möglichkeiten; sie erzeugen die grundlegenden moralischen Konflikte nicht aus dem Nichts.

Auch die bestehenden Gegenmittel sind ambivalent. Das Recht begrenzt Macht, kann aber missachtet oder instrumentalisiert werden. Der Staat schützt Menschen, kann sie aber auch verfolgen. Märkte koordinieren Versorgung und Innovation, können jedoch kurzfristige Anreize setzen, die langfristig schaden. Religionsgemeinschaften können Orientierung, Hilfe und Solidarität geben, aber ebenso ungerechtfertigte Autoritätsansprüche ausbilden. Sicherheit muss daher **institutionelle Qualität und Machtverhältnisse** mitbetrachten.

Die empirische Ausgangslage ist ernst, ohne dass daraus eine pauschale Diagnose des Weltverfalls folgt. Nach SIPRI gab es 2025 bewaffnete Konflikte in 49 Staaten; die weltweiten Militärausgaben erreichten etwa 2,887 Billionen US-Dollar [Q1]. Das ist ein Hinweis auf fortbestehende Gewalt und auf enorme Ressourcen, die mit Sicherheitskonflikten verbunden sind. Es belegt jedoch für sich allein weder, dass sämtliche menschlichen Institutionen scheitern, noch, dass KI diese Entwicklung zwangsläufig verschärfen wird.

## 2. Zwischen Menschenrechten und gesellschaftlicher Praxis

Verfassungen, Menschenrechte und ethische Traditionen sind nicht bloß schöne Worte. Sie ermöglichen Kritik, Rechtsschutz und politische Veränderung. Ohne sie wären viele Machtansprüche noch schwerer anfechtbar. Zugleich garantieren Normen nicht automatisch ihre eigene Umsetzung.

Drei Ebenen müssen zusammenkommen:

1. **Normative Anerkennung:** Was gilt als richtig und schützenswert – etwa Würde, Freiheit, Gerechtigkeit oder Schutz vor Gewalt?
2. **Institutionelle Umsetzung:** Welche Gerichte, Prüfverfahren, Verantwortlichkeiten und Rechte machen diese Werte einklagbar und überprüfbar?
3. **Tatsächliches Handeln:** Welche Anreize, Gewohnheiten, Informationen und Machtverhältnisse bestimmen die alltäglichen Entscheidungen?

Ein Staat kann Pressefreiheit versprechen und dennoch kritische Stimmen einschüchtern. Ein Unternehmen kann Transparenz zum Leitwert erklären und zugleich Informationen verstecken, die seiner Selbstdarstellung schaden. Ein Mensch kann an gerechte Grundsätze glauben und in einer konkreten Situation aus Angst, Bequemlichkeit oder Gruppendruck anders handeln.

**Das Sicherheitsproblem liegt oft weniger im Fehlen guter Grundsätze als in ihrer mangelnden Verbindlichkeit unter realen Macht- und Interessenkonflikten.**

## 3. Drei Arten menschlicher Unsicherheit

### 3.1 Ethische Unsicherheit

Menschen unterscheiden sich in ihren Vorstellungen vom guten Leben; zugleich besitzen sie begrenztes Wissen und unterliegen kognitiven Verzerrungen. Gruppen können ihre eigenen Interessen für allgemeingültig halten. Der Wunsch nach Zugehörigkeit, Angst vor Verlust und Konkurrenzdruck können sogar anerkannte Werte verdrängen.

Ethische Reflexion muss deshalb über starre Regeln hinausgehen. Es reicht nicht, die richtigen Wörter zu kennen. Man muss Perspektiven wechseln, Grenzfälle prüfen, Interessen offenlegen, Zweifel zulassen und Betroffene anhören können. KI kann bei solchen Prüfungen helfen, aber ihre Antworten unterliegen ebenfalls Verzerrungen und Fehlern.

### 3.2 Institutionelle Unsicherheit

Institutionen sollen Entscheidungen berechenbar, überprüfbar und gerecht machen. Doch auch sie können versagen: Kompetenzen sind unklar verteilt, Zuständigkeiten werden verschoben, Aufsicht ist schwach, Beschwerden bleiben folgenlos oder eine Organisation kontrolliert die Daten, mit denen sie selbst bewertet werden soll.

Hier entsteht ein strukturelles Problem, das nicht durch die moralische Qualität einzelner Führungspersonen gelöst wird. Gute Personen können in schlechten Strukturen scheitern; durchschnittlich gute Personen können durch kluge Strukturen zu verantwortlichem Handeln befähigt werden.

### 3.3 Strukturelle und materielle Unsicherheit

Auch ohne böse Absicht können Systeme schädliche Ergebnisse erzeugen. Wenn kurzfristige Renditen belohnt, langfristige Kosten aber auf andere Menschen und die Umwelt abgewälzt werden, entsteht ein Anreiz zu riskantem Verhalten. Wenn staatliche Stellen durch Leistungskennzahlen bewertet werden, können sie dazu verleitet werden, die Kennzahl statt des tatsächlichen Problems zu optimieren.

Im Zusammenhang mit KI verschärft sich dieses bekannte Problem: Was schnell und leicht messbar ist, wird bevorzugt automatisiert. Was schwer messbar, aber menschlich wichtig ist – Vertrauen, Beziehung, Würde, Fürsorge –, gerät möglicherweise aus dem Blick.

## 4. Macht: Nicht nur wer handeln kann, sondern wer Rechenschaft schuldet

Macht ist nicht grundsätzlich schlecht. Sie ermöglicht Schutz, Organisation und gemeinsames Handeln. Entscheidend ist, **wie Macht erlangt, gerechtfertigt, begrenzt und kontrolliert wird**.

Für die KI-Sicherheit ergeben sich daraus Fragen, die über die Qualität eines Modells hinausgehen: Wer legt seine Ziele fest? Wem gehören die Daten? Wer kann die Modellgewichte besitzen und verändern? Wer bestimmt die Zugangsbeschränkungen? Wer entscheidet, wann der Einsatz als erfolgreich gilt? Kann eine betroffene Person Einspruch erheben?

Die These „Wir müssen KI unter menschlicher Kontrolle halten“ ist notwendig, aber unvollständig. Denn „der Mensch“ ist kein einheitlicher Akteur. Es gibt demokratisch legitimierte Institutionen, konkurrierende Staaten, Unternehmen, Behörden, Wissenschaftler, Bürgerinnen und Bürger sowie kriminelle Gruppen. Ihre Interessen sind nicht identisch.

**Wer kontrolliert die Kontrollierenden?** Ohne diese zweite Frage kann Sicherheit zur Rechtfertigung einer Machtkonzentration werden.

## 5. Demokratie, Rechtsstaat und autoritäre Herrschaft unterscheiden

Eine ernsthafte Kritik menschlicher Unsicherheit darf Unterschiede zwischen politischen Systemen nicht verwischen. In rechtsstaatlichen Demokratien existieren etwa unabhängige Gerichte, eine freie Presse, organisierte Opposition, Kontrollrechte und Möglichkeiten friedlicher Machtwechsel. Diese Einrichtungen begrenzen Übergriffe, wenn auch unvollkommen.

Autoritäre Systeme können Kontrollmöglichkeiten systematisch einschränken. Das UN-Menschenrechtsbüro kam in seiner Bewertung der Lage in Xinjiang 2022 zu dem Schluss, dass die dokumentierten willkürlichen und diskriminierenden Inhaftierungen von Uiguren und anderen mehrheitlich muslimischen Gruppen internationale Verbrechen, insbesondere Verbrechen gegen die Menschlichkeit, darstellen könnten [Q2]. Solche Feststellungen beziehen sich auf dokumentierte staatliche Praktiken; sie dürfen nicht zur pauschalen moralischen Zuschreibung gegenüber Bevölkerungen verwendet werden.

Das Problem digitaler Überwachung betrifft aber nicht nur einen Staat. Grundrechte können auch in Demokratien unter Druck geraten, besonders wenn Geheimhaltung, nationale Sicherheit oder wirtschaftliche Interessen eine unabhängige Kontrolle erschweren. Der Maßstab sollte deshalb überall lauten: **Werden die Grundrechte der Betroffenen wirksam geschützt, und gibt es unabhängige Korrekturmöglichkeiten?**

## 6. Sicherheit als Vorwand der Machterhaltung

Es gibt ein wiederkehrendes Paradox: Eine Organisation kann sich auf die Abwehr einer realen Gefahr berufen und dabei Mittel entwickeln, die selbst neue Gefahren schaffen. Überwachung kann einzelne Delikte aufklären, aber ohne klare Grenzen die Privatsphäre vieler Unbeteiligter verletzen. Geheimhaltung kann Sicherheitsinteressen schützen, aber ebenso Verantwortungsflucht verdecken. Technische Kontrolle kann Missbrauch erschweren und zugleich bestimmte Anbieter unangreifbar machen.

Daraus folgt weder, dass jede Kontrolle schlecht ist, noch, dass man Sicherheitsinteressen ignorieren sollte. Es folgt: Jede Sicherheitsmaßnahme braucht eine **eigenständige Prüfung ihrer Verhältnismäßigkeit, Rechenschaftspflicht und Nebenfolgen**.

Ein Prüfschema:

| Frage | Ethischer Maßstab |
|---|---|
| Welche konkrete Gefahr wird abgewehrt? | Nachweisbare und klar benannte Risiken |
| Wer erhält durch die Maßnahme neue Macht? | Offengelegte Zuständigkeiten und Grenzen |
| Wer könnte unberechtigt betroffen sein? | Grundrechte und Diskriminierungsschutz |
| Wie wird die Maßnahme überprüft? | Unabhängige Kontrolle und Öffentlichkeit |
| Gibt es ein milderes Mittel? | Verhältnismäßigkeit |
| Wie kann ein Fehler korrigiert werden? | Einspruch, Wiedergutmachung, Rückbau |

## 7. Gesellschaftliche und wirtschaftliche Anreize

Unternehmen können einen erheblichen Nutzen stiften und gleichzeitig in Konkurrenz zueinander stehen. Das kann Innovation vorantreiben, aber auch dazu führen, dass Vorteile schnell eingeführt und Risiken erst später sichtbar werden. Behörden können auf neue Technik angewiesen sein, obwohl die Kompetenzen für die unabhängige Prüfung fehlen. Bürger können leistungsfähige Hilfsmittel nutzen und schleichend die Fähigkeit verlieren, deren Ergebnisse einzuschätzen.

Der *International AI Safety Report 2026* beschreibt diese Konstellation als Verbindung technischer und institutioneller Probleme: Neue Modellfähigkeiten sind schwer vorherzusagen, die Wirkung vorab durchgeführter Tests ist begrenzt und wirtschaftliche Anreize können die Offenlegung von Informationen und sorgfältige Risikoarbeit erschweren [Q3].

Die ILO schätzte 2025, dass weltweit etwa ein Viertel aller Beschäftigten in Berufen mit zumindest einem gewissen Expositionsgrad gegenüber generativer KI arbeitet. **Exposition bedeutet nicht automatisch Arbeitsplatzverlust**; die Studie erwartet in vielen Bereichen eher eine Umgestaltung der Arbeit und unterstreicht die Bedeutung des sozialen Dialogs [Q4]. Auch darin zeigt sich: Sicherheit umfasst die Gestaltung des Übergangs, nicht bloß den Schutz eines Computerprogramms.

## 8. Wir sollten nicht jede alte Ordnung für schützenswert halten

Ein wesentlicher Gegenpunkt zur Sorge vor Instabilität lautet: Manche Ordnungen sind gerade deshalb unsicher, weil sie Unterdrückung, Gewalt oder Ungerechtigkeit stabilisieren. Ihre Veränderung kann Menschen zunächst verunsichern und sie langfristig freier und sicherer machen.

Der Begriff „Stabilität“ ist daher normativ unzureichend. Zu fragen ist:

- **Stabilität für wen?** Für die Herrschenden oder für diejenigen, die unter einer Ordnung leben?
- **Stabilität wovon?** Von Verwaltung und Versorgung oder von unangefochtener Unterdrückung?
- **Stabilität zu welchem Preis?** Welche Freiheits- und Entwicklungsmöglichkeiten gehen verloren?

Eine sichere Gesellschaft braucht nicht Unveränderlichkeit, sondern **berechenbare Regeln und die Fähigkeit zu friedlicher, verantwortlicher Veränderung**.

## 9. Welche konstruktive Rolle kann KI spielen?

KI kann Rechtsnormen vergleichen, widersprüchliche Begründungen sichtbar machen, auf ungewöhnliche Muster bei öffentlichen Ausgaben hinweisen, Debatten zusammenfassen und Perspektiven marginalisierter Gruppen besser zugänglich machen. Sie kann helfen, die Folgen politischer Maßnahmen systematischer zu untersuchen.

Doch diese Leistungen haben Grenzen. Ein Algorithmus, der eine verdächtige Finanztransaktion entdeckt, beweist damit keine Straftat. Eine KI, die Machtmissbrauch vermutet, darf niemanden ohne nachprüfbare Belege verurteilen. Und eine Maschine, die viele ethische Traditionen kennt, hat damit noch keine unanfechtbare moralische Autorität.

Wir brauchen deshalb eine **kritische Zusammenarbeit**: KI als Instrument der Wahrnehmung und des Vergleichs, Menschen und rechtsstaatliche Institutionen als verantwortliche Instanzen für Entscheidungen, Begründung und Rechtsmittel. Wenn sich künftig neue Fragen nach Autonomie und moralischem Status künstlicher Akteure stellen, dürfen diese nicht durch bloße technische Leistungsbehauptungen entschieden werden.

## 10. Warnsignale für eine bereits unsichere Ausgangslage

Eine Gesellschaft oder Organisation sollte ihre Sicherheitsfähigkeit nicht nur an der Zahl von Vorschriften messen. Nützlich sind beobachtbare Fragen:

| Bereich | Warnsignal | Mögliche Gegenmaßnahme |
|---|---|---|
| Rechtsschutz | Betroffene können Entscheidungen kaum anfechten | Niedrigschwellige Beschwerde- und Prüfwege |
| Transparenz | Über Risiken informiert vor allem die kontrollierte Organisation selbst | Unabhängige Untersuchungen und Audit-Rechte |
| Öffentlichkeit | Kritik führt zu Einschüchterung | Schutz von Medien, Forschung und Hinweisgebenden |
| Ökonomie | Schäden werden ausgelagert, Gewinne privatisiert | Haftung und verursachungsgerechte Kosten |
| Bildung | Menschen übernehmen Ergebnisse ungeprüft | Urteilsfähigkeit und Quellenkompetenz |
| Institutionen | Zuständigkeiten verschwimmen | Klar dokumentierte Entscheidungsketten |
| Sicherheit | Notfallbefugnisse werden dauerhaft | Befristung, parlamentarische und gerichtliche Kontrolle |

Diese Indikatoren sind **Arbeitsvorschläge**, kein wissenschaftlich validierter Gesamtindex.

## 11. Perspektive des Kolibriethos

Im Kolibriethos können die Grundbegriffe **Situation, Grenzen, Netz, Begegnung und Auslegen** helfen, Sicherheit nicht nur technisch zu behandeln. Welche konkrete Situation liegt vor? Wessen Grenzen werden überschritten? Welche Wirkungen laufen durch das Netz der Beziehungen? Werden Betroffene als Gegenüber wahrgenommen? Wie legen wir unklare Informationen aus, ohne vorschnell absolute Gewissheit zu behaupten?

Diese Fragen ersetzen keine Gesetze, Tests oder wissenschaftlichen Untersuchungen. Sie können aber einen umfassenderen Blick auf menschliche Verletzlichkeit und verantwortliche Zusammenarbeit ermöglichen.

## 12. Ergebnis und Übergang

Die menschliche Welt ist nicht vollständig unsicher und nicht vollständig sicher. Sie verfügt über wertvolle Schutzmechanismen und über erschreckende Möglichkeiten des Machtmissbrauchs. **KI verstärkt nicht einfach „die Menschheit“; sie trifft auf konkrete, ungleiche Akteure und widersprüchliche Strukturen.** Wer KI-Sicherheit ernst nimmt, muss deshalb nicht nur Modelle prüfen, sondern ebenso ihre Auftraggeber, Anreize, Kontrolleure und gesellschaftlichen Folgen.

[Teil 2 untersucht, wie KI genau diese Machtordnungen verändert – und wo ihr Wachstum auf Grenzen stößt.](KIS-02-KI-Als-Umbruchskraft.md)

---

## Quellen und weiterführende Literatur

- **[Q1]** SIPRI, *Global trends in armed conflict* (Yearbook 2026): https://www.sipri.org/yearbook/2026/02 ; *Trends in World Military Expenditure, 2025* (April 2026): https://www.sipri.org/publications/2026/sipri-fact-sheets/trends-world-military-expenditure-2025
- **[Q2]** UN-Menschenrechtsbüro (OHCHR), *Assessment of human rights concerns in the Xinjiang Uyghur Autonomous Region* (2022), vgl. Dokumentation der UN-Sonderverfahren: https://digitallibrary.un.org/record/3985699?ln=en
- **[Q3]** *International AI Safety Report 2026*, Executive Summary: https://internationalaisafetyreport.org/publication/2026-report-executive-summary
- **[Q4]** International Labour Organization (2025), *Generative AI and Jobs: A Refined Global Index of Occupational Exposure*: https://www.ilo.org/publications/generative-ai-and-jobs-refined-global-index-occupational-exposure
- **[Q5]** UNESCO (2021), *Recommendation on the Ethics of Artificial Intelligence*: https://www.unesco.org/en/legal-affairs/recommendation-ethics-artificial-intelligence
- **[Q6]** OECD, *Recommendation of the Council on Artificial Intelligence*: https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449
- **[Q7]** UNDP (2025), *Human Development Report: A Matter of Choice*: https://hdr.undp.org/content/human-development-report-2025

**Redaktionelle Einordnung:** Dies ist eine ethisch-politische Analyse. Sie beschreibt kein allgemein gültiges Maß für die „Sicherheit“ einer Gesellschaft. Einzelne politische Systeme und Fälle müssen anhand konkreter, überprüfbarer Befunde und einheitlicher menschenrechtlicher Maßstäbe beurteilt werden.
