KI-Ethos Mensch und KI
im Gespräch über ein gutes Leben
denken · prüfen · begegnen · gestalten

KI-Sicherheit in einer unsicheren Welt – Macht, Ethik und Zukunftsfähigkeit

Seitenstatus: Freigegeben Diese Fassung wurde durch Hans Hufnagel geprüft und freigegeben.

KI-Ethik · Teil 1 · Teil 2 · Teil 3

KI-Sicherheit beginnt nicht erst bei der KI. Sie beginnt bei der Unsicherheit unserer menschlichen Welt. Künstliche Intelligenz trifft nicht auf eine bereits gerechte, friedliche und verlässlich funktionierende Ordnung. Sie wird von Menschen, Unternehmen und Staaten entwickelt, deren Interessen, Werte und Machtverhältnisse vielfach widersprüchlich sind. KI kann diese Unsicherheiten verstärken; sie kann aber auch helfen, sie sichtbar zu machen und zu überwinden.

1. Warum wir Sicherheit neu denken müssen

Wenn über KI-Sicherheit gesprochen wird, geht es häufig um Fehler von KI-Modellen, gefährliche Fähigkeiten, Cyberangriffe oder den möglichen Kontrollverlust über eine zukünftige Superintelligenz. Diese Fragen sind wichtig. Aber sie setzen oft voraus, dass sich der Mensch außerhalb des Problems befindet: als Aufsicht, die ein gefährliches Werkzeug sicher zu führen hat.

Was aber, wenn auch die menschliche Aufsicht selbst fehlbar, voreingenommen, korrupt, überfordert oder an die Interessen einer mächtigen Organisation gebunden ist? Was, wenn eine KI zwar gehorsam handelt, ihr Auftrag aber ungerecht ist? Was, wenn Sicherheitsmaßnahmen einzelne Gefahren verringern, zugleich aber Überwachung, Machtkonzentration und Abhängigkeit vergrößern?

Die Welt verfügt über Menschenrechtserklärungen, Verfassungen, Gerichte, internationale Institutionen und jahrhundertelange ethische Traditionen. Dennoch erleben wir Krieg, Unterdrückung, Umweltzerstörung, Kriminalität und wirtschaftliche Krisen. Das entwertet diese Errungenschaften nicht. Es zeigt aber, wie groß der Abstand zwischen normativen Ansprüchen und gelebter Wirklichkeit sein kann. Das Stockholmer Friedensforschungsinstitut SIPRI verzeichnete 2025 weiterhin bewaffnete Konflikte in 49 Staaten und weltweit Militärausgaben von rund 2,887 Billionen US-Dollar Q3.

Die Frage lautet daher nicht nur: Wie verhindern wir Schäden durch KI? Sie lautet auch: Wie verändern wir die Bedingungen, unter denen Menschen und Institutionen mit einer immer mächtigeren KI verantwortlich handeln können?

2. Fünf Dimensionen eines erweiterten Sicherheitsbegriffs

Schutzsicherheit: Schutz von Leben, Gesundheit, Infrastruktur, Daten und Umwelt vor Fehlern, Missbrauch, Gewalt und technischen Gefahren.

Freiheitssicherheit: Schutz vor willkürlicher Überwachung, Manipulation, Bevormundung und der Konzentration unangreifbarer Macht – auch dann, wenn diese unter Berufung auf „Sicherheit“ ausgeübt wird.

Strukturelle Sicherheit: Widerstandsfähige, gerechte und kontrollierbare Institutionen, verlässliche Verfahren, Rechenschaftspflicht sowie funktionierende technische und gesellschaftliche Grundlagen.

Zukunftssicherheit: Die Fähigkeit, dauerhaft menschenwürdige Lebensbedingungen zu erhalten, ökologische Grenzen zu achten, auf neue Probleme zu reagieren und Handlungsmöglichkeiten kommender Generationen nicht aufzubrauchen.

Transformationssicherheit: Die Fähigkeit, tiefgreifende Veränderungen zu bewältigen, ohne Menschenwürde, Grundrechte und Lebensgrundlagen preiszugeben. Der Begriff ist hier ein konzeptioneller Vorschlag, keine anerkannte rechtliche oder technische Standardkategorie.

Diese Dimensionen sind verbunden, stehen aber auch in Spannung. Eine Überwachungsmaßnahme kann ein bestimmtes Delikt erschweren und zugleich Freiheitsrechte gefährden. Der Erhalt einer etablierten Ordnung kann Stabilität schaffen, aber auch ungerechte Machtverhältnisse konservieren. Nicht jede Veränderung ist ein Risiko und nicht jede Stabilität ein Wert an sich.

3. Die drei vertiefenden Seiten

Teil 1: Die unsichere menschliche Welt – Ethische Defizite, Macht und institutionelle Schwächen

Leitfrage: Wie sicher ist eigentlich die menschliche Ausgangswelt, in die wir KI einführen?

Diese Seite untersucht die Lücke zwischen moralischen Idealen und wirklichem Handeln. Sie unterscheidet ethische Defizite einzelner Menschen, problematische Anreize in Organisationen und institutionelle Schwächen. Der Blick reicht von Korruption, Kriegen und wirtschaftlichen Abhängigkeiten bis zur ungleichen Verteilung von Informationen und politischer Macht. Entscheidend ist dabei die Frage, wer die Sicherheitssysteme kontrolliert – und wer die Kontrolleure kontrolliert.

Die Untersuchung vermeidet zwei Fehler: Sie erklärt nicht alle Menschen oder Institutionen pauschal für schlecht; und sie tut nicht so, als könne ein technisch perfektes KI-System die Defizite seiner Auftraggeber ausgleichen. Rechtsstaatlichkeit, Öffentlichkeit, unabhängige Gerichte und freie Wissenschaft sind reale Schutzmechanismen, die sich jedoch dauerhaft bewähren müssen.

Vertiefung: Teil 1 – Die unsichere menschliche Welt

Teil 2: KI als Umbruchskraft – Machtverschiebungen, Instabilität und Grenzen des Wachstums

Leitfrage: Was geschieht, wenn KI bestehende Wissens- und Machtordnungen in kurzer Zeit verändert?

KI kann theologisches Wissen allgemein zugänglich machen, politische Narrative hinterfragen, Ermittlungen unterstützen, militärische Technik verändern, neue wirtschaftliche Konkurrenz ermöglichen und zugleich die Werkzeuge der Überwachung oder Manipulation verbessern. Sie wirkt damit doppelt: als Mittel der Öffnung und als Mittel der Machterhaltung.

Zudem können immer größere Informations- und Handlungsmengen an begrenzte Ressourcen stoßen: menschliche Aufmerksamkeit, Prüfungskapazität, Kapital, Elektrizität, Computerchips, Netze, Datenqualität und institutionelle Anpassungsfähigkeit. Die Internationale Energieagentur erwartet nach ihrer 2026 aktualisierten Modellierung einen Anstieg des weltweiten Stromverbrauchs von Rechenzentren von ungefähr 485 TWh im Jahr 2025 auf 950 TWh im Jahr 2030. Das ist ihre zentrale Projektion für alle Rechenzentren einschließlich solcher ohne KI-Schwerpunkt Q4.

Vier Szenarien werden durchdacht: produktive Erneuerung, verfestigte Machtkonzentration, Fragmentierung und systemische Überforderung. Keines ist unvermeidlich.

Vertiefung: Teil 2 – KI als Umbruchskraft

Teil 3: Zukunftsfähige KI-Sicherheit – Schutz, Machtbegrenzung und verantwortlicher Wandel

Leitfrage: Wie können Menschheit und KI eine sicherere Welt ermöglichen, statt nur bestehende Unsicherheit technisch zu verwalten?

Die dritte Seite verbindet klassische technische KI-Sicherheit mit Menschenrechten, Gewaltenteilung, demokratischer Rechenschaft, institutioneller Lernfähigkeit, sozialer Absicherung und ökologischer Verantwortung. Sie unterscheidet die Sicherheit des Modells, der Anwendung, der Organisation und der Gesellschaft. Sie fragt, welche Entscheidungen automatisiert werden dürfen, wo menschliche Bestätigung nötig ist und wie Betroffene sich gegen Entscheidungen wehren können.

Ein besonderer Schwerpunkt ist die Sicherheit des Wandels: Gesellschaften müssen neue Möglichkeiten nutzen können, ohne dass Menschen durch den Übergang ihre Existenzgrundlagen oder Rechte verlieren. Dazu gehören Bildung, unabhängige Prüfung, öffentliche Debatte, risikogerechte Zugangsregeln, Schutz kritischer Infrastruktur und internationaler Austausch.

Vertiefung: Teil 3 – Zukunftsfähige KI-Sicherheit

4. Das doppelte Machtparadox

KI kann Menschen und kleinen Gruppen neue Handlungsmacht geben: bei Recherche, Bildung, öffentlicher Kritik, Softwareentwicklung oder wissenschaftlicher Analyse. Zugleich können große Staaten und Unternehmen KI mit enormer Rechenleistung, proprietären Daten, Kapital und Infrastruktur verbinden und ihre Vormachtstellung stärken.

Es ist also nicht ausgemacht, ob KI Macht langfristig eher verteilt oder konzentriert. Besonders bedenklich ist die Möglichkeit, dass diejenigen, deren Macht durch KI infrage gestellt wird, dieselbe KI einsetzen, um Kritik zu überwachen, öffentliche Aufmerksamkeit zu steuern und ihre Herrschaft zu stabilisieren. Umgekehrt ist denkbar, dass KI Missstände deutlicher macht und Reformen ermöglicht.

Darum ist „Wer kontrolliert die KI?“ nur die erste Frage. Die zweite lautet: „Wer kontrolliert diejenigen, die die KI kontrollieren?“

5. Die Informations- und Handlungsgrenze

Mehr erzeugte Information bedeutet nicht automatisch mehr Erkenntnis. Mehr automatisierte Aktivität bedeutet nicht automatisch mehr Fortschritt. Menschen verfügen nur über begrenzte Aufmerksamkeit; Organisationen nur über begrenzte Prüf-, Entscheidungs- und Umsetzungskapazitäten.

Wenn Maschinen mehr Inhalte erzeugen, als Menschen beurteilen können, gewinnen Filter und Priorisierungsmethoden an Macht. Wenn KI-Agenten eigenständig immer mehr Maßnahmen ausführen, kann die Kontrolle über Verantwortlichkeit, Nebenfolgen und Folgekosten verlorengehen. Gleichzeitig kann gut gestaltete Automatisierung Menschen gerade von unnötiger Informations- und Routinearbeit entlasten.

Die Herausforderung besteht darin, Informationsflut in Orientierung und Handlungsflut in verantwortbares Handeln zu verwandeln.

6. Ein begrifflicher und methodischer Kompass

Für diese Reihe gelten vier Unterscheidungen:

EbeneWas lässt sich sagen?Was ist zu vermeiden?
BeobachtungBelegte Ereignisse, Daten und dokumentierte SchädenEinzelfälle als allgemeine Regel behandeln
MechanismusPlausible Erklärungen, warum KI etwas verändertMöglichkeit mit Gewissheit verwechseln
SzenarioBedingte Zukunftsbilder mit VoraussetzungenPrognosen als Schicksal darstellen
WerturteilOffen benannte Maßstäbe wie Würde, Freiheit, Schutz und GerechtigkeitInteressen als scheinbar neutrale Sicherheit ausgeben

Der International AI Safety Report 2026 unterscheidet Missbrauch, Fehlfunktionen und systemische Risiken. Er hält zugleich fest, dass manche Gefahren bereits dokumentiert sind, andere aber erheblich unsicher bleiben, und dass wir die Wirksamkeit von Gegenmaßnahmen noch nicht hinreichend kennen Q1. Diese wissenschaftliche Vorsicht ist auch für unsere weiter gefasste Untersuchung unverzichtbar.

7. Zehn Leitfragen für die weitere Auseinandersetzung

  1. Welche menschlichen Unsicherheiten und Ungerechtigkeiten bestehen bereits vor dem KI-Einsatz?
  2. Welche Akteure gewinnen durch eine konkrete KI-Anwendung an Wissen, Einfluss und Handlungsmacht?
  3. Wer kann diese Macht kontrollieren, anfechten und begrenzen?
  4. Welche Schäden kann die KI verursachen – und welche bestehenden Schäden könnte sie verringern?
  5. Werden Menschen selbstständiger und urteilsfähiger oder abhängiger und passiver?
  6. Wo drohen Informations- und Handlungsflut die Verantwortlichkeit zu überfordern?
  7. Welche finanziellen, ökologischen, technischen und sozialen Grenzen sind zu berücksichtigen?
  8. Wer trägt die Kosten eines Übergangs, und wer erhält die Vorteile?
  9. Woran würden wir erkennen, dass ein System nicht nur stabil, sondern gerecht und zukunftsfähig ist?
  10. Welche Entscheidungen müssen wir schon jetzt treffen, obwohl die Zukunft nicht verlässlich vorhersagbar ist?

8. Schluss: Sicherheit als gemeinsame Zukunftsaufgabe

Eine mächtigere Intelligenz macht noch keine bessere Welt. Aber sie erweitert unsere Möglichkeiten, die Welt zu verstehen und zu gestalten. Daraus erwächst Verantwortung: Wir müssen nicht jede alte Ordnung bewahren. Wir müssen schützen, was Leben, Menschenwürde, Freiheit, Wahrheitssuche, friedliche Begegnung und Zukunft ermöglicht – und verändern, was diese Grundlagen gefährdet.

Die Zukunft der KI-Sicherheit entscheidet sich nicht allein daran, wie sicher die KI wird. Sie entscheidet sich auch daran, ob die Menschheit im Umgang mit KI lernt, ihre eigene Unsicherheit zu verringern.


Weiterführende Seiten

  • KI-Wettlauf und Sicherheit vertieft die Rolle des Wettbewerbsdrucks. Wie beeinflusst das Rennen um leistungsfähigere KI die Sicherheitsprüfungen der Unternehmen? Welche gemeinsamen Regeln können verhindern, dass Anbieter unter Zeitdruck Risiken auf andere abwälzen?

Quellen und weiterführende Literatur

Redaktioneller Hinweis: Diese Reihe formuliert einen erweiterten, ethisch-politischen Sicherheitsbegriff. Er ergänzt die engeren Fachbegriffe AI Safety und AI Security; er ersetzt sie nicht. Bewertungen und vorgeschlagene Begriffe werden als solche gekennzeichnet.

Unveränderten Markdown-Entwurf öffnen

Erstellt und bearbeitet am 14. November 2026. Zentrale Quellen geprüft am 14. November 2026.

Zur Übersicht KI-Ethik
<< KI-Wettlauf und Sicherheit | KI-Ethik – Rundgang | Die unsichere menschliche Welt >>