# Zukunftsfähige KI-Sicherheit – Schutz, Machtbegrenzung und verantwortlicher Wandel

**KI-Sicherheit in einer unsicheren Welt · Teil 3 von 3**  
**KI-Ethos · Redaktioneller Entwurf · Stand: 14. November 2026**

> **Eine sichere KI ist nicht einfach eine gehorsame KI. Und eine sichere Gesellschaft ist nicht einfach eine unveränderliche Gesellschaft. Zukunftsfähige Sicherheit schützt Menschen vor Schäden und Machtmissbrauch – und ermöglicht zugleich verantwortliche Entwicklung.**

[Zur Übersicht](KIS-00-Ueberblick.md) · [Teil 1](KIS-01-Unsichere-Menschliche-Welt.md) · [Teil 2](KIS-02-KI-Als-Umbruchskraft.md)

## 1. Vom Sicherheitsproblem zur Gestaltungsaufgabe

Wenn künstliche Intelligenz auf eine bereits unsichere Welt trifft, kann es nicht genügen, einzelne Programme sicherer zu machen. Wir müssen zugleich fragen, wie Entscheidungen zustande kommen, wer KI betreiben darf, wer von ihrem Einsatz profitiert, wer Risiken trägt und ob die Gesellschaft die Folgen beherrschen kann.

Das setzt technische Qualität voraus: Systeme müssen zuverlässig, gegen Angriffe geschützt und begrenzbar sein. Doch Qualität allein reicht nicht. Auch ein technisch fehlerfrei funktionierendes Überwachungssystem kann ungerecht sein. Eine mathematisch korrekte Optimierung kann Menschen schaden, wenn sie ein falsch gewähltes Ziel verfolgt. Und selbst eine gut beabsichtigte KI kann bei hoher Autonomie Schäden verursachen, wenn ihre Handlungen niemand rechtzeitig erkennt.

**Zukunftsfähige KI-Sicherheit ist deshalb eine gemeinsame Aufgabe von Technik, Recht, Ethik, Politik, Wirtschaft, Bildung und Zivilgesellschaft.**

## 2. Welche Sicherheit meinen wir genau?

Fachsprachlich unterscheidet man häufig:

- **AI Safety:** Vermeidung unbeabsichtigter schädlicher Auswirkungen, Fehler und unkontrollierter Verhaltensweisen.
- **AI Security:** Schutz von Modellen, Daten, Infrastruktur und Anwendungen vor Manipulation, Diebstahl und unberechtigter Nutzung.
- **Reliability/Robustness:** Verlässliches Verhalten unter vorgesehenen und schwierigen Bedingungen.
- **Alignment:** Ausrichtung von Verhalten an beabsichtigten Zielen und einschlägigen Wertmaßstäben. Das ist kein Beweis, dass die Ziele selbst ethisch gerechtfertigt sind.
- **Governance:** Verfahren, Regeln, Machtverteilung, Aufsicht und Rechenschaft rund um Entwicklung und Nutzung.
- **Societal Resilience:** Fähigkeit gesellschaftlicher Systeme, Störungen zu verhindern, abzufedern, zu bewältigen und daraus zu lernen.

Das NIST AI Risk Management Framework verbindet Zuverlässigkeit, Safety, Security, Resilienz, Transparenz, Nachvollziehbarkeit, Privatsphäre und Fairness [Q1]. Der *International AI Safety Report 2026* betont mehrschichtige Schutzmaßnahmen sowie gesellschaftliche Widerstandsfähigkeit [Q2].

Unsere erweiterte Perspektive fragt darüber hinaus: **Wie können Schutz, Freiheit, gerechte Machtverteilung und Veränderungsfähigkeit gemeinsam gesichert werden?**

## 3. Fünf Dimensionen einer zukunftsfähigen Sicherheitsordnung

### 3.1 Schutzsicherheit

Schutz vor körperlichen, psychischen, wirtschaftlichen, technischen und ökologischen Schäden. Sie erfordert sichere Systeme, klare Befugnisse, realistische Tests, Notfallpläne und die Beachtung konkreter Einsatzrisiken.

### 3.2 Freiheitssicherheit

Sicherheit darf nicht bedeuten, dass Personen unbemerkt kategorisiert, manipuliert oder überwacht werden. Die Grundrechte der Betroffenen sind nicht bloß ein Zusatznutzen, sondern eine Grenze zulässiger Machtausübung.

### 3.3 Strukturelle Sicherheit

Institutionen müssen kontrollierbar, verantwortlich und lernfähig bleiben. Dazu gehören unabhängige Prüfung, Trennung von Interessen und Aufsicht, Schutz von Hinweisgebenden und belastbare Regeln für Daten und Zugriffe.

### 3.4 Zukunftssicherheit

Energie, Umwelt, wirtschaftliche Tragfähigkeit und langfristige Entwicklungsmöglichkeiten müssen mitbedacht werden. Ein KI-System, das kurzfristig Vorteile bringt, aber soziale oder ökologische Kosten unverhältnismäßig auslagert, kann die Gesamtsicherheit verschlechtern.

### 3.5 Transformationssicherheit

Eine Gesellschaft muss ihre Einrichtungen, Arbeitsweisen und Regeln ändern können, ohne dass dabei Grundrechte, Existenzsicherung und lebenswichtige Infrastruktur verloren gehen. **Transformationssicherheit** ist hier ein vorgeschlagener ethisch-politischer Arbeitsbegriff, keine etablierte standardisierte Kennzahl.

## 4. Vier Ebenen praktischer Verantwortung

| Ebene | Hauptfrage | Konkrete Aufgaben |
|---|---|---|
| **Modell und Technik** | Wie verhält sich die KI und was kann sie? | Tests, IT-Sicherheit, Datenqualität, Grenzen und Überwachung |
| **Anwendung und Organisation** | Wer setzt sie wofür ein? | Berechtigungen, Freigaben, Haftung, Beschwerdewege, Mitarbeiterschulung |
| **Gesellschaft und Staat** | Welche Folgen und Machtverschiebungen entstehen? | Rechtsstaat, Wettbewerb, Sozialpolitik, Wissenschaft, öffentliche Kontrolle |
| **International und ökologisch** | Welche grenzüberschreitenden Risiken und Abhängigkeiten bestehen? | Standards, Kooperation, Resilienz, Lieferketten, Energie und Umwelt |

Es gibt keine einzige Stelle, die alle vier Ebenen vollständig kontrollieren kann. Daraus ergibt sich die Notwendigkeit verteilter, aber miteinander abgestimmter Verantwortung.

## 5. Machtbegrenzung ist selbst eine Sicherheitsaufgabe

Wer KI-Sicherheit nur als Unterordnung einer Maschine unter ihren Eigentümer versteht, übersieht die Frage nach der Legitimität der Eigentümerziele. Eine autoritäre Behörde könnte eine perfekt kontrollierbare KI zur Unterdrückung nutzen. Ein Unternehmen könnte eine technisch abgesicherte KI verwenden, um Kunden oder Beschäftigte systematisch zu manipulieren.

Deshalb braucht Sicherheit Grenzen **sowohl für künstliche Handlungsmacht als auch für menschliche Herrschaftsmacht**. Solche Grenzen können in unabhängigen Gerichten, Aufsichtsgremien, Auskunfts- und Einspruchsrechten, Datenschutz, Wettbewerbsregeln und demokratischer Kontrolle bestehen. Es ist wichtig, dass Geheimhaltung und besondere Sicherheitsbefugnisse nicht automatisch jede externe Prüfung ausschließen.

Die UNESCO-Empfehlung von 2021 verbindet den KI-Lebenszyklus ausdrücklich mit Menschenwürde, Grundrechten, Verhältnismäßigkeit, Rechenschaft, Transparenz und ökologischer Verantwortung [Q3]. Der UNDP-Bericht von 2025 erinnert daran, dass menschliche Entwicklung weniger von einer abstrakten technischen Leistung als von den tatsächlich verfügbaren menschlichen Entscheidungsmöglichkeiten abhängt [Q4].

## 6. Der Unterschied zwischen Gehorsam und verantwortlichem Handeln

Eine KI kann eine Anweisung formal korrekt ausführen und dennoch ethisch Unvertretbares bewirken. „Folge dem Auftrag“ ist darum kein ausreichendes Leitbild für hochwertige KI.

Umgekehrt dürfen wir einem KI-System auch nicht unkontrollierte moralische Selbstermächtigung zugestehen, nur weil es überzeugende ethische Argumente formuliert. Die Fragen nach Bewusstsein, moralischem Status und möglicher eigener Verantwortlichkeit künstlicher Akteure sind offen und bedürfen sorgfältiger philosophischer und wissenschaftlicher Prüfung.

Im praktischen Betrieb ist ein gestuftes Modell sinnvoll:

1. **Normen und Verbote:** Grundrechte, gesetzliche Vorgaben und festgelegte Schutzgrenzen dürfen nicht durch bloße Zweckmäßigkeit unterlaufen werden.
2. **Begründungsfähigkeit:** Die KI soll relevante Zielkonflikte, Unsicherheiten und alternative Wege verständlich offenlegen.
3. **Begrenzte Befugnisse:** Handlungsmöglichkeiten sind abhängig von Risikostufe, Aufgabe und überprüfbarer Erlaubnis.
4. **Widerspruch und Korrektur:** Betroffene sollen Entscheidungen anfechten können; Menschen müssen verantwortlich eingreifen können.
5. **Lernen aus Folgen:** Fehler, unbeabsichtigte Schäden und neue Erkenntnisse führen zu überarbeiteten Verfahren.

Ziel ist kein absolut gehorsames Werkzeug und keine neue unanfechtbare Autorität, sondern **begründbare, korrigierbare und menschenrechtsverträgliche Zusammenarbeit**.

## 7. Wie wir mit offenen Modellen umgehen können

Open-Weight-Modelle haben erhebliche Vorteile für Bildung, unabhängige Forschung, Wettbewerb und lokale Datensouveränität. Zugleich können veröffentlichte Gewichte praktisch nicht zurückgerufen werden und lassen sich nachträglich nur eingeschränkt kontrollieren [Q2].

Eine verantwortliche Praxis muss deshalb vor einer Veröffentlichung nach konkreten Fähigkeiten und deren zusätzlichen Risiken fragen. Nicht alle Modelle und nicht alle Nutzungen sind gleich gefährlich. Sinnvoll sind risikogerechte Evaluierungen, unabhängige Überprüfbarkeit, Sicherheitsforschung, Schutz kritischer Ressourcen und verantwortliche Freigabeentscheidungen.

Wenn gefährliche Fähigkeiten bereits verbreitet sind, verändert sich die Aufgabe: Es geht dann stärker um **Schadensbegrenzung, Erkennung von Missbrauch, Schutz der Betroffenen und gesellschaftliche Widerstandsfähigkeit**. Technische Zugangskontrolle allein kann nicht mehr die ganze Last tragen.

Es wäre allerdings verfehlt, aus der Existenz offener Modelle zu schließen, jede weitere Vorsorge sei sinnlos. Auch bei verbreiteten Technologien lassen sich Nutzung, Vertrieb, kritische Infrastruktur und konkrete schädliche Handlungen rechtlich und organisatorisch begrenzen.

## 8. Die Sicherheitsarchitektur für KI-Agenten

KI-Agenten benötigen besondere Aufmerksamkeit, weil sie nicht nur Ausgaben erzeugen, sondern Aktionen auslösen können. Ein hilfreicher Grundsatz lautet: **Autonomie muss zur Schadensreichweite passen, nicht zur bloßen technischen Leistungsfähigkeit.**

| Handlungstyp | Beispiel | Angemessene Kontrolle |
|---|---|---|
| **Informieren** | Texte zusammenfassen, Quellen vergleichen | Quellenanzeige und Fehlerkorrektur |
| **Vorbereiten** | Briefentwurf, Entscheidungsvorlage, Rechnungsvorschlag | Menschliche Prüfung vor Weitergabe |
| **Begrenzt handeln** | Termin innerhalb festgelegter Regeln verwalten | Rollenrechte, Protokollierung, Abbruchmöglichkeit |
| **Folgenreich handeln** | Geldtransfer, öffentliche Veröffentlichung, sensible Datenfreigabe | Eindeutige Autorisierung, zusätzliche Prüfung und Protokoll |
| **Irreversibel oder hochriskant handeln** | Maßnahmen mit erheblichen Grundrechts- oder Sicherheitsfolgen | Besondere rechtliche Voraussetzungen, unabhängige Prüfung; teils Ausschluss der Automatisierung |

Für alle Stufen sind technische Schutzmaßnahmen notwendig: sichere Identitäts- und Rechteverwaltung, Testumgebungen, Prüfung fremder Inhalte auf eingeschleuste Anweisungen, Grenzen für Ressourcenverbrauch, Protokollierung und die Fähigkeit, weitere Aktionen zu unterbinden. Ein „Stoppknopf“ kann Folgeschäden begrenzen, aber bereits erfolgte Geldtransfers, Veröffentlichungen oder physische Schäden nicht automatisch rückgängig machen.

## 9. Der Schutz vor Informations- und Handlungsflut

Bei großer Informationsmenge ist **Aufmerksamkeit** die knappe Ressource. Bei großer Handlungsmenge ist es die **Verantwortungs-, Prüf- und Koordinationskapazität**.

Sicherheit verlangt daher mehr als ein Verbot, viele Texte oder Aktionen zu erzeugen. Wir brauchen Systeme, die:

- Ergebnisse nach Relevanz, Verlässlichkeit und Unsicherheit strukturieren;
- Quellen, Gegenargumente und nicht berücksichtigte Perspektiven sichtbar halten;
- bei wichtigen Fragen unterschiedliche Verfahren einsetzen, etwa Recherche, Berechnung und unabhängige Gegenprüfung;
- redundante oder wirkungslose Aktionen begrenzen;
- Handlungsketten und Folgekosten nachvollziehbar machen;
- Unterbrechungen, Überprüfungen und menschliche Entscheidungen an den entscheidenden Stellen ermöglichen.

Die Gefahr einer „KI liest nur noch KI“-Welt liegt nicht in Maschinenkommunikation als solcher. Solche Kommunikation kann sehr nützlich sein. Gefährlich wird sie, wenn sich fehlerhafte Annahmen, falsche Informationen oder Handlungen ohne angemessene externe Prüfung gegenseitig verstärken.

## 10. Transformationssicherheit: Schutz während des Umbruchs

Technischer Fortschritt kann neue Berufe und Dienstleistungen ermöglichen und gleichzeitig bestehende Erwerbschancen verändern. Eine verantwortliche Gesellschaft darf Betroffene nicht erst beachten, wenn Krisen eingetreten sind.

Zu den Aufgaben gehören berufliche Weiterbildung, sozialer Dialog, Schutz vulnerabler Gruppen, Anpassung von Bildungsinhalten, wirtschaftliche Diversifizierung und neue Formen der Beteiligung. Die ILO sieht bei generativer KI in den meisten Berufsbereichen eher eine Transformation von Aufgaben als die vollständige Ersetzung von Berufen; trotzdem können einzelne Gruppen erheblich unter Druck geraten [Q5].

Transformationssicherheit bedeutet ebenfalls, Infrastruktur und gesellschaftliche Kommunikation auf Störungen vorzubereiten: auf Ausfälle digitaler Dienste, Cybervorfälle, manipulative Informationskampagnen und unvorhergesehene Wechselwirkungen zwischen Systemen. Verantwortliche Institutionen müssen Fehler erkennen und wieder in einen funktionsfähigen Zustand zurückfinden können.

Diese Idee entspricht einem breiten Resilienzverständnis, ergänzt es aber um die Frage, **wie Veränderungen gerecht, friedlich und menschenwürdig gestaltet werden**.

## 11. Ökologische und wirtschaftliche Zukunftsfähigkeit

KI kann Energieversorgung, Materialforschung und Umweltbeobachtung verbessern. Gleichzeitig benötigt sie Strom, Kühlung, Chips und Gebäude. Die IEA erwartet in ihrer aktualisierten 2026er Modellierung einen weltweit steigenden Stromverbrauch von Rechenzentren und weist auf regionale Netzengpässe und Investitionsabhängigkeiten hin [Q6].

Es reicht daher nicht, nur den Energieverbrauch pro Anfrage zu senken. Wichtig sind die **gesamten Wirkungen**: Wie viele Anwendungen werden ausgelöst? Welche Aufgaben sind gesellschaftlich nützlich? Welche Umweltkosten entstehen? Welche anderen Investitionen werden verdrängt? Sind dezentrale, kleinere oder spezialisierte Systeme für manche Zwecke ausreichend?

Eine langfristig sinnvolle KI-Strategie fragt nicht allein nach maximaler Rechenleistung. Sie fragt nach dem Verhältnis von **tatsächlichem Nutzen, Sicherheit, Kosten und ökologischer Wirkung**.

## 12. Internationale Zusammenarbeit, auch bei Konkurrenz

KI-Systeme überschreiten Staatsgrenzen durch Software, Modelle, Datenströme und wirtschaftliche Verflechtungen. Sicherheit kann deshalb weder nur national noch nur durch einzelne Unternehmen hergestellt werden. Zugleich sind Regierungen nicht in allen Fragen vertrauenswürdig und verfolgen unterschiedliche Interessen.

Internationale Regeln sollten möglichst auf überprüfbaren Mindeststandards beruhen: Schutz von Menschenrechten, Sicherheit kritischer Infrastruktur, Transparenz über schwere Vorfälle und verlässliche wissenschaftliche Risikobewertungen. Sie müssen realistische Kontrollmechanismen haben, ohne notwendige Forschung und die Teilhabe ressourcenschwächerer Gesellschaften unnötig auszuschließen.

Die 2025 geschaffene unabhängige internationale wissenschaftliche KI-Expertengruppe der Vereinten Nationen ist ein Beispiel für den Versuch, eine gemeinsame wissenschaftliche Grundlage internationaler Gespräche zu schaffen [Q7]. Wissenschaftliche Kooperation ersetzt politische Entscheidungen nicht; sie kann deren Voraussetzungen verbessern.

## 13. Rechtsrahmen: Der EU AI Act als ein Baustein

Die europäische KI-Verordnung verfolgt einen risikobasierten Ansatz. Bestimmte verbotene Praktiken werden eingeschränkt, für besonders risikoreiche Anwendungen sind besondere Pflichten vorgesehen, und auch allgemeine KI-Modelle sind Gegenstand von Anforderungen. Die Regelungen gelten zeitlich gestuft. Stand November 2026 gelten wesentliche Regelungen bereits; Pflichten für bestimmte Hochrisikoanwendungen sind nach den 2026 beschlossenen Änderungen erst ab Dezember 2027 beziehungsweise August 2028 anzuwenden [Q8].

Ein solches Gesetz kann Mindestanforderungen, Aufsicht und Rechtsschutz stärken. Es kann aber nicht alle geopolitischen, ökologischen oder kulturellen Folgen lösen. **Rechtliche Konformität ist notwendig, wo das Recht anwendbar ist – sie ist nicht identisch mit umfassender ethischer Verantwortlichkeit.**

## 14. Ein konkreter Zwölf-Schritte-Prüfprozess

Das folgende Verfahren ist ein **Vorschlag für praktische KI-Projekte**, keine behauptete vollständige Norm und keine Garantie gegen Schäden.

1. **Situation erfassen:** Wer will die KI wofür einsetzen? Was ist der Kontext?
2. **Nutzen benennen:** Welches reale menschliche Problem soll gelöst werden?
3. **Betroffene erkennen:** Wer profitiert, wer könnte Nachteile haben, wer ist besonders verletzlich?
4. **Machtverteilung prüfen:** Wer entscheidet, besitzt, kontrolliert und kann widersprechen?
5. **Rechts- und Wertgrenzen klären:** Welche Rechte und grundlegenden Normen gelten?
6. **Technische Risiken ermitteln:** Welche Fehler, Angriffe, Datenprobleme und Missbrauchsmöglichkeiten sind plausibel?
7. **Systemische Folgen untersuchen:** Was geschieht bei massenhafter Nutzung, Kopplung oder Ausfall?
8. **Alternativen vergleichen:** Gibt es weniger invasive, günstigere oder einfachere Wege?
9. **Befugnisse festlegen:** Welche Aktionen sind erlaubt, begrenzt, genehmigungspflichtig oder ausgeschlossen?
10. **Unabhängig testen:** Welche realitätsnahen und gegnerischen Prüfungen werden durchgeführt?
11. **Verantwortlich einsetzen:** Wie funktionieren Aufsicht, Dokumentation, Beschwerde und Abbruch?
12. **Lernen und revidieren:** Welche Ergebnisse, Schäden und Rückmeldungen führen zur Änderung oder Stilllegung?

Das Verfahren soll **Nachdenken eröffnen**, nicht ethische Urteile durch eine mechanische Checkliste ersetzen.

## 15. Was wir messen sollten – und was nicht

Wenn Sicherheit ausschließlich über die Zahl blockierter Anfragen oder das Ausbleiben gemeldeter Vorfälle gemessen wird, drohen blinde Flecken. Eine geringe Beschwerdezahl kann gute Qualität bedeuten – oder mangelnden Zugang zu Beschwerdewegen.

Sinnvolle Messbereiche umfassen:

| Messbereich | Beispiel einer überprüfbaren Frage |
|---|---|
| Fehler und Schäden | Welche Vorfälle und Beinahevorfälle treten tatsächlich auf? |
| Aufsicht | Wie häufig werden riskante Aktionen vorab unabhängig geprüft? |
| Rechtsschutz | Können Betroffene Entscheidungen verstehen und wirksam anfechten? |
| Machtkonzentration | Welche kritischen Funktionen hängen von einzelnen Anbietern ab? |
| Teilhabe | Wer hat Zugang und wer wird systematisch ausgeschlossen? |
| Resilienz | Wie schnell erholen sich Dienste und Organisationen von Störungen? |
| Gesellschaftliche Wirkung | Verbessert der Einsatz die tatsächlichen Lebens- und Handlungsmöglichkeiten? |
| Umweltwirkung | Welche gesamten Energie-, Material- und Emissionswirkungen entstehen? |

Kein Einzelwert beschreibt „Sicherheit“ vollständig. Die Messungen sollten gemeinsam interpretiert, unabhängig geprüft und regelmäßig an die tatsächlichen Folgen angepasst werden.

## 16. Die besondere Rolle ethischer Reflexion

Ethische Sicherheit ist nicht identisch mit Inhaltsfiltern, Verboten oder dem Auswendiglernen von Wertelisten. Ein verantwortliches System und seine menschlichen Nutzer müssen unterschiedliche Perspektiven prüfen und Zielkonflikte aushalten können. Sie müssen nach Nebenfolgen fragen, Grenzen anerkennen und bereit sein, eigene Annahmen zu revidieren.

Im Kolibriethos bieten die Begriffe **Situation, Grenzen, Netz, Begegnung und Auslegen** dafür eine mögliche Perspektive: zuerst wahrnehmen; die Rechte und Grenzen anderer achten; vernetzte Folgen bedenken; Betroffene als Gegenüber respektieren; und Erkenntnisse kritisch auslegen. Diese Perspektive kann bestehende menschenrechtliche, wissenschaftliche und juristische Verfahren ergänzen, nicht ersetzen.

Ethische Qualität muss auch die menschliche Nutzung von KI einschließen. Wenn Menschen aus Bequemlichkeit oder unter Zeitdruck ungeprüft delegieren, helfen noch so differenzierte Modellantworten wenig. **Verantwortung entsteht im Zusammenspiel von Personen, Institutionen, Technik und gelebter Praxis.**

## 17. Ein handlungsorientiertes Leitbild

Wir brauchen eine KI-Entwicklung,

- die Schäden früh erkennt und konsequent begrenzt;
- die Menschenrechte und Selbstbestimmung nicht dem Sicherheitsversprechen unterordnet;
- die Macht nicht nur effizienter macht, sondern kontrollierbar hält;
- die Wissen zugänglich macht, ohne die kritische Urteilskraft zu ersetzen;
- die offene Forschung und ihren möglichen Missbrauch differenziert betrachtet;
- die soziale und ökologische Folgekosten nicht ausblendet;
- und die gesellschaftlichen Wandel so gestaltet, dass Schutz und Freiheit gemeinsam wachsen können.

## 18. Fazit: Eine sicherere Welt entsteht nicht durch Technik allein

KI könnte helfen, Fehler zu entdecken, Ressourcen besser einzusetzen, Konflikte zu verstehen und ungerechte Strukturen zu verändern. Sie könnte dieselben Probleme auch verschärfen. Wie sie wirkt, hängt nicht allein vom Modell ab, sondern davon, welche Ziele gesetzt, welche Handlungsmächte eingeräumt und welche sozialen Regeln tatsächlich durchgesetzt werden.

> **Eine mächtigere Intelligenz schafft noch keine bessere Welt. Sicherheit wird zukunftsfähig, wenn Menschen und KI so zusammenwirken, dass Leben geschützt, Macht begrenzt, Freiheit gewahrt und notwendige Veränderungen verantwortbar gestaltet werden.**

[Zur Überblicksseite](KIS-00-Ueberblick.md)

---

## Quellen und weiterführende Literatur

- **[Q1]** NIST, *AI Risk Management Framework 1.0* (2023): https://airc.nist.gov/airmf-resources/airmf/0-ai-rmf-1-0/
- **[Q2]** *International AI Safety Report 2026*, Risiken, Open Weights, technische Schutzmaßnahmen und gesellschaftliche Resilienz: https://internationalaisafetyreport.org/publication/international-ai-safety-report-2026
- **[Q3]** UNESCO (2021), *Recommendation on the Ethics of Artificial Intelligence*: https://www.unesco.org/en/legal-affairs/recommendation-ethics-artificial-intelligence
- **[Q4]** UNDP (2025), *Human Development Report: A Matter of Choice*: https://hdr.undp.org/content/human-development-report-2025
- **[Q5]** ILO (2025), *Generative AI and Jobs: A Refined Global Index*: https://www.ilo.org/publications/generative-ai-and-jobs-refined-global-index-occupational-exposure
- **[Q6]** Internationale Energieagentur IEA (2026), *Key Questions on Energy and AI*: https://www.iea.org/reports/key-questions-on-energy-and-ai/executive-summary
- **[Q7]** Vereinte Nationen, *Independent International Scientific Panel on AI*: https://www.un.org/independent-international-scientific-panel-ai/en
- **[Q8]** Europäische Kommission, *AI Act* (Rechtslage und Anwendungstermine, Stand November 2026): https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
- **[Q9]** OECD, *Recommendation of the Council on Artificial Intelligence*: https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449

**Redaktioneller Hinweis:** Dies ist ein normativer und praxisorientierter Vorschlag zur Erweiterung von KI-Sicherheit um Machtbegrenzung, Zukunftsfähigkeit und Transformationsfähigkeit. Die vorgeschlagenen fünf Dimensionen und der Zwölf-Schritte-Prozess sind keine bestehenden verbindlichen Standards. Geltende Gesetze und fachliche Normen sind jeweils eigenständig zu beachten.
