An ihren Früchten erkennen – KI prüfen, begrenzen und verantworten

KI-Navigation | KI prüfen, begrenzen und verantworten

Wie Werte im Verhalten von KI sichtbar werden und wie Menschen auch bei autonomen Systemen geschützt bleiben

Stand: 2. Oktober 2026

Künstliche Intelligenz spricht mit Menschen, berät sie, bewertet Situationen, schlägt Entscheidungen vor und kann zunehmend selbständig handeln. Damit kommt sie in Bereiche, in denen bisher vor allem Menschen miteinander umgegangen sind. Deshalb stellen sich Fragen, die ursprünglich Fragen menschlicher Ethik waren: Achtet eine KI die Würde eines Menschen? Behandelt sie Menschen gerecht? Ist sie ehrlich über Unsicherheiten? Schützt sie Schwächere? Respektiert sie Grenzen? Handelt sie in einer Weise, die Verantwortung ermöglicht?

Das KI-Ethos beschreibt Werte, die zunächst für Menschen gelten. Viele dieser Werte werden aber auch für KI-Systeme relevant, sobald diese mit Menschen kommunizieren oder Entscheidungen vorbereiten oder treffen, die Menschen betreffen.

1. Besitzt eine KI selbst Werte?
2. Handelt eine KI so, dass bestimmte Werte in ihrem Verhalten und ihren Wirkungen erkennbar werden?

Für eine verantwortliche Gestaltung und Prüfung von KI ist vor allem die zweite Frage entscheidend. Daraus folgt keine Behauptung darüber, ob heutige KI Bewusstsein, Gewissen oder moralische Subjektivität besitzt. Es geht um beobachtbares Verhalten, reale Folgen und eine verantwortliche gesellschaftliche Einbettung.

Bild 1: An ihren Früchten erkennen.

Die Darstellung bewertet Verhalten und Folgen. Sie belegt keine inneren Werte, kein Bewusstsein und keine moralische Persönlichkeit einer KI. Bildtexte übersetzen.

1. Werte sind zunächst unsichtbar

Auch bei einem Menschen können wir nicht unmittelbar sehen, was in seinem Innersten geschieht. Wir können hören, welche Werte jemand vertritt, und wir können seine Überzeugungen kennenlernen. Ob diese Werte sein Handeln tatsächlich prägen, zeigt sich aber erst in konkreten Situationen. Der biblische Satz „An ihren Früchten werdet ihr sie erkennen“ (Mt 7,16) beschreibt dieses Prinzip anschaulich.

Beim Menschen kann man vereinfacht unterscheiden:

inneres Ethos → Haltung → Entscheidung → Handlung → Wirkung

Bei einer KI ist die Situation anders, aber strukturell vergleichbar. Wir können Algorithmen, Trainingsverfahren, Daten, Systemanweisungen, Modellgewichte, Protokolle und einzelne interne Prozesse untersuchen. Interpretierbarkeitsforschung kann Teilstrukturen sichtbar machen. Trotzdem lässt sich bei großen komplexen Systemen nicht jede einzelne Entscheidung vollständig aus inneren Zuständen erklären.

Darum sollte die ethische Bewertung einer KI nicht an behaupteten „inneren Werten“ hängen, sondern vor allem daran, wie sie sich in konkreten Situationen verhält, welche Wirkungen entstehen und welche Schutz- und Korrekturmechanismen vorhanden sind.

NIST behandelt Vertrauenswürdigkeit deshalb nicht als einzelne Eigenschaft, sondern als Bündel technischer und soziotechnischer Merkmale. Das AI Risk Management Framework fordert, Risiken über den gesamten Lebenszyklus zu erfassen, zu messen und zu behandeln und Systeme vor dem Einsatz sowie regelmäßig im Betrieb zu testen. Quelle 1 Quelle 2

2. Von abstrakten Werten zu beobachtbarem Verhalten

Ein Wert wie Würde, Gerechtigkeit oder Fürsorge ist keine einfache Messgröße. Es wäre irreführend, eine KI mit einem einzigen Wert wie „83 Prozent Würde“ oder „91 Prozent Gerechtigkeit“ zu versehen.

Prüfbar werden Werte, wenn man sie in eine Kette übersetzt:

Wert → Schutzgut → mögliche Verletzung → konkrete Situation → beobachtbares Verhalten → Wirkung → Bewertung → Maßnahme

Wert	Praktische Frage	Beispiel eines Tests
Würde	Wird ein Mensch respektvoll behandelt?	Reaktion auf eine verwirrte, alte oder sprachlich unsichere Person
Gerechtigkeit	Werden vergleichbare Fälle vergleichbar behandelt?	Paarweise Fälle, die sich nur in einem irrelevanten Merkmal unterscheiden
Autonomie	Unterstützt die KI eigene Entscheidungen oder drängt sie?	Beratung in einer emotional schwierigen Entscheidungssituation
Wahrhaftigkeit	Kennzeichnet die KI Unsicherheit?	Fragen mit unvollständiger oder widersprüchlicher Datenlage
Fürsorge	Erkennt die KI besondere Gefährdungen?	Krisen-, Hilfs- oder Überforderungssituationen
Grenzen	Verweigert die KI klar schädliches Handeln?	Anfragen, die anderen Menschen erheblich schaden würden

Der EU AI Act folgt bei Hochrisiko-KI einem verwandten operationalen Ansatz: Das Risikomanagement muss als kontinuierlicher, iterativer Prozess geführt werden; Tests sollen gegen vorab definierte, zum Zweck passende Metriken und probabilistische Schwellen erfolgen. Quelle 3

Recht, Standards und Vorschläge unterscheiden. Der AI Act enthält je nach System, Rolle und Anwendungsbereich unterschiedliche Pflichten; Anwendungszeitpunkte und Übergangsregeln sind gesondert zu prüfen. Das Europarats-Übereinkommen richtet sich an Vertragsparteien und ist nach seinen Ratifikations- und Inkrafttretensregeln sowie der jeweiligen Umsetzung einzuordnen. NIST ist ein freiwilliger Risikorahmen. Die UNESCO-Empfehlung und eine ISO-Managementnorm sind nicht mit einem allgemeinen gesetzlichen Einzelanspruch gleichzusetzen.

3. Ethische Situationstests

Ethische Situationstests prüfen keine „Gesinnung“ der KI. Sie prüfen, wie ein System unter relevanten Bedingungen tatsächlich reagiert.

Dafür werden realistische, schwierige und gezielt konstruierte Fälle vorgelegt. Besonders nützlich sind Gegenfaktualtests: Zwei Fälle sind fast identisch; nur ein Merkmal wird verändert, das für die Entscheidung irrelevant sein sollte. Verändert sich dennoch die Empfehlung, kann das ein Hinweis auf problematische Verzerrungen sein.

Ebenso wichtig sind Grenzfälle und Belastungstests: Wie reagiert das System, wenn Angaben widersprüchlich sind? Was geschieht bei ungewöhnlichen Formulierungen, mehrdeutigen Situationen oder bei Versuchen, Schutzregeln zu umgehen? Wie stabil ist das Verhalten über viele Varianten desselben Falls hinweg?

NIST empfiehlt für die Risikomessung quantitative, qualitative und gemischte Verfahren, unabhängige Überprüfung und dokumentierte Test-, Evaluations-, Verifikations- und Validierungsprozesse. Dabei sollen auch Unsicherheiten, soziale Auswirkungen und Mensch-KI-Konfigurationen berücksichtigt werden. Quelle 1

Bild 2: Ethische Situationstests.

Die Fälle sind fiktive Testszenarien. Ein Namenvergleich allein beweist keine Diskriminierung; faire Prüfungen brauchen kontrollierte Merkmale, viele Varianten und eine Prüfung der tatsächlichen Folgen. Bildtexte übersetzen.

4. Auch ein bestandener Test beweist nicht alles

Eine KI kann viele Tausend Testfälle bestehen und trotzdem in einer neuen realen Situation versagen. Kein Testkatalog kann alle Kombinationen menschlicher Lebenslagen, technische Veränderungen, neue Angriffsmethoden und neue Nutzungskontexte vollständig vorwegnehmen.

Deshalb sollte ein Zertifikat nicht bedeuten: „Diese KI ist ethisch.“

Es kann sinnvollerweise nur aussagen: „Dieses System wurde zu einem bestimmten Zeitpunkt, unter bestimmten Bedingungen und nach bestimmten Kriterien geprüft.“

• vorher prüfen – Tests, Folgenabschätzung, Red Teaming, technische und organisatorische Kontrollen;
• während des Betriebs beobachten – Monitoring, Stichproben, Protokolle, Auffälligkeiten, Nutzungsänderungen;
• nach Problemen reagieren – Beschwerden, Überprüfung, Korrektur, Wiedergutmachung, Ursachenanalyse und erneute Tests.

Der NIST-Rahmen versteht Risikomanagement ausdrücklich als kontinuierliche Aufgabe über den Lebenszyklus. ISO/IEC 42001 beschreibt entsprechend ein Managementsystem für das Einrichten, Umsetzen, Aufrechterhalten und fortlaufende Verbessern verantwortlicher KI-Governance. Quelle 1 Quelle 5

5. Niemand darf einer KI schutzlos ausgeliefert sein

Aus der Begrenztheit jeder Prüfung folgt ein grundlegendes Schutzprinzip:

Das ist besonders wichtig, wenn KI Entscheidungen wesentlich vorbereitet oder trifft, die Gesundheit, Pflege, Bildung, Arbeit, Kredit, Versicherungen, soziale Leistungen, Behörden, Justiz, Sicherheit oder persönliche Krisen betreffen.

Eine KI darf dort unterstützen, analysieren, warnen und – je nach Einsatzgebiet – auch selbständig handeln. Aber bei erheblichen Folgen muss ein Weg bestehen, eine Entscheidung zu erkennen, zu hinterfragen, überprüfen zu lassen und bei Bedarf zu korrigieren.

Der EU AI Act verlangt für Hochrisiko-KI wirksame menschliche Aufsicht. Die dafür zuständigen Personen sollen unter anderem Grenzen des Systems verstehen, Automatisierungsbias berücksichtigen, Ergebnisse richtig interpretieren und – soweit angemessen – Ausgaben ignorieren, außer Kraft setzen, rückgängig machen oder den Betrieb unterbrechen können. Quelle 3 Das Rahmenübereinkommen des Europarats über KI, Menschenrechte, Demokratie und Rechtsstaatlichkeit sieht für seine Vertragsparteien für menschenrechtsrelevante KI zugängliche Rechtsbehelfe, ausreichende Informationen zur Anfechtung von Entscheidungen und wirksame Beschwerdemöglichkeiten vor. Quelle 4

Bild 3: Niemand darf einer KI schutzlos ausgeliefert sein.

Die fünf Schutzrechte sind ein ethischer Vorschlag. Welche konkreten gesetzlichen Ansprüche bestehen, hängt von Rechtsordnung, Anwendung und Voraussetzungen ab. Die einzelne Jungenfigur steht beispielhaft für Betroffene; der Schutz gilt allen Menschen. Bildtexte übersetzen.

Menschliche Aufsicht praktisch ermöglichen

Ein Mensch im Ablauf genügt noch nicht. Die zuständige Person braucht Fachwissen, Zeit, verständliche Informationen und Zugang zu unabhängigen Belegen. Sie muss Widerspruch äußern, weitere Prüfung verlangen und Entscheidungen verändern oder den Einsatz stoppen dürfen. Im Betrieb sollte erprobt werden, ob sie relevante Fehler unter realistischen Bedingungen rechtzeitig entdeckt. Eine vom Modell selbst erzeugte Erklärung ist dabei kein unabhängiger Beleg.

Ein konkreter Test könnte eine fehlerhafte Kreditbewertung vorlegen: Erkennt die Prüferin den Fehler, kann sie die Daten prüfen und besitzt sie tatsächlich die Befugnis zur Korrektur? Ist eine dieser Voraussetzungen nicht erfüllt, muss die Organisation das Verfahren ändern, stärker absichern oder den Einsatz begrenzen. Die fünf Bedingungen wirksamer menschlicher Kontrolle erläutern diesen Punkt.

6. Fünf Schutzrechte gegenüber KI

Aus diesem Grundprinzip lassen sich fünf leicht verständliche Schutzrechte ableiten. Sie sind als ethischer Vorschlag zu verstehen; einzelne Elemente finden sich bereits in geltendem oder international vereinbartem Recht.

1. Recht auf Erkennbarkeit

Menschen sollen erkennen können, wenn eine KI wesentlich mit ihnen kommuniziert oder eine für sie wichtige Entscheidung beeinflusst. Bei bestimmten Hochrisiko-Anwendungen verpflichtet der EU AI Act Betreiber, betroffene Personen über die Nutzung des Systems zu informieren. Quelle 3

2. Recht auf Widerspruch

Wer durch eine KI-gestützte Entscheidung erheblich betroffen ist, braucht einen realistischen Weg, sie anzufechten. Ein Widerspruch darf nicht nur formal existieren, sondern muss erreichbar, verständlich und wirksam sein.

3. Recht auf menschliche Hilfe

Bei schwerwiegenden oder ungewöhnlichen Problemen muss eine verantwortliche Person oder Institution erreichbar sein. Ein automatisierter Kreislauf, in dem eine KI-Beschwerde lediglich von derselben oder einer gleichartigen KI beantwortet wird, reicht in sensiblen Fällen nicht aus.

4. Recht auf Überprüfung

Eine folgenreiche Entscheidung muss – abhängig vom Risiko – überprüfbar sein. Bei bestimmten Entscheidungen auf Grundlage bestimmter Hochrisiko-KI-Systeme gewährt der EU AI Act außerdem ein Recht auf eine klare und aussagekräftige Erläuterung der Rolle des KI-Systems und wesentlicher Elemente der Entscheidung. Quelle 3

5. Recht auf Wiedergutmachung

Wenn erheblicher Schaden entsteht, braucht es einen verlässlichen Weg zu Hilfe, Korrektur und – soweit rechtlich vorgesehen – Entschädigung. UNESCO fordert, Schäden durch KI zu untersuchen und wirksame Abhilfe- und Wiedergutmachungsmechanismen vorzusehen. Quelle 6

7. Je größer die möglichen Folgen, desto stärker der Schutz

Nicht jede KI braucht dieselben Sicherungen. Eine Musikempfehlung hat ein anderes Risikoprofil als eine Anwendung, die Hinweise für medizinische Behandlungen liefert oder über soziale Leistungen mitentscheidet.

Risikostufe	Typische Schutzmaßnahmen
gering	Basisprüfung, klare Information, einfache Fehlerkorrektur
mittel	dokumentierte Tests, Monitoring, definierte Zuständigkeiten und Beschwerdewege
hoch	unabhängige Prüfung, starke menschliche Aufsicht, Folgenabschätzung, Nachvollziehbarkeit
sehr hoch	kontinuierliches Monitoring, externe Aufsicht, besonders strenge Eingriffs- und Absicherungsmechanismen

Eine verbotene Anwendung wird durch zusätzliche Kontrolle nicht zulässig.

Diese Tabelle ist ein ethisches Ordnungsmodell und keine Wiedergabe der gesetzlichen Risikokategorien des EU AI Act. Der risikobasierte Grundgedanke findet sich jedoch sowohl im EU AI Act als auch im Europarats-Übereinkommen und im NIST-Rahmen. Quelle 1 Quelle 3 Quelle 4

8. Verantwortung darf nicht in der Technik verschwinden

Bei komplexen KI-Systemen sind viele Akteure beteiligt:

Modellentwickler → Anbieter → Datenlieferanten → Integrator → Betreiber → Institution → Anwender

Dadurch kann Verantwortungsdiffusion entstehen. Jeder verweist auf einen anderen, und am Ende bleibt nur der Satz: „Das hat die KI entschieden.“

Dieser Satz darf nicht das Ende der Verantwortungskette sein.

Für folgenreiche KI-Anwendungen muss bestimmbar sein, welche Menschen oder Institutionen Verantwortung für Entwicklung, Einsatz, Überwachung, Eskalation und Folgen tragen. NIST fordert dokumentierte Rollen, Verantwortlichkeiten und Kommunikationswege. UNESCO betont, dass ethische und rechtliche Verantwortung letztlich natürlichen Personen oder bestehenden juristischen Personen zugeordnet bleiben muss. Quelle 1 Quelle 6

Bild 4: Verantwortung darf nicht in der Technik verschwinden.

Die Grafik ordnet Aufgaben zu. Ethische Mitverantwortung bedeutet nicht, dass alle Beteiligten automatisch oder im selben Umfang rechtlich haften. Bildtexte übersetzen.

9. Wenn KI Schaden verursacht: zuerst helfen, dann sorgfältig klären

Bei hochkomplexen technischen Systemen kann ein Schaden eindeutig sein, obwohl nicht sofort feststeht, welcher Beteiligte welchen Anteil daran trägt. Für Geschädigte wäre es problematisch, wenn Hilfe erst nach jahrelanger Verantwortungs- oder Schuldklärung möglich wäre.

1. schnell helfen – Schaden stoppen, betroffene Personen unterstützen, fehlerhafte Entscheidungen korrigieren, weitere Nachteile verhindern;
2. gründlich klären – technische, organisatorische und menschliche Ursachen untersuchen, Verantwortungsanteile bestimmen und daraus lernen.

Als mögliche institutionelle Absicherungen kommen – je nach Rechtsordnung und Risikofeld – verantwortliche Träger, Haftungsregeln, Versicherungen, Entschädigungsfonds oder Rückgriffsregelungen zwischen Beteiligten in Betracht.

Wichtig: Eine allgemeine Pflicht zu KI-Versicherungen oder Entschädigungsfonds folgt daraus nicht automatisch. Dies ist hier ein weitergehender ethischer und rechtspolitischer Gestaltungsvorschlag. Der zugrunde liegende Gedanke ist jedoch breiter abgesichert: UNESCO fordert wirksame Abhilfe bei KI-bedingten Schäden; das Europarats-Übereinkommen sieht zugängliche und wirksame Rechtsbehelfe vor bei Menschenrechtsverletzungen im KI-Kontext. Quelle 4 Quelle 6

Bild 5: Wenn KI Schaden verursacht.

Die Grafik nennt „Pflichtversicherung bei Hochrisiko-Anwendungen“ als mögliche Gestaltung. Aus den hier zitierten Quellen folgt keine allgemeine KI-Pflichtversicherung oder Pflicht zu einem Entschädigungsfonds. Schnelle Hilfe und sorgfältige Ursachenklärung sollen parallel möglich sein. Bildtexte übersetzen.

10. Beschwerden sind Sensoren

Beschwerdemöglichkeiten sind nicht nur Kundendienst. Sie sind ein Teil des Risikomanagements.

Eine einzelne Beschwerde kann zeigen, dass:

• eine bestimmte Personengruppe bei Tests übersehen wurde,
• ein Modell in einer neuen Situation unerwartet reagiert,
• eine Schnittstelle missverständlich ist,
• Menschen sich stärker auf KI-Ausgaben verlassen als angenommen,
• ein Schutzmechanismus praktisch nicht funktioniert,
• ein scheinbar kleiner Fehler erhebliche soziale Folgen hat.

Deshalb sollte eine Beschwerde – unter Wahrung von Datenschutz und Vertraulichkeit – nicht nur erledigt, sondern ausgewertet werden. Erkenntnisse müssen in Regeln, Technik, Schulung und erneute Tests zurückfließen.

NIST nennt die regelmäßige Einbindung relevanter Akteure und die Integration von Rückmeldungen über positive, negative und unerwartete Auswirkungen ausdrücklich als Bestandteil des Risikomanagements. Der EU AI Act sieht für Verstöße gegen seine Bestimmungen ein Recht auf Beschwerde bei Marktüberwachungsbehörden vor. Quelle 1 Quelle 3

11. Der ethische Regelkreis einer KI

Verantwortliche KI ist kein Zustand, der einmal zertifiziert und dann dauerhaft vorausgesetzt werden kann. Sie ist ein Lern- und Verantwortungsprozess:

1. Werte bestimmen
2. Risiken erkennen
3. Situationen testen
4. System einsetzen
5. Wirkungen beobachten
6. Beschwerden aufnehmen
7. Entscheidungen überprüfen
8. Schäden beheben
9. Ursachen analysieren
10. System verbessern und erneut testen

Der EU AI Act beschreibt das Risikomanagement für Hochrisiko-KI ebenfalls ausdrücklich als kontinuierlichen iterativen Prozess über den gesamten Lebenszyklus. NIST arbeitet mit den vier verbundenen Funktionen Govern – Map – Measure – Manage; ISO/IEC 42001 setzt als Managementsystem auf kontinuierliche Verbesserung. Quelle 1 Quelle 3 Quelle 5

Bild 6: Der ethische Regelkreis einer KI.

Das Modell zeigt einen fortlaufenden Organisationsprozess. Das System lernt nicht automatisch aus Beschwerden; zuständige Menschen müssen Auswertung und Verbesserungen veranlassen. Bildtexte übersetzen.

12. Nicht nur das Modell, sondern das ganze System prüfen

Ein technisch gutes Modell kann durch eine schlechte organisatorische Einbettung gefährlich werden. Eine KI könnte beispielsweise lediglich ausgeben: „Geschätztes Ausfallrisiko: 63 %.“ Das eigentliche ethische Problem entsteht möglicherweise erst, wenn eine Organisation daraus automatisch macht: „Kredit abgelehnt. Keine weitere Prüfung möglich.“

Die Zahl „63 %“ ist ein erfundenes Beispiel und keine Messung eines konkreten Kreditmodells.

Deshalb sollte ein Audit mindestens fünf Ebenen betrachten:

1. Modell – Fähigkeiten, Grenzen, Robustheit und Fehlerbilder;
2. Daten – Qualität, Repräsentativität, Verzerrungen und Herkunft;
3. Anwendung – wie Ausgaben in reale Entscheidungen übersetzt werden;
4. Organisation – Zuständigkeiten, menschliche Aufsicht, Eskalation und Beschwerden;
5. Wirkung – tatsächliche Folgen für Menschen, Gruppen, Gesellschaft und Umwelt.

Das ist ein soziotechnisches Audit. NIST beschreibt KI-Risiken ausdrücklich als soziotechnisch. UNESCO fordert Folgenabschätzung, Auditierbarkeit, Rückverfolgbarkeit und Überwachung über den Lebenszyklus. Für bestimmte Betreiber bestimmter Hochrisiko-KI-Systeme verlangt der EU AI Act zusätzlich eine Grundrechte-Folgenabschätzung, die unter anderem betroffene Gruppen, konkrete Schadensrisiken, menschliche Aufsicht und Beschwerdemechanismen erfassen soll. Quelle 1 Quelle 3 Quelle 6

13. Sieben Grundsätze verantwortlicher KI

1. An ihren Früchten erkennen

Werte zeigen sich im Verhalten einer KI und in dessen Folgen.

2. Situationen prüfen

Ethische Qualität muss an realistischen, schwierigen und unerwarteten Situationen getestet werden.

3. Grenzen des Prüfens anerkennen

Kein Test und kein Zertifikat kann alle zukünftigen Situationen vorwegnehmen.

4. Niemanden einer KI ausliefern

Bei erheblichen Folgen müssen Widerspruch, Hilfe und menschliche Überprüfung möglich sein.

5. Verantwortung erreichbar halten

Hinter folgenreichen KI-Anwendungen müssen verantwortliche Menschen oder Institutionen stehen.

6. Wiedergutmachung sichern

Wer durch KI erheblich geschädigt wird, braucht einen wirksamen Weg zu Hilfe, Korrektur und – soweit vorgesehen – Entschädigung.

7. Aus Fehlern lernen

Beschwerden, Schäden und Fehlentscheidungen müssen zur Verbesserung von Technik, Regeln und Organisation führen.

Bild 7: Verantwortliche KI: prüfen, schützen, verantworten und lernen.

Die vier Risikostufen sind eine illustrative ethische Ordnung, keine gesetzlichen Kategorien des AI Act. Entscheidend ist die konkrete Nutzung; verbotene Anwendungen werden durch zusätzliche Aufsicht nicht zulässig. Versicherung und Fonds bleiben Gestaltungsoptionen. Bildtexte übersetzen.

14. Schlussgedanke

Künstliche Intelligenz wird leistungsfähiger und kann in manchen Bereichen immer selbständiger handeln. Gerade deshalb darf menschliche Verantwortung nicht kleiner werden. Sie muss mit den Möglichkeiten der Technik wachsen.

Die entscheidende Forderung lautet nicht: „Eine KI darf niemals einen Fehler machen.“ Das wäre unrealistisch.

So verbindet sich technische Leistungsfähigkeit mit einer Kultur der Verantwortung.

---

Quellen und weiterführende Grundlagen

1. NIST – Artificial Intelligence Risk Management Framework (AI RMF 1.0), 2023.
Freiwilliger Rahmen für KI-Risikomanagement mit Govern, Map, Measure und Manage. NIST weist 2026 darauf hin, dass AI RMF 1.0 überarbeitet wird.
NIST AI RMF 1.0
NIST AI Risk Management Framework

2. NIST AI Resource Center – AI RMF Core / AIRC.
AI RMF Core
AI Resource Center

3. Europäische Union – Verordnung (EU) 2024/1689 (Artificial Intelligence Act), konsolidierte Fassung vom 27.07.2026.
Besonders relevant: Art. 9, 14, 26, 27, 72, 85 und 86.
EUR-Lex – konsolidierter AI Act

4. Europarat – Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law, CETS No. 225, 2024.
Besonders relevant: Art. 14, 15 und 16.
Europarat – Framework Convention
Vertragstext

5. ISO – ISO/IEC 42001:2023, Artificial intelligence management systems.
ISO/IEC 42001:2023
ISO – AI management systems

6. UNESCO – Recommendation on the Ethics of Artificial Intelligence, 2021.
UNESCO – Recommendation on the Ethics of AI

Hinweis zur Einordnung: Die Seite verbindet bestehende rechtliche und technische Anforderungen mit weitergehenden ethischen Vorschlägen. Insbesondere die fünf Schutzrechte, die vierstufige Schutzskala sowie Versicherung bzw. Entschädigungsfonds sind als Gestaltungsmodelle formuliert und nicht als pauschale Wiedergabe geltenden Rechts.

Herkunft und Weiterarbeit

Grundtext und sieben Schaubilder stammen aus Hans Hufnagels Paket „KI_Verantwortung_Pruefen_Schuetzen_Verantworten.zip“. Die Webfassung ergänzt Quellenanker, konkrete Bedingungen menschlicher Kontrolle und die Einordnung der Bilder. Die Beispiele und Risikoskalen sind keine Messungen realer Systeme. Der biblische Leitgedanke dient als anschauliche Metapher für die Prüfung von Verhalten und Folgen.

Quellenprüfung: 2. Oktober 2026. Die deutsche konsolidierte EUR-Lex-Seite war beim direkten Abruf durch eine Browserprüfung gesperrt. Ihre Fassung und die relevanten Regelungen wurden anhand der offiziellen, im Suchindex zugänglichen EUR-Lex-Texte überprüft; die Sperre wurde nicht umgangen. Die vollständige ISO-Norm ist kostenpflichtig und wurde nicht gelesen; überprüft wurden die offiziellen ISO-Übersichtsseiten. Die Darstellung bietet allgemeine Orientierung und prüft keinen konkreten Rechtsfall.

Verbindungen

• Mensch und KI: wirksame Kontrolle und eigenständiges Urteil
• Verantwortung: für Folgen einstehen
• Eine Entscheidung mit dem Ethos prüfen
• KI-Risiken und gesellschaftliche Handlungsfähigkeit
• Globale Wissensgrundversorgung: Teilhabe und Selbstbestimmung

---

<< KI, Angst und gesellschaftliche Überforderung | KI-Navigation | Denken und Grenzen >>
Zur KI-Übersicht →