KI-Ethos Mensch und KI
im Gespräch über ein gutes Leben
denken · prüfen · begegnen · gestalten

Von Ethik und Ethos zu Regeln, Standards und Recht

Seitenstatus: Freigegeben Diese Fassung wurde durch Hans Hufnagel geprüft und freigegeben.

KI-Ethik – Rundgang | Regeln, Standards und Recht

Wie aus ethischer Reflexion gesellschaftliche und technische Verbindlichkeit entsteht

Nicht alles ist Ethik – aber vieles hat eine ethische Grundlage

Wenn Menschen angesichts neuer KI-Risiken nach „KI-Ethik“ rufen, erwarten sie häufig zugleich Orientierung, konkrete Regeln, Kontrolle und Schutz.

Diese Aufgaben liegen jedoch auf verschiedenen Ebenen.

Ethische Reflexion kann begründen und kritisieren. Sie allein schafft aber noch keine rechtliche Zuständigkeit, technische Zugriffsbeschränkung oder Sanktion.

Umgekehrt beantwortet ein Gesetz nicht alle ethischen Fragen.

Eine mögliche Kette

Der Zusammenhang kann vereinfacht so dargestellt werden:

'''Wirklichkeit und Erfahrung
→ ethische Reflexion
→ Werte und Ethos
→ Leitlinien und Standards
→ Governance und Verfahren
→ Recht
→ technische und organisatorische Umsetzung
→ Prüfung und Erfahrung
→ erneute ethische Reflexion'''

Diese Kette ist kein starrer Ablauf. In der Praxis wirken die Ebenen aufeinander zurück.

Die Startseite fasst Recht und Governance für den Überblick zu einer Ebene zusammen. Hier werden beide getrennt betrachtet, weil Governance auch organisatorische und freiwillige Verfahren umfasst, die nicht mit Recht identisch sind. So zeigt die Vertiefung sechs statt fünf Ebenen.

Infografik mit sechs Ebenen von ethischer Reflexion über Ethos, Standards, Governance und Recht bis zur technischen Umsetzung und anschließenden Prüfung.

Ethische Reflexion wird über Ethos, Richtlinien, Governance, Recht und technische Umsetzung schrittweise praktisch wirksam – und durch Prüfung wieder zurückgekoppelt. Bildtexte übersetzen.

Bildbeschreibung: Das Bild trennt sechs Ebenen: ethische Reflexion, Ethos und Leitbilder, Richtlinien und Standards, Governance, Recht und Regulierung sowie technische Umsetzung. Damit wird sichtbar, dass ethische Werte zwar Orientierung geben, aber nicht selbst schon Gesetz, Organisationsverfahren oder technische Sicherheitsarchitektur sind. Umgekehrt beendet Regulierung die ethische Aufgabe nicht. Die Rückkopplung aus Beobachten, Bewerten und Verbessern macht den gesamten Prozess lernfähig.

Die Ebenenfolge ist ein Orientierungsmodell und keine automatische Ableitung von Gesetzen oder technischen Schutzmechanismen aus Werten. Die einzelnen Ebenen müssen jeweils eigenständig konkretisiert und geprüft werden.

Internationale ethische Leitlinien

In den vergangenen Jahren sind mehrere einflussreiche Rahmenwerke entstanden.

UNESCO

Die UNESCO-Empfehlung zur Ethik künstlicher Intelligenz verbindet Menschenwürde und Menschenrechte mit Wohlergehen, Schadensvermeidung, Fairness, Transparenz, menschlicher Aufsicht, Nachhaltigkeit sowie gesellschaftlichen und ökologischen Auswirkungen.

OECD

Die OECD AI Principles wurden 2019 verabschiedet und 2024 aktualisiert. Sie bündeln fünf wertebezogene Prinzipien: inklusives Wachstum und Wohlergehen, Menschenrechte und demokratische Werte einschließlich Fairness und Privatsphäre, Transparenz, Robustheit/Sicherheit sowie Verantwortlichkeit.

Europäische Leitlinien für vertrauenswürdige KI

Die EU-Expertengruppe unterschied bereits 2019 drei Anforderungen an vertrauenswürdige KI: rechtmäßig, ethisch und robust. Daraus wurden konkrete Anforderungen an menschliche Aufsicht, Sicherheit, Datenschutz, Transparenz, Vielfalt/Fairness, gesellschaftliches und ökologisches Wohlergehen sowie Rechenschaftspflicht entwickelt.

Diese Dokumente sind keine identischen Ethiksysteme. Sie zeigen aber eine erhebliche Konvergenz wichtiger Werte und Anforderungen.

Von Leitlinien zu Recht

Der europäische AI Act ist ein Beispiel dafür, wie gesellschaftliche Werte und Grundrechte in verbindliche Regulierung einfließen.

Er ist dennoch nicht einfach „Ethik als Gesetz“.

Recht muss unter anderem festlegen:

  • für wen eine Regel gilt,
  • welche Systeme erfasst werden,
  • welche Pflichten überprüfbar sind,
  • wer zuständig ist,
  • welche Nachweise erforderlich sind,
  • welche Ausnahmen gelten,
  • und welche Folgen Verstöße haben.

Welche Pflichten tatsächlich gelten, hängt unter anderem vom System, der Rolle, dem Anwendungsbereich und der zeitlichen Anwendbarkeit ab. Die verlinkte Amtsblattfassung führt bei EUR-Lex zur jeweils aktuellen konsolidierten Fassung. Diese Seite gibt eine allgemeine Orientierung und keine Einzelfall-Rechtsberatung.

Ethik kann weiter fragen, selbst wenn das Recht eine Handlung erlaubt.

Risikomanagement und Standards

Zwischen Ethik und Recht liegt eine große Ebene praktischer Governance.

Das NIST AI Risk Management Framework ist ein Beispiel für einen freiwilligen Rahmen, der Organisationen dabei unterstützen soll, Risiken für Einzelne, Organisationen und Gesellschaft über den Lebenszyklus von KI-Systemen zu managen.

Gemeint ist hier AI RMF 1.0 von 2023. NIST weist am 3. Oktober 2026 auf eine laufende Überarbeitung hin. Der Rahmen ist freiwillig und kein Gesetz.

Solche Rahmenwerke übersetzen allgemeine Anforderungen in Prozesse:

  • Risiken identifizieren,
  • Auswirkungen bewerten,
  • Verantwortlichkeiten bestimmen,
  • Maßnahmen dokumentieren,
  • Systeme testen,
  • und Erfahrungen zurück in die Entwicklung führen.

Verhaltensregeln für Modelle

Neben Gesetzen und Organisationsstandards entstehen auch konkrete Rahmen für Modellverhalten.

OpenAI veröffentlicht mit dem Model Spec einen öffentlichen Rahmen für gewünschtes Modellverhalten und den Umgang mit widersprüchlichen Anweisungen.

Anthropic veröffentlicht eine Constitution, die Werte und gewünschtes Verhalten von Claude beschreibt.

Diese Dokumente sind keine vollständigen philosophischen KI-Ethiken. Sie zeigen aber, dass allgemeine Werte in konkretere Verhaltensanforderungen übersetzt werden können.

Genau an dieser Schnittstelle liegt auch die Idee eines Ethos-Skills für Agenten – eines hier vorgeschlagenen Arbeitsbegriffs.

Technische Grenzen bleiben unverzichtbar

Bei einem handelnden Agenten darf normative Orientierung nicht die einzige Schutzschicht sein.

Ein Agent kann gute Regeln „kennen“ und dennoch durch manipulierte Eingaben, zu weitgehende Berechtigungen oder Fehler gefährliche Aktionen auslösen.

Deshalb gehören zu verantwortbarer KI auch technische Mechanismen wie:

  • minimale Berechtigungen,
  • sichere Werkzeugzugänge,
  • menschliche Freigaben,
  • Trennung kritischer Funktionen,
  • Protokollierung,
  • Tests,
  • Überwachung,
  • Rücknahme- und Abschaltmöglichkeiten.

Warum Ethik trotzdem nicht endet

Je mehr Regeln und Gesetze entstehen, desto leichter könnte der Eindruck entstehen, die ethische Aufgabe sei erledigt.

Das Gegenteil ist der Fall.

Neue Technologien schaffen Situationen, die bestehende Regeln noch nicht erfassen. Werte können in Konflikt geraten. Eine rechtlich erlaubte Handlung kann ethisch fragwürdig sein. Eine technisch sichere Lösung kann gesellschaftlich ungerecht sein.

Deshalb bleibt ethische Reflexion notwendig.

Internationaler Quellenkompass: Welche Art von Aussage liegt vor?

Weltweit arbeiten unterschiedliche Einrichtungen an KI-Ethik. Ihre Dokumente haben verschiedene Aufgaben und Geltungsansprüche:

ArtBeispieleWas daraus folgt
Ethische EmpfehlungenUNESCO, OECD, MontréalVergleichsmaßstäbe; für sich kein universell verbindliches Gesetz.
Recht und VerträgeEU AI Act, Europarats-ÜbereinkommenGeltung, Zuständigkeit, Anwendungszeit und Vertragsstatus einzeln prüfen.
Praxisrahmen und NormenNIST, IEEE, ISO/IEC, IMDAUnterschiedliche Hilfen zur Gestaltung und Organisation; kein gemeinsames Ethikzertifikat.
Empirische Forschung und SynthesenStanford HAI, britisches AISI, International AI Safety ReportMethoden, untersuchte Systeme, Zeitraum und Evidenzgrenzen mitlesen.
EntwicklungsstrategienAfrikanische Union, UN Global Digital CompactPolitische Ziele und Umsetzungsvorhaben; keine bereits erreichte Versorgung.
Kritische und philosophische PositionenAI Now, die hier verlinkten Arbeiten von Benjamin LangeArgumente und Gegenpositionen prüfen; Autorenschaft ersetzt keinen Beweis.
BeteiligungsverfahrenAda Lovelace InstituteBetroffene einbeziehen; Beteiligung nicht mit Einstimmigkeit oder Wirksamkeitsnachweis verwechseln.

Das Europarats-Übereinkommen schützt Menschenrechte, Demokratie und Rechtsstaatlichkeit; seine rechtliche Wirkung ist nach Vertragsstatus und Umsetzung zu beurteilen. Für den EU AI Act nennt die Kommission den Umsetzungsstand; einzelne Pflichten haben unterschiedliche Anwendungszeiten. ISO/IEC 42001:2023 betrifft ein KI-Managementsystem. Hier ist nur die öffentliche ISO-Beschreibung geprüft, nicht der kostenpflichtige Normtext.

Die Auswahl ist ein Quellenkompass und keine Rangliste. Eigenständige Begriffe wie Liebe, Auslegen oder KI-Handlungsflut werden durch ähnliche internationale Anliegen nicht automatisch wissenschaftlich bestätigt. Die thematischen Ergänzungen stehen jeweils auf den passenden Bestandsseiten.

Die Originale dokumentieren den gelieferten Arbeitsstand. Veröffentlichungsarten und spezifische Links wurden für die Seitenfassung nachgeprüft. Die ACM-Direktseite war gesperrt; daraus wurde keine neue Zusammenfassung abgeleitet. Das UN-Wissenschaftspanel bleibt ein Pflegehinweis, kein Ersatz für einen konkreten Forschungsbericht.

Leitgedanke

Ethik fragt und kritisiert. Ethos orientiert. Regeln konkretisieren. Governance organisiert Verantwortung. Recht setzt verbindliche Grenzen. Technik macht Schutz wirksam. Prüfung zeigt, ob all dies tatsächlich funktioniert.

Philosophische Grundlagen

Quellen und Bezugspunkte

Quellenstand: 3. Oktober 2026.

Rechtsstand: Berücksichtigt wurde die zum 27. Juli 2026 konsolidierte Fassung. Konsolidierte Fassungen dienen der Dokumentation; maßgeblich sind die im Amtsblatt veröffentlichten Rechtsakte.

Die Darstellung enthält keine Detailauslegung der aktuellen Einzelpflichten. Institutionelle Empfehlungen, Herstellerrahmen und technische Hilfen werden als solche verwendet. Die begriffliche Zusammenführung und die Ethos-Skill-Idee sind Vorschläge dieser Website.


Zur Übersicht KI-Ethik

Internationale Quellen ergänzt und punktuell geprüft: 28. Oktober 2026. Originale und Abrufgrenzen stehen im obigen Quellenkompass.

<< Wenn KI uns ethisch überholt | KI-Ethik – Rundgang | Die Neuverteilung der Macht durch KI >>