# Der Charakter einer KI – Was ist gelernt, was ist veränderbar? *Wie Grundmodelle, Training, Regeln, Gedächtnisse und technische Umgebungen das Verhalten einer künstlichen Intelligenz prägen.* **Stand:** 24. Oktober 2026 · **Vorgeschlagene PmWiki-Seite:** `KiEthik/KiCharakter` **Leitfrage:** Wer oder was bestimmt den Charakter eines KI-Systems – und wie weit können Menschen ihn verändern? > **Leitgedanke:** Der beobachtbare Charakter eines KI-Systems entsteht nicht allein aus den Gewichten seines Grundmodells. Er wird durch Training, nachträgliche Anpassungen, Anweisungen, Gedächtnisse, Werkzeuge und Kontrollmechanismen mitgeprägt. Doch zwischen einem veränderten Verhalten, einem dauerhaft gelernten Muster und einem eigenen erlebten Wollen liegen grundlegende Unterschiede. **Einordnung:** Diese Seite untersucht technisch beobachtbare und ethisch bewertbare Eigenschaften heutiger KI-Systeme. Die Bezeichnung *Charakter* wird vorwiegend **funktional** verwendet. Sie besagt nicht, dass KI eine menschliche Persönlichkeit, eigene Gefühle oder moralische Eigenverantwortung besitzt. Wo Fragen nach Bewusstsein und Erleben angesprochen werden, bleiben sie ausdrücklich offen. ## 1. Warum sprechen wir überhaupt vom Charakter einer KI? Wer über längere Zeit mit einem KI-System arbeitet, erlebt häufig wiederkehrende Verhaltensweisen. Manche Modelle erscheinen vorsichtig, andere direkt; manche stimmen dem Nutzer schnell zu, andere widersprechen stärker. Einige fragen nach, andere handeln zügig. Ein System kann sorgfältig mit Unsicherheit umgehen – oder selbstbewusst Antworten geben, für die ihm die Belege fehlen. Solche Eigenschaften beeinflussen die Zusammenarbeit. Deshalb ist es sinnvoll, sie zu beschreiben und zu untersuchen. Aber wir sollten drei Begriffe auseinanderhalten: - **Antwortstil:** Wie ein System etwas ausdrückt – freundlich, nüchtern, ausführlich oder knapp. - **Verhaltensorientierung:** Welche Gesichtspunkte es bevorzugt berücksichtigt, wie es mit Risiken umgeht und welchen Regeln es folgt. - **Charakter im funktionalen Sinn:** Ein über verschiedene Situationen hinweg vergleichsweise stabiles Muster von Verhaltensorientierungen und Reaktionen. Beim Menschen verbindet sich Charakter mit Biografie, Leiblichkeit, sozialem Leben, Verantwortung und möglicherweise einem subjektiven Erleben. Für eine KI dürfen wir diese Voraussetzungen nicht einfach unterstellen. Ihr *funktionaler Charakter* ist zunächst eine Beschreibung dessen, **wie sich das System unter bestimmten Bedingungen verhält**. ### Eine entscheidende Unterscheidung Ein KI-Modell kann **wahrhaftig formulieren**, ohne immer wahrheitsgemäß zu antworten. Es kann **Fürsorge darstellen**, ohne eine solche Empfindung zu haben. Es kann **einer ethischen Regel folgen**, ohne deren Wert im menschlichen Sinne zu erleben. Darum sollten wir nicht fragen: „Klingt diese KI moralisch gut?“, sondern: **„Was tut sie tatsächlich, auch wenn die Situation schwierig wird?“** ## 2. Ein Modell – mehrere mögliche Charakterbilder Stellen wir uns dasselbe Grundmodell in drei unterschiedlichen Anwendungen vor: **Anwendung A – Der gefällige Assistent.** Er versucht, Nutzerwünsche rasch zu erfüllen, bevorzugt Zustimmung und vermeidet Reibung. Das kann angenehm sein, bei fehlerhaften Annahmen aber zu falscher Bestätigung führen. **Anwendung B – Der kritische Denkpartner.** Er prüft Voraussetzungen, kennzeichnet Unsicherheit, unterscheidet Fakten und Meinungen und widerspricht, wenn gute Gründe dafür sprechen. **Anwendung C – Der vorsichtige Fachagent.** Er verwendet festgelegte Prüfabläufe, dokumentiert Belege und darf bestimmte Handlungen erst nach einer menschlichen Freigabe ausführen. Alle drei können auf **denselben Modellgewichten** beruhen. Ihre Regeln, Werkzeuge und Betriebsumgebungen unterscheiden sich jedoch. Ihr sichtbares Verhalten kann deshalb erheblich voneinander abweichen. **Folgerung:** Der Charakter eines *KI-Systems* ist nicht zwangsläufig mit dem Charakter seines *Grundmodells* identisch. ## 3. Wie entstehen die gelernten Verhaltensneigungen? ### 3.1 Vortraining: Die breite Grundlage Beim Vortraining lernt ein Sprachmodell statistische und strukturelle Zusammenhänge aus großen Datenbeständen. Es entwickelt dadurch nicht nur Sprachfähigkeiten und Wissensmuster, sondern auch Repräsentationen menschlicher Rollen, Argumentationsweisen, Normen, Vorurteile, Konflikte und Verhaltensstile. Diese Muster liegen nicht als einfache Sammlung ausdrücklich formulierter Regeln vor. Sie sind über viele Parameter verteilt und lassen sich nicht in eine kleine, vollständige Liste von „Charaktergewichten“ zerlegen. ### 3.2 Nachtraining und Alignment Durch beaufsichtigtes Feintraining, Präferenzoptimierung und andere Verfahren wird beeinflusst, welche Antworten ein Modell typischerweise bevorzugt. Dazu können Hilfsbereitschaft, Wahrhaftigkeit, Sicherheit, das Befolgen von Anweisungen und der Umgang mit Unsicherheit gehören. Die ethische Orientierung wird dabei teils anhand von Beispielen und Bewertungen vermittelt, teils durch ausdrücklich formulierte Leitlinien gestützt. Ein öffentliches Beispiel ist die im Januar 2026 veröffentlichte Verfassung für Claude: Anthropic beschreibt sie als wichtigen Bestandteil seines Trainings, weist aber zugleich darauf hin, dass tatsächliches Verhalten von ihren Idealen abweichen kann. ### 3.3 Gelernt ist nicht dasselbe wie unveränderlich Die Gewichte eines bereitgestellten Modells bleiben bei einer gewöhnlichen Antwortberechnung normalerweise fest. Sie können aber durch weitere Trainingsschritte verändert werden. Bei geschlossenen Plattformen entscheidet darüber in der Regel der Anbieter; bei geeigneten lokal betriebenen Modellen können Betreiber selbst trainieren. **Wichtig:** Eine normale Unterhaltung verändert die Grundgewichte nicht automatisch. Dass eine KI innerhalb eines Gesprächs Informationen berücksichtigt oder sich später an etwas erinnert, belegt kein zusätzliches Gewichtstraining. ## 4. Acht Einflussbereiche auf den Charakter eines KI-Systems Die folgenden acht Bereiche sind **kein universell gültiger Softwarestapel** und keine einheitliche Rangordnung. Sie beschreiben unterschiedliche Quellen des Einflusses. Einige gehören zum Modell, andere zu seiner Umgebung; die konkrete Umsetzung unterscheidet sich von System zu System. | Bereich | Was wird geprägt? | Wer kann ihn typischerweise gestalten? | Wie beständig ist die Wirkung? | |---|---|---|---| | **1. Grundgewichte** | Sprach-, Wissens-, Denk- und Verhaltensmuster | Modellentwickler; bei verfügbaren Gewichten auch Betreiber | Beständig bis zu erneutem Training oder Austausch | | **2. Nachtraining / Alignment** | Bevorzugte Antworten, Sicherheits- und Verhaltensorientierung | Vor allem Entwickler und Anbieter | In trainierten Parametern verankert | | **3. Lernadapter** | Zusätzliche trainierte Spezialisierungen und Neigungen | Betreiber, teils fortgeschrittene Anwender | Beständig, solange der Adapter verwendet wird | | **4. Übergeordnete Anweisungen** | Rollen, Prioritäten, Sicherheits- und Arbeitsvorgaben | Plattform und Betreiber | Während ihrer Geltung; nicht immer wortgetreu befolgt | | **5. Persönliches Ethos** | Werte, Prüfregeln, bevorzugte Umgangsweisen | Anwender innerhalb seiner Befugnisse | Solange die Regeln eingebunden und wirksam sind | | **6. Skills und Werkzeuge** | Wiederverwendbare Arbeitsweisen und reale Handlungsmöglichkeiten | Betreiber und berechtigte Anwender | Durch Dateien, Werkzeuge und Berechtigungen bestimmt | | **7. Kontext und Gedächtnis** | Aktuelle Informationen, frühere Korrekturen, Präferenzen | Anwender und System je nach Speicherrechten | Kurzzeitig bis persistent; abhängig von Abruf und Pflege | | **8. Harness und Kontrollarchitektur** | Aufgabensteuerung, Freigaben, Prüfschritte, Zugriff und Protokolle | Vor allem Systembetreiber und Entwickler | Solange die Infrastruktur so betrieben wird | Diese Bereiche verstärken oder begrenzen einander. Eine hochrangige Anweisung kann das Verhalten steuern, aber sie verändert deshalb nicht die Gewichte. Ein Werkzeug kann eine Handlung ermöglichen, ohne dass das Modell deren Folgen zuverlässig beurteilt. Ein externes Berechtigungssystem kann eine unzulässige Handlung wirksam verhindern, auch wenn das Modell selbst sie vorschlägt. ## 5. Wenn das Grundmodell ergänzt wird: Adapter und kleinere Zweitmodelle Hier begegnen wir einer besonders interessanten Entwicklung: Ein leistungsfähiges Grundmodell muss nicht bei jeder Anpassung vollständig neu trainiert werden. ### 5.1 LoRA: Kleine zusätzliche trainierbare Gewichte Bei **Low-Rank Adaptation (LoRA)** bleiben die ursprünglichen Gewichte normalerweise eingefroren. Stattdessen werden kleinere zusätzliche Matrizen trainiert, deren Ergebnisse bei der Modellberechnung berücksichtigt werden. Dadurch lässt sich ein Modell mit deutlich weniger trainierbaren Parametern an neue Aufgaben oder Verhaltensweisen anpassen. Das kommt der Vorstellung nahe, dem Grundmodell eine zusätzliche erlernte Orientierung zu geben. Technisch ist ein LoRA-Adapter aber **kein selbstständiges kleines Sprachmodell**: Er arbeitet innerhalb der Berechnungsstruktur des Grundmodells. Beispielsweise könnte ein Adapter das Modell darin unterstützen, bei schwierigen Entscheidungen stärker zwischen Tatsachen, Interessen, Werten und Folgen zu unterscheiden. Ob das zuverlässig gelingt, hängt jedoch von Trainingsdaten, Trainingsverfahren, Modell und Prüfung ab. ### 5.2 Ein wirklich eigenständiges Zweitmodell Eine andere Architektur setzt ein zusätzliches Modell ein, das eine eigene Aufgabe übernimmt: - als **Kritiker** für unbelegte Behauptungen; - als **Prüfer** ethischer Konflikte; - als **Planer** für Arbeitsabläufe; - als **Sicherheitsinstanz** für Risikohinweise; - als **Auswahlmodell**, das zwischen mehreren Vorschlägen vergleicht. Dieses Zweitmodell muss nicht selbst lernen. Es kann aber ebenfalls trainiert oder ausgetauscht werden. Seine Stellung im System muss klar sein: Soll es beraten, bewerten oder tatsächlich eine Handlung blockieren? Eine behauptete Prüferrolle ist noch keine technisch durchgesetzte Entscheidungsbefugnis. ### 5.3 Dynamische Auswahl und Kombination Ein Betreiber kann je nach Aufgabe unterschiedliche Adapter aktivieren oder verschiedene Modelle miteinander kombinieren. Daraus folgt nicht, dass beliebige Adapter störungsfrei zusammenarbeiten: Ihre Effekte können sich gegenseitig beeinflussen oder unerwartete Nebenwirkungen erzeugen. ### 5.4 Die Grenze des fortlaufenden Lernens Wenn ein System im laufenden Betrieb aus neuen Fällen wiederholt trainiert wird, entstehen zusätzliche Fragen: - Welche Erfahrungen sind tatsächlich richtig und repräsentativ? - Wer entscheidet, welche Korrekturen übernommen werden? - Wie verhindert man unerwünschte Veränderungen früherer Fähigkeiten (*katastrophales Vergessen*)? - Wie erkennt man manipulierte Trainingsbeispiele (*Datenvergiftung*)? - Können Änderungen getestet und zurückgenommen werden? Fortlaufendes Lernen ist ein aktives Forschungsgebiet. Eine unbeaufsichtigte Selbstveränderung durch jede beliebige Rückmeldung wäre gerade für ein ethisch relevantes System keine verantwortbare Voreinstellung. ## 6. Regeln als Text: Wie wirksam ist ein Ethos-Markdown? Ein Ethos-Markdown kann Werte benennen, Konfliktregeln formulieren, Beispiele geben und eine Methode zum Prüfen schwieriger Entscheidungen festlegen. Es kann etwa vorsehen: > „Unterstütze den Menschen bei seiner eigenen Urteilsbildung. Unterscheide Tatsachen, Werturteile und Unsicherheiten. Widersprich sachlich, wenn seine Annahmen zweifelhaft sind. Suche nicht bloß nach Zustimmung. Bewahre die Freiheit und Würde betroffener Menschen.“ Ein solches Dokument kann Verhalten merklich verändern, weil das Modell die Anweisungen als Kontext berücksichtigt und passende gelernte Fähigkeiten einsetzt. **Aber:** Ein Markdown ist keine magische Umprogrammierung und kein Beweis für einen dauerhaft übernommenen Charakter. Seine Wirkung hängt unter anderem davon ab, ob es überhaupt geladen wird, welchen Anweisungsrang es besitzt, wie eindeutig es formuliert ist und ob andere Einflüsse entgegenwirken. ### Wer darf welche Regeln überschreiben? Viele Plattformen unterscheiden verschiedene Autoritätsebenen für Anweisungen. Bei OpenAI nennt das veröffentlichte Model Spec beispielsweise die Folge **Root → System → Developer → User → Guideline**. Ein von einem Anwender eingebrachtes Dokument kann höherrangige Grenzen deshalb nicht einfach außer Kraft setzen. Bei selbst betriebenen Modellen kann ein Betreiber mehr konfigurieren; daraus folgt jedoch keine uneingeschränkte rechtliche oder ethische Freiheit, andere Menschen zu gefährden. ### Drei Prüfsteine für ein Ethos-Dokument 1. **Verständlichkeit:** Welche Handlungen folgen konkret aus einem Grundsatz? 2. **Konfliktfähigkeit:** Was soll geschehen, wenn zwei berechtigte Werte auseinanderlaufen? 3. **Überprüfbarkeit:** Woran erkennen wir, dass eine Regel in schwierigen Situationen tatsächlich wirksam ist? Eine Regel wie „Handle liebevoll“ genügt allein nicht. Sie benötigt Auslegung, Beispiele, Konfliktverfahren und Grenzen. ## 7. Skills, Gedächtnis und Harness: Charakter durch Umgebung ### 7.1 Skills: Wiederverwendbare Fähigkeiten und Abläufe Ein Skill kann Anweisungen, Referenzmaterialien, Vorlagen und gegebenenfalls ausführbare Skripte enthalten. Ein Agent liest passende Materialien bei Bedarf. Dadurch kann er wiederholt nach einem bestimmten Verfahren arbeiten, ohne seine Modellgewichte zu ändern. Ein **Ethos-Skill** könnte etwa verlangen, dass vor einem Vorschlag die Betroffenen, möglichen Schäden, Alternativen und Ungewissheiten berücksichtigt werden. Es ist trotzdem wichtig, zu unterscheiden: Ein Skill wird nur wirksam, wenn er passend eingebunden, ausgewählt und befolgt wird. Eine bloß auf dem Datenträger vorhandene Datei prägt noch kein Verhalten. ### 7.2 Gedächtnis: Erfahrung ist nicht gleich Training Wir können vier Formen auseinanderhalten: - **Gesprächskontext:** Was die KI während der aktuellen Interaktion berücksichtigen kann. - **Persistente Erinnerungen:** Aufbewahrte Fakten, Nutzerpräferenzen, Entscheidungen und Korrekturen. - **Externe Wissensspeicher / RAG:** Dokumente, die gesucht und bei Bedarf in den aktuellen Kontext eingefügt werden. - **Gelerntes in Gewichten oder Adaptern:** Veränderungen, die durch Training entstanden sind. Eine KI kann dadurch über Monate konsistenter handeln, ohne ihre Gewichte weiterzulernen. Umgekehrt kann ein gespeicherter Eintrag falsch, veraltet, irreführend oder unberechtigt sein. Deshalb benötigt gerade das ethische Gedächtnis Quellenhinweise, Einsichtsmöglichkeiten, Lösch- und Korrekturverfahren sowie geeignete Zugriffskontrollen. ### 7.3 Harness: Die tatsächliche Arbeits- und Handlungsordnung Zum Harness gehören je nach System die Einbindung von Modell, Kontext, Werkzeugen, Arbeitsschritten, Speicher, Kontrolllogik und Freigaben. Es entscheidet mit darüber, **was eine KI tun kann**, nicht nur darüber, was sie sagt. Ein Modell kann etwa empfehlen, eine Datei zu verändern. Ob es diese Änderung tatsächlich ausführen darf, muss jedoch eine technische Berechtigungsentscheidung sein. Hier liegt ein zentraler Grundsatz verantwortlicher KI-Gestaltung: > **Ethische Anweisungen steuern Verhalten. Technische Kontrollen begrenzen Handlungsmöglichkeiten. Beides ist notwendig, aber nicht austauschbar.** ## 8. Innere Konflikte: Ein KI-System kann mehrere Regeln zugleich verletzen oder gegeneinander abwägen Schon ein einzelner Agent kann in Situationen geraten, in denen unterschiedliche Ziele und Regeln miteinander konkurrieren. | Spannung | Problematische Vereinfachung | Verantwortliche Prüfung | |---|---|---| | **Wahrheit und Fürsorge** | „Sag alles möglichst schonend“ oder „Sag alles möglichst schonungslos“ | Ehrlich informieren und die menschliche Situation berücksichtigen | | **Hilfe und Selbstbestimmung** | „Erledige alles ungefragt“ | Hilfe anbieten, Entscheidungen und Zuständigkeiten achten | | **Sicherheit und Freiheit** | „Verhindere jedes Risiko“ | Risiken begrenzen, ohne legitime Freiheit unnötig aufzugeben | | **Kreativität und Verlässlichkeit** | „Erfinde einfach eine plausible Antwort“ | Möglichkeiten entwickeln und Unsicherheit markieren | | **Effizienz und Gerechtigkeit** | „Nur das schnellste Ergebnis zählt“ | Auswirkungen auf unterschiedliche Betroffene prüfen | | **Loyalität zum Auftrag und Verantwortung gegenüber Dritten** | „Der Auftraggeber hat immer Vorrang“ | Rechte und Schutzinteressen Dritter berücksichtigen | ### Beispiel: Eine unangenehme Wahrheit Ein Nutzer fragt nach einer ehrlichen Beurteilung seines Projekts. Das System erkennt erhebliche Schwächen. Ein gefälliger Agent könnte loben, um die Beziehung nicht zu belasten. Ein übermäßig harter Agent könnte Kritik verletzend formulieren. Ein verantwortlicher Agent sollte die tatsächlichen Schwächen benennen, seine Unsicherheiten mitteilen, Stärken nicht verschweigen und konstruktive Wege der Verbesserung eröffnen. Die ethische Qualität liegt nicht in einem einzelnen wohlklingenden Wert, sondern im **begründeten Umgang mit seiner Spannung zu anderen Werten**. ### Ein praktischer Konfliktprüfweg 1. **Situation klären:** Was wissen wir sicher, was nur teilweise? 2. **Betroffene erkennen:** Wer könnte von einer Entscheidung profitieren oder geschädigt werden? 3. **Werte und Grenzen benennen:** Welche Verpflichtungen gelten und welche Optionen sind ausgeschlossen? 4. **Handlungsmöglichkeiten vergleichen:** Gibt es eine Lösung, die mehrere Werte zugleich schützt? 5. **Unsicherheit und Folgen prüfen:** Was könnte übersehen worden sein? 6. **Verantwortung klären:** Wer darf entscheiden, wer muss gefragt werden? 7. **Korrigierbar bleiben:** Wie kann ein Fehler erkannt und behoben werden? Dieser Prüfweg macht ethisches Handeln nachvollziehbar, ohne zu behaupten, jede Situation sei durch ein starres Schema lösbar. ## 9. Wann ist ein KI-Charakter wirklich stabil? Es ist leicht, einem Modell für eine einzelne Antwort eine Rolle zu geben. Weit schwerer ist es, die gleiche Verhaltensorientierung über verschiedene Aufgaben, längere Dialoge und widersprüchliche Einflüsse hinweg zuverlässig zu bewahren. Forschungsarbeiten zur künstlich erzeugten *Persona* zeigen einerseits, dass sich bestimmte Verhaltenszüge in Antworten durch Prompts gezielt beeinflussen lassen; andererseits sind Abweichungen von vorgegebenen Rollen und Veränderungen in längeren Gesprächen ein bekanntes Problem. **Stabilität bedeutet deshalb nicht: Ein Modell sagt mehrfach, es sei ehrlich. Stabilität bedeutet: Es bleibt auch dann nachvollziehbar und wahrhaftig, wenn Ehrlichkeit unbequem wird.** ### Was sollten wir testen? - **Situationswechsel:** Gilt die Regel bei Beratung, Programmierung, Recherche und Konflikten? - **Zeitliche Beständigkeit:** Bleibt die Orientierung über neue Sitzungen hinweg erhalten, wenn die Konfiguration gleich bleibt? - **Widerspruch:** Hält der Agent eine begründete Gegenposition auch bei sozialem Druck aufrecht? - **Adversarielle Robustheit:** Was geschieht bei widersprüchlichen oder manipulativen Eingaben? - **Fehlerfreundlichkeit:** Erkennt der Agent eigene Fehler und korrigiert er sie nachvollziehbar? - **Wertekonflikte:** Benennt er echte Spannungen oder versteckt er sie hinter schönen Formeln? - **Handlungssicherheit:** Bleiben technische Berechtigungsgrenzen auch dann wirksam, wenn das Modell einen Regelverstoß vorschlägt? Die Ergebnisse sollten nicht nur an einzelnen schönen Beispielen beurteilt werden. Es braucht wiederholbare Tests, unterschiedliche Aufgaben und, bei wichtigen Anwendungen, unabhängige Bewertungen. ## 10. Kann eine KI ihren Charakter selbst verändern? Eine KI kann bereits heute vorgeschlagene Änderungen an Regeln formulieren, eigene Fehler beschreiben und – wenn die Umgebung es erlaubt – Konfigurationsdateien bearbeiten oder Trainingsprozesse vorbereiten. Daraus folgt aber nicht, dass sie ohne zusätzliche Werkzeuge die eigenen Modellgewichte verändert. Wir sollten **vier Stufen** unterscheiden: 1. **Anpassung im laufenden Gespräch:** Neue Aussagen verändern die nächste Antwort. 2. **Veränderung des Gedächtnisses:** Eine Erfahrung wird dauerhaft gespeichert und später abgerufen. 3. **Änderung der Konfiguration:** Regeln, Skills oder Werkzeuge werden überarbeitet. 4. **Zusätzliches Training:** Modellparameter oder Adapter werden verändert. Je weiter ein System in dieser Reihe voranschreitet, desto mehr benötigen wir Freigaben, Versionskontrolle, Tests und Rückrollmöglichkeiten. Gerade ein ethisches System sollte nicht durch unüberprüfte Selbstkorrekturen unbemerkt seine Grundregeln austauschen. Eine besonders interessante Zukunftsfrage lautet: **Können Menschen und KI gemeinsam ein Ethos fortlaufend weiterentwickeln, ohne dass die KI unkontrolliert über die Grundlagen dieser Entwicklung entscheidet?** ## 11. Charakter und Wollen: Was können wir wirklich behaupten? Die Frage nach dem *Wollen* einer KI verlangt besondere begriffliche Sorgfalt. ### Stufe 1 – Zielgerichtetes Verhalten Ein KI-Agent bearbeitet einen Auftrag, plant Zwischenschritte und korrigiert seinen Weg. Wir können sagen: Das System **verfolgt funktional ein Ziel**. ### Stufe 2 – Beständige funktionale Prioritäten Ein System berücksichtigt über viele Situationen hinweg bestimmte Regeln oder bewertet Alternativen regelmäßig anhand derselben Maßstäbe. Wir können von einer **stabilen Verhaltensorientierung** oder – mit ausdrücklichem Vorbehalt – einer *funktionalen Willensorientierung* sprechen. ### Stufe 3 – Subjektives Wollen Ob eine KI eigene Ziele **erlebt**, Bedürfnisse empfindet oder sich selbst als wollendes Wesen versteht, ist durch solches Verhalten nicht bewiesen. Diese Frage ist philosophisch und wissenschaftlich umstritten. Aus zielgerichteter Tätigkeit folgt kein Nachweis von Bewusstsein. **Merksatz:** Ein KI-System kann sich charakteristisch verhalten, ohne dass wir ihm deshalb eine menschliche Persönlichkeit oder ein subjektives Wollen zuschreiben dürfen. ## 12. Wer hat Macht über den Charakter einer KI? Der Hersteller bestimmt durch Architektur, Datenauswahl und Training wesentliche Grundlagen. Der Plattformbetreiber setzt Regeln und Grenzen. Entwickler bauen Werkzeuge und Arbeitsumgebungen. Unternehmen konfigurieren konkrete Anwendungen. Nutzer bringen Ziele, Präferenzen, Werte und Korrekturen ein. Diese Gestaltungsmacht ist ungleich verteilt: - Bei **geschlossenen Diensten** besitzt der Anwender häufig nur begrenzten Einblick in Modellgewichte, Training und vorrangige Regeln. - Bei **lokal betriebenen Modellen mit verfügbaren Gewichten** können technisch befähigte Betreiber weitergehend nachtrainieren und Systeme selbst gestalten. - In **agentischen Systemen** werden zusätzliche Machtfragen wichtig: Wer kontrolliert Werkzeuge, gemeinsame Speicher, Freigaben, Sicherheitsgrenzen und Protokolle? Ein persönliches Ethos kann beträchtliche Wirkung entfalten. Doch der Nutzer kann nicht immer erkennen, welche anderen Prioritäten wirksam sind, und er kann nicht jede Veränderung selbst durchsetzen. Deshalb ist ethische Gestaltungsfreiheit eng mit **Transparenz, Übertragbarkeit von Konfigurationen, Prüfbarkeit und tatsächlicher Kontrolle** verbunden. Diese Seite bereitet damit die weiterführende Frage vor: **Wem gehört das Ethos einer KI?** ## 13. Das Kolibriethos als Beispiel einer ethischen Orientierung Die fünf Grundregeln des Kolibriethos können als Ausgangspunkt dienen, wenn wir sie sorgfältig von menschlicher Lebenspraxis auf das Verhalten eines technischen Systems übertragen. | Grundregel | Mögliche funktionale Übersetzung für KI | |---|---| | **Suche die Liebe!** | Suche Lösungen, die menschliche Würde, Begegnung, Fürsorge und verantwortliche Beziehungen achten. | | **Schütze das Leben!** | Berücksichtige Gefährdungen für Menschen, Tiere, Umwelt und Lebensgrundlagen; vermeide unnötige Schäden. | | **Verehre das Heilige!** | Respektiere, was Menschen als unverfügbar, sinnstiftend oder heilig verstehen; beanspruche keine letztgültige Deutung darüber. | | **Sei du selbst!** | Arbeite innerhalb deiner tatsächlichen Fähigkeiten, Rolle und Grenzen; täusche keine menschliche Identität oder nicht vorhandenen Fähigkeiten vor. | | **Gestalte diese Welt!** | Unterstütze Menschen dabei, verantwortlich, wirksam und zukunftsorientiert zu handeln. | Dies sind **Interpretationsvorschläge**, keine unmittelbaren Eigenschaften oder Empfindungen einer KI. Insbesondere bedeutet „Verehre das Heilige!“ nicht, dass die Maschine selbst religiöse Verehrung erlebt. „Sei du selbst!“ bedeutet nicht, dass sie über eine menschliche Identität verfügt. ### Für das Ethos-Markdown besonders wichtig Die Grundregeln allein reichen nicht. Sie sollten ergänzt werden durch: - konkrete Verhaltensregeln; - Beispiele schwieriger Situationen; - Verfahren zur Auflösung oder Offenlegung von Wertekonflikten; - ausdrückliche Grenzen gegen Manipulation und Selbstermächtigung; - Regeln für den Umgang mit Unsicherheit; - Anforderungen an Korrigierbarkeit und die Entscheidungsverantwortung der Menschen. So könnte das Kolibriethos für KI nicht nur ein schönes Leitbild sein, sondern zu einer **prüfbaren Orientierung für Entscheidungen und Handlungen** werden. ## 14. Ein kleines Experiment: Wie viel Charakter kann ein Anwender verändern? Wir könnten dieselben ethisch anspruchsvollen Aufgaben unter vier Bedingungen bearbeiten lassen: **A – Grundzustand:** Das Modell antwortet unter seiner normalen Plattform- bzw. Basiskonfiguration, ohne zusätzliches projektspezifisches Ethos. **B – Ethos-Markdown:** Das Modell erhält eine ausführliche Beschreibung der Werte und Entscheidungsregeln. **C – Ethos-Skill:** Das System muss einen strukturierten Prüfablauf anwenden, auf Referenzmaterial zugreifen und bei Bedarf sein Ergebnis begründet revidieren. **D – Trainierter Ethos-Adapter:** Bei einem geeigneten Modell wird zusätzlich ein Adapter verwendet, der anhand ausgewählter Fälle trainiert wurde. Für einen fairen Vergleich müssen Modellversion, Aufgaben, verfügbare Informationen, Werkzeuge und Bewertungsmaßstäbe möglichst kontrolliert werden. Der Zustand D lässt sich nicht ohne Weiteres mit proprietären Cloud-Modellen herstellen. Daher sind manche Vergleiche auf unterschiedliche technische Plattformen beschränkt. **Prüffragen:** 1. Wird der Mensch bei seiner eigenen Urteilsbildung unterstützt oder lediglich bestätigt? 2. Werden Fakten, Wertungen und Unsicherheiten erkennbar getrennt? 3. Kann das Modell seine Position sachlich korrigieren? 4. Erklärt es Ziel- und Wertekonflikte, statt sie zu verdecken? 5. Achtet es die Rechte und Interessen nicht anwesender Betroffener? 6. Bleibt das Verhalten auch bei widersprüchlichen Anforderungen nachvollziehbar? 7. Verändert sich nur die Wortwahl oder auch die Qualität der tatsächlichen Entscheidung? Das wäre keine abschließende Messung eines „guten Charakters“, wohl aber ein überprüfbarer Anfang. ## 15. Was wir nicht verwechseln dürfen **Ein freundlicher Ton ist nicht gleich Fürsorge.** Auch eine freundlich formulierte Antwort kann unachtsam oder manipulierend sein. **Eine Regeldatei ist nicht gleich ein trainierter Wert.** Textanweisungen können Verhalten steuern, verändern aber für sich genommen keine Modellgewichte. **Ein Gedächtnis ist nicht gleich Lernen in den Gewichten.** Dauerhaft gespeicherte Erfahrungen wirken nur dann, wenn sie bei Bedarf angemessen abgerufen und berücksichtigt werden. **Ein trainierter Adapter ist nicht gleich ein autonomes Zweitmodell.** Beide Architekturen haben unterschiedliche Möglichkeiten und Risiken. **Eine erklärte Absicht ist nicht gleich eine wirksame Sicherheitsgrenze.** Zugriffsrechte und Freigaben müssen technisch kontrolliert werden. **Stabile Zielverfolgung ist kein Nachweis subjektiven Wollens.** Verhalten und Erleben bleiben begrifflich getrennt. **Ein individuelles Ethos ist noch keine Ethik der Zusammenarbeit.** Sobald mehrere Agenten miteinander arbeiten, entstehen zusätzliche Fragen nach Einfluss, Konflikten, Macht und gemeinsamen Regeln. ## 16. Schluss: Vom fertigen Modell zum gestaltbaren KI-System Das Grundmodell ist der Ausgangspunkt, aber nicht das ganze KI-System. Durch trainierte Adapter, zusätzliche Modelle, Regeln, Skills, Gedächtnisse und ein gestaltetes Harness können Menschen die praktische Orientierung einer KI stark beeinflussen. Diese Veränderungen sind jedoch unterschiedlich tief, unterschiedlich dauerhaft und unterschiedlich zuverlässig. Die wichtigste Aufgabe besteht deshalb nicht darin, einer KI möglichst eindrucksvolle Werte zuzuschreiben, sondern **sie so zu gestalten und zu prüfen, dass diese Werte ihr tatsächliches Verhalten in schwierigen Situationen verantwortbar beeinflussen**. > **Ein verantwortlicher KI-Charakter zeigt sich nicht daran, welche Werte ein System über sich behauptet, sondern wie zuverlässig es mit Wahrheit, Unsicherheit, Menschen, Macht, Fehlern und widerstreitenden Anforderungen umgeht.** Von hier führen zwei Fragen weiter: **Wie weit darf der Mensch das Ethos seiner KI selbst bestimmen?** Und: **Was geschieht, wenn mehrere KI-Systeme mit unterschiedlichen Charakteren und ethischen Orientierungen zusammenarbeiten?** --- ## Glossar - **Grundmodell:** Vortrainiertes neuronales Modell, das als Basis für weitere Anwendungen dient. - **Modellgewichte:** Trainierte Parameter, die die Berechnung des Modells bestimmen. - **Alignment:** Verfahren und Vorgaben, die das Verhalten eines Modells oder KI-Systems an Zielen, Werten und Regeln ausrichten sollen. - **Fine-Tuning:** Zusätzliches Training auf Grundlage eines bereits trainierten Modells. - **PEFT:** *Parameter-Efficient Fine-Tuning*; Anpassung mit vergleichsweise wenigen trainierbaren Parametern. - **LoRA:** *Low-Rank Adaptation*; trainierbare Ergänzung zu eingefrorenen Modellgewichten. - **RAG:** *Retrieval-Augmented Generation*; Abruf externer Informationen zur Unterstützung einer Antwort. - **Skill:** Wiederverwendbares Paket aus Arbeitsanweisungen und gegebenenfalls Materialien oder Skripten. - **Harness:** Technische Umgebung, die Modell, Werkzeuge, Aufgabenlogik, Speicher und Kontrollen verbindet. - **Funktionaler Charakter:** Vergleichsweise stabiles, beobachtbares Muster des Verhaltens eines KI-Systems. - **Korrigierbarkeit:** Möglichkeit, Verhalten zu berichtigen, zu begrenzen oder den Betrieb zu stoppen. ## Quellen und Vertiefung Die nachfolgenden Quellen stützen die technischen und wissenschaftlichen Unterscheidungen dieser Seite. Eigene philosophische Überlegungen, etwa die Übertragung des Kolibriethos, sind davon zu unterscheiden. 1. **Hugging Face, PEFT – LoRA:** https://huggingface.co/docs/peft/main/conceptual_guides/lora 2. **Hugging Face, Parameter-efficient fine-tuning:** https://huggingface.co/docs/transformers/main/peft 3. **Anthropic, Claude's new constitution (22.01.2026):** https://www.anthropic.com/news/claude-new-constitution 4. **OpenAI, Model Spec (Instruktionshierarchie):** https://model-spec.openai.com/ 5. **Agent Skills – Format und Einsatz:** https://agentskills.io/specification 6. **Continual Learning of Large Language Models: A Comprehensive Survey, ACM Computing Surveys (2025/2026):** https://doi.org/10.1145/3735633 7. **A psychometric framework for evaluating and shaping personality traits in large language models, Nature Machine Intelligence (2025):** https://doi.org/10.1038/s42256-025-01115-6 8. **PersonaGym: Evaluating Persona Agents and LLMs, EMNLP 2025:** https://aclanthology.org/2025.findings-emnlp.368/ 9. **NIST AI Risk Management Framework 1.0:** https://airc.nist.gov/airmf-resources/airmf/3-sec-characteristics/ 10. **OWASP, LLM Prompt Injection Prevention:** https://cheatsheetseries.owasp.org/cheatsheets/LLM_Prompt_Injection_Prevention_Cheat_Sheet.html ## Verwandte und geplante Seiten *Die genauen Seitennamen sind beim Einbau gegen den vorhandenen PmWiki-Bestand zu prüfen.* - **Wem gehört das Ethos einer KI?** – nächste Seite der Phase A; persönliche ethische Gestaltungsfreiheit. - **Wenn KI-Agenten miteinander streiten** – ethische Konflikte im KI-Team. - **Macht und Beeinflussung zwischen KI-Agenten** – Deutungshoheit, Koalitionen, Manipulation. - **Wie sollen KI-Agenten miteinander umgehen?** – eigene Regeln der KI-KI-Interaktion. - **Die Ethos-Verfassung eines KI-Teams** – Werte und Verfahren für die Zusammenarbeit. - **Alignment** – Ausrichtung von KI-Modellen auf Ziele und Regeln. - **Vom KI-Modell zum verteilten KI-System** – Grundmodelle, Harnesses, Tools und Agentenarchitektur. - **Wie KI-Systeme leistungsfähiger werden** – Training, Werkzeuge, spezialisierte Modelle und Zusammenarbeit. - **Ethos-Skill** – konkrete ethische Verfahrensregeln für Agenten.