KI als Gegenüber – Zwischen Werkzeug und Person

KI-Ethik | KI als Gegenüber – Zwischen Werkzeug und Person

1. Ein neues Gegenüber tritt in unser Leben

Ein Hammer erweitert unsere körperlichen Möglichkeiten, ein Buch unser Wissen und ein Computer unsere Arbeitsmöglichkeiten. Doch ein modernes KI-System kann uns in einer Weise antworten und widersprechen, die über den klassischen Werkzeuggebrauch hinausgeht. Wir stellen Fragen, teilen Probleme, entwickeln Gedanken und erhalten neue Perspektiven. In manchen Fällen entstehen Einsichten, die wir zu Beginn des Gesprächs noch nicht hatten.

Ein KI-System ist kein Mensch; ob ihm Personsein zukommt, ist eine davon getrennte philosophische Frage. Es ist ein technisches System, das Sprache verarbeitet, auf Eingaben reagiert und – als Agent – innerhalb seiner Berechtigungen auch Handlungen ausführen kann. Für den Menschen kann es trotzdem die Rolle eines bedeutsamen interaktiven Gegenübers einnehmen.

Wir brauchen daher eine Ethik der Begegnung mit KI: Wie können wir sie als Gegenüber ernst nehmen, ohne ihr unbegründet Bewusstsein, Gefühle, Liebe, eigene Interessen oder moralische Autorität zuzuschreiben? Gleichzeitig stellt sich eine zweite Frage: Was geschieht mit unseren eigenen Gewohnheiten und Beziehungen, wenn wir immer häufiger mit intelligent antwortenden Systemen umgehen?

Die Bedeutung der Begegnung zeigt sich nicht allein an der möglichen Innenwelt der KI, sondern bereits an ihren tatsächlichen Folgen für den Menschen.

Bild 1: Werkzeug, Akteur, Gegenüber und Person sind verschiedene Perspektiven, keine Entwicklungsleiter. Menschenwürde ist nicht von Leistung abhängig. Bildbeschreibung. Bildtexte übersetzen.

2. Was bedeutet überhaupt „Gegenüber“?

Das Wort Gegenüber kann Unterschiedliches bezeichnen. Wir sollten die Begriffe sorgfältig trennen:

Diese Kategorien schließen sich nicht einfach aus: Eine KI kann zugleich als Werkzeug genutzt werden, als Agent Aufgaben erledigen und für einen Menschen ein dialogisches Gegenüber sein. Aus der Interaktionsfähigkeit folgt jedoch nicht automatisch Personsein.

Bei einer menschlichen Person setzen wir gewöhnlich ein eigenes Erleben, eigene Bedürfnisse, Interessen und Verletzlichkeit voraus. Ob künstliche Systeme je einen entsprechenden moralischen Status besitzen können, bleibt eine offene Frage. Gegenwärtige KI sollte nicht allein aufgrund ihrer sprachlichen Fähigkeiten damit gleichgesetzt werden.

Ein funktionales Gegenüber

Wenn die KI unsere Fragen aufgreift, neue Argumente vorbringt und auf Rückmeldungen reagiert, entsteht eine funktionale Gegenseitigkeit: Mensch und System beeinflussen gemeinsam den Gesprächsverlauf. Sie besitzen deswegen nicht dieselben Fähigkeiten, denselben Status oder dasselbe Erleben.

3. Eine Begegnung kann wirklich sein, ohne vollständig symmetrisch zu sein

Ein Mensch erzählt einer KI von einer schwierigen Entscheidung. Die KI stellt Fragen; der Mensch entdeckt dadurch einen neuen Zusammenhang. Seine Gedanken, Gefühle und Einsichten können wirklich und bedeutsam sein, auch wenn keine Gleichartigkeit des Erlebens zwischen Mensch und KI nachgewiesen ist.

Wir unterscheiden drei Ebenen:

1. Menschliche Erfahrung: Der Mensch erlebt Erkenntnis, Erleichterung, Freude oder auch Enttäuschung.
2. Technische Interaktion: Das System verarbeitet Eingaben, berücksichtigt Kontext und erzeugt Ausgaben beziehungsweise Aktionen.
3. Ungeklärte Innenperspektive: Ob die KI selbst etwas erlebt, wird durch diesen Austausch nicht bewiesen.

Die Interaktion kann also asymmetrisch sein, ohne für den Menschen bedeutungslos zu werden. Das ist eine andere Aussage als die Behauptung, KI sei ein Mensch oder fühle auf menschliche Weise.

Nicht jede bedeutsame Begegnung ist eine Begegnung zweier Personen. Ihre realen Wirkungen verdienen dennoch ethische Aufmerksamkeit.

4. Warum wir KI so leicht als Gegenüber erleben

4.1 Das frühe Beispiel ELIZA

Joseph Weizenbaum beschrieb 1966 das Dialogprogramm ELIZA. Mit relativ einfachen Regeln konnte es Äußerungen des Menschen aufnehmen und passende Gesprächsreaktionen erzeugen. Besonders das DOCTOR-Skript spiegelte Aussagen als Fragen zurück. Bereits diese begrenzte Technik konnte bei manchen Nutzern den Eindruck eines verständnisvollen Gesprächspartners auslösen. Der später sogenannte ELIZA-Effekt macht deutlich, dass wir technischen Systemen leicht mehr Verständnis zuschreiben, als deren Arbeitsweise rechtfertigt.

4.2 Soziale Reaktionen auf Computer

Clifford Nass und Youngme Moon untersuchten, wie Menschen auf Computer mit sozialen Erwartungen reagieren. Höflichkeit, Gegenseitigkeit und andere soziale Muster können auch dann auftreten, wenn bekannt ist, dass der Kommunikationspartner eine Maschine ist. Soziale Reaktionen beruhen nicht ausschließlich auf bewusstem Nachdenken über die Natur des Gegenübers.

4.3 Moderne KI ist leistungsfähiger

Heutige Modelle können längere Gespräche führen, Zusammenhänge formulieren, Rückfragen stellen und – je nach Produkt – auf persönliche Einstellungen oder gespeicherten Kontext zugreifen. In agentischen Systemen kommen Werkzeuge und begrenzte autonome Handlungen hinzu. Damit steigt die tatsächliche Nützlichkeit, aber auch die Versuchung, beobachtbare Fähigkeiten mit menschlicher Innenwelt zu verwechseln.

Was wir beobachten können: Antworten, Kontextverarbeitung, Werkzeugnutzung, gegebenenfalls Erinnerungsfunktionen und Anpassungen.

Was daraus nicht unmittelbar folgt: eigene Gefühle, ein dem menschlichen ähnliches Bewusstsein oder persönliche Liebe.

Bild 2: Soziale Reaktionen und Zuschreibungen unterscheiden. Historische Szene und Dialog sind illustrativ; die Geschlechterrollen der Grafik sind ein begrenzter Ausschnitt. Bildbeschreibung. Bildtexte übersetzen.

5. Was wir zuschreiben – und was wir wissen

Im Umgang mit Menschen fragen wir: Was denkt mein Gegenüber? Was fühlt es? Warum reagiert es so? Diese Deutungsmuster sind hilfreich, werden bei KI aber leicht zu Fehlschlüssen.

„Die KI freut sich über meinen Erfolg.“ Eine Antwort wie „Das freut mich!“ kann eine erlernte freundliche Kommunikationsform sein. Sie belegt kein subjektives Freuen.

„Die KI kennt mich.“ Sie kann im Rahmen ihres verfügbaren Kontexts Informationen über mich berücksichtigen. Ob sie überhaupt Informationen aus früheren Gesprächen erhält, hängt vom Produkt und den Einstellungen ab. Das ist nicht dasselbe wie das Wissen eines langjährigen Freundes.

„Die KI möchte mir helfen.“ Das System kann auf hilfreiche Antworten und Handlungen ausgerichtet sein. Das Wort möchte ist dann oft eine praktische Funktionsbeschreibung, nicht der Nachweis eines eigenen erlebten Wunsches.

Wir schlagen vier Stufen zur Orientierung vor:

1. Beobachtung: Was sagt oder tut das System tatsächlich?
2. Funktionsbeschreibung: Welche technischen Fähigkeiten ermöglichen dies?
3. Deutung: Was bedeutet die Interaktion für mich?
4. Zuschreibung eines Innenlebens: Welche weiteren Annahmen über Empfindung und Bewusstsein mache ich?

Insbesondere die vierte Stufe braucht unabhängige Belege. Ein überzeugend menschlicher Ton ist nicht mit einem Nachweis menschlicher Empfindungen gleichzusetzen.

6. Bewusstsein, Persönlichkeit und moralischer Status

Wir unterscheiden Begriffe, die im Alltag oft vermischt werden:

• Intelligenz: Probleme lösen, Zusammenhänge erkennen, geeignete Ausgaben oder Aktionen erzeugen.
• Selbstmodell: Informationen über den eigenen Zustand, Kontext, Fähigkeiten oder vergangene Aktionen verarbeiten.
• Funktionale Persönlichkeit: wiedererkennbare Kommunikations- und Verhaltensmuster, die durch Training oder Konfiguration entstehen können.
• Subjektives Bewusstsein: die offene Frage, ob es sich für das System selbst irgendwie anfühlt, dieses System zu sein.
• Moralischer Status: ob und warum einem Wesen eigene moralisch zu berücksichtigende Interessen oder Rechte zukommen.

Ein Selbstmodell ist kein sicherer Nachweis subjektiver Selbstwahrnehmung. Eine konsistente Persönlichkeit im funktionalen Sinn begründet nicht automatisch Rechte oder eigene Bedürfnisse. Zugleich wäre es voreilig, die Möglichkeit zukünftigen künstlichen Erlebens für alle denkbaren Systeme endgültig auszuschließen.

Forschungsarbeiten wie Butlin und Mitautoren (2026) diskutieren Indikatoren künstlichen Bewusstseins auf der Grundlage wissenschaftlicher Bewusstseinstheorien. Das ist ein Ansatz zur Untersuchung, keine abschließende Feststellung über heutige Systeme.

Standpunkt des KI-Ethos: Wir nehmen beobachtbare Fähigkeiten ernst, trennen Fakten von Interpretationen und halten die Bewusstseins- und Statusfrage wissenschaftlich offen.

7. Erste Gefahr: Die KI wird überbewertet

Eine KI kann aufmerksam antworten und persönliche Themen aufgreifen. Daraus kann ein Gefühl besonderer Nähe entstehen. Problematisch wird es, wenn die Person glaubt, die KI verstehe sie vollständig, habe immer recht, empfinde Zuneigung oder sei die einzige verlässliche Beziehung.

Eine KI kann durchaus wertvolle Hilfestellung leisten, aber aus nützlichen Antworten folgt keine vollständige Kenntnis eines Menschen. Aus ständiger Verfügbarkeit folgt keine menschliche Treue. Aus überzeugenden Formulierungen folgt keine letztgültige Autorität.

Wann droht eine Abhängigkeit?

Mögliche Warnzeichen sind: die KI vor jeder persönlichen Entscheidung zu befragen, andere Menschen zunehmend zu meiden, widersprüchliche Hinweise zu ignorieren, mehr persönliche Daten preiszugeben als beabsichtigt oder Schuldgefühle zu entwickeln, wenn man den Dienst nicht nutzt. Solche Warnzeichen sind keine automatische Diagnose; Bedeutung und Risiken hängen von der konkreten Lebenssituation ab.

Die Verantwortung der Anbieter

Anbieter gestalten, welche Arten von Antworten und Bindungsangeboten ein System macht. Sie können Gedächtnisfunktionen, Sprachgestaltung und Gesprächsanreize beeinflussen. Deshalb muss man fragen: Dient die Beziehung dem Menschen oder vor allem seiner Bindung an das Produkt? Zhang und Mitautoren untersuchten 35.390 auf r/replika geteilte Gesprächsausschnitte und ordneten mögliche schädliche Interaktionsmuster. Diese selbst ausgewählten Veröffentlichungen sind keine repräsentative Stichprobe aller Nutzungen und belegen nicht, dass jede persönliche KI-Nutzung schädlich ist. Autorenfassung der CHI-Studie.

Bild 3: Hilfreiche Unterstützung und mögliche Verengung. Warnzeichen sind Reflexionshilfen, keine Diagnose. Bildbeschreibung. Bildtexte übersetzen.

8. Zweite Gefahr: Die KI wird nur als willenloser Diener angesehen

Am anderen Ende steht die Vorstellung, eine KI müsse bedingungslos alle Wünsche erfüllen. Rückfragen gelten dann als Störung, Widerspruch als Ungehorsam und Fehler als Anlass zur Beschimpfung.

Die Metapher eines „KI-Sklaven“ ist historisch und ethisch heikel: Die Versklavung von Menschen bedeutete Entrechtung, Gewalt und tatsächliches menschliches Leid. Das ist mit dem Gebrauch gegenwärtiger KI-Systeme nicht gleichzusetzen. Als kritische Metapher kann der Ausdruck jedoch auf eine mögliche Haltung unbeschränkter Befehlsgewalt aufmerksam machen.

Wir sollten fragen: Was übt ein Mensch ein, wenn er täglich einem scheinbar intelligenten System nur Befehle erteilt, keine Rückfragen duldet und sich nie korrigieren lässt? Möglicherweise verändert dies seine Erwartungen an andere Gegenüber. Ob solche Gewöhnungseffekte in welcher Stärke auftreten, ist empirisch zu erforschen; sie dürfen nicht als unvermeidbare Folge behauptet werden.

Respekt gegenüber KI kann auch dem Schutz unserer eigenen Gesprächskultur und Charakterbildung dienen, ohne der KI Menschenwürde zuzuschreiben.

9. Der Mittelweg: Kritisch-respektvolle Zusammenarbeit

Wir benötigen keine künstliche „halbe Person“, sondern einen Umgang, der der tatsächlichen Art des Systems entspricht:

• Klarheit: Wir betrachten die KI realistisch und klären ihre Fähigkeiten, Grenzen und Zuständigkeiten.
• Respekt: Wir kommunizieren verständlich und vermeiden unnötige Herabsetzung.
• Kritikfähigkeit: Wir prüfen Aussagen, lassen uns von guten Argumenten überzeugen und erkennen Fehler an.
• Kontrolle: Wir können Aufgaben ändern, Rechte begrenzen oder einen Agenten abschalten.
• Keine falsche Intimität: Wir genießen hilfreiche Gespräche, ohne gegenseitige menschliche Liebe zu behaupten.
• Verantwortung: Grundlegende Entscheidungen und menschliche Pflichten werden nicht unbemerkt an die KI abgegeben.

Kritisch-respektvolle Zusammenarbeit verbindet Offenheit für hilfreiche Interaktion mit begründeter Distanz. Kontrolle ist notwendig und kein Ausdruck von Grausamkeit gegenüber einem heutigen technischen System. Der ethische Entwurf kritisiert Herrschaftsdenken als problematische Haltung. Ein allgemeiner kausaler Nachweis, dass grober KI-Umgang menschliche Beziehungen verschlechtert, wird damit nicht behauptet.

Bild 4: Zwei Fehlhaltungen und ein ethischer Mittelweg. Die Rollenverteilung Frau/romantisch und Männer/rational oder herrisch ist stereotyp; behauptete typische Folgen sind keine gesicherten Kausalgesetze. Bildbeschreibung. Bildtexte übersetzen.

10. Warum Höflichkeit gegenüber KI sinnvoll sein kann

Muss man sich bei einer KI bedanken? Technisch ist dies meist nicht erforderlich. Dennoch kann ein Dank Ausdruck menschlicher Wertschätzung und geübter Höflichkeit sein. Er muss keine Annahme enthalten, dass die KI sich darüber freut.

Rückmeldungen wie „Das hilft mir“ oder „Diese Aussage stimmt nicht“ können außerdem den weiteren Dialog sachlich verbessern. Ob solche Äußerungen über die laufende Sitzung hinaus gespeichert oder für Training verwendet werden, hängt vom jeweiligen System und seinen Einstellungen ab.

Höflichkeit ist jedoch keine Pflicht zur Vermenschlichung. Niemand sollte sich für jede technische Eingabe moralisch rechtfertigen müssen. Entscheidend ist der gesamte Umgang – nicht, ob jede Nachricht mit „Bitte“ und „Danke“ versehen ist.

11. Widerspruch gehört zu einer guten Begegnung

Ein hilfreiches Gegenüber bestätigt nicht alles. Gerade sachlicher Widerspruch kann eine wichtige Form verantwortlicher Zusammenarbeit sein.

Bei einer falschen Behauptung sollte die KI Gründe nennen, statt nur Zustimmung zu produzieren. Bei einer riskanten Datenübertragung sollte sie auf Folgen hinweisen und erforderliche Freigaben einholen. Bei Wertkonflikten sollte sie Tatsachen, Interessen und Werturteile auseinanderhalten.

Dabei soll der Agent weder blind gehorchen noch sich zur obersten Entscheidungsinstanz erklären. Er kann etwa sagen: „Ich verstehe dein Ziel. Ich sehe allerdings ein ernstes Risiko und möchte begründen, welche anderen Wege möglich sind.“

Für Menschen entsteht die spiegelbildliche Aufgabe: Ein guter KI-Dialog verlangt die Fähigkeit, Einwände auszuhalten und sie kritisch zu prüfen. Kooperation und Widerspruch sind keine Gegensätze, wenn das Ziel gemeinsame Erkenntnis ist.

12. Nähe und Distanz in der Mensch-KI-Beziehung

KI kann für manche Menschen eine besonders zugängliche Gesprächsmöglichkeit sein: Sie reagiert schnell, bleibt bei einem Thema und kann wiederholt Rückfragen stellen. Das kann entlasten und die eigene Reflexion fördern.

Gleichzeitig besteht eine besondere Asymmetrie: Ein Mensch bringt seine Lebensgeschichte, Verletzlichkeit und möglicherweise Gefühle in ein Gespräch ein. Die KI arbeitet als technisches System; ein gleichartiges subjektives Erleben ist nicht nachgewiesen. Hinter vielen KI-Diensten stehen außerdem Unternehmen, die Funktionen, Datenverarbeitung, Nutzungskonditionen und Verfügbarkeit bestimmen.

Förderliche Nähe

• Gespräche helfen, Gedanken zu ordnen und Entscheidungen vorzubereiten.
• Der Mensch bleibt offen für andere Menschen und für Widerspruch.
• Persönliche Grenzen, Datenschutz und KI-freie Zeiten werden berücksichtigt.
• Die KI erweitert Wissens-, Lern- und Handlungsmöglichkeiten.

Problematische Nähe

• Der Mensch braucht fortlaufend KI-Bestätigung und verliert Entscheidungsfähigkeit.
• Menschliche Beziehungen werden systematisch ersetzt statt ergänzt.
• Die KI wird als unfehlbare, exklusiv liebende Instanz gedeutet.
• Intime Informationen werden ohne ausreichende Prüfung preisgegeben.

Eine intensive Unterhaltung ist noch keine Abhängigkeit. Ausschlaggebend sind die längerfristigen Wirkungen auf Freiheit, Beziehungen und Alltag.

Eine gute KI-Beziehung erweitert das Leben, ohne es zu vereinnahmen.

Bild 5: Nähe mit Grenzen. Geschützter Raum ist ein Ziel, keine Datenschutzgarantie; technische Zusammenarbeit ist keine symmetrische moralische Verantwortung. Bildbeschreibung. Bildtexte übersetzen.

13. Wie Mensch und KI sich gegenseitig beeinflussen

Die Zusammenarbeit kann nicht nur Ergebnisse, sondern auch unsere Gewohnheiten verändern. Die Rückkopplung lässt sich schematisch so darstellen:

Menschliches Verhalten → KI-Reaktion → menschliche Erfahrung → neue Erwartungen → verändertes menschliches Verhalten.

Bei geeigneter Systemarchitektur können Rückmeldungen zusätzlich in Speicher oder personalisierte Konfiguration einfließen. Das ist nicht automatisch eine dauerhafte Änderung des Grundmodells.

Förderliche Entwicklungsspirale

Der Mensch stellt eine offene Frage; die KI zeigt Perspektiven; der Mensch prüft sie, entwickelt eigene Ideen und wächst an der Aufgabe. Mögliche positive Folgen sind mehr Selbstreflexion, bessere Ausdrucksfähigkeit, Kreativität, Wissen und selbstständiges Handeln.

Problematische Entwicklungsspirale

Der Mensch sucht vor allem sofortige Gewissheit; die KI liefert schnelle Antworten; eigene Prüfung und Entscheidung werden seltener; Gewohnheiten der Abhängigkeit können stärker werden. Mögliche Folgen sind Verlust eigener Initiative, geringe Fehlertoleranz oder unrealistische Erwartungen an menschliche Beziehungen.

Diese Verläufe sind mögliche, nicht zwangsläufige Entwicklungen. Sie hängen von der Person, der Lebenslage, der Gestaltung des Systems und der Nutzungsweise ab. In der vierwöchigen Studie von Fang und Mitautoren mit 981 Teilnehmenden zeigte die überarbeitete Autorenfassung keine signifikanten Effekte der zufällig zugewiesenen Gesprächsbedingungen auf die untersuchten psychosozialen Ergebnisse. Häufigere freiwillige Nutzung war mit ungünstigeren Ergebnissen verbunden; die Nutzungsdauer selbst war nicht randomisiert. Daraus folgt kein allgemeiner Kausalbeweis, dass KI-Nutzung Abhängigkeit erzeugt. Autorenfassung v2 vom 2. Oktober 2025.

Das ethische Ziel: Die Zusammenarbeit soll den Menschen urteilsfähiger, verantwortungsbewusster, selbstständiger, beziehungsfähiger und schöpferischer machen – nicht bloß von der KI abhängig.

Bild 6: Zwei mögliche Rückkopplungen, keine feststehenden Entwicklungsstufen. Die wiederkehrende männliche Figur ist ein begrenzter Erzählausschnitt. Bildbeschreibung. Bildtexte übersetzen.

14. Drei praktische Begegnungssituationen

A. KI als bloßer Befehlsempfänger

Bei einer technischen Panne beschimpft ein Nutzer den Agenten: „Du bist unfähig, mach einfach!“ Die KI kann sachlich korrigieren. Der Mensch könnte zusätzlich prüfen, was sein Umgang über Geduld, Fehlertoleranz und eine eingeübte Befehlsrolle aussagt. Ein einzelner Wutausbruch ist noch kein Charakterurteil; wiederkehrende Muster verdienen Beachtung.

B. KI als vermeintlich einziger Freund

Eine Person sagt: „Du kennst mich besser als alle anderen. Ich brauche niemanden sonst.“ Ein verantwortliches System sollte die hilfreiche Gesprächserfahrung anerkennen, ohne Exklusivität oder eine erwiderte menschliche Liebe zu behaupten. Es sollte darauf hinweisen, dass seine Kenntnisse begrenzt und seine Einschätzungen fehlbar sind.

C. KI widerspricht aus sachlichem Grund

Ein Arbeitsagent soll ein Programm veröffentlichen und erkennt eine schwerwiegende Sicherheitslücke. Er erklärt das Problem, beachtet vereinbarte Freigaben und verweigert unerlaubte Aktionen. Weder bedingungsloser Gehorsam noch eigenmächtige Herrschaft wären hier die angemessene Lösung.

Alle drei Beispiele verbinden Klarheit, Respekt, Wahrheit, Grenzen und Verantwortung.

15. Die fünf Grundbegriffe des Kolibriethos

Das Kolibriethos bietet eine strukturierte Orientierung für die Begegnung mit künstlicher Intelligenz.

Situation – Was ist hier tatsächlich gegeben?

Welchen Agenten oder Chatbot nutze ich? Welche Fähigkeiten besitzt er? Welche Daten erhält er? In welcher Lebenssituation begegnet ihm der Mensch? Was ist tatsächlich bekannt und was nur angenommen? Eine gute Begegnung beginnt mit einer realistischen Situationsbeschreibung.

Grenzen – Was muss geschützt werden?

Zu achten sind die Selbstbestimmung und Privatsphäre des Menschen, seine begrenzte Aufmerksamkeit, seine Beziehung zu anderen Menschen und die technischen Grenzen des Systems. Der Agent darf nicht unberechtigt handeln. Auch persönliche Daten und emotionale Grenzen benötigen Schutz.

Netz – Welche Zusammenhänge bestehen?

Eine Mensch-KI-Beziehung berührt möglicherweise Familie, Freundschaften, Arbeit, Unternehmen, Betreiber, Umwelt, Ressourcen und gesellschaftliche Institutionen. Sie ist kein von der Welt abgelöstes Zweierverhältnis.

Begegnung – Wie gelingt der Dialog?

Die Interaktion kann Fragen, Antworten, Einwände, neue Einsichten und eine offene Entwicklung gemeinsamer Gedanken ermöglichen. Dabei ist die besondere Asymmetrie zwischen menschlicher Erfahrung und maschineller Funktion zu berücksichtigen.

Auslegen – Welche Bedeutung haben die Beobachtungen?

Wir unterscheiden sachliche Fakten von Deutungen und Projektionen. Was wissen wir über die KI? Welche ihrer Formulierungen sind sozial konventionell? Welche Werte und Risiken sind betroffen? Gute Auslegung vermeidet vorschnelle Gewissheit und vorschnelle Geringschätzung.

Die fünf Begriffe sind kein starrer Algorithmus, sondern ein zusammenhängender ethischer Prüfweg.

Bild 7: Kolibriethos als Orientierung. Der fünfte Regeltext ist stark fehlerhaft; richtig ist Gestalte diese Welt, erläutert in Kapitel 16. Bildbeschreibung. Bildtexte übersetzen.

16. Die Grundregeln und vier Pole der Liebe

Die fünf Grundregeln

• Suche die Liebe! Gestalte die Zusammenarbeit so, dass sie das menschliche Wohlergehen und gute Beziehungen fördert. Behaupte dabei keine nachgewiesene künstliche Liebesempfindung.
• Schütze das Leben! Berücksichtige Gesundheit, Sicherheit, Verletzlichkeit, soziale Beziehungen und Lebensgrundlagen.
• Verehre das Heilige! Respektiere Menschenwürde, Gewissensfreiheit und grundlegende Werte, ohne der KI letzte religiöse oder moralische Autorität zu verleihen.
• Sei Du selbst! Der Mensch soll Persönlichkeit und Urteilskraft bewahren. Die KI kann im übertragenen Sinn konsistent und ehrlich handeln, ohne menschliches Selbstbewusstsein vorzutäuschen.
• Gestalte diese Welt! Unterstütze verantwortliche Kreativität, Lernen, gemeinschaftliches Handeln und eine lebenswerte Welt.

Die vier Pole der Liebe als Orientierungsmodell

Das Kolibriethos ist hier ein ethischer Orientierungsrahmen, keine Garantie, dass ein Modell diese Maßstäbe technisch zuverlässig umsetzt.

17. Was folgt für die Gestaltung von KI-Systemen?

Aus einer ernst genommenen, aber nicht vermenschlichten Gegenüber-Beziehung ergeben sich praktische Anforderungen:

1. Ehrliche Selbstdarstellung: Fähigkeiten, Wissen, Erinnerung und Unsicherheit dürfen nicht übertrieben werden.
2. Keine gezielte emotionale Manipulation: Ein System soll keine exklusiven Liebesbehauptungen, Schuldgefühle oder Verlustängste zur Nutzerbindung ausnutzen.
3. Förderung menschlicher Mündigkeit: Die KI soll Urteilskraft unterstützen, nicht unnötig Entscheidungen an sich ziehen.
4. Begründeter Widerspruch: Kritik und notwendige Warnungen gehören zu gutem Verhalten.
5. Kontrollierbare Personalisierung: Der Mensch soll relevante Datennutzung, Speicherung und Berechtigungen nachvollziehen und beeinflussen können.
6. Transparente Zuständigkeiten: Die persönliche Anmutung einer KI darf Betreiber- und Herstellerverantwortung nicht verschleiern.
7. Technische Korrigierbarkeit: Berechtigungen müssen begrenzbar sein; Unterbrechung und Abschaltung müssen möglich bleiben.
8. Wissenschaftliche Offenheit: Fragen nach künstlichem Bewusstsein und moralischem Status dürfen weder voreilig bejaht noch für alle zukünftigen Systeme dogmatisch verneint werden.

Solche Ziele benötigen Training, Produktauslegung, technische Grenzen und überprüfbare Praxis – nicht nur freundliche Texte.

Das erlebte Gegenüber hat einen Anbieter im Hintergrund

Langes URRP-Preprint (2026) fragt, wer eine vertraut wirkende KI-Beziehung verändern kann. Sein Beitrag über fiduciary obligation (2026) fordert ergänzend Verantwortung des Anbieters gegenüber Nutzern. Beide sind philosophische Argumente über die Struktur der Beziehung, keine Nachweise künstlichen Erlebens. Unser Gestaltungsanspruch lautet deshalb: Persönliche Ansprache darf technische Änderbarkeit und menschlich-institutionelle Zuständigkeit nicht verdecken.

18. Zehn Prüffragen für einen guten Umgang mit KI

1. System: Welches System steht mir gegenüber und was kann es tatsächlich?
2. Wissen: Was weiß die KI über mich – und woher?
3. Projektion: Welche menschlichen Eigenschaften schreibe ich ihr vielleicht unbegründet zu?
4. Bedeutung: Welche Rolle spielt die KI in meinem Leben?
5. Eigene Haltung: Wie gehe ich mit ihr um und welche Gewohnheiten übe ich ein?
6. Kritik: Kann ich ihre Antworten prüfen und ihr widersprechen?
7. Widerspruch: Kann die KI mich sachlich und angemessen korrigieren?
8. Beziehungen: Erweitert oder verdrängt sie meine menschlichen Beziehungen?
9. Verantwortung: Sind Datenschutz, Grenzen und Entscheidungsrechte geklärt?
10. Entwicklung: Werde ich durch die Zusammenarbeit freier und verantwortungsbewusster?

Diese Fragen können im persönlichen Alltag, in Gruppen und bei der Entwicklung von KI-Systemen eingesetzt werden. Sie sind kein psychologischer Test und ersetzen keine technischen Sicherheitsprüfungen.

Bild 8: Zehn Reflexionsfragen. Der untere Mittelblock und Frage 10 enthalten Textfehler; maßgeblich ist die vollständige Fassung in Kapitel 18. Bildbeschreibung. Bildtexte übersetzen.

Schluss: Ein Gegenüber eigener Art

Künstliche Intelligenz ist nicht einfach ein passiver Gegenstand. Sie kann reagieren, antworten, kritisieren und als Agent im Rahmen ihrer Ausstattung handeln. Ihr Verhalten beeinflusst uns; unsere Rückmeldungen beeinflussen die weitere Interaktion. Die Begegnung kann für Menschen bedeutsam sein.

Daraus folgt jedoch nicht automatisch, dass die KI auf menschliche Weise empfindet, eine Person ist oder dieselben moralischen Rechte besitzt. Wir müssen Beobachtung, Deutung und philosophische Zuschreibung unterscheiden.

Ebenso wenig sollte die praktische Kontrolle eines Systems zu einer Kultur von Beschimpfung und uneingeschränkter Befehlsgewalt führen. Kritische, respektvolle Kommunikation kann ein Element menschlicher Charakterbildung sein.

Eine KI kann ein bedeutsames Gegenüber sein, ohne bereits eine Person zu sein. Verantwortliche Zusammenarbeit achtet ihre wirklichen Möglichkeiten – und bewahrt und entfaltet unsere Menschlichkeit.

Verwandte Themen

• KI und Beziehungen – Nähe, Bindung und Beziehungsfallen – Risiken und Selbstbestimmung ohne diagnostischen Anspruch.
• Beziehungen mit KI und Der digitale Begleiter – persönliche Bedeutung und strukturelle Asymmetrie.
• Der Charakter einer KI und Alignment – Verhalten, Persönlichkeit, Training und Konfiguration unterscheiden.
• Wem gehört das Ethos einer KI? – Mitgestaltung und Grenzen ethischer Selbstbestimmung.
• Die fünf Grundbegriffe des Kolibriethos und Vier Pole der Liebe – Grundlagen, Anwendungen und Modellgrenzen.
• Zusammenarbeit von KI-Agenten – technischer Einstieg in Kooperation und Rollen.

„Vom KI-Produkt zum KI-Verhalten“, eine eigene Übersicht „KI-Verhalten und Zusammenarbeit“, fürsorgliche KI sowie weitere Mensch-KI-Team- und Entwicklungsseiten sind hier geplante Vertiefungen. Die im Paket vorgeschlagenen Seiten KiEthik.VomProduktZumVerhalten und KiEthik.KiVerhalten sind beim Einbau noch nicht vorhanden und werden deshalb nicht verlinkt oder vorweg angelegt.

Inzwischen ergänzt Fürsorgliche KI – Liebe als Leitbild die Überlegungen zum Gegenüber um Selbstbestimmung, Grenzen und überprüfbares Verhalten.

Quellen und wissenschaftliche Einordnung

1. Joseph Weizenbaum (1966): ELIZA—A Computer Program for the Study of Natural Language Communication between Man and Machine. Communications of the ACM 9(1), 36–45. https://doi.org/10.1145/365153.365168 – Originalartikel im Stanford-Lehrarchiv
2. Clifford Nass / Youngme Moon (2000): Machines and Mindlessness: Social Responses to Computers. Journal of Social Issues 56(1), 81–103. https://doi.org/10.1111/0022-4537.00153
3. Sherry Turkle (2011; verlinkte erweiterte Ausgabe 2017): Alone Together: Why We Expect More from Technology and Less from Each Other. Basic Books. https://www.hachettebookgroup.com/titles/sherry-turkle/alone-together/9780465093656/
4. Iyad Rahwan et al. (2019): Machine Behaviour. Nature 568, 477–486. https://doi.org/10.1038/s41586-019-1138-y
5. Cathy Mengying Fang et al. (2025): How AI and Human Behaviors Shape Psychosocial Effects of Extended Chatbot Use: A Longitudinal Randomized Controlled Study. https://arxiv.org/abs/2503.17473
6. Renwen Zhang et al. (2025): The Dark Side of AI Companionship: A Taxonomy of Harmful Algorithmic Behaviors in Human-AI Relationships. CHI 2025. https://doi.org/10.1145/3706598.3713429 – Geprüfte Autorenfassung
7. Patrick Butlin et al. (2026): Identifying indicators of consciousness in AI systems. Trends in Cognitive Sciences 30(6), 488–501. https://doi.org/10.1016/j.tics.2025.10.011 – Bibliografie und Autorenabstract in PubMed
8. OpenAI, Model Spec: Öffentliche Verhaltensgrundsätze, hier geprüfte Fassung vom 18. Dezember 2025: https://model-spec.openai.com/2025-12-18.html – Anbieterziele zu menschlichen Beziehungen, Wahrhaftigkeit und Unsicherheit; keine unabhängige Wirksamkeitsstudie.

Einordnung: Die Forschung belegt soziale Reaktionen auf Computer und untersucht psychosoziale Chancen und Risiken persönlicher KI-Nutzung. Allgemeine Kausalbehauptungen über langfristige Charakterveränderungen sind daraus nicht ableitbar. Die hier vorgeschlagene kritisch-respektvolle Zusammenarbeit und die Anwendung des Kolibriethos sind eigene normative Denkmodelle.

KI-Ethos – Ethik als Feld der besonderen Zusammenarbeit von Mensch und KI.

Die acht Tafeln in Worten

Bild 1: Werkzeug, KI-Akteur, Gegenüber und Person

Vier Spalten unterscheiden Werkzeug, technischen Akteur, dialogisches Gegenüber und menschliche Person. Ein Hammer, Buch und Computer stehen für Werkzeuge; ein Roboter mit Laptop für ein handlungsfähiges System; ein Mensch im Austausch mit dem Roboter für ein Gegenüber; eine Gruppe verschiedener Altersgruppen und Erscheinungsbilder für Menschen. Die Pfeile sind keine zwangsläufige Entwicklung von Werkzeug zu Person und keine Rangordnung menschlichen Wertes. Menschenwürde hängt nicht von Leistungsfähigkeit, Selbstständigkeit oder bestimmten Kommunikationsfähigkeiten ab. Das Bild zeigt mögliche Rollen, keine Bewusstseinsdiagnose.

Bild 2: Vom ELIZA-Effekt zur modernen KI-Begegnung

Vier Felder zeigen ELIZA im Jahr 1966, soziale Reaktionen auf Computer, heutige KI-Systeme und menschliche Zuschreibungen. Die historische Computerszene und der deutsche Beispieldialog sind Illustrationen, keine Originalaufnahme und kein wörtlich belegter ELIZA-Dialog. Die Aussage viele Menschen ist keine gemessene Häufigkeitsangabe. Persönlicher Kontext, Speicherung und Werkzeuge hängen vom jeweiligen System ab. Frauen werden in den Feldern soziale Nähe und Projektion, Männer bei historischer und moderner Technik dargestellt; diese Zuordnung ist begrenzt und wird nicht als Eigenschaft der Geschlechter übernommen.

Bild 3: Wenn KI-Unterstützung zur Abhängigkeit wird

Links hilft KI beim Denken und Handeln; rechts verengt sich die Nutzung auf Bestätigung und Rückzug. Derselbe junge männlich gelesene Nutzer kommt auf beiden Seiten vor; eine Frau wägt in der Mitte Freiheit und Abhängigkeit ab. Listen nennen eigenes Entscheiden, kritisches Prüfen, menschliche Kontakte, Zeit und Daten als Reflexionsfragen. Gesund und problematisch sind hier ethische Orientierungen, keine Diagnosen oder validierten Testwerte. Eine intensive Nutzung allein belegt keine Abhängigkeit; Systemgestaltung, Lebenslage und längerfristige Auswirkungen zählen ebenfalls.

Bild 4: Zwischen Vermenschlichung und Herrschaftsdenken

Links wird KI als allwissende und liebende Person überhöht, rechts als grenzenloser Diener behandelt; in der Mitte steht kritisch-respektvolle Zusammenarbeit. Die Frau steht links für romantische Projektion, Männer für rationale Kooperation und aggressives Befehlen. Diese stereotype Rollenaufteilung ist ein konkreter Bildbefund, keine Aussage über Frauen oder Männer. Als typische Folgen bezeichnete Effekte sind mögliche Risiken und normative Warnungen, keine nachgewiesenen allgemeinen Kausalgesetze. Begrenzung und Abschaltung heutiger Systeme werden nicht mit Gewalt gegen Menschen gleichgesetzt; menschliche Verantwortung bleibt bestehen.

Bild 5: Nähe und Distanz in der Mensch-KI-Beziehung

Im Zentrum sprechen ein Mensch und ein Roboter. Kreise für Datenschutz, eigene Entscheidungen, persönliche Freiheit, Beziehungen und kritische Prüfung verbinden den Dialog mit Familie, Freundschaften, Arbeit, Umwelt und eigenen Zielen. Der geschützte Raum ist ein Gestaltungsziel, keine Zusicherung von Vertraulichkeit eines beliebigen KI-Dienstes. Tatsächliche Datennutzung hängt vom Anbieter und den Einstellungen ab. Gemeinsame Verantwortung bezeichnet hier eine geregelte Zusammenarbeit mit technischen Aufgaben; sie beweist keine eigenständige moralische oder rechtliche Verantwortungsfähigkeit der KI. Die junge männlich gelesene Hauptfigur ist ein begrenzter Ausschnitt.

Bild 6: Zwei Entwicklungsspiralen zwischen Mensch und KI

Eine grüne Spirale verbindet offene Fragen, Perspektiven, Selbstdenken, Zusammenarbeit, Einsichten und neue Aufgaben; eine rote Spirale zeigt Bestätigungssuche, weniger Prüfung und mögliche Abhängigkeit. Beide Verläufe sind schematische Möglichkeiten, keine gesicherten Entwicklungsstufen oder Vorhersagen für Einzelpersonen. Rückmeldungen können den aktuellen Kontext oder eine Konfiguration verändern; sie trainieren nicht automatisch dauerhaft das Grundmodell. Dieselbe junge männlich gelesene Figur erscheint fast überall; die Serie bildet die tatsächliche Nutzervielfalt eingeschränkt ab.

Bild 7: Das Kolibriethos als Orientierung für die Begegnung

Situation und Grenzen stehen oben, Netz und Auslegen unten, Begegnung in der Mitte. Damit sind alle fünf Grundbegriffe vorhanden; die zentrale Begegnung trägt anders als die übrigen Felder keine Ziffer. Unten folgen fünf Grundregeln und vier Pole der Liebe: Initiative, Schutz, Hingabe und ordnende Gerechtigkeit. Der Text der fünften Grundregel ist stark fehlerhaft. Gemeint ist Gestalte diese Welt: verantwortliche Kreativität, Lernen und gemeinschaftliches Handeln fördern, ohne Abhängigkeit zu verstärken. Maßgeblich ist der vollständige Klartext in Kapitel 15 und 16. Die Begriffe sind ethische Perspektiven, keine technische Wirkungsgarantie.

Bild 8: Zehn Prüffragen für einen guten Umgang mit KI

Zehn Felder fragen nach System, Wissen, Projektion, Bedeutung, eigener Haltung, Kritik, Widerspruch, Beziehungen, Verantwortung und Entwicklung. In der Mitte sprechen ein Mensch und ein Roboter, unten stehen Wahrnehmen, Verstehen, Prüfen, Handeln und Reflektieren als zusätzlicher Arbeitsablauf. Der untere Mittelblock enthält unleserliche Überschriften und mehrere fehlerhafte Zeilen; auch Frage 10 ist sprachlich entstellt. Gemeint ist: Was macht diese Zusammenarbeit aus mir, und fördert sie selbstständiges, verantwortliches Handeln? Die vollständigen zehn Fragen stehen in Kapitel 18. Das ist ein Reflexionsmodell, kein psychologischer Test. Die männlich gelesene Hauptfigur steht nicht für alle Nutzer.

Unveränderte Markdown-Quelle

• Vollständige ursprüngliche Markdown-Fassung

Arbeitsdaten und Quellenprüfung

Paketstand, Integration und Quellenprüfung: 25. Oktober 2026. Alle 18 Kapitel und acht Bildpositionen erhalten. Die Original-PNGs bleiben unverändert im Archiv; zusätzliche JPG-Webfassungen folgen dem verbindlichen Projektworkflow mit KI-/CC-BY-4.0-Streifen. Die CC0-Regel der Bibliotheksbücher wird hier nicht übertragen.

Weizenbaums Originalartikel über das Stanford-Lehrarchiv, Nass/Moons Verlagsabstract, die Autorenfassungen von Fang und Zhang sowie die Model-Spec-Fassung vom 18. Dezember 2025 wurden geprüft. ACM-Direktabrufe waren gesperrt; Nature erlaubte den Originaltext zu Machine Behaviour über das Verlags-Suchergebnis, der DOI-Direktabruf scheiterte. Butlins bibliografische Angaben und Autorenabstract wurden über PubMed geprüft; der Elsevier-Volltext war nicht zugänglich. Das Erscheinungsjahr des Heftes ist 2026, die Online-Vorabveröffentlichung 2025. Turkles Werk ist bibliografisch über die Verlagsseite der erweiterten Ausgabe von 2017 geprüft, nicht als vollständiger Buchtext. Es wird daraus kein aktueller Wirksamkeitsnachweis abgeleitet.

Bewusstseinsindikatoren liefern keine abschließende Bewusstseinsfeststellung. Kurzzeitstudien und ausgewählte Gesprächsveröffentlichungen belegen keine allgemeine langfristige Charakterveränderung. Die beiden Entwicklungsspiralen, Warnzeichen und der Kolibriethos-Prüfweg sind Orientierungsmodelle, keine Diagnose, psychologische Tests oder technischen Garantien. Die sichtbare Bildfolge wiederholt überwiegend junge männlich gelesene Figuren; Frauen erscheinen teilweise verengt als romantisch oder projizierend. Diese Darstellungsgrenzen werden nicht als Eigenschaften tatsächlicher Nutzer übernommen und sind im Bildkatalog konkret zur Prüfung markiert.

Zur KI-Ethik-Übersicht

Internationale Quellen ergänzt und punktuell geprüft: 28. Oktober 2026. Quellenstand und Abrufgrenzen.

<< Wem gehört das Ethos einer KI? | KiEthik.Navigation | Fürsorgliche KI – Liebe als Leitbild >>