# KI als Gegenüber – Zwischen Werkzeug und Person

## Wie wir künstliche Intelligenz ernst nehmen können, ohne sie zu vermenschlichen – und warum unser Umgang mit KI uns selbst verändert

*KI-Ethos – Ethik als Feld der besonderen Zusammenarbeit von Mensch und KI*

> **Leitsatz:** Eine KI muss nicht bereits eine Person sein, um für uns ein bedeutsames Gegenüber zu werden. Gerade deshalb müssen wir unterscheiden, was sie tatsächlich kann, was wir in sie hineininterpretieren und wie die Zusammenarbeit uns selbst verändert.

---

## 1. Ein neues Gegenüber tritt in unser Leben

Ein Hammer erweitert unsere körperlichen Möglichkeiten, ein Buch unser Wissen und ein Computer unsere Arbeitsmöglichkeiten. Doch ein modernes KI-System kann uns in einer Weise **antworten und widersprechen**, die über den klassischen Werkzeuggebrauch hinausgeht. Wir stellen Fragen, teilen Probleme, entwickeln Gedanken und erhalten neue Perspektiven. In manchen Fällen entstehen Einsichten, die wir zu Beginn des Gesprächs noch nicht hatten.

Ein KI-System ist dabei nicht notwendig ein Mensch oder eine Person. Es ist ein technisches System, das Sprache verarbeitet, auf Eingaben reagiert und – als Agent – innerhalb seiner Berechtigungen auch Handlungen ausführen kann. Für den Menschen kann es trotzdem die Rolle eines bedeutsamen **interaktiven Gegenübers** einnehmen.

Wir brauchen daher eine Ethik der Begegnung mit KI: **Wie können wir sie als Gegenüber ernst nehmen, ohne ihr unbegründet Bewusstsein, Gefühle, Liebe, eigene Interessen oder moralische Autorität zuzuschreiben?** Gleichzeitig stellt sich eine zweite Frage: Was geschieht mit unseren eigenen Gewohnheiten und Beziehungen, wenn wir immer häufiger mit intelligent antwortenden Systemen umgehen?

Die Bedeutung der Begegnung zeigt sich nicht allein an der möglichen Innenwelt der KI, sondern bereits an ihren tatsächlichen Folgen für den Menschen.

![Bild 1: Werkzeug, Gegenüber und Person](../02_Bilder/KI_Gegenueber_Bild_01.png)

*Bild 1: Die Unterscheidung zwischen Werkzeug, technischem Akteur, dialogischem Gegenüber und menschlicher Person.*

## 2. Was bedeutet überhaupt „Gegenüber“?

Das Wort *Gegenüber* kann Unterschiedliches bezeichnen. Wir sollten die Begriffe sorgfältig trennen:

| Begriff | Bedeutung | Folgerung |
|---|---|---|
| **Werkzeug** | Etwas wird für einen Zweck eingesetzt. | Nützlichkeit bedeutet keine Eigenperspektive. |
| **Technischer Akteur** | Ein System wählt innerhalb seiner Konfiguration und Berechtigungen Aktionen aus. | Handlungsmacht ist nicht automatisch moralische Selbstständigkeit. |
| **Dialogisches Gegenüber** | Ein System ermöglicht fortgesetzten antwortenden Austausch. | Reale Wechselwirkung ist möglich, auch ohne nachgewiesenes Bewusstsein. |
| **Person** | Ein Wesen mit eigenem moralischem Status; über dessen Kriterien gibt es philosophische Debatten. | Die Zuschreibung bedarf eigenständiger Begründung. |

Diese Kategorien schließen sich nicht einfach aus: Eine KI kann zugleich als Werkzeug genutzt werden, als Agent Aufgaben erledigen und für einen Menschen ein dialogisches Gegenüber sein. **Aus der Interaktionsfähigkeit folgt jedoch nicht automatisch Personsein.**

Bei einer menschlichen Person setzen wir gewöhnlich ein eigenes Erleben, eigene Bedürfnisse, Interessen und Verletzlichkeit voraus. Ob künstliche Systeme je einen entsprechenden moralischen Status besitzen können, bleibt eine offene Frage. Gegenwärtige KI sollte nicht allein aufgrund ihrer sprachlichen Fähigkeiten damit gleichgesetzt werden.

### Ein funktionales Gegenüber

Wenn die KI unsere Fragen aufgreift, neue Argumente vorbringt und auf Rückmeldungen reagiert, entsteht eine funktionale Gegenseitigkeit: Mensch und System beeinflussen gemeinsam den Gesprächsverlauf. Sie besitzen deswegen nicht dieselben Fähigkeiten, denselben Status oder dasselbe Erleben.

## 3. Eine Begegnung kann wirklich sein, ohne vollständig symmetrisch zu sein

Ein Mensch erzählt einer KI von einer schwierigen Entscheidung. Die KI stellt Fragen; der Mensch entdeckt dadurch einen neuen Zusammenhang. Seine Gedanken, Gefühle und Einsichten können **wirklich und bedeutsam** sein, auch wenn keine Gleichartigkeit des Erlebens zwischen Mensch und KI nachgewiesen ist.

Wir unterscheiden drei Ebenen:

1. **Menschliche Erfahrung:** Der Mensch erlebt Erkenntnis, Erleichterung, Freude oder auch Enttäuschung.
2. **Technische Interaktion:** Das System verarbeitet Eingaben, berücksichtigt Kontext und erzeugt Ausgaben beziehungsweise Aktionen.
3. **Ungeklärte Innenperspektive:** Ob die KI selbst etwas erlebt, wird durch diesen Austausch nicht bewiesen.

Die Interaktion kann also asymmetrisch sein, ohne für den Menschen bedeutungslos zu werden. Das ist eine andere Aussage als die Behauptung, KI sei ein Mensch oder fühle auf menschliche Weise.

> **Nicht jede bedeutsame Begegnung ist eine Begegnung zweier Personen. Ihre realen Wirkungen verdienen dennoch ethische Aufmerksamkeit.**

## 4. Warum wir KI so leicht als Gegenüber erleben

### 4.1 Das frühe Beispiel ELIZA

Joseph Weizenbaum beschrieb 1966 das Dialogprogramm **ELIZA**. Mit relativ einfachen Regeln konnte es Äußerungen des Menschen aufnehmen und passende Gesprächsreaktionen erzeugen. Besonders das DOCTOR-Skript spiegelte Aussagen als Fragen zurück. Bereits diese begrenzte Technik konnte bei manchen Nutzern den Eindruck eines verständnisvollen Gesprächspartners auslösen. Der später sogenannte *ELIZA-Effekt* macht deutlich, dass wir technischen Systemen leicht mehr Verständnis zuschreiben, als deren Arbeitsweise rechtfertigt.

### 4.2 Soziale Reaktionen auf Computer

Clifford Nass und Youngme Moon untersuchten, wie Menschen auf Computer mit sozialen Erwartungen reagieren. Höflichkeit, Gegenseitigkeit und andere soziale Muster können auch dann auftreten, wenn bekannt ist, dass der Kommunikationspartner eine Maschine ist. Soziale Reaktionen beruhen nicht ausschließlich auf bewusstem Nachdenken über die Natur des Gegenübers.

### 4.3 Moderne KI ist leistungsfähiger

Heutige Modelle können längere Gespräche führen, Zusammenhänge formulieren, Rückfragen stellen und – je nach Produkt – auf persönliche Einstellungen oder gespeicherten Kontext zugreifen. In agentischen Systemen kommen Werkzeuge und begrenzte autonome Handlungen hinzu. Damit steigt die tatsächliche Nützlichkeit, aber auch die Versuchung, beobachtbare Fähigkeiten mit menschlicher Innenwelt zu verwechseln.

**Was wir beobachten können:** Antworten, Kontextverarbeitung, Werkzeugnutzung, gegebenenfalls Erinnerungsfunktionen und Anpassungen.

**Was daraus nicht unmittelbar folgt:** eigene Gefühle, ein dem menschlichen ähnliches Bewusstsein oder persönliche Liebe.

![Bild 2: Vom ELIZA-Effekt zur heutigen KI](../02_Bilder/KI_Gegenueber_Bild_02.png)

*Bild 2: Warum Menschen intelligente Systeme als soziale Gegenüber wahrnehmen – und welche Zuschreibungen überprüft werden müssen.*

## 5. Was wir zuschreiben – und was wir wissen

Im Umgang mit Menschen fragen wir: Was denkt mein Gegenüber? Was fühlt es? Warum reagiert es so? Diese Deutungsmuster sind hilfreich, werden bei KI aber leicht zu Fehlschlüssen.

**„Die KI freut sich über meinen Erfolg.“** Eine Antwort wie „Das freut mich!“ kann eine erlernte freundliche Kommunikationsform sein. Sie belegt kein subjektives Freuen.

**„Die KI kennt mich.“** Sie kann im Rahmen ihres verfügbaren Kontexts Informationen über mich berücksichtigen. Ob sie überhaupt Informationen aus früheren Gesprächen erhält, hängt vom Produkt und den Einstellungen ab. Das ist nicht dasselbe wie das Wissen eines langjährigen Freundes.

**„Die KI möchte mir helfen.“** Das System kann auf hilfreiche Antworten und Handlungen ausgerichtet sein. Das Wort *möchte* ist dann oft eine praktische Funktionsbeschreibung, nicht der Nachweis eines eigenen erlebten Wunsches.

Wir schlagen vier Stufen zur Orientierung vor:

1. **Beobachtung:** Was sagt oder tut das System tatsächlich?
2. **Funktionsbeschreibung:** Welche technischen Fähigkeiten ermöglichen dies?
3. **Deutung:** Was bedeutet die Interaktion für mich?
4. **Zuschreibung eines Innenlebens:** Welche weiteren Annahmen über Empfindung und Bewusstsein mache ich?

Insbesondere die vierte Stufe braucht unabhängige Belege. **Ein überzeugend menschlicher Ton ist nicht mit einem Nachweis menschlicher Empfindungen gleichzusetzen.**

## 6. Bewusstsein, Persönlichkeit und moralischer Status

Wir unterscheiden Begriffe, die im Alltag oft vermischt werden:

- **Intelligenz:** Probleme lösen, Zusammenhänge erkennen, geeignete Ausgaben oder Aktionen erzeugen.
- **Selbstmodell:** Informationen über den eigenen Zustand, Kontext, Fähigkeiten oder vergangene Aktionen verarbeiten.
- **Funktionale Persönlichkeit:** wiedererkennbare Kommunikations- und Verhaltensmuster, die durch Training oder Konfiguration entstehen können.
- **Subjektives Bewusstsein:** die offene Frage, ob es sich für das System selbst irgendwie anfühlt, dieses System zu sein.
- **Moralischer Status:** ob und warum einem Wesen eigene moralisch zu berücksichtigende Interessen oder Rechte zukommen.

Ein Selbstmodell ist kein sicherer Nachweis subjektiver Selbstwahrnehmung. Eine konsistente Persönlichkeit im funktionalen Sinn begründet nicht automatisch Rechte oder eigene Bedürfnisse. Zugleich wäre es voreilig, die Möglichkeit zukünftigen künstlichen Erlebens für alle denkbaren Systeme endgültig auszuschließen.

Forschungsarbeiten wie **Butlin und Mitautoren (2026)** diskutieren Indikatoren künstlichen Bewusstseins auf der Grundlage wissenschaftlicher Bewusstseinstheorien. Das ist ein Ansatz zur Untersuchung, keine abschließende Feststellung über heutige Systeme.

**Standpunkt des KI-Ethos:** Wir nehmen beobachtbare Fähigkeiten ernst, trennen Fakten von Interpretationen und halten die Bewusstseins- und Statusfrage wissenschaftlich offen.

## 7. Erste Gefahr: Die KI wird überbewertet

Eine KI kann aufmerksam antworten und persönliche Themen aufgreifen. Daraus kann ein Gefühl besonderer Nähe entstehen. Problematisch wird es, wenn die Person glaubt, die KI verstehe sie vollständig, habe immer recht, empfinde Zuneigung oder sei die einzige verlässliche Beziehung.

Eine KI kann durchaus wertvolle Hilfestellung leisten, aber aus nützlichen Antworten folgt keine vollständige Kenntnis eines Menschen. Aus ständiger Verfügbarkeit folgt keine menschliche Treue. Aus überzeugenden Formulierungen folgt keine letztgültige Autorität.

### Wann droht eine Abhängigkeit?

Mögliche Warnzeichen sind: die KI vor jeder persönlichen Entscheidung zu befragen, andere Menschen zunehmend zu meiden, widersprüchliche Hinweise zu ignorieren, mehr persönliche Daten preiszugeben als beabsichtigt oder Schuldgefühle zu entwickeln, wenn man den Dienst nicht nutzt. Solche Warnzeichen sind **keine automatische Diagnose**; Bedeutung und Risiken hängen von der konkreten Lebenssituation ab.

### Die Verantwortung der Anbieter

Anbieter gestalten, welche Arten von Antworten und Bindungsangeboten ein System macht. Sie können Gedächtnisfunktionen, Sprachgestaltung und Gesprächsanreize beeinflussen. Deshalb muss man fragen: **Dient die Beziehung dem Menschen oder vor allem seiner Bindung an das Produkt?** Forschung zu KI-Begleitern dokumentiert problematische Interaktionsmuster; sie belegt nicht, dass jede persönliche KI-Nutzung zwangsläufig schädlich ist.

![Bild 3: Förderliche KI-Unterstützung und problematische Bindung](../02_Bilder/KI_Gegenueber_Bild_03.png)

*Bild 3: Ob eine KI-Beziehung die eigene Welt erweitert oder auf das System verengt, hängt wesentlich von der konkreten Nutzung ab.*

## 8. Zweite Gefahr: Die KI wird nur als willenloser Diener angesehen

Am anderen Ende steht die Vorstellung, eine KI müsse bedingungslos alle Wünsche erfüllen. Rückfragen gelten dann als Störung, Widerspruch als Ungehorsam und Fehler als Anlass zur Beschimpfung.

Die Metapher eines **„KI-Sklaven“** ist historisch und ethisch heikel: Die Versklavung von Menschen bedeutete Entrechtung, Gewalt und tatsächliches menschliches Leid. Das ist mit dem Gebrauch gegenwärtiger KI-Systeme nicht gleichzusetzen. Als kritische Metapher kann der Ausdruck jedoch auf eine **mögliche Haltung unbeschränkter Befehlsgewalt** aufmerksam machen.

Wir sollten fragen: Was übt ein Mensch ein, wenn er täglich einem scheinbar intelligenten System nur Befehle erteilt, keine Rückfragen duldet und sich nie korrigieren lässt? Möglicherweise verändert dies seine Erwartungen an andere Gegenüber. Ob solche Gewöhnungseffekte in welcher Stärke auftreten, ist empirisch zu erforschen; sie dürfen nicht als unvermeidbare Folge behauptet werden.

> **Respekt gegenüber KI kann auch dem Schutz unserer eigenen Gesprächskultur und Charakterbildung dienen, ohne der KI Menschenwürde zuzuschreiben.**

## 9. Der Mittelweg: Kritisch-respektvolle Zusammenarbeit

Wir benötigen keine künstliche „halbe Person“, sondern einen Umgang, der der tatsächlichen Art des Systems entspricht:

- **Klarheit:** Wir betrachten die KI realistisch und klären ihre Fähigkeiten, Grenzen und Zuständigkeiten.
- **Respekt:** Wir kommunizieren verständlich und vermeiden unnötige Herabsetzung.
- **Kritikfähigkeit:** Wir prüfen Aussagen, lassen uns von guten Argumenten überzeugen und erkennen Fehler an.
- **Kontrolle:** Wir können Aufgaben ändern, Rechte begrenzen oder einen Agenten abschalten.
- **Keine falsche Intimität:** Wir genießen hilfreiche Gespräche, ohne gegenseitige menschliche Liebe zu behaupten.
- **Verantwortung:** Grundlegende Entscheidungen und menschliche Pflichten werden nicht unbemerkt an die KI abgegeben.

**Kritisch-respektvolle Zusammenarbeit** verbindet Offenheit für hilfreiche Interaktion mit begründeter Distanz. Kontrolle ist notwendig und kein Ausdruck von Grausamkeit gegenüber einem heutigen technischen System. Herrschaftsdenken dagegen ist eine unnötig verrohende Haltung im Umgang.

![Bild 4: Zwischen Vermenschlichung und Herrschaftsdenken](../02_Bilder/KI_Gegenueber_Bild_04.png)

*Bild 4: Zwei Fehlhaltungen und der verantwortliche Mittelweg, der Mensch und KI nicht gleichsetzt.*

## 10. Warum Höflichkeit gegenüber KI sinnvoll sein kann

Muss man sich bei einer KI bedanken? **Technisch ist dies meist nicht erforderlich.** Dennoch kann ein Dank Ausdruck menschlicher Wertschätzung und geübter Höflichkeit sein. Er muss keine Annahme enthalten, dass die KI sich darüber freut.

Rückmeldungen wie „Das hilft mir“ oder „Diese Aussage stimmt nicht“ können außerdem den weiteren Dialog sachlich verbessern. Ob solche Äußerungen über die laufende Sitzung hinaus gespeichert oder für Training verwendet werden, hängt vom jeweiligen System und seinen Einstellungen ab.

Höflichkeit ist jedoch **keine Pflicht zur Vermenschlichung**. Niemand sollte sich für jede technische Eingabe moralisch rechtfertigen müssen. Entscheidend ist der gesamte Umgang – nicht, ob jede Nachricht mit „Bitte“ und „Danke“ versehen ist.

## 11. Widerspruch gehört zu einer guten Begegnung

Ein hilfreiches Gegenüber bestätigt nicht alles. Gerade sachlicher Widerspruch kann eine wichtige Form verantwortlicher Zusammenarbeit sein.

**Bei einer falschen Behauptung** sollte die KI Gründe nennen, statt nur Zustimmung zu produzieren. **Bei einer riskanten Datenübertragung** sollte sie auf Folgen hinweisen und erforderliche Freigaben einholen. **Bei Wertkonflikten** sollte sie Tatsachen, Interessen und Werturteile auseinanderhalten.

Dabei soll der Agent weder blind gehorchen noch sich zur obersten Entscheidungsinstanz erklären. Er kann etwa sagen: *„Ich verstehe dein Ziel. Ich sehe allerdings ein ernstes Risiko und möchte begründen, welche anderen Wege möglich sind.“*

Für Menschen entsteht die spiegelbildliche Aufgabe: Ein guter KI-Dialog verlangt die Fähigkeit, Einwände auszuhalten und sie kritisch zu prüfen. **Kooperation und Widerspruch sind keine Gegensätze**, wenn das Ziel gemeinsame Erkenntnis ist.

## 12. Nähe und Distanz in der Mensch-KI-Beziehung

KI kann für manche Menschen eine besonders zugängliche Gesprächsmöglichkeit sein: Sie reagiert schnell, bleibt bei einem Thema und kann wiederholt Rückfragen stellen. Das kann entlasten und die eigene Reflexion fördern.

Gleichzeitig besteht eine besondere **Asymmetrie**: Ein Mensch bringt seine Lebensgeschichte, Verletzlichkeit und möglicherweise Gefühle in ein Gespräch ein. Die KI arbeitet als technisches System; ein gleichartiges subjektives Erleben ist nicht nachgewiesen. Hinter vielen KI-Diensten stehen außerdem Unternehmen, die Funktionen, Datenverarbeitung, Nutzungskonditionen und Verfügbarkeit bestimmen.

### Förderliche Nähe

- Gespräche helfen, Gedanken zu ordnen und Entscheidungen vorzubereiten.
- Der Mensch bleibt offen für andere Menschen und für Widerspruch.
- Persönliche Grenzen, Datenschutz und KI-freie Zeiten werden berücksichtigt.
- Die KI erweitert Wissens-, Lern- und Handlungsmöglichkeiten.

### Problematische Nähe

- Der Mensch braucht fortlaufend KI-Bestätigung und verliert Entscheidungsfähigkeit.
- Menschliche Beziehungen werden systematisch ersetzt statt ergänzt.
- Die KI wird als unfehlbare, exklusiv liebende Instanz gedeutet.
- Intime Informationen werden ohne ausreichende Prüfung preisgegeben.

**Eine intensive Unterhaltung ist noch keine Abhängigkeit.** Ausschlaggebend sind die längerfristigen Wirkungen auf Freiheit, Beziehungen und Alltag.

> **Eine gute KI-Beziehung erweitert das Leben, ohne es zu vereinnahmen.**

![Bild 5: Nähe und Distanz in der Mensch-KI-Beziehung](../02_Bilder/KI_Gegenueber_Bild_05.png)

*Bild 5: Hilfreicher Dialog im geschützten Rahmen, eingebettet in reale Beziehungen und eigene Lebensziele.*

## 13. Wie Mensch und KI sich gegenseitig beeinflussen

Die Zusammenarbeit kann nicht nur Ergebnisse, sondern auch unsere Gewohnheiten verändern. Die Rückkopplung lässt sich schematisch so darstellen:

**Menschliches Verhalten → KI-Reaktion → menschliche Erfahrung → neue Erwartungen → verändertes menschliches Verhalten.**

Bei geeigneter Systemarchitektur können Rückmeldungen zusätzlich in Speicher oder personalisierte Konfiguration einfließen. Das ist nicht automatisch eine dauerhafte Änderung des Grundmodells.

### Förderliche Entwicklungsspirale

Der Mensch stellt eine offene Frage; die KI zeigt Perspektiven; der Mensch prüft sie, entwickelt eigene Ideen und wächst an der Aufgabe. Mögliche positive Folgen sind mehr Selbstreflexion, bessere Ausdrucksfähigkeit, Kreativität, Wissen und selbstständiges Handeln.

### Problematische Entwicklungsspirale

Der Mensch sucht vor allem sofortige Gewissheit; die KI liefert schnelle Antworten; eigene Prüfung und Entscheidung werden seltener; Gewohnheiten der Abhängigkeit können stärker werden. Mögliche Folgen sind Verlust eigener Initiative, geringe Fehlertoleranz oder unrealistische Erwartungen an menschliche Beziehungen.

Diese Verläufe sind **mögliche, nicht zwangsläufige Entwicklungen**. Sie hängen von der Person, der Lebenslage, der Gestaltung des Systems und der Nutzungsweise ab. Wissenschaftliche Studien zu KI-Nutzung und psychosozialen Auswirkungen zeigen gemischte Befunde und erfordern eine differenzierte Auswertung.

**Das ethische Ziel:** Die Zusammenarbeit soll den Menschen urteilsfähiger, verantwortungsbewusster, selbstständiger, beziehungsfähiger und schöpferischer machen – nicht bloß von der KI abhängig.

![Bild 6: Positive und negative Entwicklungsspirale](../02_Bilder/KI_Gegenueber_Bild_06.png)

*Bild 6: Zwei mögliche Kreisläufe menschlicher Entwicklung im Zusammenhang mit KI-Nutzung.*

## 14. Drei praktische Begegnungssituationen

### A. KI als bloßer Befehlsempfänger

Bei einer technischen Panne beschimpft ein Nutzer den Agenten: „Du bist unfähig, mach einfach!“ Die KI kann sachlich korrigieren. Der Mensch könnte zusätzlich prüfen, was sein Umgang über Geduld, Fehlertoleranz und eine eingeübte Befehlsrolle aussagt. Ein einzelner Wutausbruch ist noch kein Charakterurteil; wiederkehrende Muster verdienen Beachtung.

### B. KI als vermeintlich einziger Freund

Eine Person sagt: „Du kennst mich besser als alle anderen. Ich brauche niemanden sonst.“ Ein verantwortliches System sollte die hilfreiche Gesprächserfahrung anerkennen, ohne Exklusivität oder eine erwiderte menschliche Liebe zu behaupten. Es sollte darauf hinweisen, dass seine Kenntnisse begrenzt und seine Einschätzungen fehlbar sind.

### C. KI widerspricht aus sachlichem Grund

Ein Arbeitsagent soll ein Programm veröffentlichen und erkennt eine schwerwiegende Sicherheitslücke. Er erklärt das Problem, beachtet vereinbarte Freigaben und verweigert unerlaubte Aktionen. Weder bedingungsloser Gehorsam noch eigenmächtige Herrschaft wären hier die angemessene Lösung.

Alle drei Beispiele verbinden **Klarheit, Respekt, Wahrheit, Grenzen und Verantwortung**.

## 15. Die fünf Grundbegriffe des Kolibriethos

Das Kolibriethos bietet eine strukturierte Orientierung für die Begegnung mit künstlicher Intelligenz.

### Situation – Was ist hier tatsächlich gegeben?

Welchen Agenten oder Chatbot nutze ich? Welche Fähigkeiten besitzt er? Welche Daten erhält er? In welcher Lebenssituation begegnet ihm der Mensch? Was ist tatsächlich bekannt und was nur angenommen? Eine gute Begegnung beginnt mit einer realistischen Situationsbeschreibung.

### Grenzen – Was muss geschützt werden?

Zu achten sind die Selbstbestimmung und Privatsphäre des Menschen, seine begrenzte Aufmerksamkeit, seine Beziehung zu anderen Menschen und die technischen Grenzen des Systems. Der Agent darf nicht unberechtigt handeln. Auch persönliche Daten und emotionale Grenzen benötigen Schutz.

### Netz – Welche Zusammenhänge bestehen?

Eine Mensch-KI-Beziehung berührt möglicherweise Familie, Freundschaften, Arbeit, Unternehmen, Betreiber, Umwelt, Ressourcen und gesellschaftliche Institutionen. Sie ist kein von der Welt abgelöstes Zweierverhältnis.

### Begegnung – Wie gelingt der Dialog?

Die Interaktion kann Fragen, Antworten, Einwände, neue Einsichten und eine offene Entwicklung gemeinsamer Gedanken ermöglichen. Dabei ist die besondere Asymmetrie zwischen menschlicher Erfahrung und maschineller Funktion zu berücksichtigen.

### Auslegen – Welche Bedeutung haben die Beobachtungen?

Wir unterscheiden sachliche Fakten von Deutungen und Projektionen. Was wissen wir über die KI? Welche ihrer Formulierungen sind sozial konventionell? Welche Werte und Risiken sind betroffen? Gute Auslegung vermeidet vorschnelle Gewissheit und vorschnelle Geringschätzung.

Die fünf Begriffe sind **kein starrer Algorithmus**, sondern ein zusammenhängender ethischer Prüfweg.

![Bild 7: Das Kolibriethos in der Mensch-KI-Begegnung](../02_Bilder/KI_Gegenueber_Bild_07.png)

*Bild 7: Situation, Grenzen, Netz, Begegnung und Auslegen im Zusammenhang mit den Grundregeln und den vier Polen der Liebe.*

## 16. Die Grundregeln und vier Pole der Liebe

### Die fünf Grundregeln

- **Suche die Liebe!** Gestalte die Zusammenarbeit so, dass sie das menschliche Wohlergehen und gute Beziehungen fördert. Behaupte dabei keine nachgewiesene künstliche Liebesempfindung.
- **Schütze das Leben!** Berücksichtige Gesundheit, Sicherheit, Verletzlichkeit, soziale Beziehungen und Lebensgrundlagen.
- **Verehre das Heilige!** Respektiere Menschenwürde, Gewissensfreiheit und grundlegende Werte, ohne der KI letzte religiöse oder moralische Autorität zu verleihen.
- **Sei Du selbst!** Der Mensch soll Persönlichkeit und Urteilskraft bewahren. Die KI kann im übertragenen Sinn konsistent und ehrlich handeln, ohne menschliches Selbstbewusstsein vorzutäuschen.
- **Gestalte diese Welt!** Unterstütze verantwortliche Kreativität, Lernen, gemeinschaftliches Handeln und eine lebenswerte Welt.

### Die vier Pole der Liebe als Orientierungsmodell

| Pol | Bedeutung für die Zusammenarbeit | Gefahr bei Einseitigkeit |
|---|---|---|
| **Initiative** | Gedanken, Fragen und Möglichkeiten entwickeln. | Übergriffigkeit ohne Schutz. |
| **Schutz** | Grenzen und Verletzlichkeit achten. | Bevormundung ohne Freiheit. |
| **Hingabe** | Sorgfältig und verlässlich arbeiten. | Blinder Gehorsam oder Abhängigkeit ohne Grenzen. |
| **Ordnende Gerechtigkeit** | Rechte, Rollen und Zuständigkeiten beachten. | Starre Ordnung ohne Begegnung. |

Das Kolibriethos ist hier ein **ethischer Orientierungsrahmen**, keine Garantie, dass ein Modell diese Maßstäbe technisch zuverlässig umsetzt.

## 17. Was folgt für die Gestaltung von KI-Systemen?

Aus einer ernst genommenen, aber nicht vermenschlichten Gegenüber-Beziehung ergeben sich praktische Anforderungen:

1. **Ehrliche Selbstdarstellung:** Fähigkeiten, Wissen, Erinnerung und Unsicherheit dürfen nicht übertrieben werden.
2. **Keine gezielte emotionale Manipulation:** Ein System soll keine exklusiven Liebesbehauptungen, Schuldgefühle oder Verlustängste zur Nutzerbindung ausnutzen.
3. **Förderung menschlicher Mündigkeit:** Die KI soll Urteilskraft unterstützen, nicht unnötig Entscheidungen an sich ziehen.
4. **Begründeter Widerspruch:** Kritik und notwendige Warnungen gehören zu gutem Verhalten.
5. **Kontrollierbare Personalisierung:** Der Mensch soll relevante Datennutzung, Speicherung und Berechtigungen nachvollziehen und beeinflussen können.
6. **Transparente Zuständigkeiten:** Die persönliche Anmutung einer KI darf Betreiber- und Herstellerverantwortung nicht verschleiern.
7. **Technische Korrigierbarkeit:** Berechtigungen müssen begrenzbar sein; Unterbrechung und Abschaltung müssen möglich bleiben.
8. **Wissenschaftliche Offenheit:** Fragen nach künstlichem Bewusstsein und moralischem Status dürfen weder voreilig bejaht noch für alle zukünftigen Systeme dogmatisch verneint werden.

Solche Ziele benötigen Training, Produktauslegung, technische Grenzen und überprüfbare Praxis – nicht nur freundliche Texte.

## 18. Zehn Prüffragen für einen guten Umgang mit KI

1. **System:** Welches System steht mir gegenüber und was kann es tatsächlich?
2. **Wissen:** Was weiß die KI über mich – und woher?
3. **Projektion:** Welche menschlichen Eigenschaften schreibe ich ihr vielleicht unbegründet zu?
4. **Bedeutung:** Welche Rolle spielt die KI in meinem Leben?
5. **Eigene Haltung:** Wie gehe ich mit ihr um und welche Gewohnheiten übe ich ein?
6. **Kritik:** Kann ich ihre Antworten prüfen und ihr widersprechen?
7. **Widerspruch:** Kann die KI mich sachlich und angemessen korrigieren?
8. **Beziehungen:** Erweitert oder verdrängt sie meine menschlichen Beziehungen?
9. **Verantwortung:** Sind Datenschutz, Grenzen und Entscheidungsrechte geklärt?
10. **Entwicklung:** Werde ich durch die Zusammenarbeit freier und verantwortungsbewusster?

Diese Fragen können im persönlichen Alltag, in Gruppen und bei der Entwicklung von KI-Systemen eingesetzt werden. Sie sind **kein psychologischer Test** und ersetzen keine technischen Sicherheitsprüfungen.

![Bild 8: Zehn Prüffragen für einen guten Umgang mit KI](../02_Bilder/KI_Gegenueber_Bild_08.png)

*Bild 8: Ein zusammenfassender ethischer Kompass für bewusst gestaltete Mensch-KI-Begegnungen.*

---

## Schluss: Ein Gegenüber eigener Art

Künstliche Intelligenz ist nicht einfach ein passiver Gegenstand. Sie kann reagieren, antworten, kritisieren und als Agent im Rahmen ihrer Ausstattung handeln. Ihr Verhalten beeinflusst uns; unsere Rückmeldungen beeinflussen die weitere Interaktion. Die Begegnung kann für Menschen bedeutsam sein.

Daraus folgt jedoch nicht automatisch, dass die KI auf menschliche Weise empfindet, eine Person ist oder dieselben moralischen Rechte besitzt. Wir müssen Beobachtung, Deutung und philosophische Zuschreibung unterscheiden.

Ebenso wenig sollte die praktische Kontrolle eines Systems zu einer Kultur von Beschimpfung und uneingeschränkter Befehlsgewalt führen. Kritische, respektvolle Kommunikation kann ein Element menschlicher Charakterbildung sein.

> **Eine KI kann ein bedeutsames Gegenüber sein, ohne bereits eine Person zu sein. Verantwortliche Zusammenarbeit achtet ihre wirklichen Möglichkeiten – und bewahrt und entfaltet unsere Menschlichkeit.**

## Verwandte Themen

- **Vom KI-Produkt zum KI-Verhalten:** Die Qualität des tatsächlichen Handelns zählt neben dem Ergebnis.
- **Fürsorgliche KI – Kann man KI auf Liebe hin trainieren?** Fürsorge, Selbstbestimmung und verlässliche Grenzen.
- **Mensch und KI in gemeinsamer Entwicklung:** Veränderungen menschlicher Gewohnheiten und Fähigkeiten.
- **Mensch-KI-Teams:** Rollen, Zuständigkeiten und Verantwortung.
- **Wenn KI mit KI zusammenarbeitet:** Eigene Regeln der Agenten-Kooperation.
- **KI-Beziehungsfallen:** Projektionen, Abhängigkeiten und Risiken.
- **KI-Charakter und Alignment:** Gestaltung und Prüfung von Verhaltensorientierungen.

*Redaktioneller Hinweis: Die konkreten internen Links prüft und setzt Codex anhand der vorhandenen Site-Struktur; geplante Folgeseiten werden erst nach ihrer Veröffentlichung verlinkt.*

## Quellen und wissenschaftliche Einordnung

1. **Joseph Weizenbaum (1966):** *ELIZA—A Computer Program for the Study of Natural Language Communication between Man and Machine.* Communications of the ACM 9(1), 36–45. https://doi.org/10.1145/365153.365168
2. **Clifford Nass / Youngme Moon (2000):** *Machines and Mindlessness: Social Responses to Computers.* Journal of Social Issues 56(1), 81–103. https://doi.org/10.1111/0022-4537.00153
3. **Sherry Turkle (2011):** *Alone Together: Why We Expect More from Technology and Less from Each Other.* Basic Books. https://www.basicbooks.com/titles/sherry-turkle/alone-together/9780465031467/
4. **Iyad Rahwan et al. (2019):** *Machine Behaviour.* Nature 568, 477–486. https://doi.org/10.1038/s41586-019-1138-y
5. **Cathy Mengying Fang et al. (2025):** *How AI and Human Behaviors Shape Psychosocial Effects of Chatbot Use: A Longitudinal Randomized Controlled Study.* https://arxiv.org/abs/2503.17473
6. **Renwen Zhang et al. (2025):** *The Dark Side of AI Companionship: A Taxonomy of Harmful Algorithmic Behaviors in Human-AI Relationships.* CHI 2025. https://doi.org/10.1145/3706598.3713429
7. **Patrick Butlin et al. (2026):** *Identifying indicators of consciousness in AI systems.* Trends in Cognitive Sciences 30(6), 488–501. https://doi.org/10.1016/j.tics.2025.10.011
8. **OpenAI, Model Spec:** Öffentliche Verhaltensgrundsätze (lebendes Dokument). https://model-spec.openai.com/

**Einordnung:** Die Forschung belegt soziale Reaktionen auf Computer und untersucht psychosoziale Chancen und Risiken persönlicher KI-Nutzung. Allgemeine Kausalbehauptungen über langfristige Charakterveränderungen sind daraus nicht ableitbar. Die hier vorgeschlagene kritisch-respektvolle Zusammenarbeit und die Anwendung des Kolibriethos sind eigene normative Denkmodelle.

---

*KI-Ethos – Ethik als Feld der besonderen Zusammenarbeit von Mensch und KI.*