Offener Denkraum zwischen Mensch und KI – prüfen statt bestätigen

Seitenstatus: In Prüfung Diese Seite wartet auf die menschliche Prüfung und Freigabe.

Bilderbuch-Navigation | KI-Bilderbuch | Band 2 – Innere Welten | Offener Denkraum zwischen Mensch und KI – prüfen statt bestätigen

Schnelle Urteile können Orientierung geben, aber auch Möglichkeiten verschließen. Ein offener Denkraum hält Beobachtungen, Gefühle, Hypothesen, Gegenargumente und Folgen lange genug auseinander, um vorschnelle Gewissheit zu vermeiden. KI kann dabei sprachlich strukturieren und alternative Deutungen erzeugen. Sie ist jedoch kein neutraler Gesprächspartner und keine verantwortliche Erkenntnisinstanz.

KI ist nicht neutral: Ein Sprachmodell berechnet plausible Ausgaben aus Training, Systemregeln, Gesprächskontext und Nutzereingaben. Es kann Vorurteile wiederholen, dem Nutzer zustimmen, Quellen erfinden und Falsches sehr sicher formulieren. Es weiß nicht im menschlichen Sinn, hat keine gelebte Erfahrung und trägt keine Verantwortung.

Schutz vor Fremddeutung: Weder Mensch noch KI sollen aus wenigen Äußerungen Diagnosen, verborgene Motive oder feste Personenbilder ableiten. Bei Gewalt, akuter Gefahr, Rechtsverletzungen oder folgenreichen Entscheidungen haben Schutz, Fachwissen, überprüfbare Belege und zuständige Verfahren Vorrang vor endlosem Offenhalten. Für die Bilder gilt die Schutzklausel des Kolibriethos.

Vier Bildtafeln

Aquarellartige Infografik über den Weg vom schnellen Urteil zu einem offenen Denkraum mit Beobachtung, Hypothesen und Prüfung

Offenheit beginnt damit, Beobachtung und Deutung zu trennen. Sie endet nicht in Beliebigkeit.

Infografik über KI zwischen vorschneller Schublade, sprachlicher Plausibilität und einem methodisch offenen Denkraum

KI kann Varianten erzeugen; deren Richtigkeit, Fairness und Folgen müssen Menschen und zuständige Fachstellen prüfen.

Infografik darüber, wie Gefühle Aufmerksamkeit und Urteile verengen oder als wichtige Signale in die Prüfung eingehen können

Gefühle sind weder Störungen noch Beweise. Sie liefern bedeutsame Hinweise, brauchen aber Kontext und Schutz vor Fremddeutung.

Infografik zur Zusammenarbeit von Mensch und KI beim Öffnen eines Denkraums mit Perspektiven, Gegenargumenten und verantwortlicher Entscheidung

Die Tafel nennt „Neutralität“ als Beitrag der KI. Präziser ist: methodische Distanz kann angeregt werden, Neutralität ist nicht garantiert.

Was KI beitragen kann – und was nicht

Möglicher Beitrag	Typisches Risiko	Nötige Sicherung
Begriffe und Argumente ordnen	Glatte Struktur verdeckt falsche Voraussetzungen	Ausgangsannahmen und Auslassungen prüfen
Gegenhypothesen erzeugen	Erfundenes oder nur scheinbar Plausibles	Primärquellen und Fachwissen heranziehen
Eine Gegenposition formulieren	Karikatur, falsche Ausgewogenheit oder Stereotyp	Betroffene und Originalpositionen selbst hören
Unsicherheiten benennen	Selbstsichere Sprache trotz Unwissen	Belege, Datum, Reichweite und Konfidenz getrennt prüfen
Fragen für eine Entscheidung sammeln	Verantwortung wird an das System abgegeben	Entscheidung, Rechenschaft und Einspruch bleiben menschlich und institutionell

„Operative Offenheit“ bezeichnet hier nur eine Arbeitsweise: Das System wird aufgefordert, mehrere Erklärungen, Gegenargumente und Prüfschritte zu erzeugen. Ob es das fair und sachlich tut, hängt von Modell, Daten, Vorgaben, Eingabe und Kontrolle ab.

Sieben Schritte für einen offenen Denkraum

Beschreiben: Was ist konkret gesagt, beobachtet oder dokumentiert worden?
Trennen: Was ist Tatsache, Gefühl, Erinnerung, Interpretation, Prognose oder Wertung?
Mehrere Hypothesen bilden: Welche Erklärungen passen – auch unbequeme und entlastende?
Stärkste Gegenposition suchen: Wie würde eine sachkundige Person widersprechen?
Perspektiven und Macht prüfen: Wer spricht, wer fehlt, wer trägt das Risiko eines Irrtums?
Gefühle einbeziehen: Was signalisieren Angst, Ärger, Hoffnung oder Scham, ohne sie zu Beweisen zu machen?
Entscheiden und revidieren: Was ist jetzt verantwortbar, welche Unsicherheit bleibt, wann wird neu geprüft?

Offenheit ist kein Zwang, jede abwegige Behauptung gleich lange zu behandeln. Gute Prüfung berücksichtigt Beleglage, Gefahren, Zeit, Rechte und die Kosten weiterer Unsicherheit.

Prompts als Prüfwerkzeuge

Diese Formulierungen können KI-Antworten verbessern, ersetzen aber keine externe Kontrolle:

„Trenne in meiner Darstellung Beobachtungen, Interpretationen, Gefühle und Forderungen.“
„Nenne drei alternative Erklärungen und sage, welche Belege sie unterscheiden würden.“
„Welche Annahmen in meiner Frage übernimmst du ungeprüft?“
„Formuliere die stärkste faire Gegenposition, ohne Personen Motive zuzuschreiben.“
„Welche Quellen müsste ich selbst öffnen, und welche Angaben kannst du nicht verlässlich prüfen?“
„Wer könnte durch diese Entscheidung belastet werden, und welche Rechte oder Schutzwege sind relevant?“
„Widersprich mir ausdrücklich, falls meine Schlussfolgerung nicht durch die genannten Belege getragen wird.“

Auch auf solche Aufforderungen kann ein Modell überzeugend irren. Besonders bei Medizin, Recht, Finanzen, Sicherheit oder Entscheidungen über andere Menschen sind qualifizierte Fachpersonen und belastbare Primärquellen nötig.

Gefühle, Bestätigung und der gemeinsame blinde Fleck

Gefühle beeinflussen Aufmerksamkeit, Erinnerung, Risikoeinschätzung und Plausibilität. Das macht sie nicht irrational: Sie können Erfahrungen, Bedürfnisse und Gefahren anzeigen. Problematisch wird es, wenn ein Gefühl allein als Beweis gilt oder anderen Menschen vorgeschrieben wird, was sie „wirklich“ fühlen.

Mensch und KI können sich gegenseitig bestätigen. Eine suggestive Frage setzt den Rahmen; das Modell liefert passende Gründe; die flüssige Antwort verstärkt die Ausgangsannahme. Ein Notausgang aus dieser Schleife lautet:

Ausgangsfrage ohne Schuldannahme neu formulieren.
Nach Belegen gegen die bevorzugte Erklärung suchen.
Quellen unabhängig vom KI-Text öffnen.
Eine betroffene oder fachkundige Gegenperspektive einholen.
Bei hohem Risiko eine Pause, Schutzmaßnahme oder formelles Verfahren wählen.

Forschung und ethische Bezugspunkte

NIST: Generative Artificial Intelligence Profile – beschreibt unter anderem Konfabulationen, erfundene Begründungen und Quellen, Verzerrungen sowie Risiken in folgenreichen Anwendungen.
UNESCO: Recommendation on the Ethics of Artificial Intelligence – stellt Menschenrechte, Würde, Fairness, Transparenz, Aufsicht und menschliche Verantwortung in den Mittelpunkt.
Argument-Driven Sycophancy in Large Language Models – untersucht, wie Modelle argumentative Nutzerpositionen übernehmen können, selbst wenn diese sachlich nicht tragen.
Lerner et al.: Emotion and Decision Making – Überblick darüber, wie verschiedene Emotionen Urteile und Entscheidungen beeinflussen können.

Die sieben Schritte und Prompts sind eine kolibriethische Arbeitshilfe, kein validierter psychologischer Test und kein Nachweis objektiver KI-Neutralität.

Fragen zum Weiterdenken

Welche Voraussetzung meiner Frage könnte falsch sein?
Wo klingt eine Antwort sicherer, als ihre Belege erlauben?
Welche Person oder Quelle muss ich direkt hören, statt sie von KI darstellen zu lassen?
Wann schützt Offenheit – und wann verzögert sie eine nötige Grenze?
Wer entscheidet, wer trägt die Folgen und wer kann widersprechen?

Herkunft und Prüfstand

Grundtext und deutschsprachige Infografiken wurden von Hans Hufnagel mit KI-Unterstützung entwickelt beziehungsweise erstellt. Die Webfassung korrigiert die bildliche Zuschreibung von „Neutralität“, grenzt sprachliche Plausibilität von Wissen ab und ergänzt Schutz vor Konfabulation, Bestätigungsschleifen, Ferndiagnosen und Verantwortungsabgabe. Bildtexte können dennoch vereinfachen oder Fehler enthalten und bedürfen der Prüfung durch Hans Hufnagel.

Ausführlichen zugelieferten Grundtext im Markdown-Format öffnen oder herunterladen