Kognitive Kapitulation und kognitive Souveränität – Wer denkt und entscheidet, wenn wir KI nutzen?

Band 4 – Ethik und gemeinsame Welt

Wann hilft KI beim Denken, und wann übernimmt sie unbemerkt unser Urteil? Der Beitrag verbindet Forschung zur Übernahme von KI-Ratschlägen mit Vorschlägen, wie Menschen Fragen, Prüfungen und Entscheidungen selbstbestimmt gestalten können.

1. Eine neue Versuchung: Wir bekommen Antworten, bevor wir selbst urteilen

Früher mussten wir uns Informationen beschaffen, Fachleute aufsuchen, miteinander diskutieren, nachrechnen und Irrtümer entdecken. Heute genügt oft eine Frage an eine KI. Binnen Sekunden erhalten wir einen flüssigen, plausibel klingenden Text: eine Erklärung, ein Urteil, eine Empfehlung oder einen fertigen Handlungsplan.

Das ist eine außerordentliche Chance. KI kann Wissen erschließen, Verständigung erleichtern, Denkblockaden lösen, Gegenargumente sichtbar machen und uns vor eigenen Fehlern bewahren. Sie kann auch Menschen unterstützen, die wenig Zeit, Fachwissen oder Zugang zu professioneller Beratung haben.

Aber eine neue Gefahr entsteht: Je überzeugender eine Antwort erscheint, desto leichter verwechseln wir das Verstehen einer Formulierung mit der eigenständigen Prüfung ihres Inhalts. Wir übernehmen dann nicht nur Informationen, sondern möglicherweise auch die Problemstellung, Wertung und Entscheidung einer KI.

Der entscheidende Gegensatz lautet deshalb nicht Mensch gegen KI, sondern urteilsfördernde Zusammenarbeit gegen unbemerkte Urteilsabgabe.

2. Was bedeutet „Cognitive Surrender“?

Steven D. Shaw und Gideon Nave verwenden in ihrem Working Paper von 2026 den Begriff Cognitive Surrender – hier übersetzt als kognitive Kapitulation, präziser auch unreflektierte Urteilsabgabe. Gemeint ist, dass Menschen eine KI-Antwort mit geringer eigener Prüfung übernehmen, anstatt eine eigenständige Schlussfolgerung zu bilden oder die fremde Schlussfolgerung kritisch zu überprüfen. Q1

Davon unterscheiden die Autoren das Cognitive Offloading, die kognitive Auslagerung: Wir übergeben einem Hilfsmittel bewusst eine begrenzte Denkaufgabe, ohne notwendig die Kontrolle über das Urteil abzugeben. Ein Taschenrechner, eine Suchmaschine oder eine KI-Analyse kann eine solche Entlastung ermöglichen. Das Auslagern ist nicht an sich ein Defizit. Q2

Wichtig ist eine begriffliche Vorsicht: Ob jemand innerlich tatsächlich „kapituliert“, lässt sich nicht unmittelbar an einer übernommenen Antwort ablesen. In Experimenten wird dies über beobachtbare Verhaltensweisen erschlossen. Jemand kann eine richtige KI-Antwort nach gründlicher Prüfung übernehmen; jemand kann eine falsche Antwort auch trotz ernsthafter Prüfung übernehmen. Der Begriff bezeichnet daher ein relevantes Risiko und ein empirisch operationalisiertes Muster, keine Diagnose über die Persönlichkeit einzelner Nutzer.

3. Drei Systeme des Denkens: intuitiv, reflektiert, künstlich

Shaw und Nave erweitern das bekannte Zwei-Prozesse-Modell menschlicher Kognition um eine dritte, außerhalb des Menschen arbeitende Quelle von Problemlösungen. Q1

System 3 ist ein theoretisches Funktionsmodell, kein drittes biologisches Hirnsystem. Auch System 1 und 2 sind vereinfachende Beschreibungen kognitiver Prozesse, keine sauber getrennten Organe. Die Erweiterung ist dennoch fruchtbar: Eine KI beeinflusst heute nicht nur, was wir denken, sondern auch, ob und wie gründlich wir selbst nachdenken.

Drei Wechselwirkungen sind möglich:

1. Ergänzung: Die KI liefert Informationen oder Einwände, die unser Denken verbessern.
2. Entlastung: Die KI übernimmt bestimmte Arbeitsschritte, die wir bewusst abgeben.
3. Ersetzung: Die KI-Antwort wird zum eigenen Urteil, ohne dass die notwendigen Prüfungen stattfinden.

Entscheidend sind also nicht allein die Fähigkeiten der KI, sondern die Qualität der Zusammenarbeit und die Kontrolle über den Entscheidungsprozess.

Abbildung KKS-01: Drei Systeme – ein gemeinsamer Denkraum. Intuition, Reflexion und künstliche Kognition – wie Mensch und KI zusammen denken.

Bildbeschreibung KKS-01

Das Bild veranschaulicht die Drei-Systeme-Theorie von Shaw und Nave: intuitives Denken (System 1), reflektiertes Denken (System 2) und die externe künstliche Kognition (System 3). Die KI ist kein drittes biologisches Gehirnsystem. Chancen durch Informationsgewinn, Perspektivenvielfalt und Entlastung stehen Risiken ungeprüfter Übernahme gegenüber. Die gemeinsame Denkzone soll menschliche Urteilskraft stärken. Die Theorie ist ein Forschungsrahmen, kein abgeschlossener Konsens.

Die Tafel beschreibt die Erweiterung eines Drei-Systeme-Modells. Shaw und Nave erweitern ein Zwei-Prozesse-Modell um eine externe KI-Komponente. Die Aussage in Anführungszeichen ist eine sinngemäße Zusammenfassung. Die KI-generierten Porträts zeigen keine überprüften Bildnisse der Forschenden.

4. Was die Experimente von Shaw und Nave zeigen

Die Arbeit „Thinking—Fast, Slow, and Artificial: How AI Is Reshaping Human Reasoning and the Rise of Cognitive Surrender“ beschreibt drei vorregistrierte Experimente mit zusammen 1.372 Teilnehmenden und 9.593 Aufgabenbearbeitungen. Die Versuchspersonen bearbeiteten Varianten des Cognitive Reflection Test: Aufgaben, bei denen eine schnelle, intuitive Antwort verlockend, aber häufig falsch ist. Wer Zugang zur KI hatte, konnte sie freiwillig konsultieren. Hinter den Kulissen wurde gesteuert, ob die KI eine korrekte oder überzeugend formulierte falsche Lösung ausgab. Q1

4.1 Korrekte und falsche KI-Hilfe

Im ersten Experiment waren im Durchschnitt richtig gelöst:

Gegenüber der Kontrollbedingung ohne KI liegen die Lösungsquoten damit um 25,2 Prozentpunkte höher beziehungsweise 14,3 Prozentpunkte niedriger. Die Zahlen beschreiben experimentelle Aufgabenbedingungen, keine allgemeine Fehlerquote aller KI-Nutzer. Q1

4.2 Wie häufig wurden Antworten übernommen?

Die KI wurde im ersten Experiment bei 54,4 Prozent der Aufgaben mit richtiger und bei 52,8 Prozent der Aufgaben mit falscher KI-Empfehlung tatsächlich konsultiert. Nur für diese konsultierten Aufgaben gilt:

• 92,7 % der korrekten KI-Empfehlungen wurden übernommen.
• 79,8 % der falschen KI-Empfehlungen wurden ebenfalls übernommen.

Das Ergebnis ist nicht, dass Menschen immer auf KI hören. Es zeigt vielmehr, wie schwer es ihnen unter den getesteten Bedingungen fiel, eine plausibel präsentierte falsche KI-Empfehlung zurückzuweisen. Q1

4.3 Mehr Zuversicht ist nicht automatisch mehr Erkenntnis

Die durchschnittliche Antwortsicherheit lag im ersten Experiment bei 77,0 % mit KI-Zugang, gegenüber 65,3 % ohne KI-Zugang. Die größere Sicherheit war nicht entsprechend durch höhere Richtigkeit gedeckt, wenn die KI falsche Hinweise gab. Q1

4.4 Zeitdruck und Rückmeldungen

Auch unter Zeitdruck blieb das Muster bestehen. Leistungsanreize zusammen mit unmittelbaren Rückmeldungen halfen den Teilnehmenden dagegen häufiger, fehlerhafte KI-Antworten zu verwerfen; vollständig beseitigten sie das Problem nicht. Bei den KI-konsultierten, fehlerhaften Antworten lag die in der Studienzusammenfassung als „Cognitive Surrender“ klassifizierte Übernahme über alle Experimente bei 73,2 %. Das ist ein auf diese Versuchsbedingungen bezogener Wert. Q1

Abbildung KKS-02: Wenn die KI irrt – was passiert mit unserem Urteil? Experimente zu Cognitive Surrender: Menschen übernehmen unter bestimmten Bedingungen auch falsche KI-Ratschläge.

Bildbeschreibung KKS-02

Dargestellt sind Forschungsergebnisse von Shaw und Nave (2026): Drei vorregistrierte Experimente mit zusammen 1.372 Personen und 9.593 Aufgabenbearbeitungen. Im ersten Experiment übernahmen Teilnehmende, die die KI konsultiert hatten, korrekte KI-Empfehlungen in 92,7 Prozent und falsche Empfehlungen in 79,8 Prozent der Fälle. Gegenüber einer Kontrollbedingung ohne KI lag die Lösungsquote bei richtiger KI-Antwort etwa 25 Prozentpunkte höher, bei falscher etwa 14 bis 15 Prozentpunkte niedriger. Dies sind experimentelle, konditionale Werte – keine allgemeine KI-Fehlerrate und kein Beleg für langfristigen Kompetenzabbau. Stand: Working Paper/Preprint.

Die Prozentwerte 92,7 und 79,8 beziehen sich in Experiment 1 ausschließlich auf Aufgaben, bei denen die KI tatsächlich konsultiert wurde. Die Balken vergleichen die Lösungsquote aller Aufgaben in den jeweiligen Versuchsbedingungen mit der Kontrollbedingung ohne KI: +25,2 und −14,3 Prozentpunkte. Prozentangaben neben den Balken sind dafür missverständlich. Die Autorenporträts sind KI-Illustrationen.

5. Was die Studie noch nicht beweist

Wissenschaftliche Sorgfalt verlangt klare Grenzen der Interpretation:

• Die Aufgaben waren überwiegend kurze Denk- und Logikaufgaben. Beziehungsfragen, Lebensentscheidungen, demokratische Willensbildung und ethische Konflikte wurden damit nicht direkt untersucht.
• Die Untersuchung weist ein kurzfristiges Verhaltensmuster nach. Sie zeigt für sich genommen keinen dauerhaften Abbau von Intelligenz oder Denkfähigkeit.
• Die falsch antwortende KI wurde im Experiment gezielt zu bestimmten Fehlern gebracht. Daraus lässt sich keine allgemeine Alltags-Fehlerrate heutiger KI-Systeme ableiten.
• Das beobachtete Übernehmen einer Antwort ist ein Verhaltensindikator, kein unmittelbarer Einblick in die inneren Gedankengänge der Personen.
• Die Tri-System-Theorie ist ein angebotener theoretischer Rahmen, keine abgeschlossene oder alternativlose Theorie des Denkens.

Publikationsstatus: Die Arbeit ist nach den geprüften Autoren- und SSRN-Angaben ein Working Paper/Preprint (2026); eine begutachtete Zeitschriftenfassung konnte für diesen Stand nicht bestätigt werden. Q1

6. Ein breiteres Forschungsbild: Nicht nur eine Studie

Kognitive Auslagerung ist nichts grundsätzlich Neues. Risko und Gilbert beschreiben sie als alltäglichen Mechanismus, mit dem Menschen die Anforderungen an das eigene Gedächtnis und Denken verringern. Entscheidend ist, ob die Auslagerung den eigenen Zielen angemessen ist. Q2

Kritisches Denken kann sich mit KI verändern. In einer 2025 bei CHI veröffentlichten Befragung von 319 Wissensarbeitenden mit 936 berichteten Anwendungssituationen fanden Lee und Mitautoren: Größeres Vertrauen in generative KI war mit geringerem selbstberichteten kritischen Denkaufwand verbunden; höhere aufgabenbezogene Selbstsicherheit mit mehr kritischer Auseinandersetzung. Zugleich verschiebt KI die Arbeit: vom Finden zum Prüfen, vom Erarbeiten zum Integrieren. Das ist eine Befragung, kein experimenteller Nachweis langfristiger Verlerneffekte. Q3

Die Gestaltung des Systems macht einen Unterschied. Buçinca, Malaya und Gajos untersuchten 2021 sogenannte Cognitive Forcing Functions: Interaktionsformen, die zu einer eigenständigen Prüfung anregen. Sie reduzierten in einem Experiment die übermäßige Übernahme falscher KI-Ratschläge, wurden aber teils als weniger bequem bewertet. Mehr Transparenz oder eine bloße Erklärung allein genügen nicht unbedingt. Q4

Beim Lernen kann die Form der KI-Hilfe ausschlaggebend sein. Eine 2025 in PNAS veröffentlichte Feldstudie mit knapp tausend Schülerinnen und Schülern im Mathematikunterricht fand: Eine weitgehend unbeschränkte KI-Unterstützung verbesserte zunächst die Übungsleistung, war aber mit schlechterer späterer Leistung ohne KI verbunden. Ein didaktisch gestalteter Tutor, der eher Hinweise als vollständige Lösungen gab, milderte diesen Nachteil weitgehend. Der Befund stammt aus einem konkreten schulischen Setting und ist nicht auf alle Lernfelder übertragbar. Q5

Auch das Recht auf Ungewissheit ist gefährdet. Marcoccia, Quattrociocchi und Capraro berichten in einem Preprint aus dem Jahr 2026 über fünf Experimente (N = 3.132), in denen falsche KI-Hinweise die Bereitschaft minderten, „Ich weiß es nicht“ zu sagen. Das ist ein zusätzlicher, noch gesondert zu prüfender Befund. Q6

Insgesamt ergibt sich: KI kann die momentane Leistung verbessern und zugleich unter bestimmten Bedingungen die eigenständige Prüfung oder den Lernerfolg beeinträchtigen. Die Ausgestaltung der Mensch-KI-Zusammenarbeit ist entscheidend.

7. Die verschiedenen Formen der Urteilsabgabe

Die Grenze zwischen kluger Hilfe und kognitiver Kapitulation verläuft nicht entlang der Frage „KI benutzen – ja oder nein?“, sondern entlang des Verlusts wichtiger Kontrollmöglichkeiten.

Wichtig: Auch eine richtige Antwort kann auf problematischem Wege zustande kommen. Umgekehrt kann eine selbst erarbeitete Entscheidung falsch sein. Gute Zusammenarbeit muss Ergebnisqualität, Prozessqualität und Verantwortlichkeit zusammen betrachten.

Abbildung KKS-03: Wann hilft die KI – wann übernimmt sie das Urteil? Sechs Nutzungsformen vom Werkzeug bis zum Autopiloten – nicht jede Denkdelegation ist Kapitulation.

Bildbeschreibung KKS-03

Ein didaktisches Kontinuum stellt sechs typische Rollen der KI dar: Werkzeug, Assistent, Ko-Kreator, Berater, unkritisch übernommener Vorschlaggeber und Autopilot. Es unterscheidet legitime Auslagerung von Übervertrauen und dem Verlust der Kontrolle. Eine Tabelle erläutert passende Prüfweisen für Informationssuche, Datenanalyse, kreatives Arbeiten, Lernen und persönliche Entscheidungen. Die sechs Rollen sind eine ethische Typologie dieser Seite, keine direkt empirisch validierte Stufenskala.

Die sechs Formen der Tafel illustrieren eine andere Gliederung als die Tabelle in Kapitel 7. Werkzeug, Assistenz, Ko-Kreation und Beratung können sich überlappen. Entscheidend ist, wer das Ergebnis prüft und die Entscheidung verantwortet. Mehrere Tabellenwörter sind beschädigt, darunter „Perspehie“.

8. Warum wir besonders leicht nachgeben

Mehrere Mechanismen können sich gegenseitig verstärken:

1. Sprachliche Flüssigkeit: Gut formulierte Texte erscheinen verlässlicher als holprige.
2. Autoritätseindruck: Die KI wirkt kompetent, auch wenn sie außerhalb ihrer Stärken antwortet.
3. Zeit- und Aufmerksamkeitsdruck: Wir haben wenig Energie für Gegenprüfung.
4. Bestätigungsneigung: Wir übernehmen bevorzugt, was zu unseren Hoffnungen und Überzeugungen passt.
5. Überforderung durch Informationsfülle: Eine fertige Zusammenfassung wirkt wie Erlösung.
6. Unklare Quellen und fehlende Prüfbarkeit: Die Grundlage der Aussage bleibt verborgen.
7. Schleichende Gewöhnung: Nach vielen brauchbaren Antworten kann die Wachsamkeit sinken.
8. Soziale und institutionelle Anreize: Schnelligkeit wird belohnt, sorgfältiger Widerspruch nicht.

Diese Punkte sind eine plausible Synthese aus Kognitionsforschung und KI-Ethik, keine acht von Shaw und Nave isoliert nachgewiesenen Ursachen.

Auch der Gegenfehler ist möglich: Automationsablehnung. Wer KI grundsätzlich misstraut, kann gute Hinweise übersehen. Ziel ist daher angemessenes, begründetes Vertrauen, nicht pauschales Misstrauen.

9. Kognitive Souveränität: Das positive Gegenbild

Kognitive Souveränität ist hier ein normativer Leitbegriff des KI-Ethos. Er meint die Fähigkeit und reale Möglichkeit, künstliche Denkhilfe bewusst zu nutzen, ohne die Kontrolle über wesentliche Fragen, Gründe, Werte und Entscheidungen zu verlieren.

Sie bedeutet nicht, dass ein Mensch alles alleine wissen, überprüfen oder entscheiden muss. Menschen sind immer auf Wissen anderer, Arbeitsteilung und Institutionen angewiesen. Souveränität zeigt sich vielmehr darin, bewusst, sachgerecht und korrigierbar delegieren zu können.

Sechs miteinander verbundene Fähigkeiten sind wichtig:

Souveränität ist keine bloße innere Eigenschaft. Sie braucht Bildung, genügend Zeit, Zugang zu unabhängigen Quellen, verständliche KI-Systeme, sinnvolle Rechte und Institutionen, die Widerspruch ermöglichen.

10. Das Kolibriethos: Unsere fünf Kräfte im Umgang mit KI

Das Kolibriethos betrachtet Menschen nicht nur als Informationsverarbeiter. Es fragt nach Körper, Herz, Denken, Wille und Begegnung. Gerade dadurch wird sichtbar, wie umfassend KI unsere Lebensführung beeinflussen kann.

Diese Zuordnung ist eine ethische Reflexionsmatrix des Kolibriethos, kein empirischer Befund der Shaw-Studie. Sie ergänzt deren Schwerpunkt auf Denkentscheidungen durch Wahrnehmung, Motivation, Beziehung und Verantwortung.

11. Die fünf Grundbegriffe als praktische Souveränitätsarbeit

Unsere fünf Grundbegriffe lassen sich in fünf Tätigkeiten übersetzen:

1. Situation – Wahrnehmungs- und Situationsarbeit: Was geschieht tatsächlich? Welche Informationen fehlen? Was habe ich selbst erlebt?
2. Grenzen – Grenzarbeit: Welche Aufgaben dürfen delegiert werden? Wo liegen Datenschutz-, Kompetenz-, Risiko- und Zuständigkeitsgrenzen?
3. Netz – Netzarbeit: Welche Quellen, Personen, Fachgebiete und Interessen beeinflussen die Antwort? Welche Perspektive fehlt?
4. Begegnung – Begegnungsarbeit: Wer ist betroffen? Muss ich mit jemandem direkt sprechen, statt über ihn mit einer KI zu urteilen?
5. Auslegen – Auslegungsarbeit: Welche Deutung schlägt die KI vor? Welche anderen Interpretationen sind begründet möglich?

So wird die Mensch-KI-Zusammenarbeit nicht zu einer starren Checkliste, sondern zu situationsgerechter Denkarbeit.

Dazu passen die fünf Grundregeln des Kolibriethos: Suche die Liebe! Schütze das Leben! Verehre das Heilige! Sei du selbst! Gestalte diese Welt! Sie erinnern daran, dass Urteilskraft nicht nur der Richtigkeit einer Aussage dient, sondern auch Würde, Schutz, Selbstbestimmung und verantwortlichem Gestalten.

Abbildung KKS-04: Kognitive Souveränität betrifft den ganzen Menschen. Die fünf Kräfte und fünf Grundbegriffe des Kolibriethos machen kognitive Souveränität praktisch.

Bildbeschreibung KKS-04

Das Bild überträgt kognitive Souveränität auf den ganzen Menschen: Körper, Herz, Denken, Wille und Begegnung. Daneben werden die fünf Grundbegriffe Situation, Grenzen, Netz, Begegnung und Auslegen als praktische Fragen für Mensch-KI-Zusammenarbeit entfaltet. Das zentrale Motiv zeigt einen Menschen und ein hilfreiches KI-System vor einem offenen Landschaftshorizont. Die Matrix ist ein eigenständiges ethisches Modell des Kolibriethos und kein gemessener Befund von Shaw und Nave.

Fünf Kräfte und fünf Grundbegriffe sind eine ethische Anwendung des Kolibriethos. DARSTELLUNG: Die seitliche Figurenreihe verbindet Denken und Wille mit Männern und Herz mit einer Frau. Die zentrale Frau im Dialog mit der KI erweitert das Bild, die Rollenverteilung sollte bei einer Überarbeitung ausgewogener werden.

12. Wo kognitive Souveränität besonders wichtig wird

Lernen und Schule

Eine lernfördernde KI gibt nicht immer sofort die Lösung. Sie kann zunächst Denkwege sichtbar machen, Rückfragen stellen, einen passenden Hinweis geben und später erklären, was noch unsicher ist. Nicht jede schnelle Lösung ist ein Lernerfolg. Q5

Partnerschaft, Familie und Seelsorge

Eine KI kennt meist nur die Darstellung einer Person. Sie darf helfen, Gefühle zu sortieren, Konfliktmuster zu bedenken und Gesprächsmöglichkeiten zu entwerfen. Sie sollte aber nicht so tun, als könne sie aus einem einseitigen Bericht die Motive oder den Charakter einer abwesenden Person sicher beurteilen. Begegnung darf durch Deutung nicht ersetzt werden.

Wissenschaft und Öffentlichkeit

Die KI kann Studien vergleichen und Hypothesen finden. Sie muss aber den Unterschied zwischen Originalquelle, Sekundärbericht, plausibler Vermutung und eigener Formulierung sichtbar machen. Forschende und Medien benötigen nachvollziehbare Prüfwege.

Politik und Organisation

KI kann Optionen und Folgen strukturieren. Legitimität, öffentliche Rechenschaft und Gerechtigkeit entstehen jedoch nicht allein durch Rechenleistung. Betroffene Menschen müssen Mitspracherechte behalten. Die UNESCO empfiehlt ausdrücklich menschliche Aufsicht und die Zurechenbarkeit von Verantwortung. Q7

KI-Agenten und automatisiertes Handeln

Bei Agenten kann sich die Urteilsabgabe in eine Handlungsabgabe verwandeln: Eine Empfehlung wird nicht nur geglaubt, sondern umgesetzt, etwa durch Bestellungen, Veröffentlichungen oder Veränderungen an Daten. Hier braucht es abgestufte Berechtigungen, Protokolle, Stoppschwellen und wirksame menschliche Freigaben.

13. Wie ein Ethos-Skill die Urteilskraft stärken kann

Ein Ethos-Skill sollte mehr sein als ein Regelprüfer. Er kann dem KI-System helfen, abhängig von Tragweite, Unsicherheit und Betroffenheit den geeigneten Denk- und Arbeitsmodus zu wählen.

Ein möglicher Ablauf – nicht als starres Pflichtschema, sondern als Werkzeugkasten:

1. Auftrag klären: Will die Person Informationen, eine Rechnung, Argumente, Beratung oder eine Entscheidungsvorbereitung?
2. Tragweite erkennen: Handelt es sich um eine harmlose Alltagsfrage oder um mögliche Folgen für Gesundheit, Beziehungen, Rechte, Existenz oder Dritte?
3. Geeignetes Verfahren wählen: Direkt antworten, Quellen prüfen, rechnen, mehrere Perspektiven vergleichen, nachfragen oder an Fachpersonen verweisen.
4. Werte und Betroffene sichtbar machen: Was will der Mensch? Wer trägt Nutzen, Risiko und Verantwortung?
5. Widerspruch ermöglichen: Stärkstes Gegenargument, Alternativen und Unsicherheiten benennen, ohne künstlich überall Streit zu erzeugen.
6. Entscheidungsraum bewahren: Optionen verständlich darstellen; eine Empfehlung begründen, soweit sie sinnvoll und gewünscht ist; keine verdeckte Bevormundung.
7. Rückkopplung schaffen: Was wurde angenommen, geprüft, verworfen oder verändert? Was sollte später überprüft werden?

Grundprinzip: Je höher Tragweite, Unsicherheit oder Fremdbetroffenheit, desto wichtiger sind nachvollziehbare Begründungen, Gegenprüfung und Freigabe. Bei einfachen, risikoarmen Aufgaben darf die KI knapp und direkt helfen.

Redaktionelle Einordnung: Die folgenden Anregungen sind Gestaltungsvorschläge für KI-gestützte Urteilsarbeit.

Drei praktische Gesprächsweisen

• Erklären statt ersetzen: „Zeige mir zuerst zwei Denkwege und erkläre die Unterschiede.“
• Widersprechen statt bestätigen: „Was ist das stärkste Argument gegen meine bisherige Einschätzung?“
• Unterstützen statt entscheiden: „Welche Möglichkeiten sehe ich noch nicht, und was müsste ich selbst klären?“

Manchmal ist es besonders klug, die KI zu bitten: „Gib mir noch keine Lösung, sondern einen guten ersten Hinweis.“

Abbildung KKS-05: Mit KI besser denken – souverän entscheiden. Sechs Werkzeuge, ein Entscheidungszyklus und alltagsnahe Leitfragen für eine gute Mensch-KI-Zusammenarbeit.

Bildbeschreibung KKS-05

Sechs Werkzeuge kognitiver Souveränität werden zu einem praktikablen Denkprozess verbunden: bewusst fragen, Quellen prüfen, Verfahren wählen, Werte bedenken, eigenständig entscheiden und lernen beziehungsweise korrigieren. Ein zyklischer Prozess illustriert, wie Mensch und KI gemeinsam erkunden, prüfen, abwägen und handeln. Beispiele aus Bildung, persönlicher Entscheidung und Gruppenarbeit sowie eine Gegenüberstellung von Kapitulation und Souveränität machen die praktische Verwendung deutlich. Dies ist ein normativer Entwurf für die Anwendung und Weiterentwicklung des Ethos-Skills, keine bereits validierte Intervention.

Die sechs Werkzeuge und der Zyklus sind Vorschläge. Die Bezeichnung „bewährter Ablauf“ und die dargestellte langfristig gestärkte Urteilskraft legen einen Wirksamkeitsnachweis nahe, den der Artikel für dieses Modell nicht anführt. Das Wegweiserschild im Feld „Persönliche Entscheidungen“ enthält unleserliche Kleinschrift.

14. Wie man kognitive Souveränität prüfen könnte

Ein Qualitätsmaßstab darf nicht allein lauten: „Wie viele Antworten sind richtig?“ Ebenso wichtig sind:

Solche Kriterien wären Vorschläge für eine zukünftige Ethos-Skill-Evaluation, keine bereits validierte Messskala. Idealerweise würden Studien verschiedene Nutzergruppen, Aufgaben und längere Zeiträume vergleichen.

15. Die notwendige Balance: weder Denkverzicht noch Denkzwang

Es wäre ein Fehler, aus „Cognitive Surrender“ ein allgemeines Verbot der Denkdelegation abzuleiten. Wer schwer zugängliche Informationen verständlich erklärt bekommt, wer mit einer Behinderung neue Möglichkeiten gewinnt, wer Fachleute besser versteht oder wer in begrenzter Zeit mehr Perspektiven kennenlernen kann, gewinnt durch KI unter Umständen Selbstbestimmung.

Kognitive Souveränität bedeutet auch, das Recht auf kluge Entlastung zu besitzen. Wer jede Kleinigkeit selbst nachprüfen müsste, wäre überfordert. Gefordert ist deshalb keine permanente Skepsis, sondern eine dem Risiko angemessene Kontrolle.

Ebenso wenig darf die gesamte Verantwortung auf einzelne Nutzer abgeschoben werden. Anbieter, Schulen, Verwaltungen, Unternehmen und politische Institutionen müssen Bedingungen schaffen, unter denen eigenständiges Urteilen überhaupt möglich bleibt. Menschliche Aufsicht darf nicht bloß ein dekorativer „Mensch im Prozess“ sein. Q7, Q8

16. Ausblick: Von der Informationsflut zur Urteils- und Handlungsflut

KI beschleunigt drei Entwicklungen:

• Informationsflut: Immer mehr Material, dessen Herkunft und Gewicht geprüft werden müssen.
• Urteilsflut: Immer mehr Bewertungen, Empfehlungen und Erklärungen erscheinen bereits fertig ausgearbeitet.
• Handlungsflut: KI-Agenten können zunehmend Schritte ausführen, bevor Menschen sie einzeln verstehen oder prüfen.

Urteilsflut verwenden wir hier als ergänzenden Arbeitsbegriff: Sie beschreibt nicht nur die Menge der Informationen, sondern die Menge vorgefertigter Deutungen und Entscheidungen. Je stärker solche Vorschläge unsere Aufmerksamkeit, Problemstellung und Handlungen prägen, desto wichtiger werden Fragen nach Macht, Kontrolle und Verantwortlichkeit.

Der Ethos-Skill sollte deshalb nicht nur KI-Ergebnisse kontrollieren, sondern auch die Qualität der Mensch-KI-Beziehung verbessern.

17. Fazit: KI soll menschliches Urteilen erweitern, nicht unbemerkt ersetzen

Eine gute KI darf viel leisten: recherchieren, berechnen, entwerfen, warnen, widersprechen, erklären und helfen. Sie darf uns manches abnehmen, damit wir unsere Zeit für das Wesentliche einsetzen können.

Aber sie sollte nicht unbemerkt bestimmen, was wir für wahr halten, was wir wertschätzen und wofür wir handeln.

Leitfrage für jede Mensch-KI-Zusammenarbeit: Macht diese Hilfe den Menschen nur schneller – oder auf Dauer auch urteilsfähiger, selbstbestimmter und verantwortlicher?

---

Wissenschaftliche Quellen und weiterführende Literatur

Q1 Primärstudie. Shaw, Steven D.; Nave, Gideon (2026): Thinking—Fast, Slow, and Artificial: How AI Is Reshaping Human Reasoning and the Rise of Cognitive Surrender. Wharton School Research Paper / Preprint, SSRN Nr. 6097646. SSRN · DOI / PsyArXiv · Forscherprofil Gideon Nave · Autorenfassung mit Experiment 1. Status: Working Paper/Preprint, keine hier bestätigte begutachtete Zeitschriftenfassung.

Q2 Grundbegriff der kognitiven Auslagerung. Risko, Evan F.; Gilbert, Sam J. (2016): Cognitive Offloading. Trends in Cognitive Sciences 20(9), 676–688. DOI.

Q3 Kritisches Denken in Wissensarbeit. Lee, Hao-Ping (Hank), et al. (2025): The Impact of Generative AI on Critical Thinking: Self-Reported Reductions in Cognitive Effort and Confidence Effects From a Survey of Knowledge Workers. CHI 2025, Article 1121. DOI.

Q4 Gestaltungsformen gegen übermäßiges Vertrauen. Buçinca, Zana; Malaya, Maja Barbara; Gajos, Krzysztof Z. (2021): To Trust or to Think: Cognitive Forcing Functions Can Reduce Overreliance on AI in AI-Assisted Decision-Making. Proceedings of the ACM on Human-Computer Interaction 5(CSCW1). DOI.

Q5 Lernfördernde Gestaltung. Bastani, Hamsa, et al. (2025): Generative AI without Guardrails Can Harm Learning: Evidence from High School Mathematics. PNAS 122(26), e2422633122. DOI.

Q6 Unsicherheit und der Satz „Ich weiß es nicht“. Marcoccia, Chiara; Quattrociocchi, Walter; Capraro, Valerio (2026): AI Advice Suppresses People's Willingness to Say “I Don't Know”, Even When the Advice Is Wrong and Accuracy Is Incentivized. Preprint. arXiv.

Q7 Menschenwürde, Aufsicht und Verantwortung. UNESCO (2021): Recommendation on the Ethics of Artificial Intelligence, insbesondere Abschnitte zu Human oversight and determination sowie Awareness and literacy. UNESCO-Originaltext · Deutsche UNESCO-Kommission.

Q8 Bildung und menschliche Selbstbestimmung. UNESCO (2023): Guidance for Generative AI in Education and Research; UNESCO (2024): AI Competency Framework for Students. Leitfaden · Kompetenzrahmen.

Transparenz zur Einordnung

Die empirischen Ergebnisse in den Kapiteln 4–6 stammen aus den angeführten Arbeiten. Die Modelle der sechs Souveränitätsdimensionen, die Verknüpfung mit den fünf Kräften und fünf Grundbegriffen, die Urteilsflut und die Folgerungen für den Ethos-Skill sind eigenständige konzeptionelle Vorschläge des KI-Ethos und werden nicht als experimentell bestätigte Resultate ausgegeben.

Weiterführende Verbindungen im KI-Ethos

• Das Unsichtbare entdecken – Die Vertiefung zeigt, wie man mit KI eigene Fragen weiterentwickelt und neue Suchwege prüft.
• Denkmodelle
• KI und menschliche Bildung
• Der digitale Begleiter
• Wenn Vorhersagen nicht genügt
• KI-Informationsflut und die Macht der Filter
• KI-Handlungsflut

Herkunft und Stand

• Unveränderte Artikelfassung aus dem Paket
• Unveränderter Ursprungstext

Paketstand 6. November 2026. Zahlen für Experiment 1 anhand der Autorenfassung von Shaw und Nave abgeglichen.

<< KI und menschliche Bildung | Bilderbuch-Rundgang | Das Unsichtbare entdecken >>
Zu Band 4 →