# Die KI-Informationsflut und die Macht der Filter ## Wer bestimmt, was wir wissen, sehen und für wichtig halten? > **Kernsatz:** KI kann Informationen in bisher kaum vorstellbarem Umfang erzeugen. Unsere Aufmerksamkeit, unsere Zeit und unsere Fähigkeit zur Prüfung bleiben begrenzt. Wer über Zugang, Auswahl, Bewertung und Darstellung von Informationen bestimmt, kann die Wahrnehmung von Wirklichkeit beeinflussen. **Ein guter KI-Filter erweitert die Erkenntnisfähigkeit – er darf den eigenen Horizont nicht unbemerkt verengen.** *Zweite Themenseite der Reihe „KI, Macht und Gesellschaft“ im Bereich KI-Ethik des Projekts KI-Ethos.* ## 1. Eine neue Phase der Informationsgesellschaft Die Schrift machte Informationen dauerhaft speicherbar, der Buchdruck ihre Vervielfältigung leichter und das Internet ihre Veröffentlichung für sehr viele Menschen möglich. Künstliche Intelligenz verändert eine weitere Voraussetzung: Nicht nur die **Verbreitung**, sondern auch die **Produktion** umfangreicher Texte, Bilder, Stimmen, Musik, Videos und Analysen kann zunehmend automatisiert werden. Eine Person kann in Minuten einen Bericht entwerfen, eine kleine Organisation zahlreiche Lehrmaterialien vorbereiten, ein Unternehmen große Mengen von Produktbeschreibungen erzeugen. Das kann Wissen zugänglicher machen und Kreativität fördern. Es ermöglicht aber auch Massenproduktion ohne angemessene Prüfung. Die entscheidende Asymmetrie: Die Menge der Inhalte kann schneller wachsen als unsere Fähigkeit, sie aufmerksam zu lesen, zu verstehen und kritisch zu überprüfen. **Leitfrage:** Wie gewinnen wir aus einer Informationsflut verlässliches Wissen, ohne die Auswahl vollständig fremden Systemen zu überlassen? ![Bild 1 – Die doppelte KI-Informationsrevolution](bilder/KI_Info_01_Informationsflut_und_Filter.png) *Bild 1. KI erleichtert sowohl die Produktion riesiger Informationsmengen als auch deren Filterung; der Engpass bleibt menschliche Aufmerksamkeit und kritische Prüfung.* ## 2. Was ist die KI-Informationsflut? Mit „KI-Informationsflut“ meinen wir die wachsende Menge digitaler Inhalte, die von KI erzeugt, bearbeitet, vervielfältigt oder verbreitet werden. Dabei sind mindestens drei Erscheinungsformen zu unterscheiden. ### 2.1 Wertvolle Inhalte Dazu gehören gute Übersetzungen, verständliche Fachzusammenfassungen, individuell angepasstes Lernmaterial, zugängliche Grafiken und barrierearme Information. Solche Inhalte können gerade Menschen helfen, denen Zeit, Geld, Personal oder eine bestimmte Ausbildung fehlen. ### 2.2 Minderwertige Inhalte und „AI Slop“ Automatisch erzeugte Spamtexte, oberflächliche Bewertungen, repetitive Internetartikel, ungeprüfte Behauptungen und erfundene Quellen können Aufmerksamkeit binden, ohne Erkenntnis zu fördern. Dafür wird häufig der Begriff **AI Slop** beziehungsweise „KI-Müll“ verwendet. Dieser Ausdruck sollte nicht pauschal auf einfache oder automatisch erstellte Texte übertragen werden. ### 2.3 Täuschende und manipulative Inhalte Künstliche Stimmen, gefälschte Aufnahmen, vorgetäuschte Kundenmeinungen, betrügerische Nachrichten und koordinierte Desinformationskampagnen können Menschen absichtlich in die Irre führen. Dieselbe technische Möglichkeit kann aber auch harmlos oder künstlerisch verwendet werden – entscheidend sind Kontext, Kennzeichnung und Absicht. ### 2.4 Vier Prüfmerkmale | Prüfdimension | Leitfrage | Was sie **nicht** beweist | | --- | --- | --- | | **Herkunft** | Von Mensch, KI oder gemeinsam geschaffen? | Herkunft beweist keine Qualität. | | **Qualität** | Sorgfältig und für den Zweck brauchbar? | Gute Form beweist keine Wahrheit. | | **Wahrheitsgehalt** | Sind die Aussagen anhand von Belegen überprüfbar? | Eine richtige Aussage beweist keine gute Absicht. | | **Verwendung** | Soll informiert, unterhalten, überzeugt oder getäuscht werden? | Eine gute Absicht garantiert keinen richtigen Inhalt. | **Merksatz: KI-generiert ist keine Qualitätsbewertung. Menschlich erstellt ist kein Wahrheitsbeweis.** ![Bild 2 – Hochwertige und minderwertige menschliche sowie KI-Inhalte](bilder/KI_Info_02_Herkunft_Qualitaet_Wahrheit.png) *Bild 2. Herkunft, Qualität, Wahrheitsgehalt und Zweck gehören zu vier unterschiedlichen Bewertungen.* ## 3. Warum wächst die Informationsflut? Die technischen Möglichkeiten wirken zusammen mit wirtschaftlichen Anreizen. - **Sinkende Grenzkosten:** Weitere Entwürfe, Varianten oder Übersetzungen lassen sich oft vergleichsweise günstig erstellen. - **Aufmerksamkeitswettbewerb:** Plattformen und Publizierende können von Reichweite, Klicks und Verweildauer profitieren. - **Automatische Vervielfältigung:** Ein Ausgangstext wird zu vielen Varianten, Posts, Videos, Übersetzungen und Newslettern. - **Zielgruppenanpassung:** Inhalte können auf bestimmte Interessen und Zielgruppen zugeschnitten werden – verständlicher oder manipulativer. - **Rückkopplung:** Was Aufmerksamkeit erzielt, wird analysiert und dient als Vorlage für weitere Inhalte. Der problematische Kreislauf lautet: **KI erzeugt Inhalte → Verbreitung wird gemessen → reichweitenstarke Muster werden verstärkt → KI erzeugt noch mehr Ähnliches.** Ob dabei Qualität oder bloße Aufmerksamkeit belohnt wird, hängt von Geschäftsmodellen, Plattformregeln und Nutzungsentscheidungen ab. ## 4. Die neue Kostenasymmetrie: Erzeugen wird leicht, Prüfen bleibt aufwendig Eine KI kann zahlreiche überzeugend formulierte Behauptungen in kurzer Zeit liefern. Wer sie verantwortungsvoll überprüfen möchte, benötigt hingegen unter Umständen viele Stunden, Fachkenntnisse und technische Prüfungen. Ein dokumentiertes Beispiel ist das Open-Source-Projekt **curl**. Daniel Stenberg beschrieb die Belastung des Projekts durch eine Flut minderwertiger, teilweise KI-generierter Sicherheitsmeldungen. Am **26. Januar 2026** kündigte er das Ende des finanziellen Bug-Bounty-Programms zum **31. Januar 2026** an. Zugleich blieb eine verantwortliche Meldung tatsächlicher Sicherheitslücken möglich. Quelle: https://daniel.haxx.se/blog/2026/01/26/the-end-of-the-curl-bug-bounty/ ### 4.1 Wer trägt die neuen Prüfkosten? Ein Absender spart Zeit, während Entwickler, Wissenschaftler, Redaktionen, Lehrkräfte, Verwaltungen oder Unternehmen zusätzliche Arbeit haben. Werden diese Kosten dem Empfänger auferlegt, sprechen wir von einer **Verlagerung oder Externalisierung von Prüfkosten**. ### 4.2 Wo tritt die Asymmetrie auf? - In der **Softwareentwicklung**, wenn angebliche Sicherheitslücken untersucht werden müssen. - In der **Wissenschaft**, wenn ungeprüfte Fachtexte Begutachtungszeit beanspruchen. - In **Redaktionen**, wenn Quellen und vermeintliche Augenzeugenbeiträge geprüft werden. - In **Behörden**, wenn massenhafte Anfragen oder gefälschte Dokumente bearbeitet werden. - In **Schulen**, wenn Lehrkräfte Eigenständigkeit und inhaltliches Verständnis beurteilen. Nicht alle Prüfkosten sind vermeidbar und nicht alle Massenmeldungen missbräuchlich. Berechtigte Hinweise und Beteiligung müssen möglich bleiben. Entscheidend sind **Verhältnismäßigkeit, Nachweise und Verantwortung auf beiden Seiten**. ### 4.3 Erste Gegenmaßnahmen Die Qualität einer Meldung sollte vor ihrer Einreichung geprüft werden; sie sollte nachvollziehbare Belege enthalten. Empfänger können abgestufte Eingangsprüfungen einführen, ohne kleinere Organisationen oder Menschen ohne Spezialwissen auszuschließen. **Ethische Frage: Wer profitiert von billiger Informationsproduktion – und wer bezahlt ihre Überprüfung?** ![Bild 3 – Wenn Erzeugen billiger wird als Prüfen](bilder/KI_Info_03_Erzeugungsaufwand_und_Pruefkosten.png) *Bild 3. Die niedrigen Erzeugungskosten können in einem scharfen Missverhältnis zu den Prüfkosten für andere stehen.* ## 5. Aufmerksamkeit wird zu einer noch kostbareren Ressource Unsere Lebenszeit ist begrenzt, unsere Aufmerksamkeit ebenso. Gute Informationen können in der Flut untergehen, auch wenn sie wissenschaftlich sorgfältig, gesellschaftlich relevant oder persönlich wichtig sind. Aufmerksamkeit ist mehr als ein Marktwert: Sie ermöglicht Lernen, menschliche Begegnung, Mitgefühl, Orientierung und verantwortliches Handeln. Ein System, das vor allem möglichst lange Bildschirmzeiten erzeugt, kann im Konflikt mit diesen Bedürfnissen stehen. **Ein guter Informationsassistent sollte uns nicht möglichst lange beschäftigen, sondern helfen, Zeit und Aufmerksamkeit selbstbestimmt einzusetzen.** ## 6. Sechs Stufen der Informationsfilterung Wer eine KI um die Zusammenfassung eines Themas bittet, erhält häufig eine klare Antwort. Aber davor liegen mehrere technische und inhaltliche Auswahlprozesse. ### 6.1 Zugang: Welche Quellen sind erreichbar? Nicht indexierte Dokumente, Bezahlschranken, Sprachgrenzen, technische Sperren oder fehlende Berechtigungen können Inhalte unsichtbar machen. ### 6.2 Suche: Was wird überhaupt gefunden? Suchbegriffe, Anfrageformulierungen, Suchindex und Suchverfahren beeinflussen den verfügbaren Informationsraum. ### 6.3 Auswahl: Was wird berücksichtigt? Nur ein Teil der Fundstellen gelangt in die weitere Verarbeitung. Ranking, Aktualität und Relevanzbewertungen spielen eine Rolle. ### 6.4 Bewertung: Was erscheint glaubwürdig und wichtig? Hier wirken Kriterien wie Quellenqualität, Evidenz, Widersprüche und fachliche Einschätzungen. Solche Kriterien müssen sachlich begründet sein. ### 6.5 Verdichtung: Was bleibt erhalten? Details und Unterschiede können in einer Zusammenfassung verloren gehen. Was weggelassen wird, beeinflusst das Gesamtbild. ### 6.6 Darstellung: Wie wird formuliert? Reihenfolge, Sprache, Tonfall, Quellenangaben und Unsicherheitskennzeichnung beeinflussen, wie sicher oder überzeugend das Ergebnis wirkt. Nicht alles, was in diesen Stufen wegfällt, ist falsch oder unwichtig. Manchmal fehlen berechtigte Minderheitenpositionen oder neue Erkenntnisse – manchmal werden unzuverlässige Quellen zu Recht aussortiert. Der Maßstab ist **begründete Relevanz und Evidenz**, nicht bloß Popularität. ![Bild 4 – Die sechs Stufen der KI-Informationsvermittlung](bilder/KI_Info_04_Sechs_Stufen_der_Filterung.png) *Bild 4. Von Zugang über Suche und Bewertung bis zur endgültigen Antwort – in jeder Stufe können Informationen fehlen oder anders gewichtet werden.* ## 7. Der Filter als neue Autorität Eine traditionelle Zeitung wählte Beiträge aus; eine Suchmaschine ordnet Treffer. Ein KI-Assistent kann zahlreiche Quellen zu **einer einzigen überzeugend formulierten Antwort** zusammenführen. Gerade die Einfachheit ist hilfreich – und macht verborgene Auswahlentscheidungen schwerer erkennbar. **Sprachliche Überzeugungskraft ist kein Beleg für sachliche Richtigkeit.** Das gilt besonders, wenn Quellen nicht angegeben werden oder der Assistent Unsicherheit nicht zeigt. ## 8. Drei Formen der Filtermacht **Zugangsmacht:** Wer kann Quellen zugänglich machen oder zurückhalten? **Bewertungsmacht:** Wer definiert Kriterien, nach denen Informationen wichtig, glaubwürdig oder irrelevant erscheinen? **Deutungsmacht:** Wer beeinflusst durch Auswahl, Formulierung und Kontext, wie eine Information verstanden wird? Diese Macht entsteht durch die Zusammenarbeit verschiedener Akteure: Daten- und Inhaltsanbieter, Suchmaschinen, Modellanbieter, Plattformen, Entwickler von Anwendungen sowie die Nutzer selbst. Auch wirtschaftliche Interessen können eine Rolle spielen. ### 8.1 Die Macht liegt nicht immer beim Modellanbieter Die konkrete Antwort kann durch externe Suchdienste, eingebundene Dokumente, Systemanweisungen und persönliche Filtereinstellungen geprägt sein. Machtanalysen müssen die **gesamte Vermittlungskette** berücksichtigen. ![Bild 5 – Die neue Macht über unser Wissen](bilder/KI_Info_05_Die_Macht_der_Filter.png) *Bild 5. Mehrere Akteure können die Auswahl, Bewertung und Deutung von Informationen beeinflussen.* ## 9. Wie KI die Flut bewältigen kann KI kann selbst zu einem wichtigen Gegenmittel werden: 1. **Verdichten:** Lange Materialien auf zentrale Aussagen reduzieren. 2. **Dubletten erkennen:** Wiederholte Inhalte zusammenfassen. 3. **Vergleichen:** Übereinstimmungen und Widersprüche zwischen Quellen finden. 4. **Prüfen helfen:** Belegbare Behauptungen identifizieren, Gegenrecherchen anstoßen und Unsicherheiten aufzeigen. 5. **Personalisieren:** Inhalte nach sinnvollen Interessen und Bedürfnissen auswählen. 6. **Erkenntnisse verbinden:** Unerwartete Zusammenhänge zwischen Fachgebieten sichtbar machen. Ein solcher Filter sollte seine Ergebnisse nicht als absolute Wahrheitsurteile ausgeben. Auch eine KI-Recherche kann unvollständig sein, und mehrere Treffer können dieselbe fehlerhafte ursprüngliche Quelle reproduzieren. ## 10. Fünf Gefahren der Filterung ### 10.1 Wertvolle Informationen übersehen Ein Filter kann relevante Quellen ausschließen. Solche falsch negativen Entscheidungen verhindern Erkenntnis. ### 10.2 Falschen Informationen vertrauen Ein Filter kann irreführende Inhalte als zuverlässig einstufen. Solche falsch positiven Entscheidungen sind besonders riskant, wenn die Antwort überzeugend klingt. ### 10.3 Bestätigungsfilter und Filterblasen Ein Assistent kann vor allem vertraute Ansichten bevorzugen. Dadurch werden fremde Perspektiven seltener sichtbar. Zugleich gilt: Nicht jede abweichende Behauptung ist gleich gut belegt. ### 10.4 Verborgene wirtschaftliche oder politische Interessen Bevorzugungen durch Werbung, Partnerschaften oder strategische Ziele können die Informationsauswahl beeinflussen und müssen, soweit relevant, transparent gemacht werden. ### 10.5 Schwächer werdende Urteilskompetenz Wenn ein Mensch Antworten nur noch übernimmt, ohne Quellen zu prüfen, kann seine eigene Fähigkeit zur Bewertung leiden. Ein gutes Werkzeug kann diese Fähigkeit aber ebenso fördern. **Ein hilfreicher Filter macht Auswahlkriterien und Unsicherheiten sichtbar, statt kritisches Denken zu ersetzen.** ## 11. Wer filtert die Filter? Eine zweite KI kann eine erste KI prüfen. Drei KI-Systeme können Antworten vergleichen. Doch mehrere Modelle sind nicht automatisch unabhängig: Sie können auf denselben Daten, Quellen und Annahmen beruhen. Unabhängige Kontrolle benötigt nach Möglichkeit: - voneinander verschiedene **Primärquellen**, - unterschiedliche **Suchstrategien**, - dokumentierte **Bewertungsmaßstäbe**, - organisatorische und technische **Unabhängigkeit**, - fachkundige **menschliche Prüfung** bei wichtigen Folgen. Ein Informationssystem sollte nicht nur seine Antworten, sondern auch seine **Auswahlprozesse** untersuchen können: Was habe ich möglicherweise übersehen? Warum habe ich diese Quellen bevorzugt? Welche Gegenprüfung wäre sinnvoll? ## 12. KI-Kennzeichnung: Was wissen wir über die Herkunft? Zu klären ist, ob eine Aufnahme fotografisch, synthetisch oder bearbeitet ist, ob ein Text vollständig oder teilweise automatisch entstanden ist und welche Person oder Organisation die Veröffentlichung verantwortet. ### 12.1 Sichtbare Hinweise Ein deutliches Label kann sagen: „Mit KI erstellt“ oder „KI-gestützt, fachlich geprüft“. Entscheidend ist, dass die Formulierung den tatsächlichen Entstehungsprozess nicht verfälscht. ### 12.2 Herkunftsnachweise mit C2PA Der **C2PA-Standard** beschreibt kryptografisch überprüfbare Herkunftsinformationen („Content Credentials“) für digitale Medien. Sie können Hinweise auf Erzeugung und Bearbeitung liefern. Aber: Metadaten können fehlen oder entfernt werden; auch ein gültiger Herkunftsnachweis **beweist nicht die Wahrheit des dargestellten Inhalts**. Quelle: https://c2pa.org/specifications/specifications/2.2/explainer/Explainer.html ### 12.3 Grenzen automatischer KI-Detektoren Statistische KI-Erkennungsverfahren können menschliche Texte falsch einordnen oder KI-Inhalte übersehen. Überarbeitung und Übersetzung erschweren die Einordnung zusätzlich. Eine bloße KI-Wahrscheinlichkeitsanzeige ist kein alleiniger Beweis. ### 12.4 Das dreistufige Prüfmodell **Herkunft prüfen → Aussagen und Belege prüfen → Kontext und Verwendung beurteilen.** ![Bild 6 – Herkunft ist nicht Wahrheit](bilder/KI_Info_06_Herkunft_ist_nicht_Wahrheit.png) *Bild 6. Herkunftsnachweise, Faktenprüfung und Kontextbewertung ergänzen sich; keine dieser Ebenen kann allein alles leisten.* ## 13. EU AI Act: Welche Transparenzpflichten gelten? Die Transparenzpflichten nach **Artikel 50 des europäischen AI Act** gelten grundsätzlich seit dem **2. August 2026**. Unter anderem betreffen sie die Information bei direkter KI-Interaktion, die technische Erkennbarkeit bestimmter synthetischer Inhalte sowie Offenlegungspflichten für bestimmte Deepfakes und öffentlich informierende KI-Texte. Es gibt **Ausnahmen und besondere Anwendungsbedingungen**. Für Anbieter von Systemen, die bereits vor dem 2. August 2026 auf dem Markt waren, besteht hinsichtlich bestimmter Kennzeichnungs- und Erkennungspflichten eine begrenzte Übergangsfrist bis zum **2. Dezember 2026**. Eine bloße KI-gestützte Rechtschreibkorrektur führt nicht automatisch zu derselben Kennzeichnungspflicht wie ein vollständig synthetisches Deepfake. Die konkreten Anforderungen hängen von Inhalt, Rolle des Anbieters oder Betreibers und Nutzungskontext ab; dieser Abschnitt ersetzt keine rechtliche Einzelfallprüfung. Offizielle Informationen: https://digital-strategy.ec.europa.eu/en/faqs/transparency-obligations-under-article-50-ai-act **Kennzeichnung ist hilfreich, aber keine umfassende Wahrheitsprüfung. Auch menschlich erstellte oder korrekt gekennzeichnete Inhalte können irreführend sein.** ## 14. Wenn KI ihre eigenen Inhalte wieder verarbeitet KI-generierte Texte und Bilder können wieder in spätere Trainingsdaten gelangen. Unter bestimmten Bedingungen entsteht dadurch eine Rückkopplung: Künftige Systeme lernen zunehmend aus früheren automatischen Ausgaben. Die Studie **„AI models collapse when trained on recursively generated data“** (Shumailov et al., *Nature*, 2024) zeigte, dass unkritische rekursive Verwendung synthetischer Daten unter bestimmten Bedingungen zu Qualitätsverlusten führen kann, insbesondere beim Verschwinden seltener Eigenschaften der ursprünglichen Datenverteilung. Es wäre falsch, daraus zu folgern, **jede** Nutzung synthetischer Daten sei schädlich. Sorgfältig ausgewählte und überprüfte synthetische Daten können hilfreich sein; Mischung, Qualität und Erhalt originärer Daten sind entscheidend. Quelle: https://www.nature.com/articles/s41586-024-07566-y **Eine Wissensgesellschaft benötigt weiterhin vielfältige menschliche Erfahrungen, unabhängige Messungen, Primärbeobachtungen und überprüfbare Originalquellen.** ## 15. Persönliche KI-Informationsassistenten Ein persönlicher Assistent kann wissenschaftliche Neuigkeiten sammeln, gesellschaftliche Entwicklungen zusammenfassen, Projekte begleiten und interessante Verbindungen zwischen Themen aufzeigen. Seine Nützlichkeit kann enorm sein – ebenso seine Wirkung auf das Weltbild. ### 15.1 Sechs Steuerungsmöglichkeiten **Interessen:** Welche Themen interessieren mich? **Qualität:** Welche Quellen und Belege bevorzuge ich? **Vielfalt:** Welche fremden, überraschenden oder widersprechenden Perspektiven sollen sichtbar bleiben? **Menge:** Wie viel Information und Detail möchte ich erhalten? **Transparenz:** Warum wurde dieser Inhalt ausgewählt? **Kontrolle:** Kann ich Filter, Einstellungen, Anbieter und Originalquellen wechseln? ### 15.2 Zwei gegensätzliche Assistenten Der **bestätigende Assistent** liefert vor allem vertraute Ansichten und vermeidet Widerspruch. Das kann angenehm sein und die Sichtweise verengen. Der **erkenntnisfördernde Assistent** respektiert Interessen und Grenzen, zeigt aber bei Bedarf tragfähige Gegenargumente, Unsicherheit und unerwartete Fragestellungen. Er fördert neugieriges, unabhängiges Denken. **Die entscheidende Frage ist nicht nur: „Was willst du lesen?“ – sondern auch: „Was könnte wichtig sein, das du noch nicht kennst?“** ![Bild 7 – Mein persönlicher KI-Informationsassistent](bilder/KI_Info_07_Persoenlicher_KI_Filter.png) *Bild 7. Individuelle Steuerung kann den Schritt von einer Filterblase zu einem offenen Erkenntnisraum ermöglichen.* ## 16. Wer darf Informationen aussortieren? Ein Mensch darf seine persönliche Informationsumgebung selbst gestalten und sich vor Belästigung, Spam und Überlastung schützen. Bei sehr großen Plattformen wirken sich Filterentscheidungen dagegen auf die gesellschaftliche Öffentlichkeit aus. Öffentliche Institutionen sind zusätzlich an ihre besonderen rechtlichen Aufgaben gebunden. Daraus ergeben sich Spannungsfelder: - **Persönliche Wahlfreiheit** versus Schutz vor Manipulation. - **Plattformverantwortung** versus Informations- und Meinungsfreiheit. - **Qualitätssicherung** versus Sichtbarkeit selten vertretener, aber fundierter Erkenntnisse. - **Missbrauchsabwehr** versus Zugang für benachteiligte Menschen. Wichtige Eingriffe in Sichtbarkeit oder Rechte sollten angemessen begründet und überprüfbar sein. Nicht jede persönliche Filterentscheidung benötigt ein formelles Verfahren, wohl aber weitreichende Entscheidungen mit erheblichen Folgen. ## 17. Die gesellschaftlichen Kosten Informationsfluten können **Rechenleistung und Energie**, **menschliche Prüfzeit**, **Moderationskapazität**, **Vertrauen** und **gesellschaftliche Aufmerksamkeit** beanspruchen. Eine ökonomische Bilanz sollte nicht nur fragen, wie billig ein Inhalt erzeugt werden kann, sondern auch, welche Kosten auf anderen Ebenen entstehen. **Wer trägt die Kosten – Produzenten, Plattformen, Empfänger oder die Allgemeinheit?** Die Antworten unterscheiden sich nach Anwendung, Geschäftsmodell und Regulierung. ## 18. Welche Schutzmöglichkeiten gibt es? 1. **Herkunft transparent machen:** Erzeugung, Veränderung und Verantwortlichkeit kennzeichnen, wo angemessen. 2. **Wahrheitsgehalt prüfen:** Fakten, Originalquellen und überprüfbare Belege priorisieren. 3. **Massenmissbrauch begrenzen:** Spam und Betrug verhältnismäßig bekämpfen. 4. **Filter erklärbar machen:** Grundlegende Auswahlkriterien offenlegen. 5. **Alternativen stärken:** Unterschiedliche Filter, Anbieter, Perspektiven und Originalquellen zugänglich halten. 6. **Unabhängige Kontrollen fördern:** Bei hohem Risiko fachkundige Prüfungen nutzen. 7. **Urteilskompetenz stärken:** Informations- und KI-Kompetenz in Bildung und Alltag fördern. 8. **Aufmerksamkeit achten:** Nützliche Orientierung höher bewerten als bloße Verweildauer. ## 19. Wer kann die Filter nutzen – und wer bleibt zurück? Persönliche Nutzer, Journalisten, Schulen, Bibliotheken, Forschungsgruppen, gemeinnützige Organisationen, kleine Unternehmen und Verwaltungen können von guten KI-Filtern profitieren. Doch hochwertige Modelle, Sprachunterstützung, Datenzugänge, Hardware und fachliche Kompetenz sind ungleich verteilt. **Filtergerechtigkeit** gehört deshalb zur globalen Wissensgerechtigkeit: Nicht nur Informationen, sondern auch die Werkzeuge zur sinnvollen Prüfung und Verdichtung müssen breit zugänglich sein. ## 20. Das Kolibriethos als Orientierung ### Suche die Liebe! Informationen sollten menschliches Verstehen, Begegnung und Zusammenarbeit fördern. **Prüffrage:** Dient unsere Kommunikation den Menschen – oder vor allem Klickzahlen und Manipulation? ### Schütze das Leben! Irreführende Informationen können gesundheitliche, wirtschaftliche und gesellschaftliche Schäden verursachen. **Prüffrage:** Werden Risiken angemessen begrenzt, ohne lebenswichtige Informationen unnötig zurückzuhalten? ### Verehre das Heilige! Würde, persönliche Freiheit und grundlegende Rechte begrenzen zulässige Manipulation. **Prüffrage:** Werden Menschen als eigenständige Personen respektiert? ### Sei du selbst! Filter sollen Urteilsfähigkeit stärken statt eigene Denkprozesse heimlich zu ersetzen. **Prüffrage:** Kann ich prüfen, widersprechen und selbst entscheiden? ### Gestalte diese Welt! KI soll Wissen zugänglich machen und die Lösung realer Probleme erleichtern. **Prüffrage:** Welche Erkenntnis- und Handlungsmöglichkeiten eröffnen wir für alle? ![Bild 8 – Von der Informationsflut zur verantwortlichen Wissensgesellschaft](bilder/KI_Info_08_Wissensgesellschaft_Kolibriethos.png) *Bild 8. Das Kolibriethos verbindet Transparenz, Prüfung, Vielfalt, Selbstbestimmung, Bildung und Verantwortung.* ## 21. Zwölf Fragen an einen verantwortlichen KI-Filter | Nr. | Prüffrage | Ziel | | --- | --- | --- | | 1 | Welche Quellen werden genutzt? | Transparenz | | 2 | Welche wichtigen Quellen könnten fehlen? | Vollständigkeit | | 3 | Nach welchen Kriterien wird ausgewählt? | Nachvollziehbarkeit | | 4 | Wie werden Aussagen überprüft? | Zuverlässigkeit | | 5 | Sind Quellen wirklich unabhängig? | Fehlervermeidung | | 6 | Wo gibt es Unsicherheit? | Wahrhaftigkeit | | 7 | Welche begründeten Gegenpositionen werden sichtbar? | Offenheit | | 8 | Können wirtschaftliche Interessen die Auswahl beeinflussen? | Unabhängigkeit | | 9 | Welche Kriterien kann der Nutzer ändern? | Selbstbestimmung | | 10 | Gibt es Widerspruch und Beschwerdemöglichkeiten? | Kontrolle | | 11 | Wer trägt Kosten und Folgen? | Verantwortung | | 12 | Fördert der Filter eigenständiges Urteilen? | Befähigung | Dieses Fragenmodell soll die Qualität einer Informationsvermittlung sichtbar machen; es ist kein automatischer Wahrheitsmesser. ## 22. Vier mögliche Zukünfte **A – Überflutete Informationsgesellschaft:** Die Menge wächst, Vertrauen und Orientierung werden schwieriger. **B – Zentral gefilterte Informationsgesellschaft:** Wenige Anbieter schaffen Bequemlichkeit und Geschwindigkeit, kontrollieren aber einen großen Teil der Auswahl. **C – Selbstbestimmt gefilterte Informationsgesellschaft:** Menschen können Kriterien, Quellen und Alternativen wählen und ihre Informationswege prüfen. **D – Gemeinschaftlich verantwortete Wissensgesellschaft:** Bildung, Wissenschaft, Zivilgesellschaft, öffentliche Einrichtungen und Unternehmen verbinden Technik, unabhängige Prüfung und Mitgestaltung. Dies sind **Szenarien**, keine Vorhersagen. Elemente können sich in der Wirklichkeit überlagern. ## 23. Von der Informationsflut zur KI-Handlungsflut Agentische KI-Systeme verbinden Informationen mit Aktionen. Ein Agent liest Marktdaten, filtert Quellen, trifft eine Entscheidung und handelt innerhalb seiner Berechtigungen. Diese Handlung verändert wiederum Informationen, die andere Agenten auswerten. **Informationsproduktion → Filterung → Bewertung → automatisierte Handlung → neue Daten → weitere Entscheidungen.** Damit wird Filtermacht zur Voraussetzung von Handlungsmacht. Fehlerhafte oder manipulierte Informationen können sich in automatisierten Handlungsketten auswirken. Dies eröffnet unsere nächste Themenseite: **„Die KI-Handlungsflut“**. ## 24. Schlussgedanke: Freiheit in einer gefilterten Welt KI kann Menschen helfen, eine gewaltige Informationsmenge zu erschließen. Doch ohne Einblick in Quellen, Auswahl und Bewertung entstehen neue Abhängigkeiten. Eine verantwortliche Wissensgesellschaft braucht Informationen, die geprüft werden können; Filter, die sich hinterfragen lassen; eine lebendige Vielfalt der Perspektiven; und Menschen, deren Urteilskraft durch KI gestärkt wird. > **Die Informationsgesellschaft der Zukunft braucht nicht möglichst viele Informationen, sondern gute Möglichkeiten, die Wirklichkeit zu verstehen. Die Macht der Filter muss so gestaltet werden, dass sie Erkenntnis erweitert, statt unsere Wirklichkeit unbemerkt zu verengen.** ## 25. Verbindungen im KI-Ethos - **Die Neuverteilung der Macht durch KI:** Wer kontrolliert Wissen, Modelle, Infrastruktur und Vermittlungswege? - **Die KI-Handlungsflut:** Was passiert, wenn Informationsauswahl in automatisierte Handlungen übergeht? - **KI-Agenten und ihre Wechselwirkungen:** Wie entstehen Rückkopplungen und gemeinsame Fehler? - **Alignment und KI-Steuerbarkeit:** Welche Vorgaben beeinflussen Antworten? - **Prüfbarkeit und Audit:** Wie werden Qualität und Verantwortung nachgewiesen? - **Globale Wissensgerechtigkeit / digitale Kluft:** Wer kann unabhängige Filter nutzen? - **Fürsorgliche KI:** Wie bleibt die Entwicklung menschlicher Urteilskraft zentral? **Interne Wiki-Links sind beim Einbau gegen die tatsächlich vorhandenen PmWiki-Seiten abzugleichen; geplante Folgeseiten nicht als bestehend ausgeben.** ## 26. Quellen und Einordnung - **OECD (2024):** *Facts not Fakes: Tackling Disinformation, Strengthening Information Integrity*. https://www.oecd.org/en/publications/facts-not-fakes-tackling-disinformation-strengthening-information-integrity_d909ff7a-en.html – Informationsintegrität und Plattformverantwortung. - **Daniel Stenberg (26.01.2026):** *The end of the curl bug-bounty*. https://daniel.haxx.se/blog/2026/01/26/the-end-of-the-curl-bug-bounty/ – dokumentiertes Praxisbeispiel für Prüfkosten. - **Shumailov et al. (2024):** *AI models collapse when trained on recursively generated data*, *Nature* 631, 755–759. https://doi.org/10.1038/s41586-024-07566-y – Risiken rekursiver synthetischer Trainingsdaten unter bestimmten Bedingungen. - **C2PA:** *Content Credentials – Explainer*. https://c2pa.org/specifications/specifications/2.2/explainer/Explainer.html – Herkunftsnachweise und ihre Grenzen. - **Europäische Kommission:** *Transparency obligations under Article 50 of the AI Act*. https://digital-strategy.ec.europa.eu/en/faqs/transparency-obligations-under-article-50-ai-act – Rechtsstand und Übergangsfristen. - **EU AI Act Service Desk:** *Article 50 – Transparency obligations*. https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-50 – Gesetzestext und Hinweise zur Anwendung. **Methodischer Hinweis:** Die empirischen Befunde der Quellen, illustrative Beispiele, hypothetische Zukunftsszenarien und ethischen Vorschläge auf dieser Seite sind voneinander zu unterscheiden. Der Begriff „KI-Informationsflut“ ist eine begriffliche Rahmung dieser Themenseite, keine exakt messbare wissenschaftliche Standardgröße. --- **Schlusskernsatz:** **KI soll uns helfen, die Wirklichkeit besser zu verstehen – nicht unsere Wirklichkeit unbemerkt bestimmen.**