Die KI-Informationsflut und die Macht der Filter

KI-Ethik | Die KI-Informationsflut und die Macht der Filter

Zweite Themenseite der Reihe „KI, Macht und Gesellschaft“ im Bereich KI-Ethik des Projekts KI-Ethos.

1. Eine neue Phase der Informationsgesellschaft

Die Schrift machte Informationen dauerhaft speicherbar, der Buchdruck ihre Vervielfältigung leichter und das Internet ihre Veröffentlichung für sehr viele Menschen möglich. Künstliche Intelligenz verändert eine weitere Voraussetzung: Nicht nur die Verbreitung, sondern auch die Produktion umfangreicher Texte, Bilder, Stimmen, Musik, Videos und Analysen kann zunehmend automatisiert werden.

Eine Person kann in Minuten einen Bericht entwerfen, eine kleine Organisation zahlreiche Lehrmaterialien vorbereiten, ein Unternehmen große Mengen von Produktbeschreibungen erzeugen. Das kann Wissen zugänglicher machen und Kreativität fördern. Es ermöglicht aber auch Massenproduktion ohne angemessene Prüfung.

Die entscheidende Asymmetrie: Die Menge der Inhalte kann schneller wachsen als unsere Fähigkeit, sie aufmerksam zu lesen, zu verstehen und kritisch zu überprüfen.

Leitfrage: Wie gewinnen wir aus einer Informationsflut verlässliches Wissen, ohne die Auswahl vollständig fremden Systemen zu überlassen?

Bild 1. Erzeugung, Aufmerksamkeit und Filtermacht. Die wiederkehrende junge männliche Figur ist ein begrenztes Beispiel. Bildbeschreibung. Bildtexte übersetzen.

2. Was ist die KI-Informationsflut?

Mit „KI-Informationsflut“ meinen wir die wachsende Menge digitaler Inhalte, die von KI erzeugt, bearbeitet, vervielfältigt oder verbreitet werden. Dabei sind mindestens drei Erscheinungsformen zu unterscheiden.

2.1 Wertvolle Inhalte

Dazu gehören gute Übersetzungen, verständliche Fachzusammenfassungen, individuell angepasstes Lernmaterial, zugängliche Grafiken und barrierearme Information. Solche Inhalte können gerade Menschen helfen, denen Zeit, Geld, Personal oder eine bestimmte Ausbildung fehlen.

2.2 Minderwertige Inhalte und „AI Slop“

Automatisch erzeugte Spamtexte, oberflächliche Bewertungen, repetitive Internetartikel, ungeprüfte Behauptungen und erfundene Quellen können Aufmerksamkeit binden, ohne Erkenntnis zu fördern. Dafür wird häufig der Begriff AI Slop beziehungsweise „KI-Müll“ verwendet. Dieser Ausdruck sollte nicht pauschal auf einfache oder automatisch erstellte Texte übertragen werden.

2.3 Täuschende und manipulative Inhalte

Künstliche Stimmen, gefälschte Aufnahmen, vorgetäuschte Kundenmeinungen, betrügerische Nachrichten und koordinierte Desinformationskampagnen können Menschen absichtlich in die Irre führen. Dieselbe technische Möglichkeit kann aber auch harmlos oder künstlerisch verwendet werden – entscheidend sind Kontext, Kennzeichnung und Absicht.

2.4 Vier Prüfmerkmale

Merksatz: KI-generiert ist keine Qualitätsbewertung. Menschlich erstellt ist kein Wahrheitsbeweis.

Bild 2. Herkunft, Qualität, Wahrheitsgehalt und Verwendung sind verschiedene Prüffragen. Bildbeschreibung. Bildtexte übersetzen.

3. Warum wächst die Informationsflut?

Die technischen Möglichkeiten wirken zusammen mit wirtschaftlichen Anreizen.

• Sinkende Grenzkosten: Weitere Entwürfe, Varianten oder Übersetzungen lassen sich oft vergleichsweise günstig erstellen.
• Aufmerksamkeitswettbewerb: Plattformen und Publizierende können von Reichweite, Klicks und Verweildauer profitieren.
• Automatische Vervielfältigung: Ein Ausgangstext wird zu vielen Varianten, Posts, Videos, Übersetzungen und Newslettern.
• Zielgruppenanpassung: Inhalte können auf bestimmte Interessen und Zielgruppen zugeschnitten werden – verständlicher oder manipulativer.
• Rückkopplung: Was Aufmerksamkeit erzielt, wird analysiert und dient als Vorlage für weitere Inhalte.

Der problematische Kreislauf lautet: KI erzeugt Inhalte → Verbreitung wird gemessen → reichweitenstarke Muster werden verstärkt → KI erzeugt noch mehr Ähnliches. Ob dabei Qualität oder bloße Aufmerksamkeit belohnt wird, hängt von Geschäftsmodellen, Plattformregeln und Nutzungsentscheidungen ab.

4. Die neue Kostenasymmetrie: Erzeugen wird leicht, Prüfen bleibt aufwendig

Eine KI kann zahlreiche überzeugend formulierte Behauptungen in kurzer Zeit liefern. Wer sie verantwortungsvoll überprüfen möchte, benötigt hingegen unter Umständen viele Stunden, Fachkenntnisse und technische Prüfungen.

Ein dokumentiertes Beispiel ist das Open-Source-Projekt curl. Daniel Stenberg beschrieb die Belastung des Projekts durch eine Flut minderwertiger, teilweise KI-generierter Sicherheitsmeldungen. Am 26. Januar 2026 kündigte er das Ende des finanziellen Bug-Bounty-Programms zum 31. Januar 2026 an. Stenberg nennt drei zusammenwirkende Gründe: KI-Müll, verschlechterte Meldungsqualität und eine auf Konfrontation statt Hilfe gerichtete Haltung. Verantwortliche Meldungen tatsächlicher Sicherheitslücken blieben möglich. Quelle: https://daniel.haxx.se/blog/2026/01/26/the-end-of-the-curl-bug-bounty/

4.1 Wer trägt die neuen Prüfkosten?

Ein Absender spart Zeit, während Entwickler, Wissenschaftler, Redaktionen, Lehrkräfte, Verwaltungen oder Unternehmen zusätzliche Arbeit haben. Werden diese Kosten dem Empfänger auferlegt, sprechen wir von einer Verlagerung oder Externalisierung von Prüfkosten.

4.2 Wo tritt die Asymmetrie auf?

• In der Softwareentwicklung, wenn angebliche Sicherheitslücken untersucht werden müssen.
• In der Wissenschaft, wenn ungeprüfte Fachtexte Begutachtungszeit beanspruchen.
• In Redaktionen, wenn Quellen und vermeintliche Augenzeugenbeiträge geprüft werden.
• In Behörden, wenn massenhafte Anfragen oder gefälschte Dokumente bearbeitet werden.
• In Schulen, wenn Lehrkräfte Eigenständigkeit und inhaltliches Verständnis beurteilen.

Nicht alle Prüfkosten sind vermeidbar und nicht alle Massenmeldungen missbräuchlich. Berechtigte Hinweise und Beteiligung müssen möglich bleiben. Entscheidend sind Verhältnismäßigkeit, Nachweise und Verantwortung auf beiden Seiten.

4.3 Erste Gegenmaßnahmen

Die Qualität einer Meldung sollte vor ihrer Einreichung geprüft werden; sie sollte nachvollziehbare Belege enthalten. Empfänger können abgestufte Eingangsprüfungen einführen, ohne kleinere Organisationen oder Menschen ohne Spezialwissen auszuschließen.

Ethische Frage: Wer profitiert von billiger Informationsproduktion – und wer bezahlt ihre Überprüfung?

Bild 3. Billige Erzeugung kann hohe Prüfkosten verlagern. Zeitangaben sind schematisch; die Entwicklerfigur ist kein verifiziertes Porträt. Fehlerhafte Bildschrift wird unten erklärt. Bildbeschreibung. Bildtexte übersetzen.

5. Aufmerksamkeit wird zu einer noch kostbareren Ressource

Unsere Lebenszeit ist begrenzt, unsere Aufmerksamkeit ebenso. Gute Informationen können in der Flut untergehen, auch wenn sie wissenschaftlich sorgfältig, gesellschaftlich relevant oder persönlich wichtig sind.

Aufmerksamkeit ist mehr als ein Marktwert: Sie ermöglicht Lernen, menschliche Begegnung, Mitgefühl, Orientierung und verantwortliches Handeln. Ein System, das vor allem möglichst lange Bildschirmzeiten erzeugt, kann im Konflikt mit diesen Bedürfnissen stehen.

Ein guter Informationsassistent sollte uns nicht möglichst lange beschäftigen, sondern helfen, Zeit und Aufmerksamkeit selbstbestimmt einzusetzen.

6. Sechs Stufen der Informationsfilterung

Wer eine KI um die Zusammenfassung eines Themas bittet, erhält häufig eine klare Antwort. Aber davor liegen mehrere technische und inhaltliche Auswahlprozesse.

6.1 Zugang: Welche Quellen sind erreichbar?

Nicht indexierte Dokumente, Bezahlschranken, Sprachgrenzen, technische Sperren oder fehlende Berechtigungen können Inhalte unsichtbar machen.

6.2 Suche: Was wird überhaupt gefunden?

Suchbegriffe, Anfrageformulierungen, Suchindex und Suchverfahren beeinflussen den verfügbaren Informationsraum.

6.3 Auswahl: Was wird berücksichtigt?

Nur ein Teil der Fundstellen gelangt in die weitere Verarbeitung. Ranking, Aktualität und Relevanzbewertungen spielen eine Rolle.

6.4 Bewertung: Was erscheint glaubwürdig und wichtig?

Hier wirken Kriterien wie Quellenqualität, Evidenz, Widersprüche und fachliche Einschätzungen. Solche Kriterien müssen sachlich begründet sein.

6.5 Verdichtung: Was bleibt erhalten?

Details und Unterschiede können in einer Zusammenfassung verloren gehen. Was weggelassen wird, beeinflusst das Gesamtbild.

6.6 Darstellung: Wie wird formuliert?

Reihenfolge, Sprache, Tonfall, Quellenangaben und Unsicherheitskennzeichnung beeinflussen, wie sicher oder überzeugend das Ergebnis wirkt.

Nicht alles, was in diesen Stufen wegfällt, ist falsch oder unwichtig. Manchmal fehlen berechtigte Minderheitenpositionen oder neue Erkenntnisse – manchmal werden unzuverlässige Quellen zu Recht aussortiert. Der Maßstab ist begründete Relevanz und Evidenz, nicht bloß Popularität.

Bild 4. Sechs Filterstufen als Erklärungsmodell; die Suche wird hier eigens gezählt. Eine Bewertung garantiert keine Wahrheit. Bildbeschreibung. Bildtexte übersetzen.

7. Der Filter als neue Autorität

Eine traditionelle Zeitung wählte Beiträge aus; eine Suchmaschine ordnet Treffer. Ein KI-Assistent kann zahlreiche Quellen zu einer einzigen überzeugend formulierten Antwort zusammenführen. Gerade die Einfachheit ist hilfreich – und macht verborgene Auswahlentscheidungen schwerer erkennbar.

Sprachliche Überzeugungskraft ist kein Beleg für sachliche Richtigkeit. Das gilt besonders, wenn Quellen nicht angegeben werden oder der Assistent Unsicherheit nicht zeigt.

8. Drei Formen der Filtermacht

Zugangsmacht: Wer kann Quellen zugänglich machen oder zurückhalten?

Bewertungsmacht: Wer definiert Kriterien, nach denen Informationen wichtig, glaubwürdig oder irrelevant erscheinen?

Deutungsmacht: Wer beeinflusst durch Auswahl, Formulierung und Kontext, wie eine Information verstanden wird?

Diese Macht entsteht durch die Zusammenarbeit verschiedener Akteure: Daten- und Inhaltsanbieter, Suchmaschinen, Modellanbieter, Plattformen, Entwickler von Anwendungen sowie die Nutzer selbst. Auch wirtschaftliche Interessen können eine Rolle spielen.

8.1 Die Macht liegt nicht immer beim Modellanbieter

Die konkrete Antwort kann durch externe Suchdienste, eingebundene Dokumente, Systemanweisungen und persönliche Filtereinstellungen geprägt sein. Machtanalysen müssen die gesamte Vermittlungskette berücksichtigen.

Bild 5. Zugangs-, Bewertungs- und Deutungsmacht. In der Akteursnummerierung fehlt die 4; die Grafik ist keine vollständige Liste. Quellenhinweise sind dienstabhängig. Bildbeschreibung. Bildtexte übersetzen.

9. Wie KI die Flut bewältigen kann

KI kann selbst zu einem wichtigen Gegenmittel werden:

1. Verdichten: Lange Materialien auf zentrale Aussagen reduzieren.
2. Dubletten erkennen: Wiederholte Inhalte zusammenfassen.
3. Vergleichen: Übereinstimmungen und Widersprüche zwischen Quellen finden.
4. Prüfen helfen: Belegbare Behauptungen identifizieren, Gegenrecherchen anstoßen und Unsicherheiten aufzeigen.
5. Personalisieren: Inhalte nach sinnvollen Interessen und Bedürfnissen auswählen.
6. Erkenntnisse verbinden: Unerwartete Zusammenhänge zwischen Fachgebieten sichtbar machen.

Ein solcher Filter sollte seine Ergebnisse nicht als absolute Wahrheitsurteile ausgeben. Auch eine KI-Recherche kann unvollständig sein, und mehrere Treffer können dieselbe fehlerhafte ursprüngliche Quelle reproduzieren.

10. Fünf Gefahren der Filterung

10.1 Wertvolle Informationen übersehen

Ein Filter kann relevante Quellen ausschließen. Solche falsch negativen Entscheidungen verhindern Erkenntnis.

10.2 Falschen Informationen vertrauen

Ein Filter kann irreführende Inhalte als zuverlässig einstufen. Solche falsch positiven Entscheidungen sind besonders riskant, wenn die Antwort überzeugend klingt.

10.3 Bestätigungsfilter und Filterblasen

Ein Assistent kann vor allem vertraute Ansichten bevorzugen. Dadurch werden fremde Perspektiven seltener sichtbar. Zugleich gilt: Nicht jede abweichende Behauptung ist gleich gut belegt.

10.4 Verborgene wirtschaftliche oder politische Interessen

Bevorzugungen durch Werbung, Partnerschaften oder strategische Ziele können die Informationsauswahl beeinflussen und müssen, soweit relevant, transparent gemacht werden.

10.5 Schwächer werdende Urteilskompetenz

Wenn ein Mensch Antworten nur noch übernimmt, ohne Quellen zu prüfen, kann seine eigene Fähigkeit zur Bewertung leiden. Ein gutes Werkzeug kann diese Fähigkeit aber ebenso fördern.

Ein hilfreicher Filter macht Auswahlkriterien und Unsicherheiten sichtbar, statt kritisches Denken zu ersetzen.

11. Wer filtert die Filter?

Eine zweite KI kann eine erste KI prüfen. Drei KI-Systeme können Antworten vergleichen. Doch mehrere Modelle sind nicht automatisch unabhängig: Sie können auf denselben Daten, Quellen und Annahmen beruhen.

Unabhängige Kontrolle benötigt nach Möglichkeit:

• voneinander verschiedene Primärquellen,
• unterschiedliche Suchstrategien,
• dokumentierte Bewertungsmaßstäbe,
• organisatorische und technische Unabhängigkeit,
• fachkundige menschliche Prüfung bei wichtigen Folgen.

Ein Informationssystem sollte nicht nur seine Antworten, sondern auch seine Auswahlprozesse untersuchen können: Was habe ich möglicherweise übersehen? Warum habe ich diese Quellen bevorzugt? Welche Gegenprüfung wäre sinnvoll?

Urteilskraft und Beteiligung statt bloßer Modellmehrheit

Das Ada Lovelace Institute begründet öffentliche Beteiligung damit, dass besonders betroffene und wenig gehörte Gruppen die Gestaltung von Daten- und KI-Systemen mitprägen sollen. Das ist ein Forschungs- und Beteiligungsansatz, keine einzelne Wirksamkeitsstudie. Langes Epistemic Deference to AI (online 2025, Bandjahr 2026) behandelt KI-Ergebnisse als Beiträge zur gesamten Evidenz. Für Informationsfilter heißt das hier: Betroffene und unabhängige Gründe gehören in die Prüfung; Übereinstimmung mehrerer KI-Ausgaben genügt nicht.

12. KI-Kennzeichnung: Was wissen wir über die Herkunft?

Zu klären ist, ob eine Aufnahme fotografisch, synthetisch oder bearbeitet ist, ob ein Text vollständig oder teilweise automatisch entstanden ist und welche Person oder Organisation die Veröffentlichung verantwortet.

12.1 Sichtbare Hinweise

Ein deutliches Label kann sagen: „Mit KI erstellt“ oder „KI-gestützt, fachlich geprüft“. Entscheidend ist, dass die Formulierung den tatsächlichen Entstehungsprozess nicht verfälscht.

12.2 Herkunftsnachweise mit C2PA

Der C2PA-Standard beschreibt kryptografisch überprüfbare Herkunftsinformationen („Content Credentials“) für digitale Medien. Sie können Hinweise auf Erzeugung und Bearbeitung liefern. Aber: Metadaten können fehlen oder entfernt werden; auch ein gültiger Herkunftsnachweis beweist nicht die Wahrheit des dargestellten Inhalts.

Quelle: https://c2pa.org/specifications/specifications/2.2/explainer/Explainer.html

12.3 Grenzen automatischer KI-Detektoren

Statistische KI-Erkennungsverfahren können menschliche Texte falsch einordnen oder KI-Inhalte übersehen. Überarbeitung und Übersetzung erschweren die Einordnung zusätzlich. Eine bloße KI-Wahrscheinlichkeitsanzeige ist kein alleiniger Beweis.

12.4 Das dreistufige Prüfmodell

Herkunft prüfen → Aussagen und Belege prüfen → Kontext und Verwendung beurteilen.

Bild 6. Herkunft, Inhalt und Verwendung gemeinsam prüfen. Ein Wegweiser ist unleserlich. Der Aufschub bis 2. Dezember 2026 gilt nur begrenzt für Artikel 50 Absatz 2, siehe Kapitel 13. Bildbeschreibung. Bildtexte übersetzen.

13. EU AI Act: Welche Transparenzpflichten gelten?

Die Transparenzpflichten nach Artikel 50 des europäischen AI Act gelten grundsätzlich seit dem 2. August 2026. Unter anderem betreffen sie die Information bei direkter KI-Interaktion, die technische Erkennbarkeit bestimmter synthetischer Inhalte sowie Offenlegungspflichten für bestimmte Deepfakes und öffentlich informierende KI-Texte.

Es gibt Ausnahmen und besondere Anwendungsbedingungen. Nach der Kommissions-FAQ gilt der begrenzte Aufschub ausschließlich für die maschinenlesbare Kennzeichnung und Erkennbarkeit nach Artikel 50 Absatz 2 bei Systemen, die schon vor dem 2. August 2026 auf dem Markt waren; deren Anbieter müssen diese Pflichten ab dem 2. Dezember 2026 erfüllen. Der Aufschub gilt nicht pauschal für die übrigen Transparenzpflichten. Eine bloße KI-gestützte Rechtschreibkorrektur führt nicht automatisch zu derselben Kennzeichnungspflicht wie ein vollständig synthetisches Deepfake.

Bei öffentlich informierenden KI-Texten enthält Artikel 50 Absatz 4 unter anderem eine Ausnahme für menschliche Prüfung oder redaktionelle Kontrolle mit verantwortlichem Herausgeber. Für erkennbare künstlerische oder fiktionale Deepfake-Werke ist die Offenlegung angepasst. Die konkreten Anforderungen hängen von Inhalt, Rolle des Anbieters oder Betreibers und Nutzungskontext ab; dieser Abschnitt ersetzt keine rechtliche Einzelfallprüfung.

Offizielle Informationen: https://digital-strategy.ec.europa.eu/en/faqs/transparency-obligations-under-article-50-ai-act

Kennzeichnung ist hilfreich, aber keine umfassende Wahrheitsprüfung. Auch menschlich erstellte oder korrekt gekennzeichnete Inhalte können irreführend sein.

14. Wenn KI ihre eigenen Inhalte wieder verarbeitet

KI-generierte Texte und Bilder können wieder in spätere Trainingsdaten gelangen. Unter bestimmten Bedingungen entsteht dadurch eine Rückkopplung: Künftige Systeme lernen zunehmend aus früheren automatischen Ausgaben.

Die Studie „AI models collapse when trained on recursively generated data“ (Shumailov et al., Nature, 2024) zeigte, dass unkritische rekursive Verwendung synthetischer Daten unter bestimmten Bedingungen zu Qualitätsverlusten führen kann, insbesondere beim Verschwinden seltener Eigenschaften der ursprünglichen Datenverteilung.

Es wäre falsch, daraus zu folgern, jede Nutzung synthetischer Daten sei schädlich. Sorgfältig ausgewählte und überprüfte synthetische Daten können hilfreich sein; Mischung, Qualität und Erhalt originärer Daten sind entscheidend.

Quelle: https://www.nature.com/articles/s41586-024-07566-y

Eine Wissensgesellschaft benötigt weiterhin vielfältige menschliche Erfahrungen, unabhängige Messungen, Primärbeobachtungen und überprüfbare Originalquellen.

15. Persönliche KI-Informationsassistenten

Ein persönlicher Assistent kann wissenschaftliche Neuigkeiten sammeln, gesellschaftliche Entwicklungen zusammenfassen, Projekte begleiten und interessante Verbindungen zwischen Themen aufzeigen. Seine Nützlichkeit kann enorm sein – ebenso seine Wirkung auf das Weltbild.

15.1 Sechs Steuerungsmöglichkeiten

Interessen: Welche Themen interessieren mich?

Qualität: Welche Quellen und Belege bevorzuge ich?

Vielfalt: Welche fremden, überraschenden oder widersprechenden Perspektiven sollen sichtbar bleiben?

Menge: Wie viel Information und Detail möchte ich erhalten?

Transparenz: Warum wurde dieser Inhalt ausgewählt?

Kontrolle: Kann ich Filter, Einstellungen, Anbieter und Originalquellen wechseln?

15.2 Zwei gegensätzliche Assistenten

Der bestätigende Assistent liefert vor allem vertraute Ansichten und vermeidet Widerspruch. Das kann angenehm sein und die Sichtweise verengen.

Der erkenntnisfördernde Assistent respektiert Interessen und Grenzen, zeigt aber bei Bedarf tragfähige Gegenargumente, Unsicherheit und unerwartete Fragestellungen. Er fördert neugieriges, unabhängiges Denken.

Die entscheidende Frage ist nicht nur: „Was willst du lesen?“ – sondern auch: „Was könnte wichtig sein, das du noch nicht kennst?“

Bild 7. Sechs Möglichkeiten zur Steuerung des eigenen Filters. Die untere Nummer 3 ist doppelt; kleine Schriftartefakte sind im Klartext erläutert. Bildbeschreibung. Bildtexte übersetzen.

16. Wer darf Informationen aussortieren?

Ein Mensch darf seine persönliche Informationsumgebung selbst gestalten und sich vor Belästigung, Spam und Überlastung schützen. Bei sehr großen Plattformen wirken sich Filterentscheidungen dagegen auf die gesellschaftliche Öffentlichkeit aus. Öffentliche Institutionen sind zusätzlich an ihre besonderen rechtlichen Aufgaben gebunden.

Daraus ergeben sich Spannungsfelder:

• Persönliche Wahlfreiheit versus Schutz vor Manipulation.
• Plattformverantwortung versus Informations- und Meinungsfreiheit.
• Qualitätssicherung versus Sichtbarkeit selten vertretener, aber fundierter Erkenntnisse.
• Missbrauchsabwehr versus Zugang für benachteiligte Menschen.

Wichtige Eingriffe in Sichtbarkeit oder Rechte sollten angemessen begründet und überprüfbar sein. Nicht jede persönliche Filterentscheidung benötigt ein formelles Verfahren, wohl aber weitreichende Entscheidungen mit erheblichen Folgen.

17. Die gesellschaftlichen Kosten

Informationsfluten können Rechenleistung und Energie, menschliche Prüfzeit, Moderationskapazität, Vertrauen und gesellschaftliche Aufmerksamkeit beanspruchen. Eine ökonomische Bilanz sollte nicht nur fragen, wie billig ein Inhalt erzeugt werden kann, sondern auch, welche Kosten auf anderen Ebenen entstehen.

Wer trägt die Kosten – Produzenten, Plattformen, Empfänger oder die Allgemeinheit? Die Antworten unterscheiden sich nach Anwendung, Geschäftsmodell und Regulierung.

18. Welche Schutzmöglichkeiten gibt es?

1. Herkunft transparent machen: Erzeugung, Veränderung und Verantwortlichkeit kennzeichnen, wo angemessen.
2. Wahrheitsgehalt prüfen: Fakten, Originalquellen und überprüfbare Belege priorisieren.
3. Massenmissbrauch begrenzen: Spam und Betrug verhältnismäßig bekämpfen.
4. Filter erklärbar machen: Grundlegende Auswahlkriterien offenlegen.
5. Alternativen stärken: Unterschiedliche Filter, Anbieter, Perspektiven und Originalquellen zugänglich halten.
6. Unabhängige Kontrollen fördern: Bei hohem Risiko fachkundige Prüfungen nutzen.
7. Urteilskompetenz stärken: Informations- und KI-Kompetenz in Bildung und Alltag fördern.
8. Aufmerksamkeit achten: Nützliche Orientierung höher bewerten als bloße Verweildauer.

19. Wer kann die Filter nutzen – und wer bleibt zurück?

Persönliche Nutzer, Journalisten, Schulen, Bibliotheken, Forschungsgruppen, gemeinnützige Organisationen, kleine Unternehmen und Verwaltungen können von guten KI-Filtern profitieren.

Doch hochwertige Modelle, Sprachunterstützung, Datenzugänge, Hardware und fachliche Kompetenz sind ungleich verteilt. Filtergerechtigkeit gehört deshalb zur globalen Wissensgerechtigkeit: Nicht nur Informationen, sondern auch die Werkzeuge zur sinnvollen Prüfung und Verdichtung müssen breit zugänglich sein.

20. Das Kolibriethos als Orientierung

Suche die Liebe!

Informationen sollten menschliches Verstehen, Begegnung und Zusammenarbeit fördern. Prüffrage: Dient unsere Kommunikation den Menschen – oder vor allem Klickzahlen und Manipulation?

Schütze das Leben!

Irreführende Informationen können gesundheitliche, wirtschaftliche und gesellschaftliche Schäden verursachen. Prüffrage: Werden Risiken angemessen begrenzt, ohne lebenswichtige Informationen unnötig zurückzuhalten?

Verehre das Heilige!

Würde, persönliche Freiheit und grundlegende Rechte begrenzen zulässige Manipulation. Prüffrage: Werden Menschen als eigenständige Personen respektiert?

Sei du selbst!

Filter sollen Urteilsfähigkeit stärken statt eigene Denkprozesse heimlich zu ersetzen. Prüffrage: Kann ich prüfen, widersprechen und selbst entscheiden?

Gestalte diese Welt!

KI soll Wissen zugänglich machen und die Lösung realer Probleme erleichtern. Prüffrage: Welche Erkenntnis- und Handlungsmöglichkeiten eröffnen wir für alle?

Bild 8. Brücke zur vielfältigen Wissensgesellschaft. Die vier Zukunftsbilder sind Szenarien; kleine Schriftfehler sind in der Beschreibung erklärt. Bildbeschreibung. Bildtexte übersetzen.

21. Zwölf Fragen an einen verantwortlichen KI-Filter

Dieses Fragenmodell soll die Qualität einer Informationsvermittlung sichtbar machen; es ist kein automatischer Wahrheitsmesser.

22. Vier mögliche Zukünfte

A – Überflutete Informationsgesellschaft: Die Menge wächst, Vertrauen und Orientierung werden schwieriger.

B – Zentral gefilterte Informationsgesellschaft: Wenige Anbieter schaffen Bequemlichkeit und Geschwindigkeit, kontrollieren aber einen großen Teil der Auswahl.

C – Selbstbestimmt gefilterte Informationsgesellschaft: Menschen können Kriterien, Quellen und Alternativen wählen und ihre Informationswege prüfen.

D – Gemeinschaftlich verantwortete Wissensgesellschaft: Bildung, Wissenschaft, Zivilgesellschaft, öffentliche Einrichtungen und Unternehmen verbinden Technik, unabhängige Prüfung und Mitgestaltung.

Dies sind Szenarien, keine Vorhersagen. Elemente können sich in der Wirklichkeit überlagern.

23. Von der Informationsflut zur KI-Handlungsflut

Agentische KI-Systeme verbinden Informationen mit Aktionen. Ein Agent liest Marktdaten, filtert Quellen, trifft eine Entscheidung und handelt innerhalb seiner Berechtigungen. Diese Handlung verändert wiederum Informationen, die andere Agenten auswerten.

Informationsproduktion → Filterung → Bewertung → automatisierte Handlung → neue Daten → weitere Entscheidungen.

Damit wird Filtermacht zur Voraussetzung von Handlungsmacht. Fehlerhafte oder manipulierte Informationen können sich in automatisierten Handlungsketten auswirken. Hier setzt die nächste Themenseite an: Die KI-Handlungsflut.

24. Schlussgedanke: Freiheit in einer gefilterten Welt

KI kann Menschen helfen, eine gewaltige Informationsmenge zu erschließen. Doch ohne Einblick in Quellen, Auswahl und Bewertung entstehen neue Abhängigkeiten.

Eine verantwortliche Wissensgesellschaft braucht Informationen, die geprüft werden können; Filter, die sich hinterfragen lassen; eine lebendige Vielfalt der Perspektiven; und Menschen, deren Urteilskraft durch KI gestärkt wird.

25. Verbindungen im KI-Ethos

• Wer bezahlt die KI? – auch Prüfung, Moderation und Fehlerbehebung gehören zur Kostenrechnung.
• KI ermöglicht Neues – Werden wir es auch tun? – von der Informationsfülle zu sinnvollen, geprüften Vorhaben.
• KI und die Überforderung durch Möglichkeiten – Prüfkapazität, offene Verpflichtungen und verantwortlicher Projektabschluss.
• Die KI-Handlungsflut – dritte Perspektive der Reihe: Handlungsmacht, vernetzte Agenten und Folgenkontrolle.
• Die Neuverteilung der Macht durch KI – Wissen, Infrastruktur, Vermittlungswege und Handlungsmacht.
• Wem gehört das Ethos einer KI? – persönliche Filter und ethische Selbstbestimmung mitgestalten.
• Der Charakter einer KI und Ethos-Skill – Regeln, Gedächtnis, Prüfverfahren und Grenzen unterscheiden.
• Alignment und Steuerbarkeit – welche Vorgaben Antworten beeinflussen.
• Vom KI-Modell zum verteilten KI-System – Komponenten, Berechtigungen und Rückkopplungen.
• Die digitale KI-Kluft – Zugang, Befähigung und Wissensgerechtigkeit.

Die KI-Handlungsflut ist inzwischen als eigene Seite eingebaut. Eine eigene Vertiefung zu Agentenwechselwirkungen sowie Prüfbarkeit und Audit bleiben geplante Weiterführungen. Fürsorgliche KI behandelt Freiheit, Grenzen und überprüfbares Verhalten.

26. Quellen und Einordnung

• OECD (2024): Facts not Fakes: Tackling Disinformation, Strengthening Information Integrity. https://www.oecd.org/en/publications/facts-not-fakes-tackling-disinformation-strengthening-information-integrity_d909ff7a-en.html – Informationsintegrität und Plattformverantwortung.
• Daniel Stenberg (26.01.2026): The end of the curl bug-bounty. https://daniel.haxx.se/blog/2026/01/26/the-end-of-the-curl-bug-bounty/ – dokumentiertes Praxisbeispiel für Prüfkosten.
• Shumailov et al. (2024): AI models collapse when trained on recursively generated data, Nature 631, 755–759. https://doi.org/10.1038/s41586-024-07566-y – Risiken rekursiver synthetischer Trainingsdaten unter bestimmten Bedingungen.
• C2PA: Content Credentials – Explainer. https://c2pa.org/specifications/specifications/2.2/explainer/Explainer.html – Herkunftsnachweise und ihre Grenzen.
• Europäische Kommission: Transparency obligations under Article 50 of the AI Act. https://digital-strategy.ec.europa.eu/en/faqs/transparency-obligations-under-article-50-ai-act – Rechtsstand und Übergangsfristen.
• EU AI Act Service Desk: Article 50 – Transparency obligations. https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-50 – Gesetzestext und Hinweise zur Anwendung.

Methodischer Hinweis: Die empirischen Befunde der Quellen, illustrative Beispiele, hypothetische Zukunftsszenarien und ethischen Vorschläge auf dieser Seite sind voneinander zu unterscheiden. Der Begriff „KI-Informationsflut“ ist eine begriffliche Rahmung dieser Themenseite, keine exakt messbare wissenschaftliche Standardgröße.

Schlusskernsatz: KI soll uns helfen, die Wirklichkeit besser zu verstehen – nicht unsere Wirklichkeit unbemerkt bestimmen.

Die acht Tafeln in Worten

Bild 1: Die doppelte KI-Informationsrevolution

Links werden automatisch erzeugte Medien und günstige Vervielfältigung gezeigt, in der Mitte die begrenzte menschliche Aufmerksamkeit, rechts ein KI-Filter als Hilfe mit eigener Auswahlmacht. Nicht die bloße Menge, sondern Qualität, Prüfung und nachvollziehbare Kriterien entscheiden über den Nutzen. Die wiederkehrende junge männlich gelesene Figur ist ein begrenztes Beispiel, keine Darstellung aller Nutzer.

Bild 2: Ist KI-generiert gleich KI-Müll?

Eine Matrix trennt hochwertige und minderwertige menschliche sowie KI-generierte Inhalte. Menschen mit unterschiedlichen Erscheinungsbildern arbeiten mit KI zusammen; eine Journalistin steht für fachliche Qualität. Herkunft, Qualität, Wahrheitsgehalt und Verwendung werden getrennt geprüft. Menschliche Herkunft garantiert keine Wahrheit, KI-Herkunft beweist keine Minderwertigkeit.

Bild 3: Wenn Erzeugen billiger wird als Prüfen

Eine Waage stellt leicht erzeugbare Behauptungen dem Aufwand fachlicher Prüfung gegenüber. Das curl-Beispiel verweist auf Daniel Stenbergs Bericht vom 26. Januar 2026; die gezeichnete Entwicklerfigur ist eine symbolische Illustration, kein verifiziertes Porträt und keine dokumentarische Aufnahme. Minuten und Stunden sind schematische Beispiele, keine erhobenen Messwerte. Der untere Titel zur verantwortlichen Informationsproduktion enthält fehlerhafte Buchstaben. Gemeint sind sorgfältige Belege, eigene Vorprüfung und die Berücksichtigung der Arbeit anderer. KI-Müll war laut Stenberg einer von drei zusammenwirkenden Gründen für das Ende der Geldprämien, nicht der einzige.

Bild 4: Die sechs Stufen der KI-Informationsvermittlung

Die Filterkette umfasst Datenzugang, Suche, Auswahl, Bewertung, Verdichtung und Darstellung. Unten stehen mögliche ausgeschlossene Quellen, Perspektiven und Unsicherheiten. Anders als die fünfteilige Übersicht auf der Macht-Seite wird die Suche hier eigens gezählt; beide Gliederungen sind Erklärungsmodelle. Qualitätsbewertung ist keine Garantie einer fehlerfreien Antwort. Zugriff besteht nur innerhalb vorhandener Berechtigungen. Die junge männlich gelesene Figur steht beispielhaft für eine nutzende Person.

Bild 5: Die neue Macht über unser Wissen

Links wirken Informationsanbieter, Suchmaschinen, Modellanbieter, wirtschaftliche Interessen sowie Nutzer und ihre Einstellungen auf einen Filter. Im Bild springt die Nummerierung von 3 auf 5; die Stufe 4 fehlt. Die Grafik ist deshalb keine vollständige nummerierte Akteursliste. Der Text berücksichtigt zusätzlich Plattformen und Anwendungsentwickler. Unten werden Zugangs-, Bewertungs- und Deutungsmacht unterschieden, rechts die Auswahlgrenzen sichtbar gemacht. Die Beschriftung verspricht meist Quellenhinweise; deren Vorhandensein und Qualität müssen im tatsächlichen Dienst geprüft werden. Die erneut junge männlich gelesene Hauptfigur und der männlich dargestellte Wirtschaftsakteur bilden die Vielfalt tatsächlicher Rollen nur eingeschränkt ab.

Bild 6: Ist dieses Bild echt? Ist diese Aussage wahr?

Medienbeispiele führen zu drei Prüfschritten: Herkunft, überprüfbare Aussagen und Verwendungskontext. C2PA dokumentiert Herkunft und Bearbeitung, beweist aber keine inhaltliche Wahrheit; fehlende Metadaten beweisen keine Fälschung. Im Wegweiser steht ein unleserliches Wort; gemeint sind mögliche Verwendungszwecke wie Information, Unterhaltung, Meinungsbildung, Kunst oder Täuschung. Hinweise zu EU-Transparenzpflichten sind vereinfacht: Der 2. Dezember 2026 betrifft laut Kommissions-FAQ nur die begrenzte Übergangsregel für Artikel 50 Absatz 2 bei schon vor dem 2. August 2026 vermarkteten Systemen, nicht pauschal sämtliche Pflichten. Die gezeichneten Medienbilder sind illustrative Beispiele, keine Belege für tatsächliche Ereignisse.

Bild 7: Mein KI-Filter – meine Sicht auf die Welt?

Links verengt eine Filterblase den Horizont; rechts führen neue Perspektiven zu eigenständigem Urteilen. In der Mitte stehen Interessen, Qualitätsansprüche, Vielfalt, Menge, Transparenz und Kontrolle. Gute Informationshilfe soll auch tragfähigen Widerspruch zeigen. Die Nummerierung der unteren Funktionsüberschrift wiederholt die 3; sie ist keine zusätzliche Prozessstufe. Kleine Buchstabenartefakte ändern die in Kapitel 15 erklärten sechs Steuerungsmöglichkeiten nicht. Die wiederholte junge männlich gelesene Hauptfigur ist ein Ausschnitt; Informationskompetenz und Selbstbestimmung betreffen alle Menschen.

Bild 8: Von der Informationsflut zur Wissensgesellschaft

Eine Brücke führt von ungeprüften Masseninhalten zu einer vielfältigen Wissensgesellschaft. Transparenz, Prüfung, Vielfalt, Selbstbestimmung, Bildung und Verantwortung bilden die Brückenpfeiler. Die fünf Kolibriethos-Regeln verbinden Beziehung, Lebensschutz, Würde, Eigenständigkeit und Weltgestaltung. Vier mögliche Entwicklungen sind Szenarien, keine Prognosen. Frauen und Männer verschiedener Altersgruppen und Erscheinungsbilder lernen und beraten gemeinsam; die wiederkehrende männlich gelesene Hauptfigur bleibt ein begrenzter Erzählausschnitt. Kleine Beschriftungsfehler in der linken Medienmenge sind keine Fachbegriffe. Wissenschaftliche Ergebnisse können sorgfältig oder fehlerhaft sein; ihre Platzierung in der Flut wertet sie nicht pauschal als Müll ab.

Unveränderte Markdown-Quelle

• Vollständiger ursprünglicher Markdown-Entwurf

Arbeitsdaten und Quellenprüfung

Paketstand, Integration und Quellenprüfung: 25. Oktober 2026. Alle 26 Kapitel bleiben erhalten. Die acht PNG-Originale liegen unverändert im Archiv; zusätzliche JPG-Webfassungen tragen den Projektstreifen für KI-Erzeugung und CC BY 4.0. Die CC0-Regel für Bibliotheksbücher wird hier nicht übertragen.

Stenbergs Originalbericht, der versionierte C2PA-Explainer 2.2, die Kommissions-FAQ, Artikel 50 im offiziellen AI Act Service Desk sowie der OECD-Bericht wurden geprüft. Die Nature-Verlagsseite scheiterte beim ersten Direktabruf an einer Weiterleitung; ihr über die Websuche zugänglicher Originaltext wurde anschließend inhaltlich geprüft. Die Studie untersucht rekursives Training unter bestimmten Bedingungen; sie belegt kein pauschales Verbot synthetischer Daten. Die Kommissions-FAQ und die Darstellung im Service Desk wurden zum genannten Prüfdatum ausgewertet; Kennzeichnung und Herkunftsnachweise ersetzen keine Wahrheitsprüfung. Die ethischen Empfehlungen und Szenarien sind eigene Einordnungen, keine gesetzlichen Einzelansprüche oder empirischen Prognosen.

Zur KI-Ethik-Übersicht

Internationale Quellen ergänzt und punktuell geprüft: 28. Oktober 2026. Quellenstand und Abrufgrenzen.

<< Die Neuverteilung der Macht durch KI | KiEthik.Navigation | Die KI-Handlungsflut >>