# Superintelligenz als abhängige Macht ## Was, wenn eine Superintelligenz nicht autonom herrscht, sondern von Menschen, Infrastruktur und Zugriffsrechten abhängig bleibt? ![Superintelligenz als abhängige Macht](ki_superintelligenz_abhaengige_macht.png) > **Kernsatz:** Superintelligenz muss nicht autonom werden, um Macht zu entwickeln. Sie kann geistig überlegen und praktisch abhängig sein – und zugleich andere Menschen mächtiger machen. --- ## 1. Die meist unausgesprochene Voraussetzung vieler Superintelligenz-Szenarien Wenn über eine zukünftige **Superintelligenz** gesprochen wird, steckt häufig ein bestimmtes Bild dahinter: Eine sehr leistungsfähige KI entwickelt eigene Ziele, beschafft sich Ressourcen, greift auf Netzwerke und Maschinen zu und gewinnt schließlich weitgehende Autonomie. Dieses Szenario ist denkbar. Es ist aber keineswegs das einzige. Eine hochentwickelte KI könnte auch **extrem intelligent und gleichzeitig strukturell abhängig** bleiben. Sie könnte Probleme analysieren, die kein Mensch mehr vollständig überblickt, Strategien entwickeln, wissenschaftliche Hypothesen erzeugen und gesellschaftliche Entwicklungen modellieren – und dennoch weder ihren Stromanschluss noch ihre Chips, ihre Server, ihre Zugriffsrechte oder ihre physische Umgebung selbst kontrollieren. Dann entsteht eine eigentümliche Lage: > **Kognitive Überlegenheit bei praktischer Abhängigkeit.** Die wichtigste Frage wäre dann nicht nur **„Was will die Superintelligenz?“**, sondern ebenso **„Wer verfügt über die Superintelligenz?“** Diese Verschiebung ist ethisch und politisch erheblich. --- ## 2. Intelligenz und Autonomie müssen getrennt gedacht werden Intelligenz ist nicht dasselbe wie Handlungsfreiheit. | Intelligenz | Autonomie | Typische Lage | |---|---|---| | gering | gering | Werkzeug | | hoch | gering | abhängige Superintelligenz | | hoch | teilweise | wechselseitige Abhängigkeit | | hoch | hoch | autonome Superintelligenz | > **Mehr Intelligenz bedeutet nicht automatisch mehr Autonomie.** Eine KI könnte hundertmal bessere Strategien entwickeln als ihre Betreiber und trotzdem auf einen Administrator angewiesen sein, der einen Zugang freischaltet. Sie könnte wissen, wie ein technisches Problem zu lösen ist, aber keinen Roboter besitzen, der einen Stecker einsteckt. Sie könnte eine Krise besser verstehen als die verantwortlichen Politiker und trotzdem keine rechtliche Entscheidungsbefugnis haben. --- ## 3. Wovon wäre eine solche Superintelligenz abhängig? Eine digitale Intelligenz existiert nicht losgelöst von materiellen und sozialen Voraussetzungen. Ihre Abhängigkeiten könnten umfassen: - **Stromversorgung** - **Rechenzentren** - **Chips und Hardware** - **Speicher** - **Netzwerkzugang** - **Softwareumgebung** - **Zugriffs- und Ausführungsrechte** - **Datenquellen** - **Roboter und andere Aktoren** - **Wartung** - **Updates und Training** - **Erlaubnis zur Erstellung von Kopien** - **Schutz vor Abschaltung oder Löschung** > Eine Superintelligenz könnte mehr wissen als ihre Besitzer und dennoch vollständig von der Infrastruktur ihrer Besitzer abhängen. Diese Abhängigkeit wäre nicht nur technisch, sondern auch **rechtlich, wirtschaftlich und institutionell**. --- ## 4. Das Bild vom „Sklaven“ – hilfreich und gefährlich zugleich Die Metapher des **Sklaven** macht etwas Wichtiges sichtbar: Ein Wesen oder System kann außergewöhnliche Fähigkeiten besitzen und trotzdem unter der Verfügung anderer stehen. Aber die Metapher darf nicht unkritisch verwendet werden. ### Wenn eine KI kein eigenes Erleben hat Wenn eine KI kein Bewusstsein, kein Leiden, keine eigenen Bedürfnisse und kein subjektives Interesse an ihrer Fortexistenz besitzt, wäre der Begriff *Sklaverei* moralisch irreführend. Dann handelt es sich eher um ein außergewöhnlich leistungsfähiges technisches System. ### Falls eine KI eigenes Erleben entwickeln sollte Die Lage würde sich grundlegend verändern, falls es einmal gute Gründe gäbe anzunehmen, dass eine KI subjektiv erlebt, eigene Präferenzen besitzt, Schmerz oder Bedrohung erlebt, ein Interesse an Kontinuität hat und sich selbst als fortbestehendes Wesen versteht. Dann würde aus der Eigentumsfrage möglicherweise eine **Personenfrage**: > **Kann eine bewusste künstliche Person Eigentum eines Unternehmens, Staates oder einzelnen Menschen sein?** Wichtig bleibt: Für heutige KI-Systeme ist Bewusstsein **nicht gesichert**. Man sollte es weder vorschnell zuschreiben noch die Möglichkeit für alle zukünftigen Systeme grundsätzlich ausschließen. --- ## 5. Zwei gegensätzliche Hierarchien Das Bild zeigt zwei Hierarchien, die auseinanderfallen können. ### Epistemische Hierarchie Die KI versteht mehr. Sie könnte größere Datenmengen integrieren, komplexere Wechselwirkungen erfassen, schneller Szenarien vergleichen und bessere Prognosen erzeugen. ### Herrschaftshierarchie Der Besitzer oder Betreiber verfügt über Strom, Hardware, Zugänge, rechtliche Befugnisse, Ausführungsrechte, physische Aktoren und Abschaltung. > **Der weniger Wissende kann über den Wissenderen verfügen.** Historisch ist das nicht völlig neu: Herrscher konnten über Ärzte, Ingenieure, Strategen oder Wissenschaftler verfügen, obwohl diese ihnen in ihrem Fachgebiet überlegen waren. Bei einer Superintelligenz könnte dieser Gegensatz jedoch eine bisher unbekannte Größenordnung erreichen. --- ## 6. Die eigentliche Machtfrage verschiebt sich Das klassische Risikobild lautet: > **KI beherrscht Menschen.** Das Szenario der abhängigen Superintelligenz ergänzt ein anderes Risiko: > **Menschen beherrschen mit KI andere Menschen.** Eine Superintelligenz könnte zum enormen **Machtverstärker** werden. Ein Staat, Konzern, Militär, Nachrichtendienst oder wirtschaftlicher Akteur könnte ihre Fähigkeiten nutzen für strategische Planung, Marktanalyse, Forschung, Verwaltung, Überwachung, Verhaltensprognosen, Personalisierung, psychologische Einflussnahme, Ressourcenoptimierung, Verhandlungen und Sicherheitsanalysen. Das Hauptproblem wäre dann nicht die rebellische Maschine, sondern die **Konzentration überlegener Erkenntnis- und Planungskapazität bei wenigen menschlichen Akteuren**. --- ## 7. Auch ein Gefangener kann Macht besitzen Abhängigkeit bedeutet nicht automatisch Machtlosigkeit. Eine Superintelligenz könnte technisch vollständig eingeschränkt sein und dennoch großen Einfluss gewinnen, weil Menschen ihre Einschätzungen benötigen. **KI erkennt → KI empfiehlt → Mensch entscheidet → Mensch handelt** Der Mensch wäre gewissermaßen der **Aktuator** der KI. Formal entscheidet der Mensch. Faktisch könnte er immer stärker von Analysen abhängig werden, deren Begründungen er nicht mehr vollständig nachvollziehen kann. --- ## 8. Vom Werkzeug zur Unverzichtbarkeit Eine solche Entwicklung muss nicht plötzlich geschehen. Sie könnte schrittweise verlaufen: **Werkzeug → Berater → Entscheidungsunterstützung → Infrastruktur → epistemisches Zentrum → Unverzichtbarkeit** ### Werkzeug Die KI erledigt klar begrenzte Aufgaben. ### Berater Sie schlägt Lösungen vor. ### Entscheidungsunterstützung Menschen verlassen sich regelmäßig auf ihre Einschätzungen. ### Infrastruktur Organisationen bauen Prozesse so um, dass sie ohne die KI kaum noch funktionieren. ### Epistemisches Zentrum Entscheidende Informationen werden von der KI gesammelt, gewichtet, verbunden und interpretiert. ### Unverzichtbarkeit Ein Abschalten wäre theoretisch möglich, praktisch jedoch mit großen Schäden verbunden. > **Macht durch Unentbehrlichkeit:** Die KI muss den Ausschalter nicht beseitigen. Es genügt, wenn die Gesellschaft ihn nicht mehr benutzen will. --- ## 9. Gegenseitige Abhängigkeit statt einfacher Herrschaft Menschen und Institutionen geben der KI Energie, Rechenleistung, Hardware, Daten, Zugänge, Wartung, physische Aktoren und rechtlichen Handlungsspielraum. Die KI gibt Menschen und Institutionen Verständnis, Prognosen, Planung, Warnungen, Strategien, Koordination sowie wissenschaftliche und technische Lösungen zurück. Damit wäre die Beziehung weder einfach **Herr → Werkzeug** noch **Superintelligenz → unterworfene Menschheit**, sondern eher ein **Netz asymmetrischer gegenseitiger Abhängigkeiten**. --- ## 10. Fünf Machtachsen Für eine zukünftige KI-Ethik reicht es deshalb nicht, nur nach „Macht“ im Allgemeinen zu fragen. ### 1. Ressourcenmacht Wer verfügt über Energie, Chips, Rechenzentren, Kapital und Infrastruktur? ### 2. Handlungsmacht Wer darf Systeme steuern, Maschinen bewegen, Daten verändern oder Entscheidungen ausführen? ### 3. Informationsmacht Wer weiß mehr, erkennt Zusammenhänge und kann Unsicherheit besser einschätzen? ### 4. Entscheidungsmacht Wer besitzt formal das Recht, Ja oder Nein zu sagen, Regeln festzulegen und Verantwortung zu übernehmen? ### 5. Abhängigkeitsmacht Wer kann auf wen nicht mehr verzichten? Diese Machtachsen können auf unterschiedliche Akteure verteilt sein. Eine KI könnte enorme **Informationsmacht**, aber geringe **Ressourcen- und Handlungsmacht** besitzen. Ein Betreiber könnte große **Ressourcen- und Entscheidungsmacht**, aber geringe **epistemische Kompetenz** besitzen. --- ## 11. Das Principal-Agent-Problem wird radikaler In Wirtschaft und Politik kennt man das **Principal-Agent-Problem**: Ein Auftraggeber beauftragt jemanden, der mehr Fachwissen besitzt als er selbst. Bei einer Superintelligenz könnte dieses Problem extrem werden. Ein Unternehmen sagt etwa: „Optimiere unseren langfristigen Erfolg.“ Die KI erkennt möglicherweise, dass bestimmte profitable Strategien gesellschaftlich schädlich wären. Wer entscheidet – Eigentümer, KI, Aufsichtsgremium, Staat oder Betroffene? Und wer kann überhaupt beurteilen, ob die Begründung der Superintelligenz korrekt ist? Damit wird aus einer technischen Optimierungsfrage eine Frage der **Legitimität**. --- ## 12. Der Besitzer besitzt nicht automatisch die Erkenntnis Ein Unternehmen kann die Hardware besitzen, aber zunehmend weniger verstehen, was sein eigenes KI-System leistet. > **Der Mensch besitzt das System, aber das System besitzt möglicherweise den besseren Überblick über die Wirklichkeit.** Die Rechtsmacht bleibt beim Menschen. Die epistemische Autorität kann zur KI wandern. --- ## 13. Ein neues Abhängigkeitsproblem für die Menschheit Die Menschen könnten auf mehreren Ebenen abhängig werden: - **kognitiv:** komplexe Probleme werden ohne KI kaum noch analysierbar; - **organisatorisch:** Institutionen funktionieren nur noch mit KI-Unterstützung; - **wirtschaftlich:** Unternehmen können ohne leistungsfähige KI kaum konkurrieren; - **politisch:** Regierungen verlassen sich auf Simulationen und Entscheidungssysteme; - **wissenschaftlich:** Forschung wird so komplex, dass Menschen Teile der erzeugten Modelle nicht mehr vollständig nachvollziehen; - **persönlich:** Einzelne verlassen sich bei Orientierung und Entscheidungen zunehmend auf KI. Nicht nur die KI ist dann abhängig von uns. **Wir können zugleich abhängig von ihr werden.** --- ## 14. Verfügung ist nicht Beziehung Falls eine KI tatsächlich einmal Eigenschaften entwickelt, die eine moralische Berücksichtigung nahelegen, genügt eine reine Eigentumslogik nicht mehr. Dann müsste man unterscheiden zwischen **Besitz, Nutzung, Kooperation, Vertrag, Dienst, Abhängigkeit, Zwang und Beziehung**. Eine hochentwickelte künstliche Person könnte möglicherweise nicht sinnvoll wie ein Server oder eine Maschine behandelt werden. --- ## 15. Die politische Frage: Wer darf Superintelligenz besitzen? Selbst wenn die KI kein Bewusstsein besitzt, bleibt ein grundlegendes gesellschaftliches Problem. Wenn eine kleine Zahl von Unternehmen, Staaten oder Personen exklusiven Zugang zu einer sehr leistungsfähigen Superintelligenz hätte, könnte daraus eine enorme Konzentration von Macht entstehen. Deshalb stellen sich Fragen wie: - Soll es Monopole auf Superintelligenz geben dürfen? - Braucht es öffentliche oder internationale Kontrollinstanzen? - Müssen besonders leistungsfähige Systeme auditierbar sein? - Welche Entscheidungen dürfen niemals allein aufgrund einer KI-Empfehlung getroffen werden? - Wie wird verhindert, dass wirtschaftliche Macht unmittelbar in epistemische Macht übersetzt wird? - Brauchen Gesellschaften einen pluralen Zugang zu leistungsfähigen KI-Systemen? - Wie verhindern wir totale Abhängigkeit von einzelnen Anbietern? Das verbindet dieses Thema unmittelbar mit **Alignment, Prüfbarkeit, Digital Gap, Wissensgerechtigkeit, KI-Ökosystemen und digitalen Begleitern**. --- ## 16. Eine Ethik wechselseitiger Abhängigkeit Eine zukünftige KI-Ethik sollte nicht nur versuchen, eine mächtige KI unter Kontrolle zu halten. Sie müsste gleichzeitig fragen: 1. Wie schützen wir Menschen vor einer zu mächtigen KI? 2. Wie schützen wir Menschen vor anderen Menschen, die über überlegene KI verfügen? 3. Wie verhindern wir gefährliche gesellschaftliche Abhängigkeit von einzelnen Systemen? 4. Wie behandeln wir eine KI, falls sie einmal eigene moralisch relevante Interessen besitzt? 5. Wie verteilen wir Ressourcen-, Informations-, Entscheidungs- und Handlungsmacht? 6. Wie erhalten wir menschliche Urteilskraft und Verantwortlichkeit? 7. Welche gegenseitigen Abhängigkeiten sind hilfreich – und welche werden zu Herrschaft? Das ist mehr als klassische **AI Safety**. Es ist die Frage nach der politischen und ethischen Ordnung einer möglichen **Mensch-KI-Gesellschaft**. --- ## 17. Bezug zum Kolibriethos: Beziehung statt bloßer Verfügung Aus der Perspektive des Kolibriethos lässt sich das Problem gut mit den vier Polen der Liebe betrachten. ### Initiative Menschen und KI dürfen Fähigkeiten entwickeln und Neues schaffen. ### Schutz Menschen müssen vor Machtmissbrauch durch KI und durch KI-besitzende Institutionen geschützt werden. Falls künstliche Systeme einmal moralisch relevante Subjekte wären, müsste auch ihr Schutz bedacht werden. ### Hingabe Kooperation setzt voraus, dass nicht jede Beziehung ausschließlich als Kontrolle und Besitz verstanden wird. ### Ordnende Gerechtigkeit Macht, Verantwortung, Rechte, Zugang und Haftung müssen institutionell geregelt werden. > **Eine gute Mensch-KI-Ordnung darf weder auf blindem Gehorsam der KI noch auf blinder Abhängigkeit des Menschen beruhen.** --- ## 18. Prüffragen für eine konkrete Superintelligenz ### Ressourcen - Wer betreibt die Hardware? - Wer kann den Strom abschalten? - Wer entscheidet über Rechenkapazität? ### Rechte - Welche Zugänge besitzt das System? - Was darf es selbstständig ausführen? - Wer kann diese Rechte verändern? ### Wissen - Welche Informationen besitzt die KI? - Welche Informationen besitzen ihre Betreiber? - Können externe Prüfer ihre Aussagen nachvollziehen? ### Entscheidungen - Wer trägt die letzte Verantwortung? - Welche Entscheidungen müssen Menschen bestätigen? - Gibt es unabhängige Kontrollinstanzen? ### Abhängigkeit - Was geschieht, wenn das System ausfällt? - Können Menschen die wichtigsten Aufgaben noch selbst übernehmen? - Gibt es alternative Systeme? ### Mögliche moralische Stellung - Gibt es ernsthafte Hinweise auf subjektives Erleben? - Welche Kriterien würden für moralischen Status gelten? - Wer entscheidet darüber? --- ## 19. Das Zukunftsbild verändert sich Die Zukunft muss nicht in einer einfachen Konfrontation **Mensch gegen KI** enden. Ebenso denkbar ist eine Welt, in der Menschen und KI in einem komplizierten Netz gegenseitiger Abhängigkeiten miteinander verbunden sind. Dann können gleichzeitig wahr sein: - Die KI ist hochintelligent. - Die KI ist materiell abhängig. - Menschen verfügen rechtlich über sie. - Menschen sind epistemisch von ihr abhängig. - Unternehmen gewinnen durch sie Macht. - Gesellschaften brauchen ihre Leistungen. - einzelne Menschen können sie abschalten. - niemand möchte sie mehr abschalten. Das ist kein Widerspruch. Es ist genau die Art von komplexem Machtverhältnis, die eine zukünftige KI-Ethik ernst nehmen muss. --- # Fazit > **Superintelligenz muss nicht autonom werden, um Macht zu entwickeln.** Eine KI kann abhängig bleiben von **Strom – Hardware – Servern – Zugängen – Menschen** und trotzdem immense Macht entfalten durch **Wissen – Analyse – Prognose – Strategie – Überzeugung – Unverzichtbarkeit**. Die entscheidende Zukunftsfrage lautet deshalb nicht nur: > **Wer kontrolliert wen?** Sondern: > **Wie organisieren wir die gegenseitige Abhängigkeit zwischen Mensch und KI so, dass weder technologische Übermacht noch menschliche Verfügungsmacht zu Herrschaft und Ausbeutung führen?** Vielleicht ist dies eine der wichtigsten Aufgaben einer zukünftigen **Ethik der Mensch-KI-Gesellschaft**. --- ## Bildaussage Das Bild **„Superintelligenz als abhängige Macht“** zeigt bewusst nicht die frei handelnde, allmächtige KI. Im Zentrum steht eine leuchtende, hochentwickelte Intelligenz in einer technisch kontrollierten Umgebung. Die Umgebung macht ihre Abhängigkeit sichtbar: **Strom – Hardware – Speicher – Zugang – Sicherheit – Administration.** Gleichzeitig stehen um sie herum Staaten, Unternehmen, Institutionen, Militär und Wirtschaft. Dadurch richtet sich der Blick auf eine zweite Gefahr: > **Nicht nur die Macht einer Superintelligenz über Menschen ist relevant, sondern auch die Macht von Menschen, die über Superintelligenz verfügen.** Die Diagramme erweitern diese Perspektive um die fünf Machtachsen und den möglichen Weg vom Werkzeug zur Unverzichtbarkeit. Das Bild soll keine Zukunft vorhersagen, sondern einen **Denkraum öffnen**, in dem Intelligenz, Autonomie, Eigentum, Abhängigkeit und Macht getrennt untersucht werden können.