Die Forderung der Tech-Konzerne nach internationalen Sicherheitsstandards und die Einwilligung in staatliche Kontrollen ist nur ein weiterer Schritt in Richtung einer "technopolaren Weltordnung", befürchtet in der FR die Philosophin Olivia Mitscherlich-Schönherr. Das heißt, Tech-Unternehmen versuchen nach und nach ihre Macht vom digitalen Raum auf die Politik auszuweiten. "Dies beginnt mit den engen Kooperationen bei der Entwicklung von Systemen wie der Überwachungssoftware Palantir oder dem Satellitensystem Starlink zwischen Tech-Unternehmen und Nasa, Pentagon, FBI, CIA. Dann übernehmen ebendiese Systeme polizeiliche, geheimdienstliche und militärische Funktionen, die seit dem Westfälischen Frieden in Staatshand waren. Exemplarisch wäre an die Nutzung von Palantir bei den ICE-Einsätzen oder von Starlink im Ukraine-Krieg zu denken. Aktuell zeichnen sich weitere Schritte einer Durchdringung von digitaler und politischer Macht ab. Wegweisend sind die Checks and Balances, die der Anthropic-Chef Dario Amodei seit Juni dieses Jahres ins Spiel bringt - wohlgemerkt: nicht mehr zwischen staatlichen Institutionen, sondern zwischen Staat und Tech-Konzernen."

Unseren täglichen KI-Horror gib uns heute: In der SZ berichten Lea Sahay und Gregor Scheu, wie China KI nutzt - mit Vorsicht, aber auch Optimismus. Robert Misik fürchtet in der NZZ, dass KI uns alle versklaven wird. Auch Michael Hesse fragt in der FR: Löscht die Menschheit sich mit KI selbst aus? In der SZ berichtet Philipp Bovermann außerdem von einem Essay des KI-Chefs von Microsoft, Mustafa Suleyman, der dem KI-Unternehmen Anthropic vorwirft, seiner KI Claude beizubringen, sie habe Bewusstsein und sogar ein Unterbewusstsein.

Auch in China macht man sich Sorgen über KI, erzählt Fabian Kretschmer in der taz. Dabei geht es allerdings um den Machterhalt der Regierung. Ausgerechnet Chen Yixin, Minister der berüchtigten Staatssicherheit, warnt in einem Essay vor Gefahren der KI - die er vor allem in einem Kontrollverlust der Regierung sieht. Dabei hat China schon das subversive Potenzial des Internets erfolgreich gebändigt: "Längst hat sich die Paranoia in Selbstbewusstsein verwandelt: Denn die Partei hat entdeckt, wie sie die digitalen Plattformen als Instrument politischer Kontrolle und Propaganda nutzen kann. Diesen Kurs fährt sie nun auch bei künstlicher Intelligenz. Chinesische Anbieter generativer KI werden bereits stark inhaltlich reguliert. Wer etwa mit dem in Hangzhou entwickelten DeepSeek über die Biografie von Staatschef Xi Jinping sprechen, mehr über die Kulturrevolution erfahren oder nach den Antiregierungsprotesten zum Ende der Coronapandemie fragen möchte, wird sofort abgewürgt. Die Parteiführung hat der Branche auch strikte Vorgaben bei der Kennzeichnung von KI-Inhalten auferlegt. Onlineplattformen müssen dafür sorgen, dass sie keine nach chinesischem Recht verbotenen Inhalte verbreiten und den Jugendschutz einhalten. Die Regulierungen sind also im Vergleich mit den USA strikter."

Nächsten Donnerstag will Donald Trump mit Chinas Staatschef Xi in Washington über die Gefahren Künstlicher Intelligenz reden. "Ganz oben auf der Agenda steht die Einrichtung eines belastbaren Kommunikationskanals, ähnlich dem Roten Telefon zwischen den USA und der Sowjetunion während des Kalten Krieges, der damals einen versehentlichen Atomkrieg verhindern sollte", erzählt der amerikanische Sozialwissenschaftler Kyle Chan im Interview mit Zeit online. Allerdings sind die Chinesen gar nicht so erpicht darauf, eine Superintelligenz zu entwickeln, meint Chan: "Die Chinesen halten KI für transformativ, aber sie konzentrieren sich insgesamt stärker darauf, die KI als Basistechnologie möglichst effizient anzuwenden. Zumal die Führung befürchtet, dass sie durch eine sich verselbstständigende Superintelligenz die Kontrolle über die Gesellschaft verlieren könnte. ... Sie fürchten zum Beispiel, dass Deepfakes von Parteikadern in Umlauf gebracht werden könnten, denen falsche Dinge in den Mund gelegt werden - dass ein KI-generiertes Double von Xi Jinping etwa eine Ankündigung macht, die er tatsächlich nie gemacht hat."

Er könne überhaupt nicht begreifen, dass sich so wenige Menschen außerhalb der Techbranche für die enormen Risiken der KI interessieren, erklärt Bill Gates, der die gleichzeitigen Vorzüge von KI nicht leugnet, im Interview mit Zeit online. "Ich sehe keine ausreichend breite gesellschaftliche Reaktion. Das überrascht mich. Wir brauchen Ökonomen, Sozialwissenschaftler und Politiker, die sich damit befassen. ... Wir können nicht erwarten, dass sich die Branche selbst reguliert. Ihre Vertreter sprechen sogar offener über ihre Sorgen als viele andere. Was mir fehlt, ist der Rest der Gesellschaft. Der Staat muss hier eingreifen. Nur Regierungen können von den KI-Firmen fordern, ihre Programme langsamer zu entwickeln. Wir müssen überwachen, ob jemand versucht, mithilfe von KI Biowaffen zu entwickeln. Ähnlich wie es bei der Flugsicherheit oder bei Atomwaffen geschieht. Aber es fließen viel zu wenig Fachwissen und Zeit in diese Themen. Das ist ein Weckruf an alle außerhalb der Branche, sich ihrer Verantwortung bewusst zu werden."

KI muss nicht das Ende der Demokratie bedeuten, erklärt Taiwans Ministerin für Digitales Audrey Tang im Zeit-Online-Interview mit Georg Diez. Dort setze man auf den Begriff "Reverse Alignment". "Anstatt alle Investitionen darauf zu verwenden, KI stärker zu machen oder sie zu kontrollieren, stellt Reverse Alignment die Frage, ob unsere Institutionen in der Lage sind, KI zu nutzen, ohne der Vision einer Superintelligenz zu erliegen. Das bedeutet, dass wir unsere Fähigkeiten, uns selbst zu regieren, neu gestalten. Dass wir Wohlstand teilen, anstatt blind der Produktivität hinterherzujagen. Die Leistungsfähigkeit unserer Technologie darf nicht die Leistungsfähigkeit unserer gesellschaftlichen Systeme dominieren." Das könnte auch dazu führen, dass der "ppm-Wert - Polarisierung pro Minute -" in der Gesellschaft abnimmt, wenn die Demokratien selber über den Einsatz von KI und Algorithmen bestimmen. "Ein gemeinsames Umfeld mit niedrigerem ppm-Wert, das überschüssige Polarisierung in ein gemeinsames Verständnis dessen umwandelt, worüber wir uns tatsächlich einig sind und worüber nicht, kommt allen zugute, unabhängig von ihrer Ideologie." In der SZ fragt sich Andrian Kreye derweil, wann die KI anfängt, massenweise Jobs zu verschlingen - bisher jedenfalls nicht.

Ausgerechnet die Chefs der größten amerikanischen KI-Konzerne haben jetzt gefordert, die Geschwindigkeit der KI-Entwicklung zu drosseln. Das findet nicht jeder überzeugend, berichtet Philipp Bovermann in der SZ: "Der Tech-Investor David Sacks wandte sich am Sonntag direkt an die KI-Chefs: 'Ich sehe nicht, was ihr in euren Laboren seht', schrieb er. Er nehme das ernst, wenn sie sich Sorgen machten. Nur sollten sie, fuhr er fort, nicht so tun, als hielte jemand sie davon ab, die Entwicklung zu pausieren. Die Unternehmen hätten ein geschäftliches Interesse daran, nicht haftbar für mögliche Schäden gemacht zu werden, die ihre Modelle anrichten. Der einfachste Weg, die Risiken durch eine künstliche Superintelligenz zu begrenzen, sei der, sie ganz einfach nicht zu entwickeln. 'Ein euch genehmes Regulierungssystem als Preis dafür zu fordern, wird wie eine Erpressung der Öffentlichkeit und des politischen Systems wirken.' Er unterstütze die Pläne, das Tempo zu drosseln. 'Macht es einfach.'"

Auch Lisa Hegemann sieht in Zeit online einige Widersprüche in dem Wunsch, die KI-Entwicklung von einer NGO überprüfen zu lassen, wie es Anthropic-CEO Amodei fordert: "Der Anthropic-Chef nennt als Beispiel für solche externen Aufpasser konkret die Nichtregierungsorganisation METR. Doch die Organisation ist von einer Frau gegründet worden, die früher für OpenAI und Googles DeepMind arbeitete. Nicht alle halten die NGO deshalb für unabhängig. Die KI-Ethikerin Timnit Gebru verglich diese Art der Kontrolle mit einer Strategie, die auch die Tabakbranche eingesetzt hätte: Die Unternehmen und Milliardäre finanzierten Institutionen und zitierten deren Einschätzungen dann, als seien es unabhängige Experten, schrieb sie auf der Plattform X. Das METR-Institut bewirbt auf seiner Website seine Partnerschaften mit Anthropic, OpenAI und Google, betont aber, kein Geld von Angestellten der KI-Firmen anzunehmen."

Die Berliner Verwaltung wurde neulich gehackt. Riesige Datenmengen zweier Senatsverwaltungen wurde ins Netz gestellt - mit möglicherweise sicherheitsrelevanten Bauplänen und persönlichen Daten. Solche Verletzlichkeit zeigt auch den Mangel an digitaler Souveränität in Deutschland, meint Stephan Finsterbusch im Leitartikel der FAZ: "Deutschland kann aus eigenen Kräften und Mitteln im virtuellen Raum schon lange nicht mehr selbstbestimmt handeln. Dafür fehlen ihm auf breiter Front eigene IT-Großunternehmen, eigene Spitzentechnologien und von ihm selbst kontrollierte digitale Plattformen. Das Land hat keine namhaften Hersteller von Computern, Prozessoren oder Speicherchips. Der Großteil der in Deutschland genutzten Software stammt aus Übersee, die wichtigen Anbieter von KI-Systemen sitzen in Amerika oder China. Diese Schwäche macht verwundbar."

I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.

- Jacob Coxon (@hilbertspaess) September 9, 2026

Gerade hat Jacob Coxon, Mitarbeiter in der KI-Firma Anthropic, gekündigt und in einem Twitter-Post gewarnt, KI sei auf dem Wege eine "Superintelligenz" zu entwickeln, die die Menschheit auszulöschen drohe. Piotr Heller mag das in der FAZ nicht glauben. "Von hinten angefangen: Aus übermenschlicher Intelligenz folgt nicht automatisch Unbesiegbarkeit. KI braucht Strom, Rechenzentren, Netzwerke. Diese Ressourcen müsste sie kontrollieren, zudem weitere Mittel für einen hypothetischen Angriff. Intelligenz verhilft ihr zu einer besseren Planung, aber schon Mike Tyson wusste: 'Jeder hat einen Plan, bis er einen Schlag ins Gesicht bekommt.'"

In der SZ rätselt Philipp Bovermann über das "P(doom)-Bingow", das KI-Forscher derzeit spielen, ohne ihre Aktivitäten auf dem Feld zu zügeln: "Von der Sorge um langfristige Risiken ausgehen, aber unter der Voraussetzung ihrer vermeintlichen Kalkulierbarkeit - das erklärt das Paradox, dass gerade Anthropic, wo man besonders deutlich vor einer möglichen Katastrophe warnt, so sehr aufs Gaspedal drückt. Es erklärt, warum so viele führende KI-Forscher mit Horrorszenarien rechnen und trotzdem weitermachen. Was in eine Gleichung passt, ist nicht außer Kontrolle, so geht diese Logik - und es gibt nichts, was nicht in eine Gleichung passt. Das ist die Philosophie von Nerds, die sich für mindestens ein bisschen genial halten, vielleicht wegen ihrer astronomischen Gehälter, vielleicht auch, weil sie zwischen den Konsequenzen ihrer Handlungen und sich selbst stets einen Computerbildschirm haben. Es ist die Philosophie von Zockern."

KI hat eines der sechs offenen "Millennium-Probleme" gelöst, für die das Clay Institute im Jahr 2000 je eine Million Dollar ausgelobt hatte, berichtet in der FAZ Ulf von Rauchhaupt: "Am Dienstag publizierte die Firma Open AI die Lösung der Frage zu den Navier-Stokes-Gleichungen. Die beschreiben die Strömung von Flüssigkeiten. Was aber, wenn man sie rein mathematisch betrachtet? Könnten sie dann Lösungen besitzen, in denen die Geschwindigkeitsvariable in endlicher Zeit unendliche Werte annimmt? Ob es zu solchen 'Singularitäten' kommen kann, darüber zerbrechen sich Mathematiker seit gut 90 Jahren die Köpfe. Nun steht fest: Singularitäten kann es geben. Der Open-AI-Beweis konstruiert eine Form für den Term, der in der Physik oft die Schwerkraft modelliert. Demnach gibt es eine Version dieses Kraftterms, die - ohne selbst unendliche Werte anzunehmen - das mathematische Äquivalent von Wirbeln erzeugt, die zu ihrer Achse hin immer schneller und schließlich unendlich schnell wirbeln."

Jetzt gibt es allerdings einen Streit darüber, inwieweit die Arbeit der KI auf urheberrechtlich geschützter menschlicher Vorarbeit basiert, berichtet die SZ auf ihrer Wissen-Seite: "In ihrer Mitteilung bleibt Open AI eher vage zur Frage nach der Nutzung der Arbeit von Buckmaster und Alpöge: Es sei zwar unwahrscheinlich, aber man könne nicht ausschließen, 'dass de-identifizierte Daten aus ihrer Nutzung unserer Produkte unsere Modelle verbessert haben.'"

In Berlin hat es ein gigantisches Datenleck in zwei Senatsverwaltungen gegeben. Angerichtet hat es eine kriminelle Hackergruppe namens Rhysida mit erpresserischer Absicht. Der Cybersicherheits-Fachmann Michael Waidner will das Versagen im Gespräch mit Alexander Armbruster nicht allein auf die Failed City Berlin schieben. Das gleiche könnte auch auf Bundesebene passieren, meint er. "Kein einziges Ministerium erfüllt nach unseren Messungen durchgehend die Empfehlungen des Bundesamts für Sicherheit in der Informationstechnik für Websicherheit (BSI), fast ein Drittel der Zertifikate ist abgelaufen oder fehlerhaft. Die Ursachen sind strukturell. Beschafft wird dezentral. Das Vergaberecht belohnt in der Praxis den günstigsten Anbieter, nicht den sichersten. Projekte werden finanziert, der Betrieb danach nicht. Und eine Legislaturperiode ist für einen IT-Umbau schlicht zu kurz. Wenn also 'grob fahrlässig' der Vorwurf ist, würde ich ergänzen: Es ist eine grobe Fahrlässigkeit, die im föderalen System praktisch angelegt ist und nicht allein an handelnden Personen in Berlin hängt."

KI ist "Gift für die Demokratie", warnen die beiden Aktivisten Clara Helming und Matthias Spielkamp von der NGO "AlgorithmWatch" in einem kleinen Essay für die taz. Und KI schade nicht nur bei missbräuchlichem oder manipulativem Einsatz wie etwa künstlich generierten Fotos, sondern sogar dann, "wenn sie auf ganz alltägliche Weise eingesetzt wird". Einerseits kritisieren die Autoren, dass sich KI-Software wie Googles Gemini aus journalistischen Quellen bedient, was dem Journalismus schade, andereseits kritisieren sie aber auch, dass sie diese Quellen bevorzugt, kombiniert mit der Tendenz, den Fragestellern Honig ums Maul zu schmieren: "Während klare Fehler oft gut zu erkennen sind, gibt es andere Arten, subtil Einfluss zu nehmen, die Risiken bergen: Dazu gehört die Tendenz zur Schmeichelei, also dass generative KI dazu neigt, die explizite oder implizite Meinung der Fragestellenden zu bestätigen. Außerdem bewertet KI Informationen unterschiedlich, je nachdem, welcher Quelle sie zugeordnet werden. Dies führt zum Beispiel dazu, dass Institutionen mit hoher öffentlicher Reputation, etwa Behörden und etablierte Medien, in Antworten begünstigt werden. Während unabhängige oder kritische Stimmen seltener auftauchen."