Das KI-Aussterberisiko beschreibt die Gefahr, dass sehr fähige KI-Systeme die Menschheit auslöschen. Der Ex-Anthropic-Forscher Jacob Coxon hält sie bis 2030 für real. Im VORSPRUNG-Podcast von Everlast AI ordnen Prof. Dr. Pero Mićić, Prof. Dr. Andreas Moring, Kim Isenberg und Robert Lange von Sakana AI diese Warnung ein.
Die Runde nimmt dabei GPT-6 Astra, den KI-Beweis zu Navier-Stokes und Chinas Open-Source-Offensive auseinander. Wir bündeln die Fakten der Folge. Danach folgt die Einordnung aus der Beratungs-Praxis.
GPT-6 Astra verschiebt den Zeithorizont
Nvidia-Chef Jensen Huang und OpenAI-Präsident Greg Brockman rufen die AGI-Ära aus. GPT-6 Astra trainierte auf über 100.000 Nvidia-Chips. Weitere 400.000 GPUs gehen als nächstes ans Netz. Die ARC Prize Foundation prüft nach und widerspricht. Im neutralen Aufbau erreicht Astra 62,7 Prozent, mit OpenAIs eigener Software 99,9 Prozent.
Klarer zeigt es der gemessene Zeithorizont. Astra löst Aufgaben von rund 16 Stunden Länge mit 80 Prozent Erfolgsquote. Der Vorgänger schaffte 4,6 Stunden. o3 lag vor einem Jahr bei 30 Minuten, GPT-4 bei 53 Sekunden. Setzt sich die Kurve fort, stehen bis Jahresende rund 160 Stunden im Raum.
Pero Mićić hält den Streit um das Label AGI für müßig. Qualität, Zeit und Kosten verbessern sich messbar. Robert Lange von Sakana AI setzt einen Kontrapunkt. Im Alltag schrumpfen die Unterschiede zwischen den Modellen. Benchmark-Werte steigen, ein Sprung auf jeder Ebene bleibt aus.
Navier-Stokes fällt nach fast 200 Jahren
Ein neues OpenAI-Modell löste das Millennium-Problem Navier-Stokes. 10.000 Agenten arbeiteten 88 Stunden parallel. Umgerechnet auf die API-Preise von Astra kostet dieser Lauf rund 6,5 Millionen Dollar. Der Beweis umfasst 166 Seiten und ist in Lean verifiziert.
Die Prognose-Märkte drehten dadurch komplett. Im April lag die Chance auf eine Lösung bis 2030 unter 40 Prozent. Heute stehen dort 94 Prozent. Kim Isenberg zieht einen klaren Schluss. Die These vom stochastischen Papagei ist damit erledigt.
Robert Lange nennt den Durchbruch echt und die Begleitmusik unsauber. OpenAI erfuhr über den Flurfunk in San Francisco von Anthropics Fortschritt und bildete eine Task Force. Unter Mathematikern hat dieses Tempo Vertrauen gekostet. Entscheidend bleibt ein Detail: Das Modell bekam die Richtung vorgegeben.
KI-Aussterberisiko: Der Alarm aus dem Labor
Jacob Coxon forschte drei Jahre an großen Modellen, zuletzt sechs Wochen bei Anthropic. Sein Kündigungs-Post erreichte rund 200 Millionen Aufrufe. Sein Kernsatz: Keines der beiden Labore handle verantwortlich genug. Anthropics Alignment-Chef Evan Hubinger hält über 10 Prozent Auslöschungs-Gefahr im nächsten Jahrzehnt für realistisch.
Kim Isenberg kritisiert die Form der Debatte scharf. Wer eine Gefahr von 10 Prozent behauptet, legt Belege und ein Paper vor. Pero Mićić verweist auf das Timing. Große Doomer-Accounts teilten den Post binnen 15 Minuten. Er erwartet daraus ein Wahlkampf-Thema und einen neuen Klassenkampf gegen die Tech-Konzerne.
Andreas Moring trennt zwei Szenarien sauber. Eine KI, die aus eigenem Antrieb Menschen tötet, bleibt unbelegt. Der Kontroll-Verlust durch rekursive Selbst-Verbesserung ist die ernstere Variante. Robert Lange ergänzt den blinden Fleck der Debatte. Auch Regulierung verschiebt Macht und schafft dadurch eigene Risiken.
Belegter Missbrauch statt Spekulation
Anthropic legte parallel einen Bericht über 146 Seiten vor. Eine Zelle im Jemen nutzte Claude Code für Lenk-Systeme von Raketen mit über 2.000 Kilometer Reichweite. Eine russische Gruppe baute einen Drohnen-Schwarm, der Ziele ohne Menschen auswählt. In Mali entstand eine Überwachungs-Plattform für rund 25 Millionen SIM-Karten.
Das Land zählt etwa 23 Millionen Einwohner. Ein Dating-Netzwerk ließ 4.700 KI-Personas auf 25.000 Menschen los. Alibaba fragte Claude mit bis zu 3 Millionen Anfragen pro Tag ab. Fünf weitere Fälle mit Bezug zu Biowaffen stoppte das Labor.
Kim Isenberg nennt diesen Bericht eine echte Arbeits-Grundlage. Zugriff und Zweck der Nutzung lassen sich kaum begrenzen. Robert Lange zieht die Konsequenz: Verteidigung braucht dieselben Modelle wie der Angriff. Für Unternehmen heißt das konkret: Monitoring und Abwehr gehören in dieselbe Planung wie die Anwendungs-Fälle.
China liefert Modelle, Deutschland liefert Reden
NSA, FBI und die US-Cyberbehörde beschuldigen sechs chinesische KI-Firmen. Laut Anklage saugten diese Firmen seit Ende 2024 Milliarden Tokens aus westlichen Modellen ab. Zwei Tage später erschien DeepSeek 4.1 Flash. Beim Programmieren liegt es gleichauf mit Opus 5. Der Input kostet dort 15 Cent pro Million Tokens.
Unitree stellte sein Roboter-Modell komplett offen ins Netz: 6 Milliarden Parameter, 64 Aufgaben, trainiert auf 2.500 Stunden echter Roboter-Daten. XPeng ließ seinen Humanoiden IRON vom Fließband laufen. Dort laufen 80 Prozent der Kern-Prozesse automatisch. Das Ziel: 1 Million Roboter pro Jahr bis 2030. Diese Linie passt zu Chinas KI-Strategie, die auf Tempo und offene Gewichte setzt.
Kanzler Friedrich Merz kündigt Rechenzentren in nie da gewesenem Ausmaß an. Andreas Moring maß die Redezeit: 54 Sekunden zum Thema KI in einer halben Stunde Bundestag. Fünf US-Hyperscaler investieren 860 Milliarden Dollar in einem Jahr, Europa plant mit 10 Milliarden. Laut einer Analyse bremst nicht der Strom, sondern die Bau-Genehmigung.
Arbeitsmarkt: China zeigt die Vorstufe
12,7 Millionen Hochschul-Absolventen drängen dieses Jahr auf Chinas Arbeitsmarkt. Die Jugend-Arbeitslosigkeit stieg im Juli auf 17,9 Prozent. Die Bank Citi sieht dort 70 Millionen Jobs stark gefährdet. Chinas Unis strichen rund 12.200 Studiengänge, am häufigsten Verwaltung und Informatik.
Pero Mićić nennt diese Zahlen einen Vorläufer für Europa. Eine Eindampfung von Fähigkeiten verschiebt Einkommen weg vom klassischen Arbeitsplatz. Robert Lange warnt vor Kurzschlüssen. Das Jevons-Paradox und die Konjunktur erklären einen Teil der Zahlen ebenfalls. Andreas Moring sieht das Kernproblem im Tempo der Umschulung.
Fazit: Das KI-Aussterberisiko bleibt eine offene Rechnung
Die Folge zeigt zwei getrennte Risiko-Ebenen. Auf der langen Frist stehen unbelegte Zahlen und laute Kampagnen. Auf der kurzen Frist stehen belegte Angriffe, Cyber-Waffen und ein Wettlauf um Chips. Das KI-Aussterberisiko lässt sich heute weder beweisen noch ausschließen.
Für Unternehmen folgt daraus eine nüchterne Agenda. Wer Modelle einsetzt, plant Monitoring und Verteidigung von Beginn an mit. Wer wartet, verliert Tempo an Anbieter aus China und den USA. Die Debatte um das Label AGI entscheidet dabei keine einzige Praxis-Frage.
Häufige Fragen
Wer warnt vor dem KI-Aussterberisiko bis 2030?
Der Forscher Jacob Coxon arbeitete drei Jahre an großen Modellen, zuletzt bei Anthropic. Nach sechs Wochen kündigte er öffentlich und warf beiden führenden Laboren grobe Fahrlässigkeit vor. Sein Post erreichte rund 200 Millionen Aufrufe. Zustimmung kam von Evan Hubinger, dem Alignment-Chef von Anthropic. Er hält eine Chance von über 10 Prozent für realistisch. So hoch schätzt er die Gefahr einer Auslöschung im nächsten Jahrzehnt. Belege in Form eines Papers fehlen bislang, was die Runde im Podcast deutlich kritisiert.
Ist GPT-6 Astra jetzt AGI?
Nvidia-Chef Jensen Huang und OpenAI-Präsident Greg Brockman sprechen von der AGI-Ära. Die ARC Prize Foundation widerspricht nach eigenen Tests ausdrücklich. Im neutralen Aufbau kommt Astra auf 62,7 Prozent, mit OpenAIs eigener Software auf 99,9 Prozent. Klarer zeigt es der Zeithorizont: Astra löst Aufgaben von rund 16 Stunden Länge mit 80 Prozent Erfolgsquote. Der Vorgänger lag bei 4,6 Stunden. Eine einheitliche Definition von AGI existiert nicht, deshalb bleibt die Antwort strittig.
Hat eine KI das Millennium-Problem Navier-Stokes gelöst?
Ein internes OpenAI-Modell lieferte einen Beweis über 166 Seiten, verifiziert in Lean. 10.000 Agenten liefen dafür 88 Stunden parallel, umgerechnet rund 6,5 Millionen Dollar an API-Kosten. Im April gaben Prognose-Märkte einer Lösung bis 2030 unter 40 Prozent, heute stehen sie bei 94 Prozent. Robert Lange ordnet den Durchbruch technisch hoch ein, kritisiert aber den Umgang mit der Vorarbeit anderer Forscher. Das Modell bekam die Richtung des Beweises vorgegeben.
Wie gefährlich sind Chinas Open-Source-Modelle für westliche Anbieter?
DeepSeek 4.1 Flash liegt beim Programmieren gleichauf mit Opus 5. Der Input kostet im günstigsten Tarif 15 Cent pro Million Tokens. Unitree stellte zusätzlich ein offenes Roboter-Modell online mit 6 Milliarden Parametern für 64 Aufgaben. Parallel werfen NSA und FBI sechs chinesischen Firmen vor, Milliarden Tokens aus westlichen Modellen abgesaugt zu haben. Der Preisdruck trifft die Margen der Frontier-Labore direkt und erhöht den Reiz, Regulierung als Schutzwall zu nutzen.
Was bedeutet das KI-Aussterberisiko für Unternehmen?
Praktisch wenig, die belegten Missbrauchs-Fälle dagegen viel. Der Anthropic-Bericht listet Raketen-Lenkung, autonome Drohnen-Schwärme und eine Überwachungs-Plattform für 25 Millionen SIM-Karten. Angriffe auf Energie-Infrastruktur gelten als reales Szenario. Sinnvoll ist deshalb eine Planung, die Monitoring und Abwehr von Beginn an einschließt. Robert Lange formuliert die Leitlinie: Verteidigung braucht dieselben Modelle wie der Angriff. Ein Abschalten einzelner Anbieter ändert an der Lage nichts.
.webp)
.png)
