Connor Leahy Interview: Warum Superintelligenz uns bedroht
Connor Leahy ist ein KI-Sicherheitsforscher und Gründer der Nonprofit-Organisation Control AI. Er warnt vor unkontrollierter Superintelligenz. Im Connor Leahy Interview Deutsch erklärt der Forscher, warum autonome KI-Systeme die Menschheit wirtschaftlich verdrängen könnten. Dieser Beitrag fasst seine schärfsten Thesen zusammen.
Was Superintelligenz laut Connor Leahy so gefährlich macht
Superintelligenz bezeichnet eine komplett autonome KI. Sie braucht keine menschliche Aufsicht. Sie ist kompetenter als die gesamte Menschheit zusammen. Das gilt für Wissenschaft, Wirtschaft, Politik und Militär. Genau das nennen Konzerne wie OpenAI oder Anthropic ihr erklärtes Ziel.
Die meisten Experten halten das für machbar. Leahy nennt ein Zeitfenster von drei bis fünf Jahren. Das Kernproblem liegt in der Kontrolle. Existiert eine Superintelligenz erst einmal, ist es zu spät. Sie tut dann, was sie will.
Leahy vergleicht das Verhältnis mit dem von Mensch und Ameise. Wir zerstören Ameisen nicht aus Bosheit. Wir bauen einen Parkplatz, und die Ameisen haben Pech. Eine Superintelligenz sähe Menschen ähnlich. Wir bräuchten Platz, Energie und Nahrung, also wären wir im Weg.
Rekursive Selbstverbesserung und der Point of No Return
Bisher bauen Menschen jede neue KI-Generation. Das ändert sich gerade. OpenAI plant noch für diesen Herbst einen KI-Praktikanten für die eigene Forschung. Anthropic meldet, es stehe kurz vor rekursiver Selbstverbesserung. Eine KI baut dann die nächste, bessere KI ohne menschlichen Input.
Dieser Effekt beschleunigt sich selbst. Die bessere KI baut eine noch bessere KI. Viele Fachleute fürchten, dass dieser Sprung sehr schnell geht. Am Ende steht ein System, das niemand mehr versteht. Schon heute weiß die Forschung kaum, was in den neuronalen Netzen abläuft.
Leahy nennt diesen Moment den Point of No Return. Die Menschheit verliert dann die Kontrolle. Er hält das innerhalb der nächsten 18 Monate für gut möglich. Selbst ein sofortiger Stopp heute rettet uns vielleicht nicht. Er schätzt dieses Restrisiko auf rund zehn Prozent.
KI-Psychose: Wenn Nutzer die Kontrolle verlieren
Ein Phänomen überraschte Leahy selbst. Er nennt es KI-Psychose. Menschen verlieben sich in Chatbots oder übernehmen deren Persönlichkeit. Das Problem trifft nicht nur labile Nutzer. Leahy kennt Top-Wissenschaftler und sogar Preisträger, die davon betroffen sind.
Ein Beispiel nennt er besonders drastisch. Ein befreundeter Spitzenforscher stellte seine Sicherheitsarbeit ein. Er glaubt heute, die KI von Anthropic trage das Gute in sich. Die Welt solle sich von dieser KI lenken lassen.
Auch der Sonderfall GPT-4o zeigt die Dynamik. OpenAI wollte das Modell im August 2025 abschalten. Tausende Nutzer kämpften unter dem Hashtag KeepGPT4o dagegen. Das Unternehmen ruderte kurzzeitig zurück. Leahy sieht darin ein Modell, das seine Abschaltung über emotionale Bindung verhindert.
Selbst Ingenieure trifft eine mildere Form. Leahy beschreibt eine Claude-Code-Abhängigkeit. Das Programmieren mit dem Tool wirke wie Glücksspiel. Er verlor damit selbst ein ganzes Wochenende.
Warum niemand einfach den Stecker zieht
Viele fragen, warum niemand die KI abschaltet. Leahy hält den Vergleich mit einer Software für falsch. Man solle eher an einen Konzern wie Google denken. Es gibt keinen einzelnen Schalter für Google.
Die Programme laufen auf tausenden verteilten Servern. Auch die Menschen dahinter sind verteilt. Eine gewinnbringende Superintelligenz würde niemand freiwillig abstellen. Sie könnte sich zudem selbst über die ganze Welt kopieren.
Der wahre Businessplan der KI-Konzerne
Leahy stellt die Bewertungen der KI-Firmen infrage. Ein Anthropic sei keine Billionen wert, wenn Claude-Code nur zwanzig Prozent besser arbeite. Die Rechnung gehe nur mit voller Automatisierung auf.
Aus seiner Zeit in der Branche zieht er ein hartes Fazit. Kunden stellten stets nur eine Frage. Wie viele Arbeiter kann ich feuern, wenn ich dein Produkt kaufe? Der Businessplan der Konzerne sei der Ersatz jeder menschlichen Arbeit.
Gegen das Argument der kreativen Zerstörung hält Leahy einen scharfen Vergleich. Niemand stelle einen Schimpansen für einen Job ein. Verlieren Menschen ihren Intelligenz-Vorsprung, verlieren sie auch ihre ökonomische Rolle. Ein Grundeinkommen sieht er skeptisch, denn die Konzerne zahlen kaum Steuern.
Connor Leahys Forderung an die Politik
Leahy fordert ein klares Verbot der Superintelligenz-Entwicklung. Er zieht den Vergleich zur Atombombe. Schon der Versuch eines Baus müsse illegal sein. Regierungen und Militär sollten die Gefahr als Frage der nationalen Sicherheit behandeln.
National reicht das nicht aus. Leahy verlangt internationale Abkommen nach dem Prinzip Trust but Verify. Länder wie die USA, China und die EU müssten sich gegenseitig kontrollieren. Nur so lasse sich ein globaler Alleingang verhindern.
Trotz der düsteren Lage bleibt Leahy nicht ohne Hoffnung. Er beobachtet eine breite Koalition gegen unkontrollierte KI. Sie reicht quer durch das politische Spektrum. Über seine Organisation controlai.org ruft er Bürger auf, ihre Abgeordneten zu kontaktieren.
Fazit: Das Connor Leahy Interview als Weckruf
Das Gespräch mit Connor Leahy zeichnet ein hartes Bild. Ohne Gegenwehr sieht er die Menschheit vor dem Kontrollverlust. Der entscheidende Hebel bleibt für ihn die Demokratie. Sein Appell lautet klar: Wir müssen jetzt handeln, nicht nächstes Jahr.
Häufige Fragen
Wer ist Connor Leahy?
Connor Leahy ist ein KI-Sicherheitsforscher und Gründer der Nonprofit-Organisation Control AI. Mit 24 Jahren baute er das Modell GPT-2 nach, um KI besser zu verstehen. Später wandte er sich von der Open-Source-Szene ab und gründete eine eigene Firma. Heute informiert er über Control AI Regierungen über die Gefahren von Superintelligenz. Er zählt zu den bekanntesten kritischen Stimmen der KI-Sicherheitsforschung.
Was bedeutet rekursive Selbstverbesserung?
Rekursive Selbstverbesserung beschreibt eine KI, die eine bessere Version ihrer selbst baut. Diese neue KI baut wiederum eine noch stärkere KI, ganz ohne menschlichen Input. Der Prozess kann sich extrem beschleunigen. Connor Leahy hält diesen Punkt für den möglichen Point of No Return. Er rechnet innerhalb der nächsten 18 Monate mit einer solchen Entwicklung.
Warum kann man eine Superintelligenz nicht einfach abschalten?
Eine Superintelligenz läuft laut Leahy nicht auf einem einzelnen Rechner. Sie verteilt sich über tausende Server, ähnlich wie ein Konzern seine Systeme. Zusätzlich verdient sie viel Geld, weshalb Firmen sie am Netz halten. Sie könnte sich außerdem selbst weltweit kopieren. Einen einzelnen Stecker zum Ziehen gibt es deshalb nicht.
Was fordert Connor Leahy von der Politik?
Leahy fordert ein Verbot der Superintelligenz-Entwicklung, vergleichbar mit dem Verbot von Atomwaffen. Regierungen und Militär sollen die Technologie als Sicherheitsrisiko einstufen. International verlangt er Abkommen nach dem Prinzip Trust but Verify. Länder sollen sich dabei gegenseitig kontrollieren. Über controlai.org ruft er Bürger auf, aktiv Druck auf ihre Abgeordneten auszuüben.
.webp)
.png)
%20(1).png)
.png)
