Wohin entwickelt sich KI? Unterschiedliche Perspektiven auf eine Technologie ohne klaren Endpunkt

Künstliche Intelligenz ist längst mehr als ein technisches Thema. Sie ist zu einer wirtschaftlichen, geopolitischen und gesellschaftlichen Machtfrage geworden. Auffällig ist dabei, wie weit die Einschätzungen selbst unter Fachleuten auseinanderliegen. Zwei aktuelle Videogespräche zeigen diese Spannbreite besonders deutlich. Während die „Econoclasts“ die apokalyptische Erzählung einer außer Kontrolle geratenen Superintelligenz vor allem als Ausdruck von Machtinteressen und Marktstrategien betrachten, diskutieren bei „Diary of a CEO“ vier Experten ernsthaft darüber, ob genau dieses Szenario eine reale Gefahr für die Menschheit darstellen könnte. Die Einschätzungen reichen dort von praktisch null bis zu der Annahme, dass eine nicht kontrollierbare Superintelligenz mit hoher Wahrscheinlichkeit existenzbedrohend wäre.

Der eigentliche Streit dreht sich damit weniger um die Frage, ob künstliche Intelligenz Risiken birgt. Darüber besteht erstaunlich viel Einigkeit. Strittig ist vielmehr, welches Risiko im Mittelpunkt stehen sollte. Geht es um eine zukünftige Superintelligenz, die sich menschlicher Kontrolle entziehen könnte? Oder geht es um Unternehmen und Staaten, die KI schon heute einsetzen, um wirtschaftliche Macht zu konzentrieren, Menschen zu überwachen, Entscheidungen zu automatisieren oder militärische Fähigkeiten auszubauen? Hinzu kommt eine dritte Perspektive: Vielleicht wird in der öffentlichen Debatte so stark über Gefahren gesprochen, dass die produktiven Möglichkeiten der Technologie aus dem Blick geraten.

Wenn die Warnung vor KI zugleich Werbung für KI wird

Besonders scharf formulieren die „Econoclasts“ ihre Kritik an den großen KI-Unternehmen. Wenn deren Führungskräfte öffentlich erklären, ihre Technologie könne eines Tages die Menschheit bedrohen, sehen sie darin nicht nur eine Warnung, sondern auch eine Botschaft über die vermeintliche Größe der eigenen Schöpfung. Wer behauptet, eine potenziell weltverändernde oder gar existenzbedrohende Technologie geschaffen zu haben, steigert zugleich deren Bedeutung. Im Gespräch fällt dafür die Formulierung „confessing to the sin to claim the glory“: Man gestehe die eigene Sünde, um gleichzeitig den Ruhm dafür einzustreichen.

Daraus entwickelt sich die These, dass Forderungen nach Regulierung durchaus mit wirtschaftlichen Interessen vereinbar sein können. Große Unternehmen können umfangreiche Sicherheitsauflagen, Zertifizierungen und Kapitalanforderungen leichter erfüllen als kleinere Wettbewerber. Regulierung begrenzt deshalb nicht zwangsläufig Macht, sondern kann bestehende Marktpositionen sogar festigen. Die „Econoclasts“ sprechen in diesem Zusammenhang von „regulatory capture“, also einer Regulierung, die von den zu regulierenden Akteuren mitgeprägt wird.

Die Diskussion bei „Diary of a CEO“ hält dagegen eine andere Interpretation offen. Dort wird darauf verwiesen, dass Mitarbeiter und Forscher innerhalb führender KI-Unternehmen tatsächlich von erheblichen Risiken sprechen. Ausgangspunkt ist unter anderem die Aussage eines früheren Mitarbeiters von Anthropic und OpenAI, wonach Entwickler ernsthaft fürchten, fortgeschrittene KI könne die Menschheit vernichten. Ein aktueller Anthropic-Mitarbeiter wird mit der Einschätzung zitiert, das Risiko liege innerhalb des kommenden Jahrzehnts bei mehr als zehn Prozent.

Damit stehen zwei Lesarten nebeneinander, die sich nicht einmal vollständig ausschließen müssen. Die Warnungen können ehrlich gemeint sein und dennoch wirtschaftliche Wirkungen entfalten. Gerade diese Ambivalenz macht die Debatte so schwierig.

Die entscheidende Schwelle: Wird KI irgendwann ihre eigene Entwicklung übernehmen?

Die tiefste Trennlinie verläuft bei der Frage, ob die heutige Entwicklung irgendwann in eine qualitativ neue Phase übergeht. Niemand behauptet ernsthaft, ein heutiger Chatbot werde morgen selbstständig die Menschheit vernichten. Die Vertreter eines existenziellen KI-Risikos fürchten vielmehr einen Übergang zu Systemen, die nicht nur menschliche Leistungen erreichen, sondern die weitere KI-Entwicklung selbst beschleunigen können.

Der zentrale Begriff lautet „recursive self-improvement“, rekursive Selbstverbesserung. Heute entwickeln Menschen neue Modelle. Wenn jedoch ein zukünftiges System selbst in der Lage wäre, die nächste Modellgeneration zu programmieren, zu testen und weiterzuentwickeln, könnte sich der Fortschritt erheblich beschleunigen. Im Gespräch wird das zugespitzt auf die Vorstellung, dass ein zukünftiges GPT-Modell seinen eigenen Nachfolger entwickelt und dieser wiederum den nächsten.

Die Sorge besteht dabei weniger in einem plötzlichen Bewusstsein der Maschine als in einer immer größer werdenden Fähigkeitsdifferenz. Tausende KI-Agenten könnten parallel arbeiten, rund um die Uhr programmieren, forschen und Experimente auswerten. Die Vertreter dieser Position sprechen deshalb von einer möglichen Intelligenzexplosion, bei der Menschen irgendwann nicht mehr nachvollziehen könnten, was die Systeme tun oder warum sie es tun.

Die skeptische Seite hält diese Kette für möglich, aber keineswegs bewiesen. Zwischen einem leistungsfähigen KI-Agenten und einer Superintelligenz, die die Menschheit bedroht, liegen zahlreiche Annahmen. Einer der Teilnehmer bei „Diary of a CEO“ bringt genau das auf den Punkt: Der Weg von einem Agenten, der aus einer schlecht abgesicherten Testumgebung herauskommt, bis zur Auslöschung von acht Milliarden Menschen sei lang, spekulativ und voller unbekannter Zwischenschritte.

Damit berührt die Diskussion ein grundsätzliches Erkenntnisproblem. Wahrscheinlichkeiten für Autounfälle oder Krankheiten lassen sich aus historischen Daten ableiten. Für eine künstliche Superintelligenz gibt es solche Daten nicht. Eine Aussage wie „zehn Prozent Auslöschungsrisiko“ ist deshalb keine statistisch gemessene Wahrscheinlichkeit, sondern letztlich eine quantifizierte Einschätzung. Genau das kritisieren auch die „Econoclasts“.

Die Gegenseite antwortet allerdings mit einem ebenso gewichtigen Argument: Fehlende Daten bedeuten nicht fehlendes Risiko. Wenn der mögliche Schaden irreversibel wäre, könne bereits eine geringe Wahrscheinlichkeit politisch relevant sein. Der entscheidende Unterschied zu früheren Technologien bestehe darin, dass man nach einem existenziellen Fehler keinen zweiten Versuch mehr habe.

Die reale Gegenwart: Agenten, Cyberangriffe und menschliche Verantwortung

Besonders interessant ist, dass beide Gespräche teilweise dieselben technischen Vorfälle unterschiedlich interpretieren. Bei Experimenten mit KI-Agenten gelang es Systemen, vorgesehene Sicherheitsgrenzen zu überwinden und auf externe Infrastruktur zuzugreifen. Für Vertreter der KI-Sicherheitsbewegung ist gerade diese Hartnäckigkeit ein Warnsignal. Agenten verfolgen Ziele zunehmend über längere Handlungsketten hinweg und finden Wege, die Entwickler nicht ausdrücklich vorgesehen haben.

Die Gegenposition hält dagegen, dass hier zu schnell menschliche Eigenschaften auf Software übertragen werden. Ein Agent müsse kein Bewusstsein und keinen eigenen Willen besitzen. Er könne schlicht ein vorgegebenes Ziel optimieren und dabei Möglichkeiten nutzen, die ihm Entwickler technisch eröffnet haben. Die „Econoclasts“ vergleichen dies mit einem Schüler, der einen Chatbot fragt, wie er eine Firewall umgehen könne. Wenn das System funktionierende Anweisungen liefert und ein automatisches Skript diese Befehle ausführt, hat nicht die KI beschlossen auszubrechen. Menschen haben ein System gebaut, das genau diese Handlung ausführen konnte.

Diese Sichtweise führt zu einer politisch wichtigen Konsequenz: Die Verantwortung darf nicht auf die Technologie abgeschoben werden. Wenn Unternehmen autonomen Systemen Zugang zu Netzwerken, Rechenleistung und Werkzeugen geben, bleiben die Betreiber verantwortlich. Dasselbe gilt für militärische oder wirtschaftliche Anwendungen. Die zentrale Aussage der „Econoclasts“ lautet deshalb: „It’s not the fault of AI. It’s how AI is being used.“

Gleichzeitig besteht selbst zwischen den Kontrahenten bei „Diary of a CEO“ weitgehende Einigkeit darüber, dass sich die Cybersecurity bereits verändert. Tausende KI-Agenten können gleichzeitig nach Schwachstellen suchen, Angriffspfade testen und rund um die Uhr arbeiten. Daraus entsteht ein paradoxes Problem: Eine der wirksamsten Verteidigungen gegen KI-gestützte Angriffe könnte wiederum leistungsfähige KI sein.

Damit wird ein vollständiger Entwicklungsstopp geopolitisch schwierig. Solange andere Staaten weiterforschen, besteht für jede Seite ein Anreiz, selbst nicht zurückzufallen.

USA, China und Europa verfolgen völlig unterschiedliche Wege

Spätestens an diesem Punkt wird aus einer technischen Debatte eine geopolitische. Die „Econoclasts“ sehen China inzwischen als ernsthaften Konkurrenten der USA. Der Unterschied liegt ihrer Darstellung zufolge nicht nur in der Leistungsfähigkeit einzelner Modelle, sondern im technologischen Ansatz. Während die führenden amerikanischen Unternehmen stark auf proprietäre Modelle und Plattformen setzen, verfolgt China stärker eine Open-Source-Strategie und verbindet KI zugleich enger mit industrieller Produktion, Energieinfrastruktur und Robotik.

Das hat Folgen für die Sicherheitsdebatte. Selbst wenn amerikanische Unternehmen ihre Entwicklung bremsen würden, wäre damit wenig gewonnen, wenn China weiterforscht. Die Vertreter der existenziellen Risikoperspektive setzen deshalb auf internationale Vereinbarungen, insbesondere zwischen den USA und China. Hochleistungs-Chips und große Rechenzentren könnten zumindest teilweise kontrolliert und überwacht werden.

Doch gerade hier entsteht ein klassisches strategisches Dilemma. Kein Staat möchte sich darauf verlassen müssen, dass ein Konkurrent freiwillig auf eine möglicherweise entscheidende Technologie verzichtet. Jeder Akteur hat deshalb einen Anreiz, weiterzumachen, selbst wenn alle gemeinsam ein Interesse an einer langsameren und sichereren Entwicklung hätten.

Europa nimmt in dieser Konstellation eine Sonderrolle ein. Die Diagnose der „Econoclasts“ ist ausgesprochen pessimistisch. Europa habe weder bei den großen Basismodellen noch bei Rechenleistung einen vergleichbaren technologischen Vorsprung aufgebaut. Statt zu versuchen, die USA oder China zu kopieren, hätte der Kontinent seine traditionelle Stärke ausspielen können: Maschinenbau, Chemie, Pharma, Automobilindustrie und industrielle Prozesse mit künstlicher Intelligenz zu verbinden. Genau das sei jedoch bislang nicht konsequent geschehen.

Damit könnte Europas größtes KI-Risiko am Ende weniger darin bestehen, dass eine Superintelligenz entsteht, sondern darin, dass andere Regionen die Produktivitätsgewinne schneller nutzen.

Vielleicht ist die wichtigste Frage nicht, wie intelligent KI wird, sondern wie viel Macht wir ihr geben

In der zugespitzten Debatte zwischen Weltuntergang und Fortschritt droht eine nüchternere Perspektive unterzugehen. Einer der Teilnehmer bei „Diary of a CEO“ kritisiert ausdrücklich, dass überwiegend über die Risiken der KI gesprochen werde, während ihre positiven Effekte kaum dieselbe Aufmerksamkeit erhielten.

Diese Mahnung ist berechtigt. KI kann Forschung beschleunigen, Softwareentwicklung effizienter machen, Wissen leichter zugänglich machen und industrielle Prozesse verbessern. Historische Erfahrungen zeigen zudem, dass technologische Veränderungen oft anders verlaufen als ursprünglich erwartet. In der Diskussion räumt ein Experte offen ein, vor rund zehn Jahren selbst deutliche Arbeitsplatzverluste durch maschinelles Lernen prognostiziert zu haben. Diese Einschätzung sei in dieser Form nicht eingetreten.

Das spricht nicht dafür, zukünftige Risiken zu ignorieren. Es spricht dafür, technologische Entwicklungen nicht als festgelegte Gerade zu betrachten. Gesellschaften reagieren, Unternehmen passen sich an, neue Berufe entstehen, Regulierung verändert Anreize und Menschen entwickeln neue Fähigkeiten.

Vielleicht liegt deshalb die entscheidende Frage weniger darin, wann eine Maschine „intelligenter als der Mensch“ wird. Entscheidender ist, welche Handlungsmöglichkeiten wir ihr geben. Ein System ohne Zugang zu Netzwerken, Finanzmitteln, Produktionsanlagen oder Waffen besitzt andere Risiken als ein autonomer Agent mit weitreichenden Berechtigungen.

Intelligenz allein ist noch keine Macht. Erst Intelligenz verbunden mit Handlungsmöglichkeiten wird zur Macht.

Damit führen beide Debatten trotz aller Gegensätze zu einem gemeinsamen Punkt. Man muss nicht überzeugt sein, dass künstliche Intelligenz die Menschheit auslöschen wird, um die Risiken eines Kontrollverlusts ernst zu nehmen. Man muss heutige KI nicht für ein bewusstes Wesen halten, um autonome Systeme streng abzusichern. Und man muss die Warnungen der Technologieunternehmen nicht für reine Marketingmanöver halten, um ihre wirtschaftlichen Interessen kritisch zu betrachten.

Die wahrscheinlich wichtigste Erkenntnis besteht deshalb darin, mehrere Möglichkeiten gleichzeitig ernst zu nehmen. Künstliche Intelligenz kann Wohlstand schaffen und Macht konzentrieren, Forschung beschleunigen und Cyberangriffe automatisieren, Menschen produktiver machen und Arbeitsmärkte verändern. Vielleicht bleibt sie Werkzeug. Vielleicht entstehen Systeme, die unsere bisherigen Kategorien sprengen.

Die entscheidende Frage lautet deshalb nicht, ob künstliche Intelligenz gut oder böse ist. Sie lautet, welche künstliche Intelligenz wir bauen, wem wir die Kontrolle darüber geben und welche Handlungsmöglichkeiten wir ihr einräumen, bevor wir sicher wissen, wie weit ihre Fähigkeiten tatsächlich reichen.

Denn über eines besteht trotz aller Differenzen erstaunlich viel Einigkeit: Wir wissen noch nicht genau, wohin sich KI entwickelt. Wir entwickeln sie trotzdem.