Mustafa Suleyman

The Coming Wave

Ausgabe: 2025 | 1
The Coming Wave

Mustafa Suleyman hat mit seiner Pionier-Firma Deepmind KI-Geschichte geschrieben, war einige Jahre bei Googles Mutterkonzern tätig und ist seit Frühjahr 2024 Chef von Microsoft AI, und damit einer der Weltbesten auf seinem Gebiet.

Mit den neuesten Entwicklungen in den Bereichen Künstliche Intelligenz (KI) und synthetische Biologie sind in den letzten Jahren zwei Technologien herangereift, die unsere Zukunft in hohem Maße prägen werden. In der Frage, wie die Menschheit mit diesen beiden Technologien umgehen soll, sieht der Autor das zentrale Dilemma des Jahrhunderts, die Gefahr nämlich, dass, „eine mächtige Technologiegeneration die Menschheit früher oder später entweder in eine katastrophale oder in eine dystopische Richtung führt“ (S. 18).

Im ersten Teil („Homo Technologicus“) geht es um die Beziehung des Menschen zu Technologien allgemein. Wenn die Menschheitsgeschichte als eine Abfolge von Innovationswellen verstanden wird, dann ist ein bestimmender Faktor dabei die jeder Technologie inhärente Tendenz des Sich- immer-weiter-Ausbreitens. Wenn aber „Endlose Ausbreitung“ (Kapitel 2) die zu erwartende Entwicklung ist, dann stellt sich die Frage, wie ein Missbrauch dieser neuen Technologien verhindert werden kann. Denn was „die Leute tatsächlich mit jemandes Erfindung anstellen, mag sie auch noch so gut gemeint sein, lässt sich nie garantieren“ (S. 45). Deswegen plädiert der Autor – das ist der rote Faden durch das Buch – für eine Politik der Eindämmung, mit dem Ziel, diese Technologien in „jeder Phase ihrer Entwicklung oder ihres Einsatzes zu kontrollieren, einzuschränken und, wenn nötig, zu stoppen“ (S. 46).

Der zweite Teil beschreibt „Die nächste Welle“ im Detail. Welche neuen Möglichkeiten bringen die Technologien der Intelligenz (und ihre Weiterentwicklungen) und des Lebens (genetische Manipulation wird für alle erschwinglich) sowie die sich dadurch beschleunigenden Entwicklungen bezüglich Einsatz von Robotern, Quantencomputer oder auch Fortschritte bei der Kernfusion mit sich? Die zukünftigen Veränderungen werden „eine gewaltige Machtverschiebung weg von den traditionellen Staaten und Militärs hin zu jedem, der die Fähigkeit und Motivation besitzt, diese Geräte einzusetzen“ (S. 128) mit sich bringen, und die Frage wird sich stellen, ob und wie wir Menschen weiterhin die Kontrolle behalten können. Im schlimmsten Falle könnte der „Homo Technologicus […] am Ende von seiner eigenen Schöpfung bedroht werden“ (S. 139).

Welche Instanz könnte für eine Eindämmung der kommenden Welle sorgen? fragt der dritte Teil des Buches. Es müssten laut Autor die Nationalstaaten sein, aber diese werden zunehmend vielfach ausgehöhlt: Hacker:innen können ganze Teile von Staaten lahmlegen, Desinformationskampagnen können staatliche Gefüge in Misskredit bringen oder auch Wahlen massiv beeinflussen, bewaffnete Roboter und kostengünstige Drohnen verschieben auch die militärische Macht weg von den großen Staaten hin zu kleineren Gruppen. Gleichzeitig werden Großkonzerne immer reicher und mächtiger und „hyperlibertäre“ Milliardäre wie „Peter Thiel feiern die Vision vom Verschwinden des Staates und sehen dies als Befreiung für eine übermächtige Spezies von Wirtschaftsführern oder ‚souveränen Individuen‘, wie sie sich selbst nennen“ (S. 236).

Das Ergebnis dieser Analysen ist klar: Wenn wir den Entwicklungen freien Lauf lassen, dann werden katastrophale Folgen wahrscheinlich, was inakzeptabel erscheint. Aber: „Die sichersten Lösungen zur Eindämmung sind gleichermaßen inakzeptabel und führen die Menschheit auf einen autoritären und dystopischen Weg“ (S. 241).

Der letzte vierte Teil befasst sich mit möglichen Schritten zur vom Autor gewünschten Eindämmung. Seine zehn Schritte reichen von einer gesamtgesellschaftlichen Anstrengung Richtung Sicherheit von Systemen („Ein Apollo-Programm für technische Sicherheit“, S. 279) über internationale Abkommen à la Atomwaffensperrvertrag bis zur Notwendigkeit breiter zivilgesellschaftlicher Bewegungen und damit Aufbau öffentlichen Drucks rundum diese Themen. Dabei muss klar sein: „Eindämmung ist kein Rastplatz. Sie ist ein schmaler und nie endender Pfad“ (S. 322) und entsprechende Aktivitäten dazu werden „über Jahrzehnte hinweg im gesamten Spektrum menschlicher Bestrebungen eine epochale Entschlossenheit fordern.“ (S. 332).

Eine empfehlenswerte Lektüre

Das Buch ragt in mehrfacher Hinsicht aus der Flut von KI-Büchern heraus: Geschrieben von einem der Pioniere dieser Entwicklung, sehr gut lesbar, mit vielen Blicken hinter die Kulissen, mit einer eindeutigen Position Pro-Technologie und gleichzeitig: Pro-Eindämmung derselben (weil „eine solche widersprüchliche Sichtweise die ehrlichste Einschätzung des Status Quo ist“ (S. 260)). Wer vorhaben sollte, nur ein einziges Buch zum Thema Künstliche Intelligenz lesen zu wollen, für den/die ist dies die Empfehlung schlechthin!