Von der Gefahr, dass plötzlich eine Erfindung unkontrollierbar und massiv zerstörerisch sein könnte, schreibt Nick Bostrom. Bostrom ist ein radikaler Zukunftsdenker, der nicht selten dem Transhumanismus zugeordnet wird, also einer Denkschule, die davon ausgeht, dass der Mensch früher oder später durch eine neue, überlegene Spezies abgelöst wird. In diesem Buch geht es aber vorerst um die Hypothese der „Verwundbaren Welt“. Diese lautet: „Wenn die technologische Entwicklung weitergeht, dann wird irgendwann eine Reihe von Fähigkeiten erlangt werden, die die Verwüstung der Zivilisation äußerst wahrscheinlich machen, falls diese den semi-anarchischen Ausgangszustand nicht genügend weit hinter sich lässt.“ (S. 21f.)
Wo wird es gefährlich? Erstens: Einfach anzuwendende und apokalyptisch destruktive Technologien. Das wären neue, sehr einfach herzustellende Atombomben, gegebenenfalls in der Hand terroristischer Organisationen. Zweitens: Wenn (militärische) Erstschläge möglich würden, gäbe es großen Anreiz, diese auch durchzuführen. Drittens wäre es verheerend, wenn „sehr viele Akteure den Anreiz haben, eine Handlung auszuführen, die für sich genommen kaum schädlich ist, deren kombinierte Wirkung jedoch die zivilisatorische Verwüstung bedeutet.“ (S. 37) Bostrom spricht hier von der Erderwärmung. Und es kann, viertens, auch versehentlich schiefgehen: Eine Technologie würde eingeführt, die in einem Nebeneffekt zivilisatorische Verwüstung anrichtet.
Sicherheit findet die Menschheit, so heißt es schon in der Eingangshypothese, wenn der „semi-anarchische Ausgangszustand“ der gegenwärtigen Welt hinter sich gelassen würde. Dieser zeichne sich durch begrenzte Kapazitäten für weltweite Regulierung (Global Governance), durch unterschiedliche Motive (Geld, Macht, Status etc.) bei einer großen Anzahl von Akteur-innen und Akteuren sowie begrenzte Kapazität für präventive Polizeiarbeit aus. Letzteres (spätestens) lässt beim Rezensenten Sorgenfalten sichtbar werden. Bostrom plädiert für eine kritische Technologiepolitik. Vor allem die synthetische Biologie müsse kontrolliert werden und bestimmte Instrumente sollten dem freien Zugang entzogen werden. Aber er will auch mehr Überwachung und Hintergrundüberprüfungen von Menschen, die in Laboren arbeiten. Technologische Entwicklung zu Großsystemen fördere Kontrollzwang, prophezeite schon Robert Jungk.