Neues Buch

Die Technologie zur Zerstörung unserer Zivilisation existiert – bis jetzt hatten wir einfach Glück

Zum Glück zu anspruchsvoll in der Herstellung für Terroristen: «The Gadet», der erste atomare Sprengsatz, kurz vor seiner Zündung am 16. Juli 1945. Der Physiker Norris Bradbury sorgt dafür, dass ihm nichts passiert.

Zum Glück zu anspruchsvoll in der Herstellung für Terroristen: «The Gadet», der erste atomare Sprengsatz, kurz vor seiner Zündung am 16. Juli 1945. Der Physiker Norris Bradbury sorgt dafür, dass ihm nichts passiert.

Der Philosoph Nick Bostrom arbeitet mit der Hypothese der verwundbaren Welt. Wie können wir verhindern, dass die Technologien, die wir entwickeln, verwendet werden können, um grossen Schaden anzurichten? Den Überwachungsstaat, um böse Terroristen zu entdecken, und Global Governance für eine koordinierte Politik.

Nick Bostrom ist ein schwedischer Philosoph an der Universität Oxford, der vor nichts zurückschreckt. Oder sagen wir so: Wenigstens vor den Dingen nicht zurückschreckt, von denen andere die Finger lassen. So untersucht er ernsthaft die Möglichkeit, dass wir in einer Computer-Simulation leben – wobei die Wahrscheinlichkeit, dass es sich wirklich so verhält, keineswegs null ist. Oder sein erfolgreichstes Buch beschäftigt sich mit der Superintelligenz: Wie würde das aussehen, wenn sich wirklich in unseren Maschinen eine Intelligenz entwickelt, die der unseren in allen Belangen, nicht nur in so speziellen wie Schach, Dame oder Go, überlegen ist?

Nick Bostrom, Professor für Philosophie an der Universität Oxford.

Nick Bostrom, Professor für Philosophie an der Universität Oxford.

Seine Untersuchungsgegenstände haben die gemeinsame Eigenschaft, dass wir sie für völlig unrealistisch halten, solange sie sich nicht eingestellt haben. Wenn sie aber da sind – und wie erwähnt: die Wahrscheinlichkeiten dafür sind nie null, sondern weit höher –, ist es zu spät, angemessen darauf zu reagieren. Im Moment sind wir völlig überzeugt, dass wir die intelligenten Maschinen im Griff haben. Aber sich darauf zu verlassen, dass eine entwickelte Superintelligenz nicht damit rechnet, dass man ihr den Strom abschalten könnte, ist mehr als naiv.

Nick Bostrom: Die verwundbare Welt. Eine Hypothese. Suhrkamp Berlin 2020. 112 S., Fr. 19.90.

Nick Bostrom: Die verwundbare Welt. Eine Hypothese. Suhrkamp Berlin 2020. 112 S., Fr. 19.90.

Jetzt geht es Bostrom um das Verhältnis zwischen Technologie und Zivilisation. Dass dieses Verhältnis nicht ungetrübt ist, dass also nicht mehr Technologie automatisch zu mehr Zivilisation führt, wie man lange glaubte; sondern dass eher das Umgekehrte zu befürchten ist, dass die Technologie irgendwann die Zivilisation ruiniert.

Einstein und Szlard schreiben an Präsident Roosevelt. (Das Bild wurde nachgestellt.)

Einstein und Szlard schreiben an Präsident Roosevelt. (Das Bild wurde nachgestellt.)

Eine Schwelle, an der sich das Verhältnis problematisierte, war die Entwicklung der Nuklearenergie. Im Rückblick präsentiert sie sich als ein Wettrennen um die Atombombe zwischen den Kräften des Bösen, dem Nazi-Regime, und denen des Guten, seinen Gegnern. Die Bombe wurde von den Briten und den Amerikanern entwickelt und gebaut, damit nicht die Nazis die ersten wären. Massgeblich dabei waren viele aus Deutschland und Europa Vertriebene, am auffälligsten die Physiker Leo Szilard und Albert Einstein, die einen Brief an Präsident Roosevelt schrieben, in dem sie auf die Gefahr hinwiesen.

Edward Teller (Aufnahme von 1988) befürchtete 1945, die Nuklearexplosion könnte die Atmosphäre in Brand stecken und den Weltenbrand auslsen.

Edward Teller (Aufnahme von 1988) befürchtete 1945, die Nuklearexplosion könnte die Atmosphäre in Brand stecken und den Weltenbrand auslsen.

Schon bevor der erste nukleare Sprengsatz gezündet wurde, zeigte sich das apokalyptische Potenzial. Edward Teller, der sich damals schon der «Super», der thermonuklearen Bombe, zugewandt hatte, befürchtete, dass die Explosion eine Kettenreaktion in der Atmosphäre in Gang setzen könnte. Es zeigte sich beim Nachrechnen, dass die Temperatur doch nicht so hoch steigen würde, aber der Weltenbrand war immerhin zu einem Szenario geworden, das man berücksichtigen musste.

Nazi-Deutschland hatte im Mai 1945 bereits kapituliert, bevor im Juli der erste Nukleartest durchgeführt wurde. Am Einsatz der Waffe änderte das nichts. Es gab Versuche, ihn zu verhindern. Sie waren aber ebenso erfolglos, wie die Versuche von Szilard gewesen waren, die Verbreitung des gefährlichen Wissens zu unterbinden. Vier Jahre nach Hiroshima und Nagasaki hatten auch die Sowjets ihre Bombe. Spione hatten ihnen dabei geholfen, aber die Urteile sind ziemlich einhellig: Viel mehr als ein paar Jahre haben sie ihnen nicht erspart.

Der atomare Geist ist aus der Flasche: «Trinity» die erste Atomexplosion.

Der atomare Geist ist aus der Flasche: «Trinity» die erste Atomexplosion.

Von der Seite der Technologie her ist der Fall dann ziemlich eindeutig: Einmal erfunden oder auch nur erdacht, reicht. Der Geist will nicht zurück in die Flasche.

Massenvernichtungsmittel aus der Garage?

Bostrom macht ein Gedankenexperiment. Die Schwierigkeiten bei der Atombombe liegen bei der Herstellung. Dass und wie es geht, ist bekannt. Die Hindernisse lagen darin, in einer vernünftigen Frist genügend Kernbrennstoff (Uran und Plutonium) herzustellen und das heikle Zündverfahren zu entwickeln (für die Pu-Bombe). Dafür brauchte es riesige Industrieanlagen und enorme Investitionen. Mindestens 150 000 Menschen sollen mitgearbeitet haben, das Projekt verbrauchte damals die ungeheure Summe von 1,9 Milliarden US-Dollar.

Was aber wäre passiert oder würde passieren, wenn es leichter ginge? Wenn man mit einer Batterie, einer Glasscheibe und etwas Kupferdraht eine Kettenreaktion in Gang bringen könnte? In einem solchen Fall wäre ein Massenmord eines wahnsinnigen Fanatikers oder einer Gruppe nicht zu verhindern. Wie auch? Grundlagenforschung verbieten? Glasproduktion nur noch unter strenger Kontrolle? Das könnte man kaum ohne eine Begründung durchsetzen. Und die Begründung müsste so detailliert abgefasst sein, um zu überzeugen, dass die Hinweise unübersehbar wären, wo man forschen müsste.

Kann aus der Bio- oder Nanotechnologie etwas Gefährliches kommen?

Das führt Bostrom zu der Hypothese der verwundbaren Welt. In unsere Zivilisation ist der Kern eingebaut, dass sie jederzeit zerstört werden kann. Bei der Nukleartechnologie hatten wir einfach Glück. Wie steht es bei der Bio- und Nanotechnologie? Kommt da etwas heraus, was einen Massenmord oder die Zerstörung der Zivilisation «einfacher» machen würde?

Die Ausgangslage (oder die gegenwärtige Situation) sieht so aus: Wir haben eine technologische Entwicklung, die irgendwann zur Verwüstung der Zivilisation führen kann, und eine «semi-anarchische» Organisation der Menschheit. Das heisst: Wir haben weder genügend Kapazität für präventive Polizeiarbeit, um allfällige Täter zu erkennen und aus dem Verkehr zu ziehen; und wir sind nicht fähig, grosse Probleme koordiniert zu lösen, es fehlt an Global Governance.

Mehr Polizei und Überwachung und mehr globale Koordination

Bostroms Analyse liefert eine Typologie der Schwachstellen (welche Täter-Szenarien sind möglich und welche am gefährlichsten?) und Vorschläge, wie die Kapazitäten der präventiven Polizeiarbeit ausgebaut werden könnten (Stichwort: Hightech-Überwachungsstaat). Wie schwierig es mit der Global Governance ist, wissen wir schon. Zum Beispiel aus der Klimadebatte.

Sein Fazit: Bisher hatten wir Glück. Aber das muss nicht so bleiben. Wir müssen aus dem semi-anarchischen Zustand hinaus und zur globalen Koordination und Zusammenarbeit finden. Wie das zugehen soll und dann aussehen wird, lässt er weitgehend offen. Die Dystopien, die da drohen, wurden schon oft erörtert. Aber meist als abschreckende Zukunftsszenarien. Jetzt sieht es so aus, wie wenn es unausweichliche Notwendigkeiten wären, denen wir uns wohl oder übel unterziehen müssen.

Verwandte Themen:

Autor

Christoph Bopp

Meistgesehen

Artboard 1