Wer hat Angst vor der künstlichen Intelligenz? Wir kennen das entsprechende (Kinder-)Spiel mit der Angst vor dem Schwarzen Mann. Das richtige Verhalten – ältere Leser kennen es vielleicht noch – ist «nein, nein, nein» zu schreien und auf den Schwarzen Mann zuzurennen. Die Angst wird durch das Ritual des Spiels gebändigt und der gespenstische Unhold (meist wurde die Rolle auf dem Pausenplatz allerdings durchaus gesucht) lustvoll umlaufen und ins Abseits gestellt.

Die Angst vor der künstlichen Intelligenz ist anders präsent. Wir lesen: Können wir die KI in der Büchse behalten? Eine mythologische Dimension, schwer, dagegen mit Rennen anzukommen. Die Büchse der Pandora wurde von ihr selbst geöffnet, obwohl Zeus das verboten hatte. Kennen wir, gegen ausdrückliche Verbote verstösst der Mensch nur allzugern. Aus der Büchse entwichen alle Krankheiten und Übel; nur die Hoffnung blieb.

Oder dann wird das Take-over, die Machtübernahme der Maschinen, beschworen. Hier ist die Metapher greifbarer. Die KI schwingt sich auf zur Macht. «Robo sapiens», das Geschöpf, das der Mensch erschaffen hat, macht uns zu Knechten.

«Angstphantasien um die Künstliche Intelligenz», so der Untertitel des zweiten Referats zum Thema «Algorithmen» des Podiums Interface der FHNW. Der Referent Eduard Kaeser hat in seiner letzten Publikation auch schon die Mythologie bemüht: «Trojanische Pferde unserer Zeit – Kritische Essays zur Digitalisierung» (Schwabe- Verlag Basel 2019). Dieser Mythos beschreibt deutlicher, wovor Kaeser warnt. Denn das trojanische Pferd ist ja etwas Begehrtes, man zieht es in die eigene Burg hinein; aber es ist nicht das, was es scheint, sondern in seinem Bauch lauert die Gefahr.

Welche Gefahr denn? Das Gespenst der Superintelligenz gehe eben auch um, sagte Kaeser. Aber es ist eher eine falsch verstandene Metapher als ein richtiges Gespenst. Die KI «will» an die Macht. Weshalb sollte ein nichtbiologisches System so was wollen? Hat eine KI überhaupt Motive? Biologische Systeme haben Bedürfnisse und sie müssen sie befriedigen, sonst überleben sie nicht. Die KI existiert aber nicht in diesem Paradigma des Bedürfnisses und des Überlebens, sondern in dem des Berechnens.

Rechnen ist nicht Denken

Vom Berechnen zur Intelligenz ist es weit. Natürlich übertreffen Maschinen ein menschliches Gehirn in vielerlei Hinsicht. Aber der Eindruck täuscht. Schaut man genauer hin, sieht man: «KI-Systeme simulieren Fähigkeiten, die beim Menschen Intelligenz voraussetzen.» Alan Turing fragte 1950 in einem berühmten Aufsatz: «Können Maschinen denken?» Und die Antwort, die man ihm geben möchte: Erst, wenn sie keine Maschinen mehr sind. Ist das ganze Problem also eine Sprachverwirrung, wie der Philosoph Ludwig Wittgenstein gerne feststellte? Wir sollten auf jeden Fall aufpassen, dass sich die Metaphorik der Maschinenintelligenz nicht in unser Denken und Sprechen einschleicht. Wir leben in einer Art Symbiose mit unseren technischen Maschinen. Das ist unbezweifelbar. Und das Leben ohne sie kaum vorstellbar.

Aber wenn wir den Maschinen unsere Tasks zur Erledigung übergeben haben, haben wir uns eben auch an die Maschinenwelt angepasst. Denn es sind nicht die urmenschlichen Tätigkeiten, welche die Maschine wunschgemäss erledigt, sondern bereits maschinengerecht zubereitete Aufgaben. Wir halten den Vorschlag der Maschine für unsere Vorliebe – und kaufen. Menschen sind anpassungsfähiger als Maschinen. Man vergisst das, wenn man programmiert und fixiert ist, alles zu tun, damit das Programm läuft.

Die grösste Gefahr ist, dass der Mensch vor der Maschine kapituliert, dass er – aus Bequemlichkeit oder Willfährigkeit – immer mehr kognitive und moralische Kompetenzen der Maschine übergibt.