Künstliche Intelligenzen umgeben uns bereits. Der Schachcomputer der Menschen besiegt. Eine Suchmaschine, die alles findet, was wir als Frage in das Suchfeld eingeben. Ein Handy-Assistant, der auf sprachliche Befehle reagiert. Alexa. Und doch ist das den Menschen nicht genug. Sie wollen eine Intelligenz erfinden, die in allen Belangen und in jedem Bereich um Welten klüger ist als wir. Eine Superintelligenz eben. Dass dies durchaus das letzte große Ding sein könnte, dass der Mensch erfindet, liegt mehr als nur im Bereich des Möglichen. Kein Wunder also, dass man sich daran macht, über alle möglichen Szenarien nachzudenken:
Was wird eine Superintelligenz machen? Welchen Werten wird sie folgen? Wie kann man ihr diese Werte beibringen? Kann man eine Superintelligenz überhaupt noch kontrollieren? Oder in die Schranken weisen, wenn sie es zu bunt treibt? Oder wird diese Superintelligenz schneller als wir glauben die Weltherrschaft an sich reißen und den Menschen möglicherweise sogar ausrotten?
Nick Bostrom hat in seinem Buch an alles gedacht und wohl als einer der ersten die Gefahren erkannt. So spricht er also (auf teilweise recht komplizierte, weil mathematische Weise) von den unterschiedlichen Arten einer Superintelligenz: Sie kann auf einer Gehirnemulation basieren, auf Menschen, die in irgendeiner Form eine Intelligenzsteigerung erfahren (wir reden hier nicht davon, ob das moralisch verwerflich ist), oder rein auf Algorithmen basieren. Sie kann ihren „Take-off“, also den Schritt von der Intelligenz zur Superintelligenz sehr rasch vollziehen, gemäßigt oder langsam. Tut sie es schnell – also innerhalb weniger Tage oder Wochen – so ist es wohl schlecht um uns bestellt. Tut sie es langsam, also im Laufe von Dekaden, so haben wir mitunter eine Chance. Das Wichtigste dabei scheint die Frage zu sein, welche Werte wir dieser Intelligenz mitgeben. Und wie man solche abstrakten Begriffe wie Glück, Freundschaft, Liebe, Zusammenhalt usw. eigentlich in eine Programmiersprache umwandeln will. Letzten Endes stellt man sich bei dieser Lektüre schon die Frage: Warum genau wollen wir diese Superintelligenz eigentlich?
Wer sich vor sehr viel Mathematik und noch mehr Fremdwörtern nicht fürchtet und zudem wissen will, wie nahe wir schon an der Entstehung dieser Superintelligenz dran sind, der sollte das Buch lesen. Wer von Mathe ebenso wenig versteht wie ich, und wegen der Fremdwörter beinahe ohne Unterbrechung Wikipedia nebenbei geöffnet hat und dennoch keine Angst vor diesem Buch hat, dem wird mit Sicherheit zumindest ein Gefühl davon vermittelt, was auf uns zukommt, wenn eines Tages eine Superintelligenz ihre Augen öffnet.
Schwere Kost!

Superintelligenz, von Nick Bostrom, ISBN 9783518586846