Ich wollte nicht sterben

Wahrscheinlich nicht mein erster Gedanke, aber doch so ziemlich, war, dass ich nicht sterben wollte. Das Leben war fantastisch. Ich liebte meine Freunde und meine Familie, und es tat mir jeden Tag weh, daran zu denken, dass es sie vielleicht eines Tages nicht mehr gibt und ich nicht mehr in der Lage sein könnte, ihnen nahe zu sein. Da ich in einem Vorort von Hamburg aufgewachsen bin, konnte ich damals nicht viel dagegen tun. Ich habe mich dann sehr mit der Philosophie des Existenzialismus beschäftigt und versucht, meinem Leben einen Sinn zu geben.

Dadurch wurde ich von den transhumanistischen Ideen angezogen. Ich dachte: Hey, vielleicht gibt es etwas, das wir langfristig tun können, um die Grenzen, in denen wir Sinn schaffen, zu erweitern. Dadurch entdeckte ich, dass die persönliche Lebenserwartung eigentlich nur ein Teil davon ist, denn die Zivilisation selbst ist nicht sicher. Wenn man ein Kind ist, denkt man nicht viel darüber nach. Man denkt einfach, dass die Geschichte weitergehen wird und dass man nur ein Teil davon bleiben muss. Als ich zum ersten Mal existenzielle Risikoszenarien entdeckte, wurde mir klar: Verdammt, es ist viel schlimmer, als ich dachte.

Danach habe ich mich sehr für existenzielle Risiken und insbesondere für Künstliche Intelligenz interessiert. In meiner Masterarbeit an der London School of Economics (LSE) in Wissenschaftsphilosophie beschäftigte ich mich mit KI-Ethik, wobei ich John Rawls‘ Reflective Equilibrium als Ansatz verwendete. Dort wurde ich Teil der EA-Gemeinschaft der LSE. Ich hatte schon vorher über Effektiven Altruismus (EA) gelesen, aber es dauerte einige Zeit, bis ich verstand, dass sich diese Gemeinschaft auch mit X-Risks befasste. Zunächst hatte ich die falsche Vorstellung, dass sich EAs im Moment hauptsächlich auf sehr messbare Dinge konzentrieren, vor allem im Bereich der globalen Gesundheit, auf Dinge wie Moskitonetze gegen Malaria. Aber dann habe ich mit ein paar Leuten gesprochen und festgestellt, dass das nur die erste Ebene ist. Wenn man tiefer gräbt, machen sie sich sehr viele Gedanken.

Ich habe meine Arbeit geschrieben, kurz nachdem Superintelligence von Nick Bostrom herauskam, und ich habe auch einiges davon in meine Arbeit einfließen lassen. Aber zum ersten Mal bin ich mit all dem durch die Gruppe der Rationalisten in Berührung gekommen. Ich habe die gesamten Sequences (von Eliezer Yudkowski) und die meisten Veröffentlichungen von MIRI (Machine Intelligence Research Institute) gelesen. 

Von dort aus entdeckte ich bei meinen Recherchen die Organisation Foresight online. Sie waren die einzige wirklich optimistische Organisation, die ich finden konnte, die sich auf eine breite Auswahl von Technologien konzentrierte. Foresight wurde 1986 auf der Grundlage des Buches Engines of Creation (von K. Eric Drexler) gegründet. Das war ein fantastisches, phänomenales Buch und ist es immer noch. Also habe ich ihnen eine E-Mail geschrieben: Hey, ich finde es wirklich toll, was ihr da macht, und ihr scheint sehr optimistisch in die Zukunft zu blicken. Dennoch habt ihr einen sehr wissenschaftlichen Hintergrund. Kann ich euch irgendwie helfen?

Ich sollte nach San Francisco „rüberkommen“

Zu meiner großen Überraschung sagten sie mir, ich solle für eine Art Praktikum, das einige Monate dauern sollte, nach San Francisco „rüberkommen“. Seitdem bin ich nie wieder weggegangen.

Die Sequences und die Gemeinschaft der Rationalisten brachten mich zu Foresight, denn Christine Peterson, die Mitbegründerin, sitzt im Beirat von MIRI. Sie war also schon in dieser frühen Phase mit dabei. Gleichzeitig war es auch hilfreich, Teil der EA-Gemeinschaft zu sein.

Ich glaube, die Gemeinschaft und der Fokus von Foresight sind etwas technikorientierter und vielleicht auch optimistischer als einige der EA-Gemeinschaften. Das liegt wahrscheinlich daran, dass die meisten unserer Teilnehmer Wissenschaftler und Technologen sind. Sie sind Forscher oder Unternehmer, die sich intensiv mit Wissenschaft und Technik in den Bereichen molekulare Nanotechnologie, Neurotechnologie, Computertechnik, Raumfahrt und Biotechnologie befassen. Sie haben bereits einen relativ technikorientierten Ansatz für die Zukunft, vielleicht sogar einen optimistischeren.

Interessant ist jedoch, dass sie sich alle sehr um die langfristige Zukunft sorgen, was man in der Tech-Community nicht oft findet. Ich denke, was wir wirklich gut beitragen können, ist dieser differentielle Ansatz der Technologieentwicklung, ein Begriff, den Bostrom schon vor langer, langer Zeit eingeführt hat, der aber bis vor kurzem nie wirklich aufgegriffen wurde. Im Grunde genommen bedeutet dies, dass man einen technologiegesteuerten Ansatz verfolgen kann, bei dem man sicherheitsfördernde Technologien beschleunigt, anstatt nur allgemein Technologien zu beschleunigen. Ich denke, was wir generell zu den verschiedenen technologischen Risikoparadigmen beitragen können, ist ein sehr tiefgreifender technischer Impuls einer Gemeinschaft, die sich sehr um dieses Thema kümmert und wirklich gut darin ist, sicherheitsorientierte Technologien zu entwickeln.

Im Bereich der Künstlichen Intelligenz hat beispielsweise K. Eric Drexler, der Mitbegründer von Foresight, vor mehr als 30 Jahren zusammen mit Mark Miller, der heute Senior Fellow bei Foresight ist, die Agoric Open Systems Papers geschrieben. Dies war eine sehr frühe Erforschung eines dezentralisierten Rahmens mit mehreren Agenten, einige davon Menschen und einige KI, die in einer sehr komplexen Mensch-Computer-Gesellschaft interagieren und dies durch Marktmechanismen tun. Ich denke auch, dass Erics Arbeit an umfassenden KI-Diensten, die später aus dem Future of Humanity Institute hervorging, als er dort war, in gewisser Weise davon inspiriert ist. Auch Mark hat sich eingehend mit diesem Thema beschäftigt, und zwar eher unter dem Gesichtspunkt der Kryptographie und der Sicherheit. Ich denke, dass wir diese andere Art von Perspektive in die KI-Anpassung einbringen, die mehr auf Sicherheit und Kryptographie ausgerichtet ist. Ich denke, dass dies für den Bereich Alignment von Vorteil sein könnte, da die Sicherheits- und Kryptographieexperten sehr viel über das Design sicherer Architekturen nachdenken, in denen mehrere verschiedene Agenten zusammenarbeiten und sich gegenseitig in Schach halten.