Aufruf zur Wachsamkeit

Dieser Beitrag wurde am 15. September 2021 von Holden Karnofsky im englischen Original auf Cold Takes veröffentlicht und im Jahr 2023 ins Deutsche übersetzt.

 

 

Dies ist der finale Beitrag in meiner Beitragsreihe rund um  „Das wichtigste Jahrhundert“, in der ich für eine hohe Wahrscheinlichkeit¹ argumentiert habe, dass es in den kommenden Jahrzehnten zu Folgendem kommen wird:

• Entwicklung einer Technologie wie PASTA (Prozess zur Automatisierung  wissenschaftlichen und technologischen Fortschritts).
• Daraus folgend, eine Explosion der Produktivität, die zur Entwicklung weiterer transformativer Technologien führt.
• Die Saat einer stabilen galaktischen Zivilisation, vielleicht mit digitalen Menschen oder gesteuert von unkontrollierbarer KI.

Wenn man versucht, Aufmerksamkeit auf ein unterschätztes Problem zu lenken, wird üblicherweise mit einem „Aufruf zum Handeln“ abgeschlossen: eine konkrete, greifbare Maßnahme, mit der die Leser:innen ihren Beitrag zur Lösung des Problems leisten können.

In diesem Fall stellt dies jedoch eine ganz schöne Herausforderung dar, denn wie ich schon früher erklärt habe, gibt es eine Menge offener Fragen darüber, welche Maßnahmen hilfreich oder schädlich sind. (Obwohl wir heute bereits einige zuverlässig gute Maßnahmen identifizieren können.)

Das bringt mich in eine etwas unangenehme Lage. Wenn ich mich mit der Hypothese des „wichtigsten Jahrhunderts“ auseinandersetze, entspricht meine Haltung nicht den bekannten Mustern von „Aufregung und Bewegung“ oder „Angst und Vermeidung“. Stattdessen spüre ich eine seltsame Mischung aus Intensität, Dringlichkeit, Verwirrung und Zögern. Nie hätte ich mir träumen lassen, eines Tages vor einem Problem solch gigantischen Ausmaßes zu stehen. Ich fühle mich unterqualifiziert und weiß nicht, was ich als Nächstes tun soll. Diese Haltung ist schwer zu teilen und zu verbreiten, aber ich möchte es hier versuchen.

Lage	Angemessene Reaktionen (meiner Ansicht nach)
„Dies könnte ein milliardenschweres Unternehmen sein!“	„Fantastisch, lass es uns angehen!“
„Dies könnte das wichtigste Jahrhundert sein!“	„… Oh … wow … ich weiß nicht, was ich sagen soll und irgendwie ist mir, als müsste ich mich übergeben … ich muss mich hinsetzen und darüber nachdenken.“

Also möchte ich zum Abschluss dieser Serie nicht zum Handeln, sondern zur Wachsamkeit aufrufen. Wenn dich die Argumente in dieser Arbeit überzeugen konnten, dann lass dich nicht vorschnell zu „irgendeiner Maßnahme“ verleiten, um dann zum Alltag zurückzukehren. Ergreife stattdessen die zuverlässig guten Maßnahmen, die dir heute möglich sind und bring dich andernfalls in eine bessere Position, um Wichtiges beizutragen, wenn die Zeit reif ist. 

Das könnte bedeuten: 

• Wege zu finden, um mehr Verbindungen und Wissen zu relevanten Themen/Bereichen/Industrien, wie z. B. KI (aus offensichtlichen Gründen), Wissenschaft und Technologie im Allgemeinen (da ein Großteil der Hypothese des „wichtigsten Jahrhunderts“ auf einer Explosion des wissenschaftlichen und technologischen Fortschritts beruht) und relevanten Bereichen der Politik und der nationalen Sicherheit, aufzubauen.
• Gelegenheiten nutzen (so sie sich denn bieten), um deine Karriere in eine Richtung zu lenken, die mit größerer Wahrscheinlichkeit relevant sein wird (einige meiner Gedanken dazu findest du hier; siehe auch 80,000 Hours).
• Kontakt zu anderen Menschen suchen, die sich für diese Themen interessieren (ich glaube, dass dies in der Vergangenheit einer der Hauptwege war, wie Menschen zu einer Arbeit gelangt sind, die große positive Auswirkungen hatte). Ich denke, dass die Gemeinschaft des Effektiven Altruismus hierfür derzeit der beste Ort ist und über das Centre for Effective Altruism (siehe den Reiter Get Involved) findest du Wege, dich mit Menschen zu vernetzen. Wenn sich in Zukunft neue Möglichkeiten ergeben, mit Menschen in Kontakt zu treten, werde ich sie wahrscheinlich auf Cold Takes veröffentlichen.
• Und natürlich jede verfügbare Gelegenheit nutzen, um zuverlässig gute Maßnahmen zu ergreifen.

Teilen einer Perspektive

In So kann’s nicht weitergehen habe ich die Welt mit Menschen in einem Flugzeug verglichen, die Startbahn herunter rasend, ohne den Grund für die hohe Geschwindigkeit zu kennen oder zu wissen, was als Nächstes kommt:

Als ein Mitreisender auf diesem Flug würde ich dir nur zu gerne sagen, dass ich genau weiß, was vor sich geht und für welche Zukunft wir planen müssen. Aber das kann ich nicht.

In Ermangelung von Antworten habe ich versucht, dir zumindest zu zeigen, was ich sehen kann:

• Unscharfe Umrisse der wichtigsten Ereignisse der  Menschheitsgeschichte, ob nach vorn (Zukunft) oder zurückblickend (Vergangenheit).
• Grund zur Annahme, dass sich diese Ereignisse schneller nähern, als es scheint — ob wir darauf vorbereitet sind oder nicht.
• Das Gefühl, dass auf die Welt und die Regeln, an die wir alle gewöhnt sind, kein Verlass ist. Dass wir unseren Blick über die tägliche Flut greifbarer, nachvollziehbarer Nachrichten erheben müssen, um uns der Möglichkeit verrückterer Dinge zu öffnen, der Art von Dingen, die in Milliarden von Jahren die Schlagzeilen für diese Ära prägen könnten. 

Es gibt Vieles, was ich nicht weiß. Aber wenn dies das wichtigste Jahrhundert ist, dann bin ich der Überzeugung, dass wir den damit verbundenen Herausforderungen als Zivilisation noch nicht gewachsen sind.

Wenn sich das ändern soll, müssen zunächst mehr Menschen diese Ausnahmesituation als solche erkennen, sie ernst nehmen, Maßnahmen ergreifen, wenn sie können — und wenn nicht, wachsam bleiben.

---

Fußnoten

1. „Ich glaube, die Wahrscheinlichkeit, dass wir eine Entität sehen werden, die PASTA hinreichend ähnelt um als ‚transformative KI‘ durchzugehen, liegt innerhalb der nächsten 15 Jahre (bis 2036) bei über 10 %; innerhalb von 40 Jahren (bis 2060) bei ~50 %; und innerhalb dieses Jahrhunderts (bis 2100) bei ~⅔.“ ↩︎