Digitale Personen wären eine noch größere Sache

Dieser Beitrag wurde am 27. Juli 2021 von Holden Karnofsky im englischen Original auf Cold Takes veröffentlicht und im Jahr 2023 ins Deutsche übersetzt.

 

Einführung

In einem früheren Beitrag hieß es: 

Die Zukunftsvorstellungen mancher Menschen erinnern an das, was man in Science-Fiction-Filmen sieht. Aber verglichen mit der Zukunft, die ich erwarte, wirken diese Science-Fiction-Zukünfte geradezu gewöhnlich … 

Die Zukunft, die ich mir vorstelle, ist viel größer, schneller, verrückter und entweder viel besser oder sehr viel schlechter als die Gegenwart. Außerdem könnte diese Zukunft wesentlich früher eintreten, als die Science-Fiction-Variante: Ich denke, dass uns bestimmte, anscheinend realisierbare Technologien zügig dorthin bringen könnten.

In diesem Beitrag geht es um digitale Personen, einem Beispiel¹ für eine Technologie, die zu einer extrem großen, schnellen und verrückten Zukunft führen könnte. 

Um eine Vorstellung von digitalen Menschen zu bekommen, kannst du dir eine Computersimulation einer konkreten Person in einer virtuellen Umgebung vorstellen.

Zum Beispiel eine Simulation von dir, die auf alle „virtuellen Ereignisse“ — virtuellen Hunger, virtuelles Wetter, einen virtuellen Computer mit Email-Posteingang — genauso reagiert wie du selbst reagieren würdest. (Wie in Matrix? Siehe Fußnote.)² Ich erkläre dieses Konzept ausführlicher im Begleitartikel zu den häufig gestellten Fragen.

Die populärkulturellen Beiträge zu diesem Thema konzentrieren sich für gewöhnlich auf das Streben nach digitaler Unsterblichkeit: Menschen, die dem Tod entgehen, indem sie selbst eine digitale Form annehmen, ebenso, wie du deine Daten mithilfe eines Backups gegen Verlust absicherst.

Neben den anderen potenziellen Auswirkungen digitaler Personen, wird dieser Aspekt für mich zur Lappalie. Ich denke dabei insbesondere an:

• Produktivität. Digitale Personen könnten kopiert werden, so wie wir heute problemlos Kopien von nahezu jeder Software anfertigen können. Sie könnten außerdem viel schneller arbeiten als Menschen. Daher könnten digitale Menschen einen ähnlichen Effekt haben wie der Duplikator, nur deutlich verstärkt: ein (in der Geschichte oder in Science-Fiction-Filmen) noch nie dagewesenes Maß an Wirtschaftswachstum und Produktivität.
• Sozialwissenschaften. Heutzutage sehen wir große Fortschritte beim Verständnis wissenschaftlicher Gesetze und bei der Entwicklung cooler neuer Technologien. Unser Verständnis der menschlichen Natur und des menschlichen Verhaltens wächst im Gegensatz dazu nur sehr schleppend. Digitale Personen würden diese Dynamik grundlegend verändern: man könnte ohne Weiteres Kopien von sich selbst erstellen (einschließlich beschleunigter, vorübergehender Kopien), um zu erforschen, wie sich unterschiedliche Entscheidungen, Lebensstile und Umgebungen auf sie auswirken. Der Vergleich von Kopien wäre weitaus aufschlussreicher als es derzeitige sozialwissenschaftliche Studien je sein könnten.
• Kontrolle über die Umgebung. Digitale Personen würden die Welt erleben, die sie (oder die Schöpfer ihrer virtuellen Umgebung) wollen. Unter der Annahme, dass digitale Personen tatsächlich bewusste Erfahrungen haben (eine Annahme, die in den häufig gestellten Fragen diskutiert wird), könnte dies eine gute Sache sein (es sollte möglich sein, Krankheiten, materielle Armut und nicht einvernehmliche Gewalt für digitale Menschen zu beseitigen) oder eine schlechte (wenn die Menschenrechte missachtet werden, könnten digitale Menschen einem beängstigenden Maß an Kontrolle ausgesetzt sein).
• Ausbreitung in den Weltraum. Die Population der digitalen Personen könnte schwindelerregend groß werden, und die Computer, die sie steuern, könnten über unsere gesamte Galaxie und darüber hinaus verteilt sein. Digitale Personen könnten überall dort existieren, wo Computer betrieben werden können — die Besiedlung des Weltraums könnte also für digitale Personen einfacher sein als für biologische Menschen.
• Lock-In. In der heutigen Welt sehen wir die Zukunft üblicherweise als unvorhersehbar und unkontrollierbar an. Politische Regime, Ideologien und Kulturen kommen und gehen (und entwickeln sich weiter). Aber eine Gemeinschaft, Stadt oder Nation von digitalen Personen könnte viel stabiler sein.
  • Digitale Personen müssen weder sterben noch altern.
  • Wer auch immer eine „virtuelle Umgebung“ mit einer Gemeinschaft digitaler Personen einrichtet, könnte dauerhaft große Kontrolle darüber haben, wie diese Gemeinschaft aussieht. Die Schöpfer könnten beispielsweise eine Software einbauen, die die Gemeinschaft (das heißt sowohl die virtuelle Umgebung als auch die Personen darin) auf einen früheren Zustand zurücksetzt, wenn sich bestimmte Dinge ändern — etwa wer an der Macht ist oder welche Religion vorherrscht. 
  • Ich halte dies für einen beunruhigenden Gedanken, denn er könnte einen lang anhaltenden Autoritarismus begünstigen, aber auch Dinge wie den dauerhaften Schutz bestimmter Menschenrechte ermöglichen.

Ich glaube, dass diese Auswirkungen (die weiter unten erläutert werden) sehr gut oder sehr schlecht sein können. Die Art und Weise, wie die ersten Jahre mit digitalen Menschen verlaufen, könnte unwiderruflich darüber entscheiden, ob es bergauf oder bergab geht.

Ich bin der Ansicht, dass jede Technologie, die a) eine extreme Kontrolle über unsere Erfahrungen und unser Umfeld ermöglicht und b) vermag, den menschlichen Geist zu duplizieren, ähnliche Konsequenzen hätte. Folglich bieten sich potenziell viele verschiedene Wege, die in eine so verrückte Zukunft führen können, wie ich sie hier skizziere. Ich schreibe über die Möglichkeit digitaler Menschen, da sie gut verdeutlicht, welche Konsequenzen sich aus (a) und (b) ergeben: Es geht im Wesentlichen darum, den wichtigsten Baustein unserer Welt (den menschlichen Verstand) in einen Bereich (Software) zu übertragen, in dem uns die Idee vertraut ist, dass wir jedes gewünschte Verhalten genauestens programmieren können. 

Ein Großteil dieses Beitrags ist durch Age of Em inspiriert, ein so ungewöhnliches wie faszinierendes Buch. Es versucht, eine äußerst detaillierte Beschreibung davon zu geben, wie eine hypothetische Welt digitaler Menschen (oder speziell von Gedanken-Uploads) aussehen könnte, zielt dabei aber (im Gegensatz zu Science-Fiction) eher auf prognostische Genauigkeit als auf Unterhaltung ab. An vielen Stellen finde ich es zu spezifisch, und insgesamt erwarte ich nicht, dass die darin beschriebene Welt am Ende viel mit einer realen Welt voller digitaler Menschen gemein haben wird. Es gibt jedoch eine Reihe von Abschnitten, die meiner Meinung nach verdeutlichen, wie mächtig und radikal transformativ die Technologie digitaler Menschen sein könnte.

Im Folgenden werde ich:

• Die Grundidee digitaler Personen beschreiben und einen Link zu den häufig gestellten Fragen zu dieser Idee bereitstellen.
• Die oben aufgelisteten potenziellen Auswirkungen digitaler Personen durchgehen.

Der folgende Beitrag kann in verschiedener Reihenfolge gelesen werden. Hier ist ein allgemeiner Leitfaden für den Haupttext und die häufig gestellten Fragen:

	Normale Menschen	Digitale Personen
Heute möglich (Mehr)	ja	nein
Wahrscheinlich in Zukunft möglich (Mehr)	ja	ja
Fähig mit der realen Welt zu interagieren, führen die meisten Berufe aus (Mehr)	ja	ja
Bewusst, sollten Menschenrechte genießen (Mehr)	ja	ja
Leicht zu duplizieren, à la Duplikator (Mehr)	nein	ja
Können beschleunigt betrieben werden (Mehr)	nein	ja
Können vorübergehende, beschleunigte  Kopien von sich erstellen und dann in einen Ruhestand mit langsamer Laufrate übergehen (Mehr)	nein	ja
Produktivität und Sozialwissenschaften:  könnten ein beispielloses Maß an Wirtschaftswachstum, Produktivität und Wissen über menschliche Natur und menschliches Verhalten erzeugen (Mehr)	nein	ja
Kontrolle über die Umgebung: können ihre eigene Erfahrung beliebig gestalten (Mehr)	nein	ja
Lock-in: könnten in äußerst stabilen Zivilisationen ohne Tod oder Altern leben und gewissen Wandel per „digitalem Reset“ verhindern. (Mehr)	nein	ja
Ausbreitung in den Weltraum: Können ohne Weiteres leben, wo auch immer man Computer betreiben kann, womit sie sich in hohem Maße für eine galaktische Expansion eignen (Mehr)	nein	ja
Gut oder schlecht? (More)	Überschreitet den Rahmen dieses Beitrags	Könnten sehr gut oder schlecht sein

Prämissen

In diesem Beitrag geht es darum, wie digitale Menschen die Welt verändern könnten. Ich gehe davon aus, dass digitale Menschen genau wie wir sind, nur dass sie leicht kopiert werden können, mit unterschiedlichen Geschwindigkeiten laufen und in virtuelle Umgebungen eingebettet sind. Insbesondere werde ich davon ausgehen, dass digitale Menschen ein Bewusstsein haben, Menschenrechte besitzen und die meisten Dinge tun können, die Menschen können, einschließlich mit der realen Welt zu interagieren.

Ich gehe davon aus, dass es vielen Lesern schwer fallen wird, sich darauf einzulassen, bis sie Antworten auf einige grundlegendere Fragen über digitale Menschen erhalten. Daher möchte ich die Leser:innen ermutigen, auf alle Fragen zu klicken, die in den begleitenden Häufigen Fragen hilfreich klingen, oder die häufig gestellten Fragen einfach nur durchzulesen. Hier ist die Liste der häufig gestellten Fragen:

• Grundlagen
  • Grundlagen digitaler Personen
  • Ich finde das alles nur schwer vorstellbar. Könntest du eine Analogie verwenden? 
  • Könnten digitale Personen mit der realen Welt interagieren? Könnte beispielsweise ein Unternehmen in der realen Welt eine digitale Person als Mitarbeiter einstellen?
• Menschen und digitale Personen
  • Könnten digitale Personen bewusst sein? Sollten sie Menschenrechte besitzen? 
  • Nehmen wir mal an, du liegst falsch, dass digitale Personen zu keinem Bewusstsein fähig wären. Inwiefern würden das deine Ansichten hinsichtlich ihres Potenzials, unsere Welt zu verändern, beeinflussen? 
• Realisierbarkeit
  • Sind digitale Personen wirklich realisierbar? 
  • Wie bald können wir mit dieser Technologie rechnen? 
• Weitere Fragen
  • Ich tue mich schwer, mir eine Welt von digitalen Personen vorzustellen — wie die Technologie eingeführt würde, wie sie mit uns interagieren würden etc. Könntest du ein detailliertes  Szenario zeichnen, von dem Übergang unserer heutigen Welt hin zu einer Welt voller digitaler Personen? 
  • Gibt es einen Unterschied zwischen digitalen Menschen und Gedanken-Uploads? 
  • Wäre eine digitale Kopie von mir wirklich „ich“? 
  • Welche Fragen könnte ich noch stellen? 

Wie könnten digitale Personen die Welt verändern?

Produktivität

Wie jede Software können auch digitale Menschen unmittelbar und präzise kopiert werden. In Der Duplikator postuliere ich, dass die Fähigkeit, „Menschen zu kopieren“, zu einem beschleunigten Wirtschaftswachstum führen könnte: „In den letzten 100 Jahren hat sich die Größe der Wirtschaft alle paar Jahrzehnte verdoppelt. Mit einem Duplikator könnte sie sich jedes Jahr oder jeden Monat verdoppeln, den Grenzen des Möglichen entgegenlaufend.“

Digitale Menschen könnten einen noch dramatischeren Effekt erzielen, da sie sich sowohl beschleunigen (vielleicht um das Tausend- oder Millionenfache)³ als auch verlangsamen lassen (um Kosten zu sparen). Dies könnte sowohl die Geschwindigkeit als auch die Fähigkeit zur Koordinierung weiter erhöhen.⁴

Ein weiterer Faktor, der die Produktivität steigern könnte: „vorübergehende“ digitale Personen könnten eine Aufgabe erledigen und sich dann in ein nettes virtuelles Leben zurückziehen, während sie sehr langsam (und billig) betrieben werden.⁵

Dies könnte einige digitale Menschen dazu verleiten, sich selbst für vorübergehende Zwecke zu kopieren. Digitale Menschen könnten sich zum Beispiel hunderte Male selbst kopieren und verschiedene Ansätze zur Lösung eines Problems oder zur Erlangung einer Fähigkeit auszuprobieren. Schließlich könnten sie dann lediglich die erfolgreichste Version von sich behalten und vervielfältigen. Es ist denkbar, dass digitalen Personen eine geringere wirtschaftliche Bedeutung zukommt als dem Duplikator, da ihnen der menschliche Körper fehlt. Diese Überlegung dürfte aber nur eine untergeordnete Rolle spielen (Einzelheiten in der Fußnote).⁶

Sozialwissenschaften

Heute sehen wir in einigen Bereichen eine Menge beeindruckender Innovationen und Fortschritte, während andere sich kaum fortentwickeln.

Zum Beispiel können wir stetig billigere, schnellere Computer und zunehmend realistische  Videospiele kaufen, aber wir scheinen uns nicht konstant darin zu verbessern, Freundschaften zu schließen, uns zu verlieben oder unser Glück zu finden.⁷ Auch werden wir nicht unbedingt besser, wenn es um unsere Versuche geht, Sucht zu besiegen oder uns so zu verhalten, wie wir uns (rückblickend) verhalten wollen.

Eine Möglichkeit, diese Asymmetrie zu betrachten, ist, dass die Naturwissenschaften (z. B. Physik, Chemie, Biologie) viel beeindruckendere Fortschritte machen als die Sozialwissenschaften (z. B. Wirtschaft, Psychologie, Soziologie). Oder: „Wir machen große Fortschritte beim Verständnis der Naturgesetze, aber nicht so sehr beim Verständnis von uns selbst.“

Digitale Personen könnten die Situation drastisch verändern. Die Technologie könnte die Lösung für das sein, was den sozialwissenschaftlichen Fortschritt aus meiner Sicht grundsätzlich ausbremst: Es ist zu schwierig, zuverlässige Experimente durchzuführen und saubere Vergleiche anzustellen. Nehmen wir an, das wir mit unseren aktuellen Möglichkeiten herausfinden wollen, ob es Menschen hilft, Meditation zu üben: 

• Wir könnten Menschen, die meditieren, mit Menschen vergleichen, die nicht meditieren, aber zwischen diesen Menschen wird es viele Unterschiede geben, und wir vermögen nicht, die Wirkung der Meditation selbst zu isolieren. (Forschende versuchen dies mit verschiedenen statistischen Verfahren aufzufangen, die jedoch ihre eigenen Probleme aufwerfen). 
• Wir könnten auch versuchen, ein Experiment durchzuführen, bei dem Menschen nach dem Zufallsprinzip zugewiesen wird, ob sie meditieren sollen oder nicht. Aber wir brauchen viele Teilnehmer, alle zur gleichen Zeit und unter den gleichen Bedingungen, in der Hoffnung, dass sich die Unterschiede zwischen Meditierenden und Nicht-Meditierenden statistisch „auswaschen“ und wir die Effekte der Meditation feststellen können. Heutzutage sind diese Art von Experimenten — sogenannte „randomisierte kontrollierte Studien“ — teuer, logistisch anspruchsvoll und zeitaufwändig und führen fast immer zu mehrdeutigen und schwer zu interpretierenden Ergebnissen.

Stellen wir dieselbe Frage in einer Welt mit digitalen Personen:

• Jede beliebige Person könnte eine Kopie von sich selbst erstellen, um die Meditation auszuprobieren und sich ihr vielleicht sogar mehrere Jahre lang zu widmen (möglicherweise in beschleunigter Form).⁸ Sollten sie mit den Ergebnissen zufrieden sein, könnten sie selbst mehrere Jahre lang meditieren und sicherstellen, dass alle künftigen Kopien von Versionen stammen, die die Früchte jahrelanger Meditation geerntet haben.
• Forschende könnten Menschen untersuchen, die solche Dinge ausprobiert haben, und Muster erkennen, was weitaus aufschlussreicher wäre, als es die heutige sozialwissenschaftliche Forschung zu sein vermag. (Sie könnten außerdem gezielte Experimente durchführen, indem sie Menschen rekrutieren/bezahlen, die Kopien von sich selbst machen, um verschiedene Lebensstile, Städte, Schulen usw. auszuprobieren. — Diese könnten viel kompakter, billiger und eindeutiger sein als die heutigen sozialwissenschaftlichen Experimente.)⁹

Die Möglichkeit, Experimente durchzuführen, kann gut oder schlecht sein, je nachdem, wie fundiert und durchsetzbar die wissenschaftliche Ethik ist. Wäre der Grundsatz der aufgeklärten Zustimmung nicht ausreichend geschützt, könnten digitale Personen ein enormes Missbrauchspotenzial eröffnen; Würde er hingegen beachtet, könnten die Versuche hoffentlich in erster Linie Lernprozesse fördern.

Digitale Personen könnten außerdem Folgendes ermöglichen:

• Überwindung von Vorurteilen. Digitale Menschen könnten Kopien von sich selbst anfertigen (einschließlich vorübergehender, beschleunigter Kopien), um Argumente zu prüfen, die auf unterschiedliche Art und Weise von verschiedenen Personen vorgetragen werden, auch von Personen mit unterschiedlicher Herkunft und unterschiedlichem Geschlecht. So könnten sie objektiv prüfen, ob die Kopien zu unterschiedlichen Schlussfolgerungen kämen. Auf diese Weise könnten sie herausfinden, welche kognitiven Vorurteile — von Sexismus und Rassismus bis hin zu Wunschdenken und Ego — ihre Urteile beeinflussen und daran arbeiten, diese Vorurteile zu überwinden. (Selbst wenn die Leute keine Motivation hierfür hätten, müssten sie es vielleicht trotzdem tun, da andere ihr Level an Voreingenommenheit erfragen könnten, und erwarten dürften, klare Daten zu erhalten.)
• Ein ungeahntes Niveau an produktiver Reflexion und Diskussion. Digitale Menschen könnten Kopien von sich selbst erstellen (einschließlich beschleunigter, vorübergehender Kopien), um bestimmte Fragen der Philosophie, Psychologie usw. eingehend zu studieren und zu diskutieren, und ihre Ergebnisse später zusammengefasst dem Original zur Verfügung stellen.¹⁰ Indem sie sehen, wie verschiedene Kopien mit unterschiedlichen Fachkenntnissen und Lebenserfahrungen sich unterschiedliche Meinungen gebildet haben, könnten sie viel durchdachtere, fundiertere Antworten auf Fragen wie „Was will ich im Leben?“, „Warum will ich es?“, „Wie kann ich ein Mensch sein, auf den ich stolz bin?“ usw. geben.

Virtuelle Realität und Kontrolle der Umwelt

Wie eingangs erwähnt, könnten digitale Menschen in „virtuellen Umgebungen“ leben. Um eine virtuelle Umgebung zu gestalten, würden Programmierer systematisch die richtige Art von Lichtsignalen, Tonsignalen usw. erzeugen, die sie an eine digitale Person senden, als ob sie „wirklich da“ wären.

Man könnte sagen, dass die historische Rolle von Wissenschaft und Technologie darin besteht, dem Menschen mehr Kontrolle über seine Umwelt zu geben. Hierbei könnte man den digitalen Menschen praktisch als logischen Endpunkt dieser Entwicklung betrachten: Der digitale Mensch würde die Welt genau so erleben, wie er (oder die Schöpfer seiner virtuellen Umgebung) sie haben möchte.

Das könnte eine sehr schlechte oder gute Sache sein:

Eine schlechte Sache. Wer auch immer die virtuelle Umgebung einer digitalen Person kontrolliert, könnte nahezu unbegrenzte Kontrolle über sie haben.

• Daher wäre es für eine Welt der digitalen Menschen wichtig, dass die grundlegenden Menschenrechte für alle digitalen Personen wirksam durchgesetzt werden. (Mehr hierzu in den häufig gestellten Fragen.)
• Sollten die digitalen Personen nicht durch die Menschenrechte geschützt sein, könnte eine solche Welt sehr schnell dystopisch werden. Stell dir beispielsweise vor, dass die Regel lautet: „Wer einen Server besitzt, kann darauf laufen lassen, was er will, einschließlich digitaler Kopien von beliebigen Personen.“ Dann könnten die Leute „digitale Kopien“ von sich selbst erstellen, mit denen sie Experimente durchführen, die sie zur Arbeit zwingen und die sogar offen zugänglich sind, so dass jeder, der einen Server betreibt, Kopien erstellen und missbrauchen kann. Diese sehr kurze Geschichte (empfehlenswert, aber gruselig) gibt einen Vorgeschmack darauf, wie das aussehen könnte.

Eine gute Sache. Hätte eine digitale Person hingegen die Kontrolle über ihr eigenes Umfeld (oder jemand anderes hätte sie und würde verantwortungsvoll mit ihr umgehen), könnte sie sich von allen Erfahrungen befreien, von denen sie frei sein möchte, einschließlich Hunger, Gewalt, Krankheit, anderen Formen von Leid und lähmenden Schmerzen jeglicher Art. Grob gesagt könnten sie „frei von materiellen Bedürfnissen“ sein — abgesehen natürlich von den Ressourcen für die Rechenleistung, die notwendig ist, um überhaupt zu existieren.

• Diese Welt unterscheidet sich grundlegend von der heutigen. Wenn du in der heutigen Welt an Krebs erkrankst, wirst du Schmerz und Einschränkungen erleiden, auch wenn die ganze Welt sich das Gegenteil wünscht. Digitale Personen müssen keine Erfahrungen mit Krebs machen, sofern sie und andere dies vermeiden möchten. 
• Insbesondere könnten virtuelle Umgebungen in einer Weise gestaltet werden, die physischen Zwang unmöglich macht (es könnte schlicht unmöglich sein, einer anderen digitalen Person Signale zu übermitteln, die z. B. einem Schlag oder Schuss entsprechen).
• Darüber hinaus könnten digitale Menschen viele Dinge erleben, die wir heute nicht erleben können — in den Körper einer anderen Person schlüpfen, in den Weltraum reisen, sich in eine „gefährliche“ Situation begeben, ohne tatsächlich in Gefahr zu sein, zu essen, ohne sich Gedanken über die gesundheitlichen Folgen zu machen, von einer ethnischen Zugehörigkeit oder einem Geschlecht in ein anderes zu wechseln usw.

Ausbreitung in den Weltraum

Sollten die digitalen Menschen, wie oben beschrieben, ein explosionsartiges Wirtschaftswachstum erfahren, könnte dies mit einer explosionsartigen Zunahme der digitalen Bevölkerung einhergehen (aus Gründen, die in der Duplikator erörtert werden).

Es könnte der Punkt erreicht werden, an dem sie Raumschiffe bauen und das Sonnensystem verlassen müssten, um genug Energie, Metall usw. zu bekommen, die letztlich den Bau weiterer Computer und digitaler Leben sichern würden. Die Besiedlung des Weltraums könnte für digitale Menschen viel einfacher sein als für biologische Menschen. Sie könnten überall dort existieren, wo man Computer betreiben kann, und die dafür notwendigen Grundstoffe — Rohstoffe, Energie und „Räumlichkeiten“¹¹ — sind nicht nur auf der Erde, sondern in unserer gesamten Galaxie im Überfluss vorhanden. Aus diesem Grund könnte die Population der digitalen Menschen am Ende schwindelerregend groß werden.¹²

Lock-in

In der heutigen Welt sehen wir die Zukunft üblicherweise als unvorhersehbar und unkontrollierbar an. Politische Regime, Ideologien und Kulturen kommen und gehen (und entwickeln sich weiter). Einige sind gut, andere schlecht, aber im Allgemeinen scheint es nicht so, als ob diese Phänomene ewig andauern würden. Eine Gemeinschaft, Stadt oder Nation von digitalen Menschen könnte jedoch viel stabiler sein.

Der erste Grund ist, dass digitale Menschen nicht sterben oder physisch altern müssen. Außerdem müssen sie keine Verschlechterung ihrer Umgebung oder Ressourcenknappheit  befürchten. Solange sie ihren Server am Laufen halten, kann alles in ihrer virtuellen Umgebung so bleiben, wie es ist.

Der zweite Grund ist, dass eine Umgebung absichtlich in einer Weise gestaltet werden kann, die Stabilität erzwingt. Stell dir Folgendes vor: 

• Eine Gemeinschaft digitaler Personen bildet ihre eigene Regierung (dazu müsste sie ihre ursprüngliche Regierung entweder überwältigen oder deren Zustimmung einholen).
• Die Regierung wird autoritär und hebt den Schutz der grundlegenden Menschenrechte auf, den ich in den häufig gestellten Fragen diskutiere. 
• Das Oberhaupt will sicherstellen, dass es — oder vielleicht die Ideologie seiner Wahl — für immer an der Macht bleibt.
• Die führende Gruppe könnte die virtuelle Umgebung, in der sie und alle anderen Bürger sich befinden, umgestalten (indem sie sich Zugang zum Quellcode verschaffen oder Roboter einsetzen, die den Server physisch verändern), so dass bestimmte Änderungen der Umgebung unmöglich werden — wie zum Beispiel ein Machtwechsel. Würde trotzdem eines Tages am Regierungsstuhl gesägt werden, könnte die virtuelle Umgebung die Aktion einfach blockieren oder sich auf einen früheren Zustand zurücksetzen.
• Es wäre immer noch möglich, die virtuelle Umgebung von außen zu modifizieren — z. B. den Server, auf dem sie läuft, physisch zu zerstören, zu hacken oder anderweitig zu verändern.
• Sollte die Pläne hierfür jedoch nach einer langen Periode des Bevölkerungswachstums und der Weltraumbesiedlung aufkommen, dann könnte der Server sehr weit weg stehen, Lichtjahre entfernt von jeder Person, die Interesse an einer solchen Aktion hätte.

Andererseits könnte die „digitale Korrektur“ auch eine positive Dynamik entfalten — wenn sie klug eingesetzt wird. Sie könnte dafür sorgen, dass kein Diktator jemals an die Macht kommt oder dass bestimmte grundlegende Menschenrechte unumstößlich geschützt werden. Wenn eine Zivilisation „reif“ genug geworden ist — z.B. fair, gerecht und wohlhabend, mit einem Bekenntnis zu Freiheit und Selbstbestimmung und einer Bevölkerung, die durchweg gute Leben führt — könnte sie diese Eigenschaften für eine sehr lange Zeit behalten.

Mir sind nicht viele eingehende Analysen des „Lock-in-Gedankens“ bekannt, aber hier gehe ich näher darauf ein. Aktualisierung vom Dezember 2022: Eine weitere Analyse zu diesem Punkt findest du hier.

Wäre das eine gute oder eine schlechte Sache?

Ich kann mir vorstellen, dass viele Leser:innen während der gesamten Lektüre dieses Artikels gedacht haben: „Das klingt ja schrecklich! Hält der Autor das für gut?“ Oder „Das klingt großartig! Ist der Autor etwa anderer Meinung?“

Meiner Meinung nach könnte eine Zukunft mit digitalen Menschen sehr gut oder sehr schlecht sein, und die Art und Weise, wie sie vorbereitet und umgesetzt wird, könnte unwiderruflich darüber entscheiden.

• Ein übereilter Einsatz von Lock-in (siehe oben) und/oder eine zu schnelle Ausbreitung in der Galaxie (siehe oben) könnte zu einer gigantischen Welt voller (bewusster) digitaler Menschen  führen, die stark dysfunktional oder dystopisch ist oder zumindest ihr Potenzial verwirkt.
• Aber akzeptable Ausgangsbedingungen (mindestens der Schutz grundlegender Menschenrechte für digitale Menschen) sowie eine Menge Geduld, gesammelte Weisheit und Selbsterkenntnis (vielleicht begünstigt durch verbesserte Sozialwissenschaften), die wir bislang nicht haben, könnten zu einer großen, stabilen und weitaus besseren Welt führen. Es sollte möglich sein, Krankheiten, materielle Armut und nicht-einvernehmliche Gewalt zu beseitigen und eine Gesellschaft zu schaffen, die wesentlich wünschenswerter ist als die heutige.

---

Fußnoten

1. Das beste Beispiel, das mir einfällt, aber mit Sicherheit nicht das einzige. ↩︎
2. Der Film „Matrix" gibt mit seiner vollumfänglichen virtuellen Realität eine gute Vorstellung von dieser Idee, aber anders als die Helden der Matrix muss eine digitale Person nicht mit einer physischen Person verbunden sein — sie könnte rein als Software existieren. ↩︎
3. "Siehe Age of Em Kapitel 6, beginnend mit "Regarding the computation ..." ↩︎
4. Wenn beispielsweise mehrere Teams von digitalen Personen ein Projekt koordinieren müssen, können sie bestimmte Schritte und Teams beschleunigen (oder verlangsamen), um sicherzustellen, dass jeder Teil des Projekts pünktlich fertig wird. Auf diese Weise könnten auch komplexere, „fragile" Pläne letztlich aufgehen. (Dieser Punkt stammt aus Age of Em Kapitel 17, Abschnitt "Preparation"). ↩︎
5. Siehe Age of Em Kapitel 11, Abschnitt "Retirement" ↩︎
6. Ohne menschliche Körper — und je nachdem, welche Arten von Robotern zur Verfügung stehen — sind digitale Menschen für gewisse Jobs möglicherweise kein guter Ersatz für Menschen. Beispielsweise wenn es um Jobs geht, die stark von typisch menschlichen körperlichen Fähigkeiten abhängen, oder um Jobs, die eine persönliche Interaktion mit biologischen Menschen erfordern.
   Wahrscheinlich wären digitale Menschen jedoch in der Lage, alles zu tun, was für ein explosives Wirtschaftswachstum erforderlich ist, auch wenn sie nicht alles tun könnten. Insbesondere scheinen sie alles tun zu können, was nötig ist, um das Angebot an Computern zu erhöhen und damit die Population der digitalen Menschen zu vergrößern.
   Um mehr Rechenleistung zu erzeugen, braucht man a) Rohstoffe — hauptsächlich Metall; b) Forschung und Entwicklung — um die Computer zu entwerfen; c) Produktion — um den Entwurf auszuführen und Rohstoffe in Computer zu verwandeln; d) Energie. Digitale Menschen könnten all diese Dinge sehr viel billiger und ergiebiger fördern:
   
   *Rohstoffe. Es scheint, dass der Rohstoffabbau prinzipiell vollständig mit Robotern durchgeführt werden könnte. Digitale Menschen könnten diese Roboter entwerfen und anweisen, die Rohstoffe so effizient wie möglich abzubauen.
   
   *Forschung und Entwicklung. Meines Erachtens ist dies ein zentraler Faktor für die heutigen Kosten von Rechenleistung: die Arbeit, die für die Entwicklung immer besserer Mikroprozessoren und anderer Computerteile erforderlich ist. Digitale Menschen könnten diese Arbeit gänzlich virtuell erledigen.
   
   *Produktion. Meines Erachtens ist dies der andere wichtige Faktor, der heutzutage die Kosten von Rechenleistung bestimmt. Wie der Rohstoffabbau könnte auch diese Arbeit im Prinzip vollständig von Robotern erledigt werden.
   
   *Energie. Auch Solarzellen sind  abhängig von (a) besserer Forschung und Entwicklung; (b) robotergesteuerter Produktion. Eine hinreichend gute Entwicklung und Herstellung von Solarzellen könnte zu radikal billigerer und reichhaltigerer Energie führen.
   
   *Erforschung des Weltraums. Rohstoffe, Energie und „Räumlichkeiten" sind extraterrestrisch im Überfluss vorhanden. Wenn digitale Menschen Raumschiffe entwerfen und herstellen könnten, zusammen mit Robotern, die Solarzellen und Computerfabriken bauen könnten, könnten ihnen im Vergleich zu dem, was wir auf der Erde haben, enorme Ressourcen zur Verfügung stehen. ↩︎
7. Man kann darüber streiten, ob die Welt in diesen Bereichen besser oder schlechter wird oder einfach gleich bleibt. Aber es scheint ziemlich klar zu sein, dass die Fortschritte nicht so beeindruckend sind wie in der Informatik. ↩︎
8. Warum sollte die Kopie bei dem Experiment mitmachen? Vielleicht, weil sie einfach mit dem Ziel einverstanden war (ich für meinen Teil würde definitiv mit einer Kopie meiner selbst kooperieren, um etwas über Meditation zu lernen!). Vielleicht, weil sie bezahlt wurde (in Form einer schönen Pension nach dem Experiment). Vielleicht, weil sie sich selbst und ihre Kopien (und/oder das Original) als ein und dieselbe Person ansahen (oder sich zumindest sehr für diese sehr ähnlichen Personen sorgten). Einige Faktoren würden diese Art von Experimenten erleichtern: (a) digitale Menschen könnten ihren eigenen Geisteszustand untersuchen, um ein Gefühl für die Chancen der Zusammenarbeit zu bekommen (da die Kopie den gleichen Geisteszustand hätte); (b) wenn nur eine kleine Anzahl digitaler Menschen experimentieren würde, könnten trotzdem viele Menschen von den Ergebnissen lernen. ↩︎
9. Ich würde auch erwarten, dass sie in der Lage sind, radikalere Dinge auszuprobieren. In der heutigen Welt ist es zum Beispiel unwahrscheinlich, dass man ein randomisiertes Experiment durchführen kann, um herauszufinden, was passiert, wenn Menschen, die derzeit in New York leben, einfach nach Chicago ziehen. Es wäre zu schwierig, Menschen zu finden, die bereit sind, nach dem Zufallsprinzip entscheiden zu lassen, ob sie in New York bleiben oder nach Chicago ziehen. Aber in einer Welt der digitalen Menschen könnte die Studienleitung New Yorker dafür bezahlen, Kopien von sich selbst zu erstellen, die nach Chicago ziehen. Und nach dem Experiment könnte sich jede Kopie aus Chicago, die gerne in New York geblieben wäre, dafür entscheiden, sich durch eine andere Kopie der New Yorker Version zu ersetzen. (Letzteres wirft Fragen zur Philosophie der persönlichen Identität auf, aber für sozialwissenschaftliche Zwecke ist nur wichtig, dass einige Menschen aufgrund dieser Option gerne an Experimenten teilnehmen würden, und jeder könnte aus den Experimenten lernen). ↩︎
10. Siehe die Fußnote 30 zum ersten Aufzählungspunkt, warum die Kopien digitaler Personen mit ihnen zusammenarbeiten mögen. ↩︎
11. Und Luft zur Kühlung. ↩︎
12. Die Schätzungen in Astronomische Verschwendung vermitteln ein ungefähres Gefühl dafür, wie groß die Zahlen hier werden können (obwohl diese Schätzungen äußerst spekulativ sind). ↩︎

---