Digitale Personen: Häufig gestellte Fragen

Dieser Beitrag wurde am 27. Juli 2021 von Holden Karnofsky im englischen Original auf Cold Takes veröffentlicht und im Jahr 2023 ins Deutsche übersetzt.

 

Dies ist ein Begleitartikel zu Digitale Personen wären eine noch größere Sache, dem dritten Teil meiner Beitragsreihe rund um die Möglichkeit, dass wir im für die Menschheit wichtigsten Jahrhundert leben könnten.

In diesem Beitrag werden grundlegende Fragen zu „digitalen Menschen“ erörtert, d. h. zu extrem detaillierten, realistischen Computersimulationen bestimmter Personen. Dies ist eine hypothetische (aber meiner Meinung nach realistische) Technologie, die für den Übergang zu einer stabilen, pangalaktischen Zivilisation entscheidend sein könnte. (Der Hauptartikel beschreibt die Folgen einer solchen Technologie, während sich dieser Beitrag auf grundlegende Fragen zu ihrer Funktionsweise konzentriert).

Das Bild dieser Zukunftstechnologie wird von zentraler Bedeutung sein, denn ich werde argumentieren, dass KI-Fortschritte möglicherweise noch in diesem Jahrhundert zu digitalen Personen oder einer ähnlich bedeutenden Technologie führen werden. Das transformative Potenzial von etwas wie digitalen Menschen in Verbindung mit der Geschwindigkeit, mit der KI dies ermöglichen könnte, spricht dafür, dass wir uns tatsächlich im wichtigsten Jahrhundert aller Zeiten befinden könnten.

Diese Tabelle (auch im Hauptartikel zu finden) fasst die beiden Beiträge zusammen:

	Normale Menschen	Digitale Personen
Heute möglich (Mehr)	ja	nein
Wahrscheinlich in Zukunft möglich (Mehr)	ja	ja
Fähig mit der realen Welt zu interagieren, führen die meisten Berufe aus (Mehr)	ja	ja
Bewusst, sollten Menschenrechte genießen (Mehr)	ja	ja
Leicht zu duplizieren, à la Duplikator (Mehr)	nein	ja
Können beschleunigt betrieben werden (Mehr)	nein	ja
Können vorübergehende, beschleunigte  Kopien von sich erstellen und dann in einen Ruhestand mit langsamer Laufrate übergehen (Mehr)	nein	ja
Produktivität und Sozialwissenschaften:  könnten ein beispielloses Maß an Wirtschaftswachstum, Produktivität und Wissen über menschliche Natur und menschliches Verhalten erzeugen (Mehr)	nein	ja
Kontrolle über die Umgebung: können ihre eigene Erfahrung beliebig gestalten (Mehr)	nein	ja
Lock-in: könnten in äußerst stabilen Zivilisationen ohne Tod oder Altern leben und gewissen Wandel per „digitalem Reset“ verhindern. (Mehr)	nein	ja
Ausbreitung in den Weltraum: Können ohne Weiteres leben, wo auch immer man Computer betreiben kann, womit sie sich in hohem Maße für eine galaktische Expansion eignen (Mehr)	nein	ja
Gut oder schlecht? (More)	Überschreitet den Rahmen dieses Beitrags	Könnten sehr gut oder schlecht sein

Grundlagen

Grundlagen digitaler Personen

Um eine Vorstellung von digitalen Menschen zu bekommen, kannst du dir eine Computersimulation einer konkreten Person in einer virtuellen Umgebung vorstellen. Zum Beispiel eine Simulation von dir, die auf alle „virtuellen Ereignisse“ (virtuellen Hunger, virtuelles Wetter, einen virtuellen Computer mit Email-Posteingang) genauso reagiert wie du selbst reagieren würdest. 

Der Film „Matrix“ gibt mit seiner vollumfänglichen virtuellen Realität eine gute Vorstellung von dieser Idee, aber anders als die Helden der Matrix muss eine digitale Person nicht mit einer physischen Person verbunden sein — sie könnte rein als Software existieren.¹

Wie jede Software können auch digitale Menschen kopiert (à la Duplikator) und auf verschiedenen Geschwindigkeiten betrieben werden. Ihre virtuellen Umgebungen wären außerdem frei von den Regeln der realen Welt — wer auch immer die Umgebung designt, bestimmt auch ihre Funktion und Eigenschaften. Diese Merkmale sind für die meisten im Hauptartikel erwähnten Folgen verantwortlich.

Ich finde das alles nur schwer vorstellbar. Könntest du eine Analogie verwenden?

Heutzutage gibt es nichts, was wirklich mit einer digitalen Person vergleichbar wäre, aber um dich der Idee zu nähern, kannst du dir folgende simulierte Person vorstellen:

Es handelt sich um den legendären Football-Spieler Jerry Rice, wie er in dem Videospiel Madden NFL 98 dargestellt wird. Wahrscheinlich ist er die beste Simulation des echten Jerry Rice, die man damals (1997) im Rahmen eines Footballspiels kreieren konnte.Die Idee ist, dass diese Videospielfigur exakt so läuft, springt, fängt, den Ball fallen lässt oder auf Tacklings reagiert, wie es der echte Jerry Rice in vergleichbaren Situationen tun würde. (Zumindest tut sie das, wenn der Videospieler sie nicht ausdrücklich steuert.) Die Simulation ist eine sehr grobe, vereinfachte, auf American-Football-Spiele beschränkte Version des wirklichen Lebens. Im Laufe der Jahre haben sich die Videospiele weiterentwickelt, und die Simulationen von Jerry Rice — wie auch die der anderen Spieler, des Footballfeldes, etc. — sind zunehmend realistischer geworden:²

OK, das letzte Bild ist ein Foto des echten Jerry Rice. Aber stell dir vor, die Entwickler des Videospiels würden ihre Jerry-Rice-Simulationen immer realistischer und das Spieluniversum immer umfangreicher gestalten,³ bis zu dem Punkt, an dem ihr simulierter Jerry Rice virtuellen Reportern Interviews gibt, mit seinen virtuellen Kindern scherzt, seine virtuellen Steuern einreicht und auch sonst alles genauso macht wie der echte Jerry Rice.

In diesem Fall würde der simulierte Jerry Rice ein „Gehirn“ haben, das genauso funktioniert wie das des echten Jerry Rice. Mit anderen Worten: Es wäre Jerry Rice als digitale Person.

Wenn du dir nun vorstellst, dass man das Gleiche mit ~jeder Person tun könnte, dann stellst du dir eine Welt der digitalen Personen vor.

Könnten digitale Personen mit der realen Welt interagieren? Könnte beispielsweise ein Unternehmen in der realen Welt eine digitale Person als Mitarbeiter einstellen?

Ja und ja. 

• Ein digitaler Mensch könnte mit einem Roboterkörper verbunden werden. Kameras könnten Lichtsignale an das „Gehirn“ der digitalen Person weiterleiten, und Mikrofone könnten Tonsignale einspeisen; die digitale Person könnte Signale aussenden, um z. B. ihre Hand zu bewegen, die dann an den Roboter weitergeleitet würden. Im Allgemeinen ist es für Menschen erlernbar, Implantate auf diese Weise zu steuern, so dass es sehr wahrscheinlich ist, dass digitale Menschen die Steuerung von Robotern lernen könnten.
• Digitale Personen könnten ein virtuelles „Büro“ nutzen, mit einem virtuellen Monitor, der ihren Webbrowser anzeigt, einer virtuellen Tastatur, auf der sie tippen können, usw. Sie könnten diese Ausstattung nutzen, um Informationen via Internet zu versenden, so wie es biologische Menschen (oder die heutigen Bots) tun. So könnten sie ganz normal E-Mails beantworten, Memos schreiben und verschicken, twittern und andere Remote-Arbeit erledigen, alles ohne einen realen „Körper“ zu benötigen.
  • Das virtuelle Büro müsste der realen Welt nicht in allen Einzelheiten entsprechen — eine recht simple virtuelle Umgebung mit einem einfachen „virtuellen Computer“ könnte einer digitalen Person genügen, um die meisten Remote-Arbeiten zu erledigen.
• Sie könnten Telefon- und Videogespräche mit biologischen Menschen führen, indem sie „ihr virtuelles Gesicht/ihre virtuelle Stimme“ an den biologischen Menschen am anderen Ende der Verbindung übertragen.

Insgesamt scheint es, als wäre eine Beziehung zu einer digitalen Person identisch mit einer Beziehung zu einer Person, die man nie persönlich trifft.

Menschen und digitale Personen

Könnten digitale Personen bewusst sein? Sollten sie Menschenrechte besitzen?

Angenommen, es gäbe eine detaillierte digitale Kopie von dir, die Signale mit einem virtuellen Körper in einer virtuellen Welt austauscht. Die digitale Person sendet Signale, die dem virtuellen Körper sagen, dass er seine Hand auf eine virtuelle Herdplatte legen soll. Daraufhin erhält die digitale Person Signale, die dem Verbrennungsschmerz in ihrer Hand entsprechen. Die digitale Person verarbeitet diese Signale und sendet weitere Signale an ihren Mund, um „Aua!“ zu schreien, und an ihre Hand, um vom virtuellen Herd wegzuzucken.

Fühlt diese digitale Person tatsächlich Schmerzen? Ist sie wirklich „bewusst“, „empfindungsfähig“ oder „lebendig“? Sollten wir ihre Erfahrung des Verbrennens als ein bedauernswertes Ereignis betrachten, als etwas, das es unbedingt zu verhindern gilt?

Diese Frage lässt sich nicht durch Biologie oder Physik klären, sondern gehört in den Bereich der Philosophie. Sie vollständig zu beantworten, würde die Grenzen dieses Beitrags überschreiten.

Ich glaube, dass hinreichend detaillierte und präzise Simulationen von Menschen ein Bewusstsein hätten. Und zwar in demselben Maße und aus denselben Gründen, wie Menschen ein Bewusstsein haben.⁴

Angesichts der bestehenden Unklarheit über die tatsächliche Bedeutung dieser Aussage, ist es schwierig eine Wahrscheinlichkeit für ihre Richtigkeit anzugeben, doch im Licht dessen, was wir bislang aus der akademischen Philosophie des Geistes gelernt haben, halte ich sie für die beste verfügbare Schlussfolgerung. Wenn auch nicht universell geteilt, so dürfte diese Ansicht unter Philosophen des Geistes doch recht verbreitet sein.⁵

Im Folgenden werde ich einige Gedankenexperimente vorstellen, um die Gründe hierfür kurz zu erklären.

Gedankenexperiment 1. Stell dir vor, man könnte ein Neuron in meinem Gehirn irgendwie durch ein „digitales Neuron“ ersetzen: ein elektrisches Gerät, das nicht aus organischem Gewebe sondern aus denselben Komponenten besteht wie die heutigen Computer, das den Input von anderen Neuronen aufnimmt (vielleicht mit Hilfe einer Kamera, um die verschiedenen eingehenden Signale zu überwachen) und ihnen den Output in genau demselben Muster wie das ursprüngliche Neuron zusendet.

Im Zuge dieser Aktion, würde ich keinerlei Unterschied „bemerken“ und mich in keinster Weise anders verhalten als vorher. 

Stell dir nun vor, man würde dasselbe mit jedem weiteren Neuron meines Gehirns machen, einem nach dem anderen — so dass mein Gehirn schließlich nur noch aus „digitalen Neuronen“ bestünde, die miteinander verbunden sind, Eingangssignale von meinen Augen/Ohren/etc. empfangen und Ausgangssignale an meine Arme/Füße/etc. senden. Immer noch würde ich mich in keiner Weise anders verhalten oder irgendetwas hiervon „bemerken“.

Während alle meine Neuronen ausgetauscht würden, würde ich kein Nachlassen in der Lebendigkeit meiner Gedanken bemerken. Der Grund: Wenn ich bemerken würde, dass die Lebendigkeit meiner Gedanken nachlässt, würde mich das „Bemerken“ in einer Weise beeinflussen, die letztlich mein Verhalten verändern könnte. Ich könnte zum Beispiel sagen, dass die Lebendigkeit meiner Gedanken nachlässt. Aber wir haben bereits festgelegt, dass sich nichts an den Inputs und Outputs meines Gehirns ändert, was bedeutet, dass sich auch nichts an meinem Verhalten ändern kann.

Stell dir als Nächstes vor, man könnte die miteinander verbundenen „digitalen Neuronen“ aus meinem Kopf entfernen und ähnliche Eingangs- und Ausgangssignale direkt einspeisen (statt über meine Augen/Ohren/etc.). Dann würde es sich um eine digitale Version von mir handeln: eine Simulation meines Gehirns, die auf einem Computer läuft. Und zu keinem Zeitpunkt hätte ich bemerkt, dass sich etwas verändert hätte — kein vermindertes Bewusstsein, keine gedämpften Gefühle usw.

Gedankenexperiment 2. Stell dir vor, ich würde mit einer digitalen Kopie meiner selbst sprechen — einer extrem detaillierten Simulation von mir, die auf jede Situation genauso reagieren würde wie ich.

Wenn ich meine digitale Kopie fragen würde, ob sie bei Bewusstsein ist, würde sie mir versichern, dass sie es ist (genauso wie ich es auf die gleiche Frage tun würde). Wenn ich ihm seine Situation erkläre und (z. B. seine Virtualität) demonstriere und ihn frage, ob er immer noch glaubt, dass er bei Bewusstsein ist, würde er weiterhin darauf bestehen, dass er es ist (genauso wie ich es tun würde, wenn mir gezeigt würde, dass ich eine Computersimulation bin — etwas, das ich auf der Grundlage meiner derzeitigen Beobachtungen nicht ausschließen kann).

Ich bezweifle, dass es irgendein Argument gibt, das mein digitales Gegenüber davon überzeugen könnte, nicht bei Bewusstsein zu sein. Wir gehen hier von einem Denkprozess aus, der genauso funktioniert wie meiner, mit Zugang zu allen Fakten, zu denen ich Zugang habe, der von der Aussage „Digital-Holden ist bewusst“ überzeugt ist: Welche rationale Grundlage könnte mich glauben lassen, dass dem nicht so ist?

Allgemeine Punkte:

• Was auch immer Bewusstsein letzten Endes sein mag, ich sehe es als die Ursache für Aussagen wie: „ich sage, dass ich bewusst bin“, und die Quelle meiner Beobachtungen über meine eigenen bewussten Erfahrungen. Die Tatsache, dass mein Gehirn aus Neuronen besteht (und nicht aus Computerchips oder etwas anderem), hat keinen Einfluss auf meine Bereitschaft mein eigenes Bewusstsein zu erklären oder auf die Beobachtungen, die ich über mein eigenes bewusstes Erleben mache: Würde mein Gehirn dieselben Ausgangssignale als Computer und nicht als eine Ansammlung organischer Neuronen senden, würde ich dieselben Überzeugungen und Beobachtungen über mein eigenes bewusstes Erleben äußern.
• Die Ursache meiner Aussagen über Bewusstsein und die Quelle meiner Beobachtungen über mein eigenes Bewusstsein hat nichts mit dem Material zu tun, aus dem mein Gehirn besteht, sondern mit den Mustern der Informationsverarbeitung, die mein Gehirn durchführt. Ein Computer, der die gleichen Muster der Informationsverarbeitung durchführt, hätte also genauso viel Grund, sich für bewusst zu halten wie ich.
• Schließlich habe ich aus Gesprächen mit Physikern mitgenommen, dass viele von ihnen glauben, dass „das Universum [auf einer gewissen Ebene] grundsätzlich nur als Muster der Informationsverarbeitung verstanden werden kann“, und dass von der Unterscheidung zwischen z. B. Neuronen und Computerprozessoren keine „tiefen“ Erkenntnisse zu erwarten sind.⁶

Längere Ausführungen zu diesem Thema findest du unter:

• Abschnitt 9 von The Singularity: A Philosophical Analysis von David Chalmers. Eine ähnliche Argumentation findet sich in Teil III von Chalmers‘ Buch The Conscious Mind.
• Zombies Redacted von Eliezer Yudkowsky. Dieser Beitrag ist informeller und weniger akademisch, und Yudkowskys Argumente ähneln eher denen, die ich oben angeführt habe.

Nehmen wir mal an, dass du falsch liegst und digitale Personen zu keinem Bewusstsein fähig wären. Inwiefern würden das deine Ansichten hinsichtlich ihres Potenzials, unsere Welt zu verändern, beeinflussen? 

Eine Situation in der wir digitale und unbewusste Duplikate heutiger Menschen herstellen könnten, könnte folgendermaßen aussehen:

• Sie könnten im Vergleich zu biologischen Menschen immer noch enorm produktiv sein. Auch könnte ihre Untersuchung immer noch Aufschluss über die menschliche Natur und menschliches Verhalten geben. Die Abschnitte Produktivität und Sozialwissenschaften würden also  weitestgehend unverändert bleiben.
• Sie würden immer noch glauben, dass sie ein Bewusstsein haben (denn das tun wir auch, und sie wären Simulationen von uns). Sie könnten immer noch versuchen, sich im gesamten Weltraum anzusiedeln und stabile/„eingerastete“ (siehe Lock-In) Gemeinschaften zu gründen, um die Werte zu bewahren, die ihnen wichtig sind.
• Aufgrund ihrer Produktivität und ihrer großen Zahl würde ich erwarten, dass es maßgeblich die Bevölkerung der digitalen Menschen sein wird, die entscheidet, wie die langfristige Zukunft der Galaxie aussieht — auch für biologische Menschen.
• Es würde weniger auf dem Spiel stehen, wenn die große Anzahl digitaler Menschen in der Galaxie und die virtuellen Erfahrungen, die diese Menschen gemacht haben, „keine Rolle spielen“ würden. Aber es ginge immer noch um enorm viel, denn die Art und Weise, wie die digitalen Menschen die Galaxie gestalten, würde bestimmen, wie das Leben für biologische Menschen aussehen würde.

Realisierbarkeit

Sind digitale Personen wirklich realisierbar?

Derzeit lautet die Antwort ganz klar nein. Wir haben keine Ahnung, wie wir eine Software entwickeln sollen, die auf Video- und Audiodaten in der gleichen Weise „reagiert“ (z. B. dieselben Signale sendet, um zu sprechen, sich zu bewegen usw.), wie es ein bestimmter Mensch tun würde. Wir können menschliche Gehirne nicht einfach kopieren und simulieren, da wir schlicht nicht genug über die Funktionsweise des menschlichen Gehirns wissen. Die Möglichkeiten, die Neurowissenschaftler:innen haben, um unser Gehirn zu beobachten, sind sehr begrenzt.⁷ (Jedoch können wir einige der wichtigsten Inputs für das Gehirn bereits ziemlich gut simulieren — Kameras scheinen Bilder etwa so gut zu erfassen wie menschliche Augen, und Mikrofone scheinen Töne etwa so gut zu erfassen wie menschliche Ohren.)⁸

Digitale Personen sind eine hypothetische Technologie, und es ist denkbar, dass wir sie eines Tages für unmöglich erklären. Aber meines Wissens gibt es hierfür derzeit keine Gründe.

Ich persönlich würde darauf wetten, dass sie irgendwann existieren werden — mindestens als Mind Upload (das Scannen und Simulieren von menschlichen Gehirnen).⁹ Ich denke, dass eine Realisierung digitaler Personen davon abhängt, dass (a) die Neurowissenschaften zu einem Punkt gelangen, an dem wir die wichtigsten Details menschlicher Gehirntätigkeit gründlich beobachten und charakterisieren können — womöglich ein sehr langer, aber nicht endloser Weg; (b) eine Software verfasst wird, die diese wichtigen Details simuliert; (c) diese Software-Simulation auf einem Computer ausgeführt wird; (d) ein virtueller Körper und eine virtuelle Umgebung, die recht simpel und schlicht „gut genug“ sein müssten (z. B. wäre Sprechen, Lesen und Tippen zu ermöglichen, ein großer Fortschritt) bereitgestellt werden. Ich schätze, dass (a) der schwierige Teil ist, und würde vermuten, dass (c) sogar auf heutiger Computerhardware umsetzbar wäre.¹⁰

Ich werde in diesem Beitrag nicht näher darauf eingehen. Sollte Interesse bestehen, könnte ich dies in Zukunft tun.

Wie bald können wir mit digitalen Personen rechnen?

Ich wüsste nicht, wie wir eine seriöse Vorhersage darüber treffen könnten, wann Neurowissenschaftler:innen das Gehirn ausreichend verstehen werden, um mit Gedanken-Uploads zu beginnen. Alles was wir sicher sagen können, ist, dass wir heute noch lange nicht so weit sind.

Der Grund, warum ich glaube, dass digitale Menschen in den nächsten Jahrzehnten Realität werden könnten, ist ein anderer: Ich glaube, dass wir etwas anderes erfinden könnten (allem voran eine fortgeschrittene künstliche Intelligenz), das die wissenschaftliche Forschung dramatisch beschleunigt. Wenn dies geschieht, könnten schnell alle möglichen neuen, transformativen Technologien auftauchen — einschließlich digitaler Menschen. 

Weiterhin denke ich, dass das Nachdenken über digitale Menschen dazu beiträgt, eine Vorstellung davon zu bekommen, wie produktiv und leistungsfähig fortschrittliche KI sein könnte (In einem späteren Beitrag werde ich darauf näher eingehen).

Weitere Fragen

Ich tue mir schwer, mir eine Welt von digitalen Personen vorzustellen — wie die Technologie eingeführt würde, wie sie mit uns interagieren würden etc. Könntest du ein detailliertes  Szenario zeichnen, von dem Übergang unserer heutigen Welt hin zu einer Welt voller digitaler Personen?

Ich werde ein Beispiel dafür geben, wie es laufen könnte. Damit es nicht gleich zur Dystopie wird, lasse ich etwas Optimismus einfließen. Außerdem werde ich das Beispiel etwas „vertrauter“ halten, das heißt, ich erkunde nicht all die potenziellen radikalen Konsequenzen, die digitale Personen mit sich bringen könnten. 

Die anderen Teile dieses Beitrags hängen ausdrücklich nicht von der Korrektheit dieser Geschichte ab; Sie soll dir lediglich die Vorstellung einer Welt der digitalen Personen sowie ihrer Beweggründe erleichtern.

Stell dir also Folgendes vor: 

Eines Tages wird eine funktionierende Technologie für Mind Uploads verfügbar. Nehmen wir der Einfachheit halber an, dass der Preis von Anfang an erschwinglich ist. Das bedeutet: Jede Person, die möchte, kann ihr Gehirn scannen lassen und so eine „digitale Kopie“ von sich selbst erstellen.

Es gibt einige zehntausend Menschen, die die Technologie für eine Kopie von sich nutzen, so dass es jetzt zehntausende von digitalen Menschen gibt, die in einer simplen virtuellen Umgebung leben, bestehend aus einfachen Bürogebäuden, Wohnungen und Parks. Anfangs denkt jede digitale Person genauso wie die nicht-digitale Person, von der sie kopiert wurde, doch im Laufe der Zeit weichen ihre Lebenserfahrungen und Denkmuster voneinander ab.

Jede digitale Person kann ihren eigenen „virtuellen Körper“ entwerfen, der sie in der Umgebung repräsentiert. (Das erinnert an die Wahl eines Avatars — die Körper müssen zwar in einem angemessenen Bereich von Größe, Gewicht, Stärke usw. liegen, sind aber ziemlich frei gestaltbar).

Der Computerserver, auf dem alle digitalen Menschen betrieben werden, sowie die virtuelle Umgebung, in der sie leben, befinden sich in Privatbesitz. Dank einer vorausschauend eingeführten Regelung genießen die digitalen Personen jedoch einen vollwertigen Personenstatus und damit alle Rechte, die auch biologische Menschen haben (und sind nicht etwa Eigentum ihrer Schöpfer oder des Serverunternehmens). Sie treffen ihre eigenen Entscheidungen im Rahmen der Gesetze und verfügen über einen gewissen Grundschutz, wie z. B:

• Damit sie weiter existieren können, muss der Besitzer des Servers, auf dem sie sich befinden, ihren fortlaufenden Betrieb zusichern. Allerdings muss jede digitale Person zunächst einen im Voraus bezahlten Langzeitvertrag mit der für sie zuständigen Serverfirma abschließen, um sich einer relativ langen Existenz — sagen wir, mindestens 100 Jahre ab dem Geburtsdatum ihrer biologischen Kopie — zu versichern, sofern sie dies wünscht.
• Sie müssen umfassend über ihre Situation als digitale Personen informiert werden und weitere Informationen über das aktuelle Geschehen erhalten, wie sie mit wichtigen Personen in Kontakt treten können usw. (In diesem Zusammenhang können zunächst nur Personen ab dem 18 Lebensjahr digital kopiert werden, obwohl digitale Personen später ihre eigenen „digitalen Kinder“ haben können — siehe unten).
• Zu Beginn muss ihre virtuelle Umgebung bestimmte Kriterien erfüllen (z. B. darf ihnen keine Gewalt oder Leid widerfahren, es muss ausreichend virtuelle Nahrung und Wasser verfügbar sein). Sie verfügen über ein eigenes Bankkonto, auf dem initial eine gewisse Summe hinterlegt ist, und genauso wie biologische Menschen können sie darüber hinaus mehr verdienen (z. B. indem sie für ein Unternehmen arbeiten).
• Der Eigentümer der Server kann ohne die Zustimmung der digitalen Personen keine wesentlichen Änderungen an der virtuellen Umgebung vornehmen (abgesehen von der Einstellung des Betriebs, die er nach Ablauf des Vertrags vornehmen darf). Digitale Menschen können Änderungen an ihrer virtuellen Umgebung beantragen und im Gegenzug Geld dafür anbieten (allerdings müssten auch alle anderen digitalen Menschen, die von den Neuerungen betroffen sind, ihre Zustimmung geben).
• Der Eigentümer des Servers ist verpflichtet, den Betrieb aller digitalen Personen einzustellen, die ausdrücklich um das Ende ihrer Existenz bitten.

Digitale Menschen gehen berufliche und persönliche Beziehungen zueinander ein. Zudem gehen sie auch persönliche und berufliche Beziehungen mit biologischen Menschen ein, mit denen sie über E-Mail, Videochat usw. kommunizieren. 

• Möglicherweise arbeiten sie für das erste Unternehmen, das digitale Kopien von Menschen anbietet, und forschen daran, wie man den Betrieb künftiger digitaler Menschen wirtschaftlicher machen kann.
• Sie könnten mit der biologischen Person, von der sie kopiert wurden, in Kontakt bleiben und E-Mails über ihr Privatleben austauschen.
• Ihnen wäre mit Sicherheit daran gelegen, dass kein biologischer Mensch ihren Server auf unerwünschte Weise stört (z. B. durch Abschalten).

Einige digitale Menschen verlieben sich und heiraten. Ein Paar kann „Kinder bekommen“, indem es eine neue digitale Person erschafft, deren Geist eine Mischung aus Anteilen der beiden Eltern ist. Anfangs können sie (vorbehaltlich des Schutzes vor Kindesmissbrauch) entscheiden, wie ihr Kind in der virtuellen Umgebung erscheint, und sogar einige Änderungen vornehmen, wie z. B. „Wenn das Gehirn des Kindes ein Signal zum Groß machen sendet, kommt stattdessen ein Regenbogen heraus.“ Mit zunehmendem Alter erwirbt das Kind Rechte, so wie es biologische Menschen tun.

Auch digitale Menschen dürfen sich selbst kopieren, sofern sie die Anforderungen für neue digitale Menschen erfüllen (Garantie, dass sie einigermaßen lange leben können usw.). Kopien haben ihre eigenen Rechte und stehen in keiner Weise in der Schuld ihrer Schöpfer.

Die Population der digitalen Menschen wächst, indem sich die Menschen selbst kopieren und Kinder bekommen. Schließlich gibt es (vielleicht schnell, wie weiter unten erläutert) weit mehr digitale als biologische Menschen. Dennoch arbeiten einige digitale Menschen für biologische Menschen, beschäftigen sie oder haben persönliche Beziehungen (per E-Mail, Videochat usw.) zu ihnen.

• Viele digitale Menschen arbeiten daran, weiteres Bevölkerungswachstum zu ermöglichen — indem sie es günstiger machen, digitale Menschen zu betreiben oder (in der „realen“ Welt) mehr Computer bauen, indem sie (ebenfalls in der „realen“ Welt) neue Rohstoff- und Energiequellen für Computer finden usw.
• Viele andere digitale Personen arbeiten an der Gestaltung immer kreativerer virtueller Umgebungen, die zum Teil auf realen Orten basieren, zum Teil aber auch exotischer sind (veränderte Physik usw.). Einige virtuelle Umgebungen sind als Wohnraum konzipiert,  während andere dem Freizeitvergnügen dienen. Der Zugang wird an digitale Menschen verkauft, die sich in diese Umgebungen versetzen lassen wollen.

Digitale Personen gehen also ihrer Arbeit nach, unterhalten sich, treffen einander, pflanzen sich fort, usw. In dieser Hinsicht hat ihr Leben viel mit dem unseren gemeinsam.

• Genau wie wir haben sie einen gewissen Anreiz, für Geld zu arbeiten — Wenn sie über ihre ursprüngliche Vertragslaufzeit hinaus existieren möchten, müssen sie für die Serverkosten aufkommen. Ebenso müssen sie für die Serverkosten zahlen, die durch Selbstkopien oder Kinder entstehen (Solche neuen digitalen Menschen erfordern den Abschluss langer Serververträge), oder für die Nutzung verschiedener Freizeitangebote.
• Im Gegensatz zu uns können sie sich selbst kopieren, auf unterschiedlichen Geschwindigkeiten laufen, ihren virtuellen Körper wechseln, exotische virtuelle Umgebungen betreten (z. B. Schwerelosigkeit) usw.

Die vorausschauenden Gesetzgeber haben dafür gesorgt, dass große Gruppen digitaler Menschen in der Lage sind, ihre eigenen virtuellen Staaten und Zivilisationen zu bilden, die ihre eigenen Regeln festlegen und ändern können.

Dystopische Alternativen. Im Falle von mangelhafter oder fehlender Regulierung könnte eine Welt der digitalen Menschen sehr schnell dystopisch werden. Nehmen wir z.B. an, die Regel würde lauten: „Die Person, der der Server gehört, kann darauf laufen lassen, was sie will.“ In dieser Welt könnten Leute digitale Kopien von sich selbst erstellen, die sie für Experimente missbrauchen oder zur Arbeit zwingen. Sie könnten die Kopien gar öffentlich zugänglich machen, so dass jede Eigentümer:in eines Servers Kopien erstellen und missbrauchen kann. Diese sehr kurze Geschichte (empfehlenswert, aber beängstigend) gibt einen Vorgeschmack darauf, wie diese Welt aussehen könnte.

Es gibt noch andere (gradueller verlaufende) Möglichkeiten, wie eine Welt der digitalen Menschen dystopisch werden kann, wie hier („unumstößlicher Totalitarismus“) und in Der Duplikator („Menschen wetteifern darum, sich gegenseitig zu kopieren und die Bevölkerung zu beherrschen“) beschrieben.

Worauf sind eigentlich die biologischen Menschen aus? In diesem Abschnitt habe ich lediglich ausgeführt, wie die Welt für digitale Menschen aussehen würde und habe die Situation der normalen biologischen Menschen ausgeklammert. Diesen Fokus habe ich gesetzt, weil ich davon ausgehe, dass digitale Menschen bald den größten Teil der Bevölkerung ausmachen werden, und ich der Ansicht bin, dass wir uns um sie genauso kümmern sollten, wie wir uns um biologische Menschen kümmern. Aber wenn du dich fragst, wie die Dinge für biologische Menschen wären, würde ich Folgendes erwarten:

• Aufgrund ihrer Anzahl und Geschwindigkeit würden digitale Menschen rasch die weltweit dominierenden politischen und militärischen Akteure werden. Höchstwahrscheinlich werden sie es sein, die bestimmen, wie das Leben der biologischen Menschen aussieht.
• Wir würden einen rasanten wissenschaftlichen und technologischen Fortschritt erleben (wie unten beschrieben). Unter der Annahme, dass sich digitale und biologische Menschen weiterhin gut verstehen, würde ich erwarten, dass biologische Menschen Zugang zu weitaus mächtigerer Technologie hätten als heute. Ich gehe davon aus, dass dies im Minimum nahezu unbegrenzte medizinische Technologien bedeuten würde (einschließlich z. B. der „Heilung“ des Alterns und damit einhergehend einer unbegrenzten Lebenserwartung.)

Gibt es einen Unterschied zwischen digitalen Menschen und Mind-Uploads?

Der Begriff Mind-Upload beschreibt die Simulation eines menschlichen Gehirns auf einem Computer. (In der Regel wird davon ausgegangen, dass das betreffende Gehirn nicht isoliert, sondern mit einer Art virtuellen Umgebung und einem zugehörigen Körper ausgestattet ist, oder es alternativ einen Roboter steuert). Ein Mind-Upload wäre eine Form der digitalen Person, und der größte Teil dieses Beitrags hätte ohne Weiteres über Mind-Uploads geschrieben werden können. Mind Uploads sind die greifbarste Version digitaler Menschen, und ich konzentriere mich auf sie, wenn ich meine Ansicht erkläre, dass digitale Menschen eines Tages möglich und mit demselben Bewusstsein ausgestattet sein werden wie wir selbst. 

Doch ich könnte mir auch eine Zukunft mit „digitalen Menschen“ vorstellen, die nicht vom Kopieren menschlicher Gehirne abgeleitet sind und den heutigen Menschen nicht einmal sonderlich ähnlich wären. Ich halte es für ziemlich wahrscheinlich, dass sich digitale Personen sobald sie dann möglich sind (oder ziemlich bald danach) stark von den heutigen Menschen unterscheiden werden.¹¹

Das meiste in diesem Artikel würde so ziemlich auf alle digitalen Entitäten zutreffen, die (a) ebenso einen moralischen Wert und Menschenrechte haben, wie nicht-digitale Menschen; (b) mit gleicher (oder größerer) Fertigkeit und Kreativität mit ihrer Umgebung interagieren können, wie die heutigen Menschen. Sobald man versteht, wie (a) und (b) funktionieren, könnte man digitale Menschen entwerfen, ohne menschliche Gehirne zu imitieren.

Im Verlauf dieser Reihe werde ich mich häufig auf digitale Menschen beziehen, um zu verdeutlichen, wie grundlegend fremdartig unsere Zukunft aussehen könnte. Ich möchte mich jedoch klar von der Idee distanzieren, dass es hierfür zwangsläufig dem Kopieren echter menschlicher Gehirne bedarf.

Wäre eine digitale Kopie von mir wirklich „ich“?

Angenommen, jemand hätte mein Gehirn gescannt und eine Simulation davon auf einem Computer erzeugt: eine digitale Kopie von mir. Würde diese Simulation als „ich“ gelten? Sollte ich hoffen, dass diese digitale Person ein gutes Leben hat, so wie ich es für mich selbst hoffe?

Auch diese Frage ist  philosophischer Natur. Meine grundsätzliche Antwort lautet: „Gewissermaßen, aber es spielt keine große Rolle“. In diesem Beitrag geht es darum, wie radikal digitale Menschen die Welt verändern könnten; ob wir uns mit unseren digitalen Kopien identifizieren oder nicht, ist hierbei nebensächlich. 

Deutlich zentraler ist die Frage, ob digitale Menschen als „vollwertige Personen“ in dem Sinne zu betrachten sind, dass wir uns um sie kümmern, ihnen schlechte Erfahrungen ersparen wollen usw. In diesem Zusammenhang ist die Frage nach dem Bewusstsein digitaler Personen relevanter.

Welche Fragen könnte ich noch stellen?

eine ganze Menge! Z.B.:

https://tvtropes.org/pmwiki/pmwiki.php/Analysis/BrainUploading: Digitale Personen: Häufig gestellte Fragen

Warum ist das alles so wichtig?

Der Hauptartikel „Digitale Personen wären eine noch größere Sache„, den dieser Beitrag ergänzt, zeigt eine Reihe von Möglichkeiten auf, wie die Technologie digitaler Menschen uns in eine vollkommen fremdartige Zukunft führen könnte.

An anderer Stelle in dieser Reihe werde ich darlegen, dass fortschrittliche KI noch in diesem Jahrhundert zu digitalen Menschen oder ähnlich bedeutenden Technologien führen könnte. Das transformative Potenzial von etwas wie digitalen Menschen in Verbindung mit der Geschwindigkeit, mit der KI dies ermöglichen könnte, spricht dafür, dass wir uns tatsächlich im wichtigsten Jahrhundert aller Zeiten befinden könnten.

---

Fußnoten

1. Die Agenten („Bösewichte") entsprechen digitalen Menschen schon eher. Tatsächlich kopiert sich einer von ihnen ausgiebig selbst. ↩︎
2. Bis auf die letzte, stammen alle diese Darstellungen aus diesem Video. ↩︎
3. Football-Videospiele sind mittlerweile so weit entwickelt, dass sie die Transferperiode in der Offseason, die Unterzeichnung von Verträgen und die Preisgestaltung für Tickets simulieren. ↩︎
4. Ebenso denkbar wären bewusste „digitale Menschen", die keine Ähnlichkeit mit den heutigen Menschen haben, aber diese Möglichkeit lasse ich in diesem Beitrag außen vor - ich konzentriere mich ausschließlich auf das konkrete Beispiel der „digitalen Menschen", die das virtuelle Abbild bestimmter Personen sind. ↩︎
5. Den PhilPapers-Umfragen zufolge befürworten 56,5 % der Philosophen den Physikalismus, während 27,1 % den Nicht-Physikalismus und 16,4 % „etwas anderes" befürworten. Ich gehe davon aus, dass die überwiegende Mehrheit der Philosophen, die den Physikalismus befürworten, darin übereinstimmen, dass eine ausreichend detaillierte Simulation eines Menschen ein Bewusstsein hätte. (Meines Erachtens ist der biologische Naturalismus eine unpopuläre Randposition, und die Ablehnung des biologischen Naturalismus in Kombination mit einem Befürworten des Physikalismus würde zu der Annahme führen, dass hinreichend detaillierte Simulationen von Menschen ein Bewusstsein hätten). Ich erwarte auch, dass einige Philosophen, die den Physikalismus nicht befürworten, immer noch glauben, dass solche Simulationen bewusst wären (David Chalmers wäre ein prominentes Beispiel - siehe The Conscious Mind). Diese Erwartungen beruhen lediglich auf den Eindrücken, die ich von diesem Gebiet gewonnen habe. ↩︎
6. Auszug aus einer E-Mail eines Physiker-Freunds: „Ich glaube, viele Menschen haben die Intuition, dass echte neuronale Aktivität, die durch echte chemische Reaktionen von echten Neurotransmittern und echte elektrische Aktivität, die man mit der Hand fühlen kann, erzeugt wird, eine gewisse Qualität hat, die bloßer Computercode nicht haben kann. Aber eine der überwältigenden Kernaussagen der modernen Physik ist, dass alles, was existiert - Teilchen, Felder, Atome usw. - am besten in Form von Information gedacht werden kann und womöglich einfach Information *ist*. Das Universum lässt sich vielleicht am besten als eine mathematische Abstraktion beschreiben. Chemische Reaktionen beruhen nicht auf einer wesentlichen Eigenschaft der Atome, sondern auf subtilen Wechselwirkungen zwischen ihren Valenzschalen. Elektronen und Protonen sind keine klar definierten Teilchen, sondern abstrakte Wolken aus Wahrscheinlichkeiten. Sogar das Konzept der „Teilchen" ist irreführend. Was tatsächlich zu existieren scheint, sind Quantenfelder, die die Lösungen abstrakter mathematischer Gleichungen sind und deren Zustände von Menschen als „1 Teilchen" oder „2 Teilchen" bezeichnet werden. Um es etwas metaphorisch auszudrücken, sind wir wie winzige Wellen auf riesigen abstrakten mathematischen Wellen, Wellen, deren Muster und Dynamik zufällig die Informationsverarbeitung ausführen, die dem entspricht, was wir Bewusstsein nennen. Wenn du mich fragst, ist unsere Existenz und das Substrat, auf dem wir leben, bereits viel seltsamer und flüchtiger als alles, auf das wir Menschen hochladen könnten." ↩︎
7. Zur Veranschaulichung dieser Tatsache siehe diesen Bericht: How much computational power does it take to match the human brain? (Insbesondere den Abschnitt "Uncertainty in neuroscience"). Selbst die Schätzung, wie viele bedeutende Operationen das menschliche Gehirn durchführt, ist heute sehr schwierig und fehleranfällig - ganz zu schweigen davon, wie diese Operationen charakterisiert werden können. ↩︎
8. Diese Aussage basiert auf meinem allgemeinen Grundverständnis und der Tatsache, dass Video- und Audioaufzeichnungen oft recht realistisch erscheinen, was bedeutet, dass die Kamera/das Mikrofon durchaus die wesentlichen Informationen über die Quelle aufzeichnet. ↩︎
9. Vorausgesetzt, die Technologie entwickelt sich weiter, die menschliche Spezies stirbt nicht aus usw. ↩︎
10. Dieser Bericht kommt zu dem Schluss, dass ein Computer, der heute ~$10.000 kostet, über genügend Rechenleistung (10^14 FLOP/s, ein Maß für die Rechenleistung) verfügt, um nur 1/10 der vom Autor geschätzten Leistung zu erreichen, die erforderlich wäre, um das Input-Output-Verhalten eines menschlichen Gehirns (10^15 FLOP/s) zu replizieren. Nimmt man statt der besten Schätzung des Autors die höchste Schätzung, so entspricht dies etwa dem 10-Millionenfachen an Rechenleistung (10^22 FLOP/s), was heute vermutlich 1 Billion Dollar kosten würde — womöglich zu teuer für den erwarteten Nutzen, aber Rechenleistung wird immer günstiger. Entgegen meiner Vermutung, ist es möglich, dass die Replikation des Input-Output-Verhaltens allein nicht ausreicht, um „Bewusstsein" zu erlangen. In jedem Fall wäre es jedoch ausreichend, um die beschriebenen Konsequenzen für die Produktivität und Sozialwissenschaften zu haben. ↩︎
11. Ich könnte mir auch eine Zukunft vorstellen, in der die beiden Schlüsseleigenschaften, die ich im nächsten Absatz aufzähle — (a) moralischer Wert und Menschenrechte (b) Fähigkeiten auf menschlichem oder übermenschlichem Niveau — völlig voneinander getrennt wären. Das bedeutet, dass es eine Welt geben könnte, in der (a) KI mit Fähigkeiten auf menschlichem Niveau oder darüber existiert, die aber kein Bewusstsein oder moralischen Wert innehat; (b) digitale Entitäten mit moralischem Wert und bewusster Erfahrung existieren,  die allerdings nur über sehr geringen Fähigkeiten im Vergleich zu KI und sogar im Vergleich zu den heutigen Menschen verfügen. Das meiste von dem, was ich in diesem Artikel über eine Welt der „digitalen Menschen" sage, würde auch auf eine solche Welt zutreffen; in diesem Fall könnte man sich die „digitalen Menschen" als „Teams" aus KI und moralisch wertvollen, aber wenig qualifizierten Wesen vorstellen. ↩︎