„Du bist in einer Wüste, läufst durch den Sand, als du plötzlich nach unten schaust und eine Schildkröte siehst … Du greifst nach unten und drehst die Schildkröte auf ihren Rücken. Die Schildkröte liegt auf dem Rücken, ihr Bauch brennt in der heißen Sonne, sie strampelt mit den Beinen und versucht, sich umzudrehen, aber sie kann es nicht. Nicht ohne deine Hilfe. Aber du hilfst nicht.“
Vielleicht ist nichts sinnbildlicher für Ridley Scotts dystopischen Film Blade Runner von 1982 als der Voight-Kampff-Test, der von den titelgebenden Gesetzeshütern des Films, darunter Harrison Ford als Rick Deckard, durchgeführt wird. Die Reihe von Fragen in dem fiktiven Test, wie die obige, sollen Menschen von Replikanten unterscheiden, indem sie eine physiologische Reaktion hervorrufen, die Empathie anzeigt. Nur echte Menschen, nicht Replikanten, fühlen diese Emotion. Deckards Aufgabe ist es, mit Replikanten umzugehen, die anfangen, Befehle zu missachten. Er und andere nutzen den Test, um zu entscheiden, ob die Replikanten „in den Ruhestand gehen“ – also getötet werden sollen.
Nicht nur, dass diese rebellischen Androiden eine Bedrohung für die Menschen darstellen, in dieser Welt haben sie auch keinen gesetzlichen Anspruch auf Schutz. Wie auch, wenn sie nicht als Menschen angesehen werden?
Es ist ein so fesselndes Dilemma, dass die Geschichte in der lang erwarteten Fortsetzung Blade Runner: 2049 weitergehen wird. Ein Grund für die anhaltende Popularität des Originalfilms ist Deckards persönlicher Kampf, der sich in Filmen wie „Her“ und Serien wie „Westworld“ in ähnlicher Weise abspielt: Wer oder was zählt als Mensch, vor allem in einer Welt der fortgeschrittenen Technologie?
Um das zu verstehen, müssen wir uns an einige sehr alte Philosophen wenden.
***
Für die alten Griechen waren Maschinen, die von Göttern oder außergewöhnlich begabten Menschen gemacht wurden, oft eine Täuschung, damit die Menschen glaubten, die Androiden seien echt, schreibt Adrienne Mayor in „Aeon“. König Nabis von Sparta besaß eine Roboterversion seiner Frau, deren Brust heimlich mit Nägeln verziert war. Er benutzte die Maschine, um Bürger, die ihm nicht gehorchten, zu umarmen, wobei ihr Fleisch von den versteckten Waffen durchbohrt wurde. Und in China sah ein vom Erfinder Yan Shi im 10. Jahrhundert v. Chr. hergestellter Automat so menschenähnlich aus, sang und zwinkerte den Damen zu, dass der König darüber wütend wurde. Dann erfuhr er die Wahrheit und staunte über eine Maschine, die sogar mechanische Organe hatte. Der Gelehrte Nigel Wheale schreibt: „In allen Epochen wurden ‚Menschendinge‘ als Wesen vorgestellt, die den zeitgenössischen Sinn für den menschlichen Wert testen oder definieren.“
All das soll heißen, dass die Sorge, wie man Menschen aus Fleisch und Blut von Maschinen unterscheiden kann, die lediglich menschlich aussehen (und die Entscheidung, ob diese Maschinen eine Bedrohung für uns Homo sapiens darstellen), nicht auf die Neuzeit beschränkt ist. Wir haben uns schon immer gefragt, ob alle Menschen wirklich das sind, was sie zu sein scheinen – weshalb die Philosophen der Aufklärung so viel Zeit damit verbrachten, die Frage zu sezieren, was einen Menschen zum Menschen macht.
Rene Descartes, ein französischer Philosoph des 17. Jahrhunderts, der weit durch Europa reiste, beschäftigte sich intensiv mit der Frage, was uns zum Menschen macht. Es ist kein Zufall, dass sein berühmtestes Zitat von einem der Replikanten in „Blade Runner“ wiederholt wird: „Ich denke, also bin ich.“ Und wenn das alles noch nicht genug Beweis für seine Verbindung zum Film ist, betrachten Sie die Namen: Descartes und Deckard.
Wie der Philosoph Andrew Norris betont, ahnte Descartes, dass es eines Tages eines Tests bedürfen könnte, ob etwas ein Mensch oder eine Maschine ist. „Wenn es Maschinen gäbe, die Ebenbilder unserer Körper trügen und fähig wären, unsere Handlungen zu imitieren, soweit es moralisch möglich ist, würden immer noch zwei höchst sichere Tests übrig bleiben, um zu wissen, dass sie deshalb nicht wirklich Menschen sind“, schrieb Descartes. Also schuf er seine eigenen Tests, die sich auf die sprachlichen Fähigkeiten und die Flexibilität des Verhaltens stützten.
Replikanten sprechen und verhalten sich genauso wie Menschen, was bedeutet, dass sie Descartes‘ Tests bestehen würden. Aber es gibt noch einen anderen Grund, warum Deckard ihre Menschlichkeit nicht widerlegen kann: Replikanten haben auch implantierte Erinnerungen. Für den englischen Philosophen John Locke ist es die Kontinuität der Erinnerungen, die dem Menschen ein Gefühl des Selbst gibt. Der menschliche Körper verändert sich mit der Zeit, aber die Erinnerungen bleiben und bieten eine Grundlage für eine stabile Identität. „
So weit dieses Bewusstsein in die Vergangenheit zurückreicht, so weit reicht auch die Identität dieser Person“, schrieb Locke.
Für Rachael in Blade Runner, die fortschrittlichste Replikantin, die je entwickelt wurde, spielt es also keine Rolle, dass sie vielleicht nur ein paar Jahre alt ist; ihre Erinnerungen reichen viel weiter zurück und geben ihr den Eindruck, viel länger gelebt zu haben. Das ist es, was Rachael zu einer so tragischen Figur macht – „ihre“ Erinnerungen gehören nicht zu ihr. Sie stammen von der Nichte ihres Erfinders.
„Das ist eine herzzerreißende Sache, aber man kann sich vorstellen, dass diese Erinnerungen immer noch etwas Besonderes für sie sind, selbst nachdem sie erfahren hat, dass es nicht wirklich ihre sind“, sagt Susan Schneider, Professorin für Philosophie an der University of Connecticut und Mitglied der Ethics and Technology Group in Yale. „Es ist, als ob man herausfindet, dass man die hochgeladene Kopie ist und nicht das Individuum, das die Kopie hochlädt. Aber man hat immer noch eine besondere Beziehung zu ihnen. Wie ein Elternteil.“
Aber es sind nicht nur Erinnerungen oder Rationalität, die einen Menschen in Blade Runner ausmachen. Am wichtigsten ist laut dem Voight-Kampff-Test die Empathie. Da wir keine Gedanken lesen oder physische Beweise dafür sehen können, haben Denker wie der deutsche Philosoph Theodor Lipps argumentiert, dass wir durch die Kraft der Empathie wahrnehmen können, dass andere so fühlen und handeln wie wir.
„Der Blade Runner muss, ironischerweise, die Empathie anderer testen – hier nicht im Lipps’schen Sinne, sondern in dem ihrer Sensibilität für eine untergegangene, von nicht-menschlichen Tieren bevölkerte natürliche Welt“, schreibt Norris in seinem Aufsatz über die Philosophie des Films. Daher kommt die berühmte Schildkröten-auf-ihrem-Rücken-in-die-Wüste-Frage.
„Emotionen selbst werden nie ein perfekter Test für Menschlichkeit sein: Soziopathen sind schließlich auch Menschen“, sagte Deborah Knight, Professorin für Philosophie an der Queen’s University, per E-Mail. „Aber Emotionen sind mehr als nicht-kognitive Reaktionen. Sie helfen uns, Urteile darüber zu fällen, was wir tun sollten und wer wir sein wollen.“
Das wird besonders deutlich im Fall des Replikanten Roy Batty, gespielt von Rutger Hauer. Roy empfindet menschenähnliche Emotionen und hat Bestrebungen, bekommt aber keine menschliche Lebensspanne, so Knight. Roy ist sich bewusst, dass er, wie die anderen Replikanten, so gebaut wurde, dass er nach nur vier Jahren stirbt, was ihn verständlicherweise wütend macht.
So fühlen Replikanten wohl Emotionen, und sie haben Erinnerungen. Macht sie das zu Menschen? Für Schneider ist eine endgültige Antwort nicht unbedingt wichtig. Die Replikanten haben genug Eigenschaften mit den Menschen gemeinsam, dass sie schützenswert sind. „Es ist ein sehr starkes Argument dafür, sie mit den gleichen Rechten zu behandeln, die wir einem Menschen zugestehen. Wir würden sie nicht als Menschen bezeichnen, aber vielleicht als Person“, sagt sie.
Für Eric Schwitzgebel, Professor für Philosophie an der University of California in Riverside, ist die Schlussfolgerung noch dramatischer. „Wenn wir eines Tages Roboter mit menschenähnlichen kognitiven und emotionalen Fähigkeiten erschaffen, schulden wir ihnen mehr moralische Rücksichtnahme, als wir es sonst ähnlichen menschlichen Wesen schulden würden“, schreibt er in Aeon. „Wir werden ihre Schöpfer und Designer gewesen sein. Wir sind also direkt verantwortlich sowohl für ihre Existenz als auch für ihren glücklichen oder unglücklichen Zustand.“
***
Blade Runner ist nur ein Film und die Menschen haben es immer noch nicht geschafft, Replikanten zu erschaffen. Aber wir haben viele Fortschritte in der künstlichen Intelligenz gemacht, von selbstfahrenden Autos, die lernen, sich an menschliche Fehler anzupassen, bis hin zu neuronalen Netzwerken, die miteinander diskutieren, um schlauer zu werden. Deshalb haben für Schneider die Fragen, die der Film über die Natur der Menschheit und unseren Umgang mit Androiden aufwirft, wichtige Auswirkungen auf die reale Welt.
„Eines der Dinge, die ich getan habe, ist darüber nachzudenken, ob es sich jemals so anfühlen wird, eine KI zu sein. Wird es jemals eine Rachael geben?“, sagt Schneider, die Blade Runner in ihrer Klasse über Philosophie in Science-Fictions verwendet. In diesem Jahr veröffentlichte Schneider eine Arbeit über den Test, den sie zusammen mit dem Astrophysiker Edwin Turner entwickelt hat, um herauszufinden, ob ein mechanisches Wesen tatsächlich ein Bewusstsein haben könnte. Wie der Voight-Kampff-Test basiert er auf einer Reihe von Fragen, aber anstatt das Vorhandensein von Empathie – Gefühle, die auf einen anderen gerichtet sind – zu verlangen, untersucht er die Gefühle über das eigene Ich. Der Test, der AI Consciousness Test genannt wird, ist dabei, in Princeton patentiert zu werden.
Der Test unterscheidet sich von dem berühmteren Turing-Test, der 1951 von dem Mathematiker Alan Turing entwickelt wurde. Bei diesem früheren Test führte ein Richter ein digitales Gespräch mit dem Teilnehmer (wie man es heute in Chatrooms erlebt) und stellte Fragen, um zu erkennen, ob der Befragte ein Mensch oder eine Maschine war. Aber wie Schneider in ihrem Aufsatz darlegt, können Wissenschaftler Programme entwickeln, die den Turing-Test bestehen, aber keine bewussten Wesen sind. Beim Turing-Test geht es darum, die Übereinstimmung zwischen der Antwort einer Maschine und der eines Menschen zu beurteilen, nicht darum, ob die Maschine empfindungsfähig ist oder nicht. Wie beim Voight-Kampff-Test geht es bei Schneiders KI-Bewusstseins-Test darum, zu verstehen, was im Inneren der Maschine vor sich geht.
Diese Arbeit ist dringend notwendig, sagt sie, weil die Menschheit ethisch nicht darauf vorbereitet ist, mit den Auswirkungen der Erschaffung von empfindungsfähigem Leben umzugehen. Was die Beurteilung unserer Schöpfungen noch schwieriger machen wird, ist das menschliche Vertrauen in den Anthropomorphismus, um anzugeben, was als ein Wesen gelten soll, das moralische Beachtung verdient. „Manche sehen menschlich aus, oder sie sind niedlich und flauschig, also denken wir an unsere Katzen und Hunde“, sagt Schneider. „Das lässt uns glauben, dass sie fühlen. Wir sind sehr leichtgläubig. Es könnte sich herausstellen, dass nur biologische Systeme ein Bewusstsein haben können, oder dass die klügsten KIs die bewussten sind, also die Dinge, die nicht menschlich aussehen.“
Es ist wichtig, dass sich Wissenschaftler mit Philosophen beraten – was viele bereits tun, sagt Schneider – aber auch, dass die Öffentlichkeit über die Auswirkungen dieser Art von Technologie nachdenkt. Und, fügt sie hinzu, nicht alle Philosophen sind sich über die Natur des Bewusstseins einig, also gibt es keine einfachen Antworten.