“Je bent in een woestijn, je loopt door het zand, als je plotseling naar beneden kijkt en je ziet een schildpad… Je reikt naar beneden en je draait de schildpad op zijn rug. De schildpad ligt op zijn rug, zijn buik bakkend in de hete zon, met zijn poten slaand en probeert zich om te draaien, maar dat lukt hem niet. Niet zonder jouw hulp. Maar jij helpt niet.”

Er is misschien niets symbolischer voor Ridley Scotts dystopische film Blade Runner uit 1982 dan de Voight-Kampff-test die wordt afgenomen door de titulaire ordehandhavers van de film, onder wie Harrison Ford als Rick Deckard. De reeks vragen in de fictieve test, zoals de vraag hierboven, zijn ontworpen om mensen van replicanten te onderscheiden door een fysiologische respons uit te lokken die op empathie wijst. Alleen echte mensen, geen replicants, voelen die emotie. Deckard’s taak is om te gaan met replicanten die bevelen beginnen te negeren. Hij en anderen gebruiken de test om te beslissen of ze de replicants al dan niet moeten “retire”-doden.

Niet alleen vormen deze opstandige androïden een bedreiging voor de mens, maar in deze wereld hebben ze ook geen wettelijke rechten op bescherming. Hoe kunnen ze dat, als ze niet als mensen worden beschouwd?

Het is zo’n boeiend dilemma dat het verhaal zal worden voortgezet in het langverwachte vervolg Blade Runner: 2049. Een deel van de reden voor de blijvende populariteit van de oorspronkelijke film is Deckards persoonlijke strijd, een strijd die zich op vergelijkbare wijze afspeelt in films als Her en shows als Westworld: Wie of wat telt als mens, vooral in een wereld van geavanceerde technologie?

En om dat te begrijpen, moeten we ons wenden tot enkele zeer oude filosofen.

***

Voor de oude Grieken hielden machines, gemaakt door goden of uitzonderlijk getalenteerde mensen, mensen vaak voor de gek door te geloven dat de androïden authentiek waren, schrijft Adrienne Mayor in Aeon. Koning Nabis van Sparta bezat een robotversie van zijn vrouw, haar borst heimelijk versierd met nagels. Hij gebruikte de machine om burgers te omhelzen die hem niet gehoorzaamden, waarbij hun vlees doorboord werd door de verborgen wapens. En in China zag een automaat uit de 10e eeuw v. Chr., gemaakt door uitvinder Yan Shi, er zo menselijk uit, zingend en knipogend naar dames, dat de koning er woedend over werd. Toen leerde hij de waarheid, en verwonderde zich over een machine die zelfs mechanische organen had. Zoals de geleerde Nigel Wheale schrijft: “In alle perioden zijn ‘mens-dingen’ voorgesteld als entiteiten die het hedendaagse gevoel voor menselijke waarde testen of definiëren.”

Dit alles wil zeggen dat de bezorgdheid over het onderscheid tussen mensen van vlees en bloed en machines die er slechts menselijk uitzien (en over de vraag of die machines een bedreiging vormen voor ons Homo sapiens) niet beperkt is tot de moderne tijd. We hebben ons altijd afgevraagd of alle mensen werkelijk zijn wat ze lijken te zijn – daarom hebben filosofen van de Verlichting zoveel tijd besteed aan het ontleden van de vraag wat een mens tot een mens maakt.

Rene Descartes, een 17e-eeuwse Franse filosoof die veel door Europa reisde, heeft diep nagedacht over de vraag wat ons tot mens maakt. Het is geen toeval dat zijn beroemdste uitspraak wordt herhaald door een van de replicanten in Blade Runner: “Ik denk, dus ik ben.” En als dat alles nog niet genoeg bewijs is van zijn connectie met de film, kijk dan eens naar de namen: Descartes en Deckard.

Zoals filosoof Andrew Norris opmerkt, vermoedde Descartes dat er op een dag behoefte zou kunnen zijn aan een test om te bepalen of iets mens of machine was. “Als er machines waren die onze lichamen droegen en die in staat waren onze daden na te bootsen voor zover dat moreel mogelijk was, dan zouden er nog twee meest zekere tests overblijven om te weten of ze daarom niet echt mensen waren,” schreef Descartes. Dus creëerde hij zijn eigen tests, die gebaseerd waren op taalvaardigheid en flexibiliteit van gedrag.

Replicanten spreken en gedragen zich net als mensen, wat betekent dat ze de tests van Descartes zouden doorstaan. Maar er is nog een reden waarom Deckard moeite heeft hun menselijkheid te weerleggen: Replicanten hebben ook geïmplanteerde herinneringen. Voor de Engelse filosoof John Locke is de continuïteit van het geheugen de basis van iemands zelfbesef. Het menselijk lichaam verandert met de tijd, maar herinneringen blijven en bieden een basis voor een stabiele identiteit. “Voor zover dit bewustzijn kan worden uitgebreid naar elke actie of gedachte in het verleden, zo ver reikt de identiteit van die persoon,” schreef Locke.

Dus voor Rachael van Blade Runner, de meest geavanceerde replicant die ooit is ontwikkeld, maakt het niet uit dat ze misschien maar een paar jaar oud is; haar herinneringen gaan veel verder terug, waardoor ze de indruk heeft veel langer te hebben geleefd. Dat maakt Rachael zo’n tragisch figuur: “haar” herinneringen zijn niet van haar. Ze zijn afkomstig van het nichtje van haar uitvinder.

“Dat is hartverscheurend, maar je kunt je voorstellen dat ze nog steeds bijzonder voor haar zijn, zelfs nadat ze erachter is gekomen dat ze niet echt van haar zijn,” zegt Susan Schneider, hoogleraar filosofie aan de Universiteit van Connecticut en lid van de groep Ethiek en Technologie aan Yale. “Het is alsof je ontdekt dat je de geüploade kopie bent, en niet het individu dat het uploadt. Maar je hebt nog steeds een speciale relatie met hen. Zoals een ouder.”

Maar het zijn niet alleen herinneringen of rationaliteit die een mens in Blade Runner maken. Het allerbelangrijkste, volgens de Voight-Kampff test, is empathie. Omdat we geen gedachten kunnen lezen of fysiek bewijs ervan kunnen zien, hebben denkers als de Duitse filosoof Theodor Lipps betoogd dat we door de kracht van empathie kunnen waarnemen dat anderen voelen en handelen zoals wij.

“De Blade Runner moet, ironisch genoeg, de empathie van anderen testen – niet, hier, in de zin van Lipps, maar in die van hun gevoeligheid voor een nu vergaan natuurlijke wereld, bevolkt door niet-menselijke dieren,” schrijft Norris in zijn paper over de filosofie van de film. Dit is waar de beroemde schildpad-op-zijn-rug-in-de-woestijn-vraag vandaan komt.

“Emoties zelf zullen nooit een perfecte test van menselijkheid zijn: sociopaten zijn tenslotte ook mensen,” zei Deborah Knight, hoogleraar filosofie aan Queen’s University, per e-mail. “Maar emoties zijn meer dan niet-cognitieve reacties. Ze helpen ons te oordelen over wat we moeten doen en wie we willen zijn.”

Dit is vooral duidelijk in het geval van de replicant Roy Batty, gespeeld door Rutger Hauer. Roy voelt mensachtige emoties en heeft aspiraties, maar krijgt geen menselijke levensduur, aldus Knight. Roy is zich ervan bewust dat hij, net als de andere replicanten, gebouwd is om na slechts vier jaar te sterven, wat hem begrijpelijkerwijs woedend maakt.

Dus replicants voelen emoties, en ze hebben herinneringen. Maakt dat ze menselijk? Voor Schneider is een definitief antwoord niet per se van belang. De replicants hebben genoeg eigenschappen met mensen gemeen dat ze bescherming verdienen. “Het is een sterk argument om ze met dezelfde rechten te behandelen als mensen. Een mens zouden we het niet noemen, maar misschien wel een persoon”, zegt ze.

Voor Eric Schwitzgebel, hoogleraar filosofie aan de University of California in Riverside, is de conclusie nog dramatischer. “Als we op een dag robots maken met cognitieve en emotionele capaciteiten die lijken op die van de mens, zijn we hun meer morele consideratie verschuldigd dan we normaal gesproken verschuldigd zouden zijn aan anders vergelijkbare menselijke wezens,” schrijft hij in Aeon. “Wij zullen hun scheppers en ontwerpers zijn geweest. We zijn dus direct verantwoordelijk voor zowel hun bestaan als voor hun gelukkige of ongelukkige toestand.”

***

Blade Runner is nog maar een film en mensen zijn er nog steeds niet in geslaagd om replicants te maken. Maar we hebben al veel vooruitgang geboekt op het gebied van kunstmatige intelligentie, van zelfrijdende auto’s die leren zich aan te passen aan menselijke fouten tot neurale netwerken die met elkaar in discussie gaan om slimmer te worden. Voor Schneider hebben de vragen die de film oproept over de aard van de mensheid en hoe we androïden zouden kunnen behandelen, dan ook belangrijke implicaties voor de echte wereld.

“Een van de dingen waar ik mee bezig ben geweest, is nadenken over de vraag of het ooit ergens op zal lijken om een AI te zijn. Zal er ooit een Rachael zijn?” zegt Schneider, die Blade Runner gebruikt in haar les over filosofie in science fictions. Dit jaar publiceerde Schneider een artikel over de test die ze samen met astrofysicus Edwin Turner heeft ontwikkeld om te ontdekken of een mechanisch wezen werkelijk bewust zou kunnen zijn. Net als de Voight-Kampff-test is hij gebaseerd op een reeks vragen, maar in plaats van de aanwezigheid van empathie – gevoelens gericht op een ander – te eisen, kijkt hij naar gevoelens over het zelf-zijn. De test, die de AI-bewustzijnstest wordt genoemd, wordt momenteel gepatenteerd in Princeton.

De test verschilt van de bekendere Turingtest, die in 1951 door de wiskundige Alan Turing werd ontwikkeld. Bij deze test ging een rechter een digitaal gesprek aan met de deelnemer (zoals je dat tegenwoordig in chatrooms meemaakt), waarbij hij vragen stelde om uit te maken of de respondent een mens of een machine was. Maar zoals Schneider in haar artikel opmerkt, kunnen wetenschappers programma’s ontwikkelen die de Turing test doorstaan, maar geen bewuste wezens zijn. De Turing test is geïnteresseerd in het beoordelen van de waarheidsgetrouwheid tussen het antwoord van een machine en het antwoord van een mens, niet in het begrijpen of de machine bewust is of niet. Net als bij de Voight-Kampff-test gaat het er bij Schneiders AI-bewustzijnstest om te proberen te begrijpen wat er binnenin de machine gebeurt.

Dit soort werk is dringend nodig, zegt ze, omdat de mensheid ethisch niet is voorbereid op de repercussies van het scheppen van gevoelig leven. Wat het beoordelen van onze creaties nog moeilijker zal maken, is het menselijke vertrouwen in antropomorfisme om aan te geven wat moet gelden als een wezen dat morele overwegingen verdient. “Sommigen zien er menselijk uit, of ze zijn schattig en pluizig, dus denken we aan onze katten en honden,” zegt Schneider. “Het laat ons geloven dat ze voelen. We zijn erg goedgelovig. Het zou kunnen blijken dat alleen biologische systemen bewust kunnen zijn, of dat de slimste AI’s de bewuste zijn, die dingen die er niet menselijk uitzien.”

Het is belangrijk dat wetenschappers overleggen met filosofen – wat velen al doen, zegt Schneider – maar ook dat het publiek nadenkt over de repercussies van dit soort technologie. En, voegt ze eraan toe, niet alle filosofen zijn het eens over de aard van het bewustzijn, dus er zijn geen eenvoudige antwoorden.