„Jesteś na pustyni, idziesz po piasku i nagle spoglądasz w dół i widzisz żółwia… Sięgasz w dół i przewracasz żółwia na plecy. Żółw leży na plecach, jego brzuch piecze w gorącym słońcu, bije nogami próbując się obrócić, ale nie może. Nie bez twojej pomocy. Ale ty nie pomagasz.”

Prawdopodobnie nic nie jest bardziej emblematyczne dla dystopijnego filmu Ridleya Scotta Blade Runner z 1982 roku niż test Voighta-Kampffa podawany przez tytułowych egzekutorów prawa, w tym Harrisona Forda jako Ricka Deckarda. Serie pytań w fikcyjnym teście, takie jak ta powyżej, mają na celu oddzielenie ludzi od replikantów poprzez wywołanie fizjologicznej reakcji wskazującej na empatię. Tylko prawdziwi ludzie, a nie replikanci, odczuwają tę emocję. Zadaniem Deckarda jest radzenie sobie z replikantami, którzy zaczynają nie słuchać rozkazów. On i inni używają testu, aby zdecydować, czy należy „przejść na emeryturę” – zabić replikantów.

Nie dość, że te zbuntowane androidy stanowią zagrożenie dla ludzi, to jeszcze w tym świecie nie mają żadnych praw do ochrony prawnej. Jak mogłyby, skoro nie są uważane za ludzi?

To tak wciągający dylemat, że historia będzie kontynuowana w długo oczekiwanym sequelu Blade Runner: 2049. Częściowym powodem ogromnej popularności oryginalnego filmu jest osobista walka Deckarda, która rozgrywa się podobnie w filmach takich jak Her i serialach takich jak „Westworld”: Kto lub co liczy się jako człowiek, zwłaszcza w świecie zaawansowanej technologii?

A żeby to zrozumieć, musimy zwrócić się do kilku bardzo starych filozofów.

***

Dla starożytnych Greków maszyny stworzone przez bogów lub wyjątkowo utalentowanych ludzi często oszukiwały ludzi, by wierzyli, że androidy są autentyczne, pisze Adrienne Mayor w Aeon. Król Nabis ze Sparty posiadał robotyczną wersję swojej żony, której pierś potajemnie zdobiły gwoździe. Używał maszyny, by przytulać obywateli, którzy byli mu nieposłuszni, a ich ciała były przebijane przez ukrytą broń. A w Chinach automat z X w. p.n.e., wykonany przez wynalazcę Yan Shi, wyglądał tak ludzko, śpiewając i mrugając do pań, że król wpadł w gniew z tego powodu. Potem dowiedział się prawdy i zachwycił się maszyną, która miała nawet mechaniczne organy. Jak pisze badacz Nigel Wheale, „We wszystkich epokach 'ludzkie-rzeczy' były wyobrażane jako byty, które testują lub definiują współczesne poczucie ludzkiej wartości.”

Wszystko to ma na celu stwierdzenie, że obawy o to, jak odróżnić ludzi z krwi i kości od maszyn, które tylko wyglądają jak ludzie (i decydowanie, czy te maszyny stanowią zagrożenie dla nas, Homo sapiens), nie ograniczają się do czasów współczesnych. Zawsze zastanawialiśmy się, czy wszyscy ludzie naprawdę są tym, czym wydają się być – dlatego filozofowie oświecenia spędzili tak wiele czasu na roztrząsaniu kwestii, co czyni człowieka, człowiekiem.

Rene Descartes, XVII-wieczny francuski filozof, który podróżował po Europie, głęboko rozważał kwestię tego, co czyni nas ludźmi. To nie przypadek, że jego najsłynniejszy cytat jest powtarzany przez jednego z replikantów w Blade Runnerze: „Myślę, więc jestem”. A jeśli to wszystko nie jest wystarczającym dowodem na jego związek z filmem, weźmy pod uwagę nazwiska: Descartes i Deckard.

Jak zauważa filozof Andrew Norris, Kartezjusz podejrzewał, że kiedyś może zaistnieć potrzeba sprawdzenia, czy coś jest człowiekiem, czy maszyną. „Gdyby istniały maszyny noszące obrazy naszych ciał i zdolne do naśladowania naszych czynów tak dalece, jak jest to moralnie możliwe, pozostałyby jeszcze dwa najpewniejsze testy, dzięki którym można by wiedzieć, że nie są one zatem naprawdę ludźmi” – pisał Kartezjusz. Stworzył więc własne testy, które polegały na zdolności językowej i elastyczności zachowania.

Replikanci mówią i zachowują się tak samo jak ludzie, co oznacza, że przeszliby testy Kartezjusza. Ale jest jeszcze jeden powód, dla którego Deckardowi trudno jest obalić ich człowieczeństwo: Replikanci mają również wszczepione wspomnienia. Dla angielskiego filozofa Johna Locke’a tym, co daje człowiekowi poczucie „ja”, jest ciągłość jego wspomnień. Ludzkie ciało zmienia się z czasem, ale wspomnienia pozostają, dając podstawę stabilnej tożsamości. „Tak dalece, jak ta świadomość może być rozciągnięta wstecz do jakiegokolwiek przeszłego działania lub myśli, tak dalece sięga tożsamość tej osoby” – napisał Locke.

Więc dla Rachael z Blade Runnera, najbardziej zaawansowanego replikanta, jakiego dotąd stworzono, nie ma znaczenia, że może mieć tylko kilka lat; jej wspomnienia sięgają znacznie dalej wstecz, dając jej wrażenie, że żyje znacznie dłużej. To właśnie sprawia, że Rachael jest tak tragiczną postacią – „jej” wspomnienia nie należą do niej. Pochodzą od siostrzenicy jej wynalazcy.

„To łamie serce, ale można sobie wyobrazić, że są dla niej wciąż wyjątkowe, nawet po tym, jak dowiaduje się, że tak naprawdę nie są jej”, mówi Susan Schneider, profesor filozofii na Uniwersytecie Connecticut i członek grupy Etyka i Technologia na Yale. „To tak, jakbyś dowiedział się, że jesteś wgraną kopią, a nie osobą, która ją wgrywa. Ale nadal masz z nimi jakiś szczególny związek. Jak z rodzicem.”

Ale to nie tylko wspomnienia czy racjonalność czynią człowieka w Blade Runnerze. Najważniejszym z nich, według testu Voighta-Kampffa, jest empatia. Ponieważ nie możemy czytać w myślach ani widzieć żadnych fizycznych dowodów na ich istnienie, myśliciele tacy jak niemiecki filozof Theodor Lipps twierdzą, że możemy postrzegać, iż inni czują i działają tak jak my, dzięki sile empatii.

„Blade Runner musi, jak na ironię, testować empatię innych – nie w sensie Lippsa, ale ich wrażliwości na ginący świat przyrody zamieszkany przez nie-ludzkie zwierzęta” – pisze Norris w swojej pracy na temat filozofii filmu. To stąd pochodzi słynne pytanie o żółwia uwięzionego na plecach na pustyni.

„Emocje same w sobie nigdy nie będą doskonałym testem człowieczeństwa: socjopaci też są ludźmi, mimo wszystko”, powiedziała Deborah Knight, profesor filozofii na Queen’s University, wysyłając e-mail. „Ale emocje są czymś więcej niż tylko reakcjami pozapoznawczymi. Pomagają nam osądzać, co powinniśmy robić i kim powinniśmy być.”

Jest to szczególnie wyraźne w przypadku replikanta Roya Batty’ego, granego przez Rutgera Hauera. Roy odczuwa podobne do ludzkich emocje i ma aspiracje, ale nie ma ludzkiej długości życia, powiedział Knight. Roy jest świadomy, że podobnie jak inni replikanci, został zbudowany tak, aby umrzeć po zaledwie czterech latach, co go w sposób zrozumiały rozwściecza.

Więc replikanci prawdopodobnie odczuwają emocje i mają wspomnienia. Czy to czyni z nich ludzi? Dla Schneidera definitywna odpowiedź nie ma znaczenia. Replikanci dzielą z ludźmi tyle cech, że zasługują na ochronę. „To bardzo mocny argument za tym, by traktować ich z takimi samymi prawami, jakie dajemy człowiekowi. Nie nazwalibyśmy ich ludźmi, ale być może osobami” – mówi.

Dla Erica Schwitzgebela, profesora filozofii na Uniwersytecie Kalifornijskim w Riverside, wniosek jest jeszcze bardziej dramatyczny. „Jeśli pewnego dnia stworzymy roboty o podobnych do ludzkich zdolnościach poznawczych i emocjonalnych, będziemy im winni więcej względów moralnych, niż normalnie bylibyśmy winni podobnym istotom ludzkim” – pisze w Aeonie. „Będziemy ich twórcami i projektantami. Jesteśmy zatem bezpośrednio odpowiedzialni zarówno za ich istnienie, jak i za ich szczęśliwy lub nieszczęśliwy stan.”

***

Blade Runner to tylko film, a ludziom wciąż nie udało się stworzyć replikantów. Ale dokonaliśmy wielu postępów w dziedzinie sztucznej inteligencji, od samojeżdżących samochodów uczących się przystosowywać do ludzkich błędów po sieci neuronowe, które kłócą się ze sobą, by stać się mądrzejsze. Dlatego dla Schneidera pytania postawione w filmie o naturę człowieczeństwa i o to, jak możemy traktować androidy, mają ważne implikacje w świecie rzeczywistym.

„Jedną z rzeczy, które robiłem, było zastanawianie się, czy bycie SI będzie kiedykolwiek czymś odczuwalnym. Czy kiedykolwiek pojawi się Rachael?” – mówi Schneider, która wykorzystuje Blade Runnera na swoich zajęciach z filozofii w fantastyce naukowej. W tym roku Schneider opublikowała pracę na temat testu, który opracowała wraz z astrofizykiem Edwinem Turnerem, aby odkryć, czy mechaniczna istota może być rzeczywiście świadoma. Podobnie jak test Voighta-Kampffa, opiera się on na serii pytań, ale zamiast wymagać obecności empatii – uczuć skierowanych ku innym – bada uczucia związane z byciem sobą. Test, nazwany Testem Świadomości AI, jest w trakcie opatentowywania w Princeton.

Test różni się od bardziej znanego Testu Turinga, opracowanego przez matematyka Alana Turinga w 1951 roku. W tym wcześniejszym teście, sędzia angażował się w cyfrową rozmowę z uczestnikiem (jak to, czego można doświadczyć dzisiaj na czatach), zadając pytania, aby rozpoznać, czy respondent jest człowiekiem czy maszyną. Jednak, jak zauważa Schneider w swoim artykule, naukowcy mogą opracować programy, które przejdą test Turinga, ale nie będą świadomymi istotami. Test Turinga jest zainteresowany oceną prawdziwości pomiędzy odpowiedzią maszyny a odpowiedzią człowieka, a nie zrozumieniem, czy maszyna jest czująca czy nie. Podobnie jak test Voighta-Kampffa, test świadomości AI Schneidera ma na celu próbę zrozumienia, co dzieje się wewnątrz maszyny.

Praca taka jak ta jest pilna, ponieważ ludzkość nie jest etycznie przygotowana do radzenia sobie z reperkusjami stworzenia czującego życia. To, co sprawi, że osądzanie naszych tworów będzie jeszcze trudniejsze, to ludzkie poleganie na antropomorfizmie, aby wskazać, co powinno się liczyć jako istota godna moralnej uwagi. „Niektóre z nich wyglądają jak ludzie, są słodkie i puszyste, więc myślimy o naszych kotach i psach” – mówi Schneider. „To sprawia, że wierzymy, że one czują. Jesteśmy bardzo łatwowierni. Może się okazać, że tylko systemy biologiczne mogą być świadome, albo że najmądrzejsze SI to te świadome, te rzeczy, które nie wyglądają na ludzkie.”

Ważne jest, aby naukowcy naradzali się z filozofami – co wielu już robi, mówi Schneider – ale także, aby członkowie społeczeństwa przemyśleli reperkusje tego typu technologii. I dodaje, że nie wszyscy filozofowie zgadzają się co do natury świadomości, więc nie ma łatwych odpowiedzi.