“Sei in un deserto, stai camminando sulla sabbia, quando all’improvviso guardi giù e vedi una tartaruga… Ti abbassi e metti la tartaruga sulla schiena. La tartaruga è sdraiata sulla schiena, con la pancia che cuoce sotto il sole cocente, e batte le gambe cercando di girarsi, ma non ci riesce. Non senza il tuo aiuto. Ma tu non la stai aiutando.”
Forse niente è più emblematico del film distopico Blade Runner di Ridley Scott del 1982 del test Voight-Kampff somministrato dai tutori della legge titolari del film, tra cui Harrison Ford nel ruolo di Rick Deckard. La serie di domande nel test fittizio, come quella sopra, sono progettate per separare gli umani dai replicanti provocando una risposta fisiologica che indica empatia. Solo i veri umani, non i replicanti, provano questa emozione. Il compito di Deckard è quello di occuparsi dei replicanti che iniziano a disobbedire agli ordini. Lui e gli altri usano il test per decidere se “ritirarsi” – uccidere i replicanti.
Non solo questi androidi ribelli rappresentano una minaccia per gli umani, ma in questo mondo, non hanno alcun diritto legale di protezione. Come potrebbero, se non sono considerati umani?
È un dilemma così avvincente che la storia continuerà nell’atteso sequel Blade Runner: 2049. Parte della ragione della duratura popolarità del film originale è la lotta personale di Deckard, una lotta che si svolge in modo simile in film come Her e spettacoli come “Westworld”: Chi o cosa conta come umano, specialmente in un mondo di tecnologia avanzata?
E per capirlo, dobbiamo rivolgerci ad alcuni filosofi molto vecchi.
***
Per gli antichi greci, le macchine fatte dagli dei o da umani di eccezionale talento spesso ingannavano la gente facendole credere che gli androidi fossero autentici, scrive Adrienne Mayor in Aeon. Il re Nabis di Sparta possedeva una versione robotica di sua moglie, con il seno segretamente adornato di chiodi. Usava la macchina per abbracciare i cittadini che gli disobbedivano, la loro carne perforata dalle armi nascoste. E in Cina, un automa del X secolo a.C., costruito dall’inventore Yan Shi, aveva un aspetto così umano, che cantava e faceva l’occhiolino alle signore, che il re se ne infuriò. Poi apprese la verità, e si meravigliò di una macchina che aveva persino degli organi meccanici. Come scrive lo studioso Nigel Wheale, “In tutte le epoche, le ‘cose umane’ sono state immaginate come entità che mettono alla prova o definiscono il senso contemporaneo del valore umano.”
Tutto questo per dire che le preoccupazioni su come distinguere gli umani in carne e ossa dalle macchine che hanno solo un aspetto umano (e decidere se queste macchine rappresentano una minaccia per noi Homo sapiens) non è limitato ai tempi moderni. Ci siamo sempre chiesti se tutti gli esseri umani sono davvero ciò che sembrano essere, ed è per questo che i filosofi illuministi hanno speso così tanto tempo a sezionare la questione di ciò che rende un umano, umano. Non è un caso che la sua citazione più famosa sia ripetuta da uno dei replicanti in Blade Runner: “Penso, dunque sono”. E se tutto questo non è una prova sufficiente del suo legame con il film, considerate i nomi: Descartes e Deckard.
Come sottolinea il filosofo Andrew Norris, Descartes sospettava che un giorno ci sarebbe stato bisogno di un test per verificare se qualcosa fosse umano o macchina. “Se ci fossero macchine con immagini dei nostri corpi, e capaci di imitare le nostre azioni per quanto è moralmente possibile, rimarrebbero ancora due prove sicurissime per sapere che non sono quindi veramente uomini”, scrisse Cartesio. Così creò i suoi test, che si basavano sull’abilità linguistica e sulla flessibilità del comportamento.
I replicanti parlano e si comportano proprio come gli umani, il che significa che supererebbero i test di Cartesio. Ma c’è un’altra ragione per cui Deckard fatica a confutare la loro umanità: I replicanti hanno anche dei ricordi impiantati. Per il filosofo inglese John Locke, ciò che dà a una persona un senso di sé è la continuità dei suoi ricordi. Il corpo umano cambia con il tempo, ma i ricordi rimangono, offrendo una base per un’identità stabile. “Nella misura in cui questa coscienza può essere estesa all’indietro fino a qualsiasi azione o pensiero passato, così lontano si estende l’identità di quella persona”, scrisse Locke.
Così per Rachael di Blade Runner, il replicante più avanzato ancora sviluppato, non importa che possa avere solo pochi anni; i suoi ricordi vanno molto più indietro, dandole l’impressione di aver vissuto molto più a lungo. Questo è ciò che rende Rachael una figura così tragica: i “suoi” ricordi non le appartengono. Vengono dalla nipote del suo inventore.
“È una cosa straziante, ma si può immaginare che siano ancora speciali per lei anche dopo aver saputo che non sono veramente suoi”, dice Susan Schneider, professore di filosofia all’Università del Connecticut e membro del gruppo di Etica e Tecnologia a Yale. “È come scoprire che sei la copia caricata, non l’individuo che fa l’upload. Ma hai ancora qualche rapporto speciale con loro. Come un genitore.”
Ma non sono solo i ricordi o la razionalità a fare un umano in Blade Runner. La cosa più importante di tutte, secondo il test Voight-Kampff, è l’empatia. Dato che non possiamo leggere la mente o vederne le prove fisiche, pensatori come il filosofo tedesco Theodor Lipps hanno sostenuto che possiamo percepire che gli altri sentono e agiscono come noi attraverso il potere dell’empatia.
“Il Blade Runner deve, abbastanza ironicamente, testare l’empatia degli altri – non, qui, nel senso di Lipps, ma in quello della loro sensibilità verso un mondo naturale ormai perduto popolato da animali non umani”, scrive Norris nel suo saggio sulla filosofia del film. Da qui nasce la famosa domanda della tartaruga intrappolata sul suo dorso nel deserto.
“Le emozioni in sé non saranno mai un test perfetto dell’umanità: anche i sociopatici sono umani, dopo tutto”, ha detto via e-mail Deborah Knight, professore di filosofia alla Queen’s University. “Ma le emozioni sono più che risposte non cognitive. Ci aiutano a dare giudizi su ciò che dovremmo fare e su chi dovremmo aspirare ad essere.”
Questo è particolarmente chiaro nel caso del replicante Roy Batty, interpretato da Rutger Hauer. Roy prova emozioni simili a quelle umane e ha aspirazioni, ma non ha una durata di vita umana, ha detto Knight. Roy è consapevole che, come gli altri replicanti, è stato costruito per morire dopo soli quattro anni, cosa che comprensibilmente lo fa infuriare.
Quindi i replicanti probabilmente provano emozioni e hanno ricordi. Questo li rende umani? Per Schneider, una risposta definitiva non è necessariamente importante. I replicanti condividono abbastanza qualità con gli umani da meritare protezione. “È un caso molto forte per trattare con gli stessi diritti legali che diamo a un umano. Non chiameremmo un umano, ma forse una persona”, dice.
Per Eric Schwitzgebel, professore di filosofia all’Università della California a Riverside, la conclusione è ancora più drammatica. “Se un giorno creeremo robot con capacità cognitive ed emotive simili a quelle umane, dovremo loro più considerazione morale di quanta ne dovremmo normalmente a esseri umani altrimenti simili”, scrive su Aeon. “Saremo stati i loro creatori e progettisti. Siamo quindi direttamente responsabili sia della loro esistenza che del loro stato felice o infelice.”
***
Blade Runner è solo un film e gli umani non sono ancora riusciti a creare replicanti. Ma abbiamo fatto molti progressi nell’intelligenza artificiale, dalle auto a guida autonoma che imparano ad adattarsi agli errori umani alle reti neurali che discutono tra loro per diventare più intelligenti. Ecco perché, per Schneider, le domande poste dal film sulla natura dell’umanità e su come potremmo trattare gli androidi hanno importanti implicazioni nel mondo reale.
“Una delle cose che ho fatto è stato pensare se ci sarà mai la sensazione di essere una IA. Ci sarà mai una Rachael?” dice Schneider, che usa Blade Runner nel suo corso sulla filosofia nelle science fictions. Quest’anno, Schneider ha pubblicato un documento sul test che ha sviluppato con l’astrofisico Edwin Turner per scoprire se un essere meccanico potrebbe effettivamente essere cosciente. Come il test Voight-Kampff, si basa su una serie di domande, ma invece di richiedere la presenza di empatia – sentimenti diretti verso un altro – guarda i sentimenti sull’essere un sé. Il test, chiamato AI Consciousness Test, sta per essere brevettato a Princeton.
Il test differisce dal più famoso Test di Turing, sviluppato dal matematico Alan Turing nel 1951. In questo test precedente, un giudice si impegnava in una conversazione digitale con il partecipante (come quello che si sperimenta oggi nelle chatroom), facendo domande per discernere se l’intervistato era umano o una macchina. Ma come sottolinea Schneider nel suo articolo, gli scienziati possono sviluppare programmi che superano il test di Turing ma non sono esseri coscienti. Il test di Turing è interessato a valutare la verosimiglianza tra la risposta di una macchina e quella di un umano, non a capire se la macchina è senziente o meno. Come il test Voight-Kampff, il test di Coscienza dell’IA della Schneider cerca di capire cosa succede dentro la macchina.
Un lavoro come questo è urgente, dice, perché l’umanità non è eticamente preparata ad affrontare le ripercussioni della creazione di vita senziente. Ciò che renderà ancora più difficile giudicare le nostre creazioni è la dipendenza umana dall’antropomorfismo per indicare cosa dovrebbe contare come un essere degno di considerazione morale. “Alcuni sembrano umani, o sono carini e soffici, così pensiamo ai nostri cani e gatti”, dice Schneider. “Ci fa credere che provino qualcosa. Siamo molto ingenui. Potrebbe risultare che solo i sistemi biologici possono essere coscienti, o che le IA più intelligenti sono quelle coscienti, quelle cose che non sembrano umane”.
È importante che gli scienziati conferiscano con i filosofi – cosa che molti già fanno, dice Schneider – ma anche che i membri del pubblico pensino alle ripercussioni di questo tipo di tecnologia. E, aggiunge, non tutti i filosofi sono d’accordo sulla natura della coscienza, quindi non ci sono risposte facili.