«Estás en un desierto, caminando por la arena, cuando de repente miras hacia abajo y ves una tortuga… Te agachas y le das la vuelta a la tortuga. La tortuga se tumba de espaldas, con el vientre cociéndose al sol, batiendo las patas para intentar darse la vuelta, pero no puede. No sin tu ayuda. Pero tú no ayudas».
Quizás nada sea más emblemático de la película distópica de Ridley Scott de 1982, Blade Runner, que el test Voight-Kampff que administran los agentes de la ley titulares de la película, entre los que se encuentra Harrison Ford como Rick Deckard. La serie de preguntas del test ficticio, como la de arriba, está diseñada para separar a los humanos de los replicantes provocando una respuesta fisiológica que indique empatía. Sólo los verdaderos humanos, no los replicantes, sienten esa emoción. El cometido de Deckard es ocuparse de los replicantes que empiezan a desobedecer órdenes. Él y otros utilizan el test para decidir si «retirar» -matar- a los replicantes.
Estos androides rebeldes no sólo suponen una amenaza para los humanos, sino que en este mundo no tienen ningún derecho legal de protección. Cómo podrían, si no se les considera humanos?
Es un dilema tan atractivo que la historia continuará en la esperada secuela Blade Runner: 2049. Parte de la razón de la popularidad duradera de la película original es la lucha personal de Deckard, que se desarrolla de forma similar en películas como Her y programas como «Westworld»: ¿Quién o qué cuenta como humano, especialmente en un mundo de tecnología avanzada?
Y para entenderlo, tenemos que recurrir a algunos filósofos muy antiguos.
***
Para los antiguos griegos, las máquinas fabricadas por dioses o por humanos con un talento excepcional a menudo engañaban a la gente haciéndoles creer que los androides eran auténticos, escribe Adrienne Mayor en Aeon. El rey Nabis de Esparta poseía una versión robótica de su esposa, cuyo pecho estaba secretamente adornado con clavos. Utilizaba la máquina para abrazar a los ciudadanos que le desobedecían, cuya carne era atravesada por las armas ocultas. Y en China, un autómata del siglo X a.C. fabricado por el inventor Yan Shi tenía un aspecto tan humano, que cantaba y guiñaba el ojo a las damas, que el rey se enfureció con él. Luego se enteró de la verdad y se maravilló ante una máquina que incluso tenía órganos mecánicos. Como escribe el académico Nigel Wheale, «en todas las épocas, las ‘cosas humanas’ se han imaginado como entidades que ponen a prueba o definen el sentido contemporáneo del valor humano».
Todo esto viene a decir que la preocupación por cómo distinguir a los humanos de carne y hueso de las máquinas que simplemente parecen humanas (y por decidir si esas máquinas suponen una amenaza para nosotros, los Homo sapiens) no se limita a los tiempos modernos. Siempre nos hemos preguntado si todos los seres humanos son realmente lo que parecen ser, y por eso los filósofos de la Ilustración dedicaron tanto tiempo a diseccionar la cuestión de lo que hace que un ser humano sea humano.
René Descartes, un filósofo francés del siglo XVII que viajó por toda Europa, se planteó profundamente la cuestión de lo que nos hace humanos. No es casualidad que su cita más famosa la repita uno de los replicantes de Blade Runner: «Pienso, luego existo». Y si todo esto no es suficiente prueba de su conexión con la película, considere los nombres: Descartes y Deckard.
Como señala el filósofo Andrew Norris, Descartes sospechaba que algún día podría ser necesario comprobar si algo era humano o máquina. «Si hubiera máquinas que tuvieran imágenes de nuestros cuerpos y fueran capaces de imitar nuestras acciones en la medida en que es moralmente posible, aún quedarían dos pruebas muy seguras para saber que, por tanto, no son realmente hombres», escribió Descartes. Así que creó sus propias pruebas, que se basaban en la capacidad lingüística y la flexibilidad del comportamiento.
Los replicantes hablan y se comportan igual que los humanos, lo que significa que pasarían las pruebas de Descartes. Pero hay otra razón por la que Deckard lucha por refutar su humanidad: Los replicantes también tienen recuerdos implantados. Para el filósofo inglés John Locke, lo que da a una persona un sentido de sí misma es la continuidad de sus recuerdos. El cuerpo humano cambia con el tiempo, pero los recuerdos permanecen, ofreciendo una base para una identidad estable. «En la medida en que esta conciencia pueda extenderse hacia atrás, hacia cualquier acción o pensamiento pasado, hasta ahí llega la identidad de esa persona», escribió Locke.
Así que para Rachael, la replicante más avanzada de Blade Runner, no importa que sólo tenga unos pocos años; sus recuerdos se remontan mucho más atrás, dándole la impresión de haber vivido mucho más tiempo. Eso es lo que convierte a Rachael en una figura tan trágica: «sus» recuerdos no le pertenecen. Proceden de la sobrina de su inventor.
«Es algo desgarrador, pero puedes imaginar que siguen siendo especiales para ella incluso después de saber que no son verdaderamente suyos», dice Susan Schneider, profesora de filosofía en la Universidad de Connecticut y miembro del grupo de Ética y Tecnología de Yale. «Es como descubrir que uno es la copia cargada, no el individuo que la carga. Pero sigues teniendo una relación especial con ellos. Como un padre»
Pero no son sólo los recuerdos o la racionalidad lo que hace a un humano en Blade Runner. Lo más importante de todo, según el test de Voight-Kampff, es la empatía. Dado que no podemos leer las mentes ni ver ninguna prueba física de ellas, pensadores como el filósofo alemán Theodor Lipps han argumentado que podemos percibir que los demás sienten y actúan como nosotros gracias al poder de la empatía.
«El Blade Runner debe, irónicamente, poner a prueba la empatía de los demás -no, en este caso, en el sentido de Lipps, sino en el de su sensibilidad hacia un mundo natural ya periclitado y poblado por animales no humanos», escribe Norris en su artículo sobre la filosofía de la película. De ahí viene la famosa pregunta de la tortuga atrapada en su espalda en el desierto.
«Las emociones en sí mismas nunca serán una prueba perfecta de la humanidad: los sociópatas también son humanos, después de todo», dijo por correo electrónico Deborah Knight, profesora de filosofía en la Universidad de Queen. «Pero las emociones son algo más que respuestas no cognitivas. Nos ayudan a emitir juicios sobre lo que debemos hacer y sobre quiénes debemos aspirar a ser»
Esto es especialmente claro en el caso del replicante Roy Batty, interpretado por Rutger Hauer. Roy siente emociones similares a las de los humanos y tiene aspiraciones, pero no tiene una vida humana, dijo Knight. Roy es consciente de que, al igual que los demás replicantes, ha sido construido para morir tras apenas cuatro años, lo que comprensiblemente le enfurece.
Así que podría decirse que los replicantes sienten emociones y tienen recuerdos. ¿Los convierte eso en humanos? Para Schneider, la respuesta definitiva no es necesariamente importante. Los replicantes comparten suficientes cualidades con los humanos como para merecer protección. «Es un caso muy fuerte para tratarlos con los mismos derechos legales que le damos a un humano. No llamaríamos a un humano, pero sí a una persona», dice.
Para Eric Schwitzgebel, profesor de filosofía de la Universidad de California en Riverside, la conclusión es aún más dramática. «Si algún día creamos robots con capacidades cognitivas y emocionales similares a las de los humanos, les deberemos más consideración moral de la que normalmente les deberíamos a los seres humanos que son similares», escribe en Aeon. «Habremos sido sus creadores y diseñadores. Somos, por tanto, directamente responsables tanto de su existencia como de su estado feliz o infeliz.»
Blade Runner es sólo una película y los humanos aún no han conseguido crear replicantes. Pero hemos avanzado mucho en inteligencia artificial, desde coches autoconducidos que aprenden a adaptarse a los errores humanos hasta redes neuronales que discuten entre sí para ser más inteligentes. Por eso, para Schneider, las preguntas que plantea la película sobre la naturaleza de la humanidad y cómo podríamos tratar a los androides tienen importantes implicaciones en el mundo real.
«Una de las cosas que he estado haciendo es pensar si alguna vez se sentirá algo ser una IA. ¿Habrá alguna vez una Rachael?», dice Schneider, que utiliza Blade Runner en su clase sobre la filosofía en la ciencia ficción. Este año, Schneider publicó un artículo sobre la prueba que desarrolló con el astrofísico Edwin Turner para descubrir si un ser mecánico podría ser realmente consciente. Al igual que el test de Voight-Kampff, se basa en una serie de preguntas, pero en lugar de exigir la presencia de empatía -sentimientos dirigidos hacia el otro-, examina los sentimientos de ser un yo. La prueba, llamada Prueba de Conciencia de la IA, está en proceso de ser patentada en Princeton.
La prueba difiere de la más famosa Prueba de Turing, desarrollada por el matemático Alan Turing en 1951. En esta prueba anterior, un juez entablaba una conversación digital con el participante (como lo que se experimenta hoy en día en los chats), haciéndole preguntas para discernir si el encuestado era humano o una máquina. Pero, como señala Schneider en su artículo, los científicos pueden desarrollar programas que pasen el test de Turing pero que no sean seres conscientes. El test de Turing está interesado en evaluar la verosimilitud entre la respuesta de una máquina y la de un humano, no en comprender si la máquina es consciente o no. Al igual que el test de Voight-Kampff, el test de conciencia de la IA de Schneider trata de entender lo que ocurre dentro de la máquina.
Trabajar así es urgente, dice, porque la humanidad no está preparada éticamente para afrontar las repercusiones de crear vida sensible. Lo que hará que juzgar nuestras creaciones sea aún más difícil es la confianza humana en el antropomorfismo para indicar qué debe contar como un ser digno de consideración moral. «Algunos parecen humanos, o son bonitos y esponjosos, así que pensamos en nuestros gatos y perros», dice Schneider. «Eso nos hace creer que sienten. Somos muy crédulos. Puede resultar que sólo los sistemas biológicos puedan ser conscientes, o que las IAs más inteligentes sean las conscientes, esas cosas que no parecen humanas.»
Es importante que los científicos consulten a los filósofos -lo que muchos ya hacen, dice Schneider- pero también que los miembros del público piensen en las repercusiones de este tipo de tecnología. Y, añade, no todos los filósofos están de acuerdo con la naturaleza de la conciencia, por lo que no hay respuestas fáciles.