« Vous êtes dans un désert, vous marchez dans le sable, quand tout à coup vous regardez en bas et vous voyez une tortue … Vous tendez la main et vous retournez la tortue sur le dos. La tortue est couchée sur le dos, le ventre brûlant sous le soleil, battant des jambes pour essayer de se retourner, mais elle ne peut pas. Pas sans votre aide. Mais vous ne l’aidez pas. »

Peut-être que rien n’est plus emblématique du film dystopique Blade Runner de Ridley Scott (1982) que le test Voight-Kampff administré par les représentants de la loi titulaires du film, dont Harrison Ford dans le rôle de Rick Deckard. Les séries de questions du test fictif, comme celle ci-dessus, sont conçues pour distinguer les humains des réplicants en provoquant une réponse physiologique indiquant l’empathie. Seuls les vrais humains, et non les réplicants, ressentent cette émotion. La tâche de Deckard est de s’occuper des réplicants qui commencent à désobéir aux ordres. Lui et d’autres utilisent le test pour décider s’il faut ou non « mettre à la retraite » – tuer les réplicants.

Non seulement ces androïdes rebelles représentent une menace pour les humains, mais dans ce monde, ils n’ont aucun droit légal à la protection. Comment le pourraient-ils, alors qu’ils ne sont pas considérés comme des humains ?

C’est un dilemme si engageant que l’histoire se poursuivra dans la suite tant attendue, Blade Runner : 2049. La popularité durable du film original s’explique en partie par la lutte personnelle de Deckard, qui se joue de manière similaire dans des films comme Her et des émissions comme « Westworld » : Qui ou quoi compte comme humain, surtout dans un monde de technologie avancée ?

Et pour le comprendre, il faut se tourner vers de très vieux philosophes.

***

Pour les Grecs anciens, les machines fabriquées par des dieux ou des humains exceptionnellement talentueux trompaient souvent les gens en leur faisant croire que les androïdes étaient authentiques, écrit Adrienne Mayor dans Aeon. Le roi Nabis de Sparte possédait une version robotisée de sa femme, dont la poitrine était secrètement ornée de clous. Il utilisait la machine pour étreindre les citoyens qui lui désobéissaient, leur chair étant transpercée par les armes cachées. Et en Chine, un automate du Xe siècle avant J.-C. fabriqué par l’inventeur Yan Shi ressemblait tellement à un être humain, chantant et faisant des clins d’œil aux dames, que le roi en devint furieux. Puis il a appris la vérité, et s’est émerveillé devant une machine qui avait même des organes mécaniques. Comme l’écrit le spécialiste Nigel Wheale, « à toutes les époques, les « choses humaines » ont été imaginées comme des entités qui testent ou définissent le sens contemporain de la valeur humaine. »

Tout cela pour dire que les préoccupations sur la façon de distinguer les humains en chair et en os des machines qui ont simplement l’apparence humaine (et décider si ces machines constituent une menace pour nous, Homo sapiens) ne se limite pas aux temps modernes. Nous nous sommes toujours demandé si tous les humains sont vraiment ce qu’ils semblent être – ce qui explique pourquoi les philosophes des Lumières ont passé tant de temps à disséquer la question de savoir ce qui fait d’un humain, un humain.

René Descartes, un philosophe français du XVIIe siècle qui a beaucoup voyagé en Europe, s’est profondément penché sur la question de savoir ce qui fait de nous des humains. Ce n’est pas une coïncidence si sa citation la plus célèbre est répétée par l’un des réplicants dans Blade Runner : « Je pense, donc je suis. » Et si tout cela n’est pas une preuve suffisante de son lien avec le film, considérez les noms : Descartes et Deckard.

Comme le souligne le philosophe Andrew Norris, Descartes soupçonnait qu’il pourrait un jour être nécessaire de tester si quelque chose était humain ou machine. « S’il y avait des machines portant l’image de nos corps, et capables d’imiter nos actions autant qu’il est moralement possible, il resterait encore deux tests les plus certains par lesquels on saurait qu’elles ne sont donc pas réellement des hommes », écrit Descartes. Il a donc créé ses propres tests, qui reposaient sur la capacité linguistique et la flexibilité du comportement.

Les réplicants parlent et se comportent comme les humains, ce qui signifie qu’ils passeraient les tests de Descartes. Mais il y a une autre raison pour laquelle Deckard peine à réfuter leur humanité : Les réplicants ont également des souvenirs implantés. Pour le philosophe anglais John Locke, ce qui donne à une personne un sentiment d’identité est la continuité de ses souvenirs. Le corps humain change avec le temps, mais les souvenirs demeurent, offrant ainsi les bases d’une identité stable. « Aussi loin que cette conscience peut être étendue en arrière à toute action ou pensée passée, aussi loin s’étend l’identité de cette personne », a écrit Locke.

Donc pour Rachael de Blade Runner, la réplicante la plus avancée encore développée, il importe peu qu’elle puisse n’avoir que quelques années ; ses souvenirs s’étendent bien plus loin, lui donnant l’impression d’avoir vécu bien plus longtemps. C’est ce qui fait de Rachael un personnage si tragique : « ses » souvenirs ne lui appartiennent pas. Ils proviennent de la nièce de son inventeur.

« C’est une chose déchirante, mais vous pouvez imaginer qu’ils sont toujours spéciaux pour elle même après qu’elle ait appris qu’ils ne sont pas vraiment les siens », explique Susan Schneider, professeur de philosophie à l’Université du Connecticut et membre du groupe Éthique et technologie à Yale. « C’est comme découvrir que vous êtes la copie téléchargée, et non la personne qui a téléchargé. Mais vous avez toujours une relation spéciale avec eux. Comme un parent. »

Mais ce ne sont pas seulement les souvenirs ou la rationalité qui font un humain dans Blade Runner. Le plus important de tous, selon le test de Voight-Kampff, est l’empathie. Puisque nous ne pouvons pas lire dans les esprits ou en voir des preuves physiques, des penseurs comme le philosophe allemand Theodor Lipps ont soutenu que nous pouvons percevoir que les autres ressentent et agissent comme nous grâce au pouvoir de l’empathie.

« Le Blade Runner doit, de manière assez ironique, tester l’empathie des autres – pas, ici, au sens de Lipps, mais dans celui de leur sensibilité à un monde naturel désormais périmé et peuplé d’animaux non humains », écrit Norris dans son article sur la philosophie du film. C’est de là que vient la fameuse question de la tortue piégée sur son dos dans le désert.

« Les émotions elles-mêmes ne seront jamais un test parfait de l’humanité : les sociopathes sont aussi humains, après tout », a déclaré par courriel Deborah Knight, professeur de philosophie à l’université Queen’s. « Mais les émotions sont plus que des réponses non cognitives. Elles nous aident à porter des jugements sur ce que nous devons faire et sur qui nous devons aspirer à être. »

Ceci est particulièrement clair dans le cas du réplicant Roy Batty, joué par Rutger Hauer. Roy ressent des émotions de type humain et a des aspirations, mais n’obtient pas une durée de vie humaine, a déclaré Knight. Roy est conscient que, comme les autres réplicants, il a été construit pour mourir après seulement quatre ans, ce qui l’enrage de manière compréhensible.

On peut donc dire que les réplicants ressentent des émotions, et qu’ils ont des souvenirs. Cela fait-il d’eux des êtres humains ? Pour Schneider, une réponse définitive n’a pas forcément d’importance. Les réplicants partagent suffisamment de qualités avec les humains pour mériter d’être protégés. « C’est un argument très fort pour les traiter avec les mêmes droits juridiques que ceux accordés à un humain. Nous n’appellerions pas un humain, mais peut-être une personne », dit-elle.

Pour Eric Schwitzgebel, professeur de philosophie à l’Université de Californie à Riverside, la conclusion est encore plus dramatique. « Si nous créons un jour des robots dotés de capacités cognitives et émotionnelles de type humain, nous leur devons plus de considération morale que nous n’en aurions normalement pour des êtres humains autrement similaires », écrit-il dans Aeon. « Nous aurons été leurs créateurs et leurs concepteurs. Nous sommes donc directement responsables à la fois de leur existence et de leur état heureux ou malheureux. »

***

Blade Runner n’est qu’un film et les humains n’ont toujours pas réussi à créer des réplicants. Mais nous avons fait de nombreuses avancées dans le domaine de l’intelligence artificielle, qu’il s’agisse de voitures autopilotées apprenant à s’adapter aux erreurs humaines ou de réseaux neuronaux qui discutent entre eux pour devenir plus intelligents. C’est pourquoi, pour Schneider, les questions posées par le film sur la nature de l’humanité et la façon dont nous pourrions traiter les androïdes ont d’importantes implications dans le monde réel.

« L’une des choses que j’ai faites est de réfléchir à la question de savoir si cela ressemblera un jour à quelque chose d’être une IA. Y aura-t-il un jour un Rachael ? », déclare Schneider, qui utilise Blade Runner dans son cours sur la philosophie dans les science-fictions. Cette année, Mme Schneider a publié un article sur le test qu’elle a mis au point avec l’astrophysicien Edwin Turner pour déterminer si un être mécanique pourrait être conscient. Comme le test de Voight-Kampff, il repose sur une série de questions, mais au lieu d’exiger la présence d’empathie (sentiments dirigés vers un autre), il s’intéresse aux sentiments liés au fait d’être soi-même. Le test, appelé AI Consciousness Test, est en cours de brevetage à Princeton.

Le test diffère du plus célèbre test de Turing, développé par le mathématicien Alan Turing en 1951. Dans ce test antérieur, un juge engageait une conversation numérique avec le participant (comme ce que vous expérimentez aujourd’hui dans les salons de discussion), posant des questions pour discerner si le répondant était un humain ou une machine. Mais comme Schneider le souligne dans son article, les scientifiques peuvent développer des programmes qui passent le test de Turing mais ne sont pas des êtres conscients. Le test de Turing vise à évaluer la vraisemblance entre la réponse d’une machine et celle d’un humain, et non à déterminer si la machine est sensible ou non. Comme le test de Voight-Kampff, le test de conscience de l’IA de Schneider vise à essayer de comprendre ce qui se passe à l’intérieur de la machine.

Un travail comme celui-ci est urgent, dit-elle, car l’humanité n’est pas éthiquement préparée à faire face aux répercussions de la création d’une vie sensible. Ce qui rendra le jugement de nos créations encore plus difficile est la dépendance humaine à l’anthropomorphisme pour indiquer ce qui doit compter comme un être digne de considération morale. « Certains ont l’air humain, ou ils sont mignons et pelucheux, alors nous pensons à nos chats et à nos chiens », explique M. Schneider. « Cela nous fait croire qu’ils ont des sentiments. Nous sommes très crédules. Il pourrait s’avérer que seuls les systèmes biologiques peuvent être conscients, ou que les IA les plus intelligentes sont celles qui sont conscientes, ces choses qui n’ont pas l’air humaines. »

Il est important que les scientifiques se concertent avec des philosophes – ce que beaucoup font déjà, selon Mme Schneider – mais aussi que les membres du public réfléchissent aux répercussions de ce type de technologie. Et, ajoute-t-elle, tous les philosophes ne sont pas d’accord sur la nature de la conscience, il n’y a donc pas de réponses faciles.