De retour pour notre nouvelle dissertation illustrée par la série Black
Mirror, dont la saison 2 s’ouvre avec un épisode extrêmement populaire et
marquant (du moins il me semble être populaire et marquant, parce que j’ai eu
beaucoup d’élèves qui l’ont déjà cité dans une dissertation sur la
technique !)
« Bientôt de retour » est l’histoire tragique d’Ash et Martha,
un jeune couple qui va se retrouver dramatiquement séparé lors de la mort
d’Ash. Heureusement, dans l’univers de cet épisode, il existe une application
qui permet de parler avec les morts. Ou plutôt, avec un robot qui, grâce aux
informations que nous postons sur les réseaux sociaux, est capable de
reproduire une image fidèle de celui qu’on était de notre vivant, pour nous
imiter une fois qu’on n’est plus là. Plus encore, il est désormais possible de
déplacer ce robot dans un corps artificiel et ainsi ramener complètement celui
qu’on a perdu.
Pendant tout l’épisode, un parallèle est fait avec le mythe du vampire.
Même si ce n’est pas ce qui va nous intéresser aujourd’hui, je voudrais quand
même en dire quelques mots parce que je trouve très originale cette idée de
reconstruire le mythe du vampire à partir de la technologie. Au tout début de
l’épisode, Martha reproche à Ash d’être « vampirisé » par son
téléphone. Métaphore intéressante, quand on pense que le vampire est celui qui
aspire notre vie (le sang) pour revenir d’entre les morts. Le téléphone d’Ash,
l’usage qu’il en fait et sa façon d’y exposer toute sa vie sont bien ce qui va
lui permettre de revenir sous une autre forme après sa mort. Vient alors une
copie de lui-même, un être qui a l’air vivant mais ne l’est pas vraiment, un
véritable mort-vivant technologique. Comme le vampire souvent décrit comme très
séduisant, ce nouvel Ash est parfait : Martha remarque qu’il ressemble à
Ash dans ses bons jours. Le robot Ash lui explique que c’est normal, puisqu’il
a été fait à partir des photos en ligne, et que sur les réseaux on ne met que
les photos les plus flatteuses. Il n’a pas besoin de dormir, ni de respirer. Il
peut faire semblant : mais ce n’est plus une nécessité biologique.
Passée la métaphore vampirique, nous pouvons nous intéresser à la
question de « l’homme-machine », un concept initié au XVIIème siècle
par philosophie La Mettrie, à la suite de la célèbre théorie de
« l’animal-machine » de Descartes. Dans le Discours de la méthode,
Descartes compare les productions techniques de l’homme avec celles de la
nature, qu’il considère comme les productions de Dieu. L’homme est capable de
fabriquer des automates, des machines qui fonctionnent par elles-mêmes. On
pourrait très bien donner à ces automates la figure d’un singe ou d’un oiseau.
Bien sûr, le singe-robot se distinguerait facilement d’un singe réel, mais
l’homme est un être imparfait, sa copie sera donc imparfaite. Dieu, en
revanche, est parfait et omnipotent : il a donc très bien pu produire
également des automates, comme les hommes, mais des automates parfaits,
c’est-à-dire les animaux. Descartes propose ainsi une explication purement
matérialiste du vivant : nul besoin de la notion d’âme pour expliquer le
comportement des animaux, dont on peut entièrement rendre compte de façon
mécanique.
Cependant, Descartes n’ose pas aller jusqu’à une explication mécanique de
l’être humain. En bon chrétien, il considère que Dieu a donné à l’homme une âme
et surtout le libre-arbitre, la capacité de choisir entre le bien et le mal. C’est
La Mettrie, à la même époque, qui prolongera la réflexion de Descartes en
soutenant que l’homme peut tout aussi bien être expliqué de façon matérielle,
et créera ainsi le concept d’« homme-machine ».
Face à un automate parfait à figure humaine, pourrait-on se rendre compte
qu’il s’agit d’un robot et non d’un humain
véritable ? Pour Descartes, il est clair que non : aussi
ressemblant soit-il, il manquera toujours quelque chose à l’automate qui fera
que nous ne pourrons être dupes, alors qu’un automate parfait à figure animale
fera totalement illusion. Voyons ce qu’en dit notre épisode, « Bientôt de
retour » : la copie de Ash pourra-t-elle faire office de remplaçant ?
La réponse sera clairement non : malgré les similitudes, Martha ne
cessera de se plaindre de ces petits détails qui prouvent que ce n’est pas le
vrai Ash qui est devant elle. Bien sûr, il y a les problèmes purement
physiques : le fait qu’il n’ait besoin ni de manger, ni de respirer, ni de
dormir. Au début, quand elle parle avec lui par chat ou téléphone, elle est
impressionnée par la ressemblance et dit même : « C’est tout à fait
le genre de truc qu’il aurait dit. » Mais très vite, on se rendra compte
que si le robot arrive à imiter une partie de la personnalité d’un être humain,
ce ne sera toujours qu’une partie. Les problèmes commencent alors qu’elle n’en
est encore qu’au stade du téléphone : alors qu’elle s’approche d’une
falaise où ils sont déjà allés ensemble, elle lui rappelle que ce jour-là, il
lui avait dit qu’à l’époque victorienne, des couples maudits avaient sauté de
cette falaise pour se donner la mort. Le robot-Ash du téléphone la
corrige : en fait, tous ceux qui ont sauté de cette falaise ont sauté seuls,
il n’était pas question de couple. Comment le sait-il ? Il vient de
vérifier l’information sur Wikipédia. Martha est gênée. Pourquoi une simple
vérification en ligne la met dans cet état ? Parce que c’est un signe
évident que la « personne » avec qui elle parle n’est pas humaine. Un
être humain est limité : il ne peut pas tout savoir, il se trompe parfois,
comme le vrai Ash s’est trompé au sujet de cette falaise. Seul un robot peut
tout savoir ainsi. En revanche, si le robot est capable de tout savoir en ce
qui concerne la culture générale, il ne possède pas tous les souvenirs qu’un
petit ami est censé avoir. Quand la sœur de Martha vient lui rendre visite, il
ignore que c’est sa sœur et la prend pour une amie : une erreur que
n’aurait jamais pu faire le vrai Ash.
Cependant, le vrai problème du robot vient du fait qu’il est totalement
incapable d’improviser à la manière de Ash. A chaque fois que Martha est
perturbée, il demande « Ce n’est pas le genre de chose que j’aurais
dit ? » : programme inclus dans le robot pour être encore plus
ressemblant. Mais le problème vient justement du fait qu’il cherche une
logique. Il cherche un moyen de savoir à coup sûr ce qu’aurait fait Ash dans
n’importe quelle situation. Malheureusement, cela est impossible : alors
que le robot vise une rationalité sans faille, l’être humain est parfois
illogique, irrationnel, imprévisible. Et face aux situations nouvelles, il est
totalement incapable de réagir : quand Martha, en colère, lui dit de
quitter la chambre et qu’il le fait spontanément alors qu’elle aurait attendu
du vrai Ash qu’il essaie de discuter avant ; quand elle le frappe, elle
est certaine que Ash n’aurait pas réagi comme lui, même si elle est incapable
de dire précisément ce qu’il aurait fait ; quand elle l’emmène sur la falaise
des couples maudits et qu’il attend de savoir ce qu’elle a dans la tête, elle
sait que Ash aurait deviné.
La capacité d’improvisation et d’adaptation face à des situations
nouvelles semble un propre du vivant. Un robot extrêmement perfectionné peut
apprendre à intégrer de nouvelles données par lui-même, mais on a le sentiment
qu’il manquera toujours quelque chose. C’est ce qui faisait dire à Descartes
que la raison et le langage étaient le propre de l’homme : le langage au
sens fort, c’est être capable de produire du contenu nouveau à partir des mots.
Mais pour développer ce sujet, je vous renvoie plutôt à un épisode de mon
podcast Geekosophie Magazine sur la méchante sorcière de l’ouest du Magicien
d’Oz, que vous trouverez sur un de ces liens (et toutes les autres plateformes
d’écoute) :
Aucun commentaire:
Enregistrer un commentaire