L’histoire
Transcendance : film de Wally Pfister avec Johnny Depp, Rebecca Hall, Paul Bettany
Le film raconte l’histoire d’un chercheur en neurosciences Will (Johnny Depp) qui travaille avec son équipe sur un super-ordinateur modélisant l’esprit humain. Un groupe « anti-technologie » s’attaque au centre de recherche de Will et le blesse mortellement. La seule façon de le « sauver » est de « transcender » son esprit dans le super-ordinateur…. et ça marche. Connecté à Internet, il absorbe toutes les données, découvre des masses de choses, fait avancer la médecine de façon fulgurante et veut changer le monde….
La critique et le publique ont plutôt mal accueilli ce film d’anticipation. Il est pourtant intéressant car il met en scène des questions éthique que posent aujourd’hui – et vont poser plus encore demain – les avancées technologiques. C’est cette réflexion qui nous intéresse ici.
Les acteurs amorcent ce débat dans les interviews au sujet du film : « Le fait de télécharger un esprit humain dans un ordinateur devrait devenir très vite une réalité » dit Johnny Depp, « Ce film parle de choses que très peu de gens considèrent comme dangereuses… Un danger grandissant » ajoute Morgan Freeman.
De quoi s’agit-il ? Tous les rêves sur ce que la science peut apporter à l’homme deviennent ici réalité : l’immortalité (Will perdure après sa mort avec le téléchargement de son esprit dans un ordinateur), l’augmentation (presque infinie) des capacités cognitives (via la connexion directe à internet et de multiples ordinateurs), la guérison de maladies (par les découvertes faites par ce surhomme), la résolution des problèmes du monde….
Vieux rêve peut-on penser, qui date des premières découvertes scientifiques. Certes, mais qui passe (avec ce film) à une vitesse supérieure car l’homme est directement connecté à la machine, voire ne fait qu’un avec puisqu’il y est téléchargé !
L’imagination va loin, mais une fois de plus, la machine « imite » l’homme, jusqu’à s’en faire son double en permettant « d’héberger » l’esprit quand le corps meurt. On peut se demander comment l’esprit peut ainsi fonctionner car il ne suffit pas d’avoir les informations « identiques » du cerveau, de la mémoire, il faut évidemment aussi l’infrastructure néo-nerveuse qui la supporte. On se demande aussi ce qui produit cette accélération fulgurante du savoir, peut-être la « symbiose » parfaite de l’homme et les ordinateurs qui allierait l’inventivité, l’affection, la sensibilité de l’homme à la puissance de calcul et l’ubiquité d’un cluster (Ordinateurs, calculateur mutualisant leur capacité pour réaliser des tâches ou des calculs avec plus de puissance) d’ordinateurs mondial ?
Télécharger son esprit dans un ordinateur ?
Mais quelle est la réalité de tout cela ? Est-ce envisageable dans un avenir proche ? Un article, écrit par le Docteur Jean-Pierre Dickès[1], détaille l’état de l’art sur le sujet[2], et il semble que nous n’en sommes pas loin : « Neuropolis est une énorme ville qui se développe près de Lausanne : elle a pour but de réaliser un cerveau artificiel numérisé qui sera plus intelligent que l’homme ; ceci dans le cadre de l’Human Brain Project » Un programme regroupant 24 pays et 112 institutions dont l’objectif est décrit dans sa page d’accueil : « découvrir en profondeur ce qui fait de nous des êtres humains, développer des technologies informatiques révolutionnaires ainsi que des nouveaux traitements pour les maladies du cerveau ». Le privé n’est pas en reste : la société Google, a embauché Ray Kurzweil – un ténor du Transhumanisme – comme directeur Technique qui explique dans un article du Dailymail : « Dans 30 ans, les humains seront capables de télécharger leur esprit en totalité vers des ordinateurs pour devenir numériquement immortels ». Cela n’est pas encore fait et l’immortalité n’est pas pour demain, mais on parle d’« immortalité digitale parce que l’intelligence et le cerveau d’une personne pourront être conservés pour l’éternité, même après son décès ». Les avancées de la connexion des machines et du cerveau sont indéniables, elles sont décrites de façon assez didactique dans cette vidéo de Joël de Rosnay au TEDxParis, qui date déjà de 2010.
Si cela arrive, est-ce dans un avenir proche ? Des scientifiques disent que – dans la continuité de la loi de Moor qui prédisait une croissance exponentielle des micoprocesseurs, (ces puces qui peuplent nos ordinateurs) c’est à dire le doublement de la puissance tous les ans – on pourra bientôt arriver à une accélération technologique, et aboutir à ce que certains appellent la « singularité technologique » (qui a donné son nom au à un mouvement éponyme dans la mouvance du transhumanisme). Les différentes étapes de l’évolution et notamment l’apparition de la vie ont eu ce genre de brusques sauts quantitatifs nous explique toujours Joël de Rosnay pour qui cette singularité prévue dans 30, 40 ans ou plus ne semble pas n’être qu’une vue de l’esprit.
De même que l’homme a fait la machine « à son image » (pour remplacer petit à petit ses fonctions et alléger son travail), il semble que la machine sophistiquée va nous modeler maintenant et nous mener vers des nouvelles frontières, à la limite de l’humanité, voire au-delà, mais où est-ce ? J . de Rosnay se demande si après la globalisation de l’information, il y aura une globalisation de la conscience, et si oui, dans quelle mesure elle sera influencée et contrôlée. A la « Big Brother » ? Plus facile quand tous sont connectés et se ressemblent. Ne faut-il pas anticiper cette évolution avant qu’elle nous emmène là où l’on ne voudrait pas aller forcément ?
Intégrité de la personne… et du robot
L’intégrité de la personne est une expression du droit. Quand on touche de façon violente à quelqu’un, on parle « d’atteinte à l’intégrité de la personne ». Intégrité signifie : ensemble des parties, ainsi que leur état. L’intégrité est l’opposé de l’altération. Quand nous sommes en partie remplacé par une machine (notre mémoire, notre capacité de réfléchir …), notre intégrité n’a-t-elle pas été touchée ? Le film le montre bien, les personnes guéries, ont dû (sciemment ou non) avoir leur intégrité atteinte par l’injection d’une partie de code de Will qu’il pourrait potentiellement utiliser à ses propres fins (c’est ce qui va déclencher la peur de la CIA – qui redoute une armée innombrable aux ordres de Will – et elle va décider de sa poursuite et sa mise hors d’état de nuire). Abdiquer d’une partie de son intégrité physique ou psychique va permettre à d’autres de prendre notre contrôle et donc, potentiellement, nous asservir. L’asservissement d’autres personnes n’est pas nouveau, mais le fait de le faire « de l’intérieur » devient plus inquiétant.
Ce qui est en jeu ici est la « facilité » (quand ces techniques seront au point) avec laquelle on pourra éventuellement manipuler l’homme – après lui avoir fait miroité la connaissance et la santé. Mais la manipulation, voire l’asservissement de l’homme, existent depuis toujours. Cette facilité a deux inconvénients : la possibilité de répandre plus facilement le comportement, mais aussi la simplicité de mise en œuvre qui peut anesthésier la conscience. Un Khmer rouge qui asservit et lave le cerveau de son opposant[1] pose des actes sur la durée pour le faire. Celui qui n’aura qu’à brancher une électrode et dérouler un programme s’en rendra moins compte et pourra faire potentiellement plus de dégâts, plus vite. Et la question de pose aussi, en sens inverse, pour des machines si sophistiquées que nous leur céderons de plus en plus de nos prérogatives… comme celle de tuer. Les armes accomplissent en partie cette besogne, mais si, aujourd’hui, des drones sont projetés sur les théâtres d’opérations, contrôlés par des hommes, se pose déjà la question des robots tueurs autonomes, dans le cadre de la convention de Genève. Les robots sont-ils intègres (dans l’autre acception du mot) ?
Ces avancées techniques sont incroyables, elles font miroiter de nombreuses promesses de bien-être, de guérison (c’est souvent par là que commencent les découvertes technologiques impactant l’humain), mais peut-on, doit-on tout faire ? Car cette progression des techniques dans l’écosystème intime de l’homme (son corps et son esprit) nous amènent à nous interroger sur l’homme. Qui est-il ? Quelles sont les limites, les frontières de la nature humaine ? Peut-on l’améliorer ou au contraire l’amoindrir par la technique, alliée à la médecine ? Un antidouleur très puissant comme la morphine est aussi une drogue et altère momentanément et parfois irréversiblement une personne. Sait-on jusqu’où aller pour éviter d’aller trop loin ?
[1] Cf le livre Rithy Panh « L’Elimination »
Tanneguy RAMIERE de FORTANIER