L’histoire …
Film de Wally Pfister avec … Johnny Depp, Rebecca Hall, Paul Bettany
Le film raconte l’histoire d’un chercheur en neurosciences Will (Johnny Depp) qui travaille avec son équipe sur un super-ordinateur modélisant l’esprit humain. Un groupe « anti-technologie » s’attaque au centre de recherche de Will et le blesse mortellement. La seule façon de le « sauver » est de « transcender » son esprit dans le super-ordinateur…. et ça marche. Connecté à Internet il absorbe toutes les données et découvre des masses de choses et fait avancer la médecine de façon fulgurante et veut changer le monde….
La critique et le publique ont moyennement bien accueilli ce film d’anticipation, mais il reste qu’il met en scène des questions éthique que posent aujourd’hui et vont poser plus encore demain les avancées technologiques. C’est cette réflexion qui nous intéresse ici.
Les acteurs amorcent ce débat dans les interviews au sujet du film (1) … « Le fait de télécharger un esprit humain dans un ordinateur devrait devenir très vite une réalité » (Johnny Depp) « Ce film parle de choses que très peu de gens seulement considèrent comme dangereuses… Un danger grandissant» Morgan Freeman
De quoi s’agit-il ? Tous les rêves sur ce que la science peut apporter à l’homme deviennent ici réalité : l’immortalité (Will perdure après sa mort avec le téléchargement de son esprit dans un ordinateur), l’augmentation (presque infinie) des capacités cognitives (via la connexion directe à internet et de multiples ordinateurs), la guérison de maladies (par les découvertes faites par ce surhomme), la résolution des problèmes du monde…. Vieux rêve peut-on penser, qui date des premières découvertes scientifiques … certes, mais qui passe (avec ce film) une vitesse supérieure car maintenant l’homme est directement connecté à la machine, voire ne fait qu’un avec puisqu’il y est téléchargé !… l’imagination va loin, mais une fois de plus la machine « imite » l’homme, jusqu’à s’en faire son double en permettant « d’héberger » l’esprit quand le corps meurt. On peut se demander comment l’esprit peut ainsi fonctionner car il ne suffit pas d’avoir les informations «identiques » du cerveau, de la mémoire, il faut encore l’infrastructure néo-nerveuse qui la supporte. On se demande aussi ce qui produit cette accélération fulgurante du savoir, peut-être la « symbiose » parfaite de l’homme et les ordinateurs qui allieraient l’inventivité, l’affection, la sensibilité de l’homme à la puissance de calcul et l’ubiquité d’un cluster (2) d’ordinateur mondial ?
Télécharger son esprit dans un ordinateur ?
Mais quelle est la réalité de tout cela ? Est-ce envisageable dans un avenir proche ? Un article, écrit par le Docteur Jean-Pierre Dickès (3), détaille l’état de l’art sur le sujet (4), et il semble que nous n’en sommes pas loin : « Neuropolis est une énorme ville qui se développe près de Lausanne : elle a pour but de réaliser un cerveau artificiel numérisé qui sera plus intelligent que l’homme ; ceci dans le cadre de l’Human Brain Project (5) » Un programme regroupant 24 pays et 112 institutions dont l’objectif est décrit dans sa page d’accueil « découvrir en profondeur ce qui fait de nous des êtres humain, développer des technologies informatiques révolutionnaires ainsi que des nouveaux traitements pour les maladies du cerveau ». Le privé n’est pas en reste : la société Google, a embauché Ray Kurzweil – un ténor du Transhumanisme – comme directeur Technique qui explique dans un article (6) du Dailymail « Dans 30 ans, les humains seront capables de télécharger leur esprit en totalité vers des ordinateurs pour devenir numériquement immortels ». Cela n’est pas encore fait et l’immortalité n’est pas pour demain, mais on parle d’« immortalité digitale parce que l’intelligence et le cerveau d’une personne pourront être conservés pour l’éternité, même après son décès » (7). Les avancées de la connexion des machines et du cerveau sont indéniables, elles sont décrites de façon assez didactique dans cette vidéo de Joël de Rosnay au TEDxParis, qui date déjà de 2010. (8)
Si cela arrive, est-ce dans un avenir proche ? Des scientifiques disent que – dans la continuité de la loi de Moor qui prédisait une croissance exponentielle des microprocesseurs, (ces puces qui peuplent nos ordinateurs) c’est à dire le doublement de la puissance tous les ans – on pourra bientôt arriver à une accélération technologique, (9) et aboutir à ce que certains appellent la « singularité technologique » (10) (qui a donné son nom au à un mouvement (11) éponyme dans la mouvance du transhumanisme). Les différentes étapes de l’évolution et notamment l’apparition de la vie ont eu ce genre de brusques sauts quantitatifs nous explique toujours Joël de Rosnay pour qui cette singularité prévue dans 30, 40 ans ou plus ne semble pas n’être qu’une vue de l’esprit. (12)
De même que l’homme à fait la machine « à son image » (pour remplacer petit à petit ses fonctions et alléger son travail) … il semble que la machine sophistiquée va nous modeler maintenant et nous mener vers des nouvelles frontières, à la limite de l’humanité, voire au-delà, mais où est-ce ? J. de Rosnay prédit qu’après la globalisation de l’information, y aurait-il une globalisation de la conscience, et si oui, dans quelle mesure sera-t-elle influencée et contrôlée, à la « Big-Brother » ? Plus facile quand tous sont connectés et se ressemblent. Ne faut-il pas anticiper cette évolution avant qu’elle nous emmène là où l’on ne voudrait pas forcément ?
Intégrité de la personne … et du robot
L’intégrité de la personne, est une expression du droit. Quand on touche de façon violente à quelqu’un on parle « d’atteinte à l’intégrité de la personne ». Intégrité signifie ensemble des parties, ainsi que leur état, il est l’opposé de l’altération. Quand nous sommes en partie remplacé par une machine (notre mémoire, notre capacité de réfléchir …), notre intégrité n’a-t-elle pas été touchée ? Le film le montre bien, les personnes guéries, ont dû (sciemment ou non) avoir leur intégrité atteinte par l’injection d’une partie de code de Will qui pourrait potentiellement utiliser à ses propres fins (c’est ce qui va déclencher la peur de la CIA – qui redoute une armée innombrable aux ordres de Will – et elle va décider de sa poursuite et sa mise hors d’état de nuire). Abdiquer d’une partie de son intégrité physique ou psychique va permettre à d’autres de prendre notre contrôle et donc nous asservir. L’asservissement d’autres personnes n’est pas nouveau, mais le fait de le faire « de l’intérieur » devient plus inquiétant.
Ce qui est en jeu ici est la « facilité » (quand ces techniques seront au point) avec laquelle on pourra éventuellement manipuler l’homme après lui avoir fait miroité la connaissance, la santé. Mais la manipulation voir l’asservissement de l’homme existent de tout temps. Cette facilité à deux inconvénients : la possibilité de répandre plus facilement le comportement, mais aussi la simplicité de mise en œuvre qui peut anesthésier la conscience. Un Khmer rouge qui asservi et lave le cerveau de son opposant, (13) pose des actes sur la durée pour le faire. Celui qui n’aura qu’à brancher une électrode et dérouler un programme s’en rendra moins compte et pourra faire potentiellement plus de dégâts, plus vite. Et la question de pose aussi, en sens inverse, pour des machines si sophistiquées que nous leur céderons de plus en plus de nos prérogatives … comme tuer. Les armes accomplissent en partie cette besogne, mais si aujourd’hui des drones sont projetés sur les théâtres d’opérations, contrôlés par des hommes, il se pose déjà la question des robots tueurs autonomes dans le cadre de la convention de Genève. (14) Les robots sont-ils intègres (dans l’autre acception du mot) ?
Ces avancées techniques sont incroyables, elles font miroiter de nombreuses promesses de bien être, de guérison (c’est souvent par-là que commencent les découvertes technologiques impactant l’humain), mais peut-on, doit-on tout faire ? Car cette progression des techniques dans l’écosystème intime de l’homme (son corps, et maintenant son esprit) nous amènent à nous interroger sur l’homme. Qui est-il ? Quelles sont les limites, les frontières de la nature humaine. Peut-on l’améliorer ou au contraire l’amoindrir par la technique alliée à la médecine. Un antidouleur très puissant comme la morphine est aussi une drogues et altère momentanément et parfois irréversiblement une personne. Sait-on jusqu’où aller trop loin ?
Tanneguy RAMIERE de FORTANIER
