« La science est une chose trop importante pour être laissée entre les mains des seuls savants. » (Carl E. Sagan)

Frankenstein et le transhumanisme
par Brice de Malherbe

L’usage éthique des nouvelles technologies impose une prise de distance par rapport à l’idéologie transhumaniste. Cette idéologie veut nous séduire. Le mythe prémonitoire de Frankenstein nous met en garde : elle risque bien, au contraire, de nous détruire. Les transhumanistes veulent nous convaincre que Prométhée est heureux. Mais il ne peut l'être, car la puissance de la technique ne peut supplanter l'amour. Frankenstein nous prévient que le bonheur de l'homme ne se trouve pas dans une sortie de l'humanité.

* * *

> Brice de Malherbe, professeur à la Faculté Notre-Dame de Paris et co-directeur du département de recherche Éthique Biomédicale du Collège des Bernardins. / Crédit DR.

N

OUS commençons à nous habituer au vocable « transhumanisme » 1 qui peine encore à s’imposer dans les logiciels correcteurs d’orthographe.

Derrière ce terme, plusieurs courants porteurs de nuances propres de part et d’autre de l’Atlantique. Cependant, de la Singularity University californienne au Future of Humanity Institute de Grande-Bretagne, chacun s’accorde, semble-t-il, sur un point : le modèle de l’homme est la machine. Plus précisément : le modèle du cerveau, c’est l’ordinateur.

Ainsi, Ray Kurzweil vante, dans The Singularity Is Near, l’expansion des performances du cerveau grâce aux capacités infiniment plus grandes des systèmes de calcul non-biologiques.

Quant à Nick Boström, il souligne, dans Superintelligence, la supériorité du potentiel de l'« intelligence mécanique » par rapport à l'« intelligence organique ».

Pour Kurzweil, l’attractivité de ce modèle est tel qu’il concentre ses recherches et ses investissements sur la possibilité de télécharger les données du cerveau sur un disque dur.

Le modèle de l’homme, c'est la machine. Le modèle du cerveau, c’est l’ordinateur.

Boström doute que la complexité du contenu de l’esprit humain puisse permettre que celui-ci soit modélisable et téléchargeable.

Reste une fascination partagée pour l'« intelligence artificielle », au sens d’une machine qui « posséderait » une intelligence.

Il s’agirait, grâce à des combinaisons algorithmiques, d’augmenter les performances de certains robots informatisés jusqu’à leur permettre d’auto-réguler leurs réactions aux stimulations de l’environnement.

Autrement dit, souligne Jean-Gabriel Ganascia, il s’agirait de construire un double de l’homme avec une conscience de lui-même et un champ d’action autonome.

 

INQUIÉTUDE ÉTHIQUE

 

Les chercheurs en Intelligence Artificielle (IA) disent leur inquiétude éthique vis-à-vis des conséquences négatives possibles du développement de l’IA. 2

Viktoriya Kralovna, du Future of Life Institute, en a proposé une liste. En bref, n’allons-nous pas vers des formes d’intelligence dont les actions deviendraient incontrôlables par l’homme, voire se retourneraient contre l’homme ?

La fascination pour l'Intelligence Artificielle pose problème, dans la mesure où ce qui est dit de la machine se répercute sur la vision de l'homme.

Boström lui-même se dit conscient de ces dangers, mais estimant l’avènement de nouvelles formes d’IA inévitable, il préfère une régulation interne de ces nouveaux systèmes technologiques.

La puissance de contrôle et d’action de certains outils technologiques rendent de fait plus que jamais nécessaire la réflexion éthique. 3 L’enjeu est que ces outils restent au service du développement et de la solidarité humaine, sans devenir le modèle oppressant de l’activité et des relations humaines.

 

 

C’est là où le modèle anthropologique transhumaniste d’un Kurzweil ou d’un Boström, lorsqu’il devient moteur d’une fascination pour l’IA, pose un problème, dans la mesure où ce qui est dit de la machine se répercute sur la vision de l’homme.

À commencer par la vision même de ce que serait l'« intelligence » et la place qui lui serait donnée. Parler d’« intelligence artificielle », c’est d’ailleurs réduire l’intelligence à n’être qu’une fonctionnalité, en l’occurrence un instrument de calcul très performant.

Éviter la propension à « humaniser » la machine, qui se transforme vite en propension à « mécaniser » l’humain, avec des conséquences éthiques désastreuses.

Or, l’intelligence humaine n’est pas qu’un instrument de calcul. Elle n’est même pas une simple faculté de pensée. Elle est aussi faculté morale, capacité à discerner le bien du mal.

Elle s’insère ainsi dans la profondeur de l’intériorité humaine, qu’il serait dommageable d’oublier : la conscience 4, lieu personnel de la moralité ; l’âme qui habite et anime notre être, dans son unité corporelle et spirituelle, depuis les fonctions végétatives jusqu’au questionnement existentiel, voire à la vie mystique.

 

 

Mieux vaudrait donc parler, par exemple, de robots à très haute capacité de calcul, pour bien marquer que nous ne parlons que d’un certain type de capacités.

Eugénisme libéral, car non-coercitif, mais eugénisme glacial.

Cela permettrait d’éviter la propension à « humaniser » la machine, qui se transforme vite en propension à « mécaniser » l’humain, avec des conséquences éthiques désastreuses.

Nick Boström, dans son ouvrage sur la « superintelligence », évoque déjà comme une possibilité envisageable la sélection à grande échelle d’embryons humains.

Le but en serait de favoriser des cerveaux humains plus performants comme modèle à des machines plus performantes. Eugénisme libéral, car non-coercitif, mais eugénisme glacial.

 

UN AVERTISSEMENT BICENTENAIRE

 

L’usage éthique des nouvelles technologies impose une prise de distance par rapport à l’idéologie transhumaniste.

N’est-ce pas le message qu’envoyait déjà à l’Humanité, sans en soupçonner la portée, la jeune Mary Shelley dans son roman Frankenstein ou le Prométhée moderne ?

Le dur prix à payer pour la fabrication de cet être né de la technique, et non de l’amour, sera la mort.

La psychanalyste Monette Vacquin et le lettré Jean Duchesne nous invitent à voir dans cette œuvre un mythe prémonitoire, effectivement porteur d’une mise en garde.

La passion d’arracher la vie à la mort, qui habite le Docteur Victor Frankenstein, se transforme en cauchemar dès que la créature qu’il a façonnée prend vie.

 

 

Le dur prix à payer pour la fabrication de cet être né de la technique 5, et non de l’amour, sera la mort : celle des deux principaux protagonistes, et avant cela, celle des trois êtres qui sont le plus chers à Victor − son jeune frère, son meilleur ami et son épouse.

La quête d’immortalité, par le jeu de l’interface homme-machine, a pour prémisse l’obsolescence de l’homme.

La prétention à créer une nouvelle humanité hors des méandres du désir charnel, par l’alliance périlleuse de la raison et de l’imaginaire, s’est retournée contre l’amour.

Pour Monette Vacquin, Mary Shelley nous prévient qu’il ne faut pas s’en remettre à la science pour savoir qui est l’homme : c’est une question à laquelle elle ne peut répondre.

Aujourd’hui, les techniques de fécondation artificielle conduisent à une déstructuration des relations d’engendrement et préparent le terrain à l’eugénisme transhumaniste par la sélection prénatale de masse.

Quant à la quête d’immortalité, par le jeu de l’interface homme-machine, elle a pour prémisse l’obsolescence de l’homme. 6

Jean Duchesne voit plutôt dans Frankenstein, ce « Prométhée moderne », pour reprendre le sous-titre du roman de Mary, la projection des transgressions romantiques où l’ordre surnaturel des classiques et l’ordre rationnel des Lumières sont supplantés par l’ordre existentiel décrété par des individus d’exception, hissés au rang de génie.

La puissance de la technique ne peut supplanter l’amour.

Les transhumanistes, chercheurs de haut niveau, liés, pour certains, à l’industrie technologique américaine, veulent nous convaincre que Prométhée est heureux. Mais il ne peut l’être, car la puissance de la technique ne peut supplanter l’amour.

Frankenstein nous prévient que le bonheur de l’homme ne se trouve pas dans une sortie de l’Humanité.

L’usage éthique des nouvelles technologies se fonde dans la vulnérabilité de l’incarnation.

Brice de Malherbe

> Post-Scriptum : la version originale de la tribune libre de Brice de Malherbe a été publiée, le 1er mars 2017, sur le site Internet de The Conversation.
> Tableau de Frank Dicksee (1853-1928), représentant la scène célèbre du balcon de l'oeuvre de William Shakespeare Roméo et Juliette (Wikimédia / Licence CC).

 

* * *

 

 EN MAI

 

L'humain technologiquement augmenté : les dessous d'un mythe

Par Gérard Dubey

Sociologue, professeur à l'Institut Mines-Télécom, chercheur associé au Centre d'Etude des Techniques, des Connaissances et des Pratiques (Cetcopra) à l'Université Paris 1-Panthéon-Sorbonne.

 

ET

 

Où va la science ?

Par Anne-Laure Boch

Neurochirurgien, médecin des Hôpitaux de Paris, docteur en philosophie.

 

* * *

 

Notes:

  1. NDLR : Lire les tribunes libres de Jean-Michel Besnier, Transhumanistes contre bioconservateurs, 25 février 2016, et de Sarah Dubernet, Arnaque transhumaniste, arnaque productiviste, 29 octobre 2016. /
  2. NDLR : Lire notre article : Intelligence artificielle : la science rongée par le mythe, 8 avril 2015. /
  3. NDLR : Lire le texte de Geneviève Azam, Dominique Bourg et Jacques Testart, Subordonner les technosciences à l'éthique, 15 février 2017. /
  4. NDLR : Lire notre « Grand Entretien » avec Mohamed Taleb : « Oser les indisciplines de l'intuition », 16 mai 2016. /
  5. NDLR : Lire la tribune libre de Joël Decarsin, Impasse de la technoscience, 29 septembre 2015. /
  6. NDLR : Lire l'article d'Anthony Laurent, La technologisation de la vie : du mythe à la réalité, 1er mars 2018. /

Pas encore de commentaires

Laisser une réponse

Top