« La science est une chose trop importante pour être laissée entre les mains des seuls savants. » (Carl E. Sagan)

L’homme augmenté : les dessous d’un mythe
par Gérard Dubey

Notre dépendance aux nouvelles technologies change, au quotidien et insidieusement, notre rapport aux autres, comme à l’espace public ou au commun. L’un des risques est que, dans les situations les plus ordinaires, nous finissions par attendre des êtres humains qu’ils se comportent comme des machines. Le problème n’est pas de savoir si les machines vont renverser les humains mais de comprendre dans quelles conditions – sociales, politiques, éthiques et économiques – les êtres humains se mettent à agir machinalement, à désirer ressembler aux machines qu’ils conçoivent.

* * *

> Gérard Dubey, sociologue, professeur à l'Institut Mines-Telecom, chercheur associé au Centre d'Etude des Techniques, des Connaissances et des Pratiques (Cetcopra) à l'Université Paris 1-Panthéon Sorbonne. Co-auteur de "Dans la peau d'un pilote de chasse. Le spleen de l’homme-machine" (PUF, 2016) / Crédit DR.

S

AVOIR de quoi l’on parle. Lorsqu’on évoque la possibilité d’un humain augmenté, on se réfère généralement à une addition de performances humaines et machiniques − dans le prolongement de la figure du cyborg popularisée par la science-fiction.

Mais augmenté par rapport à quoi ? À quelles valeurs de référence et selon quels critères ? Comment mesure-t-on, par exemple, le bonheur ? La bonne vie ? Les sensations, comme les odeurs, le toucher, qui nous relient au monde ? Le plaisir qu’on éprouve à travailler ? Toutes ces dimensions qui font que la vie vaut la peine d’être vécue.

Attention ici de ne pas céder à la magie du chiffre. 1 Le plus peut cacher un moins ; un gain dissimuler des pertes, difficilement identifiables car non mesurables et non quantifiables.

Ainsi des pilotes de drones militaires, qui sont augmentés dans la mesure où ils peuvent voir, grâce aux capteurs déportés, à l’optronique, aux caméras infrarouges, ce que les simples yeux humains ne pourront jamais voir.

Mais quid du prestige que conférait le fait de dompter la puissance de la machine, les sensations et le plaisir du vol, le courage et aussi la fierté de dominer la peur, de la domestiquer au terme d’un long et fastidieux travail d’aguerrissement ?

Autre exemple, autre contexte, celui de la télémédecine et du télédiagnostic. Côté face, la possibilité de bénéficier, où que vous soyez, de l’avis d’un expert-spécialiste depuis votre domicile.

Augmenté par rapport à quoi ? À quelles valeurs de référence et selon quels critères ? Comment mesure-t-on, par exemple, le bonheur ? La bonne vie ?

Pour les personnes isolées, en perte d’autonomie ou de mobilité, pour les régions transformées en déserts médicaux, cela représente un gain et un progrès indéniables.

Côté pile, les études de terrain qui montrent que certaines personnes s’inquiètent d’une nouvelle forme d’enfermement, de confinement au domicile.

Aller voir un spécialiste, même s’il est loin, c’est sortir de son environnement quotidien, rompre avec la routine, aller en ville, faire des rencontres, l’occasion de faire de nouvelles expériences et, quelque part, de s’enrichir − autre définition possible de l’augmentation.

 

COMMENT LES TECHNOLOGIES NOUS CHANGENT

 

Bien entendu, à chaque progrès 2, son lot de renoncements et d’abandons d’anciennes manières de faire et d’être, d’habitudes et d’habitus.

L’essentiel étant que la somme des gains soit supérieure à celle des pertes et qu’aux anciennes sensibilités, s’en substituent de nouvelles. Sauf que l’approche économique et marchande, en termes de pertes et profits, met sur un même plan, celui de l’utilité, des réalités qualitativement hétérogènes. 3

Or, il est des choses parfaitement inutiles, comme consacrer du temps à écouter, à perdre son temps, à flâner, qui apparaissent, en revanche, essentielles dans le champ des relations sociales, de l’expérience vécue, de l’apprentissage, de l’imagination et de la création, etc. 4

Le plus peut cacher un moins ; un gain dissimuler des pertes, difficilement identifiables car non mesurables et non quantifiables.

La question n’est donc pas de savoir si les machines vont remplacer les humains. Mais quelles sont les valeurs que nous mettons dans les machines et qui, en retour, nous transforment : comme la vitesse, la prédictibilité, la régularité, la puissance, etc.

La dépendance qu’engendre, par exemple, l’usage répété de la géolocalisation et, plus encore, l’habitude de se fier à ces technologies, change, au quotidien et insidieusement, notre rapport aux autres, comme à l’espace public ou au commun. 5

Ne devenons-nous pas, par exemple, moins tolérants aux imperfections des êtres humains, à l’incertitude inhérente aux relations humaines, et d’une certaine façon plus impatiente ?

 

 

L’un des risques que j’entrevoie ici, c’est que, dans les situations les plus ordinaires, nous finissions par attendre des êtres humains qu’ils se comportent avec la même régularité, la même précision, la même vélocité et la même prédictibilité que les machines.

N’est-ce pas déjà ce qui arrive, lorsque, dans la rue, nous avons de plus en plus de mal à nous adresser à l’inconnu de passage, à l’étranger pour lui demander notre route, préférant à cet échange, plein d’imprévus et d’une certaine manière risqué, la précision et la solution rapide qui s’affiche sur l’écran de notre iPhone ?

La question est de savoir quelles sont les valeurs que nous mettons dans les machines et qui, en retour, nous transforment.

Voilà des questions que nous devons nous poser lorsque nous parlons d'« humain augmenté ». 6

L’une des choses à laquelle nous devons par conséquent prêter le plus attention, c’est qu’à mesure que nous nous habituons à l’efficacité binaire et sans nuances des machines, que celle-ci nous devient « naturelle », c’est aussi la faiblesse humaine qui nous devient plus insupportable et étrangère.

Le problème n’est donc pas tant de savoir si les machines vont renverser les humains, se substituer à eux, les dépasser ou les encore rendre caduques 7, que de comprendre dans quelles conditions – sociales, politiques 8, éthiques 9 et économiques 10 – les êtres humains se mettent à agir machinalement, à désirer ressembler aux machines qu’ils conçoivent.

C’est la question de l’agir machinal, du type d’humain que cette modalité d’action sous-tend, qui me semble ici cruciale et qu’il est urgent de se poser. 11

 

INTERAGIR AVEC DES MACHINES
EST PLUS RASSURANT

 

Il est vrai qu’avec les robots dits sociaux ou « compagnons » (tels Paro, Nao, NurseBot, Bao, Aibo, My Real Baby, etc.) en qui nous voulons voir des sujets, capables non seulement de communiquer avec nous, d’agir dans nos environnements quotidiens et familiers, mais encore de faire preuve d’émotions, d’apprentissage, d’empathie, etc., la perspective semble s’inverser. 12

Être en compagnie des autres nous ennuie.

La psychologue et anthropologue Sherry Turkle s’est interrogée sur ce passage des robots qui font peur, par leur étrangeté, aux robots avec lesquels nous semblons prêts à nous lier d’amitié.

Que s’est-il passé – se demande-t-elle – pour que nous soyons prêts à accueillir des robots dans notre vie quotidienne, jusqu’à vouloir tisser des liens affectifs et émotionnels avec eux alors qu’ils étaient, hier encore, source d’effroi ou d’inquiétude ?

 

 

Après plusieurs années d’enquête dans les maisons de retraite ayant fait le choix d’introduire ces machines, l’auteur de Seuls ensemble 13 conclut que l’une des raisons pour lesquelles nous préférons parfois le commerce avec les machines, plutôt qu’avec les êtres humains, est la détérioration préalable des relations que nous pouvons avoir dans le monde réel.

Défiance, crainte d’être trompé, suspicion caractériseraient ces relations. Turkle ajoute une fatigue, consécutive au fait de devoir toujours être sur ses gardes, et un ennui : être en compagnie des autres nous ennuie.

L’une des raisons pour lesquelles nous préférons le commerce avec les machines, plutôt qu’avec les êtres humains, est la détérioration préalable des relations que nous pouvons avoir dans le monde réel.

Elle en déduit que le concept de robots sociaux suggère que notre façon d’affronter l’intimité se résume peut-être aujourd’hui à l’éviter tout à fait.

Cette détérioration des relations humaines constituerait, selon elle, le socle et la condition du développement de robots sociaux, ces derniers répondant à un besoin de cadre, de repères, de certitude et de prédictibilité que les relations normales, dans le contexte d’une dérégulation généralisée, n’offrent plus que très rarement.

Tout se passe donc comme si nous attendions de nos relations « contrôlées et contrôlables » avec les machines, qu’elles compensent l’impuissance dans laquelle nous nous trouvons le plus souvent de faire face à l’injustice et à la cruauté réservées à des catégories entières d’êtres vivants − humains et non-humains, que l’on pense aux réfugiés, aux sans-abri ou aux animaux de l’industrie.

Une solution de repli en quelque sorte, ou refuge, mais qui n’est pas sans conséquence sur notre façon de nous penser dans le monde, ou plutôt hors du monde, sans prise réelle pour agir sur lui.

Gérard Dubey

> Post-Scriptum : la version originale de la tribune libre de Gérard Dubey a été publiée, le 23 février 2017, sur le site Internet de The Conversation.
> Photo de Une : RoboCop (Luka Zou / Flickr, Licence CC)
> Photo panoramique n°1 : une fille « seule » dans la foule, à Melbourne, en Australie (Mike Wilson / Wikimedia, Licence CC).
> Photo panoramique n°2 « Alone » : Bertrand / Flickr, Licence CC

 

* * *

 

 EN MAI

 

Pourquoi être contre
l'Intelligence artificielle ?

Par Cédric Sauviat

Polytechnicien, président de l'Association Française contre l'Intelligence Artificielle (AFCIA).

 

ET

 

Où va la science ?

Par Anne-Laure Boch

Neurochirurgien, médecin des Hôpitaux de Paris, docteur en philosophie.

 

* * *

 

Notes:

  1. NDLR : Lire la tribune libre de Simon Charbonneau, L'empire idéologique des chiffres, 27 août 2016. /
  2. NDLR : Lire la tribune libre d'Alain Gras, Qu'est-ce que le progrès technique ?, 26 août 2015. /
  3. NDLR : Lire la tribune libre de Didier Harpagès, L'économie est-elle une science ?, 18 mai 2015. /
  4. NDLR : Lire notre « Grand Entretien » avec Mohammed Taleb : « Oser les indisciplines de l'intuition », 16 mai 2016. /
  5. NDLR : Lire notre article : La technologisation de la vie : du mythe à la réalité, 1er mars 2018. /
  6. NDLR : Lire la tribune libre de Jean-Michel Besnier, Transhumanistes contre bioconservateurs, 25 février 2016. /
  7. NDLR : Lire notre article : Intelligence artificielle : la science rongée par le mythe, 8 avril 2015. /
  8. NDLR : Lire la tribune libre de Philippe Godard, La technologie est une politique, 4 septembre 2017. /
  9. NDLR : Lire le texte de Geneviève Azam, Dominique Bourg et Jacques Testart, Subordonner les technosciences à l'éthique, 15 février 2017, et voir notre rencontre : La recherche et les technosciences en débat, 24 février 2017. /
  10. NDLR : Lire la tribune libre de Sarah Dubernet, Arnaque transhumaniste, arnaque productiviste, 29 octobre 2016. /
  11. NDLR : Lire notre article : Edgar Morin pense les mots de l'humanité, 20 janvier 2018. /
  12. NDLR : Lire le texte du collectif Pièces et Main-d'Oeuvre (PMO), « Les deux cultures », ou la défaite des humanités, 25 septembre 2016. /
  13. – Sherry Turkle, Seuls ensemble. De plus en plus de technologies, de moins en moins de relations humaines, Editions L’Échappée, 2015. /

Un commentaire

  1. J’aime bien l’article de Gérard Dubey, je crois qu’il pose la question clé:  » Mais augmenté par rapport à quoi ? À quelles valeurs de référence et selon quels critères ? Comment mesure-t-on, par exemple, le bonheur ? La bonne vie ? Les sensations, comme les odeurs, le toucher, qui nous relient au monde ? Le plaisir qu’on éprouve à travailler ? Toutes ces dimensions qui font que la vie vaut la peine d’être vécue. » Si l' »augmentation » de l’homme lui permet de mieux ressentir, d’avoir plus d’empathie envers le vivant, de penser plus vite et plus largement, alors je suis pour, elle ne me fait pas peur. Je vais même plus loin, si des robots deviennent autonomes et sensibles comme les Cylons de la remarquable série télévisée  » Battle Star Galactica », et finissent par remplacer les humains qui du fait de leur angoisse métaphysique, de leurs peurs, de leur égoïsme sont capables des pires horreurs, alors pourquoi pas?

Laisser une réponse

Top