Source [http://www.genethique.org] Algorithmes, supers ordinateurs, applications mobiles,… l’intelligence artificielle se perd dans une nébuleuse dont les contours échappent. Anne-Laure Boch, neurochirurgien, médecin des Hôpitaux de Paris, docteur en philosophie, évoque les risques inhérents à l’envahissement de la technique dans le quotidien de la santé.
Gènethique : On parle beaucoup d’objets intelligents pour les objets connectés, est-ce qu’on parle d’un progrès ?
Anne-Laure Boch : La plupart de ces objets sont au mieux commodes, mais ils sont loin d’être intelligents ! En quoi un capteur de fréquence cardiaque est-il « intelligent » ? Certes, il peut être relié directement à un pacemaker, ce qui permet un contrôle plus fin des paramètres de ce dernier. Le pacemaker peut aussi être piloté à distance par un centre de cardiologie dématérialisé. Ce peut être commode, efficace, rentable… jusqu’au jour où un pirate prendra la main sur votre pacemaker, et vous enverra un SMS réclamant le versement d’une rançon sous peine de déconnexion immédiate de l’appareil qui vous maintient en vie ! A ce moment, je ne sais pas si on trouvera ça « intelligent »…
Sans aller jusqu’à cette extrémité, notons que la réalité de notre rapport aux ordinateurs, aux robots, aux machines, c’est que ça tombe beaucoup en panne, que l’obsolescence est très rapide, que la durée de vie des technologies est très courte et leur besoin en énergie très élevé. Dans la science-fiction, les robots sont quasiment immortels. Mais dans la réalité, c’est loin d’être le cas. A quel rythme devez-vous recharger votre téléphone portable ? Et combien de temps tient votre ordinateur avant d’avoir besoin d’être upgradé voire carrément remplacé ? Quand ces techniques seront « embarquées » dans votre corps, vous ne pourrez plus plaisanter avec les mises à jour de logiciel ou de batterie que votre fabriquant vous propose d’acheter. Toute cette technologie est surtout d’une extrême fragilité. Elle met l’utilisateur dans la dépendance du marché.
G : Est-ce le défi de l’homme augmenté ?
ALB : Le transhumanisme se targue d’améliorer le corps humain par le biais d’implants électroniques, qui ont pour but d’augmenter les performances de l’intelligence naturelle, notamment les performances mnésiques, avec l’objectif de nous rendre plus semblables à l’intelligence artificielle. On va tirer le corps biologique du côté de la machine parce qu’on n’a pas réussi à tirer la machine du côté du biologique ; on cherche à remplacer des morceaux du vivant pour le faire ressembler à la machine, pour hisser l’intelligence humaine à hauteur de machine. Quelle régression !
G : Vous semblez suggérer que l’entreprise est vouée à l’échec ?
ALB : Si le but de votre vie est de faire très bien un travail mécanique, un travail de robot, l’entreprise sera peut-être un succès. Du point de vue de votre employeur qui voudrait amplifier chez vous une petite fonction très particulière, pour vous cantonner à une tâche spécifique, de ce point de vue et seulement de ce point de vue, c’est un progrès. Par exemple, l’armée va renforcer les capacités de résistance de ses soldats au combat. De là à dire que cela va améliorer l’épanouissement personnel des soldats !... Le vrai but de la vie humaine est l’épanouissement de l’individu, avec, par et pour les autres. De ce point de vue, s’en remettre au transhumanisme expose à une déception terrible. N’est-ce pas cynique de se présenter comme au service des hommes alors qu’en réalité, on veut les mettre en esclavage, en faire de petits robots dévolus à l’exécution de telle ou telle tâche ?
G : Pourtant, on utilise déjà des implants pour soigner avec succès certaines maladies, je pense à l’épilepsie ou à la maladie de Parkinson ?
ALB : La neurochirurgie fonctionnelle s’est développée surtout pour les mouvements anormaux, essentiellement pour la maladie de Parkinson et les tremblements qu’elle génère. En modifiant certains circuits neuronaux, on peut libérer le mouvement et réduire les tremblements, les résultats sont probants. Mais ce qui est assez troublant, c’est que tout en améliorant par ce procédé les symptômes négatifs, les tremblements, on est confronté à des effets secondaires, notamment psychologiques : des dépressions nerveuses, des désinhibitions… Cela vient du fait que la sélection anatomique des zones à stimuler est imparfaite. Cependant, pour ces applications, ce ne sont « que » des effets secondaires.
On pourrait envisager d’avoir comme objectif d’utiliser en effet primaire la modification de telle ou telle capacité psychologique qu’on peut estimer gênante… D’abord dans des véritables pathologies, comme la dépression, l’anorexie, la boulimie, par exemple. Mais il est probable qu’à court terme, on passe aux indications « de confort ». Par exemple, des personnes qui sont simplement un peu tristes, ou qui veulent simplement maigrir… il y a toujours un continuum entre la personne malade et la personne normale. Dans la psychiatrie, on passe assez facilement de la pathologie lourde à quelque chose qui peut être vu simplement comme une caractéristique de la personnalité : de la dépression nerveuse à la simple tristesse, il n’y a pas de solution de continuité. Le risque est d’oublier l’objectif d’épanouissement de la personne, pour se contenter de celui d’adaptation à son environnement, notamment professionnel parce que c’est là qu’il y a le plus de contraintes : les implants deviendront–ils indispensables pour postuler à certains postes ? Dans un « meilleur des mondes », exigera-t-on que les gens se soumettent à des stimulations cérébrales qui les rendent capables de supporter l’insupportable ? Plutôt que de donner de l’intérêt au travail, on lui adapte un petit robot souriant… Les implants sont alors utilisés pour faire en sorte que notre cerveau réponde comme une machine soumise à des requêtes. On en arrive à pousser le cynisme et l’utilitarisme beaucoup trop loin.
G : Ces implants connectés diffusent des informations nous concernant tous azimuts. Est-ce que nous pourrons nous protéger ?
ALB : Effectivement, là, on entre dans le très dangereux. Si la source est intégrée à la personne, tout est manipulable prétendument pour le meilleur et éventuellement pour le pire. Au minimum, dans la société telle qu’elle est, le risque est celui de la marchandisation. Tous ces gadgets dont nous sommes dépendants sont coûteux. Une fois que vous les avez achetés, vous devrez faire les mises à jour, les faire réparer… Une fois implantés, vous serez à disposition du fabricant. Qu’arrivera-t-il si vous ne payez plus les traites de vos implants dernier cri ? C’est déjà le cas pour les personnes malades, vous me direz. Mais justement, elles sont malades ! Elles n’ont pas le choix ! Quand on utilise ces technologies dans des indications à la limite de la pathologie, quand on modifie la condition naturelle pour « l’augmenter », on se place surtout dans des situations de perte d’autonomie vis-à-vis du fabricant et l’implant qui était censé vous augmenter, vous a en réalité aliéné. Et pour des bénéfices relativement mineurs, on devient extrêmement fragiles.
G : Comment expliquez-vous cette marchandisation de nos fonctions humaines, voir du corps humain ?
ALB : La société de consommation n’a qu’un seul objectif, c’est la croissance. Et aujourd’hui, l’extérieur est très équipé : nos maisons sont pleines. Il faut donc investir de nouveaux marchés, ceux du milieu intérieur : la biologie et la médecine sont les nouvelles frontières de la société de consommation. Aujourd’hui, on ne peut plus parler de milieu naturel, tout ce qui nous enveloppe sort de l’industrie, il n’y a rien que nous n’ayons fabriqué nous-mêmes, nous sommes quasiment à saturation. Alors, l’industrie se dirige vers l’intérieur du corps. C’est déjà le cas des malades qui ont des prothèses qui les aident, mais il y a l’immense catégorie des bien-portants. Ils ne sont bien-portants que tant qu’ils se réfèrent à une norme naturelle. Une fois que cette norme aura explosé, ils deviendront des malades comme les autres ! Si on arrive à s’affranchir des normes naturelles, à créer une nouvelle norme plus « contraignante », on aura vraiment créé un nouveau marché, un marché « intérieur » compris dans les deux sens du terme : on va équiper l’homme et on va utiliser des éléments de son corps, les cellules, les organes… pour faire entrer l’ensemble dans le vaste flux de la marchandise.
Retrouvez l'intégralité de l'article en cliquant ici