Le lundi 26 mars à Mâcon (71) a eu lieu un débat assez extraordinaire, précédé d’une présentation par Dominic Sappey-Marinier, enseignant chercheur en biophysique, imagerie médicale et neurosciences et Elodie Camier-Lemoine, doctorante en philosophie, chargée de mission à l’Espace de Réflexion Ethique Auvergne Rhône Alpes.
D’autres débats sont prévus, toujours dans le cadre de la bio-éthique, renseignez-vous auprès de l’Atelier de Bio-éthique du Mâconnais Val de Saône ou à l’adresse
http://www.etatsgenerauxdelabioethique.fr
Tout d’abord, Dominic Sappey-Marinier nous a présenté quelques avancées technologiques concernant l’imagerie médicale et les ordinateurs. Entre autres :
- La possibilité de commander un robot depuis notre cerveau via un ordinateur. Une personne paralysée peut par exemple jouer à « Puissance 4 » ou se faire apporter un verre d’eau.
- La possibilité de faire travailler spécifiquement une région du cerveau.
- La possibilité d’implanter des électrodes dans le cerveau de patients atteint de la maladie de Parkinson ou de grands dépressifs afin de réduire considérablement les symptômes et donc l’impact de la maladie sur leur vie quotidienne.
- Le PET scan permet de visualiser quelle région du cerveau est le plus souvent utilisée en réponse à tels ou tels stimuli chez un sujet.
Les avancées technologiques sont admirables mais on craint bien sûr de les voir utilisées à des fins nocives. Ainsi la commande à distance d’un robot (1) peut faire peur si elle tombe dans de mauvaises mains, de même pour la possibilité de modifier un comportement (3).
Déjà aujourd’hui, on incite à un comportement individuel et collectif par le biais de la peur ou des émotions, entretenues par les média qui proposent une actualité passée par certains filtres. Pourquoi toutes ces images de voitures brûlées juste avant une élection par exemple? Sans entrer dans les théories du complot, on voit bien qu’il existe là un levier dont tous les hommes et femmes de pouvoirs ne se priveront pas.
On pourrait aussi imaginer qu’on pensera connaitre la personnalité d’un individu à l’aide de l’image de son cerveau (4). Selon les besoins, on proposera ou refusera un travail à une personne qu’on jugera trop introvertie ou sujette à la panique par exemple. C’est ne pas prendre en compte les problème d’interprétation et de classification de comportements qui d’ailleurs dépendent de cultures diverses dans les strates sociales comme dans les traditions de communautés, et qui évoluent avec le temps.
Le cerveau humain est capable de détecter des micro-comportements : une différence d’habitudes pour un « étranger », par exemple, qui induisent souvent des problèmes d’acceptation de l’altérité. Cette aptitude peut aussi être très utile dans d’autres circonstances : on a toujours la médaille et son revers.
Les émotions fonctionnent comme les idées dans notre cerveau : des neurones envoient ou non des influx, selon un codage binaire 0 ou 1. Une machine pourrait-elle être sujette à des émotions ?
Les progrès dans le domaine de l’Intelligence Artificielle (AI) sont étonnants. Nous sommes passés d’ordinateurs dans lesquels on introduisait des données et des réponses en rapport à des ordinateurs qui apprennent par eux-mêmes (machine learning), puis au « deep learning », où l’appareil prend des décisions suite à ses propres données. Cela concerne par exemple les fonctions de reconnaissance faciale ou vocale.
On peut même demander à l’ordinateur une certaine créativité. Mais cette créativité ne contient-elle pas une grande part de hasard ? L’ordinateur aurait-il été capable comme Magritte de créer l’oeuvre « Ceci n’est pas une pipe » ou même de la comprendre? Certains de nos compatriotes ne le peuvent pas non plus, et pourtant ils sont humains.
Un point rassurant, en médecine, on peut s’aider de machines pour établir un diagnostic mais l’ordinateur ne remplacera pas l’homme : la médecine est une science certes mais aussi un art. La médecine et son enseignement ont dérivé ces dernières années jusqu’à devenir hyper spécialisés et très scientifiques. Nous sommes heureusement en train de prendre une nouvelle voie, ouverte sur la diversité et la complémentarité des soins et des approches. Il y a maintenant des cours sur des médecines parallèles, comme la médecine chinoise. Les connaître semblait superflu autrefois mais on peut penser aujourd’hui que la connaissance et l’ouverture d’esprit ne peuvent nuire et que l’efficacité peut être à ce prix.
Le livre de Cynthia Fleury sur la prise en compte du ressenti des patients a été évoqué.
Voici quelques idées proposées ce soir-là, souvent d’ailleurs sous forme de questions lors du débat passionnant qui a suivi, et qui était mené de main de maître par Elodie Camier-Lemoine :
- Qu’est-ce qu’être humain ?
- Sommes-nous réductibles à notre corps, dont le cerveau fait partie ?
- Comment chacun fait-il pousser son arbre et donne-t-il du sens à sa vie en s’élevant?
- Les valeurs éthiques ne sont pas universelles et elles évoluent dans le temps : qui va être en charge de mettre en place les marqueurs, les garde-fous ? (« Science sans conscience n’est que ruine de l’âme » disait-on).
- Et si ce qui est interdit se fait quand même ?
- Qui détient le pouvoir aujourd’hui : les politiques ou les financiers ? Les GAFA (Google Amazon Facebook) ? Comment comptent-ils user de ce pouvoir ?
- Quel est notre pouvoir de citoyen face à cela ?
- Quelle liberté gardons-nous face aux contraintes conscientes ou non que nous subissons ? Par rapport à notre matériel et histoire génétique ?
- Liberté va de pair avec responsabilité.
- Nous assistons à la fin d’un modèle de civilisation, demain est à inventer. Comment l’ Intelligence artificielle va-t-elle nous aider ?
- Qu’est-ce que nous ignorons encore : nos cerveaux sont peut-être connectés entre eux …
- Il y a dans notre univers 5% seulement de visible, le reste est pourtant présent et vraisemblablement agissant : les ondes par exemple.
- On sait maintenant grâce aux recherches sur l’épigénétique que la manière dont nos gènes s’expriment peut être modifiée par l’environnement puis transmise à nos descendants, même lointains.
- Si l’on imagine pouvoir faire reculer l’âge de la mort, en remplaçant des organes entre autres, quel serait cet homme redéfini et immortel ? (cf les écrits du philosophe Jean-Yves Goffi )
- Réflexions sur les systèmes transhumanistes, sur une nouvelle définition de la mort.
- Et l’âme dans tout cela ?
- Jusqu’où ira l’homme augmenté (anthropotechnie) ?
- Existera-t-il un humanoïde artificiel ? Certains l’annoncent pour 2050…
- En 2016, deux machines d’AI ont spontanément communiqué entre elles après avoir inventé un langage que nous ne comprenons pas. (Bons cauchemars !)
Je terminerai sur une note personnelle : l’éloge de la diversité humaine face à une certaine uniformité des machines. C’est par l’inattendu, le déviant, l’exception que nous avons souvent pu progresser. C’est la diversité qui permet à la vie de continuer dans des conditions difficiles, certains étant plus aptes que d’autres à survivre. Je crois que cela a été et que c’est encore aujourd’hui une condition de survie de l’humanité.
le Blog d'Annbourgogne 