TRIBUNE – L’IA, ange, démon ou miroir de l’humanité ?
Photo Hagay Sobol
Par Hagay Sobol
L’Intelligence artificielle (IA)1 est-elle sur le point de nous échapper ou révèle-t-elle ce que l’humanité a toujours été, capable du meilleur comme du pire ?
On ne compte plus les incidents, les fraudes, les menaces qui auraient pour origine l’IA. Scientifiques, philosophes, économistes, artistes, industriels, politiques et dignitaires religieux nous alertent contre ses dangers. A croire que l’IA serait le fruit d’une génération spontanée, sur le point de devenir incontrôlable. Alors que d’autres pointent ses avantages, sans vraiment anticiper les effets indésirables. Quand le destin de la planète est entre les mains d’une poignée d’initiés de la « Tech », d’investisseurs ou de gouvernements, il est grand temps de se réapproprier notre avenir en maîtrisant les outils, ce que nous avons tenté de faire, à notre échelle, en milieu hospitalier.
Révolutions et évolution
La grande majorité des adultes est née avant la généralisation de l’IA générative. Elle a vécu les différentes révolutions technologiques : les premiers PC et Mac, internet, le téléphone mobile, les réseaux sociaux… Certains y voyaient une libération et la possibilité d’optimiser leur travail ou leur développement personnel, quand d’autres critiquaient la perte d’un savoir-faire et un appauvrissement intellectuel. Le bilan que l’on peut tirer de ces changements massifs est une adaptation globale aux pratiques innovantes, un accès facilité à l’information ou la culture, sans toutefois faire disparaître les inégalités. Des générations entières ont dû apprendre à utiliser de nouveaux outils, parce qu’elles avaient dû d’abord apprendre à travailler sans eux. D’aucuns avanceraient qu’elles avaient une meilleure maîtrise des savoirs fondamentaux et un rapport critique au savoir, désormais fragilisé, notamment par les réseaux sociaux. Rédiger un simple mémoire sans ordinateur et sans bibliographie informatisée, tiendrait aujourd’hui du survivalisme.
L’irruption de l’IA
Puis tout s’est accéléré, chaque innovation préparant la suivante à un rythme accru, jusqu’à ce que l’IA, réelle ou fantasmée, soit omniprésente. Un envahissement du quotidien que ni le commun des mortels, ni les décideurs, dont c’est le rôle, n’ont anticipé. Pourtant, les géants de la Silicon Valley, et leurs homologues de par le monde, y travaillaient depuis des années. Un grand décalage s’est créé entre les sachants et le reste de la population, au sein de laquelle cet outil apparaît le plus souvent comme une boîte noire dont on ne connaît ni le fonctionnement réel (données d’apprentissage, codes…) ni les impacts potentiels. L’enjeu principal est de combler ce retard et de s’approprier l’outil, avant de se le voir imposer et de le subir.
Anticiper l’IA, une expérience en milieu hospitalier
Dans le cadre de mes fonctions de coordonnateur du Département de Biologie du Cancer2, à l’Institut Paoli-Calmettes / Aix-Marseille Université, avec mon équipe, nous avons établi une feuille de route3 intégrant l’IA à différents niveaux. Nous avions fait le constat que les grands programmes nationaux ou internationaux intégraient insuffisamment la dimension métier spécifique, s’attachant en premier lieu aux infrastructures. Nous devions définir nos besoins, et développer sans attendre des projets, dans le cadre de partenariats santé-recherche-industrie, afin d’innover et ne pas se voir imposer des solutions possiblement inadaptées.
Il nous est apparu qu’à l’origine de tout l’édifice, il y avait un élément essentiel, mais rarement abordé : la qualité de la donnée. Avant de parler d’intelligence artificielle, il faut d’abord parler de la qualité de ce qu’on lui donne à traiter. Nous avons donc commencé par bâtir la base de données SeQual4 intégrant des données biologiques de soin, les conditions de leur genèse, afin de les contextualiser, et non uniquement le résultat final qui peut s’avérer être un artefact. Car l’IA commence d’abord par la rigueur de la source.
« Avant de parler d’intelligence artificielle, il faut d’abord parler de la qualité de ce qu’on lui donne à traiter »
Ensuite nous avons jeté les bases du patient numérique appliqué au soin, non comme un outil de recherche et de modélisation (jumeau numérique), mais plutôt comme une préfiguration d’un dossier informatisé patient d’un nouveau genre, reposant sur l’utilisation de bases de données métiers mises en relation. Notre prototype a été développé pour les patients atteints de leucémie aiguë (Projet ProLeaf LAM5). Pour ce faire, nous avons fait communiquer des bases de données cliniques, de traitement, les prélèvements biologiques disponibles et les analyses moléculaires. Cette architecture constituant le socle sur lequel peuvent ensuite être déployés des outils d’IA. L’objectif est de collecter les données de tous les patients d’une institution, de reconstituer l’histoire personnelle de chacun, en temps réel, et de la comparer à des sujets similaires (cohorting) pour prédire l’évolution de la maladie et l’efficacité des traitements. Dans un délai compatible avec le soin (consultations, réunions de concertation pluridisciplinaire, décisions thérapeutiques, suivi) et non pas uniquement en vue de projets de recherches ultérieurs.
L’expérience acquise a été précieuse pour interagir avec le monde industriel afin de ne pas subir le marché mais de contribuer au développement et au dimensionnement des outils. Car une IA n’est jamais plus pertinente que les données, les critères et les objectifs que l’humain lui fournit. L‘appropriation de l’outil doit précéder sa délégation.
« L’appropriation de l’outil doit précéder sa délégation »
L’IA, monstre froid…
Cependant, au regard des enjeux économiques et stratégiques (souveraineté, course technologique USA-Chine), prédomine la logique de concurrence plutôt que la concertation. Des tentatives de rapprochement entre compagnies ou Etats existent pourtant, en réponse à des attaques d’IA inopinées, par exemple. Et pour rajouter à la défiance, les cas de prédation ou de plagiat se multiplient. Le cas de Thélyson Orélien, soupçonné d’avoir utilisé l’IA pour son roman, est particulièrement éclairant. Nous créons une machine censée nous aider à distinguer le vrai du faux, puis nous lui demandons de déterminer si une autre machine a écrit à la place d’un humain. Ce qui soulève une question vertigineuse : peut-on déléguer à une IA le pouvoir de déterminer si un humain a écrit lui-même un texte ?
La démission d’un chercheur d’Anthropic, alertant sur un risque d’extinction de l’humanité par une IA hostile, a agi comme une caisse de résonance, tandis que d’autres acteurs de la Tech, tels que Jensen Huang, PDG de Nvidia, rejettent publiquement les scénarios d’extinction à court terme. Le danger n’est pas imaginaire, mais son ampleur et sa nature font débat. Dans ce contexte, l’ONU appelle à renforcer dès maintenant les mécanismes de gouvernance et de précaution.
Les médias surfent sur la vague, agitant le complexe de Frankenstein dont la créature échappe à son créateur. En sommes-nous vraiment là ou est-ce un écran de fumée ? Même si leur nature diffère, le premier couteau, ou la découverte de la fission nucléaire, en leur temps, étaient-ils moins dangereux que l’IA aujourd’hui ?
… ou reflet de la nature humaine ?
A première vue, l’IA ne semble pas produire d’excès qui soient fondamentalement différents de ce que la nature humaine a déjà démontré par le passé. L’homme est capable de voler, de piller, de tuer des individus ou d’anéantir des peuples. Mais d’un autre côté, l’esprit humain a conçu également des merveilles : des peintures rupestres à la Joconde, des pyramides à Notre Dame, de la messe en si à la 9e symphonie, de L’Iliade et l’Odyssée à Belle du seigneur… L’IA reproduit potentiellement l’ambivalence de son créateur.
« L’IA reproduit potentiellement l’ambivalence de son créateur »
Cependant, deux évolutions méritent attention, car elles pourraient changer la donne, si elles se confirmaient : la première est la multiplication et l’accélération de signaux faibles – crises, ruptures technologiques, transformations sociétales – qui donnent le sentiment d’un rapprochement vers un point de rupture. La seconde est la baisse concomitante de certaines compétences fondamentales, précieuses pour s’adapter au changement, tandis que le rapport au travail et à l’effort semble s’étioler. Ce qui pourrait affecter notre capacité à apporter une réponse adaptée à une crise majeure. Sans augurer d’une Etrange défaite, cela n’est pas fait pour rassurer.
Le véritable danger n’est pas l’IA mais notre passivité
Si nous ne savons pas poser les limites, éthiques ou sécuritaires notamment, aux concepteurs, si nous ne savons pas nous approprier leurs outils, mais leur déléguons toutes les tâches, alors les IA évolueront et nous deviendrons vite obsolètes.
Face à ce risque d’obsolescence ou d’extinction, la question n’est finalement pas nouvelle. C’est le dilemme d’Adam et Eve face au serpent : celui de la responsabilité. Ils avaient devant eux deux arbres : celui de la vie, et celui de la connaissance12 du bien et du mal, le seul dont il ne fallait pas consommer les fruits. Leur choix eut les conséquences que l’on sait.
La vraie question est : que devient notre responsabilité lorsque nous fabriquons des outils dont nous ne maîtrisons plus nécessairement les conséquences ? Ni ange, ni démon, l’IA, comme tout ce qui l’a précédé, sera ce qu’en fera l’humanité.
En définitive, le problème n’est peut-être pas ce que l’IA va devenir, mais ce que nous allons devenir en lui déléguant progressivement notre capacité à savoir, comprendre, décider et agir.
Notes
- Le terme d’« IA » est utilisé ici au sens générique comme recouvrant en réalité des technologies très différentes : IA prédictive médicale ; IA générative ; agents autonomes ; superintelligence hypothétique ; outils de détection d’IA ou systèmes industriels ↩
- Département de Biologie, équivalent dans les Centres de Lutte Contre le Cancer (CLCC), du Pôle de Biologie et Pathologie des Centres Hospitaliers Universitaires (CHU) ↩
- Projet d’Etablissement de l’IPC, Département de Biologie du Cancer ↩
- SeQual : pour séquence qualité, base de données intégrant les analyses de séquençage des acides nucléiques par Séquenceur Nouvelle Génération (NGS) ↩
- ProLeaf LAM : prototype de patient virtuel développé dans le cadre des leucémies aiguës myéloïdes, forme grave de cancer du sang ↩
- Le cas récent de l’écrivain Québécois récompensé : Thélyson Orélien. Le détecteur d’IA Pangram a estimé que plus de 95% du texte testé de C’était ça ou mourir ait été généré par IA, ce que conteste l’auteur. L’affaire a conduit l’Académie Goncourt à retirer le livre de sa sélection ↩
- Alerte lancée par le chercheur en intelligence artificielle Jacob Coxon, dont la démission retentissante le 9 septembre 2026 a déclenché une vague d’inquiétude internationale quant aux risques existentiels liés aux superintelligences. Evan Hubinger, responsable de l’alignement chez Anthropic, a de son côté estimé ce risque d’extinction humaine à plus de 10% sur dix ans. ↩
- Expression forgée par Isaac Asimov, écrivain de science-fiction, dans les années 1940 pour désigner la peur de voir les créatures artificielles se retourner contre leurs créateurs, en référence au roman de Mary Shelley Frankenstein ou le Prométhée moderne paru en 1818. Il a de plus formulé les lois de la robotique dans Cycle des Robots ↩
- Ce n’est pas sans rappeler la log-périodicité : tendance de certains événements de la nature ou de l’histoire à se répéter à un rythme qui accélère (ou ralentit) de façon régulière, comme une sorte de compte à rebours géométrique à l’approche d’un temps critique ↩
- Comme l’atteste le dernier classement PISA 2025 publié par l’OCDE en 2026 ↩
- Marc Bloch, L’étrange défaite, Témoignage écrit en 1940, Gallimard, 2026 (1ère publication en 1946) ↩
- Genèse 3 :1-6 : Dans cette lecture, le mot « connaissance » est à comprendre comme un mélange. Là où le bien et le mal sont mélangés, difficiles à distinguer ↩
#IntelligenceArtificielle, #Éthique, #Innovation, #Responsabilité, #Tech, #IA, #DéveloppementTechnologique, #ÉvolutionTechnologique, #Données, #SiliconValley, #Gouvernance, #SouverainetéTechnologique, #CourseTechnologique, #USA, #Chine, #ONU, #Concurrence, #Industrie, #Recherche, #Santé, #Biologie, #DonnéesBiologiques, #PatientNumérique, #Leucémie, #ProLeafLAM, #Anthropic, #Nvidia, #JensenHuang, #Frankenstein, #Humanité, #ResponsabilitéHumaine, #Connaissance, #Décision
