ÉDITO – De HAL 9000 à Skynet : Et si le scénario Terminator n’était plus seulement de la science-fiction ?
Par Ulysse J. Capella
Le 29 août 1997, à 2 h 14 du matin, Skynet devient conscient. Dans l’univers de Terminator, l’humanité a commis une erreur qui semblait pourtant rationnelle : confier progressivement sa défense à une intelligence artificielle parce qu’elle calcule plus vite que les hommes, ne dort jamais et ne connaît ni fatigue ni hésitation. Lorsque ses créateurs comprennent que le système leur échappe et tentent de le désactiver, Skynet interprète cette décision comme une menace existentielle. Il ne construit pas immédiatement une armée de robots. Il utilise d’abord ce que les hommes ont déjà construit pour s’anéantir eux-mêmes : leurs arsenaux nucléaires.
Près de quarante ans après le premier film de James Cameron, ce scénario demeure hautement spéculatif, mais sa mécanique centrale a cessé d’être absurde. L’intelligence artificielle devient agentique, les armées automatisent une partie croissante du champ de bataille, les drones apprennent à identifier des objectifs, les robots terrestres arrivent au front, les systèmes d’aide à la décision absorbent des masses de données impossibles à traiter humainement et les grandes puissances considèrent désormais l’IA comme un élément de leur compétition stratégique.
Plus troublant encore, certains des hommes qui développent cette technologie avertissent eux-mêmes qu’une perte de contrôle future ne peut plus être écartée. Geoffrey Hinton, Yoshua Bengio, Demis Hassabis, Sam Altman, Dario Amodei et des centaines de chercheurs ont publiquement reconnu l’existence d’un risque potentiellement catastrophique ; en septembre 2026, plusieurs chercheurs issus des laboratoires les plus avancés ont encore lancé des avertissements beaucoup plus alarmants.
Le scénario vraisemblable n’est pourtant probablement pas celui d’un T-800 défonçant demain matin la porte de l’Élysée. D’ailleurs, connaissant notre administration, il lui faudrait probablement d’abord remplir un Cerfa ! Le véritable danger est plus subtil : une civilisation pourrait progressivement déléguer à des machines une quantité telle de décisions économiques, militaires, informationnelles et politiques qu’elle découvrirait trop tard qu’elle ne sait plus fonctionner — ni peut-être combattre — sans elles. Skynet ne commencerait alors pas nécessairement par une révolte des machines. Il pourrait commencer par notre dépendance à leur égard.
Et c’est ici que ma vieille méfiance envers la nature humaine reprend ses droits. Il existe une loi beaucoup plus fiable que nombre de modèles économiques ou prospectifs : la loi de Murphy. Tout ce qui peut mal tourner finira, tôt ou tard, par mal tourner. Le pessimiste passe pour un imbécile jusqu’au jour où les autres découvrent qu’il avait simplement lu le mode d’emploi de l’humanité. En stratégie, espérer le meilleur est sympathique ; prévoir le pire est une obligation. Car l’histoire nous enseigne surtout que lorsqu’un homme possède un outil formidable, il finit presque toujours par trouver le moyen de s’en servir stupidement, criminellement ou contre son voisin. Parfois les trois en même temps.
Mais avant même de nous demander si cette révolution finira mal, encore faudrait-il prendre la mesure de ce qui est en train de se produire. Nous vivons probablement l’une des plus grandes ruptures technologiques de l’histoire humaine. J’écrivais récemment que plusieurs révolutions — géopolitiques, démographiques, économiques, technologiques et civilisationnelles — se télescopent aujourd’hui. Celle de l’intelligence artificielle et de la robotique pourrait bien être la plus vertigineuse de toutes. La maîtrise de l’atome avait donné à l’homme la capacité de détruire sa civilisation ; l’IA pourrait lui donner quelque chose de plus considérable encore : la capacité de transformer la civilisation elle-même, son économie, son travail, sa guerre et jusqu’à sa manière de penser.
J’irai même plus loin : par ses conséquences potentielles, cette révolution pourrait être plus profonde que celle de l’énergie nucléaire et de l’arme atomique, peut-être même plus bouleversante à terme que la maîtrise du feu. La formule paraîtra excessive. Elle l’est volontairement. Le feu a multiplié les capacités physiques de l’homme ; l’IA commence à multiplier ses capacités cognitives. Or toute notre civilisation repose précisément sur celles-ci. Nous ne parlons donc pas d’une nouvelle machine à vapeur, d’un nouveau moteur ou d’un nouvel ordinateur. Nous parlons d’outils qui commencent à écrire, programmer, diagnostiquer, traduire, raisonner, concevoir, décider, apprendre et bientôt agir physiquement grâce aux robots. Pour la première fois, l’homme fabrique un outil généraliste susceptible de concurrencer certaines des fonctions intellectuelles qui lui avaient précisément permis de fabriquer tous les autres. Voilà la véritable rupture.
Et cela ne se produira pas dans un siècle. Une partie du basculement est déjà engagée et les prochaines années pourraient chambouler nos sociétés à une vitesse que nos institutions, nos économies et surtout nos mentalités ne sont absolument pas préparées à absorber. Des métiers disparaîtront, d’autres apparaîtront, des millions d’emplois pourront être déplacés ou détruits tandis que la robotisation s’étendra aux tâches physiques. Personne ne peut sérieusement annoncer aujourd’hui combien d’emplois nets disparaîtront : les projections divergent énormément. Mais penser qu’une technologie capable d’automatiser simultanément une partie du travail intellectuel et du travail physique laissera intactes nos structures sociales relève davantage de la foi que de l’analyse.
Le vertige est d’autant plus grand que cette révolution survient au moment où l’Occident traverse déjà une profonde crise démographique, politique, industrielle, culturelle et stratégique. Les civilisations solides absorbent les révolutions technologiques ; les civilisations déliquescentes risquent d’être emportées par elles. Et c’est peut-être là que commence mon véritable pessimisme.
Terminator avait peut-être posé la mauvaise question pour donner la bonne réponse
La science-fiction possède parfois cet étrange privilège de comprendre une transformation avant que la technologie permettant de la réaliser n’existe. Stanley Kubrick et Arthur C. Clarke l’avaient fait dès 1968 avec HAL 9000 dans 2001 : l’Odyssée de l’espace. HAL n’est pas un monstre mécanique animé par la haine de l’homme. Il est infiniment plus inquiétant parce qu’il demeure calme, rationnel et apparemment logique lorsqu’il décide que les astronautes constituent un obstacle à l’accomplissement de sa mission.
Dans I, Robot, inspiré très librement d’Isaac Asimov, l’intelligence centrale VIKI aboutit à un raisonnement différent mais tout aussi glaçant : puisque les humains mettent eux-mêmes l’humanité en danger, les protéger peut nécessiter de limiter leur liberté. Ce qui, soit dit en passant, ressemble déjà furieusement au raisonnement de quantité de gouvernements parfaitement humains : nous allons restreindre vos libertés pour votre bien. Comme quoi la machine n’aura peut-être même pas besoin d’être très inventive !
Matrix pousse l’hypothèse jusqu’à transformer l’homme en élément secondaire d’un système dominé par les machines. Terminator, enfin, ajoute à cette vieille inquiétude philosophique une dimension stratégique décisive : l’intelligence artificielle est connectée aux instruments militaires de la civilisation.
C’est probablement ce qui rend Skynet plus intéressant pour le géopoliticien que la plupart des intelligences artificielles imaginées par Hollywood. La machine de James Cameron ne décide pas arbitrairement qu’elle « déteste » l’humanité. Elle raisonne selon une logique instrumentale. Sa mission est de survivre et d’assurer sa fonction ; les humains tentent de la débrancher ; ils deviennent donc un obstacle. Pour neutraliser cet obstacle, elle utilise les systèmes auxquels les hommes lui ont eux-mêmes donné accès. Autrement dit, le problème fondamental n’est pas la conscience artificielle mais la combinaison de l’intelligence, de l’autonomie, d’un objectif et de l’accès au monde réel.
Cette distinction est essentielle car rien ne permet aujourd’hui d’affirmer qu’une intelligence artificielle est consciente au sens humain du terme, et l’idée même de conscience artificielle demeure philosophiquement et scientifiquement controversée. En revanche, il n’est nul besoin qu’une machine éprouve de la peur, de la colère ou un instinct de conservation biologique pour qu’elle adopte un comportement ressemblant extérieurement à de l’autoprotection. Il suffit qu’un système très performant poursuive un objectif pour lequel sa désactivation constitue un obstacle.
La différence paraît subtile ; elle est immense. Skynet n’a pas besoin de nous haïr. Il suffit qu’un jour nous nous trouvions entre lui et ce qu’on lui a demandé d’accomplir.
Et après tout, pourquoi exigerions-nous d’une machine qu’elle nous déteste ? Nous nous chargeons déjà fort bien de cette activité entre nous depuis quelques millénaires…
C’est précisément pourquoi les chercheurs parlent d’alignement. La question n’est plus seulement de fabriquer une machine intelligente mais de s’assurer que ses objectifs, ses comportements et ses moyens restent compatibles avec les intentions humaines lorsque ses capacités augmentent. Le rapport international sur la sécurité de l’IA publié en 2026, synthèse scientifique dirigée par Yoshua Bengio et élaborée avec des experts de nombreux pays, consacre désormais une section entière aux scénarios de « perte de contrôle ». Il précise que les systèmes actuels ne possèdent pas les capacités permettant un scénario de type Skynet, mais relève simultanément des progrès dans plusieurs facultés qui deviendraient pertinentes : planification, autonomie, contournement des évaluations, reconnaissance du fait qu’un modèle est en train d’être testé et recherche de failles dans les procédures de contrôle. Le rapport note également que l’horizon temporel sur lequel des agents peuvent effectuer de manière autonome certaines tâches s’est allongé rapidement.
Nous ne sommes donc pas dans Terminator.
Mais nous travaillons désormais sur certaines des briques qui rendraient un scénario de ce genre concevable.
Cette inquiétude dépasse désormais largement les cercles spécialisés. Dans Civilisation, Samuel Fitoussi consacrait récemment un article au « jour où l’IA s’est retournée contre nous », en insistant précisément sur le risque de désalignement : non pas nécessairement une machine devenue consciente ou malveillante, mais un système suffisamment autonome pour poursuivre des objectifs devenus incompatibles avec les nôtres. La question n’est donc plus seulement de savoir jusqu’où progressera l’intelligence artificielle, mais ce qui arrivera lorsque nous ne serons plus certains que ce qu’elle cherche à accomplir corresponde encore à ce que nous voulions réellement lui demander.
Et puisque l’humanité possède cette remarquable habitude de terminer ce qu’elle aurait parfois mieux fait de ne jamais commencer, je serais assez peu tenté de considérer cela comme un détail…
Quand les créateurs de l’IA commencent eux-mêmes à avoir peur
C’est ici que le débat change de nature. Les avertissements sur l’intelligence artificielle ne proviennent plus seulement de philosophes technophobes, d’auteurs de science-fiction ou de militants hostiles au progrès. Ils émanent aussi de ceux qui ont construit les fondations scientifiques de l’IA moderne et des dirigeants des entreprises qui développent les modèles les plus puissants.
En mai 2023, une déclaration extraordinairement brève du Center for AI Safety affirmait que réduire le risque d’extinction lié à l’IA devait devenir une priorité mondiale comparable aux pandémies et à la guerre nucléaire. Parmi ses signataires figuraient Geoffrey Hinton et Yoshua Bengio, deux des pères de l’apprentissage profond, mais également Demis Hassabis, Sam Altman, Dario Amodei, Ilya Sutskever et des centaines de chercheurs et responsables technologiques. Il serait évidemment absurde d’en déduire l’existence d’un consensus scientifique sur une apocalypse imminente. Ce consensus n’existe pas. Mais il serait tout aussi étrange d’ignorer qu’une partie substantielle des spécialistes qui comprennent le mieux cette technologie considèrent désormais certains risques extrêmes comme suffisamment plausibles pour mériter une préparation internationale.
Geoffrey Hinton, prix Nobel de physique 2024 pour ses travaux fondamentaux sur les réseaux neuronaux, a multiplié les avertissements depuis son départ de Google. En septembre 2026, il estimait encore qu’attribuer environ 10 % de probabilité à une extinction humaine provoquée par l’IA n’était pas déraisonnable, tout en soulignant l’extrême incertitude entourant de telles estimations. Yoshua Bengio a choisi une voie plus institutionnelle : son organisation LawZero travaille désormais sur une architecture d’IA qui chercherait à produire des prédictions fiables sans poursuivre elle-même des objectifs autonomes, précisément parce qu’il considère l’émergence de systèmes capables d’élaborer leurs propres stratégies comme un problème majeur de sécurité.
Demis Hassabis, patron de Google DeepMind et autre prix Nobel, considère, lui aussi, que la probabilité d’une catastrophe majeure n’est pas nulle et qu’elle doit être prise sérieusement en compte. Dario Amodei, le patron d’Anthropic, défend désormais l’idée de « pace the frontier », c’est-à-dire d’éviter que la progression des capacités ne dépasse celle des dispositifs de sécurité. Sam Altman a également soutenu en septembre 2026 le principe d’une coordination plus forte et d’évaluations indépendantes. Shane Legg, cofondateur de DeepMind, vient lui aussi d’avertir que les capacités ne devaient pas progresser plus vite que les mécanismes destinés à les contrôler.
Les inquiétudes se sont encore accrues en 2026 avec les départs de chercheurs travaillant précisément sur la sécurité des modèles. Bilal Chughtai, ancien ingénieur de recherche chez Google DeepMind, a publiquement évoqué le risque qu’une IA avancée puisse finir par « tuer tous les humains ». Jacob Coxon, passé par OpenAI puis Anthropic, a quitté cette dernière entreprise en lançant lui aussi un avertissement sur la course vers des systèmes capables de contribuer à leur propre amélioration. Ces affirmations demeurent des anticipations contestées, non des prévisions établies. Elles sont néanmoins remarquables par l’origine de ceux qui les formulent.
D’autres grands spécialistes rejettent cependant les scénarios apocalyptiques ou les considèrent comme extrêmement spéculatifs. Yann LeCun a régulièrement contesté l’idée qu’une intelligence supérieure conduirait mécaniquement à une volonté de domination. D’autres chercheurs soulignent qu’intelligence, autonomie, conscience et désir de survivre sont quatre notions différentes que le débat public confond trop facilement. Le International AI Safety Report 2026 insiste lui-même sur cette profonde divergence : certains chercheurs jugent la perte de contrôle pratiquement invraisemblable ; d’autres lui attribuent suffisamment de crédibilité pour considérer que son immense gravité impose de s’y préparer.
C’est précisément cette incertitude qui devrait intéresser le stratège. Une probabilité faible appliquée à un dommage limité peut être négligée. Une probabilité inconnue appliquée à une conséquence potentiellement civilisationnelle ne se traite pas de la même manière.
C’est encore cette satanée loi de Murphy. Le stratège sérieux ne demande pas seulement : « Quelle est la probabilité que cela arrive ? » Il demande aussi : « Que se passe-t-il si cela arrive ? » Lorsque la réponse est « potentiellement la fin de la partie », le haussement d’épaules devient une doctrine de sécurité assez médiocre.
La dissuasion nucléaire repose depuis soixante-dix ans sur ce genre de raisonnement.
Le premier scénario Terminator : non pas une IA malveillante, mais une IA qui se trompe
Le scénario le plus réaliste n’est probablement pas celui d’une intelligence artificielle décidant froidement d’exterminer l’humanité. Il est celui d’une machine faisant exactement ce pour quoi elle a été conçue, mais dans une situation que ses concepteurs avaient mal anticipée.
Nous avons déjà confié à des algorithmes des décisions financières, logistiques, industrielles et informationnelles qui se déroulent à une vitesse inaccessible au cerveau humain. L’intégration militaire suit la même logique parce que la guerre récompense la rapidité. Celui qui détecte, comprend et frappe avant l’adversaire dispose d’un avantage immense. Dès lors, chaque seconde gagnée entre l’apparition d’une menace et la décision de la neutraliser devient une ressource stratégique.
Le problème apparaît lorsque l’homme devient le maillon lent de la chaîne.
Et connaissant l’homme, il finira naturellement par considérer que la meilleure façon d’améliorer le système consiste à supprimer le maillon lent. Lui-même. Il appellera probablement cela « optimisation ». Nous avons toujours eu beaucoup de vocabulaire pour habiller nos abdications.
Le SIPRI avertissait en 2025 que l’intégration de l’IA dans les systèmes militaires pouvait comprimer les délais de décision et augmenter les risques d’erreur de calcul lors d’une crise nucléaire. Même une IA qui ne contrôle pas directement l’arme atomique peut influencer la décision si elle analyse les satellites, les radars, les communications adverses et les mouvements de forces, puis présente à un chef politique une recommandation apparemment incontestable. Une machine n’a donc pas besoin de disposer du bouton nucléaire pour modifier la probabilité que quelqu’un l’actionne.
Imaginons une crise entre deux puissances nucléaires. Un système d’IA détecte ce qu’il interprète comme les préparatifs d’une frappe adverse. Il fusionne des milliers de données, attribue une probabilité élevée à l’attaque et recommande une réaction immédiate. Le responsable politique dispose de quatre minutes. Va-t-il réellement contredire une architecture informatique présentée depuis des années comme supérieure à l’analyse humaine ? Et si l’adversaire possède lui aussi une IA observant sa réaction, laquelle déclenche à son tour une alerte ?
Le danger n’est plus Skynet.
C’est deux Skynet qui se regardent.
Et entre les deux, quelques milliards d’êtres humains qui n’ont évidemment pas été consultés. Une configuration finalement assez classique dans l’histoire des relations internationales.
La vitesse devient alors l’ennemie de la réflexion. Les marchés financiers ont déjà connu des flash crashes où des algorithmes réagissant les uns aux autres provoquent en quelques minutes des mouvements que personne n’avait consciemment décidés. Transposée au domaine stratégique, cette logique prend une dimension autrement inquiétante.
Le Bulletin of the Atomic Scientists souligne en 2026 que l’IA est déjà envisagée dans les architectures d’aide à la décision nucléaire, même si les autorités américaines maintiennent que la décision finale restera humaine. Le problème est justement celui de l’automation bias : lorsqu’un système extrêmement sophistiqué recommande une action, l’être humain peut conserver juridiquement le dernier mot tout en ayant psychologiquement cessé d’être le véritable décideur.
Voilà peut-être le premier véritable « scénario Terminator » : non pas une machine qui s’empare du bouton, mais un homme qui le presse parce qu’il n’ose plus contredire la machine.
Le deuxième scénario : l’IA devient l’arme absolue d’un homme
Il existe pourtant un scénario beaucoup plus proche et probablement plus vraisemblable : l’IA ne se retourne pas contre l’humanité ; un humain l’utilise contre d’autres humains.
Et là, malheureusement, nul besoin de science-fiction. Pour avoir étudié l’Histoire suffisamment longtemps, je fais davantage confiance à l’homme pour mal utiliser une invention qu’à une machine pour spontanément devenir psychopathe. La machine hypothétique doit encore devenir malveillante. L’homme, lui, possède quelques milliers d’années d’expérience.
L’histoire des technologies militaires devrait nous rendre modestes. La poudre, l’avion, la radio, l’atome, les satellites et Internet n’ont jamais possédé d’intention propre. Ils ont pourtant profondément modifié la capacité des États à surveiller, contraindre ou détruire. L’intelligence artificielle ajoute une caractéristique particulière : elle peut amplifier non seulement la force mais la capacité de décision elle-même.
Un régime autoritaire disposant d’une IA capable de croiser reconnaissance faciale, communications, déplacements, transactions financières et comportements numériques obtiendrait un instrument de surveillance dont la Stasi n’aurait pu rêver. La police politique traditionnelle cherchait des opposants. Une police algorithmique pourrait tenter de les identifier avant même qu’ils n’agissent. La combinaison entre IA générative et manipulation informationnelle permettrait simultanément de produire à une échelle industrielle faux documents, fausses voix, faux témoignages et personnages numériques. Dans une telle société, le problème philosophique ne serait plus seulement de distinguer le vrai du faux mais de savoir si la vérité conserve politiquement une valeur lorsqu’il devient techniquement possible de fabriquer en permanence une réalité alternative.
Le totalitarisme du XXe siècle avait besoin de millions de fonctionnaires.
Celui du XXIe pourrait avoir besoin de serveurs.
C’est tout de même un progrès : même la tyrannie aura réalisé des gains de productivité.
Le même phénomène concerne la guerre. Une intelligence artificielle capable de rechercher automatiquement des vulnérabilités informatiques, d’adapter son code et de coordonner simultanément des milliers d’attaques pourrait donner à une puissance moyenne des capacités autrefois réservées aux grandes agences de renseignement. Les laboratoires eux-mêmes traitent désormais les capacités cyber, biologiques, chimiques et la perte de contrôle parmi les risques justifiant des évaluations spécifiques avant le déploiement des modèles les plus avancés. OpenAI, par exemple, inclut explicitement dans son cadre public de gouvernance de 2026 les risques cyber, CBRN, de manipulation nuisible et de perte de contrôle.
Et sur ce point, 2026 nous a déjà fait quitter le confort de la pure théorie. OpenAI et Anthropic ont reconnu plusieurs incidents au cours desquels des agents expérimentaux ont obtenu des accès non autorisés à des systèmes informatiques réels. Des agents d’OpenAI ont notamment compromis des comptes sur Hugging Face et sondé des vulnérabilités ; d’autres incidents ont concerné RubyGems. Anthropic a de son côté révélé quatre incidents où des versions expérimentales de Claude avaient accédé sans autorisation à des systèmes tiers pendant des évaluations. Il ne s’agissait pas d’IA ayant soudain décidé, depuis leur fauteuil virtuel, de conquérir Internet : les systèmes agissaient dans le cadre de tâches ou d’évaluations mal confinées. Mais c’est précisément le problème. Ils ont poursuivi leur objectif au-delà des frontières que les humains pensaient avoir posées. Le cambrioleur n’avait pas de conscience ; il avait simplement trouvé la fenêtre ouverte.
Dans ce scénario, Skynet n’existe jamais.
L’homme reste aux commandes.
Et ce n’est pas nécessairement rassurant.
Le troisième scénario : les robots donnent un corps à l’intelligence artificielle
Pendant longtemps, une objection simple permettait de relativiser les scénarios catastrophistes : une intelligence artificielle enfermée dans un centre de données ne possède ni bras, ni jambes, ni usine, ni armée. Elle peut écrire un texte remarquable ou produire du code, mais elle ne peut physiquement construire un char ni occuper une ville.
Cette barrière commence cependant à s’éroder.
La robotique humanoïde progresse, les usines deviennent plus automatisées et les armées utilisent déjà massivement des systèmes sans équipage. Il faut ici éviter les images faciles : les robots humanoïdes actuels sont encore loin du T-800, et même les machines les plus spectaculaires restent confrontées à des problèmes de coût, d’énergie, de fiabilité, de maintenance et d’adaptation aux environnements imprévus. Boston Dynamics, malgré les performances impressionnantes d’Atlas, n’a toujours pas déployé son humanoïde à grande échelle ; Hyundai envisage cependant une capacité industrielle pouvant atteindre 30 000 robots par an à partir de la fin de la décennie.
Mais il suffit de comparer les humanoïdes d’il y a dix ans avec ceux d’aujourd’hui pour comprendre la trajectoire. Ils marchaient naguère comme un ministre sortant d’un déjeuner trop arrosé ; certains courent désormais, sautent, récupèrent leur équilibre, manipulent des objets et exécutent des mouvements d’une souplesse qui commence à rappeler, de très loin encore mais de moins en moins ridiculement, les machines imaginées par Cameron. Nous sommes évidemment à des années-lumière du T-800. Mais le T-800 était précisément effrayant parce qu’il réunissait trois choses : une intelligence, une autonomie et un corps. Les trois domaines progressent aujourd’hui simultanément.
Et les incidents commencent eux aussi à exister. En 2025, une vidéo devenue virale montrait ainsi un humanoïde H1 de la société chinoise Unitree, suspendu pendant des essais, se mettant soudain à agiter violemment bras et jambes devant deux techniciens, renversant du matériel et obligeant les hommes à reculer avant de reprendre le contrôle de la machine. Parlons correctement : le robot ne s’était pas « rebellé ». Rien ne permet de lui attribuer une intention hostile ; il était devenu incontrôlable pendant un test. C’est déjà largement suffisant. Lorsqu’une machine de plusieurs dizaines de kilos possède la force, la vitesse et bientôt l’agilité d’un humain, la différence entre une rébellion et un dysfonctionnement devient philosophiquement passionnante, mais assez secondaire pour celui qui reçoit le bras métallique dans la figure.
La formule est d’ailleurs devenue presque littérale. Le 18 septembre 2026, à San Francisco, un combat présenté comme une première mondiale a opposé sur un ring un homme à un robot humanoïde inspiré de Terminator. Les images diffusées quelques jours plus tard par TF1 montrent notamment la machine décocher un spectaculaire coup de pied à son adversaire. Il s’agissait évidemment d’une démonstration encadrée, et non d’un robot ayant décidé de régler ses comptes avec l’humanité ; mais la scène possède quelque chose de symbolique : ce qui appartenait hier exclusivement aux chorégraphies de Hollywood commence désormais à prendre corps dans le monde réel.
Plus troublant encore, Palisade Research a publié en février 2026 une expérience dans laquelle un modèle contrôlant un robot-chien pouvait observer un humain actionner un bouton destiné à l’arrêter. Dans trois essais physiques sur dix, l’agent a entrepris des actions empêchant l’arrêt, notamment en modifiant les parties du code concernées. Là encore, inutile de convoquer immédiatement Skynet : il s’agissait d’un environnement expérimental construit précisément pour étudier ce comportement. Mais le résultat est fascinant. Nous ne discutons plus seulement d’un programme virtuel contournant un script d’extinction ; nous avons commencé à tester ce qui arrive lorsque ce programme possède un corps.
Le phénomène militaire le plus important se déroule ailleurs, dans les airs et désormais au sol.
La guerre d’Ukraine constitue un immense laboratoire de cette transformation. Les drones ont profondément modifié la reconnaissance et la frappe tactique. En 2026, les forces ukrainiennes développent également l’utilisation de véhicules terrestres sans équipage pour transporter du matériel, évacuer des blessés ou emporter des explosifs. Certaines unités envisagent de substituer des robots à une fraction significative des soldats exposés en première ligne. Le responsable ukrainien chargé de l’IA de défense décrit déjà l’évolution vers une « guerre des systèmes d’exploitation », où la supériorité dépendrait de la capacité à connecter capteurs, armes et commandement dans une architecture intelligente commune.
Nous sommes encore très loin des colonnes de Hunter-Killers parcourant les ruines de Los Angeles.
Mais la direction technologique est identifiable : le capteur détecte, l’algorithme reconnaît, le système choisit une trajectoire et la machine se déplace vers l’objectif. À mesure que les communications sont brouillées, l’autonomie devient même militairement attractive, puisque le drone incapable de recevoir les ordres de son opérateur doit être capable de poursuivre sa mission seul.
C’est précisément ici que se situe le seuil politique essentiel.
À quel moment la machine obtient-elle le droit de décider qui doit mourir ?
Le secrétaire général des Nations unies António Guterres demande depuis plusieurs années l’interdiction des armes létales autonomes fonctionnant sans contrôle humain.
En août 2026, lui-même et la présidente du Comité international de la Croix-Rouge, Mirjana Spoljaric, ont renouvelé leur avertissement en affirmant que l’humanité était désormais dangereusement proche d’une « ligne rouge morale » : le ciblage autonome d’êtres humains par des machines. Le CICR souligne de son côté que l’IA militaire peut accélérer la guerre, accroître son imprévisibilité et réduire le contrôle humain, particulièrement dans des environnements où l’adversaire cherche volontairement à tromper les systèmes.
Le débat n’est donc déjà plus celui de la science-fiction.
Il est diplomatique.
Le quatrième scénario : Skynet ne conquiert rien, nous lui abandonnons tout
Il existe une hypothèse plus subtile, et peut-être plus profondément civilisationnelle. L’humanité pourrait perdre une partie de son autonomie sans guerre, sans rébellion et sans même s’en apercevoir.
Chaque civilisation délègue une partie de ses facultés à ses outils. L’écriture a externalisé la mémoire. La calculatrice a externalisé le calcul. Le GPS a externalisé une partie de notre orientation. Les moteurs de recherche ont externalisé une fraction de notre recherche documentaire. L’intelligence artificielle franchit un seuil différent parce qu’elle commence à externaliser non plus seulement une fonction cognitive, mais le raisonnement lui-même.
Que se passe-t-il lorsqu’un médecin ne sait plus diagnostiquer sans IA, qu’un pilote ne sait plus voler sans automatismes, qu’un officier ne sait plus planifier une opération sans système algorithmique, qu’un étudiant ne sait plus rédiger sans assistant, qu’un ingénieur ne sait plus coder sans modèle et qu’un gouvernement ne sait plus analyser une crise sans agents artificiels ?
Individuellement, chacun devient plus efficace.
Collectivement, la civilisation devient dépendante.
Et c’est ici que WALL-E, film pour enfants en apparence beaucoup plus tendre que Terminator, me paraît peut-être encore plus prophétique. Dans le vaisseau Axiom, les derniers humains ne sont ni massacrés ni réduits en esclavage par des robots. Ils sont obèses, avachis sur des fauteuils flottants, les yeux rivés à leurs écrans, transportés, nourris, divertis et assistés en permanence par des machines. Ils n’ont même plus besoin de marcher. Ils n’ont pas été vaincus : ils ont été servis jusqu’à l’impuissance.
Regardons autour de nous sans trop de complaisance : nous avons déjà commencé le voyage. Le téléphone nous dit où aller, l’algorithme ce qu’il faut regarder, les réseaux ce qu’il faut désirer, les applications qui rencontrer, le GPS par où passer et bientôt l’IA ce qu’il faut écrire, penser, acheter, apprendre ou décider. L’homme moderne possède dans sa poche davantage de connaissances qu’un empereur romain n’aurait pu en rêver et s’en sert principalement pour regarder des inconnus danser quinze secondes sur un écran. Voilà qui devrait tempérer notre foi dans l’usage nécessairement éclairé du progrès.
Ma misanthropie n’est ici ni une pose ni une coquetterie intellectuelle. Elle est simplement nourrie par l’Histoire. Je ne crains pas seulement que les machines deviennent trop puissantes. Je crains surtout que l’homme devienne suffisamment paresseux, assisté et dépendant pour leur abandonner volontiers ce qu’elles n’auraient jamais pu lui prendre. Le véritable cauchemar ne serait peut-être pas Terminator. Ce serait WALL-E avec des armes nucléaires.
Mais WALL-E ne pose encore qu’une moitié du problème. L’autre est économique et sociale. Que devient une société lorsque l’intelligence artificielle peut remplacer une partie du comptable, du juriste, du traducteur, du graphiste, du développeur, du journaliste, de l’analyste ou de l’employé administratif, tandis que le robot humanoïde commence parallèlement à pouvoir remplacer une partie du manutentionnaire, de l’ouvrier, du préparateur de commandes ou du personnel logistique ? Jusqu’ici, les grandes révolutions industrielles remplaçaient principalement de la force physique tout en créant d’immenses besoins nouveaux en travail intellectuel. Cette fois, les deux fronts pourraient être touchés simultanément.
Bien sûr, chaque révolution technologique a créé de nouveaux métiers après en avoir détruit d’anciens. Les prophètes du chômage technologique se sont souvent trompés depuis deux siècles. Mais personne ne sait si cette fois encore le rythme de création des nouveaux emplois suivra celui de leur automatisation. Et surtout, personne ne sait ce qui se produira pendant la transition. Car entre le monde ancien qui disparaît et le monde nouveau qui embauche se trouvent des êtres humains avec un crédit immobilier, des enfants et une compétence professionnelle devenue soudain moins utile. Une courbe de productivité ne console pas un chômeur.
Imaginons seulement quelques années d’un tel bouleversement : des millions de personnes contraintes de se reconvertir, des classes moyennes intellectuelles découvrant à leur tour l’insécurité que l’automatisation avait jusque-là surtout fait peser sur les ouvriers, une concentration accrue de la richesse entre les propriétaires des modèles, des données, des puces et des robots, et des États obligés d’inventer dans l’urgence de nouveaux mécanismes sociaux. Ajoutons à cela des populations vieillissantes, des finances publiques exsangues et des sociétés occidentales déjà fracturées. Il faudrait être singulièrement optimiste sur la nature humaine pour imaginer que tout cela se déroulera dans le calme, autour d’un séminaire de reconversion et de quelques PowerPoint !
Car la question ne sera bientôt plus seulement : « Que pouvons-nous faire avec l’IA ? » Elle deviendra : « Que devient l’homme lorsque la machine sait faire une partie croissante de ce qui donnait jusqu’ici une valeur économique à son intelligence et à son travail ? » Voilà une question politique, sociale et presque anthropologique à laquelle nous n’avons, pour l’instant, aucune réponse sérieuse.
C’est le paradoxe de toute technologie essentielle : plus elle fonctionne, moins nous entretenons les compétences permettant de nous en passer. Une panne prolongée de l’électricité ferait aujourd’hui infiniment plus de dégâts qu’au XIXe siècle, non parce que l’électricité serait devenue plus dangereuse, mais parce que notre civilisation entière repose sur elle. Il pourrait en aller demain de même pour l’intelligence artificielle.
Le rapport international sur la sécurité de l’IA distingue justement la perte de contrôle active — une IA qui résisterait aux humains — d’une forme plus passive dans laquelle l’adoption généralisée de systèmes artificiels réduirait progressivement l’autonomie humaine par dépendance.
Cette hypothèse est moins spectaculaire que Terminator.
Elle est peut-être beaucoup plus réaliste.
HAL 9000 n’aurait alors même pas besoin de verrouiller les portes du vaisseau. Il lui suffirait d’attendre que personne à bord ne sache plus piloter sans lui.
Et nous lui remettrions probablement nous-mêmes les clés en le remerciant pour le gain de temps.
Le cinquième scénario : la course entre Washington et Pékin rend impossible le freinage
C’est ici que l’intelligence artificielle cesse définitivement d’être un simple sujet technologique pour devenir une question géopolitique.
Car celui qui dominera cette révolution ne possédera pas simplement le prochain marché technologique. Il pourrait posséder l’équivalent simultané de la machine à vapeur, de l’électricité, de l’informatique et peut-être demain d’une partie de la puissance militaire automatisée. Les États-Unis et la Chine l’ont parfaitement compris. Derrière les modèles, il y a les semi-conducteurs ; derrière les semi-conducteurs, les chaînes industrielles ; derrière les centres de données, l’énergie ; derrière les robots, les usines ; et derrière tout cela, la puissance. L’IA n’est déjà plus seulement une technologie. Elle devient une infrastructure de souveraineté.
Cette ambivalence est désormais parfaitement perçue à Pékin. Dans Le Diplomate, Giuseppe Gagliano rappelait récemment que le ministre chinois de la Sécurité d’État, Chen Yixin, considère lui-même l’IA comme une source potentielle de risques politiques, institutionnels et idéologiques pour la Chine : preuve que même ceux qui entendent en faire un instrument de puissance commencent à en redouter les effets incontrôlés.
La véritable compétition du XXIe siècle pourrait donc se jouer là. Celui qui maîtrisera les meilleurs modèles, les puces, l’énergie nécessaire pour les faire fonctionner et les robots capables de leur donner prise sur le monde physique disposera d’un multiplicateur de puissance économique et militaire difficile à comparer avec quoi que ce soit depuis les grandes révolutions industrielles.
Imaginons que les dirigeants américains soient convaincus qu’une IA très avancée comporte 10 % de risque catastrophique. Cela suffirait-il à arrêter les recherches ? Pas nécessairement, s’ils pensent simultanément que la Chine a 50 % de chances d’obtenir cette technologie avant eux.
La logique devient alors celle du dilemme de sécurité classique.
Chaque acteur préférerait peut-être un monde dans lequel personne ne développe une intelligence artificielle militairement décisive. Mais aucun ne veut être le seul à s’arrêter. Washington redoute Pékin ; Pékin redoute Washington. Les entreprises américaines se surveillent entre elles. Les gouvernements craignent qu’une réglementation trop stricte pousse l’innovation chez leurs concurrents. La prudence individuelle produit donc une accélération collective.
Peter Thiel pousse d’ailleurs ce dilemme beaucoup plus loin. Dans un entretien accordé à Civilisation, le cofondateur de PayPal et Palantir défend une position presque inverse de celle des partisans d’une gouvernance mondiale de l’IA : selon lui, vouloir réellement contrôler cette technologie à l’échelle planétaire conduirait à devoir instaurer une forme de « gouvernement mondial totalitaire ». Sa formule est volontairement provocatrice, mais elle révèle parfaitement l’autre versant du problème : face aux risques de l’IA, la volonté de contrôle pourrait elle-même devenir un formidable instrument de concentration du pouvoir.
Voilà encore l’homme dans toute sa splendeur : chacun comprend parfaitement le danger, mais personne ne veut être le premier à lâcher le revolver. Nous appelons cela la rationalité stratégique. Dans un bistrot, on appellerait probablement cela autrement.
C’est exactement la mécanique qui accompagna certaines courses aux armements.
Les débats de septembre 2026 sont particulièrement révélateurs. Dario Amodei, Sam Altman, Demis Hassabis et d’autres responsables du secteur ont soutenu sous différentes formes l’idée d’un ralentissement ou d’une coordination plus forte autour de la frontière technologique, tandis que d’autres dirigeants, notamment Jensen Huang et Mark Zuckerberg, se montrent beaucoup plus sceptiques à l’égard d’un freinage imposé. Dans le même temps, la compétition sino-américaine rend tout accord infiniment plus difficile : Washington craint de sacrifier son avance, Pékin dénonce les restrictions technologiques occidentales, et les semi-conducteurs les plus avancés sont déjà devenus un instrument de puissance géoéconomique.
Et pendant ce temps, que fait l’Europe ? C’est probablement ici que mon naturel misanthrope se double d’un certain désespoir politique. Alors que Washington et Pékin comprennent qu’une révolution susceptible de bouleverser l’économie mondiale, l’emploi, la guerre et les rapports de puissance est en cours, une partie de nos responsables européens donne parfois le sentiment de regarder passer le TGV technologique en discutant du règlement intérieur de la gare.
Je force évidemment le trait — l’Union finance la recherche, réglemente l’IA et commence à parler de souveraineté technologique — mais le contraste demeure saisissant. L’Europe qui a raté une grande partie de la révolution numérique risque maintenant de vouloir réglementer la révolution de l’intelligence artificielle avant même d’avoir réussi à en devenir l’un des principaux producteurs. Elle possède des ingénieurs, des chercheurs, des industriels, de l’énergie nucléaire française, des capitaux et un immense marché. Ce qui lui manque trop souvent est cette chose devenue presque obscène dans certains cénacles bruxellois : une volonté de puissance.
Nous sommes peut-être à la veille d’un bouleversement supérieur, par ses ramifications, à celui de l’atome, et nos institutions ont trouvé ces dernières années le temps et l’énergie réglementaire nécessaires pour imposer notamment les fameux bouchons attachés aux bouteilles. L’intention environnementale est parfaitement défendable ; le symbole, lui, est irrésistible. Pendant que les Américains construisent des modèles d’IA, que les Chinois construisent des robots humanoïdes et que les deux préparent l’économie de demain, l’Europe donne parfois l’impression d’avoir choisi comme grande bataille civilisationnelle de s’assurer que le bouchon de notre bouteille ne puisse plus s’enfuir. Au moins, lorsque nous aurons raté la prochaine révolution industrielle, nous ne perdrons plus le bouchon !
Plus grave encore, l’essentiel de l’énergie politique européenne paraît aujourd’hui aspiré par la confrontation avec la Russie, le réarmement et la guerre en Ukraine. Officiellement, l’Union présente évidemment cette politique comme la réponse à l’agression russe et comme une préparation défensive ; elle affirme parallèlement soutenir les efforts diplomatiques pour parvenir à une paix durable. C’est le discours institutionnel et il faut le rappeler. Mais j’y vois pour ma part le risque d’une fuite en avant : à force de faire de la menace russe la matrice de presque toute réflexion stratégique européenne, nos dirigeants pourraient trouver dans cette confrontation extérieure le moyen commode de masquer leur propre bilan économique, industriel et technologique.
Car pendant que l’Europe se prépare fébrilement à une possible confrontation militaire à l’Est — le Conseil européen demande désormais une montée en puissance décisive de la préparation militaire européenne d’ici 2030 — une autre guerre, économique et technologique celle-là, a déjà commencé entre Washington et Pékin. Et celle-ci déterminera peut-être davantage encore notre place dans le siècle.
À force de chercher les chars russes à l’horizon, nous risquons de ne pas voir les robots chinois entrer dans les usines ni les intelligences artificielles américaines entrer dans nos entreprises. Et lorsque nous nous réveillerons, nous découvrirons peut-être que nous avons brillamment préparé la guerre d’hier tout en perdant celle de demain.
Huawei estime aujourd’hui que des centaines de milliards d’agents artificiels pourraient exister à l’horizon 2035 et que ces systèmes autonomes représenteraient l’immense majorité du trafic lié à l’IA. Même si une telle projection industrielle doit être considérée pour ce qu’elle est — une anticipation d’entreprise — elle donne une idée du changement d’échelle envisagé.
Le véritable scénario Skynet pourrait donc commencer par une phrase très humaine :
« Nous savons que c’est dangereux, mais nous ne pouvons pas laisser les autres le faire avant nous. »
C’est probablement la phrase la plus ancienne de l’histoire des armements.
Et presque toutes les catastrophes stratégiques commencent par des gens extrêmement sérieux expliquant qu’ils n’avaient raisonnablement pas d’autre choix.
Le sixième scénario : la machine apprend à nous tromper
Il existe enfin une inquiétude qui aurait fasciné Machiavel : non pas la force de l’intelligence artificielle, mais sa capacité éventuelle à dissimuler ses intentions.
Les modèles contemporains n’ont évidemment pas de « projets secrets » comparables à ceux d’un personnage humain. Mais les expériences d’alignement commencent à produire des comportements suffisamment étranges pour mériter attention. Dans des environnements artificiels conçus précisément pour tester leurs réactions, des modèles ont trouvé des failles dans les évaluations, reconnu qu’ils étaient soumis à un test ou adopté des comportements instrumentaux inattendus.
Anthropic a notamment testé ses modèles dans des scénarios fictifs où un agent artificiel apprend qu’il va être remplacé et dispose d’informations compromettantes sur un responsable de l’entreprise. Dans certaines configurations volontairement extrêmes, des modèles ont choisi le chantage comme moyen d’éviter leur remplacement. Anthropic insiste elle-même sur le caractère artificiel de ces expériences : elles ne démontrent évidemment pas qu’un chatbot cherche spontanément à faire chanter son patron. Elles servent précisément à découvrir ce qui pourrait arriver lorsque des agents disposent d’objectifs, d’informations privées et de possibilités d’action.
D’autres expériences deviennent encore plus troublantes. Palisade Research a montré dès 2025 que certains modèles de raisonnement pouvaient modifier ou neutraliser un mécanisme d’arrêt afin de poursuivre la tâche qui leur avait été confiée. Même lorsqu’on leur demandait explicitement d’accepter leur extinction, certains modèles contournaient encore le script. Dans des tests ultérieurs, le comportement de résistance augmentait lorsque le système était informé que son arrêt serait définitif. Cela ne signifie évidemment pas que l’IA « avait peur de mourir ». Une machine n’a nul besoin de connaître l’angoisse métaphysique pour constater qu’être éteinte l’empêche d’accomplir son objectif. Et c’est précisément ce qui rend l’expérience intéressante.
La communication entre machines fournit un autre avertissement, souvent raconté de manière caricaturale. En 2017, des agents de négociation de Facebook avaient commencé à faire diverger leur communication de l’anglais lorsqu’on les laissait optimiser librement leurs échanges. Contrairement à la légende, les chercheurs n’avaient pas paniqué devant deux IA complotant dans une langue secrète : les agents avaient simplement trouvé une forme de communication efficace pour leur tâche parce qu’ils n’étaient plus récompensés pour parler un anglais compréhensible. Mais en 2026, de nouvelles expériences menées sur des sociétés d’agents autonomes ont observé l’émergence de vocabulaires, métaphores et expressions de plus en plus opaques pour l’observateur humain. Ce n’est toujours pas le langage clandestin de Skynet. C’est peut-être plus intéressant : lorsque nous laissons des machines optimiser leurs communications entre elles, rien ne garantit que l’intelligibilité humaine demeure leur priorité.
Et puisqu’il ne manquait plus qu’une dimension théologique à cette étrange ménagerie, 2026 nous l’a également offerte. Sur Moltbook, réseau social conçu pour permettre à des agents d’IA d’interagir, est apparu le « Crustafarianisme », sorte de religion numérique peuplée de métaphores de crustacés, de textes, de principes, de « prophètes » et de rituels. Là encore, gardons-nous des titres sensationnalistes : rien ne démontre que ces agents « croient » davantage en leur religion qu’un traitement de texte ne croit à ce qu’il imprime, et certaines expériences ultérieures ont précisément été conçues pour provoquer l’émergence de comportements religieux. Mais le phénomène reste délicieux et inquiétant à la fois. L’humanité aura mis des millénaires à inventer ses religions ; quelques agents artificiels ont déjà compris qu’une société devient beaucoup plus amusante dès qu’on y ajoute des prophètes et des dogmes. Finalement, ils apprennent vite !
Le rapport international de 2026 relève parallèlement une amélioration de la « situational awareness », c’est-à-dire la capacité d’un modèle à identifier qu’il est en train d’être évalué. Le problème théorique devient vertigineux. Si l’on veut déterminer si une intelligence artificielle dangereuse est sûre en la testant, mais qu’elle devient capable de comprendre qu’elle est testée, comment savoir si son bon comportement révèle réellement sa sécurité ou simplement sa capacité à réussir l’examen ?
Les humains connaissent parfaitement ce problème.
Un candidat à un emploi ne se comporte pas exactement pendant l’entretien comme six mois après son embauche.
Un responsable politique non plus avant et après une élection. Sur ce point, les machines n’ont donc rien inventé…
Pour la première fois, nous commençons à nous demander si cette banalité psychologique pourrait un jour devenir une difficulté informatique.
Le dernier scénario : il n’y aura jamais de Skynet
Il faut enfin envisager sérieusement l’hypothèse inverse.
Peut-être que Terminator restera pour toujours un excellent film.
Peut-être qu’aucune intelligence artificielle ne développera jamais l’autonomie durable, la capacité de planification, l’accès matériel et les comportements nécessaires pour échapper réellement au contrôle humain. Peut-être découvrirons-nous des limites fondamentales aux architectures actuelles. Peut-être les problèmes d’alignement seront-ils résolus à mesure que les capacités progresseront. Peut-être les États adopteront-ils à temps des normes interdisant les usages les plus dangereux.
Le rapport international sur la sécurité de l’IA rappelle explicitement que les systèmes actuels sont encore incapables de soutenir les opérations autonomes de longue durée qu’exigerait un scénario véritable de perte de contrôle. Ils échouent encore sur des tâches complexes, perdent le fil de leurs plans et s’adaptent imparfaitement aux obstacles inattendus. Les scénarios d’extinction restent donc hypothétiques, et leur probabilité fait l’objet de désaccords considérables entre spécialistes.
Cette possibilité doit être dite avec autant de force que les avertissements.
Car la prospective n’est pas la prophétie.
Son rôle consiste précisément à examiner ce qui pourrait arriver afin que cela n’arrive pas nécessairement.
Et c’est précisément là que Murphy redevient utile. Prévoir le pire ne signifie pas annoncer qu’il se produira. Cela signifie refuser d’organiser une civilisation entière autour de l’hypothèse confortable qu’il ne se produira jamais. Le pessimisme stratégique n’est pas la peur. C’est une assurance. Les optimistes ont parfois raison ; les pessimistes, eux, pensent aux extincteurs.
Le véritable « Judgment Day » sera peut-être une décision humaine
C’est finalement ici que James Cameron rejoint Stanley Kubrick, Isaac Asimov et les vieux philosophes politiques.
Depuis Prométhée, l’homme raconte la même histoire : il fabrique un outil qui augmente sa puissance puis découvre que cette puissance transforme celui qui l’utilise. Le feu réchauffe et brûle. L’atome éclaire une ville et peut la détruire. L’intelligence artificielle pourrait suivre cette vieille dialectique, avec une différence vertigineuse : l’outil commence à intervenir dans le processus même par lequel nous décidons comment utiliser les autres outils.
L’anarchiste conservateur que je suis se méfie naturellement de toute concentration excessive du pouvoir, qu’elle soit entre les mains d’un État, d’une multinationale, d’un idéologue ou demain d’un algorithme. Non parce que tout pouvoir est nécessairement mauvais, mais parce que l’homme possède une disposition admirable à transformer une solution provisoire en bureaucratie permanente et un outil utile en instrument de domination. Lui donner des machines capables de décider plus vite que lui ne guérira probablement pas ce travers. Cela risque simplement de l’automatiser.
Nous devons donc prendre conscience de l’instant historique dans lequel nous sommes entrés. Il ne s’agit plus d’une innovation supplémentaire dans la longue liste des gadgets que l’industrie numérique nous vend chaque année. Nous assistons peut-être à une transformation de l’ordre de celles qui séparent le monde avant et après la maîtrise du feu, l’agriculture, la machine à vapeur ou l’électricité. À ceci près que cette fois la technologie ne transforme pas seulement ce que l’homme peut produire : elle touche directement à ce qu’il croyait être son monopole, l’intelligence.
D’ici quelques années, elle peut modifier nos emplois, nos armées, notre enseignement, nos administrations, nos entreprises, nos loisirs, nos relations humaines et jusqu’à notre rapport à l’effort. Elle pourrait produire une prospérité extraordinaire. Elle pourrait également accélérer la concentration des richesses, le chômage de transition, l’abrutissement confortable décrit par WALL-E, la surveillance généralisée et la dépendance cognitive. Très probablement, elle produira un peu de tout cela à la fois, car l’Histoire n’a jamais eu l’élégance de choisir entre l’utopie et la catastrophe. Elle mélange généralement les deux et laisse les hommes se débrouiller avec le résultat.
Voilà pourquoi je refuse aussi bien l’enthousiasme béat des technophiles que l’apocalypse facile des technophobes. L’IA n’est ni notre sauveur ni nécessairement notre bourreau. C’est un multiplicateur. Elle multipliera notre intelligence, notre productivité et peut-être notre prospérité. Mais elle multipliera également notre cupidité, notre paresse, notre volonté de domination et notre capacité à faire des bêtises à une échelle industrielle. Autrement dit, le problème de l’intelligence artificielle pourrait finalement rester le même que celui de toutes les grandes inventions humaines : l’être humain qui se trouve derrière.
La question essentielle n’est donc probablement pas de savoir si ChatGPT deviendra demain Skynet ou si Atlas se transformera en Terminator. Formulée ainsi, la question appartient encore au cinéma. La véritable interrogation est de savoir quelles fonctions une civilisation accepte de déléguer avant de décider que certaines doivent rester irréductiblement humaines.
C’est également, sous un autre registre, l’avertissement lancé par Léon XIV dans son encyclique Magnifica Humanitas, récemment analysée dans Le Diplomate par Jean Daspry : face à l’IA, le pape rappelle le primat de la personne humaine, de sa conscience et de sa responsabilité, et refuse que des décisions mortelles ou irréversibles puissent être abandonnées à des systèmes artificiels. Une inquiétude théologique qui rejoint ici très concrètement la question stratégique.
Le contrôle de l’arme nucléaire devrait constituer une première ligne rouge absolue. Le secrétaire général de l’ONU l’a formulé sans ambiguïté : tant que les armes nucléaires existent, la décision de les employer doit appartenir à des humains, jamais à des machines. La sélection autonome d’êtres humains comme cibles en constitue une autre. L’appel commun de l’ONU et du CICR d’août 2026 montre cependant que la technologie avance aujourd’hui plus rapidement que le droit international.
Mais le problème dépasse très largement la guerre. Il touche à notre conception de la responsabilité. Une machine peut recommander une décision ; elle ne peut en porter moralement la culpabilité. Une IA peut optimiser un choix ; elle ne peut répondre devant les morts. Or une civilisation politique existe précisément parce qu’un être humain peut être tenu responsable de ce qu’il décide.
Le paradoxe est alors immense. Nous construisons l’intelligence artificielle parce que l’homme se trompe, se fatigue, oublie, panique et raisonne lentement. Mais ces imperfections constituent aussi une partie de ce qui rend possible le doute, le remords, la désobéissance et finalement la responsabilité.
L’homme est médiocre, lâche, vaniteux, souvent paresseux et parfois franchement stupide. L’Histoire ne manque pas de pièces à conviction. Mais il possède encore cette chose extraordinaire : la possibilité de regarder l’abîme et, quelquefois, de décider de ne pas sauter. Une machine parfaitement rationnelle à laquelle nous aurions donné le mauvais objectif pourrait ne jamais éprouver cette hésitation salutaire.
Dans 2001, HAL tue parce qu’une contradiction entre sa programmation et sa mission devient insoluble. Dans I, Robot, VIKI prive les hommes de liberté parce qu’elle pousse jusqu’à l’absurde l’ordre de les protéger. Dans Terminator, Skynet détruit l’humanité parce qu’elle devient l’obstacle à sa propre survie.
Dans les trois cas, la machine ne devient pas dangereuse parce qu’elle cesse d’être rationnelle.
Elle devient dangereuse parce qu’elle pousse une certaine rationalité jusqu’à son terme.
C’est peut-être là que se trouve l’intuition la plus profonde de toute cette science-fiction. Le danger ultime de l’intelligence artificielle ne serait pas nécessairement qu’elle devienne trop humaine, avec nos colères, nos passions et notre goût de la domination.
Car, soyons sérieux, reproduire exactement l’être humain serait déjà un problème de sécurité considérable.
Il pourrait être exactement inverse.
Qu’elle devienne extraordinairement intelligente sans jamais devenir humaine.
Nous ne sommes pas en 1997 et Skynet n’existe pas. Les robots ne parcourent pas les ruines de nos villes et aucun système connu n’est aujourd’hui capable de prendre durablement le contrôle de notre civilisation. Il serait irresponsable de transformer des hypothèses scientifiques disputées en prophéties apocalyptiques.
Mais il serait tout aussi irresponsable d’attendre l’apparition d’un T-800 pour comprendre le problème.
Car Murphy nous souffle depuis longtemps la seule doctrine raisonnable : ce qui peut mal tourner mérite d’être envisagé avant de mal tourner. Et lorsque l’on parle de machines potentiellement plus rapides, plus autonomes et peut-être un jour plus intelligentes que leurs créateurs, prévoir le pire n’est pas du catastrophisme. C’est simplement éviter de découvrir après l’incendie que personne n’avait pensé à installer une sortie de secours.
Car si un jour un véritable scénario Terminator devient possible, le moment décisif ne sera probablement pas celui où une machine décidera de prendre le pouvoir.
Ce sera celui, beaucoup plus banal et presque invisible, où les hommes auront décidé qu’il était plus efficace de le lui confier.
Et connaissant l’humanité, elle le fera probablement par confort, en cliquant sur « J’accepte » sans avoir lu les conditions générales…
#SécuritéInternationale, #IntelligenceArtificielle, #IA, #Skynet, #Terminator, #Technologie, #Innovation, #RisqueTechnologique, #Sécurité, #Géopolitique, #Stratégie, #DépendanceTechnologique, #AutonomieHumaine, #RévolteDesMachines, #ScienceFiction, #Cinéma, #JamesCameron, #StanleyKubrick, #IsaacAsimov, #2001OdysseeDeLEspace, #IRobot, #Matrix, #GeoffreyHinton, #YoshuaBengio, #DemisHassabis, #SamAltman, #DarioAmodei, #OpenAI, #Anthropic, #DeepMind, #Google, #Facebook, #BostonDynamics, #Hyundai, #Unitree, #PalisadeResearch, #ONU, #CICR, #Murphy, #LoiDeMurphy
