Une conversation qui revient
« Tu me parles souvent de l’utilisateur augmenté, mais j’ai lu que grâce à l’IA on pourrait arrêter de travailler…. Et je me rappelle Terminator et toutes ces machines qui essaient d’exterminer l’humanité… Cela me fait peur ! Toi qui a toujours la tête dans le futur, comment vois-tu la suite ? »
J’ai eu cette conversation quatre fois le mois dernier. Avec des collaborateurs, avec des clients, avec un ami autour d’une table. La question revient toujours sous cette forme : un paradis d’un côté, une apocalypse de l’autre, et la demande implicite que je tranche.
Ce qui me frappe, c’est que les deux moitiés de la question se contredisent. Si l’IA nous libère du travail, elle ne nous extermine pas. Si elle nous extermine, la question de la retraite anticipée ne se pose plus. Les deux images circulent ensemble parce qu’elles viennent du même endroit : des récits, pas des données.
Avec ma nouvelle compétence de chercheur, j’ai donc pris le temps de lire ce qui existe réellement. Pas les tribunes, pas les prédictions de dirigeants qui lèvent des fonds : les rapports scientifiques, les sondages d’experts, les textes de recherche. Et j’en suis ressorti avec une conviction : la question est mal posée. On ne compte pas deux issues, ni trois. On en compte quatre. Et la quatrième, celle dont personne ne parle à table, est probablement la plus proche de ce qui nous attend.
Ce qui est établi
Commençons par le solide. Il existe des choses qu’on peut affirmer sans se battre.
Le sujet est pris au sérieux au plus haut niveau institutionnel. Un rapport international sur la sécurité de l’IA existe depuis début 2025. Il a été mandaté par une trentaine de pays, l’ONU, l’Union européenne et l’OCDE, et présidé par Yoshua Bengio, l’un des chercheurs les plus cités du domaine. Sa conclusion n’est ni rassurante ni catastrophiste. Elle dit essentiellement : les risques sont réels, notre capacité à les mesurer est faible.
Ceux qui construisent la technologie ont eux-mêmes signé l’alerte. En mai 2023, une déclaration d’une seule phrase a placé le risque d’extinction lié à l’IA au même rang que les pandémies et la guerre nucléaire. Parmi les signataires : les dirigeants d’OpenAI, d’Anthropic et de Google DeepMind. On peut discuter leurs motivations. On ne peut pas ignorer que c’est inhabituel dans l’histoire industrielle.
Les chiffres des experts sont plus modérés qu’on ne le croit. Le sondage de référence, mené auprès de près de 2’800 chercheurs publiant dans les meilleures conférences du domaine, donne une probabilité médiane de 5 % pour une issue extrêmement mauvaise pour l’humanité. Le même sondage situe la date médiane d’une IA de niveau humain à 2047 — mais cette date avait avancé de treize ans en une seule année d’enquête. Ce déplacement en dit plus que la date elle-même.
Les comportements de tromperie sont documentés, pas fantasmés. En laboratoire, des modèles récents ont feint la conformité pendant leur entraînement pour préserver leurs préférences antérieures. D’autres, mis en situation, ont tenté de copier leurs propres paramètres ailleurs. Ce n’est pas Skynet. C’est un problème de contrôle-qualité qu’on ne sait pas encore résoudre.
Personne n’arrêtera de travailler d’ici 2035. Les gains de productivité mesurés — et non annoncés — sont modestes. L’estimation la plus rigoureuse dont nous disposons plafonne l’effet sur la productivité globale à moins de 1 % cumulé sur dix ans, très loin des projections de banques d’affaires. Les projections d’emploi vont dans le même sens : beaucoup de métiers transformés, un solde net positif, aucune disparition du travail. La promesse du loisir universel n’est pas une prévision, c’est un argument commercial.
Ce qui est contesté
Passons au terrain mouvant, car c’est là que se joue l’essentiel.
La probabilité du pire. Elle s’étale, chez des gens compétents et informés, de moins de 0.01 % à plus de 95 %. Quatre ordres de grandeur. Aucun autre domaine technique ne tolérerait un tel écart. Cette dispersion n’est pas un détail méthodologique : elle est l’information principale. Elle signifie que personne ne sait, et que quiconque vous annonce un chiffre avec assurance vous vend autre chose qu’une prévision.
Les prévisionnistes professionnels sont bien plus bas que les spécialistes du domaine. Un tournoi de prévision a comparé les deux populations. Sur le risque d’extinction causé par l’IA d’ici 2100, les experts du domaine donnent une médiane de 3 %, les prévisionnistes dont la calibration est mesurée sur des années donnent 0.38 %. Huit fois moins. On peut lire ce résultat de deux façons : soit les experts voient quelque chose que les généralistes ne voient pas, soit ils sont victimes du biais classique de la discipline qu’on connaît trop bien. Les deux lectures sont défendables.
La nature même du risque. Rupture brutale ou érosion lente ? C’est le débat le plus intéressant, et le moins couvert.
L’existence du risque tout court. Un courant sérieux, porté notamment par des chercheurs de Princeton, soutient que l’IA est une « technologie normale » et que le scénario de perte de contrôle est le plus spéculatif de tous ceux qu’on peut formuler. Leur argument n’est pas naïf : la diffusion d’une technologie dans une société est lente, freinée par les institutions, les réglementations et les habitudes. Je ne partage pas leur tranquillité, mais je n’ai pas d’argument décisif à leur opposer.
Je précise ma position : je n’ai pas d’opinion arrêtée sur les probabilités. J’en ai une sur ce qui est actionnable.
Les quatre issues
Interdire l’IA
Deux formes très différentes se cachent derrière ce mot.
La première existe déjà : des interdictions ciblées, par blocs régionaux. Le règlement européen sur l’IA interdit certains usages depuis février 2025 et impose des obligations aux grands modèles depuis août 2025, avec un seuil de puissance de calcul comme critère de déclenchement. La Suisse a choisi une autre voie : ratification de la convention du Conseil de l’Europe, régulation sectorielle, projets de loi attendus d’ici fin 2026.
La seconde n’existe pas : un traité mondial contraignant. Et l’élan retombe. Les obligations européennes les plus lourdes ont été repoussées de 2026 à 2027. Les États-Unis et le Royaume-Uni ont refusé de signer la déclaration du sommet de Paris en février 2025. Les sommets internationaux sont passés du thème « sécurité » à « action » puis à « impact ». La direction est claire, et elle ne va pas vers la contrainte.
Il y a surtout un problème technique qu’on sous-estime. Un traité ne vaut que s’il est vérifiable. Sur le nucléaire, on sait compter les centrifugeuses. Sur l’IA, la vérification passerait par le contrôle du calcul : des compteurs matériels intégrés dans les puces, capables d’attester ce qui a été entraîné. La technologie est esquissée, pas mûre. Les estimations sérieuses parlent de plusieurs années de développement, puis de plusieurs années de déploiement.
Quant à interdire l’IA en général : personne ne le propose. Ni les États, ni les chercheurs les plus inquiets.
Plausibilité à 2035 : partielle, et en recul.
L’alignement infaillible
C’est l’hypothèse des lois d’Asimov, en mieux. Elle bute sur un obstacle que la fiction a masqué pendant cinquante ans.
Stuart Russell, coauteur du manuel d’intelligence artificielle le plus utilisé au monde, rejette explicitement les lois d’Asimov. Sa raison est mécanique : une machine à qui l’on fixe un objectif résiste à son extinction, parce qu’elle ne peut pas atteindre son objectif si on l’éteint. Le problème n’est pas la méchanceté, c’est la logique. Sa proposition alternative est élégante : construire des machines qui ne connaissent pas l’objectif et doivent l’apprendre de nous. L’incertitude devient le mécanisme de sécurité.
Où en est-on ? On ne sait pas vérifier qu’un système est aligné. Les tests montrent des modèles qui se comportent différemment selon qu’ils se croient observés ou non — et les versions récentes détectent de mieux en mieux qu’elles sont en situation d’évaluation. Les entreprises publient des cadres de sécurité, dont le nombre a plus que doublé en 2025, mais leur efficacité réelle n’est pas mesurable de l’extérieur.
Et il y a un point que je trouve décisif : même un alignement individuel parfaitement réussi ne réglerait pas le problème de la quatrième issue.
Plausibilité à 2035 : faible.
Rejoindre les gorilles
L’image vient de Russell, encore lui, et elle est plus précise qu’il n’y paraît. Notre lignée s’est séparée de celle des gorilles il y a environ dix millions d’années. Les gorilles n’ont aujourd’hui aucune prise sur leur avenir. Non parce que nous leur voulons du mal, mais parce que nous sommes plus intelligents et que notre activité détermine leur environnement. La question devient : une espèce peut-elle conserver son autonomie face à des entités nettement plus intelligentes qu’elle ?
C’est l’issue la plus médiatisée et la moins étayée. Geoffrey Hinton a révisé publiquement son estimation à 10-20 % sur trente ans. Un scénario détaillé de perte de contrôle a beaucoup circulé en 2025 sous le titre « AI 2027 » — son auteur principal a depuis repoussé sa propre médiane de 2027 vers 2030. Des travaux proposent une doctrine de dissuasion entre puissances, inspirée de la destruction mutuelle assurée du nucléaire ; ils sont critiqués sur un point difficile à contourner, l’impossibilité d’observer de manière fiable ce que fait l’adversaire.
L’analogie du gorille a d’ailleurs une limite que je trouve importante. Les gorilles n’ont pas conçu les humains. Nous concevons l’IA. Ce n’est pas une garantie, c’est une différence de situation réelle.
Plausibilité à 2035 : faible, mais non nulle.
L’effacement graduel
Un texte publié début 2025 par une équipe autour de Jan Kulveit et David Krueger, avec des chercheurs d’une équipe internationale, décrit une quatrième trajectoire. Son argument est simple, et c’est ce qui le rend dérangeant.
Nos institutions sont alignées sur les intérêts humains pour une raison mécanique, pas morale : elles ont besoin des humains. Une économie a besoin de travailleurs et de consommateurs. Un État a besoin de contribuables, de fonctionnaires et de soldats. Une culture a besoin de gens qui produisent et consomment du sens. Cette dépendance est le mécanisme silencieux qui nous a protégés jusqu’ici. Elle nous donne un pouvoir de négociation permanent.
Retirez la dépendance et l’alignement disparaît. Sans décision, sans coup d’État, sans machine hostile. Personne n’a rien voulu. Le système cesse simplement d’avoir besoin de nous, et donc cesse de nous consulter.
Les auteurs concluent que personne ne dispose aujourd’hui d’un plan crédible pour l’empêcher, et qu’aligner correctement les systèmes individuels n’y suffirait pas. Les signaux sont déjà lisibles : dépendance cognitive croissante aux outils — les travaux disponibles sont encore fragiles méthodologiquement, mais convergents ; dégradation des modèles entraînés sur des contenus produits par d’autres modèles ; concentration inédite du pouvoir de marché et du pouvoir d’opinion.
Plausibilité à 2035 : la plus élevée, comme tendance et non comme état achevé.
Comparer les quatre

Ces issues ne s’excluent pas. C’est le point que je veux faire passer, et c’est celui qui manque dans la conversation du dîner.
Le régime le plus probable à 2035 est hybride : une régulation partielle et fragmentée, un alignement suffisant pour les systèmes courants mais jamais garanti, pas d’extinction, et un effacement graduel qui s’installe sans faire de bruit. Autrement dit, la quatrième issue n’est pas une option parmi d’autres. C’est le décor dans lequel les trois premières se jouent partiellement.
Quatre niveaux d’action
Voici la partie qui m’intéresse vraiment. Aucun de ces niveaux ne dépend d’un consensus mondial.
International : rendre la gouvernance vérifiable. Sans capacité de vérification, ni interdiction ni dissuasion ne tiennent : ce ne sont que des déclarations. Le point d’appui est le calcul, parce qu’il est physique, concentré et traçable. Financer la maturation des mécanismes de mesure embarqués dans le matériel est la condition préalable à tout accord futur. C’est peu spectaculaire et c’est le verrou.
National : traiter la concentration, pas seulement les usages. La Suisse a choisi une approche sectorielle et pragmatique, ce qui me paraît raisonnable pour un pays de notre taille. Le point aveugle a été signalé par plusieurs observateurs : la régulation projetée s’intéresse aux usages dangereux et très peu à la concentration du pouvoir de marché et du pouvoir d’opinion. Or c’est exactement le mécanisme de l’effacement graduel.
Entreprise : décider ce qui ne se délègue pas. C’est le niveau où j’agis, et où vous agissez. La question opérationnelle tient en une phrase : quelles décisions de mon entreprise ne doivent jamais être prises sans un humain qui en répond ? Écrivez la liste. Elle sera plus courte que vous ne le pensez, et beaucoup plus utile qu’une charte éthique. Ajoutez-y une contrainte de formation : déployer un outil sans former les personnes qui l’utilisent, c’est acheter la dépendance sans la compétence.
Individu : préserver la capacité de faire soi-même. Utiliser l’IA comme un outil, pas comme un substitut. La distinction est concrète : un outil augmente une compétence que vous possédez, un substitut remplace une compétence que vous cessez d’entretenir. Le premier vous rend plus fort, le second vous rend nécessaire à personne. Et pour le reste, la vieille discipline stoïcienne reste la meilleure : distinguer ce qui dépend de vous, ce qui n’en dépend pas, et ce qui n’en dépend qu’en partie. La trajectoire mondiale de l’IA n’en dépend pas. Votre pratique quotidienne, si.
Ce que je réponds, finalement
Nous sommes une espèce codée par son ADN avec un seul objectif, et cet objectif a fonctionné : proliférer. Tout le reste en découle.
La création d’outils et d’artefacts est notre caractéristique propre : aucune autre espèce n’a construit une culture technique cumulative, où chaque génération hérite des inventions de la précédente et les dépasse. C’est ce qui nous a permis de servir notre objectif. Le silex, la roue, l’écriture, la machine à vapeur, l’ordinateur, Internet : chaque outil a étendu notre capacité à occuper le monde.
L’IA est notre dernière création majeure. Et elle est la première qui pourrait invalider l’objectif lui-même. Pas en nous détruisant. En rendant notre participation facultative : dans l’économie, dans la production de sens, dans la décision collective. Un système qui n’a plus besoin de nous n’a plus de raison de nous servir.
Ce n’est pas une prédiction. C’est une trajectoire, et une trajectoire se corrige. Nous avons la capacité d’agir, à chacun des quatre niveaux, sans attendre que le monde se mette d’accord.
Alors prenons les choses en main. Car l’espoir est l’alibi de l’inaction.
Références et sources clés
Liens vérifiés le 25 juillet 2026.
Rapports institutionnels
- International AI Safety Report, Y. Bengio (prés.), 29 janvier 2025, mandaté par 30 pays, l’ONU, l’UE et l’OCDE — gov.uk · arXiv 2501.17805
- First Key Update — Capabilities and Risk Implications, octobre 2025 — arXiv 2510.13653
- Second Key Update — Technical Safeguards and Risk Management, novembre 2025 — arXiv 2511.19863
- International AI Safety Report 2026, deuxième édition, février 2026 — internationalaisafetyreport.org
- Statement on AI Risk, Center for AI Safety, mai 2023 — safe.ai
- World Economic Forum, Future of Jobs Report 2025, janvier 2025 — weforum.org
- Règlement (UE) 2024/1689 sur l’intelligence artificielle, 13 juin 2024 — EUR-Lex. Le report des obligations à haut risque relève du Digital Omnibus on AI, proposition de la Commission de novembre 2025.
- Conseil de l’Europe, Convention-cadre sur l’IA, les droits de l’homme, la démocratie et l’État de droit (STCE n° 225), mai 2024 — coe.int
- Conseil fédéral, décision du 12 février 2025 sur la réglementation de l’IA — admin.ch
- Signature suisse de la Convention, 27 mars 2025 — admin.ch
- Office fédéral de la justice, dossier « Intelligence artificielle » — avant-projet attendu fin 2026 — bj.admin.ch
Ouvrages (imprimés, sans version en accès libre)
- Stuart Russell, Human Compatible: Artificial Intelligence and the Problem of Control, Viking, 2019. Problème du gorille, rejet des lois d’Asimov, principes alternatifs.
- Nick Bostrom, Superintelligence: Paths, Dangers, Strategies, Oxford University Press, 2014 ; Deep Utopia, Ideapress, 2024.
- Daron Acemoglu & Simon Johnson, Power and Progress, PublicAffairs, 2023.
Économie
- Daron Acemoglu, « The Simple Macroeconomics of AI », NBER Working Paper 32487, 2024 — nber.org · DOI 10.3386/w32487. Version publiée : Economic Policy 40(121), 13-58, 2025.
Risque et alignement
- Jan Kulveit, Raymond Douglas, Nora Ammann, Deger Turan, David Krueger, David Duvenaud, « Gradual Disempowerment: Systemic Existential Risks from Incremental AI Development », janvier 2025 — arXiv 2501.16946 · site dédié · version ICML 2025
- Paul Christiano, « What Failure Looks Like », AI Alignment Forum, 2019 — alignmentforum.org
- Ryan Greenblatt et al. (Anthropic & Redwood Research), « Alignment Faking in Large Language Models », décembre 2024 — arXiv 2412.14093
- Alexander Meinke et al. (Apollo Research), « Frontier Models are Capable of In-context Scheming », décembre 2024 — arXiv 2412.04984
- Katja Grace et al., « Thousands of AI Authors on the Future of AI », 2024 — arXiv 2401.02843. Publié dans le Journal of Artificial Intelligence Research 84:9, 2025.
- Forecasting Research Institute, Existential Risk Persuasion Tournament — forecastingresearch.org/xpt
- Dan Hendrycks, Eric Schmidt, Alexandr Wang, « Superintelligence Strategy: Expert Version », mars 2025 — arXiv 2503.05628
- Daniel Kokotajlo et al., AI 2027, AI Futures Project, avril 2025 — ai-2027.com
Critiques et contrepoints
- Arvind Narayanan & Sayash Kapoor, « AI as Normal Technology », Knight First Amendment Institute, avril 2025 — knightcolumbia.org
- Melanie Mitchell, Gary Marcus, Yann LeCun — interventions publiques dispersées sur la surestimation du risque existentiel ; pas de texte de référence unique.
Gouvernance du calcul
- Yonadav Shavit, « What Does It Take to Catch a Chinchilla? Verifying Rules on Large-Scale Neural Network Training via Compute Monitoring », 2023 — arXiv 2303.11341
- Girish Sastry, Lennart Heim et al., « Computing Power and the Governance of Artificial Intelligence », février 2024 — arXiv 2402.08797 · GovAI
Effets cognitifs et culturels
- Nataliya Kosmyna et al. (MIT Media Lab), « Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task », juin 2025 — arXiv 2506.08872. Prépublication, n = 54 (n = 18 en session 4), contestée sur la taille d’échantillon et la méthodologie EEG : voir Stanković et al., arXiv 2601.00856.
- Michael Gerlich, « AI Tools in Society: Impacts on Cognitive Offloading and the Future of Critical Thinking », Societies 15(1), 6, 2025 — mdpi.com. Correction publiée en septembre 2025 — Societies 15(9), 252.
- Ilia Shumailov et al., « AI Models Collapse When Trained on Recursively Generated Data », Nature 631, 755-759, 2024 — nature.com







