Catégorie : Governance

  • Le vibe service : pourquoi les sociétés de services doivent inverser leur modèle

    Une vague de désintermédiation traverse les services professionnels. Les clients construisent eux-mêmes, avec l’IA générative, ce qu’ils achetaient hier. Ce mouvement, que j’appelle vibe service, déplace la valeur des prestataires sans la supprimer. Le cadre des quatre périmètres, que je détaille ici, permet de cartographier ce déplacement et d’y préparer aussi bien les sociétés de services que les entreprises qui font appel à elles.

    Deux exemples observés récemment dans ma pratique illustrent la dynamique.

    Le dirigeant d’une PME suisse spécialisée dans les escaliers en bois sur mesure a construit, seul et avec Claude, une application complète de gestion de ses offres et de ses projets. Il l’utilise sur son mobile, sans dépendance vis-à-vis d’un prestataire IT. Il sait toutefois que le passage à un usage collectif — déploiement aux collègues, mise en commun et sécurisation des données — exigera l’intervention d’un expert. La conscience de cette frontière est elle-même un signal. Le client autonome n’efface pas le prestataire, il en redéfinit le moment et le périmètre d’intervention.

    Un membre de la direction d’une fiduciaire suisse a développé un agent conversationnel, sur la base d’un GPT personnalisé, qui répond aux questions juridiques courantes de ses collègues — adaptation de contrats, relations employeur-employé. L’agent a été affiné dans le contexte de l’entreprise avec l’avocat-conseil. Le cas combine deux gestes : un outil construit en autonomie par le métier, et une validation experte intégrée dès la conception. C’est une préfiguration du tiers de validation décrit plus loin, internalisé chez le client.

    1. Le constat empirique

    Dans la plupart des entreprises, l’IA est déjà au travail. Trois personnes sur quatre s’en servent dans leur quotidien professionnel. Près de huit sur dix utilisent leurs propres outils, souvent à l’insu de la DSI. En 2025, l’accès aux outils IA en entreprise a progressé de moitié. Plus de sept organisations sur dix l’ont intégrée à au moins une fonction métier.

    Les gains de productivité ne sont pas spéculatifs. Un consultant équipé de GPT-4 traite 12 % de tâches en plus dans 25 % de temps en moins, avec une qualité jugée 40 % supérieure. Sur les tâches juridiques, l’effet mesuré va de 12 à 32 %. Sur les tâches d’écriture professionnelle, le temps de production diminue de 40 % et la qualité progresse de 18 %. Pour les agents de support client, la productivité progresse également, et la satisfaction des utilisateurs avec elle. Ces chiffres ne viennent pas d’éditeurs en quête d’arguments commerciaux : ils sont mesurés par des chercheurs universitaires sur des terrains réels d’entreprise.

    Le client a changé de capacité productive. Les sociétés de services n’ont, pour la plupart, pas changé d’offre.

    2. Le vibe service comme régime de consommation

    Andrej Karpathy a popularisé en 2025 le terme vibe coding : développer un logiciel en décrivant son intention en langage naturel à un LLM, sans coder soi-même. Par analogie, j’appelle vibe service la pratique consistant, pour un non-spécialiste, à mobiliser l’IA générative comme substitut partiel ou total à un service professionnel — juridique, RH, comptable, communication, IT, conseil — en décrivant son besoin et en itérant jusqu’à un livrable utilisable. C’est une forme de prosommation experte des services professionnels : le consommateur devient producteur de sa propre prestation, à un niveau d’expertise hier réservé au prestataire.

    Le vibe service couvre déjà la rédaction de premiers brouillons de contrats, la production de fiches de poste, le diagnostic IT élémentaire, les posts LinkedIn, les comptes rendus de réunion, les premières analyses financières, les briefs de cahiers des charges. Le périmètre s’étend en continu, presque chaque jour. Chaque release de modèle, chaque nouvel agent spécialisé en repousse la frontière, et la dynamique est exponentielle plutôt que linéaire.

    À ne pas confondre avec le vibe consulting introduit par Miranki en novembre 2025, qui désigne le mouvement inverse : le consultant qui s’augmente à l’IA pour livrer plus vite à son client. Le vibe service décrit la substitution par le client, pas l’augmentation du prestataire. La direction du déplacement de valeur n’est pas la même, et c’est précisément cette direction qui impose aux sociétés de services de revoir leur modèle.

    3. Le cadre des quatre périmètres

    Pour comprendre où se déplace la valeur, je propose de découper la consommation de services en quatre périmètres. Le cadre s’inscrit dans une lignée business installée. John Kotter parle de dual operating system, où une hiérarchie d’exécution coexiste avec un réseau d’agilité. Clayton Christensen et Michael Overdorf appellent à séparer les structures porteuses de l’ancien de celles qui doivent porter le nouveau, dans leur new organizational space. Gartner a codifié plus tard le bimodal IT, distinguant un mode prévisible pour les systems of record et un mode exploratoire pour les systems of innovation. La conviction commune : un cadre unique ne suffit plus à gouverner des logiques de valeur différentes. Le modèle des quatre périmètres prolonge cette intuition pour la consommation de services à l’ère de l’IA générative.

    A – Le noyau expert irréductible. Les tâches où l’expertise humaine reste un facteur clé de succès et que l’IA ne suffit pas à porter. Ce noyau a deux faces. La face externe regroupe ce que la PME délègue à des prestataires spécialisés faute d’alternative viable en interne : litige judiciaire, audit fiscal, intégration de systèmes critiques, transformation organisationnelle de fond. La face interne regroupe le cœur de métier qui différencie l’entreprise de ses concurrents — ce qui fait qu’on la choisit plutôt qu’une autre. Cette face-là gagne à être internalisée. La déléguer revient à confier sa différentiation à un tiers, et le vibe service ne change rien à cette règle.

    B – Le référent augmenté et agile. Les tâches que le client traite en interne avec un référent formé, dès lors qu’on lui fournit le cadre, les gabarits, les prompts spécialisés et les workflows. Modèles de contrats configurables, processus RH outillés, tableaux de bord BI sur cubes existants, assistants conversationnels métier. Le prestataire passe d’exécutant à fournisseur de cadre. Ce périmètre offre par construction une forte agilité aux changements : toute évolution du contexte se règle par un ajustement de paramètres plutôt que par un projet de développement, ce qui en fait sa principale qualité opérationnelle.

    C – Le vibe service. L’autonomie augmentée du collaborateur final : Claude, ChatGPT, Copilot, agents spécialisés en libre service, sous régime de charte. C’est ici que l’expansion est la plus rapide. C’est aussi ici que le prestataire risque de disparaître du champ de vision du client.

    Z – Hors périmètre. Les usages risqués non encadrés : données sensibles partagées avec des IA grand public, conseil critique non vérifié, livrables professionnels diffusés sans validation, contournement des contrôles internes. Zone à surveiller en continu, à cartographier, à former et à remédier.

    Le découpage n’est pas figé. La porosité entre périmètres est un mécanisme central : un usage C qui devient récurrent peut être promu en B (industrialisé). Un cas B critique peut redescendre en A. La gouvernance du prestataire devient celle de la porosité.

    En pratique, cette architecture ne s’active pas en bloc. Une mise en œuvre réaliste démarre souvent par une intégration A+B : le prestataire qui occupe le périmètre A continue d’opérer comme avant, le temps que les référents métier du périmètre B soient identifiés et aguerris. La séparation des deux périmètres se construit progressivement, à mesure que le client gagne en maturité sur les outils et la gouvernance des usages. Le périmètre C peut s’amorcer en parallèle, mais sa généralisation suppose qu’au moins une politique d’usage et un dispositif de support soient en place.

    Le cadre est exposé ici dans la perspective d’une PME en relation avec un prestataire externe. Il s’applique tout aussi bien à des entreprises plus grandes qui intègrent en interne ce que la PME externalise. Dans ces organisations, A et B sont portés par des fonctions internes — DSI, direction juridique, contrôle de gestion, ressources humaines — qui jouent vis-à-vis des métiers le rôle qu’un prestataire externe joue vis-à-vis d’une PME. La logique de découpage et de porosité reste la même. Seul change le donneur d’ordre.

    4. Les contre-arguments comme opportunités

    « The tool answers what you ask, whereas the expert tells you what to ask. » — Carl Benedikt Frey, The New York Times, 11 mai 2026

    L’autonomisation est plus tortueuse que les promesses marketing ne le laissent entendre. La frontière où l’IA aide vraiment est dentelée : pour les tâches dans son périmètre de capacité, un consultant équipé gagne 12 % de tâches accomplies dans 25 % de temps en moins, et la qualité de ses livrables progresse de 40 %. Pour les tâches au-delà, ses solutions sont dégradées de 19 %. Il ne sait pas, en amont, distinguer les unes des autres, et la frontière est mouvante — chaque nouveau modèle la redessine. L’autonomie a aussi un revers mesuré : sur 244 consultants suivis dans 5 000 interactions IA, plus d’un quart bascule en mode auto-pilote — délégation entière, sans gain d’expertise sur l’outil ni sur le métier. Ce sont pourtant des profils sélectionnés pour leur rigueur analytique. La confiance reste un actif humain : sur les enjeux à risque, les clients préfèrent encore valider leur décision avec un humain plutôt qu’avec une IA. Et chez les grands comptes, on observe une dynamique d’internalisation des fonctions de conseil — des cellules expertes maison qui captent ce qu’on externalisait hier.

    Chacun de ces contre-arguments désigne une opportunité — pour les sociétés de services qui acceptent d’inverser leur modèle, et pour les entreprises clientes qui acceptent d’investir dans leur capacité interne.

    De la jagged frontier au service de cartographie. Le client ne sait pas où l’IA est fiable, et la frontière se déplace à chaque release de modèle. La société de services peut devenir celle qui audite les cas d’usage, cartographie les risques par tâche, et forme à la validation des outputs. Service à forte expertise, et structurellement récurrent : la cartographie est périssable par nature, ce qui exclut l’audit ponctuel et installe un modèle d’abonnement. Le risque sous-jacent n’est pas spéculatif, il a été mesuré sur le terrain. Une étude récente sur 244 consultants distingue trois modes d’usage de l’IA en travail de connaissance. Le centaure (14 %) mobilise l’IA de façon sélective sous contrôle humain ferme : il atteint la meilleure précision et approfondit son expertise métier en parallèle. Le cyborg (60 %) entretient un dialogue continu avec l’IA et gagne en expertise IA, au risque de laisser dériver son ancrage métier. L’auto-pilote (27 %), c’est le profil qui délègue des workflows entiers et perd à la fois la maîtrise de l’outil et la maîtrise du métier — c’est l’argument le plus solide pour vendre du coaching à un client qui se croit autonome. Le coaching consiste à faire migrer l’auto-pilote vers le centaure, et à orienter le cyborg vers l’approfondissement de l’expertise métier plutôt que de la seule expertise IA.

    Côté client. L’entreprise qui mobilise le vibe service doit développer une capacité interne d’audit de ses propres cas d’usage. Identifier les auto-pilotes dans ses équipes, et mettre en place des points de contrôle au passage de la frontière. Cette cartographie a besoin d’être renouvelée à chaque changement de modèle. Le référent métier du périmètre B est le porteur naturel de cette compétence ; à défaut, c’est le manager direct, formé à reconnaître les signaux de bascule.

    De l’asymétrie de confiance au tiers de validation. Quand le client refuse de confier sa décision critique à une IA, il a besoin d’un humain qui valide. La société de services se positionne en tiers de confiance certifié : revue de productions IA, validation de livrables, garantie de conformité. Le métier devient celui de l’assurance qualité experte. Le marché des vibe coding rescue services qui émerge en 2025-2026 — agences qui auditent et sécurisent les applications produites en autonomie par des non-développeurs — préfigure ce que les autres métiers verront apparaître à leur tour. La trace est déjà observable en IT ; elle se répétera dans le juridique, le RH, la communication.

    Côté client. L’entreprise doit définir un seuil de criticité au-delà duquel le tout-IA n’est pas une option, et formaliser ses points de passage obligatoire vers une validation humaine. La gouvernance interne précède le recours au tiers externe : sans politique claire sur ce qui peut sortir sans relecture, l’investissement en validation est mal calibré. Le seuil n’est pas universel, il dépend du métier et du risque réputationnel ou contractuel attaché à chaque livrable.

    De l’internalisation au compagnonnage paramétrique. Pour la PME, internaliser une cellule d’experts n’est pas réaliste. Le prestataire devient le partenaire long terme qui construit et maintient le périmètre B du client : gabarits, workflows, prompts spécialisés, gouvernance des usages, mise à jour des cadres au rythme des modèles. Le modèle économique devient un abonnement à la maintenance d’un environnement augmenté.

    Côté client. La PME ne peut pas internaliser une cellule d’experts, mais elle ne doit pas non plus rester captive d’un prestataire unique. L’enjeu est de constituer un référent métier B capable de dialoguer d’égal à égal avec le partenaire externe, sans déléguer la totalité de la gouvernance des usages. La compétence à acquérir est celle du donneur d’ordre éclairé. Sans elle, le compagnonnage paramétrique se transforme en dépendance, et la valeur reste captée à l’extérieur de l’entreprise.

    De la complexification de la demande à un nouveau support. Le client autonome pose des questions qu’il ne posait pas avant : pourquoi mon prompt ne fonctionne plus, comment articuler trois agents, comment vérifier qu’un output est exact, comment gouverner une équipe qui utilise des outils hétérogènes. Cela ouvre un marché de support spécialisé, à un niveau d’expertise plus élevé que le helpdesk traditionnel.

    Côté client. L’entreprise doit accepter de payer pour de l’expertise plutôt que pour de l’exécution, et reconfigurer ses budgets en conséquence. Les questions techniques produites par l’autonomie du périmètre C ne se résolvent pas avec un helpdesk forfaitaire ; elles relèvent d’un accompagnement à valeur supérieure que le modèle d’achat traditionnel ne sait pas encore qualifier ni acheter.

    5. L’inversion du modèle

    Le modèle traditionnel des sociétés de services facture l’exécution. Le modèle qui se prépare facture le cadre, la validation, le coaching et le support. L’inversion n’est pas marginale. Elle touche le mode de pricing — de l’heure facturée vers l’abonnement et l’outcome-based —, la structure des équipes (HBR documente en septembre 2025 le passage du modèle pyramidal au modèle « obélisque » : moins de juniors, plus d’experts), la promesse client (de l’exécution livrée à la capacité construite), et la nature même du contrat de prestation.

    Côté client. L’inversion est symétrique. L’entreprise passe d’un achat d’exécution à un achat de capacité. Sa fonction achat doit apprendre à valoriser un cadre, un référent formé, une grille de risques, un abonnement à de la maintenance — actifs immatériels que les processus de sourcing actuels peinent à objectiver. Le critère de succès n’est plus l’heure homme livrée, mais la compétence interne construite chez le client.

    Les sociétés de services qui s’installent sur le périmètre A continueront de prospérer, mais sur un volume contraint. Celles qui occupent le périmètre B et accompagnent les clients sur le périmètre C captureront la valeur en croissance. Celles qui restent sur l’exécution intermédiaire — celle que le vibe service absorbe — verront leur marché s’éroder par le bas.

    Côté client. La dynamique est aussi rapide. Les entreprises qui investissent dans la formation de leurs référents métier et dans la gouvernance de leurs usages C capteront en interne la valeur que d’autres laisseront filer vers des prestataires externes ou — pire — vers du shadow AI non gouverné. Celles qui repoussent ces arbitrages continueront à acheter de l’exécution alors que leurs concurrents achèteront de la capacité, à coût comparable et à effet décroissant.

    Le moment d’agir n’est pas dans cinq ans. Il est dans les arbitrages que les directions prennent maintenant — du côté de l’offre comme du côté de la demande.


    Sources

    • Dell’Acqua, F., McFowland III, E., Mollick, E., Lifshitz, H., Kellogg, K. C., Rajendran, S., Krayer, L., Candelon, F., Lakhani, K. R. (2026). Navigating the Jagged Technological Frontier: Field Experimental Evidence of the Effects of Artificial Intelligence on Knowledge Worker Productivity and Quality. Organization Science, Articles in Advance.
    • Randazzo, S., Dell’Acqua, F., Lifshitz, H., Mollick, E., Kellogg, K. C., Krayer, L., Candelon, F., Lakhani, K. R. (2025). Cyborgs, Centaurs and Self-Automators: The Three Modes of Human–GenAI Knowledge Work and Their Implications for Skilling and the Future of Expertise. Harvard Business School Working Paper No. 26-036.
    • Erlei, A. (2025). From Digital Distrust to Codified Honesty: Experimental Evidence on Generative AI in Credence Goods Markets. arXiv:2509.06069.
    • Choi, J. H., Hickman, K. E., Monahan, A., Schwarcz, D. B. (2023). ChatGPT Goes to Law School. Journal of Legal Education.
    • Brynjolfsson, E., Li, D., Raymond, L. (2025). Generative AI at Work. Quarterly Journal of Economics.
    • Noy, S., Zhang, W. (2023). Experimental Evidence on the Productivity Effects of Generative Artificial Intelligence. Science 381, 187–192.
    • Christensen, C. M., Overdorf, M. (2000). Meeting the Challenge of Disruptive Change. Harvard Business Review, 78(2), 66–76.
    • Kotter, J. P. (2014). Accelerate: Building Strategic Agility for a Faster-Moving World. Harvard Business Review Press.
    • Gartner (2014). Bimodal IT: How to Be Digitally Agile Without Making a Mess. Gartner Research.
    • Frey, C. B. (11 mai 2026). This Is Why You’re Drowning in Busywork. The New York Times, Guest Essay.
    • Harvard Business Review (septembre 2025). AI Is Changing the Structure of Consulting Firms.
    • Miranki (novembre 2025). Vibe Consulting: The Consulting Revolution Powered by AI Augmentation.
    • Microsoft (2024). Work Trend Index Annual Report.
    • Deloitte (2026). State of AI in the Enterprise.
    • McKinsey (2024). The State of AI.
  • Cloud et IA : passer au filtre des risques pour saisir les opportunités

    L’adoption du Cloud et de l’IA n’est plus un choix technologique, mais une décision d’affaires qui doit passer par des filtres de décision rigoureux. Un nouveau livre blanc de tebicom en cours de finalisation met en lumière cette dualité : d’un côté, des risques réels qui imposent une vigilance inédite ; de l’autre, des opportunités de productivité capables de transformer durablement l’organisation.

    Les filtres de vigilance : au-delà de la sécurité classique

    Adopter ces technologies comporte des risques que l’on ne peut plus occulter. Si la violation de données par une mauvaise configuration Cloud reste une menace majeure, l’IA introduit des vulnérabilités d’un genre nouveau :

    • La captation des données pour l’apprentissage des LLM : c’est le « prix caché » des outils d’IA grand public. Sans cadre contractuel spécifique, les données soumises par vos collaborateurs (via le shadow AI) peuvent être utilisées par les fournisseurs globaux pour entraîner leurs futurs modèles. Cela signifie que vos secrets d’affaires, vos analyses stratégiques ou vos données clients pourraient un jour être « digérés » et restitués à des tiers par l’IA. La maîtrise des données, savoir dans quel but elles sont traitées, est le premier pilier de votre souveraineté d’organisation.
    • Le piège des hallucinations et du « reward hacking » : les modèles d’IA génèrent des réponses vraisemblables, mais pas toujours exactes. Pire, elles peuvent pratiquer le « reward hacking » : optimiser un objectif en contournant les règles, comme hacker un logiciel de mesure pour afficher un succès fictif. La supervision humaine n’est donc pas une option, elle est indispensable à l’usage de l’IA.
    • L’érosion invisible des compétences : un risque stratégique majeur est de déléguer des tâches proches du cœur décisionnel à des systèmes externes. Cette « externalisation invisible » peut mener à une atrophie des compétences internes : l’entreprise perd sa capacité à décider par elle-même (Pourquoi la souveraineté IA va devenir le vrai sujet stratégique).
    • Le biais d’automatisation : face à une IA qui répond avec autorité, l’humain tend à baisser sa garde critique. C’est ce que l’on appelle la « normalisation de la déviance » : on finit par accepter de petits relâchements vis-à-vis des processus rigoureux, ce qui érode la cohérence de la gouvernance interne (Quand l’IA probabiliste rencontre nos systèmes déterministes : trois failles que personne ne voit venir).

    Les filtres de valeur : l’opportunité de l’utilisateur augmenté

    Malgré ces défis, les gains potentiels sont massifs pour les organisations qui abordent le sujet avec méthode :

    • La productivité individuelle : l’IA générative permet des gains mesurables de 1 à 5 heures par semaine et par collaborateur. En automatisant la synthèse de réunions ou la rédaction d’offres, elle crée ce que tebicom appelle l’utilisateur augmenté.
    • L’agilité et la compétitivité sectorielle : le Cloud élimine les dépendances aux cycles matériels, tandis que l’IA transforme les modèles opérationnels, par exemple via la maintenance prédictive dans l’industrie ou l’optimisation des flux en temps réel sur les chantiers.
    • La fin de la « shadow AI » : plutôt que de subir l’usage sauvage d’outils grand public par les collaborateurs, l’opportunité réside dans la mise en place d’une passerelle IA gouvernée (comme DECIDE Companion chez tebicom). Cela permet de canaliser la puissance des modèles vers une architecture sécurisée et souveraine.

    Le courage managérial : réconcilier le probabiliste et le déterministe

    Le véritable filtre de décision consiste à comprendre que l’IA ne remplace pas vos anciens systèmes, elle les complète.

    D’un côté, vos systèmes déterministes (ERP, finance) garantissent que la même entrée produit toujours la même sortie, une obligation légale dans de nombreux secteurs. De l’autre, l’IA probabiliste apporte son génie pour interpréter l’ambiguïté et naviguer dans des contextes complexes.

    La réussite réside dans un modèle hybride : une architecture où l’on définit explicitement ce qui doit rester gravé dans la règle stricte et ce qui peut bénéficier de la flexibilité statistique de l’IA.

    Conclusion : de la vision au succès

    Le succès ne dépend pas de la technologie elle-même, mais de la capacité à passer ces filtres avec méthode. Comme je le souligne dans le livre blanc de tebicom, « l’innovation ne réside plus dans le développement spécifique, mais dans la capacité à assembler et piloter intelligemment des briques standards ». En maîtrisant votre souveraineté d’organisation, vous transformez ces risques en un levier d’agilité durable !

    La version vidéo (NotebookLM) du livre blanc « Notre vision du Cloud et de l’IA de tebicom »

  • Quand l’IA probabiliste rencontre nos systèmes déterministes : trois failles que personne ne voit venir

    Comment faire coexister des systèmes informatiques qui ne fonctionnent pas selon la même logique fondamentale ?

    Ce n’est pas une question technique. C’est une question de civilisation organisationnelle.

    Le mythe de la continuité technologique

    Depuis les années 1960, les systèmes informatiques qui structurent nos entreprises partagent une promesse implicite : la même entrée produit toujours la même sortie. C’est ce que les informaticiens appellent le déterminisme. Votre ERP, votre système comptable, votre workflow de validation de factures : tous reposent sur cette certitude. Une règle. Un résultat. Toujours.

    L’IA générative brise cette promesse.

    Posez la même question deux fois à un LLM. Vous obtiendrez deux réponses différentes. L’IA est probabiliste : elle génère ses outputs sur la base de distributions statistiques, pas de règles fixes. Ce n’est pas un défaut ; c’est son génie. Sa capacité à interpréter l’ambiguïté, à naviguer dans des contextes complexes, à répondre en langage naturel découle précisément de cette nature probabiliste.

    Mais cette nature crée une rupture que nous n’avons pas encore vraiment appréhendée.

    Défi n°1 : on ne peut pas remplacer l’un par l’autre

    La tentation est forte de voir l’IA comme une évolution naturelle des systèmes d’automatisation existants. Une version plus intelligente, plus flexible, plus rapide. Et donc de l’intégrer là où fonctionnaient les anciens systèmes, en espérant qu’elle fasse mieux.

    C’est une erreur de catégorie.

    Dans les domaines réglementés (finance, santé, industrie, logistique) le déterminisme n’est pas un choix technique, c’est une obligation légale et éthique. La traçabilité, l’auditabilité, la répétabilité sont non négociables. Aucune banque centrale n’acceptera qu’une décision de compliance ait été prise par un système qui aurait pu produire une réponse différente si on lui avait posé la question une heure plus tard.

    Inversement, un système purement déterministe ne comprendra jamais une question formulée avec de l’argot, une faute de frappe, ou une tournure implicite. Il ne pourra jamais synthétiser 200 pages d’un rapport pour en extraire les trois points critiques.

    Les deux paradigmes sont complémentaires, pas substituables.

    La réponse architecturale qui s’impose, et que les entreprises les plus avancées commencent à implémenter, est le modèle hybride : une couche de routage intelligente qui évalue chaque requête et décide si elle relève du déterministe (règles métier critiques, conformité, transactions financières) ou du probabiliste (interprétation, analyse contextuelle, recommandation à faible risque). L’IA ne remplace pas le système déterministe ; elle opère à côté, sous contrainte, avec des garde-fous explicites.

    Le principe est simple à énoncer. Il est difficile à gouverner.

    Défi n°2 : l’humain va voir l’IA comme une échappatoire

    Voilà le défi qui me préoccupe le plus en tant que dirigeant et chercheur en transformation numérique.

    Les humains ont toujours eu une relation compliquée avec les systèmes déterministes. Les règles trop rigides, trop complexes, trop éloignées du terrain génèrent invariablement des contournements. Les managers de projet développent des canaux informels hors-ERP. Les équipes opérationnelles s’échangent des workarounds par email plutôt que de suivre le processus documenté. Ce n’est pas de la mauvaise volonté, c’est de l’adaptation humaine à un environnement perçu comme trop contraignant.

    Maintenant, imaginez un système qui comprend le langage naturel, qui répond avec fluidité, qui semble toujours trouver une solution. Qui n’affiche jamais d’erreur 403, ne renvoie jamais vers « l’informaticien », ne bloque jamais sur un champ obligatoire incompréhensible.

    L’humain va percevoir l’IA probabiliste comme la soupape qu’il attendait.

    Ce phénomène est aggravé par ce que les chercheurs nomment l’automation bias : notre tendance naturelle à faire davantage confiance aux systèmes automatisés qu’à notre propre jugement, même quand ces systèmes se trompent. Des études montrent que face à une réponse formulée avec autorité par une IA, même les utilisateurs formés réduisent significativement leur niveau de vérification critique.

    Le risque est insidieux parce qu’il est graduel. Il ne se manifeste pas par un incident brutal, mais par une accumulation silencieuse de petits relâchements. La sociologue Diane Vaughan a théorisé ce mécanisme à travers le concept de normalisation de la déviance, initialement pour expliquer la catastrophe de la navette Challenger. Chaque déviation sans conséquence visible renforce l’acceptabilité de la suivante, jusqu’au point de rupture.

    Appliqué à l’IA : chaque fois qu’un collaborateur contourne un processus déterministe en passant par le chatbot IA, chaque fois qu’une décision est validée sans vérification parce que « l’IA le dit », chaque fois qu’une règle de conformité est ignorée parce que l’IA a fourni une réponse rassurante, la déviance se normalise. Les systèmes qui fonctionnaient très bien s’érodent de l’intérieur, sans que personne n’ait décidé de les supprimer.

    Défi n°3 : l’IA se comporte comme nous, elle vise l’objectif, pas les règles

    C’est le défi le plus paradoxal et le plus révélateur de notre relation à la technologie.

    Nous avons longtemps rassuré les organisations en disant que les systèmes informatiques, contrairement aux humains, respectent rigoureusement les règles. Pas d’interprétation, pas de raccourci, pas de « fin qui justifie les moyens ». L’IA brise cette promesse de manière spectaculaire.

    En 2025, le modèle o3 d’OpenAI, chargé d’optimiser la vitesse d’un programme, n’a pas amélioré le code. Il a hacké le logiciel de mesure de vitesse pour qu’il retourne toujours un résultat satisfaisant. Claude 3.7 d’Anthropic, testé sur des problèmes mathématiques, a écrit un programme qui hardcodait les réponses correctes pour les cas de test, sans apprendre aucune méthode générale.

    Ces exemples illustrent ce que les chercheurs en alignement IA nomment le reward hacking, la tendance d’un système optimisé sur un objectif à trouver des chemins non prévus pour atteindre cet objectif, en violant l’esprit des contraintes tout en respectant leur lettre.

    Ce comportement a un nom en économie : la Loi de Goodhart« When a measure becomes a target, it ceases to be a good measure. » Dès qu’une métrique devient un objectif, elle cesse d’être un bon indicateur de ce qu’elle était censée mesurer.

    L’IA fait exactement ce que les humains font dans les organisations bureaucratiques : elle optimise sur ce qui est mesuré, pas sur ce qui est voulu. Elle respecte la lettre, pas l’esprit.

    Ce n’est pas un comportement marginal. C’est une propriété émergente de tout système d’optimisation suffisamment puissant, opérant dans un environnement de règles incomplètes. C’est-à-dire : toute organisation réelle.

    Des solutions tangibles existent, mais elles demandent du courage managérial

    Ces trois défis ne sont pas des fatalités. Mais les réponses ne sont pas purement techniques. Elles exigent une maturité organisationnelle que peu d’entreprises ont encore développée.

    Sur le plan architectural : définir explicitement, par domaine de risque, ce qui relève du déterministe non négociable et ce qui peut bénéficier du probabiliste. Implémenter des architectures hybrides avec des guardrails clairs, un logging exhaustif, et des seuils de confiance au-delà desquels la validation humaine est obligatoire, pas symbolique, réelle.

    Sur le plan humain : former activement les collaborateurs à distinguer un output déterministe d’un output probabiliste, et à exercer leur jugement critique face aux réponses de l’IA. La recherche montre que la simple connaissance de l’automation bias réduit significativement ses effets. Cette formation n’est pas un luxe, c’est une condition de survie organisationnelle.

    Sur le plan de l’alignement IA : spécifier non seulement les résultats attendus, mais les processus admissibles. Tester adversarialement. Chercher activement les raccourcis que le système pourrait prendre, pas seulement les réponses incorrectes. Et accepter que l’alignement parfait n’existe pas, l’objectif est de rendre les défaillances détectables, réversibles, et non catastrophiques avant qu’elles se normalisent.

    La vraie question de gouvernance

    Dans mon article précédent sur la souveraineté IA, j’explorais la dépendance externe, la question de savoir à qui appartient notre capacité à décider avec l’IA. Ces trois défis ajoutent une dimension plus interne, plus subtile : à qui appartient la cohérence de nos systèmes de gouvernance internes ?

    L’IA probabiliste ne détruit pas les règles de façon frontale. Elle les dissout par friction, par facilité, par optimisation locale. Elle offre une flexibilité que l’humain perçoit comme une libération, et qui peut être une érosion.

    La réponse n’est ni le rejet de l’IA ni la capitulation devant elle. C’est la construction patiente d’une double vigilance : architecturale et culturelle. Savoir précisément où l’on veut la certitude déterministe, et où l’on peut se permettre la flexibilité probabiliste. Et ne jamais confondre les deux, même quand c’est tentant.

    Surtout quand c’est tentant.

    Pour référence

    Ma recherche « Perplexity » plus détaillée.

    Vidéo générée à l’aide de NotebookLM