Il y a quelques temps déjà, j'ai rédigé un article pour le site Miroir Social pour attirer l'attention des représentants du personnel sur les enjeux du déploiement de l'IA générative de texte dans les entreprises.
Cet article débute par un bref vadémécum que je reproduis ici, en le complétant d'une énumération plus générale des enjeux du déploiement de l'IA générative pour l'entreprise.
Vadémécum de l'IA générative en entreprise (en août 2026)
Sur une page, à la date d'aujourd'hui, l'essentiel qu'il faut avoir à l'esprit quand l'IA générative de texte est déployée dans une entreprise.
L'IA générative est une technologie expérimentale qui prend la forme de modèles (dits LLMs, pour "Large Language Models") qui ne cessent d'évoluer, et dont le fonctionnement reste encore mystérieux même pour les éditeurs qui les conçoivent ("boite noire").
Les éditeurs de modèles ont consciemment précipité les utilisateurs dans leur expérimentation, externalisant de facto sur eux la charge de trouver des usages fiables à la technologie. Ce comportement peut être reproduit par des utilisateurs, notamment les entreprises en direction de toutes leurs autres parties prenantes, notamment leurs salariés et leurs clients.
Cette technologie est inédite, car quand bien même il s'agit d'une technologie informatique, elle n'est comparable à aucune autre technologie informatique qui l'a précédée.
En effet, s'ils peuvent être fascinants et utiles, les résultats produits par l'IA générative sont toujours inattendus et incertains.
Il en résulte que l'utilisateur doit systématiquement fournir un travail qu'il n'avait jusqu'alors pas à fournir :
- il doit expérimenter pour découvrir ce dont l'outil est a priori capable et incapable, ce qui dépend de tout un contexte que l'utilisateur ne maîtrise que partiellement, dont ce qui est demandé à l'outil (le prompt) ainsi que les données et outils auxquels ce dernier peut accéder ;
- quand il détermine un usage possible, il n'en doit pas moins contrôler le résultat produit ;
- quand ce résultat n'est pas correct, il doit le corriger sans certitude qu'à l'avenir, l'erreur ne se reproduira pas ;
- quand il dispose d'un résultat correct, il doit déterminer si utiliser l'outil en vaut finalement la peine, sans certitude que le contexte évoqué se retrouvera, ni que l'outil se comportera pareillement dans ce dernier.
A ce jour, il n'existe aucun moyen technique pour exempter l'utilisateur de ce travail, et quand il est possible d'en concevoir pour le soulager d'une partie de ce travail, ces moyens ont toutes les chances d'être complexes, donc coûteux, si bien que leur existence ne peut être présumée.
Par ailleurs :
- s'agissant d'interaction avec un modèle via un chat, la question que l'on pose (le prompt utilisateur), n'est jamais celle qui est réellement posée : elle est toujours précédée d'instructions données au modèle pour cadrer la réponse (le prompt système) ;
- s'agissant de l'entraînement d'un modèle sur des données, il n'existe aucun moyen réellement praticable pour supprimer du modèle une donnée sur laquelle il a été entraîné, à moins de réitérer l'entraînement en omettant cette dernière.
La technologie n'est pas un produit. Y recourir expose l'utilisateur à des risques spécifiques, le premier étant que tout ce qui vient d'être dit cesse de l'étonner.
Les enjeux de l'IA générative pour l'entreprise
Sur la base de l'étude de plusieurs politiques de déploiement de l'IA générative en entreprise, une brève énumération des enjeux qu'elle doi traiter :
- La productivité. Selon l'activité, les gains peuvent être très difficiles à évaluer, du fait qu'ils peuvent être très spécifiques, pas toujours reproductibles, et que par ailleurs ils peuvent être immédiatement réinvestis : plus d'un salarié expliquera que le recours à l'IA générative lui permet de gagner du temps sur telle tâche sous telles conditions, et qu'il en profite déjà pour consacrer ce temps gagné à telle autre, quand il n'évoque pas plus généralement "faire de la qualité" - ce qui est encore plus difficilement objectivable. Dans ces conditions, identifier les gains est un défi, et a fortiori les agréger pour en déduire des économies à réaliser à l'échelle de l'entreprise.
- L'impact sur l’environnement. Les effets supposés ou réels sur l'environnement du recours à l'IA générative suscitent des préoccupations, voire des réactions franchement hostiles, y compris au sein de l'entreprise. De toute manière, sans même tenir compte ce problème d'image, l'entreprise doit se conformer à des obligations pour évaluer l'impact sur l'environnement de son recours à la technologie. Ici encore, c'est un défi, car les dispositifs techniques requis pour cela sont quasi-inexistants, et les données de référence, quand elles sont disponibles, sont toujours très relatives, ne serait-ce qu'en raison de la rapidité avec laquelle la technologie évolue.
- Le coût. Le passage à une facturation à l'usage de Github Copilot a d'autant plus sucité de réactions que l'heure était à la célébration du tokenmaxxing. Vue comme la fin du subventionnement du recours à l'IA générative, cette initiative doit avant tout être vue comme le début de la révélation des coûts cachés que le recours à l'IA générative génère pour l'entreprise - une première étape dans le processus de sortie de l'expérimentation dans laquelle elle avait été de force enrôlée. Car au-delà du seul coût d'usage à la technologie, il faut compter avec les coûts des chantiers à conduire pour équiper cet usage, loin d'être négligeable comme en témoigne la présente liste des enjeux à traiter...
- La sécurité informatique. Comme détaillé à plusieurs reprises sur ce site, le recours à l'IA générative expose à des risques spécifiques en matière de sécurité informatique. Avant d'être des risques encourus de l'extérieur - au sens du hacker assisté d'IA générative, quand ce n'est pas l'IA générative agissant de manière autonome -, ce sont des risques qui le sont de l'intérieur, du fait que la technologie comporte des failles structurelles. En particulier, la frontière entre les données et les instructions est particulièrement poreuse, ce qui expose au risque d'attaques d'autant plus redoutables qu'elle peuvent permettre d'empoisonner des données, et faire ainsi sentir leurs effets à retard.
- La souveraineté. Du fait de la division internationale du travail dans la production et la mise à disposition de la technologie, la souveraineté ne peut jamais être qu'une notion relative. Ce n'est pas pour autant que l'entreprise ne doit pas la rechercher, d'autant plus qu'elle peut y être contrainte par une régulation externe.
- La conformité externe et interne.
- La qualité de service.
- L'alignement stratégique.
- Les conditions du travail.
Comme il est possible de le constater, les enjeux sont nombreux, et ils peuvent se recouvrir. Par exemple, s'attaquer à la sécurité informatique implique des chantiers motivés par la nécessité de se mettre en conformité, notamment pour assurer la souveraineté, qui peuvent déboucher sur la mise en oeuvre de dispositifs contraignants au sens où ils impactent les processus, et en conséquence la productivité et les conditions de travail, tout cela pour un coût non négligeable, au risque de faire dérailler la stratégie.
Dans ces conditions, ce que l'entreprise doit faire, ce n'est pas chercher à formuler des évaluations spéculatives sur des gains de productivité, un impact sur l'environnement, etc. Ce qui est attendu d'elle, c'est qu'elle se mette en mesure d'y parvenir dans le cadre d'une approche concertée avec les acteurs spécialisés. Et quand elle détermine qu'elle ne peut produire d'indicateurs fiables, qu'elle le reconnaisse et définisse le plan d'action qu'elle doit suivre pour y parvenir plutôt que de procéder à une évaluation au doigt (très) mouillé.
Somme toute, ce qui est attendu de l'entreprise, c'est de se mettre en capacité d'évaluer son niveau de maturité, sur le modèle de ce qui a pu être proposé récemment par le SANS Institute en matière de sécurité informatique. Cela pour chacun des enjeux.