Il y quelques temps déjà, j'ai rédigé un article pour le site Miroir Social pour attirer l'attention des rperésentants du personnel sur les enjeux du déploiement de l'IA générative de texte dans les entreprises.
Cet article débute par un bref vadémécum que je reproduis ici.
Sur une page, à la date d'aujourd'hui, l'essentiel qu'il faut avoir à l'esprit quand l'IA générative de texte est déployée dans une entreprise.
Vadémécum de l'IA générative de texte en entreprise (en août 2026)
L'IA générative est une technologie expérimentale qui prend la forme de modèles (dits LLMs, pour "Large Language Models") qui ne cessent d'évoluer, et dont le fonctionnement reste encore mystérieux même pour les éditeurs qui les conçoivent ("boite noire").
Les éditeurs de modèles ont consciemment précipité les utilisateurs dans leur expérimentation, externalisant de facto sur eux la charge de trouver des usages fiables à la technologie. Ce comportement peut être reproduit par des utilisateurs, notamment les entreprises en direction de toutes leurs autres parties prenantes, notamment leurs salariés et leurs clients.
Cette technologie est inédite, car quand bien même il s'agit d'une technologie informatique, elle n'est comparable à aucune autre technologie informatique qui l'a précédée.
En effet, s'ils peuvent être fascinants et utiles, les résultats produits par l'IA générative sont toujours inattendus et incertains.
Il en résulte que l'utilisateur doit systématiquement fournir un travail qu'il n'avait jusqu'alors pas à fournir :
- il doit expérimenter pour découvrir ce dont l'outil est a priori capable et incapable, ce qui dépend de tout un contexte que l'utilisateur ne maîtrise que partiellement, dont ce qui est demandé à l'outil (le prompt) ainsi que les données et outils auxquels ce dernier peut accéder ;
- quand il détermine un usage possible, il n'en doit pas moins contrôler le résultat produit ;
- quand ce résultat n'est pas correct, il doit le corriger sans certitude qu'à l'avenir, l'erreur ne se reproduira pas ;
- quand il dispose d'un résultat correct, il doit déterminer si utiliser l'outil en vaut finalement la peine, sans certitude que le contexte évoqué se retrouvera, ni que l'outil se comportera pareillement dans ce dernier.
A ce jour, il n'existe aucun moyen technique pour exempter l'utilisateur de ce travail, et quand il est possible d'en concevoir pour le soulager d'une partie de ce travail, ces moyens ont toutes les chances d'être complexes, donc coûteux, si bien que leur existence ne peut être présumée.
Par ailleurs :
- s'agissant d'interaction avec un modèle via un chat, la question que l'on pose (le prompt utilisateur), n'est jamais celle qui est réellement posée : elle est toujours précédée d'instructions données au modèle pour cadrer la réponse (le prompt système) ;
- s'agissant de l'entraînement d'un modèle sur des données, il n'existe aucun moyen réellement praticable pour supprimer du modèle une donnée sur laquelle il a été entraîné, à moins de réitérer l'entraînement en omettant cette dernière.
La technologie n'est pas un produit. Y recourir expose l'utilisateur à des risques spécifiques, le premier étant que tout ce qui vient d'être dit cesse de l'étonner.
Plus généralement, les enjeux pour l'entreprise...
