Vadémécum de l’IA générative de texte en entreprise

SoC
Il y quelques temps déjà, j'ai rédigé un article pour le site Miroir Social pour attirer l'attention des rperésentants du personnel sur les enjeux du déploiement de l'IA générative de texte dans les entreprises.
Cet article débute par un bref vadémécum que je reproduis ici.
Vadémécum de l'IA générative en entreprise
Sur une page, à la date d'aujourd'hui, l'essentiel qu'il faut avoir à l'esprit quand l'IA générative de texte est déployée dans une entreprise.
Continuer la lecture de "Vadémécum de l’IA générative de texte en entreprise" →
Vadémécum de l’IA générative de texte en entreprise

IA générative : Réinventer la roue, encore une fois ?

SoC
Du point de vue d'un développeur, il semble que nombre des nouvelles technologies qui fleurissent avec l'IA générative ressemblent à d'autres passées.
Cela conduit à se poser quelques questions :
  • Sommes-nous en train de réinventer la roue ?
  • Que reste-t-il à réinventer ?
  • Qu'est-ce qu'il sera impossible de réinventer ?
  • Pourquoi tout ce qu'il est possible de réinventer n'a pas encore été réinventé ?
  • L'IA générative peut-elle aider à accélérer le mouvement ?
Or comme justement relevé par Art of the Problem :
In a world where the cost of answers is dropping to zero, the value of the question becomes everything.
En conséquence, sous réserve de contrôle des hallucinations - mais l'on voulait qu'il soit créatif -, une intéressante conversation (en anglais) avec Claude...
IA générative : réinventer la roue, encore une fois ?
Continuer la lecture de "IA générative : Réinventer la roue, encore une fois ?" →
IA générative : Réinventer la roue, encore une fois ?

Le vibe codeur malgré lui

SoC,
En avril 2023, je décrivai dans un article publié sur ce blog puis dans Programmez! mon aventure avec ChatGPT. Nous en étions alors à la version 3.5 du LLM sous-jacent GPT, la version 4 étant sortie quelques semaines plus tôt, en pleine rédaction de l'article - trop tard pour s'y remettre.
Le constat était décevant, car j'identifiai huit problèmes... :
  • lorsqu'il génère du code, ChatGPT risque de s'interrompre sans possibilité de reprise ;
  • ChatGPT peut générer des codes différents en réponse à une même demande ;
  • ChatGPT peut générer un code qui ne répond pas aux besoins ;
  • par défaut, ChatGPT utilise des espaces et non des tabulations pour indenter le code ;
  • ChatGPT peut générer un code qui n'est pas efficient ;
  • ChatGPT peut générer du code inutile ;
  • ChatGPT peut générer du code qui semble répondre aux besoins, mais qui n'y répond pas ;
  • ChatGPT peut générer du code qui répond à des besoins qui n'ont pas été formulés.
...mais j'en concluai que "tel le client de Palace que j'évoquais, il ne faut jamais désespérer : quelqu'un, un jour, nous livrera bien une AI qui, en matière de code, génèrera autre chose que de la soupe à la moumoute".
Des millions d'années plus tard à l'échelle temporelle des progrès de l'IA générative, c'est peu dire que ce voeu a été exaucé...
L'art du méta-prompting récursif
Continuer la lecture de "Le vibe codeur malgré lui" →
Le vibe codeur malgré lui

SoG : Les applets

SoC
SoG (Stash of Games) est un projet personnel de plate-forme Web de jeux multijoueurs en cours de développement, composée d'un serveur HTTP général pour exposer un portail et une administration, ainsi que de serveurs WebSocket spécifiques aux jeux.
Stash of Games (SoG)
La particularité de ce projet à base de HTML, CSS, JavasScript et diverses API du navigateur (WebGPU, Fetch, etc.) est d'être écrit entièrement à la main. Quand on dit "à la main", c'est vraiment chaque caractère tapé l'un après l'autre : les seuls outils utilisés sont Notepad++, sans autre assistance que la coloration syntaxique (autrement dit, même pas de complétion automatique), et le débogueur de Firefox. Il va sans dire qu'aucun framework n'est utilisé. En fait, il n'est même pas question d'utiliser le sugar coating de JavaScript que constituent les class (quelle horreur, réservée à ceux qui n'ont vraiment rien compris au langage !) et autres async. On est vraiment brut de fonderie.
Dans l'attente de la distribution d'une première version, le code de différentes applets sera publié sur ce site.
Les applets s'appuient sur une architecture qui sera documentée ultérieurement.
On commence par une liste 1D ou 2D d'éléments HTML quelconques, qui reprend toutes les fonctionnalités d'une liste d'Explorer, à savoir la sélection et la multisélection d'options à la souris ou au clavier, à l'appui de l'utilisation des touches Space, Ctrl et Shift, auxquelles on ajoute Alt pour permettre la sélection des options qui occupent une région rectangulaire, et aussi... le drag'n'drop des options sélectionnées.
Mise à jour du 03/01/2026 : List (v10).
Continuer la lecture de "SoG : Les applets" →
SoG : Les applets

Voyager, l’agent IA qui joue à Minecraft (4/4)

SoC,
En mai 2023, une équipe de chercheurs a publié un papier pour présenter Voyager, un agent qui s'appuie notamment sur un LLM pour jouer en totale autonomie à Minecraft. A l'époque marginale, cette approche qui consiste à exploiter le potentiel de l'IA générative en faisant d'un modèle une brique parmi d'autres d'un système est désormais devenue centrale.
Voyager, l'agent IA qui joue à Minecraft
Quelque part dans Minecraft, l'aventure continue...
Dans ces conditions, la relecture attentive du papier et du code mis à disposition à l'époque permet de comprendre comment s'y prendre pour ne pas être dépassé par les développements d'une ingénierie très particulière, visiblement promise à un bel avenir depuis que la croissance des scaling laws semble ralentir, et qu'en conséquence l'industrie cherche à cueillir les low-hanging fruits autrement que par le prompt engineering.
C'est le quatrième et dernier article d'une série. Dans le premier article, Voyager a été présenté dans son principe, de même que les technologies sur lesquelles il s'appuie, et la lecture du code a commencé pour étudier la manière dont Voyager collecte des informations sur l'environnement dans lequel il contrôle le bot - le personnage dans Minecraft. Dans le second article, il a été question de la manière dont Voyager utilise un LLM pour générer la prochaine tâche à faire accomplir par le bot. Enfin, dans le troisième article, c'est la manière dont Voyager utilise un LLM pour générer le code JavasScript qui permet d'essayer de faire accomplir la tâche en question par le bot, puis d'évaluer l'accomplissement de la tâche, et enfin de capitaliser les compétences acquises à cette occasion qui a été étudiée. Désormais que la mécanique d'un agent apparaît clairement, il est possible de prendre de la hauteur pour contempler l'industrie de la production d'agents, laquelle est en pleine expansion.
NB : Ce billet a été rédigé début décembre par un humain et non une boîte de conserve, et sera publié dans un prochain numéro de Programmez!.
Continuer la lecture de "Voyager, l’agent IA qui joue à Minecraft (4/4)" →
Voyager, l’agent IA qui joue à Minecraft (4/4)

Voyager, l’agent IA qui joue à Minecraft (3/4)

SoC,
En mai 2023, une équipe de chercheurs a publié un papier pour présenter Voyager, un agent qui s'appuie notamment sur un LLM pour jouer en totale autonomie à Minecraft. A l'époque marginale, cette approche qui consiste à exploiter le potentiel de l'IA générative en faisant d'un modèle une brique parmi d'autres d'un système est désormais devenue centrale.
Voyager, l'agent IA qui joue à Minecraft
Quelque part dans Minecraft, l'aventure continue...
Dans ces conditions, la relecture attentive du papier et du code mis à disposition à l'époque permet de comprendre comment s'y prendre pour ne pas être dépassé par les développements d'une ingénierie très particulière, visiblement promise à un bel avenir depuis que la croissance des scaling laws semble ralentir, et qu'en conséquence l'industrie cherche à cueillir les low-hanging fruits autrement que par le prompt engineering.
C'est le troisième article d'une série. Dans le premier article, Voyager a été présenté dans son principe, de même que les technologies sur lesquelles il s'appuie, et la lecture du code a commencé pour étudier la manière dont Voyager collecte des informations sur l'environnement dans lequel il contrôle le bot – le personnage dans Minecraft. Dans le second article, il a été question de la manière dont Voyager utilise un LLM pour générer la prochaine tâche à faire accomplir par le bot. Désormais, il est possible d'étudier comment cet agent utilise un LLM pour générer le code JavaScript qui permet d'essayer de faire accomplir cette tâche par le bot, puis d'évaluer l'accomplissement de la tâche, et enfin capitaliser les compétences acquises à cette occasion.
NB : Ce billet a été rédigé début décembre par un humain et non une boîte de conserve, et publié dans le n° 268 de Programmez!.
Continuer la lecture de "Voyager, l’agent IA qui joue à Minecraft (3/4)" →
Voyager, l’agent IA qui joue à Minecraft (3/4)

Voyager, l’agent IA qui joue à Minecraft (2/4)

SoC,
En mai 2023, une équipe de chercheurs a publié un papier pour présenter Voyager, un agent qui s'appuie notamment sur un LLM pour jouer en totale autonomie à Minecraft. A l'époque marginale, cette approche qui consiste à exploiter le potentiel de l'IA générative en faisant d'un modèle une brique parmi d'autres d'un système est désormais devenue centrale.
Voyager, l'agent IA qui joue à Minecraft
Quelque part dans Minecraft, l'aventure continue...
Dans ces conditions, la relecture attentive du papier et du code mis à disposition à l'époque permet de comprendre comment s'y prendre pour ne pas être dépassé par les développements d'une ingénierie très particulière, visiblement promise à un bel avenir depuis que la croissance des scaling laws semble ralentir, et qu'en conséquence l'industrie cherche à cueillir les low-hanging fruits autrement que par le prompt engineering.
C'est le deuxième article d'une série. Dans le premier article, Voyager a été présenté dans son principe, de même que les technologies sur lesquelles il s'appuie, et la lecture du code a commencé pour étudier la manière dont Voyager collecte des informations sur l'environnement dans lequel il contrôle le bot – le personnage dans Minecraft. Désormais, il est possible d'étudier la manière dont Voyager utilise un LLM pour générer la prochaine tâche à faire accomplir par le bot.
NB : Ce billet a été rédigé début décembre par un humain et non une boîte de conserve, et publié dans le n° 267 Programmez!.
Continuer la lecture de "Voyager, l’agent IA qui joue à Minecraft (2/4)" →
Voyager, l’agent IA qui joue à Minecraft (2/4)

Voyager, l’agent IA qui joue à Minecraft (1/4)

SoC,
En mai 2023, une équipe de chercheurs a publié un papier pour présenter Voyager, un agent qui s'appuie notamment sur un LLM pour jouer à Minecraft de manière autonome. A l'époque marginale, cette approche qui consiste à exploiter le potentiel de l'IA générative en faisant d'un modèle une brique parmi d'autres d'un système est désormais devenue centrale.
Voyager, l'agent IA qui joue à Minecraft
Quelque part dans Minecraft, l'aventure continue...
Dans ces conditions, la relecture attentive du papier et du code mis à disposition à l'époque permet de comprendre comment s'y prendre pour ne pas être dépassé par les développements d'une ingénierie très particulière, visiblement promise à un bel avenir depuis que la croissance des scaling laws semble ralentir, et qu'en conséquence l'industrie cherche à cueillir les low-hanging fruits autrement que par le prompt engineering.
C'est le premier article d'une série. Après avoir présenté Voyager dans son principe, et les technologies sur lesquelles il s'appuie, la lecture du code commence avec une partie assez aride mais nécessaire, à savoir la manière dont Voyager collecte des informations sur l'environnement dans lequel il contrôle le bot – le personnage dans Minecraft.
NB : Ce billet a été rédigé début décembre par un humain et non une boîte de conserve, et publié dans le HS n° 17 de Programmez! consacré à l'IA.
Continuer la lecture de "Voyager, l’agent IA qui joue à Minecraft (1/4)" →
Voyager, l’agent IA qui joue à Minecraft (1/4)

Utiliser le display « grid » de CSS

SoC,
Comme chacun sait, le mode d'affichage d'un élément HTML se contrôle via la propriété CSS display.
Utiliser le display grid en CSS
Depuis fort longtemps déjà, ce mode peut être une des deux variantes définie dans la spécification du module Grid de CSS : grid ou inline-grid. Cela a permis d'éradiquer les <table>, <tr> et autres <td>.
A l'occasion du retour sur le développement d'une application Web laissée en chantier depuis bien trop longtemps, l'auteur de ces lignes a mis en ordre des notes sur l'utilisation de ce mode d'affichage. Dès lors, pourquoi ne pas en faire profiter tout le monde ?
Continuer la lecture de "Utiliser le display « grid » de CSS" →
Utiliser le display « grid » de CSS

La sécurité de l’IA générative à base de LLM

SoC, ,
Dans un précédent article, il avait été question d'attaques sur un agent à base de LLM, typiquement un chat. En effet, un tel agent interprète le prompt non seulement comme un texte à compléter, mais aussi comme une liste d'instructions à suivre, ce qui fait de ce texte un vecteur d'attaque d'autant plus intéressant à exploiter que personne aujourd'hui ne peut dire comment fonctionne un LLM, si bien qu'il est impossible d'en sécuriser l'usage.
La sécurité des systèmes d'IA générative à base de LLM
Dans ces conditions, la prolifération des agents constitue un enjeu considérable du point de vue de la sécurité informatique, et c'est sans surprise que les agences telles que l'ANSSI ont entrepris de sensibiliser les organisations à ce sujet.
Toutefois, il n'y a pas que les risques techniques dont il est nécessaire de tenir compte. En effet, les risques juridiques ne sont pas moindres, tout particulièrement ceux qui ressortissent au traitement des données à caractère personnel.
NB : Ce billet a été rédigé mi-août par un humain et non une boîte de conserve, et publié dans une version réduite dans le HS n° 16 de Programmez! d'octobre 2024 consacré à la sécurité informatique, et en version intégrale dans le n° 266 de Programmez! de novembre 2024.
Continuer la lecture de "La sécurité de l’IA générative à base de LLM" →
La sécurité de l’IA générative à base de LLM