Alors que la torpeur semblait gagner tout le monde, il n'aura échappé à personne que le petit monde de l'IA a été secoué par une série d'événements.

OpenAI - Hugging Face, un petit hack entre amis ?

Rapportées par OpenAI, Anthropic, Meta et l'AISI, si l'on n'oublie personne – du moins, parmi ceux qui ont bien daigné reconnaître leurs fautes – et pudiquement qualifiées d'"incidents", il s'agit bien évidemment des attaques de systèmes d'information de tiers conduites en bandes organisées par des agents basés sur de puissants modèles d'IA lors d'expérimentations qui visaient à éprouver les capacités de ces derniers, lesquelles expérimentations sont parties en sucette parce que Homer Simpson regardait ailleurs.

Oops!

Il n'est pas question de revenir ici sur le détail technique de ce qui s'est passé. Non pas que l'on dispose de toutes les informations pour le savoir exactement – c'est justement un problème sur lequel l'on reviendra – ni que celles dont l'on dispose n'apportent rien – la lecture des rapports est édifiante, surtout si l'on se fait assister par Claude ou autre pour bien comprendre tel ou tel exploit –, mais que ce n'est pas l'objet. Ici, il s'agit de prendre un peu de recul pour apprécier, sans s'éterniser, la gravité de la situation.

Le problème, c'est que le problème est un problème de fond. Quand une expérimentation part en sucette, que cela n'est détecté que des semaines sinon des mois plus tard, et que l'on constate des effets à vaste échelle – dont certains sont d'ailleurs encore à ce jour découverts –, et qu'ils sont de telle ampleur – l'on peut presque dire que Hugging Face s'est fait pwned – il faut s'inquiéter de la manière dont l'expérimentation a été conduite au regard des risques auxquels elle exposait.

Les leçons tirées par les uns et les autres dans qui un rapport, qui dans une analyse, pointent qu'avant toute chose, la persistance d'un agent dans l'effort qu'il déploie pour résoudre le problème qui lui est soumis est à questionner. C'est le fruit de la manière dont le modèle sous-jacent est entraîné, ce qui doit s'entendre non seulement comme la technique, mais aussi comme la manière dont cette dernière est mise en œuvre.

Pour ce qui concerne la technique, elle consiste à récompenser le modèle s'il atteint l'objectif, si bien qu'il se croit astreint à une obligation de résultat plutôt qu'à une obligation de moyens (*). Pour ce qui concerne sa mise en œuvre, il s'avère que c'est une tâche si considérable qu'elle est en grande partie abandonnée à... l'IA.

Tout cela conduit à se demander s'il ne faudrait pas s'y prendre autrement. Toutefois, est-ce seulement possible, au regard du cadre dans lequel la technologie est élaborée, et au-delà de la nature même de la technologie ?

Sur le premier point, dans les jours qui ont suivi la révélation du principal "incident" - l'attaque du système d'information de Hugging Face par des agents d'OpenAI - OpenAI a décrété avoir levé le pied pour prendre des mesures de sécurisation. Reste que cela n'engageait que l'industriel, dans un contexte où tous se tirent la bourre pour sortir au plus vite le meilleur modèle. En mars 2023, l'on a vu de quoi il en retourne quand les industriels prétendent s'associer pour le bien de tous. Comme l'avait pointé Elon Musk lors d'une interview, quelque temps après la publication de la lettre ouverte qui invitait à la pause générale... :

I knew it would be futile. Call it like... It's one of those things "well for the record I recommended that we pause". Did I think there would be a pause? Absolutely not!"

...avant d'éclater de rire.

D'ailleurs, dans la foulée ou presque des "incidents", l'industrie élargie au-delà des seuls éditeurs de modèles a publié une lettre ouverte pour nous inviter à prendre nous-mêmes les mesures pour nous protéger contre les conséquences malheureuses du recours à la technologie qu'elle nous vend... en mobilisant cette technologie de préférence – "put cyber-capable AI in the hands of defenders", qu'ils nous disent.

Sur le second point, il faut bien considérer que la technologie repose sur des choix techniques qu'il est devenu difficile de remettre en cause – l'équivalent de la dépendance au sentier, selon l'expression consacrée en sociologie. Certains l'ont très clairement pointé assez tôt, notamment François Chollet dans son best-seller Deep Learning with Python. Il y évoque combien le recours aux couches logicielles et matérielles de NVIDIA complique désormais l'apparition d'alternatives :

You could say that modern deep learning is the product of a co-evolution process between hardware, software, and algorithms: the availability of NVIDIA GPUs and CUDA led to the early success of backpropagation-trained ConvNets, which led NVIDIA to optimize its hardware and software for these algorithms, which in turn led to consolidation of the research community behind these methods. At this point, figuring out a different path would require a multiyear reengineering of the entire ecosystem.

L'on mesure qu'il devient toujours plus difficile de penser out-of-the-box, à moins de s'appeler Yann LeCun et d'avoir la réputation requise pour mobiliser les moyens qui autorisent à s'autoriser, sans chercher à ménager la susceptibilité des industriels, qui plus est.

Pour en revenir à la technique d'entraînement dont il est question, la question est donc de savoir si elle n'est pas à ce point requise pour produire des modèles qu'elle puisse être véritablement remise en cause. Ce n'est pas seulement que c'est une technique qui a fait ses preuves par le passé, c'est que c'est une technique dont la mise en œuvre est, comme on l'a pointé, désormais industrialisée.

Comme la liste des documents lus, des vidéos regardées et des podcasts écoutés pour rédiger ces lignes veut en témoigner, en dépit de toute la bonne volonté du monde pour ne pas verser dans le complotisme, il devient toujours plus difficile d'échapper à l'impression d'être confrontés à une coalition d'industriels qui cherchent à nous prendre pour des cons.

Pour aller au fond des choses, à défaut d'une régulation dont l'administration Trump s'empêtre à se dépêtrer, l'on aurait aimé un bon discovery – cette phase d'un contentieux lors de laquelle une partie peut exiger de l'autre de lui fournir toutes les preuves. Après tout, quelle entreprise se montrerait aussi tolérante que Hugging Face si un hacker la pénétrait aussi profondément que ce qui a été décrit ?

Bah ! c'était sans doute rêver que Hugging Face porterait plainte contre OpenAI, si grand pourvoyeur d'affaires pour NVIDIA que cette dernière vient de lui garantir 105 milliards de dollars pour accéder au datacenter construit par SoftBank à base de technologies NVIDIA, à la veille du rachat de Hugging Face par NVIDIA pour 13 milliards de dollars ou presque, et dans la perspective d'une IPO d'OpenAI. Qui fait preuve d'un minimum d'empathie comprendra qu'objectivement, ce petit monde avait tout intérêt à traiter l'"incident" comme une bonne blague entre potes.

Somme toute, l'on ne sort toujours pas de la logique de l'expérimentation dans laquelle les industriels de l'IA nous ont enrôlés de force depuis le début. Ce n'est pas un point de vue, c'est une réalité, comme ne manquait pas de l'assumer sans ambiguïté Sam Altman, interrogé par Lex Fridman aux lendemains de la sortie de GPT-4, alors que constatant les premiers effets indésirables de cette manière de s'y prendre, certains commençaient à froncer les sourcils :

We are building in public and we are putting out technology because we think it is important for the world to get access to this early to shape the way it's going to be developed, to help us find the good things and the bad things, and every time we put out a new model, and we've just really felt this with GPT-4 this week, the collective intelligence and ability of the outside world helps us discover things that we cannot imagine, we could never have done internally. And both, like, great things that the model can do, new capabilities and real weaknesses we have to fix.

Environnement, sécurité informatique, coût financier, conformité, emploi... la liste à rallonge des domaines dans lesquels qui veut déployer l'IA doit tenir compte des conséquences pour ne pas engager sa responsabilité hasardeusement démontre que la technologie est porteuse de bien des coûts cachés – c'est que pour traiter de tout ça, il faut s'équiper en outils et en compétences. Le problème, c'est que ceux qui fournissent la technologie s'en lavent les mains ou presque. Des mauvaises surprises en perspective pour leurs clients, et plus généralement pour toutes les parties prenantes...

Cette situation n'est pas sans risques, le premier étant que l'on cesse de s'en étonner.

(*) Merci, Isa.