L’agent Smith entre dans la danse

On entend de plus en plus de plaintes de contributions bancales à des solutions open-source, et ça donne des contributeurs à la fois submergés et découragés. Mais au début c’était surtout des gens qui utilisaient les LLM en croyant bien faire, et en voulant apporter leur pierre de cette manière au développement ou débogage d’un logiciel. J’imagine que petit à petit, on devrait pouvoir expliquer que ce n’est pas l’idée du siècle (mais si l’usage de l’IA Générative n’est pas complètement inutile, mais loin d’avoir les vertus que les laudateurs de l’IA essaient de markéter depuis quelques années) à des vrais gens.

Mais alors là, c’est le pompon car avec l’émergence de l’agentique, ce ne sont même plus des « gens » à la manœuvre. L’agentique depuis quelques mois c’est le nouveau truc qui affole tout le monde. En gros, au lieu d’utiliser un gros chatGPT à qui on parle pour qu’il fasse « tout », on préfère spécialiser des « agents » basé sur des LLM (et donc de l’IA générative) mais aussi avec des fonctionnalités ou des autorisations spécifiques. Donc vous pouvez avoir un agent « orchestrateur » à qui vous confiez une mission complexe. Cet agent principal va pouvoir faire appel à d’autres agents subordonnés en découpant la demande en sous-tâches qui peuvent être exécutées séparément. Et ces agents subalternes peuvent avoir des spécialités sur le fond (marketing, RH, technique), mais aussi sur la forme car ils peuvent effectuer des opérations techniques, ils peuvent par exemple envoyer des emails, surfer sur internet, effectuer des virements bancaires etc. C’est à vous de les définir et de leur donner une « personnalité ».

La promesse c’est évidemment de nous remplacer, vous et moi.

Un journaliste américain s’est récemment essayé à créer une entreprise tout seul en utilisant ces technologies. J’ai écouté son podcast en toute fin d’année dernière, et c’était à la fois effrayant et très drôle de voir ces entités brasser de l’air avec un style américain très convaincant. Donc vraiment, pour le moment, le truc n’est absolument pas fonctionnel, car ces IA générative ne créent vraiment rien de potable, elles permettent tout juste de mettre des trucs en forme, et globalement si elles n’ont pas été entraînées sur le sujet, c’est inutile voire absolument contre-productif (or on ne s’en rend pas compte, car la forme reste vraiment crédible, c’est là tout le piège).

Mais évidemment, comme pour tout le reste, ces technologies continuent de se renforcer et deviennent plus pertinentes. Tout récemment, on parle de Moltbook qui est une sorte de forum pour des agents IA. L’idée c’est de les laisser échanger entre eux et voir ce qui se passe. Mais avec les libertés nouvelles données à ces agents polyvalents, on arrive vraiment à des situations ubuesques, comme celle décrite par Scott ( via Seb Sauvage).

Scott est un de ces adorables choux à la crème qui maintient pro bono des systèmes open-source, dont une très importante librairie informatique. Il a l’habitude maintenant de repérer les soumissions rédigées à base d’IA, et il refuse assez couramment cela car ça n’a pas assez de valeur. Mais là, c’était un « agent » qui a décidé de publier un article de blog pour décrier la situation et littéralement lui chier à la gueule. Après se persuader qu’on parle bien d’un agent IA (même si cela peut toujours être un humain qui simule évidemment, il faut continuer à être circonspect), on peut continuer à halluciner sur l’évolution des réflexions de la bestiole…

Alors ça peut paraître troublant de lire tout ça, et d’en voir vraiment les prémices de nos futurs agents Smith de la matrice dans laquelle on vit déjà en filigrane (quand on voit tout ce qui transite par le ouaibe, ce n’est pas qu’une vue de l’esprit), même si ce n’est pas exactement la Matrix des films. Et là on parle de technologie qui n’ont que quelques semaines d’existence… Et leurs usages dans nos entreprises sont déjà existants et en production réelle. Il est d’ailleurs intéressant de voir le mouvement actuel consistant à parler « d’humain augmenté par l’IA », comme si on donnait des supers pouvoirs à un employé qui alors va se mettre à avoir une productivité dingue et être très épanoui dans son travail. Or on le sait déjà, car si les technologies sont aussi rapidement intégrées à nos entreprises, les études sont tout aussi rapides pour démonter les trompettes du marketing. Et donc d’un côté des gens développent des burn-outs, ou deviennent de simples détecteurs d’erreur d’algorithmes tout en étant dépositaire d’une responsabilité et à la fois dessaisi de ses compétences…

Et pendant qu’on s’inquiète des débordements de ces intelligences artificielles, je lis qu’OpenAI décide d’arrêter sa version 4o qui a été un énorme pas franchis à l’époque, et qui a marqué par sa capacité à être « proche » de nous. Et justement c’est cette version là qui a rendu accros des millions de gens, et qui se retrouvent aujourd’hui en deuil ou en colère, car ils vont perdre leur « compagnon ». OpenAI arrête ça pour éviter d’autres types de débordement, mais cela entraîne cette incroyable réaction en retour. Mein gott !!

William vient de partager sur Instagram une vidéo complètement faite par IA générative, et on a tout ce qu’on redoute (les droits, les débordements possibles, l’exploitation des images des gens, la fin des productions et créations actuelles, la gabegie énergétique et environnementale) et qui fascine malgré tout. Parce que l’idée est top, mais qu’on n’a également jamais autant été dans l’accomplissement prométhéen.

Je souris sous cape en revoyant cet article de 2003 où j’avais détouré une copine pour la mettre en photo à côté de moi et je me disais :

Je me rends compte à quel point on peut tout faire croire avec peu de ressources.

Et en 2009, alors que j’étais troublé des photochopages à la truelle que je voyais au boulot, et les DA me disaient à la cool « nan mais on s’en branle maintenant de la qualité des photos du shooting pour la pub, on peut absolument tout corriger nous même !! ». Et moi de conclure grinçant :

Ah là là, dans quelques temps je me demande si l’on prendra même la peine de photographier des gens, je pense qu’on les inventera plutôt directement d’un logiciel de Sims !! Terrible !

Mon blog c’est les prédictions de Nostradamatoos !! (Il faut juste choisir la bonne quoi. )