David Madore a publié un bel article qui donne son point de vue sur les récentes avancées de résolutions de problèmes mathématiques grâce aux fameux LLM (les maousse modèles de langage, et pas Loïc le Meur 
) et l’Intelligence Artificielle. Je souscris largement à ses remarques (même si comme d’habitude, je le suis sur 70% seulement de ses démonstrations, après ça dépasse mon entendement, mais le lire est excellent pour l’humilité ), mais elles m’ont surtout marqué dans leur quasi universalité par rapport aux usages de l’IA.
Et je ne vais pas dire que c’est inutile. Là j’étais dans un contrat de 72 pages en anglais, et je devais détecter des incohérences ou des redondances ou des éléments à compléter sur des sujets techniques que je connais assez bien. Eh bien c’est typiquement un usage génial et vraiment utile des LLM, car c’est une question de mécanique de langage, d’automatisation, de manipulation de « mots » et d’ingurgitation de grande quantité de texte. J’ai dû malgré tout revoir l’ensemble, et tout n’était pas valide, mais ça m’a clairement aidé, et j’aurais sans doute raté des trucs (principalement par manque de courage à tout me taper dans le détail).
Mais tout aussi récemment, j’ai eu le malheur de rédiger une demande qui trahissait un peu trop ce que je voulais obtenir, et comme le modèle n’était pas du tout connaisseur du truc, j’ai eu de la merde… Et comme la merde ressemble comme deux gouttes d’eau au meilleur des plats de gourmet, cela fait perdre un temps monstrueux. Et puis il y a un petit vague arrière-goût de merde, et finalement c’était une bonne grosse tarte au caca bien frais !!!!
A postériori, j’ai compris comment j’aurais pu « pompter » d’une meilleure manière évidemment, mais en attendant c’était une immense perte de temps, et on ne le sait pas tant qu’on ne s’y est pas frotté.
L’usage pour les maths c’est comme pour le reste, ok pour établir de nouvelles conjectures sur de la recherche bibliographique, ok pour avoir la puissance de manipulation des textes, mais en réalité pas celle des idées. Or, tous ces usages de l’IA générative ne sont vendus que dans une seule optique : réduire les coûts humains, automatiser les processus nécessitant un intellect humain, et réduire à néant des pans entiers de l’économie. Et même comme cela, on réalise que, pour le moment, l’IA coûte plus cher (que d’employer les dits humains) avec un cycle de vie (à la fois en conception d’un point de vue éthique et sociétal, en consommation de ressources en cours d’existence et avec une pertinence et validité des modèles très courtes) pour lequel une rentabilité quelconque paraît illusoire au-delà de la bulle spéculative dans laquelle nous vivons.
L’IA générative fait illusion en faisant le perroquet, il peut être super crédible dans absolument n’importe quel domaine s’il est bien entraîné, y compris les mathématiques. Mais sa capacité à créer, à sortir des sentiers battus, est véritablement proche de 0, ou alors dans de tels flous statistiques, qu’il faudra mettre trop d’efforts à débrouiller les hallucinations. Mais c’est sûr que cela peut être vertueux pour éviter certaines faiblesses humaines (comme se taper 50 pages de contrat imbittable à la recherche d’une coquille) ou bien pour éviter aussi certains schémas mentaux. Mais dans tous les cas, l’IA ne peut être qu’un outil, qu’un usage raisonné pour augmenter les capacités des humains. Et il ne doit pas servir à supprimer des emplois, sinon c’est se tirer une balle dans le pied, et entrer dans une spirale de destruction de la créativité et les modèles cesseront aussi de progresser. On est donc dans un pur contresens capitaliste.
Et dans le même temps, on lit aujourd’hui que le chef de la sécurité d’Android (Google) quitte l’entreprise car les valeurs défendues ne sont plus alignés avec les siennes. C’est tout de même un peu rassurant de voir que certaines personnes ont cette droiture (et la chance de pouvoir faire ça), et flippant de voir ce que cela représente quand on en vient à ces extrémités. Et puis Musk est aujourd’hui le premier être humain à avoir un patrimoine de mille milliards de dollars. MILLE MILLIARDS. Et le mec a déjà prouvé qu’il est un néonazi en puissance. Tout va bien.
Je te rejoins profondément sur ce billet (y compris en ce qui concerne la lecture de ceux de David Madore ; j’ai vieilli je dois être à 65 % à présent) ; sauf que je n’aie pour l’instant utilisé d’IA que là où elle était déjà partie du truc (deux logiciels qu’on utilise au taf, où le résumé IA n’est pas en option), et que pour l’instant il m’est encore permis de faire sans pour le travail de fond. Mes jeunes collègues l’utilisent pour des réponses par courriels, je rédige vite et sans faire d’efforts conscients donc je vais pour l’instant aussi vite sans.
En ce qui concerne la fin de ton billet, c’est exactement ce que je me suis dit. Horreur, malheur.