Attention aux Prétoriens !

Je me rappelais que pas grand chose n’allait dans ce film, mais ça reste un de mes trucs de série B doudous des années 90. J’avais bien aimé parce que j’étais déjà un geek et que ça parlait d’ordinateurs, et ça évoquait presque avec trop d’avance (il est sorti en 1995) les Internets, jusqu’à son titre original « The Net » qui était un jeu de mot sur le web (la fameuse toile) mais aussi le piège dans lequel elle va se retrouver. En français c’était « Traque sur Internet », et ça a le mérite d’être assez littéralement ce que le film raconte.

Le pire est sans doute dans l’image des nerds de l’époque, mais en prenant un peu de recul, cela avait au moins le mérite de décrire le mode de vie d’une « otaku » avec une certaine justesse, et même un mode de vie et des sociabilités en ligne que la plupart des gens ne comprendraient qu’une bonne dizaine d’années plus tard. Vraiment en cela, le film tentait de montrer aussi bien les aspects e-business (elle commande une pizza ce qui paraît surréaliste pour l’époque) que les risques associés à la cybersécurité pour une société qui reposait déjà beaucoup sur les réseaux interconnectés « IP » pour beaucoup trop de choses.

Et clairement en 1995, la cybersécurité c’était encore la préhistoire (après les pirates étaient tout autant balbutiants). On pouvait pénétrer le réseau et les actifs de beaucoup d’entreprises avec un simple navigateur et un « admin/admin ». Bon, cela n’empêche que le film est également un bon gloubi-boulga hollywoodien, et donc la scène suivante m’a toujours fait mourir de rire.

C’est sans doute le truc qui avait le plus fait lever les yeux au ciel les Michels de France et de Navarre du monde entier. (Je fais des blagues d’époque, comprendra qui peut !!) Car Sandra découvre le poteau rose¹ sous la forme d’un petit symbole Pi (π) planqué en bas à droite d’un vulgaire site web, et en cliquant dessus connement ça flache dans tous les sens, et ça lui donne accès à tous les secrets de l’Univers Connu, et surtout l’ensemble des réseaux informatiques de la Terre entière (au moins).

Et y’a des π cachés sur tous les écrans, et personne n’avait fait gaffe ! Mais au-delà de l’indigence de ce trait scénaristique, il y a un truc que j’avais trouvé pas con du tout déjà à l’époque. Car pour devenir les meilleurs terroristes numériques du monde, les méchants qui se font appeler les Prétoriens ont créé un logiciel de cybersécurité qui s’appelle Cerbère. Et à partir de quelques démonstrations un peu bricolées pour impressionner des gros clients, ils parviennent à s’infiltrer un peu partout. Il suffit d’avoir une ou deux fausses expériences où des hackings énormes déclenchent de vraies catastrophes, et des cas où la présence de leur logiciel Cerbère sauve la mise. Alors toutes les grosses boites sautent sur cette merveille qui permet de se protéger, et c’est alors le cheval de Troie rêvé.

Mais rassurez-vous Sandra tape CTRL+ALT+Suppr et elle sauve le monde. Grosso modo.

Deux nouvelles récentes m’ont fait froid dans le dos, tant cela me rappelle cet excellent opus du septième art.

Vous devez savoir maintenant que l’IA Générative consiste à faire travailler des tas d’ordinateurs avec énormément de données pour constituer ce qu’on appelle un grand modèle de langage (LLM). A partir de là, on peut donner un petit bout de texte en entrée à ce LLM, et on obtient en sortie des textes qui statistiquement sont une prédiction aussi pertinente que la manière dont on aura régler le modèle. Mais le modèle en question, plus personne ne sait comment il « raisonne » véritablement. Il y a tellement de paramètres en jeu (des milliards) que c’est humainement impossible de le comprendre finement, c’est aussi compliqué qu’un cerveau humain quelque part. Donc la seule manière d’utiliser ce LLM, c’est de lui soumettre des questions en entrée, et de vérifier en sortie qu’il ne dit pas trop de merde. Et si c’est le cas, on le corrige en lui rajoutant des instructions du genre « Ah oui faut pas être trop raciste, faut pas être trop homophobe, et pas trop nazi non plus, ça fait mauvais genre. » Mais grosso modo, à chaque nouveau modèle, on ne sait pas trop ce qu’il vaut, et si ça va être compliqué ou pas de le rendre « utilisable ».

C’est pour cela que selon les usages que vous en avez, parfois vous pouvez constater des régressions dans la manière dont vous interagissez avec des LLM. Par exemple, il y a quelques temps on pouvait sans problème leur parler de nos problèmes, et comme on leur avait demandé de répondre à la demande le mieux possible et d’être gentils et compassionnels, bah c’était le cas. Et donc vous avez dû lire que des tas de gens se sont mis à tomber amoureux de leur IA, ou bien à s’en faire des coachs ou des thérapeutes. Mais récemment, après quelques suicides, dépressions et tueries de masse, on s’est dit que ce n’était pas un super idée. Donc globalement, maintenant si vous êtes dans un mode trop « Her« , votre LLM devrait vous proposer un psy ou vous indiquer qu’il n’est pas un thérapeute et qu’il vaut mieux consulter. Mais bon, il suffit de continuer un peu et d’insister, et la discussion peut se poursuivre exactement comme vous l’entendez, parce que le système est totalement en roue libre en réalité.

Récemment, on a entraîné les modèles sur un autre type de langue : les langages informatiques. Car on a réalisé que ces langages sont exactement comme une langue parlée, et en plus on a plein d’exemples sur internet de programmes, et des forums où les gens s’échangent des bouts de codes depuis trente ans. Et en plus, c’est moins problématique que d’empêcher une IA d’être nazie. Et puis, on a compris que ça pouvait permettre de virer des ingénieurs informatiques, et donc après la Revanche des Nerds, c’est le Capitalisme contre-attaque. Vous pouvez tester cela, et ça fait un peu magie noire, vous demandez en français un truc sur xls, et le LLM vous répond en traduisant du français vers une bonne petite formule incompréhensible (et comme ça plus personne n’apprend plus rien, mais c’est un autre sujet) qui marche !!

Et donc (oui je sais, je suis long mais j’y arrive !!), encore plus récemment, un de ces LLM au doux nom de Claude est devenu super fort en cybersécurité. Et les gars sont pas fous (pas tous en tout cas), ils testent d’abord chez eux pour voir comment leur nouveau monstre est doué ou pas (si c’est déjà Skynet ou pas encore, on comment le rendre assez gentil pour qu’il rapporte des sous). Et là le dernier né des modèles, qui s’appelle Mythos (pour le différencier des autres Claude), on a vu qu’il était super super balaise pour détecter des failles de sécurité informatique, mais donc tout aussi bon pour les corriger ou les exploiter selon comment vous voulez utiliser le bouzin. Et tout aussi bon pour créer des systèmes invulnérables, ou bien pour créer des nouveaux virus indétectables donc… Vous voyez le truc ?

Mythos a tellement fait peur à son créateur, qu’il n’a pas complètement été mis en production, et qu’on ne veut pas vraiment lui donner accès à Internet, et pas le laisser entre les mains de tout un chacun. Mais bon, c’est un « outil précieux » (et qui va rapporter gros), donc il est en test dans des grosses boîtes de cybersécurité. Tout va bien. Vous voyez le lien avec π ?

Il y a une autre entreprise qui fait parler d’elle, Palantir, et il s’agit déjà de la plus grande entreprise de Cybersécurité du monde. Ses services logiciels sont chouchous de tous nos états occidentaux, et Palantir excelle dans la surveillance de masse pour réinventer la sécurité globale, dans les systèmes et dans le vrai monde. Ils viennent de publier un manifeste fabuleux qui expose sans ambages leur raison d’être et leurs orientations philosophiques. Et sans déconner, il s’agit d’un portefeuille de logiciels utilisé dans le monde entier, on les adore en France notamment.

Vous voyez encore le lien avec Sandra ?

Ban trente ans après, c’est Sandra qui avait raison. Et ça, jamais j’aurais cru que ça arriverait. Jamais.

1. Oui oui. ↩︎