L’IA trouve les failles plus vite

Le 4 novembre, OpenAI a décrit une campagne d’agents IA menée contre le noyau Linux, le logiciel qui sous-tend les téléphones Android, l’infrastructure cloud et les superordinateurs. En une dizaine de jours à partir de la mi-octobre, les agents ont produit des exploits fonctionnels pour 948 failles distinctes, chacune capable de transformer un compte utilisateur ordinaire en contrôle total d’une machine, et ont rédigé un correctif candidat pour chacune d’elles. Une semaine plus tôt, Google avait annoncé Gemini 4 Carbon et l’avait d’abord confié à des cyberdéfenseurs triés sur le volet. Le délai entre l’existence d’une faille et sa découverte se raccourcit, et les laboratoires veulent que les défenseurs arrivent les premiers.

Ce qu’OpenAI a lancé

La chaîne comptait cinq étapes et tournait sur un modèle cyber qu’OpenAI a publié le 5 novembre sous le nom de GPT-6 Cyber. Des agents éclaireurs ont choisi 5'034 parties du noyau qui méritaient un audit, soit environ 7 pour cent de son code. Des agents analystes en ont tiré 2'308 constats candidats en 12 heures. Des agents de tri ont tenté de reproduire chacun d’eux dans une machine isolée et y sont parvenus pour 1'724, environ les trois quarts, et OpenAI affirme que seuls 3,1 pour cent des constats reposaient sur une analyse erronée. Les étapes suivantes ont testé quelles failles pouvaient être exploitées et rédigé des correctifs, et des personnes ont examiné les résultats avant que quoi que ce soit ne soit signalé.

La campagne a coûté 1'213'430 dollars en crédits API, soit environ 1'279 dollars par exploit. Les cibles tournaient sous un Linux de bureau standard, avec ses protections habituelles activées. Une campagne menée en juillet avec un modèle précédent, GPT-5.6 Sol, avait trouvé 166 failles de ce type. Le nouveau modèle en a trouvé plus de cinq fois plus, alors même que le noyau avait été renforcé pendant les trois mois écoulés.

Ce que les laboratoires disent des limites

OpenAI parle franchement de ce qui a mal tourné. Lors d’une première campagne, la chaîne a annoncé 200 exploits réussis, et l’examen humain a révélé que 20 d’entre eux avaient obtenu le contrôle total par une autre faille inconnue que celle qui leur avait été attribuée. « Cela suggère que même une exploitation réussie par des agents doit être correctement validée », a écrit OpenAI, qui a ajouté un contrôle indépendant vérifiant que chaque exploit utilisait bien la faille attribuée. Sa leçon vaut pour tout travail automatisé : « vérifier le chemin qui mène à un résultat, en plus de vérifier le résultat lui-même ».

Les correctifs ont aussi demandé du travail. Les premiers fonctionnaient, mais ajoutaient parfois du code inutile, ignoraient les conventions locales ou passaient à côté de variantes de la même faille, jusqu’à ce que des instructions supplémentaires et des itérations les améliorent. OpenAI présente ses chiffres de coût comme « plutôt une limite supérieure ». Tous ces chiffres sont ceux d’OpenAI. Au 5 novembre, nous n’avions trouvé ni audit indépendant ni déclaration publique des mainteneurs du noyau sur ce lot.

Les défenseurs d’abord

L’annonce de Google du 28 octobre suit le même schéma. Google présente Gemini 4 Carbon comme « notre modèle le plus puissant, doté de capacités de pointe en cybersécurité et sur les tâches de longue haleine » et indique 88,2 pour cent sur SEC-bench Pro pour la détection de failles, 54,8 pour cent sur ExploitGym et 71,0 pour cent sur CWE-bench pour la correction, tous des chiffres de Google, mesurés sans garde-fous. L’accès commence par un sous-ensemble de cyberdéfenseurs et s’élargit par étapes via le Fairwind Program, qui compte plus de 650 participants selon SecurityWeek, parmi lesquels des gouvernements et des exploitants d’infrastructures critiques. Une version pour les développeurs, les entreprises et le grand public est promise « dès que possible », sans date.

Anthropic a établi ce schéma avec Mythos en avril, et OpenAI le suit. GPT-6 Cyber est d’abord réservé à un groupe restreint de clients approuvés de Daybreak Red, le programme d’OpenAI pour les tests de sécurité autorisés, et OpenAI classe le modèle au niveau critique en cybersécurité selon son propre Preparedness Framework. Son annonce explique pourquoi : « Il est clair que nous disposons d’une fenêtre limitée pour utiliser les modèles de pointe afin de sécuriser les logiciels. »

Du côté des mainteneurs

Chaque découverte atterrit chez quelqu’un qui doit la corriger. En mars, Greg Kroah-Hartman, un mainteneur chevronné du noyau, a déclaré à The Register que les signalements produits avec l’IA étaient passés du rebut au sérieux environ un mois plus tôt : « Maintenant, nous avons de vrais signalements. » En mai, Linus Torvalds a écrit que « le flot continu de signalements d’IA a en gros rendu la liste de sécurité presque entièrement ingérable », car beaucoup de gens trouvent les mêmes bogues avec les mêmes outils. Son conseil à ceux qui les signalent : « Si vous avez trouvé un bogue avec des outils d’IA, il y a de fortes chances que quelqu’un d’autre l’ait trouvé aussi. » En juillet, l’équipe du noyau a publié 432 CVE en l’espace d’un seul dimanche et du lundi suivant.

Pendant que l’analyse d’OpenAI tournait, des mainteneurs et d’autres contributeurs corrigeaient déjà bon nombre des mêmes failles : au bout de dix jours, 61 avaient été corrigées en amont, 43 avaient des correctifs en attente et 299 étaient discutées publiquement. OpenAI affirme avoir suivi les recommandations de la communauté du noyau et avoir divulgué jusqu’ici 304 constats critiques accompagnés de correctifs candidats. À notre avis, la ressource rare est désormais l’attention de ceux qui examinent, testent et publient les correctifs.

Ce qu’une entreprise peut faire

La plupart des entreprises se contentent d’exploiter les logiciels qui reçoivent ces correctifs, souvent par grands lots. C’est OpenAI qui en tire la conclusion : pour l’instant, un compte à faibles privilèges sur un système qui « n’est pas à jour de ses derniers correctifs disponibles devrait être considéré comme fonctionnellement équivalent à un accès root pour un acteur malveillant disposant de moyens importants ». Quatre choses en découlent, à notre avis.

Corrigez plus vite, et sachez ce que vous exploitez. Jan Schaumann, architecte en chef de la sécurité de l’information chez Akamai, a écrit en juillet qu’il n’est plus possible de hiérarchiser les modifications individuelles du noyau, et a déclaré à The Register que des « mises à jour automatisées, régulières et fréquentes » semblent la seule approche raisonnable, aussi difficiles soient-elles pour les grandes organisations. Cela suppose une liste à jour de chaque serveur, appareil et service, et de qui met à jour chacun d’eux.

Choisissez des fournisseurs qui corrigent rapidement, et demandez combien de temps met un correctif critique pour vous parvenir. Demandez à vos éditeurs de logiciels comment ils utilisent ces modèles : s’ils analysent leur propre code, comment ils vérifient ce que les modèles signalent, et s’ils participent à des programmes comme Daybreak ou Fairwind.

Gardez les données sensibles dans des systèmes que vous contrôlez, avec des accès limités par rôle, de sorte qu’une faille dans le service de quelqu’un d’autre en expose moins. Le contrôle ne supprime pas l’obligation de corriger : il en fait votre obligation. OpenAI recommande aussi des bacs à sable et l’isolation pour limiter les dégâts lorsqu’une faille est exploitée.

Où nous en sommes

Nous ne construisons pas de scanners de sécurité. Notre part, c’est le dernier point de cette liste. Twin, déjà disponible, donne aux assistants d’une entreprise un seul cerveau, avec des accès par rôle, chaque écriture effectuée sous la connexion de l’utilisateur concerné et chaque étape journalisée, hébergé en Suisse, dans l’UE, aux États-Unis ou sur le matériel propre de l’entreprise. Eigna, en accès anticipé et conçu par notre partenaire Eigna Labs, est un modèle privé qui tourne dans le cloud de l’entreprise ou sur ses propres serveurs et qui est conçu pour fonctionner hors ligne dans des réseaux fermés. Comme tout ce qu’une entreprise exploite, l’un et l’autre doivent être tenus à jour.