IA générative et attaques : ce que le CERT-FR observe vraiment

Entre le discours commercial des éditeurs et la panique de certains comités de direction, il devenait difficile de savoir ce que l'intelligence artificielle générative change réellement à la menace. Le rapport du CERT-FR publié le 4 février 2026 a le mérite de poser un cadre sobre, et nous nous y référons systématiquement lorsqu'un client nous interroge sur le sujet.

La phrase qu'il faut retenir

Pour l'heure, aucun système d'IA générative n'a été en mesure de mener de manière autonome toutes les étapes d'une attaque informatique. — CERT-FR, CERTFR-2026-CTI-001

C'est l'antidote au récit de l'attaquant entièrement automatisé. L'IA générative ne remplace pas l'opérateur humain ; elle le rend plus rapide et plus nombreux. Cette nuance a des conséquences directes sur la façon dont on construit une détection : les chaînes d'attaque restent les mêmes, ce sont les volumes et la qualité du leurre initial qui bougent.

Un effet différent selon le niveau de l'attaquant

Le CERT-FR distingue deux usages, et la distinction est opérationnellement utile. Pour les acteurs les plus avancés, l'IA générative est un outil de performance et de passage à l'échelle : même mode opératoire, mais appliqué à dix fois plus de cibles, avec un contenu d'ingénierie sociale adapté à chacune. Pour les acteurs moins expérimentés, c'est d'abord un outil d'apprentissage, qui abaisse la marche d'entrée sans créer de capacité nouvelle.

Concrètement, on ne s'attend donc pas à voir apparaître des techniques inédites dans la matrice ATT&CK du fait de l'IA. On s'attend à voir les techniques connues arriver plus vite, plus souvent, et avec un premier étage nettement plus crédible.

Les trois étapes où l'IA se voit dans nos journaux

• Profilage de la victime : agrégation automatisée d'informations publiques (organigrammes, publications LinkedIn, dépôts de code, documents indexés) pour construire un prétexte sur mesure. Cette phase est silencieuse côté SI de la victime — elle ne laisse aucune trace exploitable.
• Ingénierie sociale : c'est l'étape la plus visible. La faute d'orthographe et la tournure maladroite, qui étaient des signaux de détection bon marché, ont disparu. Les filtres et les sensibilisations qui reposaient dessus perdent leur efficacité.
• Développement de code malveillant : assistance à l'écriture, au portage et à l'obfuscation. L'effet est réel sur la vitesse de production de variantes, donc sur la durée de vie des signatures.

Ce que nous recommandons de changer dans la détection

Si le contenu d'un message ne peut plus servir de critère fiable, il faut déplacer la détection ailleurs. Nos trois axes de travail :

• Détecter sur le contexte plutôt que sur le texte : ancienneté du domaine expéditeur, première communication avec l'organisation, incohérence entre l'infrastructure d'envoi et l'identité affichée, chaîne de réponse fabriquée.
• Renforcer l'aval plutôt que l'amont : si l'hameçonnage passe désormais plus souvent, la détection doit être robuste sur ce qui suit — authentification depuis un contexte inhabituel, création d'une règle de boîte aux lettres, enregistrement d'un nouvel appareil MFA.
• Accepter la baisse de valeur des signatures : privilégier les détections comportementales et les règles fondées sur des séquences d'actions, plus coûteuses à contourner qu'un condensat de fichier.

L'angle mort : l'IA comme cible, pas seulement comme outil

La seconde moitié du rapport est celle qu'on oublie de lire. Les systèmes d'IA générative sont eux-mêmes attaqués : empoisonnement de modèles à des fins d'altération de données ou de désinformation, compromission de la chaîne logicielle, exfiltration de données. Or c'est exactement le périmètre que les entreprises ont déployé le plus vite et gouverné le moins bien ces deux dernières années.

La question que nous posons désormais dans nos audits est simple et rarement bien accueillie : savez-vous quels assistants génératifs sont utilisés dans votre organisation, avec quelles données, et sous quel contrat ? Dans une majorité de cas, l'inventaire n'existe pas. Le périmètre d'exposition est donc inconnu — ce qui est, en soi, la conclusion de l'audit.

Notre lecture pour un RSSI

Il n'y a pas de rupture technologique à absorber dans l'urgence, et c'est une bonne nouvelle. Il y a un déplacement de charge : moins de valeur dans les détections textuelles, plus de valeur dans les détections comportementales, et un nouveau périmètre applicatif — les systèmes d'IA eux-mêmes — à faire entrer dans le champ de la gouvernance et de la supervision. Commencer par l'inventaire des usages coûte peu et éclaire beaucoup.