Les modèles d’intelligence artificielle peuvent présenter une vulnérabilité particulièrement difficile à détecter. Des comportements cachés qui ne se déclenchent que lorsqu’une condition spécifique est réunie. Des chercheurs de North Carolina State University, aux États-Unis, ont présenté le 6 novembre 2026 trois méthodes destinées à réduire cette menace, en intervenant directement sur les mécanismes internes des modèles.
Dans certaines configurations expérimentales, leurs techniques ont permis de faire passer le taux de réussite d’attaques de près de 100 % à moins de 10 %, tout en préservant une grande partie des capacités normales des systèmes étudiés.
Ces résultats constituent une avancée pour la sécurité des intelligences artificielles génératives, de plus en plus utilisées dans les entreprises, le développement logiciel et les services numériques.
Comment une IA peut-elle contenir une porte dérobée ?
Une porte dérobée, ou backdoor, est un comportement dissimulé dans un système informatique. Dans le cas de l’intelligence artificielle, elle peut être introduite pendant l’entraînement ou l’adaptation d’un modèle.
Le système semble alors fonctionner normalement dans la plupart des situations. Pourtant, lorsqu’il rencontre un déclencheur particulier, il peut produire un résultat inattendu ou contraire à son fonctionnement prévu.
Cette particularité rend les portes dérobées difficiles à identifier : les tests classiques peuvent ne révéler aucune anomalie.
Le problème devient particulièrement important avec la généralisation du fine-tuning, une technique consistant à adapter un modèle préentraîné à de nouvelles tâches.
Une entreprise peut, par exemple, personnaliser une IA pour analyser des documents ou assister ses équipes.
Si les données ou certains composants utilisés pendant cette adaptation sont compromis, le modèle peut intégrer des comportements indésirables.
L’enjeu consiste donc à vérifier non seulement les réponses visibles d’une IA. Mais également les mécanismes qui déterminent son comportement.
Trois approches pour renforcer la sécurité des modèles
L’équipe de North Carolina State University, notamment les chercheurs Jung-Eun Kim et Jianwei Li, a étudié trois niveaux distincts du fonctionnement des grands modèles de langage.
La première approche agit sur les représentations internes.
Les modèles d’IA transforment les informations qu’ils reçoivent en représentations mathématiques.
Les chercheurs ont développé une méthode utilisant des projections dans des sous-espaces mathématiques. Et ce afin d’atténuer certaines associations internes liées aux portes dérobées.
Cette technique vise notamment les modèles adaptés avec LoRA. Il s’agit d’une méthode de personnalisation qui modifie un nombre limité de paramètres.
Dans les essais rapportés, elle a réduit le taux de réussite de certaines attaques de près de 100 % à moins de 10 %. Tout en conservant les compétences principales du modèle.
La deuxième approche intervient sur l’architecture.
Elle consiste à orienter les comportements suspects vers un composant spécialisé du modèle, qui peut ensuite être désactivé.
Cette méthode, baptisée Quarantined Expert Shutdown. Elle repose sur une architecture comportant plusieurs composants spécialisés.
Dans la majorité des configurations testées, le taux de réussite des attaques est passé de 100 % à une valeur comprise entre 0 et 10 %.
L’intérêt est de pouvoir neutraliser le composant concerné sans devoir réentraîner entièrement le modèle après son déploiement.
La troisième approche modifie les paramètres du modèle.
Les chercheurs ont développé une méthode destinée à identifier et atténuer certaines associations responsables de comportements cachés, sans connaître nécessairement le déclencheur initial.
Cette approche s’appuie sur l’analyse comparative de différentes versions expérimentales du modèle afin de repérer des caractéristiques récurrentes.
Elle vise à restaurer un comportement normal tout en préservant les capacités de génération de texte.
Pourquoi ces résultats sont-ils importants ?
Les modèles d’intelligence artificielle sont de plus en plus intégrés aux systèmes d’information.
Ils peuvent analyser des documents, générer du code, assister des décisions ou interagir avec des applications professionnelles.
Dans ces environnements, un comportement caché pourrait compromettre la fiabilité des résultats et la sécurité des traitements.
Les nouvelles méthodes proposées montrent qu’il est possible d’agir directement sur les composants internes des modèles. Plutôt que de se limiter à filtrer leurs réponses.
Cette recherche intéresse particulièrement les entreprises utilisant des modèles ouverts ou personnalisés.
Elle pourrait contribuer au développement de procédures de vérification plus avancées avant leur mise en production.
Pour rappel, les poids d’un modèle d’IA sont les paramètres numériques ajustés pendant son entraînement. Ils déterminent en grande partie la manière dont le système traite les informations et produit ses réponses.
Des résultats prometteurs, mais pas une protection universelle
Les performances rapportées concernent des modèles, des attaques et des scénarios expérimentaux déterminés.
Elles ne signifient pas que toutes les portes dérobées peuvent désormais être supprimées.
Les chercheurs soulignent également la nécessité d’évaluer rigoureusement les mécanismes de sécurité reposant sur des déclencheurs secrets.
La nouveauté du communiqué du 6 novembre réside dans la présentation coordonnée de plusieurs méthodes. Les travaux scientifiques ont été publiés ou présentés à différentes dates en 2026, notamment lors des conférences ICLR et ICML. Tandis que deux autres études sont annoncées pour NeurIPS en décembre.
Cette recherche illustre une évolution importante de la cybersécurité. Protéger une intelligence artificielle nécessite désormais d’analyser son fonctionnement interne, et pas seulement les données qu’elle reçoit ou les réponses qu’elle produit.
Source : North Carolina State University, 6 novembre 2026 ; travaux scientifiques présentés à ICLR, ICML et NeurIPS 2026.
En savoir plus sur InnovDigit
Subscribe to get the latest posts sent to your email.
