Les agents d’intelligence artificielle deviennent progressivement capables de faire beaucoup plus que répondre à des questions : ils peuvent écrire et exécuter du code, consulter des fichiers, utiliser des applications, appeler des API ou accomplir une tâche pendant plusieurs heures.
Mais plus ils deviennent autonomes, plus une question devient critique :
Comment empêcher un agent IA de faire quelque chose qu’il n’était pas autorisé à faire ?
NVIDIA vient de proposer sa réponse.
Le groupe a présenté le 28 septembre 2026 sa NVIDIA Open Agent Safety Platform, une architecture destinée à créer des barrières de sécurité autour des agents autonomes.
Une sorte de « zone sécurisée » autour de l’agent
L’un des principaux composants de cette plateforme est OpenShell, un environnement open source capable de définir précisément les ressources auxquelles un agent peut accéder.
Une entreprise pourrait, par exemple, autoriser un agent à consulter certaines données mais lui interdire de les modifier.
Elle pourrait également lui permettre d’utiliser une API particulière tout en bloquant certaines opérations sensibles.
Le principe est important : la restriction n’est pas uniquement demandée au modèle d’IA. Elle est imposée techniquement autour de lui.
Ainsi, même si l’agent tente d’effectuer une action non autorisée, l’environnement peut la bloquer.
NVIDIA ajoute aussi un « gardien » matériel
NVIDIA va encore plus loin avec Sentry, un mécanisme de surveillance exécuté indépendamment de l’agent sur ses processeurs BlueField-4.
Selon NVIDIA, Sentry peut surveiller le comportement d’un agent et le mettre en quarantaine en quelques millisecondes s’il tente de sortir des limites définies.
Plusieurs acteurs du secteur, parmi lesquels Anthropic, Microsoft, Dell, Cisco ou Salesforce, participent à cet écosystème.
Un problème qui va devenir central
La sécurité des chatbots concernait surtout la confidentialité des données ou les réponses générées.
Avec les agents autonomes, le problème change de dimension.
Un agent peut désormais agir.
La prochaine bataille de l’IA ne concernera donc probablement pas seulement la puissance des modèles, mais également la capacité des entreprises à répondre à une question beaucoup plus simple : qu’a réellement le droit de faire cette IA ?
Sources
Source image NVIDIA Developer
En savoir plus sur InnovDigit
Subscribe to get the latest posts sent to your email.
