Sécurité des agents IA : pourquoi déplacer le contrôle hors du modèle ?
OpenShell et Sentry illustrent une approche qui cherche à faire respecter les permissions par l’infrastructure. Une architecture annoncée ne dispense pas de tester les limites réelles.
Prêt à lire l’article.
Dans cet article
NVIDIA a présenté le 28 septembre son Open Agent Safety Platform. Le dispositif associe OpenShell, un environnement logiciel chargé de tracer les actions et d’appliquer des règles, à Sentry, une architecture de référence de surveillance sur processeurs BlueField-4.
Deux niveaux de contrôle annoncés
Le fournisseur décrit un contrôle matériel séparé du fonctionnement de l’agent, capable d’interrompre une tentative de sortie du périmètre autorisé. Les délais de réaction et l’efficacité avancés viennent de NVIDIA ; ils ne constituent pas une validation indépendante pour chaque environnement.
Analyse — définir d’abord ce qui est autorisé
Prenons un assistant chargé de préparer un catalogue. Il pourrait avoir besoin de lire des fiches produits, sans avoir le droit d’effacer la base ou de transmettre les coordonnées des clients. Une bonne description de sa mission ne remplace pas une définition précise de ces permissions.
La question à poser lors d’un essai serait concrète : que se passe-t-il si l’agent tente une action interdite ? Le système la bloque-t-il réellement, conserve-t-il une trace compréhensible et permet-il à une personne de reprendre le travail ?
Cette approche invite à évaluer séparément la qualité des réponses et la capacité de l’environnement à contenir les actions. Un agent peut accomplir une tâche correctement tout en disposant de droits inutilement larges. Le succès d’une démonstration ne suffirait donc pas à établir la pertinence de ses accès.
Source
NVIDIA — Open Agent Safety Platform, 28 septembre 2026. Consulté le 20 octobre. Caractéristiques attribuées au fournisseur.