Microsoft veut encadrer les agents IA à l’intérieur des entreprises
Avec Project Perception, Microsoft présente une approche de surveillance des agents. L’enjeu : limiter ce qu’un assistant autonome peut réellement faire.
Prêt à lire l’article.
Dans cet article
Les assistants qui agissent dans les logiciels professionnels déplacent la question de la sécurité : il ne suffit plus de vérifier leurs réponses, il faut aussi contrôler leurs droits et leurs actions. Dans une publication du 19 octobre, Microsoft revient sur Project Perception, annoncé en juillet, et sur sa manière d’aborder ces nouveaux risques.
Des agents sous surveillance
L’entreprise décrit une combinaison de signaux, d’analyse du contexte et d’agents de surveillance. L’objectif annoncé est de repérer des comportements à risque et d’articuler cette surveillance avec des contrôles déterministes, notamment sur les permissions et l’exécution. Il s’agit de la stratégie présentée par Microsoft, pas d’une démonstration indépendante de son efficacité.
Notre analyse : la permission compte autant que la réponse
Pour une rédaction ou une petite entreprise, la bonne question devient concrète : un assistant chargé de préparer un document peut-il aussi le publier, le partager ou effacer une version ? Ces opérations méritent des autorisations distinctes. Une réponse plausible ne justifie pas automatiquement une action irréversible.
Un déploiement utile commence donc par un périmètre limité, des traces consultables et une personne capable d’intervenir. Le confort d’utilisation reste important ; la possibilité de comprendre et d’arrêter une action l’est tout autant.
Source : https://blogs.microsoft.com/blog/2026/10/19/securing-the-agentic-insider/