Microsoft a récemment dévoilé une refonte de ses agents IA intégrés à Windows 11. En parallèle le géant alerte que certaines vulnérabilités de sécurité pourraient être mises en lumière.
L’entreprise a publié un nouvel avis confirmant que ces agents restent loin d’être parfaits. Elle explique que les modèles d’IA « font encore face à des limitations fonctionnelles » et peuvent « halluciner » ou produire des comportements inattendus.
Cette nouveauté a été introduite au travers d’une récente build de Windows 11 publiée dans le cadre du programme Windows Insider. Elle prend la forme d’un nouveau bouton intitulé « Fonctionnalités agents expérimentales » que l’on retrouve à cette adresse Paramètres > Système, au sein de la section « Composants IA ».
Son activation n’est heureusement pas automatique. Par défaut elle n’est pas opérationnelle. Il faut intervenir manuellement.
Une fonctionnalité puissante, mais dangereuse
Lorsque l’utilisateur décide d’activer ces agents, Windows affiche un avertissement strict. Le système prévient que ces fonctions expérimentales pourraient impacter la sécurité de l’appareil.
L’un des risques majeurs est associé aux attaques exploitant les agents autonomes, notamment une menace émergente appelée cross-prompt injection. Cette technique consiste à dissimuler des instructions malveillantes dans un document, une interface ou un fichier apparemment anodin, incitant l’agent IA à accomplir des actions qui n’ont rien à voir avec sa tâche initiale.
Les conséquences pourraient être graves allant de l’installation de logiciels malveillants au vol d’informations de paiement en passant par l’exécution d’actions indésirables à l’insu de l’utilisateur.
Pour limiter les risques, Microsoft indique que chaque agent s’exécute dans un environnement isolé baptisé « espace de travail agent ». Comme GinjFo l’expliquait, chaque agent dispose d’un compte dédié, auditable, et ses actions sont enregistrées pour des analyses ultérieures en cas de besoin. Le concept rappelle Windows Sandbox. Il y a cependant une différence majeure. Les agents peuvent persister et continuer leurs actions d’une session à l’autre, ce qui augmente considérablement la portée d’une attaque.
Par défaut, Windows 11 accorde aux agents un accès en lecture et écriture à des dossiers courants comme Téléchargements, Bureau, Documents, Images, Musique ou Vidéos. Même si les agents restent limités en actions autorisées et utilisent des comptes séparés, ces permissions sont très voir trop généreuses pour des fonctionnalités encore expérimentales.
Microsoft affirme travailler à l’ajout de protections plus strictes, notamment des permissions plus fines et des défenses robustes contre l’injection de prompts. En attendant, l’entreprise recommande de n’activer la fonctionnalité qu’en toute connaissance de cause.
