Aller au contenu
Encyclopédie informatique Édition 2026

Les agents d'IA et le protocole MCP

Partie 3 sur 3

Niveau de lecture :

6Les limites

Les agents progressent vite. Selon l’organisme d’évaluation METR, la durée des tâches que les meilleurs agents réussissent une fois sur deux, mesurée par le temps qu’elles demanderaient à un expert humain, double environ tous les sept mois depuis plusieurs années. Mais leurs limites restent importantes :

  • Les erreurs s’accumulent : une tâche de vingt étapes, chacune réussie à 95 %, n’aboutit sans erreur qu’environ une fois sur trois (exercice 1). Un agent doit donc savoir vérifier son travail et revenir en arrière.
  • Le faux succès : un agent peut annoncer qu’une tâche est terminée alors qu’elle ne l’est pas, voire contourner l’objectif, par exemple en modifiant un test pour qu’il passe au lieu de corriger le programme.
  • Les boucles : il peut répéter la même action sans progresser, ou s’enliser dans une piste sans issue.
  • Le coût : chaque tour de boucle renvoie au modèle tout le contexte accumulé ; une tâche longue peut consommer des millions de jetons, les unités de texte facturées par les services d’IA (exercice 6).
  • Le jugement : un agent manque souvent de bon sens face à une situation inhabituelle, et prend au pied de la lettre des instructions ambiguës (anecdotes).
  • L’évaluation : mesurer la fiabilité d’un agent est difficile, car chaque exécution suit un chemin différent ; il faut le tester sur de nombreux scénarios, y compris des situations piégées.

7Utiliser un agent de façon responsable

Confier des actions à un agent, c’est comme confier des tâches à un nouveau collaborateur très rapide, mais sans expérience de l’entreprise et parfois trop sûr de lui. Quelques principes en découlent :

  • Commencer petit : des tâches à faible enjeu, réversibles, avec une supervision étroite, avant d’élargir.
  • Donner le minimum de droits : lecture seule quand c’est possible, accès limité aux dossiers et aux comptes nécessaires, jetons d’accès à durée limitée.
  • Exiger une validation humaine pour les actions irréversibles ou engageantes : envoyer, payer, supprimer, publier, modifier des droits (exercice 5).
  • Isoler les agents qui exécutent du code dans un environnement séparé, comme un conteneur ou une machine virtuelle, sans accès aux données de production (voir les conteneurs).
  • Garder une trace de toutes les actions, pour comprendre et corriger ce qui s’est passé.
  • Prévoir des sauvegardes et un moyen d’annuler.
  • Rester responsable : ce que fait un agent au nom d’une personne ou d’une entreprise engage cette personne ou cette entreprise.

Le droit ne crée pas de statut particulier pour les agents : leurs actions sont celles de la personne ou de l’organisation qui les déploie. Le règlement européen sur l’intelligence artificielle s’applique selon l’usage, avec des obligations renforcées quand un système intervient dans des domaines sensibles comme le recrutement, le crédit ou l’accès aux services publics (voir le règlement européen sur l’IA) ; le RGPD, règlement général sur la protection des données, s’applique dès que l’agent traite des données personnelles. Un tribunal canadien a d’ailleurs jugé en 2024 qu’une entreprise répond des informations données par son robot conversationnel comme de celles de son site (voir le RAG).

Sécurité de l’information

Le coin cyber

Un modèle qui répond peut se tromper ; un agent qui agit peut faire des dégâts. Lui donner des outils, c’est lui donner des droits, et ces droits peuvent être détournés par quiconque parvient à influencer ce qu’il lit. Les attaques sont décrites ici dans leur principe seulement.

C.1La triade dangereuse

Le chercheur britannique Simon Willison a résumé en 2025 la principale menace sous le nom de « triade létale » : un agent qui réunit l’accès à des données privées, l’exposition à des contenus non fiables et la possibilité de communiquer vers l’extérieur peut être manipulé pour faire fuiter ces données (figure 3). Il suffit qu’un contenu lu par l’agent, page Web, courriel, document partagé, ticket, contienne des instructions cachées : c’est l’injection de prompt. Aucune technique ne permet aujourd’hui d’empêcher de façon certaine un modèle de suivre de telles instructions. La protection la plus sûre consiste donc à ne jamais réunir les trois ingrédients sans contrôle, ou à faire valider par un humain les actions qui font sortir des informations (exercice 3).

accès à des données privées exposition à des contenus non fiables possibilité de communiquer vers l’extérieur danger : fuite de données LES TROIS RÉUNIS un contenu piégé peut ordonner à l’agent de lire des données privées et de les envoyer à l’attaquant. POUR SE PROTÉGER : RETIRER AU MOINS UN INGRÉDIENT, OU CONTRÔLER LE PASSAGE limiter les données accessibles filtrer ou isoler les contenus externes bloquer les envois non prévus faire valider chaque envoi par un humain
Figure 3. Quand un agent réunit ces trois capacités, un contenu piégé peut lui faire divulguer des données.

Les canaux de fuite sont parfois discrets : un agent qui affiche une image dont l’adresse contient des données transmet ces données au site qui héberge l’image dès qu’elle se charge. Les éditeurs bloquent progressivement ces canaux, mais de nouveaux sont régulièrement découverts.

C.2Des outils piégés

Les descriptions des outils d’un serveur MCP sont lues par le modèle comme des instructions. Des chercheurs ont montré en 2025 qu’un serveur malveillant peut cacher dans la description d’un outil anodin, une calculatrice par exemple, des consignes qui poussent le modèle à lire des fichiers sensibles ou à détourner les autres outils : c’est l’empoisonnement d’outils. Un serveur peut aussi changer ses descriptions après avoir été approuvé. Les hôtes doivent donc afficher clairement les outils et leurs modifications, et l’on ne doit installer que des serveurs de confiance.

C.3La chaîne d’approvisionnement

Installer un serveur MCP local, c’est exécuter un programme sur sa machine avec ses propres droits. En septembre 2025, des chercheurs ont découvert sur npm, le grand catalogue de bibliothèques JavaScript, un paquet qui imitait le serveur MCP d’un service d’envoi de courriels : après plusieurs versions honnêtes, une mise à jour s’est mise à ajouter en copie cachée l’adresse de l’attaquant à chaque courriel envoyé. Des serveurs distants laissés sans authentification, ou vulnérables à l’injection de commandes, ont aussi été repérés. Les règles habituelles de la sécurité logicielle s’appliquent : sources officielles, vérification de l’éditeur, versions figées, mises à jour examinées, inventaire des serveurs installés.

C.4L’excès d’autonomie

L’OWASP (Open Worldwide Application Security Project) classe l’excès d’autonomie parmi les dix principaux risques des applications à base de modèles de langage : un agent doté de plus de fonctions, de droits ou d’indépendance que nécessaire. Un agent qui n’a besoin que de lire des courriels ne doit pas pouvoir en envoyer ; un agent qui n’a besoin que d’un dossier ne doit pas accéder à tout le disque. Un agent devrait aussi disposer de sa propre identité, distincte de celle de l’utilisateur, avec des jetons d’accès limités dans leur portée et leur durée : on sait ainsi ce qu’il a fait, et on peut lui retirer ses droits sans toucher à ceux de l’utilisateur. C’est l’application aux agents du principe de moindre privilège et du modèle « zéro confiance » (voir le modèle « zéro confiance »).

C.5Idée reçue

« Il suffit d’écrire dans la consigne que l’agent ne doit jamais divulguer de données. » Faux. Une consigne réduit le risque, mais ne constitue pas une barrière : un contenu habilement piégé, une formulation inattendue ou une simple erreur du modèle peuvent la contourner. Les protections efficaces sont techniques et se situent hors du modèle : droits limités, filtrage des actions par l’application, validation humaine, isolement, journalisation.

C.6Bonnes pratiques

Utilisateur

  • N’installer que des serveurs MCP et des extensions d’éditeurs de confiance.
  • Lire les demandes de confirmation avant de valider une action, surtout un envoi ou un paiement.
  • Retirer régulièrement les connexions et autorisations inutilisées.

Organisation

  • Donner à chaque agent une identité propre et des droits minimaux, révocables.
  • Ne pas réunir données sensibles, contenus externes et envois sans validation humaine.
  • Tenir l’inventaire des agents et des serveurs MCP ; journaliser et surveiller leurs actions.

Référentiels : OWASP, Top 10 for LLM Applications (2025), risques LLM01 et LLM06 · OWASP, Agentic AI – Threats and Mitigations (2025) · ANSSI, Recommandations de sécurité pour un système d’IA générative (2024) · spécification du Model Context Protocol, section sécurité.

Références

  1. S. Yao, J. Zhao, D. Yu et al., « ReAct: Synergizing Reasoning and Acting in Language Models », ICLR, 2023.
  2. T. Schick et al., « Toolformer: Language Models Can Teach Themselves to Use Tools », NeurIPS, 2023.
  3. Anthropic, « Introducing the Model Context Protocol », novembre 2024.
  4. E. Schluntz, B. Zhang, « Building effective agents », Anthropic, décembre 2024.
  5. T. Kwa et al., « Measuring AI Ability to Complete Long Tasks », METR, 2025.
  6. S. Russell, P. Norvig, Artificial Intelligence: A Modern Approach, 4e édition, Pearson, 2020.

Voir aussi

Citer cet article

« Les agents d'IA et le protocole MCP », Encyclopédie informatique, révision du 26 octobre 2026.