Surveiller les agents IA en entreprise : par où commencer ?

Pour surveiller un agent IA, il faut pouvoir reconstituer ses décisions, les outils qu’il a appelés, les fichiers ou paramètres qu’il a modifiés et la personne qui doit être alertée quand il se trompe. Cette surveillance ne se règle pas avec les outils habituels de supervision, car un agent ne suit pas un chemin fixé à l’avance.

Une enquête d’Enterprise Technology Research pour l’éditeur d’observabilité New Relic, relayée par l’article d’IT SOCIAL, indique que dans l’échantillon français, plus d’un quart des répondants, soit 27 %, exploitent des agents sans surveillance, tandis que 21 % seulement disent les suivre activement. Le rapport est publié par un éditeur qui commercialise la surveillance dont il fait la promotion, et ses résultats reposent sur des déclarations. Il laisse aussi ouverte la question de ce que suivre un agent signifie concrètement, qu’il s’agisse d’un journal, d’une mesure ou d’une alerte.

Quelle différence avec la supervision d’une application classique ?

La différence tient à la prévisibilité du comportement. Selon l’article d’IT SOCIAL, les outils de supervision ont été pensés pour des applications au comportement prévisible : une panne ou un ralentissement se signale, et la télémétrie indique où chercher.

Un agent, lui, prend ses décisions au fil de la tâche. Il mobilise des outils et modifie des fichiers ou des paramètres, et une même demande peut suivre deux chemins différents.

Un standard ouvert comme OpenTelemetry, qui collecte traces, métriques et journaux, permet de faire entrer les actions de l’agent dans la même télémétrie que les systèmes qu’il touche. Si un agent modifie l’infrastructure, ses actions doivent remonter dans ce flux, faute de quoi on ne peut pas le suivre. Demandez à la personne qui exploite vos systèmes si c’est le cas. Si la réponse est non, l’agent tourne sans témoin.

Quels agents tournent déjà dans votre entreprise ?

Listez les agents réellement en production, processus par processus, avant de parler de supervision. Pour chacun, notez la demande qui le déclenche, les données qu’il lit, les outils auxquels il accède et les actions qu’il peut lancer seul.

Ajoutez une colonne « qui répond » : une personne nommée doit pouvoir dire si l’agent continue, est limité ou est arrêté. Sans ce nom, les alertes existent mais personne ne les traite. C’est pourquoi nous partons d’un audit de processus, sur un cas concret tiré du travail de l’équipe, avant de choisir un outil.

Que faut-il journaliser pour comprendre une action ?

Un journal utile garde la trace de ce qui a déclenché une action, de ce que l’agent a décidé et de ce qu’il a touché. Il doit permettre de répondre à trois questions :

• quelle demande ou quel événement a déclenché l’action ;
• quel outil a été appelé, avec quels paramètres, et quelle donnée a été lue ou modifiée ;
• quel résultat a été obtenu, et qui a validé lorsque la validation était requise.

Côté données, la CNIL rappelle que la sécurité des systèmes d’IA doit être pensée pendant le développement comme en vue du déploiement. Si le journal contient des données personnelles, vérifiez avec votre délégué à la protection des données ce qui y est écrit et combien de temps il est conservé.

Testez-le sur une exécution réelle : retrouvez-vous la demande, l’outil appelé et la donnée touchée ? Si un de ces éléments manque, le journal ne suffit pas à expliquer l’action.

Qui est alerté, et qui peut arrêter l’agent ?

Une alerte doit indiquer ce qui ne fonctionne pas et la personne qui doit agir. Pour chaque cas qui sort de la règle, définissez ce que l’agent fait seul, ce qu’il suspend et qui reprend la main : doublon, donnée manquante, outil indisponible, reprise après panne.

Imaginons un agent qui relance des factures impayées. Après une panne, il ne doit pas renvoyer une relance déjà partie, et la trace doit montrer ce qui a été fait avant l’interruption. Les décisions qui engagent, comme payer, promettre une date ou envoyer un document à un client, gardent une validation humaine : l’agent prépare, la personne décide.

Testez un cas simple : coupez l’accès à un outil pendant une exécution de test, puis vérifiez que l’alerte arrive à la personne nommée et que l’agent s’arrête là où vous l’avez prévu. Chez Blink, chaque client reçoit son portail, où il pilote ses automatisations, et l’endroit où l’équipe lit les alertes se choisit dès la conception.

Faut-il anticiper le règlement européen sur l’IA pour les agents ?

Oui, si votre agent relève d’un usage à haut risque. Selon l’article d’IT SOCIAL, les obligations de ces systèmes à haut risque, dont la journalisation automatique et la surveillance humaine, entrent en application le 2 décembre 2027 pour les systèmes autonomes.

Les obligations de transparence du règlement européen sur l’IA sont en vigueur depuis le 2 août 2026. L’article cite le recrutement et la notation de crédit comme exemples de ces usages.

Si un agent intervient dans le recrutement ou la notation de crédit, faites vérifier le périmètre par votre juriste avant la mise en production. Pour les autres usages, listez ce que vous voudriez pouvoir prouver à un client ou à un auditeur, et les traces qui le permettent.

Par quoi commencer, et combien coûte la surveillance ?

Commencez par un seul agent en production et refaites son parcours sur quelques exemples réels, avec la personne qui le valide.

Le coût ne se lit pas dans un tarif unique, et les sources consultées ne donnent pas de prix pour ce type de surveillance. Un devis doit détailler le cadrage, la journalisation et les alertes, les licences éventuelles, la consommation des modèles, l’hébergement des traces et la maintenance. Méfiez-vous d’un devis qui ne mentionne ni les journaux ni leur maintenance.

Pour votre coût interne, multipliez le temps passé chaque mois à relire les traces et à traiter les alertes par votre coût horaire chargé. Ce résultat ne mesure pas à lui seul le gain : comparez-le au temps gagné sur le travail réel, erreurs et contrôles compris.

Blink peut vous aider à cadrer un audit de processus sur vos agents en production, puis à construire les traces et les alertes autour de votre travail réel.