Les agents autonomes sont là. La sécurité et la conformité doivent les attendre à la porte

Pendant deux ans, la plupart des entreprises ont découvert l'IA sous la forme d'une fenêtre de discussion : une personne pose une question, le modèle répond, et la personne décide quoi faire. Cela change vite. Les grandes plateformes d'IA proposent désormais des agents toujours actifs qui continuent de travailler vers un objectif une fois la conversation terminée, se connectent à des milliers d'applications métier et ne reviennent vers une personne que lorsqu'ils estiment en avoir besoin. Dans le même temps, les entreprises mettent leurs propres agents en production, reliés à leur ERP, à leur CRM et à leurs systèmes de paiement.

Un agent qui agit seul est un autre type de logiciel, et il pose des questions différentes à une équipe de sécurité comme à une équipe de conformité.

Ce qui change pour la sécurité

Une autorité sans personne dans la boucle. Un agent agit avec les identifiants qu'on lui a donnés, à toute heure, et la plupart de ses actions ne sont jamais regardées par personne. La question n'est plus de savoir si une personne approuvera une erreur. C'est ce que l'agent peut atteindre avant que quelqu'un ne s'en aperçoive.

Les instructions arrivent dans le contenu. Un agent lit des documents, des e-mails, des pages web et les réponses d'autres outils. Chacun d'eux peut contenir des instructions écrites par quelqu'un d'autre, et l'agent peut les suivre comme si elles venaient de vous. C'est l'injection d'instructions, et elle n'exige aucune intrusion. Il suffit que l'agent lise quelque chose.

Vitesse et échelle. Une personne qui fait une erreur la fait une fois. Un agent peut la répéter des centaines de fois en quelques minutes, ou la propager aux autres agents avec lesquels il travaille.

Les agents fonctionnent là où vous n'avez pas la main. Un agent toujours actif proposé par une plateforme d'IA fonctionne sur les ordinateurs de ce fournisseur. Vous ne pouvez rien installer à l'intérieur, ni lire ce qu'il y fait.

Ce qui change pour la conformité

Auditeurs, régulateurs et assureurs posent la même question quand un problème survient : que s'est-il passé, qui l'a permis, et pouvez-vous le prouver. Les lois commencent à la poser à l'avance. Le règlement européen sur l'IA, par exemple, impose aux systèmes d'IA à haut risque de conserver des journaux automatiques de leur activité. Des référentiels comme SOC 2 et ISO 27001 attendent la preuve que les accès sont maîtrisés et que les changements sont traçables.

Un agent complique cela de deux façons. Ses actions sont nombreuses et rapides, donc les preuves doivent être collectées automatiquement. Et souvent, le seul journal est celui du fournisseur, c'est-à-dire sa version des faits, et non une preuve que l'entreprise détient et peut contrôler elle-même.

Une seule porte que vous contrôlez

Excubitor part d'une position simple : on ne rend pas un agent digne de confiance en lui demandant de bien se comporter. On peut en revanche décider de ce qu'il atteint, contrôler chaque action au moment où elle se produit, l'arrêter sans sa coopération, et conserver un registre que personne ne peut réécrire en silence.

Pour les agents que vous exploitez vous-même, Excubitor se place là où l'agent agit. Chaque appel d'outil est contrôlé par rapport à la politique de l'agent avant de s'exécuter. Les connexions sortantes sont contrôlées par rapport aux destinations que vous avez autorisées, quelle que soit la bibliothèque qui les ouvre. Les appels au modèle sont lus à l'aller et au retour, de sorte qu'un secret est refusé avant de sortir. Les instructions cachées dans la description ou la réponse d'un outil sont tenues hors de portée de l'agent. Une exécution qui s'emballe est contenue par une règle, n'importe qui peut geler un agent, et tout ce qui est irréversible attend une personne nommée.

Pour les agents qui fonctionnent dans le cloud d'un fournisseur, personne en dehors du fournisseur ne peut voir à l'intérieur, et nous ne prétendons pas le contraire. Ce qu'une entreprise contrôle, c'est ce que ces agents atteignent. Placez la passerelle d'Excubitor devant les systèmes qui vous appartiennent, et chaque action qu'un agent externe y réalise est contrôlée avant de s'exécuter, peut être arrêtée par votre équipe et est signée dans votre registre. L'identifiant de l'agent est contrôlé à la passerelle et jamais transmis, si bien qu'il ne détient jamais les clés des systèmes situés derrière. Les systèmes trop sensibles pour un agent externe restent en dehors de ses connecteurs directs.

Des preuves pour ceux qui les demandent

Chaque action, chaque refus et chaque arrêt devient un enregistrement chaîné au précédent et signé toutes les heures. Sur notre service hébergé, un enregistrement peut être prouvé à un auditeur ou à un assureur grâce à une courte preuve qu'ils contrôlent hors ligne, avec notre clé publique, sans voir le reste du registre. Les enregistrements conservent des empreintes, pas le contenu, pour que les preuves ne deviennent pas une nouvelle copie de données sensibles.

Nous sommes précis sur ce que cela est et n'est pas. Excubitor ne certifie personne, et nous ne revendiquons aucune correspondance avec une réglementation en votre nom. Il fournit à vos évaluateurs des preuves qu'ils peuvent rattacher à vos propres contrôles, et vous permet de répondre à la question « qu'a fait l'agent ? » avec quelque chose de plus solide que la parole d'un fournisseur.

Par où commencer

Choisissez un agent qui compte. Écrivez ce qu'il doit pouvoir atteindre et à quoi ressemble la réussite. Placez-le derrière Excubitor pendant trente jours, dans votre propre environnement si vos données l'exigent, et laissez votre équipe contrôler les enregistrements avec ses propres outils.

Les agents autonomes feront chaque trimestre une plus grande part du travail des entreprises. Celles qui les adopteront le plus vite seront celles qui peuvent montrer, à tout moment, ce que leurs agents ont fait et qu'elles auraient pu les arrêter. Géré avec des preuves, jamais sur parole.