Gouverner l'IA agentique de la règle jusqu'à l'exécution

Deux annonces, à quelques jours d'intervalle :

• Le 5 octobre, Collibra annonçait l'acquisition de Trail ML, une jeune pousse munichoise fondée en 2023, dont les agents évaluent en continu la conformité d'un système d'IA et peuvent bloquer en production une action qui viole une politique. 

• Quelques jours plus tard, à la TrustWeek de Las Vegas, OneTrust présente CORIE, une couche d'intelligence partagée qui applique les règles en temps réel pendant que les agents travaillent à travers les systèmes de l'entreprise, sur cinq piliers : contexte, orchestration, raisonnement, intelligence et preuve.

Le message est clair : la gouvernance de l'IA sort du classeur. Souvent, gouverner un système d'IA consistait à produire des documents, une politique d'usage, une analyse d'impact, une fiche de risque. Ces documents décrivent une intention mais ne contrôlent rien. 

Avec des agents qui agissent jour et nuit, enchaînent des appels d'outils et prennent des décisions sans validation humaine à chaque étape, une gouvernance qui ne s'exécute pas n'est plus une gouvernance, c'est une archive.

Mais ces deux annonces posent aussi, en creux, une question que les éditeurs ne peuvent pas résoudre à la place de leurs clients : que gouverne-t-on exactement, et qui en répond ?

Le rachat de Trail ML est cohérent avec la trajectoire de Collibra, née de la gouvernance des données et qui revendique plus de 700 clients. Philippe Nieuwbourg, qui a analysé l'opération, en souligne le point de bascule : la gouvernance se déplace vers l'automatisation, un terrain nettement plus critique. Et il rappelle une évidence que le marché risque d'oublier : « on n'automatise pas la responsabilité ».

Chez OneTrust, l'histoire racontée sur scène par Digvijay Lamba, directeur produit et technologie, est éclairante. Une product manager dans une banque construit un petit agent qui approuve des opérations. Il fonctionne, ses collègues l'adoptent, puis lui demandent davantage : naviguer sur Internet, accéder à Salesforce, envoyer des messages, lancer des workflows. Très vite, plus personne ne sait si l'agent en production est encore celui qui avait été approuvé. 

Sa conclusion : le métier de la gouvernance n'a pas changé (décider du risque, agir, prouver qu'on l'a fait), c'est l'arithmétique qui a changé, parce que les agents travaillent en continu.

Le cinquième pilier de CORIE, la preuve, est le plus significatif : quand un conseil d'administration, un auditeur ou un régulateur pose la question, la preuve doit déjà exister.

Ces deux mouvements valident un diagnostic que nous partageons. Ils laissent pourtant un angle mort.

L'angle mort : un moteur d'exécution sans référentiel

Un moteur de contrôle en temps réel applique des règles à des objets. Il suppose donc que ces objets sont connus, nommés, classés et rattachés à un responsable. Or ce n'est pas souvent le cas. Les agents existent dans la stack technique, les risques dans un document Word, les contrôles de conformité dans un tableur, les skills et serveurs MCP nulle part. 

Brancher un moteur d'exécution sur ce paysage revient à automatiser un vide : on bloque ce qu'on sait décrire et on laisse passer tout le reste. L'histoire de l'agent bancaire racontée par OneTrust n'est pas d'abord un problème d'exécution. C'est un problème de référentiel : l'agent a changé de périmètre (nouveaux outils, nouvelles données, nouvelles actions) sans que rien ne l'enregistre. Aucun moteur temps réel ne peut détecter une dérive par rapport à un état de référence qui n'a jamais été modélisé.

C'est la raison pour laquelle, dans l'approche Meridian Responsible Agentic, nous distinguons trois niveaux qui doivent être reliés : le référentiel (ce qui existe et qui en répond), la politique (les règles dérivées des cadres normatifs) et l'exécution (l'application de ces règles au moment où l'agent agit). Collibra et OneTrust arment le troisième niveau. Les deux premiers restent le travail de l'organisation.

Le référentiel agentique, concrètement : ce que nous avons modélisé dans Boldo

Pour rendre ce référentiel opérationnel, nous avons étendu le métamodèle de l'outil d'architecture d'entreprise Boldo d'une couche de gouvernance agentique. Le métamodèle compte aujourd'hui 22 types d'actifs répartis en six couches (métier, données, agentique, applicative, technologique et transversale) et 95 relations, dont 40 impliquent au moins une entité agentique. Dix entités sont nouvelles, deux entités du socle (l'agent IA et le risque) ont été enrichies, qui correspondent terme à terme avec les cinq piliers de CORIE.

• Le contexte correspond aux corpus de connaissance (bases RAG, ontologies, dépôts documentaires), qualifiés par leur niveau de sensibilité, leur statut de consentement et leur politique de fraîcheur, et reliés aux capacités et processus métier que l'agent sert.

• L'orchestration correspond à l'entité orchestrateur, qui distingue explicitement l'orchestration métier gouvernée de l'orchestration technique d'intégration, avec son niveau de traçabilité et l'activation du contrôle d'accès par rôles, ainsi qu'aux workflows agentiques typés selon neuf motifs d'architecture.

• Le raisonnement correspond à la décision agentique, traitée comme une entité de première classe : chaque décision porte son score de confiance, le seuil appliqué, le déclenchement ou non d'une escalade, sa réversibilité, son impact métier et sa trace d'explicabilité, conformément à l'exigence de transparence de l'article 13 de l'AI Act.

• L'intelligence correspond aux risques qualifiés selon neuf types propres à l'agentique (dérive comportementale, injection de prompt, mauvais usage d'outil, risque de chaîne d'approvisionnement des skills, coût opérationnel, défaut d'explicabilité, entre autres) et aux actifs de benchmark qui évaluent les agents.

• La preuve correspond aux contrôles de conformité, avec leur type de preuve et leur fréquence (jusqu'au contrôle continu), rattachés à un ou plusieurs cadres réglementaires : AI Act, ISO/IEC 42001, RGPD article 22, IMDA Singapour, MiFID II. Ce rattachement multiple permet de modéliser le recouvrement d'environ 80 % entre l'AI Act et ISO 42001, et d'éviter de produire deux fois la même preuve.

Quant au blocage en production apporté par Trail ML, il a lui aussi sa place : c'est l'entité garde-fou, avec son point d'application (avant, pendant ou après l'exécution) et son attribut d'arrêt impératif. Avec une règle de modélisation : le garde-fou contraint l'agent de l'extérieur, et chaque agent est relié à un acteur humain qui en est responsable. La responsabilité ne réside jamais dans l'agent lui-même.

La complémentarité devient alors évidente. Le référentiel dit à l'outil d'exécution quoi contrôler et selon quelles règles. L'outil d'exécution renvoie au référentiel les décisions tracées et les preuves produites. Sans le premier, le second contrôle à l'aveugle. Sans le second, le premier reste un document de plus.

Un plan d'action en six étapes

Voici comment nous structurons la mise en place d'une gouvernance agentique avec Meridian Responsible Agentic, en suivant les trois postures de la méthode.

Posture Suggérer

1. Inventorier tout ce qui agit. Instancier dans le référentiel les agents, mais aussi les skills, plugins et serveurs MCP qu'ils invoquent, et les corpus qu'ils consomment. Pour chaque agent : son niveau d'autonomie, sa classification AI Act, son cycle de vie et, surtout, un responsable nommé. Trois questions servent de test : combien d'agents et d'extensions non déclarés tournent aujourd'hui dans votre système d'information, en combien de temps seraient-ils découverts, et qui a l'autorité pour les arrêter ?

2. Qualifier les risques agentiques. Rattacher chaque risque aux agents, outils et décisions qu'il affecte, le typer selon la nomenclature agentique, et mesurer la maturité avec le diagnostic GAME : la maturité se lit sur la dimension la plus faible, jamais sur la moyenne.

Posture Faciliter

3. Dériver les garde-fous des cadres normatifs. Chaque cadre applicable produit des garde-fous, chaque garde-fou atténue des risques identifiés, chaque contrôle de conformité couvre un ou plusieurs cadres. C'est ici que se construit la politique que l'outil d'exécution appliquera.

4. Matérialiser les points de validation humaine. Pour chaque workflow, définir quand l'humain intervient, avec quel rôle de validateur, quel délai et quelle politique de repli. C'est la traduction concrète de la supervision humaine exigée par l'AI Act, et le cœur de la gouvernance dynamique.

Posture Accompagner

5. Brancher l'exécution sur le référentiel. Choisir l'outil d'application en temps réel (les offres de Collibra et de OneTrust en font désormais partie) en fonction du référentiel déjà construit, et non l'inverse. Les décisions tracées et les preuves alimentent le référentiel en retour, ce qui permet de détecter qu'un agent a changé de périmètre.

6. Évaluer en continu et certifier. Faire tourner les benchmarks à chaque évolution d'un agent, d'un corpus ou d'un outil, piloter la conformité en continu et conduire l'organisation jusqu'à la certification ISO/IEC 42001.

Ce qu'il faut retenir

Le marché vient de trancher une question : la gouvernance de l'IA agentique sera exécutable ou ne sera pas. Il en laisse une autre ouverte, et c'est la plus importante : l'exécution ne remplace pas la modélisation, et l'automatisation ne remplace pas la responsabilité. Les organisations qui achèteront un moteur de contrôle avant d'avoir construit leur référentiel découvriront qu'elles ont automatisé leurs angles morts. Celles qui feront l'inverse disposeront, le jour où le régulateur, l'auditeur ou le conseil d'administration posera la question, d'une réponse déjà prête.

L'autonomie sans gouvernance produit de la dette. La gouvernance sans autonomie produit de l'inertie. Entre les deux, il y a un référentiel.