Gouvernance avec humain dans la boucle

L'autonomie avec un bouton d'arrêt

Les agents autonomes sont utiles jusqu'à l'instant précis où ils font quelque chose d'irréversible. EDDI 6.2.0 introduit la gouvernance avec humain dans la boucle : des points d'approbation explicites à trois niveaux de granularité, appuyés par des politiques de délai, une détection des boucles et un état qui survit à un redémarrage. Les approbations relèvent de la configuration, pas d'un code applicatif spécifique.

Pourquoi les points d'approbation appartiennent à la plateforme

La plupart des équipes greffent les approbations sur la couche applicative : une file ici, un webhook là, un indicateur en base ailleurs. Cette approche casse dès qu'un processus redémarre, qu'un approbateur se déconnecte ou qu'un agent réessaie la même requête en boucle. EDDI place le contrôle au cœur du pipeline de conversation. Un tour en pause le reste, toute entrée concurrente est rejetée par un 409 Conflict explicite, et chaque décision rejoint la piste d'audit du reste du cycle de vie de l'agent.

Trois niveaux d'approbation

• Approbation au niveau du tour : une action PAUSE_CONVERSATION arrête tout le pipeline. Tant qu'un humain ne l'a pas repris, toute saisie utilisateur renvoie 409 Conflict, si bien que rien ne devance la décision en attente.
• Contrôle par appel d'outil : chaque invocation d'outil peut exiger une approbation humaine avant exécution. Des listes d'autorisation et d'exemption à motifs glob définissent précisément ce qui est contrôlé, pour les outils intégrés, HTTP, MCP, A2A, dynamiques et de mémoire.
• Approbation des phases de groupe : les phases de discussion multi-agents peuvent exiger une validation humaine à la granularité PHASE ou TASK, pour qu'un groupe ne passe pas de la planification à l'exécution sans supervision.

Politiques de délai

Les humains ne sont pas un service à haute disponibilité. Chaque point de contrôle déclare ce qui se produit quand personne ne répond à temps :

• WAIT_INDEFINITELY : l'exécution reste en pause jusqu'à ce qu'un humain tranche. Pour tout ce qui ne doit jamais s'exécuter sans surveillance.
• AUTO_APPROVE : on poursuit à l'expiration du délai. Adapté aux actions à faible risque où la supervision est un sondage, pas un verrou.
• AUTO_REJECT : l'action en attente est refusée et l'agent poursuit sur sa branche de rejet.
• ABORT : l'exécution est arrêtée net, le choix le plus sûr pour les opérations irréversibles ou à fort impact.

Conçu pour tenir en production

Un système d'approbation se juge sur ses pires journées : un redémarrage en pleine revue, un agent qui repose sans cesse la même question, un approbateur qui vit dans Slack et non dans votre interface d'administration.

• Garde anti-blocage : EDDI calcule une empreinte pour chaque pause. Quand des empreintes identiques réapparaissent après des décisions automatisées, il reconnaît une boucle d'approbation infinie et la rompt au lieu d'y consommer des tokens.
• Reprise après incident : les approbations en attente survivent aux redémarrages du serveur et les minuteurs de délai sont réarmés automatiquement, si bien qu'un déploiement progressif ne perd jamais silencieusement une décision en cours.
• Approbations Slack : des cartes Block Kit interactives portent la décision jusqu'à l'approbateur, avec un aperçu des arguments expurgé et des listes blanches d'approbateurs pour que seules les personnes autorisées puissent agir.
• Approbations MCP : des clients externes listent les approbations en attente et les acceptent ou les refusent via des outils MCP, inclus dans les 77 outils, ce qui transforme votre IDE ou client d'agent en plan de contrôle.

Gouvernance et conformité

La supervision humaine n'est pas qu'une préférence opérationnelle, c'est une exigence réglementaire. Les points d'approbation donnent une mise en œuvre concrète au contrôle humain de l'article 14 du EU AI Act : une personne identifiée autorise une action précise, et la décision est consignée. Avec le cadre de conformité d'EDDI et sa piste d'audit HMAC-SHA256, vous pouvez montrer à un auditeur non seulement ce qu'un agent a fait, mais aussi qui l'a autorisé et quand.