La Réponse Courte
La question n'est pas de savoir si l'humain doit être dans la boucle, mais où précisément. Approuver chaque étape annule les gains d'efficacité et génère une fatigue qui mène à des approbations automatiques. L'absence d'approbation pour des actions irréversibles entraîne des incidents qui remontent à la direction.
La méthode pratique consiste à décomposer le processus en actions individuelles, à classer chaque action selon son caractère réversible et son impact, puis à choisir un modèle d'approbation approprié : bloquant, a posteriori ou par échantillonnage. Ensuite, il s'agit de concevoir l'interface de décision afin que l'approbation soit un véritable jugement et non un simple clic.
Le cadre de gouvernance dans lequel ces décisions sont prises est détaillé dans Gouvernance de l'IA pour Agentforce.
Matrice de Décision : Réversibilité vs. Impact
| Impact Faible | Impact Élevé | |
|---|---|---|
| Facilement Réversible | Aucune approbation, surveillance uniquement | Échantillonnage d'un pourcentage des cas pour audit |
| Réversible avec Coût | Audit a posteriori | Approbation bloquante avant exécution |
| Irréversible | Approbation bloquante avant exécution | Approbation bloquante + justification écrite + piste d'audit |
La réversibilité se mesure à l'aide de trois questions : combien de temps faut-il pour annuler, combien cela coûte-t-il, et qui est exposé avant l'annulation. Un message envoyé à un client n'est pas réversible, même si une correction peut être envoyée : l'impression est déjà faite. Une mise à jour de champ interne est réversible en une seconde et ne justifie donc pas un arrêt.
Les Trois Modèles d'Approbation
L'approbation bloquante arrête l'action jusqu'à la décision d'une personne. C'est le modèle le plus coûteux en temps et est donc réservé aux actions irréversibles ou à fort impact. La règle : si nous arrêtons, la personne doit avoir tout ce dont elle a besoin pour prendre une décision sur un seul écran.
L'audit a posteriori permet à l'agent d'agir et de soumettre le résultat pour examen dans un délai défini. Cela convient aux actions réversibles à faible coût et nécessite deux conditions : un délai court et un bouton d'annulation qui fonctionne réellement.
L'échantillonnage examine un pourcentage des cas et non la totalité. C'est le bon modèle pour les actions à volume élevé et à faible impact, et c'est aussi le mécanisme de qualité qui permet, par la suite, de justifier la suppression d'une approbation bloquante ailleurs.
Conception de l'Écran de Décision
C'est la partie qui détermine si le facteur humain dans la boucle (Human-in-the-Loop) est réel ou formel. Un écran qui affiche uniquement l'action proposée reçoit une approbation automatique. Un écran qui nécessite l'ouverture de trois onglets pour vérifier entraîne des retards et des contournements.
Quatre composants doivent apparaître ensemble : l'action proposée sur une seule ligne, la justification en langage métier, la source sur laquelle l'agent s'appuie avec un lien vers l'extrait récupéré, et le niveau de certitude ou les indicateurs activés. En dessous, trois options et non deux : approuver, refuser avec motif, et modifier avant exécution.
Le motif du refus est l'actif le plus précieux du processus. Il génère l'ensemble d'entraînement et de test pour la prochaine version, et doit donc être une courte liste de motifs courants plutôt qu'un champ de texte libre que personne ne remplit.
La manière de surveiller ces décisions au fil du temps est expliquée dans Observabilité pour les Agents IA.
Prévention du "Rubber Stamping" (Approbation Automatique)
La fatigue d'approbation est un échec prévisible, et non une surprise. Trois signes avant-coureurs : un temps de décision moyen qui descend en dessous de quelques secondes, un taux de refus qui avoisine zéro, et des approbations concentrées en fin de shift.
Le traitement ne réside pas dans la formation, mais dans la conception. On réduit le nombre d'approbations en supprimant les arrêts inutiles pour les actions réversibles, on ajoute un échantillonnage a posteriori qui crée de la responsabilité, et on fournit au validateur un feedback sur la qualité de ses décisions. Lorsqu'un validateur sait qu'un pourcentage de ses décisions est vérifié, l'engagement revient.
Un indicateur clé : si le taux de corrections est nul pendant des mois, soit l'agent est excellent et on peut réduire les arrêts, soit personne ne lit. L'échantillonnage fait la distinction entre les deux.
Quand et Comment Supprimer un Point d'Approbation
La suppression est une décision basée sur des données et non sur une intuition. Trois conditions cumulatives : un volume suffisant de décisions documentées dans la catégorie, un faible taux de corrections stable sur plusieurs mois consécutifs, et un mécanisme d'annulation ou de suspension qui a été réellement testé.
La suppression s'effectue par étapes. D'abord pour un sous-ensemble étroit — par exemple, uniquement les montants inférieurs à un certain seuil, uniquement les clients dans un segment défini, uniquement pendant les heures d'ouverture. Ensuite, on mesure pendant un mois. Ce n'est qu'après cela que l'on étend. Parallèlement, un échantillonnage a posteriori reste en place même après la suppression, sinon il n'y a aucun moyen de détecter une dégradation.
Il faut également une condition de retour : si le taux d'erreur dépasse un seuil prédéfini, l'approbation bloquante est automatiquement restaurée. Sans une condition de retour écrite, la décision de supprimer devient elle-même irréversible.
Scénario : Un Centre de Service qui a Supprimé la Mauvaise Approbation
Une entreprise de télécommunications a mis en place un agent qui préparait les réponses aux demandes de facturation. Dans la première version, chaque réponse nécessitait l'approbation d'un agent, y compris les réponses de statut simples. Le temps de traitement n'a que légèrement diminué, et les agents se sont plaints de lire le même texte à plusieurs reprises.
L'équipe a analysé 4 000 approbations et a découvert que 78 % d'entre elles concernaient uniquement des réponses informatives, entièrement réversibles et à faible impact. Le taux de corrections dans cette catégorie était inférieur à un pour cent. En revanche, dans la catégorie des avoirs, le taux de corrections était significativement plus élevé.
La décision : suppression de l'approbation bloquante pour les réponses informatives, avec un échantillonnage d'un pourcentage d'entre elles pour un audit hebdomadaire ; renforcement de l'approbation pour les avoirs et ajout d'une obligation de justification écrite au-delà d'un certain montant. Le temps de traitement a diminué de manière significative et les rejets dans la catégorie des avoirs ont même augmenté — signe que les validateurs ont recommencé à lire.
Risques et Actions Préventives
| Risque | Apparence | Action Préventive |
|---|---|---|
| Approbation systématique | La valeur est diluée et les utilisateurs contournent le processus | Matrice de Réversibilité vs. Impact pour chaque action |
| Approbation automatique | Temps de décision de quelques secondes et zéro rejet | Échantillonnage a posteriori et feedback personnalisé au validateur |
| Écran sans justification | Le validateur ne peut pas juger objectivement | Afficher la justification, la source et le niveau de certitude sur un seul écran |
| Suppression prématurée | Erreur en production après quelques bonnes semaines | Seuils de suppression mesurables, extension par étapes et condition de retour |
| Absence de documentation des rejets | Aucune leçon à tirer pour la prochaine version | Liste courte de raisons de rejet et examen hebdomadaire |
Indicateurs
| Indicateur | Ce qu'il révèle | Fréquence |
|---|---|---|
| Taux d'arrêt | Pourcentage d'actions ayant requis une approbation | Hebdomadaire |
| Taux de correction | Pourcentage de cas où l'approbateur a modifié ou refusé | Hebdomadaire |
| Temps de décision médian | L'approbateur lit-il réellement ? | Hebdomadaire |
| Résultats de l'échantillonnage | Erreurs approuvées | Mensuel |
| Temps réel d'annulation | Le mécanisme de retour fonctionne-t-il ? | À chaque version |
Lorsque vous avez besoin d'un accompagnement pour la planification des points d'approbation et leur adaptation à la réglementation applicable à votre organisation, les services Agentforce et IA constituent la voie pratique à suivre.
Liste de Contrôle
- Le processus a été décomposé en actions individuelles
- Chaque action a été classée selon sa réversibilité et son impact
- Un modèle d'approbation a été choisi pour chaque action : bloquant, a posteriori ou échantillonnage
- Le validateur a été défini selon l'autorité existante dans le processus
- L'écran de décision affiche l'action, la justification, la source et le niveau de certitude
- Une option de correction existe, et pas seulement d'approbation ou de rejet
- Les motifs de rejet sont documentés dans une liste courte
- Des seuils mesurables pour la suppression de l'approbation et les conditions de retour ont été définis
- Le mécanisme d'annulation a été testé en pratique et pas seulement planifié