La réponse courte
Une bonne gouvernance de l'IA n'est pas une couche d'approbation supplémentaire, mais un mécanisme permettant de trancher rapidement les questions récurrentes : qui décide de ce qu'un agent est autorisé à faire, quels sont les contrôles obligatoires selon le niveau de risque, et ce qui est nécessaire pour modifier son comportement après le déploiement. Sans un tel mécanisme, chaque nouvel agent donne lieu à une nouvelle discussion à partir de zéro.
Le principe central est la classification. Un agent interne qui consulte des informations sans rien écrire ne devrait pas suivre le même processus qu'un agent qui interagit avec des clients et effectue des remboursements. Un processus uniforme entraîne soit un blocage, soit un contournement, et généralement les deux.
Classification des risques : la base de toutes les autres décisions
| Niveau | Caractéristiques | Approbateurs | Contrôles obligatoires |
|---|---|---|---|
| Faible | Interne, lecture seule, pas de données client sensibles | Propriétaire du processus + Gestionnaire de plateforme | Ancrage approuvé, journal des conversations, examen mensuel |
| Moyen | Interne avec écriture réversible ou divulgation d'informations au client | + Architecte + Représentant Data | Jeu de tests, tests de persona, surveillance hebdomadaire |
| Élevé | Interaction client, argent, autorisations ou données irréversibles | + Risque, Juridique et CISO | Approbation humaine, piste d'audit complète, plan de restauration |
| Interdit | Décisions ayant une incidence juridique ou réglementaire directe sans intervention humaine | - | Cas d'utilisation rejeté ou divisé en une sous-tâche de niveau inférieur |
La classification est déterminée par seulement trois questions : l'action est-elle réversible, qui est exposé au résultat, et quel type d'informations intervient dans le processus. Trois questions auxquelles il est possible de répondre en dix minutes, ce qui rend le modèle utilisable.
Les trois rôles à attribuer
Le propriétaire commercial est responsable du résultat, il définit ce que l'agent est autorisé à faire et tranche en cas de conflit. C'est lui qui devra expliquer à la direction pourquoi l'agent a répondu de telle manière, il est donc impossible de laisser ce rôle vacant ou de le partager entre deux responsables.
Le propriétaire technique est responsable de la mise en œuvre, de la surveillance, du processus de changement et du coût. Il tient le registre des agents et le guide d'exécution pour la gestion des pannes.
Un auditeur indépendant – généralement un représentant des risques ou de la sécurité de l'information – n'est pas impliqué dans la construction et peut donc effectuer des vérifications. Son rôle est d'échantillonner les conversations, de vérifier que les contrôles déclarés fonctionnent et de soumettre les constatations au comité de décision. Sans une partie qui n'est pas intéressée par le succès du projet, le contrôle devient une auto-déclaration.
Le modèle de responsabilité avec Salesforce et les fournisseurs de modèles est détaillé dans Sécurité d'Agentforce et responsabilité partagée.
Registre des agents
C'est le seul document auquel il ne faut pas renoncer. Il n'a pas besoin d'être un système – un tableau mis à jour est suffisant – mais il doit être à jour. Pour chaque agent actif : objectif en une phrase, propriétaires commerciaux et techniques, niveau de risque, canaux actifs, liste des Actions et de leurs autorisations, sources d'ancrage, points d'approbation humaine, date du dernier examen et les trois KPI principaux.
Le registre résout un problème qui apparaît la deuxième année : la prolifération des agents. Lorsque chaque équipe construit son propre agent, on découvre trois agents qui répondent à la même question de trois manières différentes, et personne ne sait qui a approuvé le troisième.
Processus de changement après le déploiement
La distinction entre un changement courant et un changement substantiel est ce qui empêche une gouvernance paralysante. Un changement courant – reformulation, correction de la formulation d'une réponse, ajout d'un article de Knowledge existant à l'index – suit le processus de changement habituel de la plateforme. Un changement substantiel nécessite une nouvelle approbation au niveau approprié.
Quatre changements sont toujours substantiels : l'ajout d'une nouvelle Action, l'élargissement d'une autorisation, l'ouverture d'un nouveau canal et la suppression ou l'assouplissement d'un point d'approbation humaine. Ce sont précisément les changements qui sont effectués en douce sous la pression d'améliorer les performances, et ils doivent donc être signalés à l'avance.
Les mécanismes de surveillance qui alimentent le processus de changement sont détaillés dans Observabilité pour les agents IA.
Ce que la gouvernance examine concrètement, trimestriellement
L'examen trimestriel n'est pas une présentation de statut. Il examine cinq points : si les agents enregistrés sont toujours nécessaires, si les contrôles déclarés fonctionnent par échantillonnage, si le coût par rapport au résultat est justifié, quelles escalades récurrentes indiquent un manque de contenu, et si les changements substantiels ont suivi le processus correct.
Le résultat de l'examen est une liste de décisions : étendre, réduire, suspendre ou fermer un agent. Une gouvernance qui ne peut pas fermer un agent n'est pas une gouvernance – c'est une documentation.
Cas d'étude : Un détaillant qui a repris le contrôle sans arrêter le développement
Une chaîne de détail a découvert sept initiatives d'IA parallèles dans quatre départements, sans registre et sans que le service des risques en soit informé. La première réaction proposée fut un gel généralisé jusqu'à l'établissement d'une politique – une mesure qui aurait également gelé les deux initiatives qui produisaient déjà de la valeur.
Au lieu de cela, une cartographie de deux semaines a été réalisée : chaque initiative a été classée par niveau de risque. Cinq ont été jugées à faible risque et ont poursuivi avec une approbation accélérée du propriétaire du processus et du gestionnaire de la plateforme. Deux – l'une concernant les remboursements aux clients et l'autre divulguant des données d'inventaire aux fournisseurs – ont été élevées à un niveau de risque élevé, ont reçu des points d'approbation humaine et ont été examinées par le service des risques avant de continuer.
Six mois plus tard, le nombre d'initiatives avait augmenté, mais la direction savait pour la première fois ce qui existait, qui était responsable et quel était le coût. La conclusion pratique : la gouvernance a gagné en légitimité précisément parce qu'elle n'a pas bloqué le niveau de risque le plus bas.
Risques de la gouvernance et actions préventives
| Risque | Comment il se manifeste | Action préventive |
|---|---|---|
| Comité bloquant | Les équipes construisent en dehors du processus approuvé | Processus accéléré pour les niveaux faibles avec seulement deux approbateurs |
| Enregistrement non mis à jour | L'auditeur découvre un agent inconnu | Mise à jour de l'enregistrement comme condition préalable à la montée de version |
| Propriété uniquement au sein de l'IT | Personne ne décide du comportement commercial | Nomination d'un propriétaire commercial désigné pour chaque agent |
| Auto-déclaration du contrôle | Les contrôles existent sur papier mais pas en réalité | Échantillonnage des conversations par une partie non impliquée dans la construction |
| Changement substantiel en douce | Suppression de l'approbation humaine pour améliorer le temps de réponse | Liste fermée des changements nécessitant une nouvelle approbation |
Indicateurs de gouvernance
| Mesure | Ce qu'elle révèle | Fréquence |
|---|---|---|
| Couverture du registre | Pourcentage d'agents actifs documentés | Mensuel |
| Temps d'approbation moyen | Si le processus est devenu un goulot d'étranglement | Mensuel |
| Résultats d'échantillonnage | Écart entre le contrôle déclaré et la situation réelle | Trimestriel |
| Changements substantiels par le bon canal | Discipline du processus | Trimestriel |
| Agents suspendus ou fermés | La gouvernance est-elle capable de décider de ne pas agir | Trimestriel |
Lorsque vous avez besoin d'un accompagnement pour la mise en place d'un modèle de gouvernance adapté à la taille de votre organisation et à la réglementation en vigueur, le service Agentforce et IA est la voie pratique à suivre.
Liste de contrôle pour la mise en place de la gouvernance
- ☐ Le modèle de classification des risques à trois questions a été approuvé.
- ☐ Les approbateurs ont été désignés pour chaque niveau, y compris un processus accéléré pour les niveaux à faible risque.
- ☐ Des propriétaires commerciaux et techniques ont été nommés pour chaque agent existant.
- ☐ Un auditeur indépendant non impliqué dans le processus de construction a été désigné.
- ☐ Un registre des agents avec tous les champs obligatoires a été établi.
- ☐ Une liste fermée de changements substantiels a été définie.
- ☐ Une routine d'examen trimestriel avec l'autorité de fermer un agent a été établie.
- ☐ Les indicateurs de gouvernance et la fréquence de rapport à la direction ont été définis.