A Resposta Breve
Uma boa governança de IA não é uma camada adicional de aprovações, mas sim um mecanismo que decide rapidamente questões recorrentes: quem decide o que um agente pode fazer, quais controles são obrigatórios de acordo com o nível de risco e o que é exigido para mudar o comportamento após o lançamento. Na ausência de tal mecanismo, cada novo agente se torna uma discussão do zero.
O princípio central é a classificação. Um agente interno que lê informações e não escreve nada não precisa passar pelo mesmo caminho que um agente que interage com clientes e processa estornos. Um caminho único gera bloqueio ou contorno, e geralmente ambos.
Classificação de Risco: A Base para Todas as Outras Decisões
| Nível | Características | Aprovadores | Controles Obrigatórios |
|---|---|---|---|
| Baixo | Interno, somente leitura, sem dados sensíveis de clientes | Dono do processo + Gerente da Plataforma | Grounding aprovado, log de conversas, revisão mensal |
| Médio | Interno com escrita reversível, ou exposição de informações ao cliente | + Arquiteto + Representante de Dados | Conjunto de testes, testes de Persona, monitoramento semanal |
| Alto | Operação com cliente, dinheiro, permissões ou dados irreversíveis | + Risco, Jurídico e CISO | Aprovação humana, trilha de auditoria completa, plano de Rollback |
| Proibido | Decisões com impacto jurídico ou regulatório direto sem intervenção humana | - | Use Case rejeitado ou dividido em subtarefas de nível inferior |
A classificação é determinada por apenas três perguntas: a ação é reversível, quem é exposto ao resultado e que tipo de informação está envolvida no processo. Três perguntas que podem ser respondidas em dez minutos, e é exatamente isso que torna o modelo utilizável.
As Três Funções Essenciais
O proprietário de negócios é responsável pelo resultado, define o que o agente pode fazer e resolve conflitos. Ele é quem terá que explicar à gerência por que o agente respondeu daquela maneira, e, portanto, não é possível deixar a função vazia ou dividi-la entre dois gerentes.
O proprietário técnico é responsável pela implementação, monitoramento, processo de mudança e custo. Ele mantém o registro dos agentes e o Runbook para lidar com falhas.
Um auditor independente – geralmente um representante de Risco ou segurança da informação – não está envolvido na construção e, portanto, pode auditar. Sua função é amostrar conversas, verificar se os controles declarados estão realmente funcionando e apresentar as descobertas ao fórum de decisão. Sem um ator que não seja parte interessada no sucesso do projeto, o controle se torna um auto-relato.
O modelo de responsabilidade em relação à Salesforce e aos fornecedores de modelos é detalhado em Segurança do Agentforce e Responsabilidade Compartilhada.
Registro de Agentes
Este é o único documento que não pode ser dispensado. Não precisa ser um sistema – uma tabela bem mantida é suficiente –, mas deve estar atualizado. Para cada agente ativo: objetivo em uma frase, proprietário de negócios e técnico, nível de risco, canais ativos, lista de Actions e suas permissões, fontes de Grounding, pontos de aprovação humana, data da última revisão e os três principais KPI.
O registro resolve um problema que surge no segundo ano: a proliferação de agentes. Quando cada equipe constrói seu próprio agente, percebe-se que três agentes respondem à mesma pergunta de três maneiras diferentes, e ninguém sabe quem aprovou o terceiro.
Processo de Mudança Pós-Lançamento
A distinção entre uma mudança rotineira e uma mudança substancial é o que impede uma governança paralisante. Uma mudança rotineira – redação, correção de redação em uma resposta, adição de um artigo de Knowledge existente ao índice – segue o processo de mudança regular da plataforma. Uma mudança substancial requer nova aprovação no nível apropriado.
Quatro mudanças são sempre significativas: adição de uma nova Action, ampliação de permissão, abertura de um novo canal e remoção ou suavização de um ponto de aprovação humana. Estas são precisamente as mudanças que são feitas discretamente sob pressão para melhorar o desempenho, e, portanto, precisam ser marcadas com antecedência.
Os mecanismos de monitoramento que alimentam o processo de mudança são detalhados em Observabilidade para Agentes de IA.
O Que a Governança Verifica na Prática, Trimestralmente
A revisão trimestral não é uma apresentação de status. Ela verifica cinco coisas: se os agentes registrados ainda são necessários, se os controles declarados estão funcionando na amostragem, se o custo-benefício é justificável, quais escalonamentos recorrentes indicam uma lacuna de conteúdo e se as mudanças substanciais seguiram o caminho correto.
O resultado da revisão é uma lista de decisões: expandir, reduzir, suspender ou encerrar um agente. Uma governança que não consegue encerrar um agente não é governança – é documentação.
Cenário: Um Varejista Que Recuperou o Controle Sem Parar o Desenvolvimento
Uma rede de varejo descobriu sete iniciativas de IA simultâneas em quatro departamentos, sem registro e sem o conhecimento da área de Risco. A primeira resposta proposta foi uma paralisação geral até o estabelecimento de uma política – uma medida que também congelaria as duas iniciativas que já estavam gerando valor.
Em vez disso, foi realizado um mapeamento de duas semanas: cada iniciativa foi classificada por nível de risco. Cinco foram consideradas de baixo risco e continuaram com aprovação simplificada do proprietário do processo e do gerente da plataforma. Duas – uma que envolvia reembolsos a clientes e outra que expunha dados de estoque a fornecedores – foram movidas para um nível de alto risco, receberam pontos de aprovação humana e foram auditadas pela área de Risco antes de prosseguir.
Seis meses depois, o número de iniciativas aumentou, mas a gerência sabia pela primeira vez o que existia, quem era responsável e qual era o custo. A conclusão prática: a governança ganhou legitimidade precisamente porque não bloqueou o nível de baixo risco.
Riscos de Governança e Ações Preventivas
| Risco | Como se manifesta | Ação preventiva |
|---|---|---|
| Comitê bloqueador | Equipes constroem fora do caminho aprovado | Caminho rápido para baixo risco com apenas dois aprovadores |
| Registro desatualizado | Auditor descobre agente que ninguém conhecia | Atualização do registro como condição para o lançamento de versão |
| Propriedade apenas em TI | Ninguém decide sobre o comportamento de negócios | Nomeação de proprietário de negócios para cada agente |
| Controle auto-relatado | Os controles existem no documento, mas não na realidade | Amostragem de conversas por um ator não envolvido na construção |
| Mudança substancial silenciosa | Remoção de aprovação humana para melhorar o tempo de resposta | Lista fechada de mudanças que exigem nova aprovação |
Métricas de Governança
| Métrica | O que revela | Frequência |
|---|---|---|
| Cobertura do registro | Percentual de agentes ativos documentados | Mensal |
| Tempo médio de aprovação | Se o processo se tornou um gargalo | Mensal |
| Resultados da amostragem | Discrepância entre controle declarado e situação real | Trimestral |
| Mudanças substanciais no caminho correto | Disciplina do processo | Trimestral |
| Agentes suspensos ou encerrados | Se a governança é capaz de decidir não | Trimestral |
Quando é necessário suporte para estabelecer um modelo de governança que se adapte ao tamanho da organização e à regulamentação aplicável, o Serviço Agentforce e IA é o caminho prático a seguir.
Checklist para Estabelecimento de Governança
- ☐ Modelo de classificação de risco de três perguntas aprovado
- ☐ Aprovadores definidos para cada nível, incluindo um caminho rápido para o nível baixo
- ☐ Proprietários de negócios e técnicos nomeados para cada agente existente
- ☐ Auditor independente não envolvido na construção nomeado
- ☐ Registro de agentes com todos os campos obrigatórios estabelecido
- ☐ Lista fechada de mudanças substanciais definida
- ☐ Rotina de revisão trimestral estabelecida com autoridade para encerrar um agente
- ☐ Métricas de governança e frequência de relatório à gerência definidas