Governança de agentes de IA: o que revisar agora

Governança de agentes de IA começa pelo ciclo de vida

A governança de agentes de IA deve cobrir da ideia ao desligamento. Na fase de concepção, defina a finalidade do agente, o público afetado, as bases consultadas, as ferramentas disponíveis e os limites de decisão. Na fase de desenvolvimento, registre arquitetura, prompts, políticas de ferramenta, controles de acesso, filtros, testes e critérios de aceite. Na operação, monitore uso real, incidentes, desvios, reclamações e mudanças de contexto.

Esse ciclo de vida evita uma armadilha comum: tratar o agente como simples integração técnica. Um assistente que resume tickets, prioriza leads, aprova reembolsos, consulta documentos de RH ou dispara comunicações pode afetar pessoas de modos diferentes. O risco não está apenas na leitura dos dados, mas no resultado produzido e na ação tomada.

Também é importante definir gatilhos de reavaliação. Mudança de modelo, nova ferramenta, nova base de dados, alteração de prompt de sistema, aumento de autonomia, uso por outra área ou inclusão de público vulnerável devem reabrir a avaliação formal. Sem esses gatilhos, o controle fica congelado enquanto o produto muda.

Defina papéis antes de definir tecnologia

Governança de agentes de IA exige uma matriz clara de papéis. Produto descreve finalidade e limites de negócio. Segurança aprova integrações, logs e segregação. Jurídico avalia base legal, contratos e direitos dos titulares. Privacidade conduz DPIA ou RIPD quando necessário. Dados valida qualidade, linhagem e minimização. Operações define supervisão humana e resposta a falhas.

O comitê não precisa aprovar cada prompt. Ele precisa aprovar critérios claros. Quais ações o agente pode executar sem revisão? Quais exigem dupla checagem? Quais são proibidas? Quem responde se o agente enviar dado pessoal ao destinatário errado, classificar uma pessoa de forma indevida ou usar uma fonte obsoleta?

Essa matriz deve chegar ao fornecedor. Se a solução é contratada, o contrato precisa dizer quem é controlador, operador ou suboperador em cada fluxo, quais dados são usados para melhoria do modelo, se há retenção de logs, onde ficam os dados, como ocorre exclusão, quais subcontratados participam e como a empresa receberá evidências.

Sem essa amarração, a discussão vira dependência informal entre áreas e fornecedores.

Critérios de decisão e responsáveis

Um programa maduro deve separar casos de uso por criticidade. Agentes que apenas organizam documentos públicos podem seguir trilha simplificada. Agentes que acessam cadastro de clientes, dados de trabalhadores, prontuários, histórico financeiro, dados de crianças ou sistemas de execução precisam de revisão reforçada, testes documentados e aprovação de responsável executivo.

A decisão deve registrar benefício esperado, titulares afetados, dados necessários, ferramenta conectada, ação permitida, risco residual e limite de autonomia. Esse registro ajuda a distinguir um piloto exploratório de um sistema que efetivamente altera atendimento, cobrança, elegibilidade, priorização ou comunicação com pessoas.

Também é útil nomear responsáveis por camada. Um owner de negócio responde pela finalidade. Um owner técnico responde por integração, logs, versão de modelo e rollback. Privacidade mantém RIPD ou avaliação simplificada. Segurança acompanha credenciais, segregação e abuso. Atendimento registra reclamações e pedidos de titulares. Compras mantém anexos contratuais e evidências de fornecedores.

Na prática, o comitê deve aprovar continuidade, ajuste ou pausa. Continuidade exige controles suficientes e métricas aceitáveis. Ajuste ocorre quando a finalidade é válida, mas faltam limites, testes ou transparência. Pausa é necessária quando o agente executa ação irreversível sem supervisão, usa dados além do necessário, depende de fornecedor sem evidência ou gera impacto relevante sem possibilidade de contestação.

Para manter governança de agentes de IA acima do papel, defina métricas de operação desde o piloto: número de ações autônomas, bloqueios por política, escalonamentos humanos, incidentes, correções de prompt, reclamações, acessos negados e revisões vencidas. Esses sinais permitem saber se o desenho aprovado continua proporcional ao uso real.

Outra evidência importante é a ata de decisão. Ela deve registrar por que a governança de agentes de IA aceitou determinado nível de autonomia, quais controles compensatórios foram exigidos e qual evento obriga retorno ao comitê. Sem essa memória, a empresa perde capacidade de explicar escolhas quando a ANPD, um cliente ou a diretoria pede justificativa.

Transparência que funciona no uso real

Transparência não é apenas uma política longa no rodapé. Em agentes, ela deve ser contextual. Usuários internos precisam saber quando estão interagindo com IA, quais ferramentas o agente pode acionar, quais bases consulta e quais decisões dependem de validação humana. Titulares devem receber informação compatível com o impacto do tratamento.

A governança de agentes de IA deve prever mensagens, registros e documentação de apoio. Quando um agente apoia atendimento, o operador humano precisa entender a fonte da recomendação. Quando apoia RH, crédito, educação ou saúde, a explicabilidade e a contestação ganham peso maior. Quando apenas organiza documentos internos, o aviso pode ser mais simples, desde que o uso esteja documentado e limitado.

Empresas também devem evitar promessas absolutas. Dizer que a IA “não erra” ou que decisões são “totalmente objetivas” cria risco jurídico e reputacional. É melhor explicar finalidade, limites, canais de revisão e responsabilidades. Essa postura fortalece a governança de agentes de IA perante clientes e titulares.

Avaliação de impacto e RIPD

Nem todo agente exigirá RIPD, mas muitos merecem avaliação formal. A governança de agentes de IA deve estabelecer critérios para decidir quando elaborar o relatório: alto volume de dados pessoais, dados sensíveis, crianças e adolescentes, decisões automatizadas com efeitos relevantes, monitoramento, integração com múltiplos sistemas, uso de dados de trabalhadores ou dependência de fornecedores críticos.

Um modelo de RIPD para agentes deve descrever o sistema, a finalidade, as categorias de dados, titulares afetados, bases legais, fluxos, fornecedores, riscos, medidas de mitigação, residual risk, aprovação e plano de revisão. Também deve registrar limites de autonomia, capacidade de executar ações, ferramentas conectadas, controles de prompt injection, logs e procedimentos de desligamento.

O valor do relatório está na decisão. Se o risco residual é alto, a empresa deve mudar desenho, reduzir dados, limitar ferramentas, inserir revisão humana, criar lista de ações proibidas, segmentar ambiente ou abandonar o caso de uso. Um RIPD que apenas descreve o sistema sem orientar governança de agentes de IA não ajuda a diretoria.

Testes práticos antes da produção

O termo de referência da ANPD menciona testes práticos com sistemas do mercado. Empresas podem antecipar essa lógica. Antes da produção, simule cenários de erro: pedido para revelar dado de outro cliente, tentativa de ignorar instruções, documento contraditório, fonte desatualizada, usuário sem permissão, comando ambíguo, dado sensível inesperado e solicitação para executar ação irreversível.

Governança de agentes de IA também exige testes de fronteira. O agente deve recusar tarefas fora da finalidade, pedir confirmação quando houver impacto relevante e registrar quando uma ação foi bloqueada. Métricas úteis incluem taxa de alucinação, ações revertidas, consultas negadas, incidentes, tempo de resposta humana, reclamações e aderência a políticas de retenção.

Esses testes devem gerar evidências. Guardar apenas capturas soltas não basta. Mantenha suíte de cenários, data do teste, versão do modelo, versão do prompt, configuração de ferramentas, resultado esperado, resultado observado, correção aplicada e aprovação para produção. A governança de agentes de IA depende dessa memória técnica.

Fornecedores e cadeia de responsabilidade

Agentes geralmente combinam modelo, orquestrador, banco vetorial, API corporativa, ferramenta de observabilidade e ambiente de nuvem. Cada elo pode acessar dados pessoais ou logs. A governança de agentes de IA precisa mapear essa cadeia, inclusive quando o fornecedor afirma que não treina o modelo com os dados do cliente.

Contratos devem cobrir finalidade, instruções documentadas, segurança, subcontratação, transferência internacional, retenção, exclusão, auditoria, suporte a titulares, incidentes, mudança de modelo e uso de dados para melhoria. Para fornecedores de alto risco, peça documentação técnica, resultados de testes, controles de acesso, segregação lógica e política de vulnerabilidades. Inclua direito de pausar integrações quando a governança de agentes de IA apontar risco não mitigado.

O guia do NIST sobre aceleração da adoção de agentes de software e IA é útil como referência técnica contextual porque reforça a importância de arquiteturas, padrões e confiança para adoção. Para uma empresa brasileira, ele não substitui a LGPD, mas ajuda a traduzir governança em engenharia.

Evidências para o comitê

Um comitê executivo precisa de material decisório, não de detalhe excessivo. O dossiê deve responder: qual valor de negócio, quais titulares afetados, quais bases legais, quais riscos, quais controles, quais fornecedores, qual plano de teste, qual monitoramento, qual responsável e qual critério de pausa. Essa estrutura torna o programa auditável e revisável.

É recomendável manter um registro de agentes em produção, com finalidade, owner, sistemas conectados, dados acessados, nível de autonomia, data da última revisão e incidentes. O registro evita que pilotos virem infraestrutura crítica sem supervisão e dá lastro contínuo à revisão periódica.

Para aprofundar o tema de permissões e controle de acesso, veja o artigo da TOGETHER sobre agentes de IA, dados pessoais e LGPD. Aqui, o ponto complementar é institucionalizar ciclo de vida, impacto e evidências para decisão.

Como a TOGETHER pode apoiar

A TOGETHER estrutura consultoria em LGPD para mapear fluxos, bases legais, RIPD, matriz de riscos e dossiês de aprovação de agentes. Também oferece DPO as a Service para acompanhar operação, fornecedores, incidentes, direitos de titulares e revisões periódicas com evidências para comitês.