Governança de agentes de IA: o que revisar agora

Governança de agentes de IA começa pelo ciclo de vida

A governança de agentes de IA deve cobrir da ideia ao desligamento. Na fase de concepção, defina a finalidade do agente, o público afetado, as bases consultadas, as ferramentas disponíveis e os limites de decisão. Na fase de desenvolvimento, registre arquitetura, prompts, políticas de ferramenta, controles de acesso, filtros, testes e critérios de aceite. Na operação, monitore uso real, incidentes, desvios, reclamações e mudanças de contexto.

Esse ciclo de vida evita uma armadilha comum: tratar o agente como simples integração técnica. Um assistente que resume tickets, prioriza leads, aprova reembolsos, consulta documentos de RH ou dispara comunicações pode afetar pessoas de modos diferentes. O risco não está apenas na leitura dos dados, mas no resultado produzido e na ação tomada.

Também é importante definir gatilhos de reavaliação. Mudança de modelo, nova ferramenta, nova base de dados, alteração de prompt de sistema, aumento de autonomia, uso por outra área ou inclusão de público vulnerável devem reabrir a avaliação formal. Sem esses gatilhos, o controle fica congelado enquanto o produto muda.

Defina papéis antes de definir tecnologia

Governança de agentes de IA exige uma matriz clara de papéis. Produto descreve finalidade e limites de negócio. Segurança aprova integrações, logs e segregação. Jurídico avalia base legal, contratos e direitos dos titulares. Privacidade conduz DPIA ou RIPD quando necessário. Dados valida qualidade, linhagem e minimização. Operações define supervisão humana e resposta a falhas.

O comitê não precisa aprovar cada prompt. Ele precisa aprovar critérios claros. Quais ações o agente pode executar sem revisão? Quais exigem dupla checagem? Quais são proibidas? Quem responde se o agente enviar dado pessoal ao destinatário errado, classificar uma pessoa de forma indevida ou usar uma fonte obsoleta?

Essa matriz deve chegar ao fornecedor. Se a solução é contratada, o contrato precisa dizer quem é controlador, operador ou suboperador em cada fluxo, quais dados são usados para melhoria do modelo, se há retenção de logs, onde ficam os dados, como ocorre exclusão, quais subcontratados participam e como a empresa receberá evidências.

Sem essa amarração, a discussão vira dependência informal entre áreas e fornecedores.

Critérios de decisão e responsáveis

Um programa maduro deve separar casos de uso por criticidade. Agentes que apenas organizam documentos públicos podem seguir trilha simplificada. Agentes que acessam cadastro de clientes, dados de trabalhadores, prontuários, histórico financeiro, dados de crianças ou sistemas de execução precisam de revisão reforçada, testes documentados e aprovação de responsável executivo.

A decisão deve registrar benefício esperado, titulares afetados, dados necessários, ferramenta conectada, ação permitida, risco residual e limite de autonomia. Esse registro ajuda a distinguir um piloto exploratório de um sistema que efetivamente altera atendimento, cobrança, elegibilidade, priorização ou comunicação com pessoas.

Também é útil nomear responsáveis por camada. Um owner de negócio responde pela finalidade. Um owner técnico responde por integração, logs, versão de modelo e rollback. Privacidade mantém RIPD ou avaliação simplificada. Segurança acompanha credenciais, segregação e abuso. Atendimento registra reclamações e pedidos de titulares. Compras mantém anexos contratuais e evidências de fornecedores.

Na prática, o comitê deve aprovar continuidade, ajuste ou pausa. Continuidade exige controles suficientes e métricas aceitáveis. Ajuste ocorre quando a finalidade é válida, mas faltam limites, testes ou transparência. Pausa é necessária quando o agente executa ação irreversível sem supervisão, usa dados além do necessário, depende de fornecedor sem evidência ou gera impacto relevante sem possibilidade de contestação.

Para manter governança de agentes de IA acima do papel, defina métricas de operação desde o piloto: número de ações autônomas, bloqueios por política, escalonamentos humanos, incidentes, correções de prompt, reclamações, acessos negados e revisões vencidas. Esses sinais permitem saber se o desenho aprovado continua proporcional ao uso real.

Outra evidência importante é a ata de decisão. Ela deve registrar por que a governança de agentes de IA aceitou determinado nível de autonomia, quais controles compensatórios foram exigidos e qual evento obriga retorno ao comitê. Sem essa memória, a empresa perde capacidade de explicar escolhas quando a ANPD, um cliente ou a diretoria pede justificativa.

Transparência que funciona no uso real

Transparência não é apenas uma política longa no rodapé. Em agentes, ela deve ser contextual. Usuários internos precisam saber quando estão interagindo com IA, quais ferramentas o agente pode acionar, quais bases consulta e quais decisões dependem de validação humana. Titulares devem receber informação compatível com o impacto do tratamento.

A governança de agentes de IA deve prever mensagens, registros e documentação de apoio. Quando um agente apoia atendimento, o operador humano precisa entender a fonte da recomendação. Quando apoia RH, crédito, educação ou saúde, a explicabilidade e a contestação ganham peso maior. Quando apenas organiza documentos internos, o aviso pode ser mais simples, desde que o uso esteja documentado e limitado.

Empresas também devem evitar promessas absolutas. Dizer que a IA “não erra” ou que decisões são “totalmente objetivas” cria risco jurídico e reputacional. É melhor explicar finalidade, limites, canais de revisão e responsabilidades. Essa postura fortalece a governança de agentes de IA perante clientes e titulares.

Avaliação de impacto e RIPD

Nem todo agente exige automaticamente um RIPD. O artigo 38 da LGPD permite à ANPD determinar sua elaboração pelo controlador. Como recomendação preventiva, a empresa pode definir critérios de avaliação formal para alto volume, dados sensíveis, crianças e adolescentes, monitoramento, decisões exclusivamente automatizadas com impacto ou fornecedores críticos. Esses critérios internos não devem ser apresentados como uma lista legal universal de obrigatoriedade.

Um modelo de RIPD para agentes deve descrever o sistema, a finalidade, as categorias de dados, titulares afetados, bases legais, fluxos, fornecedores, riscos, medidas de mitigação, residual risk, aprovação e plano de revisão. Também deve registrar limites de autonomia, capacidade de executar ações, ferramentas conectadas, controles de prompt injection, logs e procedimentos de desligamento.

O valor do relatório está na decisão. Se o risco residual é alto, a empresa deve mudar desenho, reduzir dados, limitar ferramentas, inserir revisão humana, criar lista de ações proibidas, segmentar ambiente ou abandonar o caso de uso. Um RIPD que apenas descreve o sistema sem orientar governança de agentes de IA não ajuda a diretoria.

Quando o agente tomar decisão unicamente com base em tratamento automatizado de dados pessoais que afete interesses do titular, considere também o direito de solicitar revisão do artigo 20. Para estruturar o documento de impacto sem importar automaticamente deveres europeus, veja RIPD na LGPD e avaliação de impacto.

Testes práticos antes da produção

O termo de referência de pesquisa da ANPD citado nas referências não é um regulamento de agentes de IA. A recomendação operacional é testar, antes da produção, cenários como pedido de dado de outro cliente, tentativa de ignorar instruções, documento contraditório, fonte desatualizada, usuário sem permissão, comando ambíguo, dado sensível inesperado e ação irreversível. Os testes devem refletir as ferramentas e a autonomia efetivamente concedidas.

Governança de agentes de IA também exige testes de fronteira. O agente deve recusar tarefas fora da finalidade, pedir confirmação quando houver impacto relevante e registrar quando uma ação foi bloqueada. Métricas úteis incluem taxa de alucinação, ações revertidas, consultas negadas, incidentes, tempo de resposta humana, reclamações e aderência a políticas de retenção.

Esses testes devem gerar evidências. Guardar apenas capturas soltas não basta. Mantenha suíte de cenários, data do teste, versão do modelo, versão do prompt, configuração de ferramentas, resultado esperado, resultado observado, correção aplicada e aprovação para produção. A governança de agentes de IA depende dessa memória técnica.

Fornecedores e cadeia de responsabilidade

Agentes geralmente combinam modelo, orquestrador, banco vetorial, API corporativa, ferramenta de observabilidade e ambiente de nuvem. Cada elo pode acessar dados pessoais ou logs. A governança de agentes de IA precisa mapear essa cadeia, inclusive quando o fornecedor afirma que não treina o modelo com os dados do cliente.

Contratos devem cobrir finalidade, instruções documentadas, segurança, subcontratação, transferência internacional, retenção, exclusão, auditoria, suporte a titulares, incidentes, mudança de modelo e uso de dados para melhoria. Para fornecedores de alto risco, peça documentação técnica, resultados de testes, controles de acesso, segregação lógica e política de vulnerabilidades. Inclua direito de pausar integrações quando a governança de agentes de IA apontar risco não mitigado.

A referência do NIST é um concept paper em Initial Public Draft, publicado em 5 de fevereiro de 2026, sobre identidade e autorização de agentes. A página informa encerramento dos comentários em 2 de abril de 2026. Não é guia final nem norma brasileira: ajuda a formular perguntas sobre identificação, autorização, auditoria e proteção contra prompt injection, sem substituir a LGPD.

Evidências para o comitê

Um comitê executivo precisa de material decisório, não de detalhe excessivo. O dossiê deve responder: qual valor de negócio, quais titulares afetados, quais bases legais, quais riscos, quais controles, quais fornecedores, qual plano de teste, qual monitoramento, qual responsável e qual critério de pausa. Essa estrutura torna o programa auditável e revisável.

É recomendável manter um registro de agentes em produção, com finalidade, owner, sistemas conectados, dados acessados, nível de autonomia, data da última revisão e incidentes. O registro evita que pilotos virem infraestrutura crítica sem supervisão e dá lastro contínuo à revisão periódica.

Para aprofundar o tema de permissões e controle de acesso, veja o artigo da TOGETHER sobre agentes de IA, dados pessoais e LGPD. Aqui, o ponto complementar é institucionalizar ciclo de vida, impacto e evidências para decisão.

Como a TOGETHER pode apoiar

A TOGETHER estrutura consultoria em LGPD para mapear fluxos, bases legais, RIPD, matriz de riscos e dossiês de aprovação de agentes. Também oferece DPO as a Service para acompanhar operação, fornecedores, incidentes, direitos de titulares e revisões periódicas com evidências para comitês.