Empresas de tecnologia: governança de IA é chave para evitar desativação de agentes
Professor da Fundação Dom Cabral lista 7 boas práticas para empresas que já usam inteligência artificial.
A governança de inteligência artificial nas empresas exige mais do que políticas bem-intencionadas: ela precisa de estrutura, responsabilidades definidas e controles ativos. É o que defende o professor de inteligência artificial (IA) na Fundação Dom Cabral e na XP Educação João Pedro Brasileiro, que reuniu sete boas práticas para empresas que já utilizam a tecnologia.
A urgência do tema tem respaldo em números. Uma previsão da Gartner, divulgada em maio de 2026, aponta que 40% das empresas vão reduzir a autonomia ou desativar agentes autônomos de IA até 2027 por causa de lacunas de governança identificadas somente após incidentes em produção. Para Brasileiro, agir antes que os problemas apareçam é o caminho mais eficiente. “Governança, no mundo da inteligência artificial, é o que garante escala e velocidade dos projetos”, afirma.
A seguir, as sete práticas recomendadas pelo especialista.
Práticas de governança de IA
1. Mapear o uso e oferecer ferramentas homologadas. O ponto de partida é identificar quais ferramentas já estão em circulação na empresa e criar um ambiente seguro para que os colaboradores relatem suas experiências sem risco de punição. A partir desse levantamento, a organização avalia o que homologar e oferece alternativas oficiais às equipes. “Não dar ferramenta à área de negócio é garantir que haverá shadow AI“, diz Brasileiro.
2. Criar uma esteira de capacitação e cultura. Antes de liberar o uso da IA, a empresa precisa preparar as pessoas: capacitação, certificação, termo de responsabilidade e recapacitação periódica, a cada seis meses ou um ano. “Para ter governança, a empresa passa por uma etapa de cultura. As pessoas têm que entender os riscos do uso da inteligência artificial”, afirma. Brasileiro também alerta que “um colaborador de alto risco é o incompetente motivado”.
3. Definir orientações e aplicar a governança desde o desenho. A política estabelece os limites; o manifesto explica os objetivos da adoção; e o código de conduta orienta o dia a dia. “Nos projetos que envolvem decisões sensíveis, como análise de crédito, o jurídico deve participar desde o início. Também é necessário respeitar os estágios de desenvolvimento para evitar que problemas sejam transferidos para a operação”, explica.
4. Registrar os agentes e nomear responsáveis humanos. Cada agente precisa ter tarefa definida, identidade própria e um responsável humano nomeado. A empresa deve manter um inventário do que cada agente faz, do que não pode fazer e de suas interações. A figura do diretor de inteligência artificial (CAIO, do inglês chief AI officer) ajuda a coordenar esse modelo. “O papel do CAIO não é controlar todos os agentes, e sim fazer o modelo de controle ser replicado em cada área”, diz o especialista.
5. Manter um cockpit de governança acessível. A recomendação é manter um painel aberto aos colaboradores que reúna as ferramentas homologadas, os agentes em produção e seus responsáveis, a política vigente e os treinamentos disponíveis. Para a liderança, o painel também concentra custos e alertas. “Não basta fazer governança, é preciso mostrar que ela está sendo feita”, afirma Brasileiro.
6. Medir resultados. Cada agente deve ter um ou dois indicadores que mostrem se concluiu a tarefa corretamente, com quanto tempo e recurso, se o cliente foi bem atendido e se ficou dentro dos limites. Esses indicadores orientam se o agente deve ser ampliado, ajustado ou desligado. “Agente sem indicador é custo sem retorno”, resume.
7. Proteger os agentes e prever os custos de proteção. A empresa deve acompanhar o consumo de tokens, as informações que saem do sistema e os alertas fora do padrão, como tentativas de prompt injection, quando instruções escondidas em e-mails ou documentos são lidas pelo agente como ordens. O orçamento precisa contemplar os mecanismos de proteção, conhecidos como guardrails. “Proteção de IA não é grátis; guardrail precisa de linha no orçamento”, afirma Brasileiro.
Autoria: Redação It Forum
Imagem: Banco de Imagens Shutterstock
Comentários