Quem responde quando o agente de IA erra?

Noventa por cento dos CIOs dizem ter controle completo sobre os agentes de IA que rodam em produção nas suas empresas. É o que aponta a edição 2026 do Global AI Confessions Report, conduzido pela Harris Poll para a Dataiku com 685 CIOs de oito países. Na mesma pesquisa, 81% admitem não ter visibilidade completa sobre os agentes criados fora dos canais aprovados, e 84% reconhecem que os funcionários criam agentes mais rápido do que a TI consegue governar.

Traduzindo: o que os executivos estão dizendo é que, embora haja controle sobre aquilo que passou pela esteira de homologação, as pessoas têm criado agentes em volume como se fizessem planilhas do Excel e está sendo muito difícil dar conta desse fluxo.

Outro dado relevante para o CIO está na seguinte pergunta do mesmo levantamento: quando um agente sai do trilho, quem é o responsável? As respostas se espalham quase por igual. Equipes compartilhadas (23%), TI (21%), time de dados ou IA (20%), segurança, risco e compliance (18%).

Pois é, gente. Quando todo mundo pode ser responsável, ninguém é.

E isso acontece justamente quando 76% desses CIOs acreditam que o próprio cargo estará em risco se a empresa não entregar ganhos mensuráveis com IA até o fim de 2027.

É como dizia Delfim Netto, “primeiro vem o faroeste, depois vem o xerife”. Temos visto que a pressão para colocar agentes em produção tem prevalecido sobre o seu risco de falha. E o que fazemos se isso der pau, é uma pergunta que tem ficado pra depois.

Leia também: Paradoxo da IA: quanto mais automatizada a empresa, mais importante é a governança

Contratado sem passar pelo RH

Pense no agente de IA como um funcionário. Ele recebe acesso a sistemas, toma decisões, executa tarefas em nome da empresa e, em muitos casos, fala com clientes. Agora imagine contratar alguém assim sem registro, sem “onboarding”, sem chefe imediato, sem avaliação de desempenho e sem processo de desligamento. Nenhuma empresa séria faria isso com uma pessoa. É exatamente o que vem acontecendo com agentes.

Segundo a Dataiku, 83% das organizações não têm gestão padronizada do ciclo de vida dos agentes, e 72% não conseguem confirmar de forma consistente se eles entregam o resultado de negócio prometido. Ao mesmo tempo, 47% dizem ter desativado mais de 20 agentes só neste ano. Ou seja, há demissões em massa acontecendo num quadro de funcionários que ninguém sabe exatamente quem contratou. E me pergunto se os acessos a esses agentes têm sido revogados junto com as “demissões”.

No sucesso, há muitos pais, mas o fracasso é órfão. Com agentes de IA, a regra se aplica com precisão constrangedora. O agente que reduz custo no atendimento vira case na apresentação para o conselho. O que aprova um reembolso indevido, exclui o registro errado ou expõe dado de cliente vira problema da TI, do fornecedor do modelo ou da área que o criou.

Ausência de dono não é falha técnica. É decisão de governança.

O regulador não vai perguntar quem escreveu o prompt

O IDC projeta que, até 2030, até 20% das mil maiores empresas do mundo enfrentarão processos, multas regulatórias ou demissões de CIOs por causa de controles falhos envolvendo agentes de IA. A projeção foi divulgada pelo CIO.com, em reportagem que ouviu advogados e executivos sobre o tema. O argumento mais contundente veio de Dimitri Osler, CTO da Wildix: para multar, o regulador não precisa provar intenção, basta mostrar que os controles eram inadequados diante do risco.

No Brasil, o enquadramento já existe. A LGPD garante ao titular o direito de pedir revisão de decisões tomadas unicamente com base em tratamento automatizado (art. 20). A ANPD, agora com estrutura de agência reguladora, colocou inteligência artificial e tecnologias emergentes entre os quatro eixos do seu Mapa de Temas Prioritários de fiscalização para 2026 e 2027.

Em outras palavras, a responsabilidade já tem endereço jurídico. O que falta é endereço organizacional. Quando a fiscalização chegar, a empresa vai responder como pessoa jurídica, mas alguém dentro dela vai ter que explicar por que um agente com acesso a dados pessoais operava sem dono, sem limite e sem contramedidas. Tente explicar ao fiscal que a culpa foi do modelo e veja o resultado.

Accountability se desenha antes do incidente

O Gartner, em pesquisa com 297 líderes de segurança no segundo trimestre de 2026, constatou que 54% das organizações não têm abordagem definida para limitar o acesso de agentes de IA ou simplesmente replicam o acesso dos humanos. A IBM, no Cost of a Data Breach 2026, aponta que menos da metade das organizações protege ativamente identidades não humanas. Esses números não falam de tecnologia. Falam de quem decidiu, ou deixou de decidir, até onde o agente pode ir.

Resolver isso passa por três deslocamentos.

De projeto de TI para ativo com dono. Todo agente em produção precisa de um responsável nominal na área de negócio, com nome e sobrenome, que responda pelo que ele faz da mesma forma que um gestor responde pela equipe. A TI governa a plataforma; o dono do processo responde pela decisão.

De autonomia igual para todos para autonomia conforme o estrago possível. Nem todo agente precisa da mesma rédea. Um agente que redige rascunho de e-mail pode errar sem grande custo, porque alguém vai ler o texto antes de enviar. Já um agente que transfere dinheiro, altera o cadastro de um cliente ou apaga registros faz coisas que não se desfazem com um clique. A regra é simples: quanto mais difícil desfazer o que o agente faz, menos ele pode fazer sozinho. Nesses casos, a ação exige aprovação humana, um teto (de valor, de volume ou de alcance) a partir do qual o agente para e pede autorização, e uma forma de desligá-lo na hora, testada antes de ser necessária.

De inventário anual para registro vivo. Se 81% não enxergam os agentes criados fora dos canais oficiais, o primeiro passo é saber o que existe. Agente sem registro é agente sem dono e agente sem dono é risco sem dono. E isso precisa ser vivo: é live streaming e não foto. No momento do incidente a realidade acaba escolhendo nas costas de quem a responsabilidade vai cair.

A conta tem destinatário

A pesquisa da Dataiku resume o impasse: as empresas sabem que precisam colocar agentes em produção, mas ainda não sabem quem responde por eles.  Esse é um problema de governança. Se ele for considerado como de segurança é porque já é tarde demais.

Antes do próximo comitê de IA, vale fazer três perguntas. Se alguém pedir agora o nome do responsável por cada agente em produção, sua empresa consegue responder sem marcar uma reunião? Se a ANPD pedir a trilha de uma decisão tomada por um agente, você entrega um registro ou uma desculpa? E quando o agente errar, quem assina o incidente: o fornecedor do modelo, a área que criou o agente ou você?