Nove em cada dez organizações já sofreram ao menos um incidente de segurança envolvendo inteligência artificial (IA) agêntica no último ano. Desse total, apenas 36% conseguiram conter a ocorrência em menos de 24 horas. Os números fazem parte do estudo Deployed but ungoverned: the state of agentic security, divulgado nessa quinta-feira (22) pela ServiceNow em parceria com a Phronesis Partners.

A pesquisa ouve mais de três mil e setecentos tomadores de decisão seniores de segurança e tecnologia em 20 países, todos em cargos de vice-presidente ou superiores. O levantamento aponta que a adoção de agentes de IA está avançando em ritmo que a governança corporativa não acompanha, com consequências diretas em setores como saúde, transporte aéreo, manufatura e serviços financeiros.

Programas de segurança sem base defensável

Embora a maioria dos líderes de segurança avalie que sua organização já estabeleceu uma postura adequada para lidar com IA agêntica, o estudo revela um quadro diferente. Apenas 13% das empresas contam com programas considerados defensáveis quando avaliados em cinco áreas fundamentais: superfície de ataque, responsabilização, segurança desde a concepção, visibilidade e preparação para auditorias.

A lacuna é ainda mais evidente na fase de desenvolvimento. Somente 44% das equipes de segurança ao redor do mundo incorporam salvaguardas antes mesmo de um agente ser criado. Para a maior parte das organizações, permissões e controles são definidos de forma pontual, após o fato, configurando uma abordagem essencialmente reativa.

Escala e pontos cegos da IA agêntica

A dimensão do problema se amplia quando se observa a escala operacional. Atualmente, 49% das organizações operam entre 100 e 999 agentes de IA; outros 35% já ultrapassam mil agentes ativos. Mesmo assim, 29% das equipes de segurança já se depararam com agentes em produção que nunca foram registrados ou cuja existência era desconhecida; uma forma de shadow AI identificada somente após estar operando sem supervisão.

A visibilidade em tempo real também é precária. Apesar de 76% das organizações afirmarem manter um mapeamento atualizado dos acessos de cada agente, apenas 19% conseguem visualizar mais de 90% de seus agentes de forma simultânea e contínua.

Velocidade das máquinas supera resposta humana

Dois terços das organizações, 66%, não conseguem agir de forma automática quando um agente apresenta comportamento anômalo. Isso significa que ainda é necessária a intervenção humana para que qualquer medida seja tomada, criando uma defasagem estrutural num cenário em que os agentes de IA operam em velocidade muito superior à capacidade de reação das equipes.

Leia mais: Accenture adquire Avicado e amplia atuação em construção digital

O CISO da ServiceNow, Ben de Bont, diz que os casos que chegaram às manchetes ao longo deste ano devem ser lidos como sinal de alerta. “Os incidentes envolvendo agentes de IA que ganharam as manchetes neste ano são um alerta sobre o que pode acontecer quando a IA é implementada sem os controles adequados”, afirma. “As organizações não deveriam ter de escolher entre agir rapidamente e gerenciar riscos. Aquelas que fizerem isso da maneira certa incorporarão a governança à implantação dos agentes desde o início, aproveitando os benefícios da IA sem perder visibilidade nem controle.”

Governança autônoma como resposta

Para endereçar o problema, a ServiceNow oferece a solução Autonomous Security, orientada pelo que a empresa chama de imperativo Shift Zero. A proposta é substituir uma postura reativa e fragmentada por uma abordagem que prioriza prevenção e opera com governança autônoma, capaz de atuar na mesma velocidade em que a IA gera riscos. Entre os recursos, a empresa cita um mecanismo de desligamento de emergência (kill switch) e o AI Passport como instrumentos para a adoção segura da IA agêntica.

Nadir Izrael, vice-presidente executivo de cibersegurança e risco da ServiceNow, afirma que inovação e segurança precisam avançar de forma simultânea. “É para isso que Autonomous Security e Shift Zero foram criados: para que a governança seja incorporada no momento em que um agente é desenvolvido ou implantado, em vez de ser acrescentada posteriormente. Quando a segurança opera na velocidade das máquinas, ela deixa de ser um freio à adoção da IA e passa a ser o que permite expandir seu uso com segurança”, diz Izrael.

O estudo foi conduzido com organizações de médio e grande porte; 97% dos participantes informaram receita anual igual ou superior a US$ 250 milhões.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!