O Itaú desenvolve uma camada de gestão de memória para a ia.i, sua assistente de inteligência artificial conversacional, que vai permitir ao cliente escolher quais informações o sistema poderá usar e quais conversas poderá lembrar. O recurso foi apresentado na quarta-feira (28), no Meetup Itaú Tech, em São Paulo, junto com a estratégia de governança que o banco aplica a seus agentes de IA. Essa estratégia combina testes adversariais, guardrails e monitoramento contínuo. O banco não divulgou previsão de lançamento.

“Tenho que dar autonomia para cada um desses clientes escolher como e quais dados querem que sejam usados”, afirmou Fayner Felicio, superintendente de Produtos Digitais e Estratégia com IA Generativa do Itaú. Ele falou no painel “Do contexto à experiência: a nova era da GenAI”.

A ia.i permite que o cliente interaja com serviços financeiros em linguagem natural, sem depender da navegação por menus do aplicativo. A assistente se apoia em agentes especializados, que consultam informações e executam tarefas ligadas à vida financeira do usuário. Com a nova camada, o cliente também poderá decidir se quer ou não que a assistente guarde informações de interações anteriores.

O recurso expõe uma tensão de arquitetura. A personalização depende de acesso a dados financeiros, e a proteção desses dados exige limites claros para o uso. Segundo Fayner, a estratégia de IA generativa do banco aproveita a infraestrutura que o Itaú já tem de segregação de ambientes, controle de acesso e auditoria. A ela, o banco acrescenta controles específicos para o funcionamento dos agentes.

Governança contínua, não pontual

Para Bárbara Correia, gerente de IA Responsável e Privacidade de Dados do Itaú, modelos generativos mudam a forma de avaliar risco porque não produzem respostas previsíveis. “A governança precisa se tornar cíclica. Não funciona mais chegar com um projeto, fazer uma avaliação, emitir um parecer de risco e seguir aquelas condicionantes”, disse.

O banco organiza esse controle em três frentes: testes, mecanismos de proteção e monitoramento. O objetivo é encontrar problemas antes que eles cheguem ao usuário e acompanhar o comportamento dos agentes depois que entram em operação.

Red team para provocar o pior comportamento

Na frente de testes, o Itaú usa AI red team. Equipes internas tentam induzir os agentes a fornecer informações inadequadas, ignorar instruções ou responder fora de sua finalidade. “Queremos fazer a tecnologia se comportar da pior forma possível”, disse Bárbara.

As falhas encontradas alimentam os guardrails, os limites que regem o comportamento dos agentes. No Itaú, esses controles cobrem as regras de negócio e o tom de voz das aplicações, e o monitoramento indica onde é preciso fazer ajustes.

Leia também: Agentes de IA avançam, mas 68% dos profissionais de segurança exigem aprovação humana

Dado no agente é dado novo

Bárbara defendeu que a classificação de um dado não pode ser definitiva. Uma informação já catalogada por confidencialidade, finalidade e regras de acesso ganha novos usos quando entra num agente. O agente pode cruzá-la com outras e inferir conclusões que não estavam registradas na base original. Com dados de vendas, despesas e contratos, por exemplo, ele pode deduzir a situação financeira de uma empresa sem nunca ter recebido um relatório sobre isso.

“Quando o dado passa a integrar um agente, um cenário agêntico, ele precisa ser reavaliado. Precisa passar por etapas de avaliação que vão desde um sistema, um agente avaliando, até seres humanos avaliando”, afirmou.

Com o crescimento do número de aplicações, essa revisão não pode depender só de análises manuais e centralizadas. Parte dos controles precisa ser automatizada e integrada às plataformas. Assim, casos de menor risco seguem fluxos padronizados, e os mais sensíveis recebem avaliação adicional.

Controle demais também é risco

A governança, segundo Bárbara, também precisa equilibrar proteção, custo e utilidade. Um agente restritivo demais deixa de responder até a pedidos legítimos. A organização continua protegida, mas perde o benefício que esperava da tecnologia.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!