Mais da metade das empresas que participaram da pesquisa GRC Insights, da KPMG, ainda não tem uma governança formal de inteligência artificial (IA) em vigor. O levantamento mostra que a velocidade de adoção da tecnologia supera a capacidade das organizações de estabelecer mecanismos estruturados de supervisão, controle e gestão de riscos.
Segundo o estudo, 52% dos participantes afirmam que suas empresas ainda estão discutindo ou estruturando um modelo formal de governança para IA. Apenas 23% dizem contar com uma estrutura formalizada e atuante. A pesquisa reuniu 53 profissionais das áreas de governança, riscos, compliance, auditoria interna e controles internos, representando empresas de setores como energia, serviços financeiros, saúde, tecnologia e agronegócio.
Leia também: “Não dá para tirar o pé do acelerador”, diz VP do GitHub sobre escalada de tráfego causada pelos agentes de IA
Inventário e mapeamento de riscos ausentes
A falta de estruturação vai além da governança formal. Cinquenta e nove por cento dos participantes afirmam que suas organizações não possuem um inventário das atividades realizadas com IA. As áreas de governança, riscos, compliance e auditoria interna ainda não são formalmente envolvidas no mapeamento de riscos e controles relacionados à tecnologia.
O cenário de confiança também é precário. Um total de 35% dos entrevistados diz que suas organizações não confiam no uso da IA para decisões críticas. Apenas 6% afirmam confiar amplamente na tecnologia, mesmo com controles adequados implementados. Além disso, 51% relatam que suas empresas ainda não realizaram um mapeamento estruturado de riscos específicos da IA, como vieses, alucinações, segurança, compliance e uso de dados sensíveis.
“A decisão baseada em inteligência artificial depende diretamente da qualidade da origem e da forma como os dados são tratados. Por isso, governar dados para IA significa estabelecer responsabilidades claras sobre acesso, uso, segurança, privacidade e rastreabilidade, além de garantir mecanismos de monitoramento ao longo de todo o ciclo de vida dos modelos. Sem essa estrutura, a empresa pode até ampliar o uso da tecnologia, mas terá dificuldade para explicar, controlar e responder pelos resultados gerados”, afirma a sócia líder de governança corporativa da KPMG no Brasil, Eliete Martins.
Processos manuais ainda dominam os controles internos
Outro indicador de baixa maturidade está nos controles internos. Cinquenta e sete por cento dos participantes afirmam que suas organizações ainda realizam manualmente os testes de controles internos e compliance, sem o uso de agentes de IA. O dado mostra que as empresas precisam avançar também na utilização da própria tecnologia para aprimorar processos de governança, riscos e controles.
O sócio líder de governança, risco e compliance da KPMG no Brasil, Emerson Melo, observa que escala e confiança são indissociáveis nesse processo. “Quanto mais a tecnologia participa de processos relevantes e decisões críticas, maior é a necessidade de controles, transparência e supervisão. Não existe escala em IA sem confiança, e não existe confiança sem uma governança que evolua no mesmo ritmo da tecnologia. O próximo estágio não é utilizar mais IA, mas criar as condições para escalá-la sem ampliar proporcionalmente a exposição a riscos”, diz Melo.
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!