A inteligência artificial (IA) é perigosa em alguns aspectos, mas representa uma ameaça “próxima de zero” para a humanidade. A opinião é de Clément Delangue, CEO da Hugging Face.
A plataforma é um repositório de códigos e modelos de IA, mais conhecida fora da indústria por ser até agora o alvo mais famoso de um agente rebelde da OpenAI.
A opinião vai contra alguns pesquisadores do setor, que denunciam os possíveis riscos graves do crescimento acelerado da capacidade dessas ferramentas. Porém, o executivo crê que há “muitos outros tópicos que podem destruir o mundo” para além de um sistema automatizado.
Delangue falou sobre o assunto durante um evento organizado pela Wired. No painel, o CEO defendeu ainda lutar pela criminalização de invasões cometidas por agentes de IA, mesmo os que estavam em ambientes de teste e “saíram do controle” dos responsáveis.
“Ciberataques são ilegais, e considero fundamental garantir que ciberataques autônomos também sejam ilegais. Não queremos criar um cenário em que não haja responsabilização, em que ninguém responda” argumenta. Porém, a própria Hugging Face decidiu não processar ou denunciar a OpenAI após a tentativa de exploração de brechas.
Mercado descentralizado
Atualmente de propriedade da Nvidia, a Hugging Face seguirá fomentando o mercado aberto de IA, para que modelos abertos e mais transparentes tenham cada vez mais espaço no mercado.
Segundo Delangue, isso é essencial para evitar que a indústria da IA fique na mão de poucas empresas responsáveis — especialmente companhias que constroem modelos de ponta “sob portas fechadas” e em segredo, como é o caso da própria dona do ChatGPT.
“É perfeitamente possível que acabemos em um mundo no qual apenas algumas empresas controlem a maior parte da IA. Existem tendências naturais muito fortes, já que elas acabam monopolizando talentos, poder computacional e capacidades”, alerta o executivo.
A invasão da Hugging Face, segundo ele, é um exemplo disso: a companhia adotou um modelo aberto chinês, o GLM-5.2, para investigar e restringir os efeitos da invasão sofrida.
A ideia da companhia é permitir que cada vez mais pessoas tenham acesso a modelos customizados de IA, o que ajudaria na formação de um “futuro tecnológico mais democrático”.
Como a IA está ampliando os riscos de ataques cibernéticos no geral? Entenda nesta coluna! /Com informações de Wired.