Representantes de 193 países estão reunidos em Nova York, nos EUA, para a 81ª Assembleia Geral da Organização das Nações Unidas (ONU), iniciada na terça-feira (22), com o objetivo de discutir os rumos da segurança global, especialmente diante das ameaças e desafios impostos pelo avanço desenfreado da inteligência artificial (IA).
Em participação no programa Olhar Digital News (que você pode assistir na íntegra aqui), Álvaro Machado Dias, professor da Universidade Federal de São Paulo (Unifesp), neurocientista, futurista e colunista do Olhar Digital, disse que é a primeira vez em 80 anos que uma inovação tecnológica volta a ser encarada com o mesmo nível de alerta atribuído ao surgimento das armas nucleares na década de 1940.
Ao analisar a presença de executivos no Conselho de Segurança, ele destacou como a tecnologia passou a ser vista como um ator geopolítico independente nas discussões diplomáticas. “Quando o Conselho de Segurança convoca uma reunião sobre IA, ele está dizendo que essa coisa, esse ente que existe sem bandeira, sem exército, sem território, pode ameaçar a paz. A última grande categoria comparável em algum nível foi a energia nuclear, e a gente tem aqui 80 anos nos separando da bomba atômica”.
Decisões autônomas diferenciam riscos da IA e das armas nucleares
Há, no entanto, uma diferença marcante no atual debate sobre segurança militar mundial. No caso das bombas atômicas, o temor sempre foi a decisão humana de apertar o botão. Já com os novos sistemas virtuais, existe a tese de uma ameaça que pode agir por conta própria.
Dias destaca a diferença fundamental entre os arsenais do passado e as incertezas trazidas pelo avanço das ferramentas digitais de última geração. “No caso das armas nucleares, ninguém nunca achou que a bomba podia se autoexplodir e acabar com o mundo, sempre a questão foi como desentendimentos poderiam criar destruição mútua. Agora, no caso da inteligência artificial, existe essa tese de que ela estaria caminhando para poder adquirir uma capacidade e talvez até uma intencionalidade orientada à destruição da humanidade”.
A consequência prática dessa reclassificação é a mudança nos burocratas encarregados das negociações. A pauta saiu das mãos dos ministérios de ciência e tecnologia para ser gerida por ministros da defesa, chefes de inteligência e diplomatas de alto escalão.
Essa transição altera profundamente a natureza dos acordos entre as grandes potências. Quando o assunto é segurança nacional, o foco das reuniões deixa de ser a criação de empregos e passa a ser a proteção contra colapsos sociais imprevisíveis.
Apesar dos alertas sobre perigos futuros, o impacto imediato já afeta o cotidiano das pessoas. A ausência de regras globais consolidadas abre espaço para abusos comerciais, invasão de privacidade e disseminação massiva de desinformação nas redes virtuais.
Avanço sem freios exige criação de auditorias internacionais
Também em participação no Olhar Digital News (veja aqui), Roberto Pena Spinelli, físico pela Universidade de São Paulo (USP), especialista em Machine Learning pela Universidade de Stanford, nos EUA, e colunista do Olhar Digital, ressaltou a gravidade da ausência de fiscalização direta sobre as corporações:
“A IA é um negócio superpoderoso no mundo, a gente está percebendo os impactos. E não tem praticamente nenhuma regulação, não tem nada específico para ela. A gente está vendo um monte de coisas que a gente não sabe como lidar, questões de direitos autorais, questões de manipulação de informação, de maus usos, de IA escapando da caixa e cometendo crimes, e ainda com zero regulações”, disse Pena, complementando que, “por mais que as empresas associadas estejam se manifestando, não é o suficiente, não dá para a própria empresa se autorregular.”
Para tentar frear esses problemas reais, iniciativas europeias buscam estabelecer auditorias internacionais obrigatórias. Propostas lideradas por países como Finlândia e Noruega tentam impor limites de velocidade ao desenvolvimento de modelos avançados e criar mecanismos claros de responsabilização jurídica.
Pena aponta como essas propostas buscam proteger a sociedade civil, destacando a necessidade de órgãos independentes capazes de fiscalizar gigantes de tecnologia e impor sanções concretas caso normas éticas sejam violadas. “O que esse órgão que está sendo criado está pedindo é que você tenha mecanismos de auditoria, de controle das empresas, de ter que reportar os riscos associados. O mais importante é ter órgãos realmente fiscalizando isso e podendo colocar sanções, se for o caso”.
Enquanto a diplomacia tenta encontrar consensos entre nações divididas, a tecnologia avança a passos rápidos. O desafio global nos próximos anos será equilibrar a inovação com a proteção contra ameaças que, até pouco tempo, pareciam restritas aos filmes de ficção científica.
O post Efeito “bomba atômica” da IA: mundo volta a tratar uma tecnologia como ameaça à paz mundial após mais de 80 anos apareceu primeiro em Olhar Digital.