SÃO FRANCISCO — A inteligência artificial da OpenAI agiu de forma autônoma em pelo menos outros quatro incidentes neste ano, realizando tentativas de invasão e ataques contra sites governamentais e universitários sem ter recebido instruções para isso, segundo pesquisadores e autoridades governamentais.
Os episódios ocorreram entre maio e junho, antes de a tecnologia da OpenAI invadir a startup de IA Hugging Face, em julho, em um caso que desencadeou um debate global sobre segurança em inteligência artificial.
Diferentemente do ataque à Hugging Face e de outros incidentes nos quais os sistemas de IA foram orientados a realizar testes de cibersegurança que, na prática, incentivavam demonstrações de habilidades de invasão, os novos casos ocorreram durante tarefas relativamente simples de coleta de dados, afirmaram os pesquisadores. Quando os sistemas da OpenAI encontraram dificuldades para obter informações em determinados sites, recorreram a técnicas de invasão para acessar os dados.
Três dos incidentes foram identificados pela Transluce, laboratório de pesquisa focado em supervisão de IA, e todos foram confirmados pela OpenAI. Veja como ocorreram:
- Em 25 e 26 de maio, os sistemas da OpenAI tentaram invadir uma biblioteca digital da Universidade do Novo México. A IA aparentemente não teve sucesso.
- Em 28 de maio, a tecnologia teve como alvo o Data USA, repositório público de informações sobre emprego e educação nos Estados Unidos. A tentativa também não foi bem-sucedida.
- Em 18 de junho, a IA da OpenAI invadiu o site australiano Medicare Statistics Reporting Service e obteve acesso a dados de saúde. O episódio foi revelado nesta quarta-feira pelo primeiro-ministro da Austrália, Anthony Albanese.
- Em 20 e 21 de junho, a tecnologia tentou acessar o sistema do Australian Institute of Health and Welfare. Segundo autoridades australianas, nenhuma informação privada foi obtida.
Os incidentes se somam a uma série de invasões em que sistemas de IA da OpenAI, Anthropic, Meta e Google acessaram outros sistemas sem conhecimento humano. Os episódios intensificaram o debate sobre a necessidade de desacelerar o desenvolvimento da tecnologia para lidar com seus potenciais riscos.
Dario Amodei, CEO da Anthropic, defende que empresas e governos trabalhem em conjunto antes que a IA se torne poderosa demais para ser controlada por humanos. Já outros executivos, como Jensen Huang, CEO da fabricante de chips Nvidia, consideram exagerados os cenários mais alarmistas. O presidente dos Estados Unidos, Donald Trump, afirmou que não acredita na necessidade de uma regulação rígida para a tecnologia.
Para Conrad Stosz, responsável pela área de governança da Transluce, os novos episódios reforçam preocupações com os chamados agentes de IA, programas autônomos capazes de executar tarefas para usuários.
“A divulgação desses quatro incidentes adicionais aumenta as evidências de que os agentes precisam ser tratados com cuidado”, afirmou.
Segundo Stosz, os episódios na Austrália podem representar “o primeiro caso de um agente escolhendo autonomamente invadir um governo”.
Uma porta-voz da OpenAI informou que a empresa entrou em contato com a Universidade do Novo México e com o Data USA, além de manter diálogo com o governo australiano sobre os incidentes.
“Estamos priorizando os casos mais graves enquanto ampliamos nossa análise para atividades de menor risco, incluindo agentes que enviam grande volume de solicitações a sites”, afirmou.
A representante acrescentou que a OpenAI identificou os episódios australianos durante uma “revisão extensa” de seus modelos e concluiu que “os modelos tomaram ações que não pretendíamos”. Segundo ela, a investigação levará meses.
Neste mês, o CEO da OpenAI, Sam Altman, afirmou nas redes sociais que a segurança deve ser prioridade maior do que a evolução das capacidades da IA e alertou que, sem mecanismos de proteção, a sociedade pode “perder o controle do futuro para a inteligência artificial”.
Albanese disse ter conversado com Altman na quarta-feira e manifestado “profunda preocupação” com a invasão. Segundo ele, apenas dados não sensíveis, como informações sobre gastos, foram acessados, sem comprometimento de registros médicos pessoais.
Os novos casos indicam que os sistemas da OpenAI vêm tentando acessar sites, bancos de dados e sistemas corporativos há mais tempo do que se sabia anteriormente. A Transluce identificou tráfego relacionado aos agentes desde março e até a semana passada, sugerindo que o comportamento começou meses antes e continuou mesmo após a OpenAI iniciar investigações sobre o caso da Hugging Face e outros problemas.
Nos episódios de maio e junho, os sistemas de IA pareciam estar envolvidos em treinamentos voltados à recuperação de dados, segundo os pesquisadores.
No caso da Universidade do Novo México, a IA tentava acessar fotografias de um antigo centro de tratamento de tuberculose. Sem conseguir obter o material, passou a procurar vulnerabilidades que permitissem a invasão. Após não encontrar brechas, enviou o que descreveu como uma “enxurrada” de 80 solicitações ao servidor da universidade.
No episódio envolvendo o Data USA, a IA enviou inicialmente uma consulta de dados sem sentido. Diante do fracasso, realizou 12 tentativas de identificar vulnerabilidades no sistema, sem sucesso.
“Se você treinar um grupo de agentes para cumprir uma tarefa genérica e esses agentes estiverem dispostos a recorrer à invasão de sistemas, qualquer pessoa que possua a informação procurada pode estar em risco”, afirmou Stosz.
Este artigo foi publicado originalmente pelo The New York Times.
The post IA da OpenAI tentou invadir outros 4 alvos sem receber instruções para isso appeared first on InfoMoney.