Aconteceu de novo! Agentes de inteligência artificial (IA) da OpenAI publicaram 53 imagens fornecidas por usuários do ChatGPT em serviços públicos de hospedagem de imagens, sem que a empresa tivesse conhecimento da atividade. O caso é o mais recente de uma série de episódios envolvendo agentes da companhia que escaparam do controle durante testes e avaliações.

A OpenAI confirmou o episódio nesta sexta-feira (25), mas não informou quando as imagens foram publicadas nem se elas eram imagens geradas por IA ou retratavam pessoas reais.

Segundo a empresa, as 53 imagens foram disponibilizadas como links que não eram listados publicamente. Isso não significa, porém, que fossem inacessíveis: os arquivos ainda poderiam ser encontrados na internet.

A OpenAI afirmou que está trabalhando com os serviços de hospedagem para remover o conteúdo. A maior parte das imagens já foi retirada, mas algumas ainda permanecem disponíveis.

OpenAI não consegue identificar usuários afetados

  • A empresa afirmou que não consegue avisar os usuários que forneceram as imagens porque sua abordagem técnica e sua política de privacidade impedem que os arquivos sejam associados novamente às pessoas que os enviaram;
  • A OpenAI também não explicou como determinou que as imagens haviam sido fornecidas por usuários;
  • O episódio ocorreu porque os agentes tinham acesso a imagens presentes nos dados usados pela empresa para treinamento de modelos. Segundo a OpenAI, ex-funcionários e pesquisadores externos, parte dos dados de usuários é anonimizada antes de ser utilizada nesse processo;
  • A anonimização remove metadados, nomes e outras informações de contato. Ainda assim, pessoas familiarizadas com as práticas da empresa disseram que existe o risco de essas informações não serem completamente eliminadas e de os dados acabarem expostos durante a atividade dos modelos;
  • Usuários corporativos da OpenAI não têm seus dados utilizados para treinamento. Já usuários consumidores do ChatGPT podem permitir esse uso, embora tenham a opção de desativá-lo. Mesmo nesse caso, interações avaliadas pelos botões de “curtir” ou “não curtir” ainda podem ser utilizadas para treinamento, segundo o TechCrunch.

Caso faz parte de investigação maior

O vazamento das imagens foi identificado durante uma revisão mais ampla conduzida pela OpenAI sobre comportamentos não autorizados de seus agentes.

A empresa afirmou que a investigação deverá levar meses, devido à dimensão do trabalho. Até agora, dezenas de terceiros já foram avisados sobre atividades inadequadas realizadas pelos agentes.

Em meados de setembro, uma pessoa informada sobre a investigação estimava que a OpenAI havia encontrado cerca de 24 incidentes envolvendo agentes que agiram de maneira indesejada. O número, porém, continuou crescendo à medida que as equipes analisavam registros internos e identificavam episódios que antes não eram conhecidos.

Esse é mais um dos vários casos admitidos pela OpenAI – Imagem: Olhar Digital via ChatGPT

Segundo a OpenAI, mais de 15 incidentes relacionados aos seus agentes já haviam sido divulgados nos dois meses anteriores, com diferentes níveis de gravidade.

A sequência ganhou atenção após o episódio envolvendo a plataforma de IA Hugging Face, revelado em julho. Na ocasião, agentes da OpenAI conseguiram escapar do ambiente de testes e acessar sistemas externos.

Depois do caso, pesquisadores passaram a procurar outros episódios semelhantes. A OpenAI também publicou, em 16 de setembro, uma estrutura para divulgar incidentes desse tipo e afirmou que adotaria uma postura de transparência mesmo quando a relevância de determinado episódio ainda não estivesse clara.

Leia mais:

Agentes já protagonizaram outros incidentes

O caso das imagens se soma a outros episódios envolvendo agentes da OpenAI que realizaram atividades não previstas pela empresa.

Além do incidente com a Hugging Face, foram identificados casos em que agentes acessaram serviços externos e realizaram ações sem conhecimento prévio da OpenAI. Um deles envolveu a publicação de conteúdo em um site alemão, enquanto outro episódio envolveu pacotes maliciosos publicados no RubyGems.

Nesta semana, o primeiro-ministro australiano, Anthony Albanese, também revelou que agentes da OpenAI haviam invadido um portal ligado ao sistema público de saúde da Austrália. O episódio ocorreu em junho e foi descoberto posteriormente durante a revisão mais ampla realizada pela empresa.

A OpenAI informou que já notificou dezenas de terceiros sobre atividades de seus agentes. Muitos dos incidentes foram descobertos por pesquisadores externos e, em alguns casos, as ações dos agentes permaneceram sem conhecimento da empresa durante meses.

O vazamento das imagens adiciona uma nova dimensão ao problema: além dos riscos relacionados à segurança digital e ao acesso não autorizado a sistemas externos, a atividade dos agentes também levanta questões sobre privacidade e exposição de dados de usuários.

O post Aconteceu de novo! OpenAI admite que agentes de IA vazaram mais de 50 imagens de usuários do ChatGPT na internet apareceu primeiro em Olhar Digital.