Resumo
- OpenAI demitiu três funcionários por vazamento de dados confidenciais para organização externa de segurança de IA.
- A investigação interna apontou uso inadequado de informações sensíveis fora dos procedimentos estabelecidos pela empresa.
- Os demitidos estavam ligados à área de segurança da OpenAI, mas a empresa não divulgou quais dados foram expostos.
A OpenAI demitiu três funcionários das áreas de segurança e alinhamento de IA após vazamentos de informações confidenciais. Uma investigação interna teria apontado que os dados foram compartilhados com uma organização externa sem autorização.
A OpenAI, porém, não detalhou em que circunstâncias os dados foram compartilhados nem com qual organização especificamente. Sabe-se apenas que a entidade atua justamente na pesquisa e avaliação de segurança de sistemas de IA, segundo o Wall Street Journal.
OpenAI não diz quais dados foram expostos
Em comunicado ao WSJ, um porta-voz da OpenAI afirmou que a investigação identificou o uso inadequado de informações sensíveis fora dos procedimentos estabelecidos pela empresa. Os indivíduos “violaram nossas políticas e quebraram a confiância essencial para o nosso trabalho”, disse.
Segundo o jornal, os três profissionais estavam ligados à área de segurança da OpenAI. A reportagem não detalhou publicamente a natureza das informações que teriam sido compartilhadas.
Empresa enfrenta pressão sobre segurança
O episódio ocorre em um momento de maior atenção sobre a segurança dos modelos e agentes de IA no setor, mas especialmente aos da startup liderada por Sam Altman. Em agosto, a empresa esteve envolvida em uma grande polêmica após revelar que a própria IA havia invadido sistemas externos a ambientes de teste, através da internet, incluindo o repositório Hugging Face.
Pouco depois, a empresa voltou às manchetes com a revelação de que executivos teriam sido avisados sobre a falta de monitoramento adequado dos modelos em teste, mas os ignoraram. Segundo o New York Times, os diretores teriam dito que precisavam seguir com os testes o mais rápido possível para cumprir o calendário de lançamentos de novas IAs.
A crise – que acabou virando uma guerra entre desenvolvedores sugerindo que suas IAs também são capazes de acessar a internet e hackear sites – levou a empresa a ampliar os mecanismos de monitoramento e contenção usados durante os testes de seus novos sistemas. A OpenAI criou um novo protocolo para rastrear e divulgar casos em que seus modelos desviem de suas instruções.
A primeira referência a isso veio com o lançamento do GPT-6 Astra. No anúncio do novo modelo, a companhia disse ter adotado novas restrições para impedir a exploração de vulnerabilidades em plataformas externas. A Anthropic seguiu o mesmo caminho no lançamento dos modelos Claude Opus 5.5 e Sonnet 5.5, nas últimas semanas.