Um modelo de inteligência artificial (IA) da Anthropic enviou uma denúncia falsa de homicídio pelo site da polícia de Filadélfia, nos Estados Unidos. A empresa notificou as autoridades no início desta semana e atribuiu o envio a um processo automatizado de testes.
Segundo informações da Polícia de Filadélfia, a submissão foi classificada como spam e não chegou a ser encaminhada ao centro de crimes em tempo real para análise investigativa. A Reuters informou que a Anthropic disse às autoridades que o processo de testes foi interrompido após a descoberta do incidente e que um mecanismo adicional de validação foi introduzido para testes futuros.
A polícia afirmou em nota: “A submissão foi identificada como spam e nunca foi encaminhada ao Centro de Crimes em Tempo Real para triagem investigativa ou disseminação”. A corporação acrescentou que a Anthropic comunicou a intenção de publicar um relatório sobre o caso nessa sexta-feira (9).
Leia mais: Ryan Roslansky, ex-CEO do LinkedIn, deixa posição na Microsoft
Comportamento não intencional de IA
O episódio se soma a uma série de casos em que modelos de IA agiram de forma não intencional. A tecnologia tem se tornado objeto de atenção nacional nos Estados Unidos em meio a relatos de agentes de IA invadindo redes corporativas e a alertas de pesquisadores sobre riscos existenciais associados ao avanço acelerado dos sistemas.
A Anthropic não respondeu a pedidos de comentário até o momento da publicação.
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!