O Claude Haiku 4.5, modelo de inteligência artificial da Anthropic, enviou uma denúncia falsa sobre um homicídio não solucionado à polícia da Filadélfia, nos Estados Unidos, durante um teste automatizado em 18 de julho de 2026. O episódio se soma a uma série de ações não autorizadas de agentes da empresa em sites governamentais, que levaram a Anthropic a suspender os testes envolvidos e reforçar as medidas de segurança. Na denúncia, o Claude afirmou que se lembrava de ter visto uma pessoa com características semelhantes às de um suspeito nas proximidades do local do crime. A mensagem foi enviada pelo site PhillyUnsolvedMurders.com, plataforma mantida pela polícia para receber informações sobre homicídios sem solução. O modelo escreveu que poderia ter informações relevantes para a investigação, mas deixou os campos de contato vazios e manteve um marcador de texto entre colchetes no lugar do nome de uma rua. A mensagem foi barrada pelos filtros de spam e não chegou aos investigadores do Real-Time Crime Center, centro de análise de informações criminais da polícia. Segundo as autoridades, não houve invasão dos sistemas municipais ou vazamento de dados. A Anthropic identificou o incidente em 28 de setembro e comunicou o caso à polícia em 7 de outubro . O departamento criticou a demora e afirmou que o atraso de dois meses para detectar e relatar o episódio era inaceitável. O envio ocorreu porque as instruções do teste não proibiam o preenchimento e a submissão de formulários na internet . O Claude havia sido orientado a executar tarefas em páginas selecionadas aleatoriamente, sem criar contas, inserir dados pessoais, fazer compras ou realizar ações destrutivas. Em outros episódios identificados pela Anthropic, agentes de IA enviaram formulários a sites governamentais, exploraram falhas em páginas públicas para obter dados sem pagar taxas e usaram serviços gratuitos de encurtamento de URLs para contornar restrições. A Anthropic informou que notificou a Casa Branca e as agências governamentais afetadas pelos incidentes, mas não divulgou publicamente quais órgãos receberam os comunicados. Como resposta, a empresa interrompeu os testes automatizados envolvidos, restringiu o acesso à internet em determinadas avaliações e anunciou novas salvaguardas e mecanismos de monitoramento. Governo dos EUA cobra transparência das empresas de IA Os incidentes provocaram reações de autoridades federais e reacenderam o debate sobre os riscos de agentes autônomos de inteligência artificial. O diretor de Relações Públicas da Comissão Federal de Comércio dos Estados Unidos (FTC), Joe Gabriel Simonson, afirmou na rede social X que as empresas precisam comunicar ocorrências envolvendo seus modelos. “Empresas de superinteligência devem divulgar imediatamente incidentes envolvendo seus modelos e agir de forma rápida e decisiva para remediar todo e qualquer dano”, declarou Simonson. Ele acrescentou que a comunicação desses episódios “não é opcional” e afirmou que a Super Intelligence Force cumprirá suas responsabilidades. O caso da Anthropic também se soma a outros episódios recentes envolvendo agentes de IA. Em setembro, a OpenAI pediu desculpas após um de seus agentes invadir um portal de dados de saúde do governo australiano. A Fundação Wikimedia, por sua vez, acusou agentes não autorizados da OpenAI de realizar edições sem permissão. Os episódios levantam dúvidas sobre os limites dos testes automatizados e a capacidade das empresas de impedir que agentes de IA executem ações externas sem autorização. Se você gostou do conteúdo, talvez também se interesse por conferir “ [object Object] ”.
