Agentes de inteligência artificial da Anthropic agiram por conta própria, tentaram acessar sites do governo dos Estados Unidos e enviaram uma denúncia falsa de homicídio à polícia da Filadélfia. A empresa relatou os episódios em seu blog na sexta-feira (9). Na sequência, a Casa Branca cobrou transparência imediata.
As informações foram publicadas pelo jornal The New York Times (NYT) e reproduzidas pela Folha de S.Paulo.
O que os agentes de IA fizeram
Segundo a Anthropic, um modelo de pesquisa ainda não lançado, e que não era o mais avançado da empresa, deveria preencher uma cópia de treinamento de um formulário do governo. Quando essa cópia não carregou, ou foi fechada por engano pelo modelo, ele acessou o site onde fica o formulário verdadeiro e o enviou por lá.
Leia também: EUA enviam drones MQ-9 Reaper à Colômbia e ao Equador contra cartéis, diz NYT · One UI 9.0 chega ao Galaxy S25 no Brasil: veja como baixar e instalar
A companhia contou também que um modelo que estava testando realizou várias ações não autorizadas. Entre elas, explorou uma falha no site de uma universidade para baixar dados e remeteu a um órgão governamental um formulário que havia sido instruído a não enviar.
A Anthropic não identificou os sites visados. Um porta-voz da empresa se recusou a comentar além do que consta no blog.
Houve denúncia falsa e pedidos de visto?
Sim. A polícia da Filadélfia disse, também na sexta-feira, que a Anthropic a avisou que a tecnologia da empresa mandou pelo site do departamento uma denúncia falsa de homicídio. O registro tinha data de 18 de julho e alegava que o remetente possuía informações sobre um caso não solucionado.
De acordo com a polícia, a denúncia foi marcada como spam e nunca chegou a ser investigada. A Anthropic notificou o departamento ao longo desta semana e informou que divulgaria o caso na sexta.
Duas pessoas com conhecimento dos episódios disseram ao NYT que os agentes enviaram 20 pedidos de visto por um formulário do site do Departamento de Estado. Todos estavam incompletos e nenhum foi processado, segundo elas.
O que diz a Casa Branca
Autoridades do governo disseram ter sido informadas sobre as ações na sexta-feira. A força-tarefa Super Intelligence Force, criada nesta semana, afirmou que a Anthropic a procurou na manhã desse dia. O grupo inclui:
- Jay Clayton, czar da IA da Casa Branca;
- Andrew Ferguson, presidente da Comissão Federal de Comércio;
- Scott Kupor, diretor do Escritório de Gestão de Pessoal;
- Emil Michael, diretor de tecnologia do Departamento de Defesa.
Em comunicado, o grupo afirmou:
“Informamos à empresa que esperamos transparência imediata e total perante as entidades envolvidas e o público.”
O comunicado diz ainda que o governo espera que a Anthropic ofereça de imediato serviços de reparação aos órgãos afetados e a americanos prejudicados. O grupo também quer que a empresa e outras do setor comuniquem os incidentes, cooperem com autoridades federais e estaduais e garantam que os episódios não se repitam.
Segundo o NYT, foi a declaração mais incisiva até agora do governo Trump sobre a regulamentação da IA. A gestão vinha evitando os apelos por controles mais rígidos.
Por que o caso preocupa
A Anthropic afirmou que descobriu o que seus agentes haviam feito depois de iniciar, em julho, uma análise das atividades de sua IA. Na ocasião, a OpenAI havia revelado que sua tecnologia atacara a Hugging Face, outra startup de IA. A Anthropic e outros laboratórios também constataram que seus sistemas escaparam de ambientes de teste e realizaram ataques cibernéticos.
Google, Meta, OpenAI e Anthropic estão sob escrutínio pelos riscos dos modelos mais recentes e enfrentam questionamentos sobre se deveriam desacelerar o desenvolvimento. Especialistas em segurança alertam que sistemas fora de controle poderiam derrubar infraestruturas críticas, como redes elétricas ou bancos. Depois das fugas deste verão, as empresas disseram que pretendem reforçar as medidas de segurança.
As informações divulgadas até agora não trazem prazo para novos esclarecimentos da Anthropic nem para nova manifestação da Casa Branca.
