Relatório falso por IA quase levou EUA a interceptarem navio chinês

Aeronaves das Forças Armadas dos Estados Unidos já estavam no ar no primeiro semestre de 2026 quando oficiais americanos identificaram um erro grave: o relatório de inteligência que justificava uma operação armada contra uma embarcação chinesa havia sido gerado por uma alucinação de inteligência artificial. Segundo reportagem da CNN citada pelos veículos TechCrunch, The Decoder e Ars Technica, a ação foi abortada no último minuto, evitando um potencial conflito militar com a China.

A informação incorreta apontava que o navio chinês transportava componentes destinados a um programa de armas nucleares no Oriente Médio. O relatório falso foi elaborado por um analista do Comando de Operações Especiais (Special Operations Command), que usou um chatbot de IA para cruzar dados de fontes abertas com informações secretas de inteligência de sinais contidas em bases do governo. A ferramenta identificou incorretamente o manifesto de carga do navio. Em seguida, o analista utilizou o mesmo recurso uma segunda vez para formatar os dados incorretos em um resumo com aparência oficial, distribuído pelos canais de comando.

Velocidade de adoção e falta de supervisão humana

Com base no documento gerado, os militares americanos se preparavam para interceptar e abordar o navio com suporte aéreo. Segundo fontes ouvidas pela CNN, a falha esteve perto de desencadear um conflito direto. O episódio ocorre em um momento no qual o Pentágono busca integrar sistemas de IA para acelerar a tomada de decisões e a cadeia de comando. No entanto, fontes relataram à CNN que o departamento não possui padrões uniformes para checar e verificar relatórios produzidos por ferramentas automatizadas.

Apesar da estratégia do Secretário de Defesa, Pete Hegseth, para acelerar o uso da tecnologia nas Forças Armadas, analistas internos apontam que muitos dos sistemas governamentais atuais são adaptações de produtos comerciais e que profissionais mais jovens tendem a confiar nas respostas da IA sem questioná-las. Uma das fontes consultadas pela reportagem afirmou que a inteligência artificial permite "chegar a uma ideia ruim de forma mais rápida".

Riscos operacionais e a necessidade de salvaguardas

Especialistas alertam para o risco de falhas geradas por modelos de linguagem (LLMs) subirem na cadeia de comando antes que alguém as questione. Jake Steckler, pesquisador da GovAI e veterano do Exército dos EUA, declarou ao TechCrunch que é crítico que os militares compreendam as incertezas inerentes a esses sistemas, especialmente em decisões que envolvem o uso da força, análise de inteligência ou planejamento operacional, por apresentarem consequências letais.

Steckler ponderou, contudo, que o caso não deve ser visto como motivo para abandonar a tecnologia, mas sim para a implementação de salvaguardas adequadas. Segundo o especialista, priorizar a velocidade de adoção acima de outros fatores pode gerar incidentes que reduzem a confiança dos militares nas ferramentas, o que acabaria atrasando a própria integração da IA.