Relatório feito com IA quase leva os EUA a abordar navio chinês: o documento era 'inteiramente falso'

Um relatório militar produzido com a ajuda de inteligência artificial quase levou os Estados Unidos a abordar um navio chinês, sob a suspeita de que ele carregava componentes de armas nucleares. A suspeita era falsa. A história foi revelada em uma reportagem exclusiva da CNN, baseada em fontes ouvidas pela emissora, e mostra até onde um erro de chatbot pode chegar quando ninguém confere o que ele escreveu.

De acordo com a CNN, o episódio aconteceu na primavera do hemisfério norte, durante a guerra dos EUA com o Irã. Um analista do comando de operações especiais americano usou um chatbot para cruzar informações abertas, das que qualquer pessoa pode achar na internet, com dados sigilosos de interceptação de sinais. A ferramenta concluiu que um navio de bandeira chinesa no Oriente Médio levava material ligado a um programa de armas nucleares. E foi além: o mesmo sistema ajudou a montar o relatório oficial, que circulou pelos canais militares como se fosse informação confiável.

O alarme foi imediato. Militares armados chegaram a se preparar para subir a bordo da embarcação, e aviões de guerra já estavam no ar. Só perto da hora marcada, quando alguém resolveu escavar mais fundo a origem das informações, veio a descoberta: o conteúdo saíra de um chatbot que identificou de forma errada o que o navio transportava. Uma das fontes ouvidas pela CNN chamou o material de “inteiramente falso” e disse que o caso esteve perto de provocar uma guerra. O Pentágono e o comando envolvido não responderam aos pedidos de comentário da emissora.

Vale entender por que isso é tão sério. Uma abordagem americana a um navio da China não é uma operação qualquer. Uma ação desse tipo pode escalar para um conflito armado entre duas potências que têm armas nucleares. E o gatilho, nesse caso, teria sido uma frase gerada por uma máquina que fala com convicção mesmo quando está errada. Esse defeito tem nome: alucinação. O modelo não sabe que está errando, ele só produz o texto que parece mais plausível para a pergunta que recebeu.

Note que a falha principal não foi só da tecnologia. Um chatbot escreveu o relatório, mas quem o fez circular como inteligência oficial foram pessoas. A ferramenta trouxe o erro, e o processo permitiu que ele viajasse até a beira de uma operação armada. Se a checagem só aconteceu porque alguém, por sorte ou por zelo, resolveu cavar mais um pouco, o sistema não estava protegido. Estava dependendo de um bom instinto individual.

Quem é afetado vai muito além dos militares. Governos, empresas e redações estão adotando IA para resumir documentos e cruzar dados, e todos ficam expostos ao mesmo tipo de tropeço. A diferença é o custo do erro: numa empresa, um relatório errado gera prejuízo. Aqui, por pouco, geraria uma crise entre EUA e China.

O que fica para observar é se o governo americano vai admitir o caso publicamente e mudar as regras para uso de IA em inteligência, por exemplo exigindo que toda conclusão gerada por chatbot seja confirmada por uma segunda fonte humana antes de virar relatório. Até agora, segundo a CNN, não houve resposta oficial. A lição, enquanto isso, é simples e incômoda: quanto mais crível o texto soa, mais cuidado ele merece.