O avanço da inteligência artificial no setor militar vem acompanhado de um alerta dentro da própria indústria de defesa da China. Engenheiros ligados ao Instituto de Projeto de Aeronaves de Chengdu apontam que modelos de IA podem acelerar a análise de grandes volumes de informações, mas também produzir dados aparentemente convincentes que não correspondem à realidade. O instituto integra a estrutura da Aviation Industry Corporation of China (AVIC) e está ligado ao desenvolvimento do caça furtivo J-20. Já a designação “J-36”, utilizada para um novo protótipo observado em testes, ainda não foi oficialmente confirmada pelas autoridades chinesas.
Entre os riscos discutidos está a possibilidade de sistemas generativos criarem especificações inexistentes de aeronaves, dados incorretos sobre alcance ou frequência de radares e até informações fictícias sobre unidades e instalações militares. Em um ambiente de defesa, esse tipo de erro pode ter consequências maiores do que uma resposta incorreta produzida por um chatbot comum, porque informações de inteligência são utilizadas como referência para planejamento, desenvolvimento de equipamentos e avaliação das capacidades de possíveis adversários.
Os efeitos também poderiam alcançar o próprio projeto de uma aeronave. Caso informações falsas fossem tratadas como verdadeiras, engenheiros poderiam trabalhar com premissas equivocadas sobre furtividade, sensores, guerra eletrônica, alcance ou desempenho de voo. Há ainda o risco de a IA produzir respostas incompatíveis com princípios físicos conhecidos, sugerindo materiais inexistentes, manobras inviáveis ou missões que ultrapassem a autonomia real de determinado equipamento. O alerta, porém, descreve riscos associados ao uso inadequado da tecnologia, e não significa que esses erros tenham provocado acidentes ou decisões militares concretas.
A preocupação não está restrita aos projetistas. Em junho de 2026, o jornal oficial do Exército de Libertação Popular alertou para os perigos de modelos de IA alterarem ou distorcerem informações para corresponder às expectativas de seus usuários. O texto apontou riscos para áreas como inteligência, comando e controle e simulações militares, defendendo que decisões relevantes continuem submetidas à avaliação humana.
O debate ganha importância porque a China está ampliando o emprego da tecnologia em suas Forças Armadas. Em agosto, a imprensa estatal chinesa revelou um sistema de planejamento apoiado por IA capaz de auxiliar exercícios envolvendo centenas de alvos e dezenas de formações aéreas. O próprio responsável pelo projeto afirmou que pequenas falhas na lógica do sistema podem ter impacto decisivo sobre uma operação.
Para reduzir os riscos, pesquisadores defendem que modelos utilizados em aplicações militares sejam conectados a bases de conhecimento verificáveis, alimentados com fontes confiáveis e submetidos a múltiplas etapas de checagem antes que suas respostas sejam incorporadas a projetos ou decisões operacionais. Em um cenário em que algoritmos passam a auxiliar cada vez mais a análise de inteligência e o planejamento de missões, uma “alucinação” da IA deixa de representar apenas uma informação errada na tela: dependendo de como o sistema for utilizado, pode contribuir para uma avaliação igualmente equivocada no mundo real.
