'O homem foi substituído pela máquina': o uso da IA está minando as capacidades de inteligência das IDF?
A Unidade 8200 serviu como campo de testes para sistemas avançados de IA, moldando sua estratégia militar por anos antes de 7 de outubro; uma reportagem do Washington Post levanta preocupações sobre o aumento de vítimas civis e o enfraquecimento da inteligência humana sob a abordagem baseada em IA da unidade.
( Foto: IDF )
Após o ataque surpresa do Hamas em 7 de outubro do ano passado, a IDF lançou uma extensa campanha aérea em Gaza, alavancando anos de inteligência meticulosamente reunida sobre endereços, túneis e infraestrutura crítica ligada ao grupo terrorista. No entanto, conforme o banco de alvos começou a diminuir, os militares recorreram a um sistema de inteligência artificial conhecido como “The Gospel” para gerar rapidamente centenas de novos alvos, de acordo com uma investigação detalhada do Washington Post.
O relatório examina como o uso de tecnologias de IA impactou a guerra prolongada, incluindo sua influência em baixas civis e na qualidade da inteligência israelense. De acordo com dois indivíduos familiarizados com a operação de coleta de inteligência, a implantação de IA permitiu que a IDF mantivesse um ritmo implacável de ataques aéreos.
O Post descreve o software como uma das aplicações mais avançadas de IA militar até o momento, central para as operações em andamento de Israel. Ele também lança luz sobre debates internos dentro do IDF sobre se a dependência de IA enfraqueceu as capacidades tradicionais de inteligência e se as recomendações da tecnologia receberam escrutínio suficiente. As discussões sobre o uso de IA começaram anos antes do ataque de 7 de outubro, de acordo com a investigação.
Críticos dentro do exército argumentaram que o sistema de IA contribuiu para um aumento significativo de vítimas civis em Gaza. O Post baseia suas descobertas em entrevistas com mais de uma dúzia de indivíduos familiarizados com o sistema, a maioria dos quais falou anonimamente devido a preocupações com a segurança nacional, bem como em documentos internos obtidos durante sua investigação.
“O que está acontecendo em Gaza é um precursor de uma mudança mais ampla em como a guerra está sendo travada”, disse Steven Feldstein, membro sênior do Carnegie Endowment, que pesquisa o uso de IA na guerra. Ele observou que a IDF pareceu ter reduzido seu limite para a taxa aceitável de baixas civis durante a guerra de Gaza. “Combine isso com a aceleração que esses sistemas oferecem — bem como as questões de precisão — e o resultado final é uma contagem de mortes maior do que se imaginava anteriormente na guerra.”
As IDF disseram que as alegações de que seu uso de IA coloca vidas em risco estão “erradas”.
“Quanto mais habilidade você tem para compilar pedaços de informação efetivamente, mais preciso é o processo”, disse a IDF em uma declaração ao The Post. “Se alguma coisa, essas ferramentas minimizaram os danos colaterais e aumentaram a precisão do processo liderado por humanos.”
Uma semana de trabalho em 30 minutos
Uma grande transformação na Unidade 8200, a divisão de inteligência de elite de Israel, foi revelada, mostrando uma mudança drástica em direção a funções de engenharia e tecnologia sob a liderança de Yossi Sariel.
De acordo com uma investigação do Washington Post, até 7 de outubro de 2023, 60% do pessoal da Unidade 8200 trabalhava em capacidades de engenharia e tecnologia — o dobro da porcentagem de uma década atrás. Essa mudança ocorreu às custas de funções tradicionais, incluindo especialistas em língua árabe, e envolveu a demissão de oficiais críticos à adoção de inteligência artificial.
( Foto: Moti Kimchi )
O relatório destaca a integração de ferramentas de IA como “The Gospel”, um sistema desenvolvido usando centenas de algoritmos preditivos projetados para processar grandes quantidades de dados — chamados pela IDF de “o pool”. O software gera recomendações para alvos militares, incluindo túneis, foguetes e outras infraestruturas, que são revisadas por analistas e, finalmente, aprovadas por oficiais superiores para inclusão no banco de dados de alvos.
Uma fonte militar familiarizada com os sistemas disse ao Post que as capacidades de reconhecimento de imagem da IA permitem que os soldados identifiquem padrões sutis em imagens de satélite, como pequenas mudanças de terreno indicando lançadores de foguetes ou túneis recém-enterrados. Esse nível de análise comprimiu o trabalho que antes levava uma semana em apenas 30 minutos.
No entanto, a rápida adoção da IA levantou preocupações entre alguns oficiais. Críticos argumentam que a velocidade da tecnologia esconde suas limitações, como imprecisões no processamento da língua árabe, onde gírias e palavras-chave foram supostamente mal compreendidas.
Um ex-oficial militar sênior observou que os relatórios de inteligência apresentados aos comandantes muitas vezes não esclareciam se os dados eram derivados de fontes humanas ou de IA, complicando o processo de avaliação. “Tudo era tratado como o mesmo”, disse outro ex-oficial sênior. “Nem tenho certeza se a pessoa que preparou o relatório sabia a diferença entre as informações.”
O exército israelense utiliza sistemas avançados de IA, incluindo "The Gospel" e "Lavender", para prever potenciais baixas civis durante as operações. Essas ferramentas dependem de software de mineração de dados que combina reconhecimento de imagem de filmagens de drones com dados de rastreamento de smartphones conectados a antenas de celular para estimar o número de civis em uma área-alvo.
Em 2014, a taxa de baixas entre civis e combatentes aceita pela IDF era de um civil por terrorista sênior, disse Tal Mimran, um ex-assessor jurídico dos militares. De acordo com o Breaking the Silence, um grupo que cita depoimentos de soldados da IDF, essa taxa aumentou durante a guerra atual para 15 civis por terrorista de baixa patente e exponencialmente maior para agentes de nível médio e sênior. O New York Times relatou recentemente que o número pode estar mais próximo de 20 civis por terrorista.
As IDF sustentam que suas avaliações de danos colaterais estão em conformidade com o direito internacional, que exige a distinção entre civis e combatentes e a tomada de precauções para minimizar os danos a não combatentes.
Debate interno: Homem vs. máquina
Os defensores dessas tecnologias argumentam que a implementação agressiva de inovações de IA é essencial para a sobrevivência de uma pequena nação que enfrenta adversários determinados e poderosos. “A superioridade tecnológica é o que mantém Israel seguro”, disse Blaise Misztal, vice-presidente de política do Instituto Judaico para Segurança Nacional da América, que foi informado pela divisão de inteligência da IDF sobre suas capacidades de IA em 2021. “Quanto mais rápido Israel for capaz de identificar as capacidades inimigas e tirá-las do campo de batalha, mais curta será a guerra e haverá menos baixas.”
Unidade 8200 base em Glilot
( Foto: Yariv Katz )
No entanto, preocupações sobre a qualidade da inteligência gerada por IA provocaram divisões internas dentro da IDF. De acordo com três fontes, a dependência dessa tecnologia mudou as prioridades, favorecendo capacidades técnicas em detrimento de práticas tradicionais.
Por exemplo, a Unidade 8200 há muito tempo permite que analistas juniores ignorem seus comandantes imediatos e retransmitam alertas diretamente a oficiais seniores. Alguns temem que a dependência de sistemas de IA possa ter minado essa prática, potencialmente enfraquecendo os processos de tomada de decisão das IDF.
Sariel renunciou ao exército, citando sua responsabilidade pelas falhas de inteligência que levaram ao ataque surpresa do Hamas em 7 de outubro. A renúncia foi enviada ao Chefe do Estado-Maior das IDF, Tenente-General Herzi Halevi, e ao Chefe da Inteligência Militar, Maj. General Shlomi Binder.
De acordo com dois ex-oficiais seniores entrevistados pelo Post, a crescente dependência da unidade em IA foi um fator-chave na falta de preparação de Israel. Eles alegam que uma ênfase exagerada em descobertas tecnológicas impediu os analistas de transmitir efetivamente alertas aos principais comandantes. “Esta era uma fábrica de IA”, disse um ex-líder militar, falando sob condição de anonimato para descrever tópicos de segurança nacional. “O homem foi substituído pela máquina.”
O nome de Sariel surgiu após uma violação de segurança relatada pelo The Guardian. Um livro de sua autoria, The Human Machine Team, publicado na Amazon, revelou uma trilha digital vinculada a uma conta pessoal do Google em seu nome. A conta continha identificadores e mapas exclusivos vinculados ao seu trabalho. O livro descreve a visão de Sariel de integrar IA à defesa, enfatizando como isso poderia revolucionar o relacionamento entre humanos e máquinas em operações militares.
Antes de assumir o comando da Unidade 8200, Sariel passou um ano sabático na National Defense University, financiada pelo Pentágono, em Washington. Um professor da instituição descreveu a visão radical de Sariel para a IA no campo de batalha, que ele compartilhou em seu livro. Sariel propôs que a IA transformaria todos os aspectos da defesa, incluindo a segurança da fronteira, transformando as fronteiras de Israel em "fronteiras inteligentes" usando tecnologias avançadas de vigilância. Ele também previu que, dentro de cinco anos, a IA poderia substituir 80% dos analistas de inteligência especializados em línguas estrangeiras.
Quando Sariel retornou a Israel, ele implementou sua visão. Nomeado comandante da Unidade 8200 pelo então Chefe do Estado-Maior das IDF, Aviv Kochavi, no verão de 2020, Sariel enfrentou preocupações internas de antigos comandantes que expressaram em particular preocupações sobre o que eles descreveram como uma "atitude religiosa em relação à IA" se desenvolvendo sob sua liderança.
A Unit 8200, renomada por suas tecnologias cibernéticas de ponta e coleta de inteligência online, há muito tempo mantém uma reputação de excelência tecnológica. No entanto, o grande volume de informações frequentemente sobrecarregava os analistas.
Por exemplo, agentes do Hamas frequentemente usavam a palavra “melancia” como código para uma bomba, mas o sistema tinha dificuldade para diferenciar entre discussões sobre melancias reais e mensagens criptografadas. “Se você captar mil conversas por dia, eu realmente quero ouvir sobre cada melancia em Gaza?”, disse uma fonte ao Washington Post.
Sob Sariel, a unidade intensificou seus esforços de mineração de dados e reestruturou as operações de inteligência. Novas tecnologias foram introduzidas para processar algoritmos rapidamente em antecipação a uma potencial guerra com o Hezbollah. Uma dessas inovações foi um aplicativo chamado "Hunter", que permitiu que soldados em campo acessassem diretamente dados de inteligência em tempo real.
Muito antes do ataque surpresa do Hamas, a Unidade 8200 estava construindo meticulosamente um banco de alvos, exigindo que analistas verificassem as descobertas com pelo menos duas fontes independentes e atualizassem continuamente os dados, de acordo com três pessoas familiarizadas com o programa.
Antes que um alvo pudesse ser adicionado ao "banco", ele tinha que ser "validado" por um oficial sênior e um advogado militar para garantir a conformidade com a lei internacional. Oficiais de inteligência sênior, incluindo Sariel, acreditavam que o aprendizado de máquina poderia acelerar dramaticamente esse processo.
“Eles realmente acreditavam que, com todos os sensores que tinham ao redor e acima de Gaza, não diria total conscientização informacional, mas que tinham uma imagem muito boa do que estava acontecendo lá dentro”, disse Misztal, que lidera uma organização focada na cooperação de segurança entre os Estados Unidos e Israel.
Após os eventos de 7 de outubro, a Unidade 8200 teria aumentado os esforços para recrutar analistas adicionais que falam árabe, incluindo aqueles encarregados de avaliar e criticar sistemas de IA, de acordo com três fontes citadas pelo Post. Enquanto isso, autoridades israelenses estão notavelmente mais contidas em seus comentários públicos sobre o uso de inteligência artificial.
