Otávio Santana do Rêgo Barros: Quem vale mais, o homem ou a máquina?

Sexta-feira, 4 de setembro de 2009, região de Kunduz, sudoeste do Afeganistão. Um comandante sênior alemão, com base em imagens de vídeo transmitidas por satélite e no relato de um único informante local, autorizou um ataque aéreo contra dois caminhões de combustível, supostamente controlados por insurgentes talibãs.

Dois caças americanos F-15E Strike Eagles responderam ao chamado do centro de comando e, em poucos minutos, lançaram duas bombas GBU-38, de 500 libras, sobre os “terroristas”.
Segundo um dos motoristas sobreviventes e que estava afastado de seu veículo atolado no leito pedregoso de um rio, os talibãs haviam roubado os caminhões-cisterna para distribuir combustível aos aldeões locais.
Mais de cem pessoas não combatentes – poucas delas armadas – cercaram os veículos para desviar combustível para a aldeia mais próxima.

O ataque foi duramente criticado ao redor do mundo, levando as forças armadas alemãs a rever seus processos decisórios na escolha e confirmação de alvos.

O General Stanley McChrystal, comandante daquele teatro de operações, declarou: Que erro de julgamento! Mais de 90 mortos por causa de um simples caminhão que, além disso, estava imobilizado no leito de um rio. Por que não enviaram tropas terrestres para recuperar as viaturas?

Esse episódio ilustra os riscos do uso de informações obtidas por imagens satelitais, avaliadas sob a pressão do combate por humanos – e, cada vez mais, processadas com base em algoritmos de computadores e pelo crescente uso de inteligência artificial.

Quem foi o verdadeiro responsável pelo desastre? O comandante ou o informante, movidos pelo ímpeto de destruir o inimigo ou de se mostrarem eficazes? Ou a máquina, incapaz de fornecer detalhes precisos sobre as imagens que ela mesma gerava?

Estamos cada vez mais dependentes da tecnologia, muitas vezes atribuindo a ela um caráter onisciente, o que pode nos levar a decisões equivocadas.

O caso Kunduz revela três problemas centrais: a “visão do predador”, na qual os operadores se concentram tanto nas imagens da tela que perdem a noção do contexto mais amplo; a má interpretação dos dados visuais, com imagens térmicas ambíguas e informações não verificadas, resultando em decisões fatais; e falhas de comunicação entre pilotos, controladores aéreos e o comandante, gerando atrasos e conflitos na tomada de decisão.

A principal lição desse episódio é que a tecnologia não é neutra nem isenta de erros. Sistemas como o ROVER (Remotely Operated Video Enhanced Receiver), usado naquele ataque, ampliam a percepção do comandante, mas também distorcem a realidade.

A operação em Kunduz revelou também falhas coletivas: ninguém possuía uma visão completa da situação, e todos agiram com base em informações fragmentadas, validadas por sistemas eletrônicos que deveriam complementar – e não substituir – o julgamento humano.

Para evitar erros semelhantes, as forças armadas de diversos países têm enfatizado a necessidade de treinar militares para reconhecer os limites da tecnologia, manter uma comunicação clara sob pressão e compreender como diferentes áreas operacionais podem entrar em conflito no momento crítico da decisão.
No campo de batalha, a interação entre homens e máquinas exige equilíbrio: confiar demais na tecnologia pode levar a erros catastróficos, enquanto ignorá-la, pode resultar em decisões lentas ou ineficazes.

Doravante, o comandante no campo de batalha precisará carregar não apenas competências técnicas para lidar com sistemas sofisticados, a exemplo da IA, mas além disso discernimento emocional para questionar suas limitações (esse ano o Exército Brasileiro já definiu como um dos temas para aprofundamento do CENTRO DE ESTUDOS ESTRATÉGICOS DO EXÉRCITO a aplicação da IA em combate).

Cabe também aos estudiosos da guerra futura, por mais automatizada que ela se torne (o que poderia amenizar as responsabilidades por erros humanos de avaliação), garantir que ela continue sendo conduzida com consciência ética e profissional por aqueles que apertam o gatilho. Mas essa já é uma discussão para outro artigo.

Otávio Santana do Rêgo Barros, general de Divisão da Reserva