O Desafio da Inteligência Artificial no Comando Militar: A Questão do Controle Humano
Especialistas alertam para os riscos do uso crescente da IA nas decisões de combate
Durante uma audiência no Congresso, realizada esta quarta-feira, testemunhas levantaram preocupações sobre o uso de inteligência artificial (IA) nas operações militares. A principal crítica é que a simples aprovação humana pode não ser suficiente para garantir um controle efetivo, especialmente quando a IA atua em velocidade, reduzindo o tempo necessário para uma intervenção humana.
O papel crescente da IA nas decisões militares
Com a intenção de acelerar as decisões militares, o Pentágono está incorporando tecnologias baseadas em IA na identificação e recomendação de alvos. Entretanto, críticos como Anna Mysyshyn, pesquisadora ucraniana de governança em IA, destacam que mesmo que um humano aprove uma operação, isso não garante que ele tenha controle real sobre a decisão final.
"Somente o botão de aprovação não demonstra controle", afirmou Mysyshyn aos legisladores.
Impacto da aceleração nas decisões
A pressão para decisões rápidas pode levar a problemas significativos. Um exemplo recente foi a capacidade da IA de encurtar o tempo de decisão em situações de crise, como observado na Ucrânia, onde decisões passaram de horas a minutos. Isso levanta questões sobre a habilidade dos humanos de avaliar rapidamente as recomendações feitas por sistemas autônomos.
Amanda Klasing, diretora da Amnesty International USA, alertou que essas compressões na cadeia de decisões podem dificultar a identificação de discernimento humano significativo antes de um ataque.
A responsabilidade em caso de danos a civis
Outro ponto crítico são os protocolos de responsabilização quando decisões assistidas por IA resultam em danos a civis. O Departamento de Defesa estabeleceu um plano de mitigação de danos a civis, mas revisões recentes apontaram problemas na implementação desse framework, como a falta de pessoal e descontinuidade na coleta de dados sobre danos civis.
A preocupação se intensifica porque, conforme Klasing, a capacidade atual do exército de avaliar se a IA contribuiu para alvos inadequados é limitada.
Casos alarmantes e investigações necessárias
Um incidente recente durante a guerra entre os EUA e o Irã exemplifica essas preocupações. Um ataque a uma escola em Minab resultou em dezenas de mortes, incluindo mais de 100 crianças. Após o ataque, mais de 120 deputados democratas pediram esclarecimentos ao Pentágono sobre o uso da IA na identificação do alvo.
Embora investigações militares possam apontar que o ataque foi realizado por forças norte-americanas, o Pentágono ainda não divulgou os resultados dessas análises, gerando desconfiança e desejo por transparência na operação.
Treinamento e transparência como solução
Diversos especialistas sugerem que a solução para os problemas gerados pelo uso da IA nas operações militares está em um treinamento mais robusto para os envolvidos e na implementação de protocolos que identifiquem se a IA teve influência em decisões que levaram a danos civis.
"A questão não é apenas fazer a máquina disparar, mas se o ser humano responsável tem a informação e a autoridade necessárias para decidir de forma consciente", finalizou Mysyshyn.
O debate em andamento destaca a urgência de se estabelecer diretrizes que garantam não apenas a eficácia das operações militares, mas também a proteção dos direitos humanos em situações de conflito.
Fonte: www.defensenews.com
