Pentagon Desmente Uso de IA em Novos Testes de Polígrafo
Tecnologia em desenvolvimento gera preocupações sobre precisão e ética em processos de segurança nacional
Recentemente, o Pentágono emitiu esclarecimentos sobre o uso de inteligência artificial (IA) em seu processo de modernização de entrevistas com polígrafo. As declarações surgiram após questionamentos sobre as capacidades tecnológicas que analisam linguagem, voz e expressões faciais para avaliar a confiabilidade dos entrevistados.
Desenvolvimento da Nova Tecnologia
Na quarta-feira, a Agência de Contrainteligência e Segurança do Pentágono (DCSA) afirmou que o esforço conhecido como “Modernização do Polígrafo” não inclui IA generativa ou algoritmos de linguagem de grande porte, como os utilizados em programas de chatbot. Segundo a DCSA, a pesquisa está focada em desenvolvimentos que não envolvem análise de expressões faciais, micro-expressões ou vocalizações.
Além disso, as preocupações sobre a eficácia da IA em detectar enganos, como alinhavado por advogados e cientistas da segurança nacional, levantaram debates sobre a confiabilidade dessas tecnologias. Especialistas enfatizam que não há respaldo científico sólido para a análise automatizada de comportamentos como indicador de veracidade.
Críticas ao Uso de IA
Advogados especializados expressaram receios sobre a possibilidade de que essas tecnologias possam induzir erros ou violar direitos civis, especialmente em um contexto onde a precisão é crucial. Por exemplo, o advogado Mark Zaid mencionou que a IA poderia erroneamente desqualificar oficiais, impactando suas carreiras. Ele comparou a situação a um sistema de vigilância prejudicial que precisa ser verificado rigorosamente.
A Versatilidade e Seus Limites
O potencial da IA de processar dados em tempo real e auxiliar investigações humanas foi discutido por representantes do Pentágono. Contudo, a DCSA reconheceu que ainda não existem provas concretas de que a IA possa efetivamente analisar a honestidade de um indivíduo com precisão confiável.
Num estudo recente, cientistas descobriram que as classificações automáticas da IA sobre engano não eram mais precisas do que um palpite aleatório. Isso torna ainda mais relevante o papel dos investigadores humanos, que trazem a capacidade de julgamento e compreensão emocional às entrevistas.
Preocupações Éticas e Futuro da Tecnologia
A DCSA prometeu continuar a monitorar as inovações científicas, embora os riscos de viés tecnológico e a possibilidade de um uso indevido por motivos de intimidação sejam vistos com desconfiança. Organizações, como a ACLU, indicam que a IA pode ser mais uma ferramenta de controle dentro da burocracia do governo do que uma solução confiável.
Enquanto o debate sobre a aplicação dessas ferramentas avança, muitos especialistas pedem garantias de que qualquer nova tecnologia empregada em processos de segurança e credenciais respeite os direitos civis e seja realmente útil, antes de se tornar uma norma no funcionamento do Pentágono.
Uma nova era de avaliação de confiabilidade com IA é um tópico sensível, e a discussão continua em busca de um equilíbrio entre segurança e ética.
Fonte: www.defensenews.com
