Uma faca de três gumes: a relação entre IA, democracia e terrorismo

Um estudo publicado pelo think tank Center for Strategic and International Studies (CSIS) nessa sexta-feira, 10, analisa os riscos e oportunidades que a inteligência artificial pode trazer ao terrorismo.

Segundo os autores Daniel Byman e V.S. Subrahmanian, o avanço da tecnologia poderá, ao mesmo tempo, reforçar tendências perigosas que vemos no terrorismo atual, assim como a capacidade estatal de lidar com extremistas.

O artigo argumenta que a inteligência artificial tende a intensificar certas características essenciais ao terrorismo, como a descentralização de grupos extremistas, a atuação de agentes solitários, a disseminação de propaganda digital e as campanhas de desinformação, em vez de inaugurar formas inteiramente novas de violência.

Ao mesmo tempo em que essas tecnologias ampliam as capacidades de organizações extremistas, elas também fortalecem osrecursos de contraterrorismo dos Estados, ainda que isso possa implicar riscos maiores à privacidade e às liberdades civis.

Embora o debate público frequentemente apresente a inteligência artificial como uma ferramenta capaz de revolucionar o terrorismo, os analistas avaliam que seu impacto tende a ser mais gradual. Historicamente, grupos extremistas priorizam métodos simples, baratos e eficazes, já que operam sob forte pressão e com recursos limitados, o que reduz o incentivo à adoção de tecnologias complexas.

Isso não significa, porém, que esses grupos ignorem inovações. Organizações terroristas costumam adaptar tecnologias já existentes de forma criativa, como ocorreu com o uso de redes sociais pelo Estado Islâmico e de drones pelo Hezbollah. Nesse contexto, a IA deve ampliar principalmente as capacidades de propaganda, recrutamento, radicalização, desinformação e apoio operacional.

Terrorismo: inovação vs necessidade

Nesse contexto, o artigo realça que organizações terroristas apresentam uma propensão ao conservadorismo.

A adoção de novas tecnologias por grupos terroristas costuma ser limitada pelos altos custos, riscos operacionais e pela eficácia comprovada de métodos tradicionais. Armas de fogo, explosivos improvisados e ataques com veículos continuam sendo as principais ferramentas utilizadas, respondendo por mais de 80% dos atentados registrados na última década, aponta o estudo.

Além disso, a estrutura descentralizada dessas organizações, a escassez de tempo e de recursos, e as preocupações com a segurança dificultam a experimentação com tecnologias mais avançadas, como a inteligência artificial. Testes e desenvolvimento aumentam a exposição à vigilância e à infiltração por serviços de inteligência, tornando soluções já consolidadas uma opção mais atraente.

IA e contraterrorismo: uma corrida

Ainda assim, a disseminação da inteligência artificial tende a fortalecer não apenas grupos extremistas, mas também as capacidades de contraterrorismo dos Estados.

Historicamente, terrorismo e contraterrorismo evoluem de forma interdependente, com governos e organizações armadas adaptando suas estratégias em resposta às inovações do adversário, em uma dinâmica que remete a uma corrida armamentista. Nesse contexto, os especialistas da CSIS avaliam que a IA deve acelerar e aprofundar esse ciclo de adaptação tecnológica.

Agências de inteligência já utilizam ferramentas de aprendizado de máquina para analisar grandes volumes de dados, identificar padrões e prever possíveis alvos, locais e momentos de ataques. A tecnologia também pode detectar comportamentos suspeitos, rastrear movimentações financeiras e de viagem, cruzar bancos de dados fragmentados e monitorar redes sociais em busca de conteúdos de propaganda, recrutamento ou indícios de radicalização.

Além disso, sistemas baseados em IA ampliam a capacidade de vigilância ao processar ligações telefônicas, imagens de drones e satélites, dados biométricos e deslocamentos em tempo real.

Ao mesmo tempo, o avanço dessas ferramentas levanta preocupações quanto à privacidade, aos direitos civis e ao risco de erros. Os mesmos modelos preditivos que processam volumes astronômicos de dados e geram probabilidades também podem gerar falsos positivos e reforçar vieses existentes, levando à vigilância, à detenção ou à investigação de pessoas inocentes.

Analistas também alertam para o risco de governos depositarem confiança excessiva em decisões automatizadas, o que pode ampliar práticas de monitoramento em nome da segurança e abrir caminho para sistemas cada vez mais abrangentes de vigilância estatal.

O que as democracias podem fazer?

Nesse contexto, o CSIS alerta que democracias enfrentam o desafio de conciliar o avanço da inteligência artificial com a redução dos riscos de seu uso indevido. Enquanto regulações excessivamente rígidas podem comprometer a inovação e a competitividade tecnológica, uma supervisão insuficiente pode ampliar vulnerabilidades e facilitar abusos. Diante desse cenário, o estudo aponta algumas prioridades para políticas públicas:

• Auditoria independente: sistemas de IA usados no contraterrorismo devem ser submetidos a auditorias conduzidas por especialistas independentes, sob supervisão governamental, em vez de depender apenas das garantias fornecidas pelas próprias empresas.
• Maior cooperação entre governos e empresas: como grande parte da infraestrutura e da expertise em IA está no setor privado, é necessário fortalecer mecanismos permanentes de compartilhamento de informações, avaliação de ameaças e coordenação em situações de crise.
• Monitoramento de riscos químicos e biológicos: governos devem ampliar testes, avaliações de segurança e cooperação científica internacional para impedir que modelos de IA facilitem o desenvolvimento de agentes químicos e biológicos perigosos, além de exigir que empresas implementem salvaguardas em seus sistemas.
• Proteção às liberdades civis: o uso de IA em vigilância e análise preditiva deve estar sujeito à supervisão transparente, revisão judicial e mecanismos de responsabilização, evitando que medidas de segurança comprometam direitos fundamentais.
• Evitar o determinismo tecnológico: a IA é apenas um dos fatores que influenciam o terrorismo, que continua sendo impulsionado por questões políticas, sociais e organizacionais mais amplas, como conflitos, polarização e ressentimentos.