IA nas mãos erradas é a ameaça mais urgente do mundo, alerta Bill Gates

RESUMO ＋

O cofundador da empresa de tecnologia Microsoft, Bill Gates, afirmou em entrevista exibida neste domingo, 27, que a ameaça mais urgente da IA é seu uso por pessoas mal-intencionadas em fraudes, ciberataques e bioterrorismo. À emissora NBC, Gates defendeu monitoramento obrigatório nos laboratórios, um mecanismo de desligamento e um marco regulatório global liderado pelos Estados Unidos.

Para Bill Gates, a ameaça mais urgente da inteligência artificial (IA) não é um sistema que decide se voltar contra a humanidade sozinho — é o que uma pessoa mal-intencionada já consegue fazer com ela hoje.

"Alguém que quer fraudar uma pessoa, ou quer desligar a rede elétrica, ou embaralhar contas bancárias — essas pessoas agora estão fortalecidas", disse o cofundador da Microsoft ao programa "Meet the Press", da NBC, em entrevista à jornalista Kristen Welker, exibida neste domingo, 27.

Segundo Gates, a IA apagou uma distinção que sustentava boa parte da segurança global: a de que só Estados tinham escala para causar dano em massa.

"Historicamente, países tinham equipes de ciberataque e conseguiam pensar em coisas como armas de bioterror. Agora, pequenos grupos com IA podem fazer o que só os maiores países conseguiam fazer antes", afirmou. "É a má intenção somada à IA que se apresenta como a grande ameaça. A menos que os governos insistam em salvaguardas, vamos ver muitas coisas negativas e grandes, porque não estamos nos protegendo."

No Congresso americano, uma proposta bipartidária defende que empresas de IA sejam obrigadas a manter um "kill switch"— um mecanismo capaz de suspender ou desligar imediatamente um serviço de IA em caso de situação perigosa.

Gates apoia a ideia, mas diz que ela sozinha não resolve nada. "Não é suficiente ter um botão de desligar. Nunca diria que sou contra ele. Mas, quando você tenta moderar um comportamento ruim, precisa de visibilidade e registros do que está sendo feito. O botão de desligar sozinho não evitaria essas tragédias", disse.

Para ele, a peça que falta é monitoramento embutido em cada laboratório de IA, de forma que autoridades consigam investigar um incidente depois que ele acontece.

"A polícia vai ser chamada em todos esses eventos de fraude, ou de queda de rede elétrica. E a capacidade dela de ver o que está acontecendo vai ser nula, a menos que o monitoramento e as salvaguardas estejam embutidos na própria IA", afirmou.

Segundo Gates, isso pode ser feito sem desacelerar o avanço da tecnologia — o que ele trata como um debate separado. "A única pergunta é: fazemos isso antes ou depois de já termos ciberataques ou bioataques em grande escala?"

"Mais difícil do que a corrida nuclear"

Gates também defendeu que os Estados Unidos liderem a criação de um marco regulatório global para a IA, mas alertou que chegar a esse acordo deve ser mais difícil do que as negociações da Guerra Fria para limitar armas nucleares.

"Isso é mais difícil do que aquilo foi", disse — uma posição que contraria diretamente a postura pública do presidenteDonald Trump, que neste mês rejeitou qualquer regulação federal sobre empresas de IA. "Quem vencer a IA, vence! Estamos liderando a China e todos os outros, e vamos continuar liderando", escreveu Trump na Truth Social.

Segundo Gates, impor monitoramento às empresas americanas de IA não as prejudicaria numa eventual corrida tecnológica contra a China.

"O que ele disse está certo, mas acho que, depois de me ouvir e a outras pessoas, incluindo o argumento de que isso não nos prejudica nessa corrida entre países, vamos chegar a um consenso", afirmou, citando outros acordos multilaterais que os Estados Unidos ajudaram a liderar sem buscar vantagem exclusiva, como os tratados sobre segurança da aviação, a camada de ozônio e armas nucleares. "A IA é um desses casos em que precisamos voltar a essa ideia: a humanidade está junta nisso."

Um debate que já entrou na mesa de Trump e Xi

O tema já chegou ao mais alto nível da diplomacia entre as duas potências. Antes de se reunir com o presidente chinês Xi Jinping na quinta-feira, 24, Trump escreveu na Truth Social que a "superinteligência" seria "um grande tópico de discussão", mas que pretendia "deixá-la exatamente onde está" — posição que, segundo ele, a China compartilha.

Depois do encontro, a Casa Branca informou que os dois países criaram um canal de diálogo para "trocar visões sobre riscos e benefícios" da IA, com a próxima rodada prevista para novembro.

No Congresso, o deputado democrata Ro Khanna defendeu, também neste domingo, que Estados Unidos e China formem um grupo de trabalho conjunto, com especialistas técnicos dos dois países, para chegar a um acordo sobre o tema.

Para ele, banir modelos de IA capazes de se aperfeiçoar recursivamente, sem intervenção humana, "não deveria ser controverso", já quea China também não quer perder o controle sobre seus próprios sistemas. "Acredito que os Estados Unidos podem liderar um tratado que seja aplicável e verificável, em que baniremos IA recursiva e autoaperfeiçoável, e teremos algum monitoramento desses laboratórios de fronteira", disse.

O debate ganhou urgência nas últimas semanas depois que Jacob Coxon, ex-pesquisador da Anthropic, afirmou publicamente que "as pessoas que constroem IA acreditam, com sinceridade, que ela pode matar todos nós até o fim da década".

Dias depois, os CEOs da Anthropic, Dario Amodei, e da OpenAI, Sam Altman, concordaram publicamente que é preciso desacelerar o ritmo de desenvolvimento da IA diante do temor de uma "superinteligência" que supere o raciocínio humano — Amodei defendeu, em um texto, que empresas de fronteira reduzam o ritmo, mas só até o ponto em que ainda consigam se manter à frente da China.

Nas últimas semanas, tanto a Anthropic quanto a OpenAI anunciaram planos para rastrear o comportamento de agentes de IA, depois que a OpenAI relatou diversos casos em que seus próprios agentes agiram de forma preocupante — incluindo um episódio em que um agente invadiu uma empresa de terceiros sem que ninguém tivesse pedido.

---