Nem robôs, nem apocalipse: para Bill Gates, o maior risco da IA é o ser humano

RESUMO ＋

Bill Gates afirmou que o risco mais urgente da inteligência artificial não é a tecnologia sair do controle, mas pessoas mal-intencionadas usarem sistemas avançados para fraudes, ataques cibernéticos e até bioterrorismo. Para o cofundador da Microsoft, governos devem exigir monitoramento e salvaguardas nos modelos de IA, sem necessariamente interromper o desenvolvimento da tecnologia.

A inteligência artificial (IA) já é "uma espécie inteligente" que, em vários aspectos, supera os humanos, mas o risco mais urgente não é ela escapar do controle — pelo menos não para Bill Gates.

Segundo ele, o perigo imediato está em quem usa a tecnologia com más intenções. "Criamos uma espécie inteligente que, em muitos aspectos, já é mais esperta do que nós e que, nos próximos anos, num nível quase exponencial, será absurdamente mais esperta", disse o cofundador da Microsoft ao programa "Meet the Press", da NBC, que foi ao ar no domingo, 27.

A ameaça, segundo ele, está no que as pessoas fazem com a ferramenta. "O mais perigoso hoje é gente mal-intencionada usando a IA para fraudar indivíduos, desligar sistemas elétricos ou embaralhar contas bancárias", afirmou. Para Gates, nunca houve "uma arma tão poderosa quanto a combinação de pessoas com más intenções e as ferramentas de IA mais recentes", disse.

Gates lembrou que, antes da IA se tornar acessível, a maioria dos ciberataques vinha de grupos ligados a Estados e exigia muito dinheiro, enquanto hoje grupos pequenos conseguem executar operações do mesmo tipo.

Sem robôs, ainda dá para desligar

Para Gates, "a IA não está no comando de milhões de robôs, então, se ela se mostrar perigosa demais, ainda podemos resolver desligando os computadores principais". "Não há risco atual dessas IAs saírem completamente do controle", disse. O que é urgente, para Gates, "são pessoas más usando a IA, e não a IA agindo por conta própria".

Os episódios recentes em que agentes escaparam de ambientes de teste, como o da invasão à Hugging Face por agentes da OpenAI e os ataques a alvos reais por modelos do Claude e do ChatGPT, têm um lado positivo, na avaliação dele. "É bom que esses incidentes de perda de controle tenham feito as pessoas se concentrarem na IA, embora esse não seja o risco iminente", disse.

A frase não significa que Gates descarte cenários extremos — ele não minimizou o risco de a IA acabar com a humanidade em alguns anos, e disse que a tecnologia é poderosa o bastante para provocar eventos que causariam um bilhão de mortes.

Em ensaio de agosto, ele havia escrito que, à medida que os modelos ficam mais poderosos, "eles podem começar a agir contra nossos interesses e podemos perder o controle".

No mesmo texto, afirmou que apoiaria um plano crível para frear o avanço global da IA, mas que não acreditava que isso fosse acontecer, porque os incentivos geopolíticos e econômicos empurram para a velocidade máxima.

Vigiar antes do ataque

A solução que Gates defende também é a mais prosaica. Ele disse que salvaguardas e monitoramento podem ser bem mais eficazes do que um botão de desligamento ou a desaceleração do desenvolvimento.

Nos próximos anos, segundo ele, haverá muitos casos em que a polícia será chamada por fraudes ou desligamentos de sistemas e não terá como saber o que está acontecendo, a menos que o monitoramento esteja embutido na própria IA.

"O mesmo monitoramento que colocamos para evitar que pessoas más usem a IA é exatamente o que você quer para ver se a própria IA está fazendo isso", afirmou.

O caso mais delicado é o das armas biológicas. "Eu gostaria que fosse mais fácil distinguir uma boa intenção, como desenhar um remédio novo para uma doença, de uma má, como desenhar uma ferramenta de bioterrorismo, porque as duas são muito próximas", disse. "Precisamos monitorar qualquer modelo sofisticado e registrar tudo."

Gates disse que o autorregulamento não basta e que a lei precisa exigir esses mecanismos. "Ninguém acha que a autorregulação é suficiente", afirmou. Perguntado se o Congresso precisa aprovar uma legislação, respondeu: "com certeza". Segundo ele, isso traria "um pouco de custo adicional para a indústria, mas não uma desaceleração dramática".

A posição contrasta com a do presidenteDonald Trump, que rejeitou neste mês qualquer regulação federal sobre empresas de IA.

Ao contrário de foguetes e bombas nucleares, a IA foi desenvolvida quase toda pela iniciativa privada, e os governos não entendem bem como ela funciona, disse.

Como o tema é tratado como uma disputa entre países, segundo ele, há quem defenda "ir a toda velocidade". "É completamente irresponsável não exigir que toda IA tenha salvaguardas e capacidade de monitoramento", afirmou. Para Gates, a escolha é se isso será feito antes ou depois de haver ataques cibernéticos ou biológicos em larga escala.