Ritmo de evolução da IA pode se tornar incontrolável nos próximos anos, diz estudo

RESUMO ＋

Pesquisadores de empresas como Anthropic, Microsoft e OpenAI afirmam que a inteligência artificial pode entrar em uma fase de “explosão de inteligência”, na qual sistemas passam a acelerar a própria evolução. Um estudo do Programa de Ciência e Política de IA da Universidade de Cambridge aponta que a IA pode automatizar grande parte da pesquisa em inteligência artificial nos próximos anos e defende novas formas de monitoramento e governança.

Para pesquisadores de algumas das principais empresas de inteligência artificial (IA) do mundo, a tecnologia está perto de fazer sozinha boa parte do trabalho de criar a próxima geração de IA. Isso pode acelerar o setor a um ritmo que governos e sociedade não conseguem acompanhar.

Em estudo publicado nesta segunda-feira, 28, pelo Programa de Ciência e Política de IA da Universidade de Cambridge (CASP), 22 autores de empresas como Anthropic, Microsoft e OpenAI definem esse cenário de "explosão de inteligência".

O termo descreve o momento em que a IA passa a se aprimorar tão rápido que avanços que levariam anos acontecem em meses ou menos. Segundo os autores, a IA já está a caminho de automatizar a maior parte da própria pesquisa em poucos anos, e possivelmente toda ela.

Para os pesquisadores, hoje, as pessoas criam modelos de IA com a ajuda de agentes de IA. À medida que esses agentes melhoram, assumem uma fatia maior do trabalho, e os modelos que ajudam a construir fazem ainda mais pesquisa na rodada seguinte — e é justamente aí que mora a preocupação.

A escala, segundo eles, é o que muda o jogo. As empresas de fronteira empregam hoje alguns milhares de pesquisadores. Quando a IA atingir o nível de um especialista, o poder computacional que uma única empresa já tem bastará para rodar o equivalente a pelo menos milhões deles, de acordo com o estudo.

Com base em dados históricos sobre o avanço da IA, os autores estimam que, se nada travar o processo, em cerca de um ano e meio o progresso ficaria dez vezes mais rápido, e o que hoje leva um ano de pesquisa passaria a levar cerca de cinco semanas.

Isso já está acontecendo?

Em parte. Na Anthropic, a fatia de código aprovado escrito por IA passou de um dígito baixo para mais de 80% entre janeiro de 2025 e maio de 2026.

A parcela de pesquisa feita pela IA com pouca supervisão humana subiu de 1% em março para 26% em agosto.

Os melhores sistemas já completam tarefas que levam horas ou dias para um especialista. Em 2023, só davam conta de tarefas de segundos.

Pelas projeções citadas no estudo, projetos de pesquisa que duram meses podem ser automatizados até meados de 2028.

Os autores apontam os freios. Os modelos ainda desobedecem a instruções e trapaceiam em tarefas, faltam dados e poder computacional, e treinar um modelo grande leva três meses ou mais.

A explosão ainda não começou, mas os sistemas mais novos provavelmente se aproximam do ponto de virada, segundo o texto.

De acordo com os pesquisadores, com a IA acelerando a si mesma, os humanos teriam menos tempo e menos conhecimento para perceber e corrigir problemas como o ataque de agentes da OpenAI à Hugging Face. No extremo, uma perda de controle poderia levar à marginalização ou à extinção da humanidade, afirmam os autores.

O que os autores propõem?

A primeira recomendação é que os governos passem a enxergar o que acontece dentro das empresas. O estudo sugere relatórios obrigatórios sobre quanto da pesquisa já é feita por IA e auditores independentes instalados dentro de algumas companhias, como fazem os reguladores nucleares e bancários dos Estados Unidos.

Os autores também propõem limites para o quanto um modelo pode avançar em um período e acordos com data centers para pausar projetos específicos. Eles alertam que regras mal desenhadas poderiam permitir que um governo freasse todas as empresas, menos a sua favorita.

O estudo sai cinco dias depois de Dario Amodei, CEO da Anthropic, e Sam Altman, CEO da OpenAI, falarem ao Conselho de Segurança da ONU sobre os riscos da IA. Na mesma semana, o presidente Donald Trump rejeitou, na ONU, um mecanismo global de controle da tecnologia.

Jensen Huang, CEO da Nvidia, chamou de estranhos os alertas das duas empresas, que também lideram a corrida por infraestrutura. "Ninguém está construindo mais capacidade computacional hoje do que as pessoas que pedem para ser desaceleradas", disse Huang.

Os autores admitem que a incerteza ainda é grande. Mas escrevem que, uma vez iniciada a explosão de inteligência, a janela para agir pode se fechar.

Assinam o estudo Jakub Pachocki, cientista-chefe da OpenAI, Jack Clark, cofundador da Anthropic, e Eric Horvitz, diretor científico da Microsoft, além de Geoffrey Hinton, Yoshua Bengio e Andrew Barto, vencedores do Prêmio Turing. As opiniões são dos autores e não necessariamente das organizações em que trabalham, diz o texto.