Vencedor do ‘Nobel da Matemática’ dizia que a inteligência artificial mataria humanos ‘como insetos’ — e agora trabalha na OpenAI

Falar mal da empresa no passado não parece ser um critério de eliminação de candidatos pelo RH. Pelo menos não na OpenAI, responsável pelo ChatGPT.

Isso porque um dos mais recentes talentos contratados pela OpenAI, o matemático e professor Jacob Tsimerman, é alguém que já afirmou que a inteligênciaartificial mataria os seres humanos "como insetos".

O comentário consta de um artigo acadêmico de sua autoria intitulado "Uma Taxonomia de Futuros Omnicidas Envolvendo Inteligência Artificial". O texto aborda múltiplos cenários nos quais a IA exterminaria a população mundial.

No texto, Tsimerman chegou a descrever a tecnologia como "máquinas intelectual e fisicamente superiores". Ainda assim, no ano seguinte à publicação, decidiu aceitar o novo emprego em uma das empresas de mais poderosas do mundo no desenvolvimento da inteligência artificial.

Como novo funcionário da OpenAI, o matemático terá como foco de estudo a segurança da inteligência artificial. E, claro, o que não pode faltar: a garantia de que ela não levará à nossa extinção.

Uma estranha — e boa — decisão

A contratação de Jacob Tsimerman pode ter sido polêmica e até controversa, mas ainda assim foi vista por especialistas como uma boa aposta da OpenAI.

Afinal, trata-se de um dos maiores matemáticos de sua geração.

Como professor de matemática da Universidade de Toronto, Tsimerman é um profissional respeitado, sobretudo por suas contribuições à aritmética e à geometria algébrica complexa.

Ele acaba a receber a Medalha Fields, frequentemente chamada de "Prêmio Nobel da Matemática". Foi durante a cerimônia de entrega da premiação, no fim de julho, que veio o anúncio de que deixaria as salas de aula para atuar como pesquisador na OpenAI.

E a notícia não deixou de causar estranheza: por que alguém que já se mostrou tão avesso à IA decidiria trabalhar justamente com ela?

Contradição ou estratégia?

Tsimerman não foi alguém escolhido ao acaso. Hoje, ocupa um cargo na OpenAI, mas até pouco tempo atrás, defendia em estudos que a inteligência artificial poderia exterminar a humanidade.

O embate não era pessoal, e seu súbito interesse pela inteligência artificial tampouco é contraditório. Segundo o matemático, sua participação no desenvolvimento da tecnologia se dá justamente pelo receio de que ela se torne "poderosa demais".

Em entrevista ao The Wall Street Journal, Tsimerman contou que nunca acreditou de fato que a IA pudesse replicar características que nos tornam humanos, como a intuição e a criatividade.

Porém, ao experimentar o ChatGPT em 2022, passou a acreditar no contrário. E foi justamente esse receio que o motivou a escrever “Uma Taxonomia de Futuros Omnicidas Envolvendo Inteligência Artificial”.

Agora, como pesquisador, Tsimerman pretende usar métodos matemáticos formais para compreender melhor o comportamento de agentes de IA e buscar garantias de que eles não adotem ações imprevistas.

Em outras palavras, um dos maiores matemáticos de sua geração trabalhará com segurança em inteligência artificial porque acredita que esse pode ser o problema mais importante que ajudará a resolver.

*Sob supervisão de Ricardo Gozzi.