Entenda a crise entre governo Trump, Amazon e Anthropic sobre IA

A decisão do governo Trump de barrar o acesso de estrangeiros aos modelos mais avançados da Anthropic, anunciada na sexta, 12, tem um marco temporal: ocorreu após conversas de Andy Jassy, presidente-executivo da Amazon, com autoridades americanas, segundo o Wall Street Journal.

Jassy afirmou a integrantes do governo, entre eles Scott Bessent, secretário do Tesouro dos EUA, que pesquisadores da Amazon haviam usado uma série de prompts, comandos de entrada usados para orientar sistemas de IA, para obter do modelo Fable 5 informações que poderiam auxiliar ataques cibernéticos e que deveriam estar bloqueadas.

Segundo o relato, a Casa Branca convocou uma reunião para discutir a resposta ao caso, enquanto especialistas em segurança coomeçaram a testar as alegações feitas pela Amazon. Autoridades pediram que a Anthropic corrigisse as vulnerabilidades ou retirasse o modelo do ar.

A solução escolhida pelo governo foi impedir que governos, empresas e indivíduos estrangeiros acessassem a ferramenta. O presidente Donald Trump aprovou a medida, apesar de reservas internas sobre possíveis impactos à inovação, afirmou um alto funcionário da Casa Branca.

A Anthropic, uma das empresas centrais da corrida americana em inteligência artificial, já era vista com desconfiança por parte da administração Trump em relação à gestão de riscos de segurança de seus modelos. Uma ligação realizada na sexta-feira entre autoridades e Dario Amodei, presidente-executivo da empresa, teria reforçado essa percepção, segundo pessoas ouvidas na reportagem.

Em resposta, a companhia disse que interromperia o acesso aos modelos Mythos e Fable para todos os usuários, como forma de garantir conformidade com a decisão do governo. A empresa afirmou ainda que a regra afetaria parte de seus próprios pesquisadores estrangeiros, que ficariam impedidos de trabalhar nos modelos mais recentes.

Amazon e governo ampliam pressão sobre IA avançada

A Amazon, que é grande investidora da Anthropic, fornece chips e infraestrutura de data centers à empresa e usa seus modelos para identificar falhas em software. O episódio mostra como grandes companhias de tecnologia e governos passaram a lidar com capacidades novas de sistemas de IA generativa, sobretudo em temas de segurança cibernética.

Um porta-voz da Amazon disse que, como provedora de cloud, serviço de computação em nuvem, a empresa costuma ser consultada por governos sobre riscos potenciais de segurança, mas não comenta detalhes dessas conversas.

A Anthropic afirma que as vulnerabilidades apontadas pela Amazon são relativamente básicas e que outros modelos disponíveis publicamente também seriam capazes de identificá-las. A companhia diz manter salvaguardas adequadas e sustenta que trabalha com uma unidade federal de testes de IA antes do lançamento de novos modelos.

Especialistas citados no relato afirmam que o caso não representaria necessariamente um jailbreak, técnica de contorno amplo das travas de segurança de um sistema. Andrew Morris, fundador da empresa de cibersegurança GreyNoise Intelligence, disse que as informações obtidas ainda estariam distantes de um risco cibernético mais grave.

A restrição também pode afetar os planos da Anthropic de preparar uma oferta pública inicial de ações, ou initial public offering, caso clientes migrem para modelos concorrentes. A OpenAI, uma de suas principais rivais, também desenvolve ferramentas avançadas voltadas à área cibernética e mantém conversas com o governo americano.

Fundada em 2021 por Dario Amodei e outros ex-integrantes da OpenAI, a Anthropic construiu sua imagem pública em torno de segurança em IA. Ao mesmo tempo, mantém atritos com a administração Trump, incluindo disputas sobre o uso de suas ferramentas pelas Forças Armadas e uma designação do Pentágono que a classificou como risco de segurança, contestada pela empresa na Justiça.

Analistas veem a intervenção como parte de um aumento do controle estatal sobre modelos avançados. Adam Thierer, pesquisador do R Street Institute, afirmou que os acontecimentos representam uma escalada na politização da IA e na centralização do controle sobre computação avançada nos Estados Unidos.