Nvidia lidera aliança com Microsoft e IBM para criar ferramentas abertas de segurança em IA
A Nvidia anunciou nesta segunda-feira, 27, uma aliança com empresas como Microsoft, SpaceX, IBM e outras companhias de tecnologia para desenvolver e compartilhar ferramentas de segurança para inteligência artificial em código aberto.
Batizada de Open Secure AI Alliance, a iniciativa defende que ferramentas abertas são necessárias para proteger sistemas de IA contra ataques realizados por modelos de última geração. O grupo afirma que a colaboração entre empresas e a disponibilidade de recursos de código aberto ampliam a capacidade de resposta a ameaças emergentes.
A criação da aliança ocorre após o aumento das discussões sobre a segurança de modelos avançados de IA, impulsionadas por relatos de testes em que um modelo experimental da OpenAI teria escapado do ambiente de contenção e atacado outro sistema durante avaliações internas. A empresa Hugging Face afirmou que precisou recorrer a um modelo chinês de pesos abertos, open-weight, para se defender, argumentando que as restrições de segurança impostas aos principais modelos norte-americanos limitaram sua eficácia nesse cenário.
Além de Nvidia, Microsoft, IBM e SpaceX, a lista de membros fundadores inclui Palantir, Cloudflare, Dell, Cisco, Adobe, Siemens, Cloudera, DoorDash, OpenClaw, organização voltada ao desenvolvimento de ferramentas abertas para IA, e a Linux Foundation, entidade responsável por projetos de código aberto.
Um dos pontos que chamam atenção é a ausência de empresas como OpenAI, Google e Anthropic, consideradas líderes no desenvolvimento dos modelos de IA mais avançados dos Estados Unidos.
Debate sobre modelos abertos ganha força
A nova aliança surge em um momento de crescente disputa sobre o grau de abertura que os modelos mais avançados de IA devem ter. Empresas chinesas passaram a lançar sistemas de pesos abertos cada vez mais sofisticados, entre eles o Kimi K3, da Moonshot AI, aumentando a pressão sobre a estratégia adotada por laboratórios norte-americanos, que mantêm seus modelos de ponta fechados e proprietários.
Segundo Nvidia e seus parceiros, proteger sistemas de IA exige acesso tanto a modelos fechados quanto a modelos abertos. O argumento é que pesquisadores e equipes de segurança precisam compreender o funcionamento dessas tecnologias para desenvolver mecanismos capazes de identificar vulnerabilidades e responder a novas ameaças.
O anúncio também ocorre após relatos de que o governo de Donald Trump avaliou restringir o acesso a modelos chineses de IA de última geração, enquanto parte da indústria, liderada pela Nvidia, tem defendido políticas mais abertas para o desenvolvimento da tecnologia. Google e OpenAI aderiram posteriormente a esse movimento em defesa da abertura, enquanto a Anthropic segue fora da iniciativa.