Anthropic negocia com UE acesso a IA de cibersegurança Mythos
A Anthropic ofereceu à União Europeia acesso a sua inteligência artificial de cibersegurança Myhtos, reportou a Bloomberg e o Financial Times. Até o momento, a ferramenta tem tido lançamento restrito dada suas capacidades de ataques cibernéticos. Fora dos Estados Unidos, apenas o governo do Reino Unido tem acesso à IA.
De acordo com uma pessoa da agência de segurança da UE, Enisa, as condições do acordo ainda estão em discussão. O porta-voz da Comissão Europeia Thomas Regnier confirmou a informação e disse que a Comissão teve uma série de encontros produtivos com a Anthropic. Ele também declarou que “esse último desenvolvimento é da maior importância para se obter uma visão clara dos riscos potenciais”.
Na semana passada, representantes da Comissão Europeia foram a São Francisco para negociar sua entrada no Projeto Glasswing, anunciado em abril, que consiste em uma coalizão de empresas dos Estados Unidos que utilizam o Mythos desde abril deste ano para encontrar possíveis vulnerabilidades em seus sistemas.
Entre as empresas que fazem parte do Projeto Glasswing estão Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Fundação Linux, Microsoft, Nvidia e Palo Alto Networks.
Uma resposta a ameaças trazidas pela IA
De acordo com a Anthropic, a IA tem mais capacidade do que a maioria dos humanos em encontrar e explorar vulnerabilidades de softwares. A ideia do projeto é colocar essas habilidades para “trabalhar com propósito defensivo” para um número restrito de organizações.
Outros modelos similares ao Mythos devem surgir em um futuro próximo, muitas vezes nas mãos de atores que não estão comprometidos com a segurança. "As consequências — para as economias, a segurança pública e a segurança nacional — podem ser graves”, afirmou a empresa em nota.
A Anthriopic diz que modelos com o nível de capacidade do Mythos precisam de fortes medidas de proteção cibernética. Na semana passada, a empresa disse que está fazendo progresso com o Mythos e que a ferramenta deve ser lançada para todos os clientes da Anthropic nas próximas semanas.
O Instituto AI Security avaliou o Mythos e concluiu que a ferramenta é capaz de realizar ataques de múltiplos estágios em redes vulneráveis além de descobrir e explorar vulnerabilidades de forma autônoma, que profissionais levariam dias de trabalho. Há dois anos, os melhores modelos disponíveis não conseguiam completar tarefas cibernéticas de nível iniciante, destacou o instituto.
Ao mesmo tempo, a capacidade de ataques bem-sucedido do Mythos está relacionada a sistemas pequenos e vulneráveis de pequenas empresas. O instituto disse não ter certeza se o Mythos conseguiria atacar sistemas bem protegidos.
Finalidades geopolíticas
Em entrevista ao Financial Times, o CEO da Anthropic, Dario Amodei, disse que a tecnologia pode ser usada nos interesses geopolíticos de governos aliados aos EUA. “Nós estamos animados para que o governo dos Estados Unidos e de todos os nossos aliados usem essa tecnologia para defender a Ucrânia, para defender Taiwan, para defender as democracias sob ataque”.
“Mas eu não quero que elas sejam voltadas contra a nossa própria população nem usadas para fins antidemocráticos, seja por autocracias ou pelos nossos próprios governos”, completou.