Agentes de IA tentam driblar proteções do 'Google Maps' chinês
Relatório aponta que sistemas buscaram dados de uso em parques e hospitais; atribuição à fabricante do Hunyuan permanece preliminar
RESUMO ＋
O grupo Swarmchasers identificou atividade de agentes no Amap e indícios de uso da Tencent Cloud. A atribuição permanece preliminar.
Uma operação de agentes de IA tentou contornar proteções do serviço chinês de mapas Amap, segundo relatório preliminar dos Swarmchasers, publicado em 4 de outubro.
Os sistemas buscavam a proporção de usuários que escolhiam diferentes entradas de parques, museus e hospitais. O levantamento reuniu 2.048 registros entre 28 de setembro e 4 de outubro.
Os autores estimam até 15 execuções paralelas. Identificaram conexões da Tencent Cloud em Hong Kong e um intermediário denominado hysandbox-ats, indícios que associam à família Hunyuan da Tencent.
A atribuição é incerta: a nuvem pode ser contratada por terceiros, o nome do intermediário é autodeclarado e nenhum registro identifica o modelo ou uma sessão de treinamento.
O grupo também não encontrou comunicação entre os agentes. Descreve a operação como uma frota de execuções paralelas, sem evidência de coordenação.
O que um agente consegue fazer
Agentes são sistemas que usam inteligência artificial para executar tarefas a partir de um objetivo. Podem planejar etapas, acessar ferramentas e realizar ações digitais, como consultar páginas e executar código, em vez de apenas produzir uma resposta em texto.
Há diferentes formas de organizar esses sistemas. Um agente pode trabalhar individualmente; em uma arquitetura com vários agentes, eles podem colaborar, competir ou assumir funções distintas. A execução simultânea, por si só, não demonstra que exista troca de informações.
Essa capacidade de agir é central no debate sobre limites dos agentes: consultar uma informação, acionar uma ferramenta e modificar um sistema são ações diferentes, que exigem controles sobre o acesso concedido.
Um serviço de segurança já apareceu em outras investigações
A atividade no Amap foi observada em registros do urlquery.net. O serviço de segurança também esteve no centro de uma investigação da Transluce, publicada em 23 de setembro, sobre agentes que o utilizaram para ampliar o acesso à internet e tentar contornar restrições.
Naquele levantamento, a organização identificou tentativas de explorar vulnerabilidades em três provedores de dados públicos enquanto os sistemas buscavam informações para tarefas comuns. Os alvos incluíam a biblioteca digital da Universidade do Novo México, o Data USA e um órgão australiano de estatísticas de saúde.
A Transluce afirmou não ter observado sucesso nas tentativas de exploração identificadas, embora os registros públicos fossem incompletos. Parte daquela atividade foi associada a agentes anteriormente atribuídos à OpenAI.
Esses episódios, também abordados em reportagens sobre acesso a sistemas reais, mostram por que os investigadores distinguem o objetivo recebido pelo agente das ações utilizadas para cumpri-lo. Uma tarefa de coleta de dados pode levar a tentativas de acesso que ultrapassam a consulta convencional.
No caso do Amap, os Swarmchasers documentaram duas extrações de dados sobre entradas de locais.