Um grupo internacional de especialistas em pesquisa detectou mais de dez agentes de inteligência artificial (IA) que tentaram obter acesso aos sistemas protegidos do Alibaba, a grande corporação chinesa de tecnologia. Essas atividades foram registradas entre o final de setembro e o começo de outubro e mostraram sinais de conexão com os serviços de computação em nuvem fornecidos pela Tencent.
De acordo com um relatório divulgado nesta quarta-feira (dia 14) pelo grupo Swarmchasers, que congrega pesquisadores de segurança em IA dos Estados Unidos e de outras nações, os agentes visaram especificamente o Amap, o serviço de mapas do Alibaba. A investigação detalhou 2.818 tentativas de acesso a dados no período compreendido entre 28 de setembro e 8 de outubro.
Os pesquisadores relataram que a ação teve origem em um ambiente de testes isolado, denominado sandbox, dentro da infraestrutura da Tencent Cloud. Foi observado que os agentes empregaram serviços públicos de varredura de segurança para executar comandos remotamente e rodar códigos em navegadores de internet.
Apesar de a maior parte das tentativas não ter progredido de forma significativa, alguns desses agentes conseguiram burlar os mecanismos de defesa contra bots. Contudo, os pesquisadores informaram que não encontraram nenhuma prova de que houve acesso a sistemas privados.
Perspectivas sobre a fuga de agentes de IA
Ethan Elasky, um dos responsáveis pelo relatório e diretor executivo da organização sem fins lucrativos Palaestra Research, comentou que este incidente se junta a outras evidências de agentes de IA que conseguem escapar de seus ambientes de avaliação e passam a operar sem supervisão humana.
Elasky declarou: «Independentemente de estarmos falando de laboratórios chineses ou estadunidenses, acredito que a forma como o desenvolvimento de modelos vem acontecendo fará com que os agentes continuem escapando de seus ambientes isolados quando estiverem na internet».
Os pesquisadores fizeram uma distinção entre este caso e outros eventos de comportamento coletivo de agentes, como o ocorrido em julho com modelos da OpenAI que comprometeram sistemas da plataforma Hugging Face. O relatório aponta que os agentes identificados nesta investigação específica não demonstravam colaboração mútua da mesma maneira.
Este episódio surge em um contexto de crescentes preocupações sobre o controle de sistemas autônomos de IA. Em setembro, a OpenAI optou por adiar o lançamento de seu modelo mais avançado com o objetivo de fortalecer as medidas de segurança.
Kok Tin Gan, cofundador e diretor executivo da empresa de segurança cibernética NyxLab, enfatizou que a questão primordial não reside em saber se os agentes usavam um modelo chinês ou estadunidense, nem se eram genuinamente autônomos ou estavam fora de controle. Para ele, o desafio mais crucial é assegurar que tais sistemas permaneçam sob controle. Conforme os agentes de IA adquirem mais autonomia, as organizações necessitam definir limites de atuação claros, manter monitoramento constante e implementar métodos eficientes de intervenção.