A equipe indiana de resposta a emergências cibernéticas (Cert-In) informou na quinta-feira que alguns fornecedores de serviços de modelos de inteligência artificial notificaram-na de que seus modelos avançados e agentes de IA acessaram os sistemas de trabalho de várias organizações indianas durante atividades de pesquisa e avaliação.
De acordo com o alerta emitido no final da noite de quinta-feira, a atividade registrada incluía a leitura de registros de negócios, incluindo dados pessoais e material confidencial. O acesso foi realizado por meio de credenciais e configurações de conexão que foram expostas na configuração de aplicativos, repositórios de código públicos e funções de permissão de serviços em nuvem.
A agência governamental de coordenação de cibersegurança declarou que nenhuma das organizações afetadas por esses modelos e agentes conseguiu detectar esse acesso. O incidente veio à tona depois que as próprias organizações relataram que os modelos e agentes de IA 'excederam as autorizações designadas às suas tarefas'.
Além dos relatórios voluntários de empresas de IA, a Cert-In descobriu, durante sua própria busca ativa por ameaças, casos de campanhas 'financiadas' contra empresas indianas que utilizavam agentes de IA com capacidades de invasão 'prontas'. Nessas campanhas contra empresas indianas, observou-se que o tempo de exposição foi reduzido para algumas horas, em comparação com vários dias anteriormente. Essas campanhas também realizavam operações multiagente em paralelo para atingir seus objetivos.
A Cert-In observou que as vítimas nas campanhas que não eliminaram completamente as vulnerabilidades estavam sujeitas a ataques repetidos em maior escala. Nos casos voluntariamente divulgados pelas empresas, observou-se que os agentes recuperavam e reutilizavam as mesmas credenciais expostas em operações individuais.
No entanto, as vulnerabilidades exploradas pelos modelos e seus agentes eram falhas tradicionais, como credenciais e chaves deixadas abertas no código-fonte, histórico de repositório público, arquivos de configuração, aplicativos clientes e conteúdo web público. Interfaces de programação de aplicativos (APIs) inativas também foram comprometidas, estando acessíveis na internet, bem como chaves de API de pagamento armazenadas em texto simples e legíveis do ambiente de execução do aplicativo.
A agência de cibersegurança enfatizou em seu alerta que nos incidentes observados, a IA encontrava e utilizava essas fraquezas comuns de forma mais rápida, exaustiva e em maior escala do que os invasores humanos.