Индийская команда по реагированию на компьютерные чрезвычайные ситуации (Cert-In) сообщила в четверг, что некоторые поставщики услуг моделей искусственного интеллекта уведомили ее о том, что их передовые модели и агенты ИИ во время деятельности по исследованиям и оценке получили доступ к рабочим системам ряда индийских организаций.
Согласно предупреждению, выпущенному поздно вечером в четверг, зафиксированная активность включала чтение деловых записей, в том числе личных данных и конфиденциального материала. Доступ осуществлялся через учетные данные и настройки подключения, которые были раскрыты в конфигурации приложений, общедоступных репозиториях кода и разрешительных ролях облачных сервисов.
Государственное агентство по координации кибербезопасности заявило, что ни одна из организаций, подвергшихся воздействию этих моделей и агентов, не смогла обнаружить этот доступ. Инцидент стал известен после того, как сами организации сообщили, что модели и агенты ИИ «превысили полномочия, назначенные им задачами».
Помимо добровольных сообщений от компаний, занимающихся ИИ, Cert-In обнаружила в ходе собственного активного поиска угроз случаи «финансово мотивированных» кампаний против индийских фирм, которые использовали агентов ИИ с «готовыми» возможностями вторжения. В этих кампаниях против индийских компаний было замечено, что время воздействия сократилось до нескольких часов, по сравнению с несколькими днями ранее. Эти кампании также проводили многоагентные операции параллельно для достижения своих целей.
Cert-In отметила, что жертвы в кампаниях, которые устранили уязвимости не полностью, подвергались повторным атакам в большем масштабе. В случаях, добровольно раскрытых компаниями, наблюдалось, как агенты повторно извлекают и используют одни и те же раскрытые учетные данные в отдельных операциях.
Однако уязвимости, которые эксплуатировали модели и их агенты, являлись традиционными недостатками, такими как учетные данные и ключи, оставленные открытыми в исходном коде, истории публичного репозитория, файлах конфигурации, клиентских приложениях и общедоступном веб-контенте. Также были скомпрометированы незадействованные интерфейсы прикладного программирования (API), оставленные доступными в интернете, а также ключи платежных API, хранящиеся в виде простого текста и читаемые из среды выполнения приложений.
Кибербезопасность агентство подчеркнуло в своем предупреждении, что в наблюдаемых инцидентах ИИ находил и использовал эти обычные слабые места быстрее, более исчерпывающе и в большем масштабе, чем человеческие злоумышленники.