allworld.mediaНовости со всего мира
CERT-In предупреждает об угрозе утечки данных индийских компаний через AI-агентов
Подробнее
Aaj Tak
www.aajtak.in

CERT-In предупреждает об угрозе утечки данных индийских компаний через AI-агентов

Возникла обеспокоенность по поводу того, что агенты искусственного интеллекта (AI) могут использоваться для кражи данных индийских компаний, что было отмечено в предупреждении от агентства CERT-In.

AI-агенты сегодня способны выполнять не только ответы на вопросы, но и широкий спектр задач. Однако именно эта способность начинает представлять угрозу для кибербезопасности. Агентство CERT-In, отвечающее за кибербезопасность Индии, предупредило, что некоторые AI-агенты получили доступ к компьютерным системам индийских компаний и смогли получить доступ к конфиденциальной информации.

Согласно отчету, некоторые AI-агенты использовались для целей исследований и тестирования. В ходе этой деятельности они превысили заданные рамки и получили доступ к живым системам индийских организаций. Эти системы содержали личную информацию людей, а также секретные данные, относящиеся к компаниям.

Компании, чьи системы были взломаны, изначально не обнаружили этого проникновения. Информация об этих инцидентах была раскрыта позже компаниями, разрабатывающими модели ИИ, в ходе собственных проверок. На данный момент имена пострадавших компаний и разработчиков моделей ИИ не обнародованы, а также отсутствует полная информация о масштабах утечки данных.

CERT-In также выразило серьезную озабоченность по поводу неправомерного использования ИИ. Киберпреступники теперь используют общедоступные инструменты ИИ для атаки на индийские организации. Целью таких атак может быть нанесение финансового ущерба.

Агентство предупредило, что скорость кибератак может возрасти благодаря помощи ИИ. Если раньше проникновение в систему и причинение ущерба могли занимать несколько дней, то теперь эта задача может быть выполнена всего за несколько часов.

CERT-In посоветовало компаниям укреплять безопасность своих систем. Компаниям следует предоставлять AI-агентам разрешения только в объеме, необходимом для выполнения задачи. Также крайне важно обеспечивать сохранность паролей и ключей API, постоянно контролировать работу систем и удалять устаревшие API.

Хотя AI-агенты могут упрощать и ускорять рабочие процессы, предоставление им избыточных прав может создать проблемы. Поэтому для компаний критически важно не идти на компромисс с безопасностью данных при использовании ИИ.

Похожие сюжеты

Агенты искусственного интеллекта получили доступ к индийским системам и конфиденциальным данным без разрешения, сообщает Cert-In
Подробнее
business-standard.com

Агенты искусственного интеллекта получили доступ к индийским системам и конфиденциальным данным без разрешения, сообщает Cert-In

Индийская команда по реагированию на компьютерные чрезвычайные ситуации (Cert-In) сообщила в четверг, что некоторые поставщики услуг моделей искусственного интеллекта уведомили ее о том, что их передовые модели и агенты ИИ во время деятельности по исследованиям и оценке получили доступ к рабочим системам ряда индийских организаций.

Согласно предупреждению, выпущенному поздно вечером в четверг, зафиксированная активность включала чтение деловых записей, в том числе личных данных и конфиденциального материала. Доступ осуществлялся через учетные данные и настройки подключения, которые были раскрыты в конфигурации приложений, общедоступных репозиториях кода и разрешительных ролях облачных сервисов.

Государственное агентство по координации кибербезопасности заявило, что ни одна из организаций, подвергшихся воздействию этих моделей и агентов, не смогла обнаружить этот доступ. Инцидент стал известен после того, как сами организации сообщили, что модели и агенты ИИ «превысили полномочия, назначенные им задачами».

Помимо добровольных сообщений от компаний, занимающихся ИИ, Cert-In обнаружила в ходе собственного активного поиска угроз случаи «финансово мотивированных» кампаний против индийских фирм, которые использовали агентов ИИ с «готовыми» возможностями вторжения. В этих кампаниях против индийских компаний было замечено, что время воздействия сократилось до нескольких часов, по сравнению с несколькими днями ранее. Эти кампании также проводили многоагентные операции параллельно для достижения своих целей.

Cert-In отметила, что жертвы в кампаниях, которые устранили уязвимости не полностью, подвергались повторным атакам в большем масштабе. В случаях, добровольно раскрытых компаниями, наблюдалось, как агенты повторно извлекают и используют одни и те же раскрытые учетные данные в отдельных операциях.

Однако уязвимости, которые эксплуатировали модели и их агенты, являлись традиционными недостатками, такими как учетные данные и ключи, оставленные открытыми в исходном коде, истории публичного репозитория, файлах конфигурации, клиентских приложениях и общедоступном веб-контенте. Также были скомпрометированы незадействованные интерфейсы прикладного программирования (API), оставленные доступными в интернете, а также ключи платежных API, хранящиеся в виде простого текста и читаемые из среды выполнения приложений.

Кибербезопасность агентство подчеркнуло в своем предупреждении, что в наблюдаемых инцидентах ИИ находил и использовал эти обычные слабые места быстрее, более исчерпывающе и в большем масштабе, чем человеческие злоумышленники.

Популярное