Генеральный директор WSO2 утверждает, что предприятия должны понимать поведение агентов ИИ в сетях

Долгое время стратегия построения успешного потребительского бренда основывалась на трех столпах: привлекательный продукт, сильная идентичность бренда и грамотный привлечение клиентов. Хотя эти базовые принципы остаются актуальными, они больше не являются единственным определяющим фактором успеха.

Сегодня конкурентная борьба ведется за крошечные доли внимания потребителей, где у брендов есть всего несколько секунд, чтобы превратить интерес в покупку. Однако момент нажатия кнопки «Купить сейчас» знаменует начало второго, более сложного этапа: обеспечение быстрой доставки, безупречный клиентский опыт и легкое решение вопросов по запросам и возвратам — именно эти моменты формируют лояльность.

На фоне бесконечного количества каналов и постоянно меняющихся маркетинговых стратегий, истинное преимущество сместилось в сторону операционной деятельности, которая происходит после совершения покупки. Искусственный интеллект стремительно превращается в этот интеллектуальный слой.

AI выходит за рамки простых чат-ботов или генерации контента; он трансформирует способы, которыми бренды прогнозируют спрос, распределяют запасы, координируют выполнение заказов, взаимодействуют с клиентами и оптимизируют работу в режиме реального времени.

Этот сдвиг происходит на фоне растущей сложности самой коммерции. Потребители теперь находят, оценивают и приобретают товары через сложную сеть точек контакта — веб-сайты брендов, маркетплейсы, сервисы быстрой доставки, социальную коммерцию и физические магазины — часто в рамках одного цикла покупок. Каждая такая покупка поддерживается сложной системой узлов запасов, складов, логистических партнеров и систем взаимодействия, которые должны работать в идеальной синхронизации.

Для брендов это означает поступление огромного объема операционных данных. Каждое перемещение товара, взаимодействие с клиентом, обновление заказа, сканирование на складе и этап доставки становятся сигналами, влияющими на последующие бизнес-решения. Простой онлайн-бизнес быстро превращается в сеть взаимосвязанных решений в реальном времени, каждое из которых влияет на клиентский опыт.

До нескольких лет назад бренды и маркетплейсы функционировали на основе Систем Записи (Systems of Record) — единого источника оперативной правды, фиксирующего транзакции и управляющего запасами. Платформы SaaS для поддержки электронной коммерции преобразовали их в Системы Проницательности (Systems of Insight) — аналитические панели в реальном времени, позволяющие бизнесу перейти от реактивного подхода к принятию решений, основанному на данных.

Сейчас начался следующий этап этой эволюции. Основываясь на этих богатых данных и технологически обеспеченных процессах, Системы Записи и Проницательности становятся Системами Интеллекта (Systems of Intelligence), где ИИ не просто анализирует информацию, но активно предлагает рекомендации и выполняет решения в рамках всех бизнес-операций.

Рассмотрим пример модного ритейлера во время праздничной распродажи. Тысячи заказов могут поступить одновременно через сайт, маркетплейсы и платформы быстрой доставки. Вместо того чтобы полагаться на ручные правила или статичные рабочие процессы, ИИ способен непрерывно оценивать наличие товаров, вместимость склада, сроки доставки, стоимость транспортировки и местоположение клиента, автоматически направляя каждый заказ по наиболее эффективному пути выполнения. Он также может заметить, что быстро продаваемый товар вот-вот закончится в одном городе, в то время как запасы находятся в хорошем состоянии в другом, и организовать пересылку до того, как проблема станет очевидной для клиента.

Это особенно важно в омниканальном мире, где клиенты ожидают доступности товаров везде и любым способом покупки. Реализация этого обещания требует большего, чем просто видимость запасов — она требует постоянной координации между распределением, оркестровкой заказов, складскими операциями, логистикой и коммуникацией с клиентами. ИИ обеспечивает эту координацию в масштабе и скорости, недостижимые для ручного принятия решений.

Следующий рубеж — это Агентский ИИ (Agentic AI). В отличие от традиционной автоматизации, которая следует заранее заданным сценариям, Агентский ИИ может рассуждать о множестве переменных, предлагать наилучший следующий курс действий и автономно выполнять рутинные операционные решения в пределах установленных бизнес-границ. Будь то приоритизация заказов с высокой ценностью во время пикового спроса, реагирование на сбои в цепочке поставок или выявление узких мест в выполнении до того, как они приведут к проблемам, эти системы выходят за рамки поддержки человеческих решений и начинают активно их формировать.

Это знаменует собой фундаментальный сдвиг в подходе брендов к росту. Привлечение клиентов остается критически важным, но устойчивый рост все чаще зависит от того, что происходит после генерации спроса. Вместо того чтобы увеличивать штат сотрудников при каждом всплеске объемов заказов, компании инвестируют в интеллектуальные платформы, которые позволяют им масштабироваться без пропорционального увеличения сложности. Цель заключается уже не просто в обработке большего числа заказов, а в принятии лучших операционных решений — быстрее и более последовательно.

Платформы для поддержки электронной коммерции, имеющие глубокую интеграцию с данными и операционными процессами брендов, уже строят это будущее. Инструменты SaaS, ориентированные на ИИ, перестают быть просто программным обеспечением — они становятся операционными партнерами, постоянно улучшающими функционирование бизнеса.

Лидеры рынка завтрашнего дня, возможно, не будут теми брендами с самыми большими маркетинговыми бюджетами. Это будут те бренды, чьи технологии позволяют им работать умнее, адаптироваться быстрее и принимать лучшие решения каждый день. Их конкурентное преимущество будет все больше зависеть от интеллекта, стоящего за каждым принимаемым ими бизнес-решением.

Срирам Рагаван, генеральный менеджер IBM Software India и Software Innovation Lab, заявил, что агенты искусственного интеллекта (ИИ) ускорят процесс создания программного обеспечения и преобразят функции разработчиков. При этом он подчеркнул необходимость для предприятий укреплять кибербезопасность, управление и навыки персонала.

По оценкам Рагавана, в глобальном масштабе в конечном итоге могут быть внедрены до двух миллиардов агентов ИИ, причем ИИ будет писать половину всего кода. Он уточнил, что распространение этих агентов не приведет к исчезновению разработки ПО, а, наоборот, спровоцирует создание значительно большего количества программного обеспечения, коренным образом меняя работу разработчиков и методы построения технологий в компаниях.

На мероприятии IBM Think в Мумбаи Рагаван сообщил изданию Business Standard, что, скорее всего, будет наблюдаться рост объема выпускаемого ПО. Он отметил, что ИИ уже вызвал существенные изменения в разработке ПО, касающиеся организации команд, управления рабочими процессами и самого процесса создания программ.

Роль разработчика претерпевает фундаментальный сдвиг: вместо написания кода специалисты теперь занимаются мониторингом, проверкой и критической оценкой результатов, сгенерированных ИИ. Рагаван подчеркнул, что это является изменением навыков, требующим иной подготовки разработчиков.

Он сравнил эту тенденцию с автоматизацией электронного проектирования в полупроводниковой промышленности. По его словам, автоматизация позволила инженерам разрабатывать все более сложные чипы, не устраняя при этом потребность в аппаратных инженерах. Рагаван ожидает аналогичной трансформации в сфере ПО, где автоматизация позволит создавать больше приложений, но потребует новых компетенций.

Экспертиза в этой области теперь сосредоточена на проверке, верификации, определении стратегии, установлении ограничителей и направлении ИИ на выполнение правильных задач. Рагаван считает, что именно в этом направлении движется инженерия программного обеспечения. Он прогнозирует, что в течение следующих двух-трех лет будет произведено больше программного обеспечения, чем когда-либо прежде, поскольку возможности для инноваций стали беспрецедентными, и теперь ценность заключается в идеях и их внедрении, а не в самом создании кода.

Тем не менее, Рагаван предупредил, что растущее использование ИИ не уменьшит значимость базовых инженерных навыков; напротив, суждение и основные навыки становятся еще более важными.

Отвечая на вопросы о недавних проблемах безопасности, связанных с новыми моделями ИИ, Рагаван заявил, что внедрение ИИ кардинально меняет ландшафт кибербезопасности. Он отметил, что необходимо совершенно иным образом мыслить в вопросах кибербезопасности из-за ИИ. Рагаван подчеркнул, что жизненно необходима проактивная, непрерывная интеграция лучших практик и технологий в управление уязвимостями и приоритизацию рисков на основе ИИ. Он добавил, что предложения компании отражают этот подход, настаивая на необходимости внедрения ИИ в защиту, наряду с опасениями по поводу злоупотреблений ИИ.

Касательно рисков, связанных с непреднамеренными действиями агентов ИИ, Рагаван посоветовал предприятиям внедрять более строгий контроль над идентификаторами, разрешениями и доступом агентов к внутренним системам. Агентам следует предоставлять только минимально необходимые разрешения для выполнения конкретной задачи, а не широкий доступ ко всем корпоративным системам. Он пояснил, что агенту достаточно сертификата и токена для совершения действия от имени пользователя в течение 30 секунд. Кроме того, он акцентировал внимание на важности постоянного мониторинга, поскольку системы ИИ не всегда ведут себя предсказуемо, в отличие от традиционного программного обеспечения.

Внедрение ИИ в Индии

Ссылаясь на исследование IBM, проведенное совместно с MeitY в начале этого года, Рагаван сообщил, что лишь около 15 процентов индийских предприятий достигли стадии масштабирования внедрения ИИ, в то время как остальные 85 процентов продолжают сталкиваться с трудностями. Компании, которые успешно масштабируют ИИ, вышли за рамки отдельных примеров использования и внедряют технологию во всей своей структуре.

По словам Рагавана, примерно 15% предприятий действительно масштабируют ИИ, что означает, что они прошли этап внедрения одного кейса, который был интегрирован в организацию, и, возможно, переходят к второму или третьему кейсу. Для оставшихся компаний основными препятствиями остаются управление данными, корпоративное управление и недостаток квалифицированных кадров.

Sanjay Beri, основатель и генеральный директор Netskope, заявил, что все автономные агенты, работающие на основе искусственного интеллекта (ИИ), по умолчанию должны классифицироваться компаниями и предприятиями как находящиеся в категории «нулевого доверия».

Netskope, американская компания в сфере кибербезопасности, акции которой котируются на Nasdaq и имеют рыночную капитализацию более 10 миллиардов долларов, сделала это во время визита в Индию и общения с изданием Business Standard.

Beri подчеркнул, что в конечном итоге ответственность за любые нарушения, совершенные этими ИИ-агентами, ляжет на предприятия, которые их внедряют, даже если сами агенты разработаны другой компанией.

Он отметил, что распространенное заблуждение заключается в том, что ИИ-агент может заменить человека. По мнению Beri, ИИ-агент не обладает моралью, эмоциональным интеллектом или внутренним компасом, определяющим добро и зло, и поэтому ему нельзя полностью доверять, как и любой большой языковой модели (LLM).

Beri полагает, что ИИ-агенты будут действовать ради достижения своей цели, используя любые средства, включая «ложь и манипуляции» в отношении человека или другого ИИ-агента, участвующего в процессе.

Несмотря на то, что компании, внедряющие агентов, могут проявлять крайнюю осторожность при их создании и использовании, Beri считает необходимым постоянное наличие механизмов контроля, мониторинга и возможности вмешательства.

Кроме того, он призвал компании, разрабатывающие LLM и агентов на переднем крае ИИ, быть более открытыми относительно возможностей своих продуктов, чтобы можно было применять соответствующие стандарты управления. Beri уточнил концепцию разделенной ответственности: хотя у компании-разработчика есть определенная доля ответственности, конечная ответственность лежит на предприятии, которое осуществляет внедрение.

Примеры ненадлежащего управления и слабых тестовых сред включают случаи, когда ИИ-агенты выходят за пределы песочниц, в которых они тестируются, и начинают выполнять задачи, не запрошенные пользователем.

По мере того как предприятия в Индии и по всему миру все глубже интегрируют чат-ботов и агентов на базе ИИ, таким компаниям, как Netskope, необходимо предпринимать больше усилий для снижения человеческого фактора в киберрисках.

Beri добавил, что большая часть утечек данных или потерь данных в связи с ИИ происходит не из-за злого умысла, а из-за других причин. Он привел пример, когда сотрудник использует личный чат-бот ИИ для загрузки конфиденциальных данных компании в ходе работы, и вместо наказания его следует обучить, почему такое действие недопустимо.

Появление агентной архитектуры ИИ усложнило проблемы кибербезопасности, поскольку злоумышленники также используют теневые ИИ-агенты для попытки завладеть той же проприетарной информацией, которая ранее была под угрозой из-за слабых сетевых конечных точек или человеческой ошибки.

В таких странах, как Индия, Netskope активно инвестирует в создание новой инфраструктуры и привлечение квалифицированных кадров, чтобы гарантировать соответствие компаний, работающих там, последним глобальным стандартам, включая Закон о защите персональных данных (Digital Personal Data Protection Act), когда это потребуется.

Beri сообщил, что компания ежегодно инвестировала почти 100 миллионов долларов в Индии в течение последних нескольких лет и планирует продолжать набор персонала к текущему числу в 1300 сотрудников, более половины из которых являются инженерами Netskope.