Потенциал AI-агентов для выполнения задач сталкивается с проблемами интеграции с крупными онлайн-сервисами
Подробнее
Egypt Independent
www.egyptindependent.com

Потенциал AI-агентов для выполнения задач сталкивается с проблемами интеграции с крупными онлайн-сервисами

AI-агенты обещают взять на себя широкий спектр задач пользователя, однако их реализация зависит от готовности популярных приложений и сервисов предоставить им необходимый доступ. Эти агенты выходят за рамки простого ответа на вопросы или создания изображений; они способны выполнять многоэтапные действия в интернете, такие как сравнение цен, совершение покупок, бронирование и заполнение форм, при условии разрешения соответствующих компаний.

Этот потенциальный сдвиг может спровоцировать новую конкурентную борьбу в сфере интернет-услуг. Например, Amazon недавно заблокировал доступ своего магазина для AI-агента Muse от Meta, что, по мнению некоторых экспертов, предвещает дилемму для онлайн-бизнеса.

Если пользователи начнут активно применять AI-агентов в повседневных делах, компаниям придется принять важное решение: либо сотрудничать с такими структурами, как Meta, рискуя сделать свои платформы неактуальными, либо упустить возможность охватить миллиарды клиентов через то, что может стать будущим взаимодействия людей с сервисами.

После объявления о новых обновлениях для своего агента Muse, акции таких компаний, как Airbnb, Expedia и Trip Advisor, снизились примерно на 5% на прошлой неделе.

Концепция AI-агентов не нова; Meta, OpenAI, Google, Apple и Amazon уже несколько лет работают над этим направлением, постепенно внедряя функции, схожие с работой агентов. Однако Muse быстро завоевал популярность, заняв первое место в списке бесплатных приложений в App Store Apple всего через 10 дней после дебюта 8 сентября. Успех агента во многом обусловлен широким присутствием Meta в интернете, владеющей Instagram, Facebook и WhatsApp, а также относительно простым интерфейсом приложения.

По мнению аналитика Международной корпорации по исследованию технологического рынка Франсиско Херонимо, Meta лучше других технологических гигантов продемонстрировала потребителям возможности Muse. Он отметил: «Другие не так громко говорили об использовании агентов для покупок, как Meta делала с Muse, и я думаю, что это главное отличие».

Meta заключила партнерства с Walmart, GameStop, Sephora, Expedia, OpenTable и Shopify для интеграции своих услуг в приложение Muse. Тем не менее, гигант электронной коммерции Amazon отказался сотрудничать с Meta. Amazon заблокировал агента, заявив, что не было уведомления или выбора относительно доступности его магазина через Muse. Компания также выразила опасения по поводу обработки данных и учетных данных аккаунтов Amazon, а также отметила, что агенты не предоставляют персонализированные рекомендации Amazon.

В заявлении Amazon, адресованном CNN, говорилось: «Мы считаем вполне очевидным, что сторонние приложения, предлагающие совершать покупки от имени клиентов в других компаниях, должны работать открыто и уважать решения поставщиков услуг о том, участвовать ли им или нет». Аналогично, платформа онлайн-бронирования ресторанов Resy сообщила CNN, что она «в настоящее время не разрешает несанкционированным сторонним ботам или агентам» получать доступ к своим услугам. Платформа заблокировала учетную запись пользователя после попыток его AI-агента, помощника под названием Instinct, забронировать сотни столов в час ранее в этом месяце.

Resy предупредила: «Несанкционированная автоматизированная активность может создать риски для платформы и нарушить справедливый опыт бронирования для посетителей». При этом CNN смогла забронировать столик через Muse, предоставив учетные данные, такие как номер телефона и код подтверждения. Resy интегрируется с ChatGPT и Claude и заявила, что будет «продолжать оценивать возможности» по мере развития AI-агентов.

Хотя Amazon может быть исключением, некоторые эксперты считают, что AI-агенты несут реальные риски, которые могут заставить многих поставщиков онлайн-услуг колебаться перед тем, как разрешить агентам использовать их платформы. Во-первых, существует вероятность снижения веб-трафика, если задачи будут решаться преимущественно через приложения AI-агентов. Кроме того, бренды могут потерять способность изучать покупательские привычки клиентов или привлекать пользователей к дополнительным покупкам с помощью внутриприложенческих акций или рекомендаций продуктов.

Мандип Сингх, старший отраслевой аналитик Bloomberg Intelligence, отметил: «Вы просматриваете Amazon в поисках нужной вам вещи, но затем вы также видите другие вещи, которые, как вы знаете, можете купить».

Более того, генеральный директор Meta Марк Цукерберг сообщил в среду, что компания планирует в конечном итоге взимать комиссию за транзакции, совершенные через Muse. Это означает, что другие компании могут потерять часть своих продаж.

Воздействие может затронуть не только магазины и приложения для бронирования. AI-агенты хорошо справляются с задачами, требующими исследования, например, сравнением страховых полисов или планов мобильных операторов. Это потенциально может облегчить пользователям смену тарифов ради получения более выгодных условий.

Однако потенциальная выгода также может быть огромной. Согласно данным фирмы по рыночной разведке Sensor Tower, Muse уже был загружен более чем 2,5 миллиона раз, что предоставляет бизнесам видимость среди миллионов людей по всему миру. Это может сделать Muse особенно привлекательным для малых и средних брендов, например, тех, кто работает с Shopify.

Катрин Хайнц, вице-президент Expedia по альянсам предприятий и AI, заявила в комментарии CNN, что это было частью привлекательности для платформы путешествий Expedia, поскольку она стремится «появляться там, где ищут путешественники». Она добавила, что около двух третей трафика Expedia поступает через собственные платформы.

Некоторые могут рассматривать это как шаг к обеспечению будущего своего бизнеса. Херонимо из International Data Corporation считает: «Я думаю, в долгосрочной перспективе мы увидим именно это: AI-платформы станут слоем и основным интерфейсом для большинства из нас, когда мы совершаем покупки».

Похожие сюжеты

Meta выпустила помощника на базе ИИ Muse, который получил много загрузок, но вызвал конфликт с Amazon
Подробнее
olhardigital.com.br

Meta выпустила помощника на базе ИИ Muse, который получил много загрузок, но вызвал конфликт с Amazon

Meta представила Muse, нового личного агента искусственного интеллекта, который быстро завоевал признание в Соединенных Штатах. Приложение достигло вершины App Store и положительно повлияло на динамику акций компании, хотя уже сталкивается с критикой, связанной с безопасностью, конфиденциальностью и доступом к сторонним системам.

Всего через несколько дней после запуска на американском рынке Muse превысил отметку в 2,5 миллиона установок, согласно данным Sensor Tower. В ответ на этот успех акции Meta выросли на 11% в понедельник. Truist Securities прогнозирует, что эта функция может добавить компании 28,5 миллиардов долларов США (примерно 146,4 миллиарда бразильских реалов) к выручке к 2030 году.

Для оптимизации своей работы Muse имеет возможность получать доступ к электронной почте, календарям и сообщениям, что означает, что пользователь должен предоставить агенту значительный объем личных данных. Исследование, проведенное Oppenheimer & Co., иллюстрирует это колебание, показывая, что только 8% американских потребителей заявили о доверии к предоставлению своих паролей Meta, по сравнению с 30% в случае Google.

Meta заявляет, что разработка Muse ставила во главу угла безопасность, утверждая, что каждый агент работает на выделенном и защищенном компьютере. Перед запуском глава отдела ИИ компании, Александр Ванг, упомянул, что главной заботой было предотвращение утечек личных данных или случайного удаления важных электронных писем.

Тем не менее, вопросы безопасности сохраняются. Юссеф Скали, аналитик Truist, предупредил, что крупный инцидент, скомпрометировавший учетные данные или данные кредитных карт, может подорвать доверие не только к Muse, но и ко всей отрасли ИИ-агентов.

Первый серьезный вызов для Muse возник в сегменте электронной коммерции, когда Amazon заблокировала агента на своем веб-сайте, не позволяя ему просматривать или совершать покупки от имени пользователей. Amazon заявила, что не получала предварительного уведомления о таком доступе и не санкционировала это действие. Представитель Amazon подчеркнул, что сторонние приложения, совершающие покупки для клиентов, должны работать прозрачно и соблюдать установленные сервисами правила доступа.

За этим блокированием также стоит проблема бизнес-модели. Если ИИ-агенты начнут совершать покупки вместо людей, пользователи могут меньше видеть страницы с рекламой. Для многих аналитиков это может вызвать сопротивление со стороны крупных интернет-платформ, особенно тех, чей доход зависит от рекламы.

Со своей стороны, Meta указывает на партнерства с Shopify, Instacart и Dick’s Sporting Goods. Прогресс Muse также вызвал реакции в других сегментах: наблюдалось снижение акций управляющих активами, брокеров и банков, причем Charles Schwab зафиксировала падение более чем на 6%. Booking Holdings и Allstate также пострадали.

Meta обладает решающим преимуществом, поскольку Facebook и Instagram предлагают обширную инфраструктуру распространения, а их сервисы уже накопили данные миллионов пользователей. В настоящее время единственным сопоставимым продуктом является агент стартапа Instinct, который доступен только по приглашениям.

Однако эта картина скоро изменится. Аналитики прогнозируют, что OpenAI анонсирует потребительского ИИ-агента в ближайшие недели. Google также упоминается как потенциальный конкурент, а Apple может выйти на этот рынок позже.

В этом контексте жесткой конкуренции быть пионером может стать решающим. По словам Кена Гаврельски, аналитика Wells Fargo, эффективность этих помощников повышается по мере того, как потребители привыкают к ним и направляют их функциональность. Кроме того, Muse требует высокой вычислительной мощности, поскольку каждый агент работает на собственном виртуальном компьютере, что является фактором в этой борьбе; однако аналитики, цитируемые Wall Street Journal, указывают, что у Google достаточно инфраструктуры для разработки аналогичного решения.

На данный момент быстрое внедрение Muse поставило Meta в эпицентр этой новой борьбы. Однако успех агента будет зависеть не только от количества пользователей, но и от готовности платформ разрешить искусственному интеллекту выполнять задачи от имени своих клиентов.

AI-агенты следует рассматривать как привилегированных пользователей из-за расширения их доступа к корпоративным системам
Подробнее
techcentral.co.za

AI-агенты следует рассматривать как привилегированных пользователей из-за расширения их доступа к корпоративным системам

Автономные агенты искусственного интеллекта и сами модели ИИ перестали быть частью изолированных экспериментов и теперь интегрированы в основные бизнес-процессы предприятий. Они подключаются к базам данных, бизнес-приложениям, облачным платформам, внутренним API и сторонним сервисам, что приносит реальную пользу бизнесу.

Однако это создает серьезную проблему безопасности: что произойдет, если система ИИ получит доступ к большему объему информации в организации, чем ей необходимо? Риск заключается не в том, что модель выдаст неверный ответ, а в том, что приложение, агент или подключенный инструмент ИИ могут быть скомпрометированы, подвергнуты манипуляциям или неправильно настроены, используя свой доступ для достижения конфиденциальных систем, раскрытия данных или запуска непреднамеренных действий.

По мере того как ИИ становится более автономным и способным, компаниям необходимо учитывать не только функциональность моделей, но и места, к которым они могут подключаться.

Как ИИ-агенты становятся привилегированными корпоративными приложениями

Многие компании используют сервисы ИИ, которые взаимодействуют с критической инфраструктурой и чувствительной информацией. Эти системы способны извлекать записи клиентов, запрашивать финансовые базы данных, генерировать программный код, инициировать рабочие процессы и вызывать внешние службы. Фактически, это делает их еще одним классом привилегированных приложений.

В отличие от традиционных приложений, которые имеют четко определенные сетевые требования, ясное владение и процесс утверждения, среды ИИ развиваются гораздо быстрее. Новые инструменты, плагины и интеграции появляются в течение нескольких дней, часто без полного понимания требуемой ими связности. Следствием этого является чрезмерно широкий доступ, неограниченная исходящая связь и ненужная экспозиция между рабочими нагрузками ИИ и чувствительными бизнес-системами.

Если ИИ-агент подвергается компрометации — будь то через внедрение подсказок (prompt injection), вредоносный контент или уязвимую стороннюю интеграцию — степень ущерба определяется этим избыточным уровнем подключения. Проблема не в том, что модель вышла за пределы сети; проблема в том, что ей изначально предоставили доступ к системам, к которым она никогда не должна была иметь возможности обратиться.

Контроль рисков посредством управления связностью

Безопасная стратегия ИИ требует внедрения управления связностью: необходимо иметь четкое представление обо всех системах, с которыми может общаться рабочая нагрузка ИИ, включая внутренние приложения, базы данных, облачные сервисы, платформы разработки и сторонние API. Каждая такая связь должна проверяться по простому вопросу: необходима ли она? — и ограничиваться ее предполагаемой деловой целью.

Это подразумевает, что команды по безопасности и инфраструктуре должны картировать зависимости приложения ИИ, оценивать риск каждой предлагаемой связи и обеспечивать применение принципа наименьших привилегий. Вместо того чтобы позволять сервису ИИ обращаться ко всей внутренней сети и интернету в целом, организации могут ограничить его только теми конкретными приложениями, службами, портами и конечными точками, которые ему нужны. Если рабочая нагрузка ведет себя неожиданно или подвергается компрометации, ущерб остается локализованным.

Защита соединений со сторонними организациями

Опасность заключается не в том, что агент ИИ может столкнуться с вредоносными инструкциями через сторонний источник или плагин. Опасность в том, что эти инструкции могут достичь агента, которому уже были предоставлены мощные инструменты, учетные данные и доступ к корпоративным системам.

Open Worldwide Application Security Project (Owasp) классифицирует «чрезмерную агентность» как один из главных рисков в приложениях, построенных на больших языковых моделях, и связывает это с тремя основными причинами: ненужной функциональностью, ненужными разрешениями и ненужной автономией.

Большинство внедрений ИИ зависят от внешних поставщиков моделей, платформ программного обеспечения как услуги, плагинов, источников данных и API. Эти зависимости обеспечивают функциональность, но также расширяют поверхность атаки.

Только защиты самой модели недостаточно. Организации должны управлять всем окружением вокруг нее — ее идентификацией, разрешениями, инструментами, API, приложениями и сетевыми соединениями. Агент ИИ должен иметь возможность обращаться только к тому, что необходимо для выполнения его работы, а команды по безопасности должны иметь возможность видеть, обосновывать и постоянно перепроверять каждую такую связь. ИИ меняет принцип работы приложений, но не меняет сам принцип наименьших привилегий; он лишь увеличивает цену игнорирования этого принципа.

Популярное