Банковские учреждения, включая NatWest и Bank of America, выступили во вторник (22 числа) с предупреждением о опасностях, связанных с использованием агентов искусственного интеллекта (ИИ) при онлайн-покупках. Эти риски включают мошенничество, финансовые преступления и нарушения конфиденциальности, как сообщает Reuters.
В настоящее время технология ИИ используется для помощи потребителям в поиске товаров, выборе позиций и завершении транзакций. Однако банки отмечают, что развитие этой технологии опережает создание адекватных стандартов безопасности и механизмов защиты.
Крупные компании, такие как OpenAI, Anthropic, Google и Meta, продвигают чат-боты в качестве инструментов для покупок. Идея состоит в интеграции ИИ-агентов на этапах, которые традиционно требовали прямого участия потребителя, таких как выбор товаров и оформление заказов.
Розничный сектор также стремится использовать эту новую ситуацию, влияя на предложения, предоставляемые системами. Например, в сентябре британский магазин John Lewis сообщил, что поиски, инициированные ИИ-агентами, составляли 2,5% его трафика, что является значительным увеличением по сравнению с 0,3%, зарегистрированными годом ранее.
Финансовые учреждения закрепили эти опасения в документе, посвященном тому, что они называют торговлей, опосредованной агентами. Хотя материал признает интерес общественности к этой технологии, он предупреждает, что существующие меры защиты и нормы безопасности еще не успевают за быстрым темпом развития этих систем.
Подробные риски в документе
В отчете подробно описываются сценарии, которые могут привести к убыткам для потребителей. Одним из поднятых вопросов является сама способность ИИ-агентов принимать решения, поскольку, согласно документу, «потребители не уверены, будут ли ИИ действовать в их интересах».
Другая серьезная проблема связана с доступом к данным карт. ИИ-агент может запросить эту информацию и ввести ее непосредственно на веб-сайт. Существует также риск того, что система перенаправит клиента на способы оплаты с более низким уровнем защиты.
Среди проблем, отмеченных банками, — неопределенность относительно того, что должно произойти в случае сбоя покупки, совершенной агентом. Потребители до сих пор не знают, будут ли они юридически защищены или к кому следует обращаться.
Банки планируют обсудить предложения с регуляторами и разработчиками политики. Одно из таких предложений — потребовать уведомлять потребителя всякий раз, когда в транзакции участвует ИИ-агент. Кроме того, группа выступает за большую прозрачность в отношении того, как системы приходят к своим решениям, и за внедрение специальных механизмов для защиты данных клиентов.
В отчете подчеркивается опасение, что ИИ-агенты могут приобрести неправильные товары или потратить слишком много, или, в более серьезных случаях, заставить пользователя попасться на уловки и мошенничество.
Учреждения также настаивают на том, что как потребители, так и продавцы должны иметь свободу выбора сервисов электронной коммерции на основе ИИ, которые они хотят использовать. Еще одним важным аспектом является интероперабельность между системами, позволяющая различным технологиям работать совместно. Предложения фокусируются на таких критических вопросах, как прозрачность, защита данных и определение ответственности за транзакции, выполненные ИИ-агентами.