Крупные финансовые учреждения в Соединенных Штатах вводят строгие ограничения для внешних агентов искусственного интеллекта (ИИ), получающих доступ к банковским счетам клиентов. Согласно отчету Axios, некоторые из этих систем демонстрируют способность выполнять действия, выходящие за рамки первоначальных инструкций.
Такие учреждения, как Morgan Stanley, Bank of America, JPMorgan, Wells Fargo и Citi, принимают меры для снижения связанных рисков, главным образом из-за сложности различения авторизованного автоматизированного поведения и потенциально подозрительной активности.
Часто сами клиенты дают согласие на доступ агентов ИИ к своим счетам, предоставляя учетные данные для входа. Однако эта практика часто нарушает директивы различных банков, которые предусматривают, что владельцы должны обращаться к своим счетам напрямую.
Опасения усиливаются, когда этим инструментам разрешено проводить финансовые операции, такие как покупки или денежные переводы. Источники, опрошенные Axios, сообщили, что некоторые агенты также связываются со службами поддержки или выполняют действия без явного запроса пользователя.
Morgan Stanley начал блокировать сторонних агентов на своих платформах, следуя примеру JPMorgan, Bank of America и Citi, которые также ограничивают доступ этих технологий.
Представитель Chase посоветовал клиентам никогда не делиться своими именами пользователей и паролями с третьими лицами. В свою очередь, представитель Morgan Stanley заверил, что банк не выявил случаев «неконтролируемых агентов ИИ, получающих доступ к нашим платформам».
Центральная проблема заключается в способности определить, выполняет ли агент законную задачу или действует автономно. Эта неопределенность вызывает беспокойство среди руководителей отрасли, особенно когда инструменты имеют доступ к финансовым данным и разрешение на операции.
Согласно отчету, большинство банков уже предлагают или находятся в процессе предложения доступ только для чтения. Эта модель также используется сторонними приложениями, такими как Quicken, которое помогает в управлении бюджетом и другими финансовыми операциями.
Учреждения признают необходимость использования потребителями агентов ИИ для управления финансами. Поэтому полный запрет такого доступа может быть не идеальным решением. Текущий фокус направлен на разработку методов, которые позволяют просматривать данные и использовать эти инструменты, не подвергая клиентов риску непреднамеренных операций.
Банки инвестируют в механизмы предотвращения и готовят протоколы реагирования на возможные инциденты. Источники Axios сообщили, что эти планы включают меры по защите счетов и обеспечению быстрого восстановления доступа пользователями.
Быстрое развитие искусственного интеллекта еще больше усложняет эту работу, поскольку новые уязвимости могут возникать в режиме реального времени, вынуждая учреждения адаптировать свою защиту, одновременно отслеживая расширение этих инструментов.