По мере того как искусственный интеллект эволюционирует от простых помощников до автономных агентов, способных принимать сложные решения в реальном мире, финансовые учреждения Южной Африки сталкиваются как с огромными операционными возможностями, так и с изощренными новыми угрозами мошенничества.
Для большинства людей использование ИИ сводится к помощи в расчетах, редактировании документов или генерации изображений. Однако будущее выглядит иначе, поскольку все больше частных лиц и организаций начинают внедрять и полагаться на агентный ИИ.
Суть агентного ИИ заключается в доверии к ИИ для принятия сложных и значимых решений от вашего имени. Он выходит далеко за рамки составления электронных писем или ответа на простые запросы; вместо этого агентный ИИ берет на себя гораздо более сложные задачи, такие как самостоятельное управление инвестиционными стратегиями, выполнение многоэтапных бизнес-операций или бронирование комплексных туристических маршрутов.
Несколько недель назад автор посетил круглый стол, посвященный преодолению разрыва доверия к ИИ-агентам и изучению того, как они активно меняют банковское дело, платежи и рабочие процессы в бизнесе. Мероприятие было организовано Sumsub — поставщиком инфраструктуры доверия на базе ИИ, который объединяет верификацию личности, предотвращение мошенничества, мониторинг транзакций и управление рисками для оптимизации эффективности соответствия требованиям.
Под руководством Мика Амелишко, защитника ИИ в Sumsub, обсуждение раскрыло потенциал агентного ИИ для Южной Африки по мере устойчивого роста местного внедрения. Также свои отраслевые знания поделились Ханнес Безуйденхоут, вице-президент по продажам для Африки в Sumsub, и Джаррид Дженсен, региональный директор по Южной Африке.
Амелишко подчеркнул: «Самый большой сдвиг в сторону 'агентского' способа работы — это агентность. В прошлом году ИИ был просто помощником — он помогал проверять написанное или предлагал базовые идеи. Теперь ИИ может получать доступ к внешнему миру, читать живой интернет, взаимодействовать с другими цифровыми продуктами, совершать независимые покупки, регистрироваться на веб-сайтах или напрямую взаимодействовать с банковскими счетами при наличии разрешения».
Амелишко продолжил, объясняя, что на протяжении столетий общество функционировало на основе предположения, что каждая транзакция или действие выполнялось человеком. Сегодня этот человеческий элемент постепенно замещается.
Для многих этот быстрый переход вызывает обоснованную тревогу. Тем не менее, при наличии надлежащего образования и четкого понимания того, как регулировать агентный ИИ, эти опасения могут быть в значительной степени смягчены.
Несмотря на эти меры защиты, угроза мошенничества, управляемого ИИ, остается быстро обостряющейся проблемой. Ситуация напоминает знаменитое предупреждение Кайла Риза о Терминаторе из классического фильма 1984 года: «С ним нельзя торговаться. С ним нельзя вести переговоры. Он не чувствует жалости, раскаяния или страха. И он абсолютно никогда не остановится... пока ты не умрешь!»
Хотя Риз описывал неумолимого кибернетического убийцу, эта цитата ярко отражает современные опасения по поводу автономных цифровых угроз — без физического насилия, но с равной настойчивостью в использовании цифровых уязвимостей.
Обращаясь к местной ситуации, Дженсен отметил, как развиваются тенденции корпоративного банкинга в Южной Африке. Он заметил: «Масштабное внедрение истинных ИИ-агентов в Южной Африке все еще довольно низкое по сравнению с мировыми рынками. Южная Африка обладает сложным рынком с передовыми системами цифрового банкинга и мгновенных платежей, и потребители уже очень комфортно себя чувствуют при цифровом оформлении. Однако полное агентное внедрение все еще находится на ранних стадиях».
Добавляя эту точку зрения, Безуйденхоут наблюдал, что, хотя дальновидные учреждения, такие как Discovery Bank, активно продвигаются в агентскую сферу, Южная Африка в целом отстает от международных лидеров, таких как Китай.
Одна из основных проблем, связанных с агентным ИИ, касается подотчетности: что произойдет, если что-то пойдет не так, и кто понесет конечную вину — человек, который выдал первоначальный запрос, или машина, которая выполнила действие?
Преобладающий консенсус на мероприятии заключался в том, что сам ИИ не может нести юридическую ответственность за незаконную деятельность; ответственность всегда должна прослеживаться до человека-оператора или контроллера системы. Тем не менее, новые методы финансового мошенничества быстро развиваются, а нормативно-правовая база часто отстает от этих технологических сдвигов.
Иллюстрируя эту растущую угрозу, данные Sumsub показывают, что в то время как глобальный уровень мошенничества с идентификацией немного снизился до 2,2% в 2025 году (по сравнению с 2,6% в 2024 году), случаи высокотехнологичного мошенничества выросли на 180% в годовом исчислении, поскольку злоумышленники перешли от мошенничеств с низкими усилиями к продвинутым атакам, управляемым ИИ.
В конечном счете, по мере того как агентный ИИ переходит от нового эксперимента к основной финансовой инфраструктуре в Южной Африке, балансирование между автоматизированным удобством и бдительным человеческим надзором станет ключом к поддержанию безопасности и доверия.

