Применение искусственного интеллекта (ИИ) будет продолжать расти, охватывая как базовые задачи, так и сложные процессы, такие как международные инвестиции. Центральным понятием здесь является агентный ИИ, который подразумевает доверие к ИИ для принятия сложных и значимых решений от имени пользователя.
Этот тип ИИ выходит далеко за рамки простого составления электронных писем или ответа на простые запросы. Агентный ИИ способен выполнять гораздо более замысловатые задачи, например, самостоятельно управлять инвестиционными стратегиями, реализовывать многоэтапные бизнес-операции или бронировать полные туристические маршруты.
Несколько недель назад состоялась встреча в формате круглого стола, посвященная устранению разрыва доверия к агентам ИИ и изучению того, как они трансформируют банковское дело, платежи и рабочие процессы в бизнесе. Мероприятие организовала Sumsub — поставщик инфраструктуры доверия на базе ИИ, который объединяет верификацию личности, предотвращение мошенничества, мониторинг транзакций и управление рисками для оптимизации эффективности соответствия требованиям.
Под руководством Мика Амелишко, защитника ИИ в Sumsub, обсуждалось, что может означать агентный ИИ для Южной Африки по мереsteady расширения местного внедрения. Также свои отраслевые знания поделились Ханнес Безуйденхоут, вице-президент по продажам для Африки в Sumsub, и Джаррид Дженсен, региональный директор по Южной Африке.
Амелишко подчеркнул, что «самый большой сдвиг в сторону работы в 'агентном' режиме — это агентность. В прошлом году ИИ был просто помощником — он помогал проверять тексты или предлагал базовые идеи. Теперь ИИ может получать доступ к внешнему миру, читать живой интернет, взаимодействовать с другими цифровыми продуктами, совершать независимые покупки, регистрироваться на веб-сайтах или напрямую взаимодействовать с банковскими счетами при наличии разрешения».
Он продолжил объяснять, что на протяжении столетий общество функционировало на основе предположения, что каждая операция или действие выполнялось человеком. Сегодня этот человеческий фактор постепенно замещается.
Для многих этот быстрый переход вызывает обоснованную тревогу. Однако эти опасения могут быть в значительной степени смягчены при условии получения надлежащего образования и четкого понимания того, как регулировать агентный ИИ.
Несмотря на эти меры предосторожности, угроза мошенничества, управляемого ИИ, остается быстро растущей проблемой. Ситуация напоминает знаменитое предупреждение Кайла Риза о Терминаторе из классического фильма 1984 года: «С ним нельзя торговаться. С ним нельзя вести переговоры. Он не чувствует жалости, раскаяния или страха. И он абсолютно никогда не остановится... пока ты не умрешь!»
Хотя Риз описывал неумолимого кибернетического убийцу, эта цитата ярко отражает современные опасения по поводу автономных цифровых угроз — без физического насилия, но с равной настойчивостью в использовании цифровых уязвимостей.
Переходя к местной ситуации, Дженсен отметил, как развиваются тенденции корпоративного банкинга в Южной Африке. Он заявил: «Масштабное внедрение истинных агентов ИИ в Южной Африке все еще довольно низкое по сравнению с мировыми рынками. Южная Африка обладает сложным рынком с передовыми системами цифрового банкинга и мгновенных платежей, и потребители уже очень комфортно себя чувствуют при цифровом оформлении. Тем не менее, полное агентное внедрение все еще находится на ранней стадии».
Добавляя эту точку зрения, Безуйденхоут заметил, что, хотя дальновидные учреждения, такие как Discovery Bank, активно продвигаются в агентную сферу, Южная Африка в целом отстает от международных лидеров, таких как Китай.
Одна из основных проблем, связанных с агентным ИИ, касается подотчетности: что произойдет, если что-то пойдет не так, и кто понесет конечную ответственность — человек, который дал первоначальный запрос, или машина, которая выполнила действие?
Общий консенсус на мероприятии заключался в том, что сам ИИ не может нести юридическую ответственность за незаконную деятельность; ответственность всегда должна прослеживаться до оператора человека или контроллера системы. Тем не менее, новые методы финансового мошенничества быстро эволюционируют, а регуляторные рамки часто запаздывают по сравнению с этими технологическими изменениями.
Иллюстрируя эту растущую угрозу, данные Sumsub показывают, что, хотя глобальный уровень мошенничества с идентификацией немного снизился до 2,2% в 2025 году (по сравнению с 2,6% в 2024 году), случаи высокотехнологичного мошенничества выросли на 180% в годовом исчислении, поскольку злоумышленники перешли от мошенничества с низкими усилиями к продвинутым атакам на основе ИИ.
В конечном итоге, по мере того как агентный ИИ переходит от нового эксперимента к основной финансовой инфраструктуре в Южной Африке, балансирование между автоматическим удобством и бдительным человеческим надзором станет ключом к поддержанию безопасности и доверия.
