Автономный ИИ трансформирует финансовый сектор и безопасность в Южной Африке
Подробнее
IOL
iol.co.za

Автономный ИИ трансформирует финансовый сектор и безопасность в Южной Африке

По мере того как искусственный интеллект эволюционирует от простых помощников до автономных агентов, способных принимать сложные решения в реальном мире, финансовые учреждения Южной Африки сталкиваются как с огромными операционными возможностями, так и с изощренными новыми угрозами мошенничества.

Для большинства людей использование ИИ сводится к помощи в расчетах, редактировании документов или генерации изображений. Однако будущее выглядит иначе, поскольку все больше частных лиц и организаций начинают внедрять и полагаться на агентный ИИ.

Суть агентного ИИ заключается в доверии к ИИ для принятия сложных и значимых решений от вашего имени. Он выходит далеко за рамки составления электронных писем или ответа на простые запросы; вместо этого агентный ИИ берет на себя гораздо более сложные задачи, такие как самостоятельное управление инвестиционными стратегиями, выполнение многоэтапных бизнес-операций или бронирование комплексных туристических маршрутов.

Несколько недель назад автор посетил круглый стол, посвященный преодолению разрыва доверия к ИИ-агентам и изучению того, как они активно меняют банковское дело, платежи и рабочие процессы в бизнесе. Мероприятие было организовано Sumsub — поставщиком инфраструктуры доверия на базе ИИ, который объединяет верификацию личности, предотвращение мошенничества, мониторинг транзакций и управление рисками для оптимизации эффективности соответствия требованиям.

Под руководством Мика Амелишко, защитника ИИ в Sumsub, обсуждение раскрыло потенциал агентного ИИ для Южной Африки по мере устойчивого роста местного внедрения. Также свои отраслевые знания поделились Ханнес Безуйденхоут, вице-президент по продажам для Африки в Sumsub, и Джаррид Дженсен, региональный директор по Южной Африке.

Амелишко подчеркнул: «Самый большой сдвиг в сторону 'агентского' способа работы — это агентность. В прошлом году ИИ был просто помощником — он помогал проверять написанное или предлагал базовые идеи. Теперь ИИ может получать доступ к внешнему миру, читать живой интернет, взаимодействовать с другими цифровыми продуктами, совершать независимые покупки, регистрироваться на веб-сайтах или напрямую взаимодействовать с банковскими счетами при наличии разрешения».

Амелишко продолжил, объясняя, что на протяжении столетий общество функционировало на основе предположения, что каждая транзакция или действие выполнялось человеком. Сегодня этот человеческий элемент постепенно замещается.

Для многих этот быстрый переход вызывает обоснованную тревогу. Тем не менее, при наличии надлежащего образования и четкого понимания того, как регулировать агентный ИИ, эти опасения могут быть в значительной степени смягчены.

Несмотря на эти меры защиты, угроза мошенничества, управляемого ИИ, остается быстро обостряющейся проблемой. Ситуация напоминает знаменитое предупреждение Кайла Риза о Терминаторе из классического фильма 1984 года: «С ним нельзя торговаться. С ним нельзя вести переговоры. Он не чувствует жалости, раскаяния или страха. И он абсолютно никогда не остановится... пока ты не умрешь!»

Хотя Риз описывал неумолимого кибернетического убийцу, эта цитата ярко отражает современные опасения по поводу автономных цифровых угроз — без физического насилия, но с равной настойчивостью в использовании цифровых уязвимостей.

Обращаясь к местной ситуации, Дженсен отметил, как развиваются тенденции корпоративного банкинга в Южной Африке. Он заметил: «Масштабное внедрение истинных ИИ-агентов в Южной Африке все еще довольно низкое по сравнению с мировыми рынками. Южная Африка обладает сложным рынком с передовыми системами цифрового банкинга и мгновенных платежей, и потребители уже очень комфортно себя чувствуют при цифровом оформлении. Однако полное агентное внедрение все еще находится на ранних стадиях».

Добавляя эту точку зрения, Безуйденхоут наблюдал, что, хотя дальновидные учреждения, такие как Discovery Bank, активно продвигаются в агентскую сферу, Южная Африка в целом отстает от международных лидеров, таких как Китай.

Одна из основных проблем, связанных с агентным ИИ, касается подотчетности: что произойдет, если что-то пойдет не так, и кто понесет конечную вину — человек, который выдал первоначальный запрос, или машина, которая выполнила действие?

Преобладающий консенсус на мероприятии заключался в том, что сам ИИ не может нести юридическую ответственность за незаконную деятельность; ответственность всегда должна прослеживаться до человека-оператора или контроллера системы. Тем не менее, новые методы финансового мошенничества быстро развиваются, а нормативно-правовая база часто отстает от этих технологических сдвигов.

Иллюстрируя эту растущую угрозу, данные Sumsub показывают, что в то время как глобальный уровень мошенничества с идентификацией немного снизился до 2,2% в 2025 году (по сравнению с 2,6% в 2024 году), случаи высокотехнологичного мошенничества выросли на 180% в годовом исчислении, поскольку злоумышленники перешли от мошенничеств с низкими усилиями к продвинутым атакам, управляемым ИИ.

В конечном счете, по мере того как агентный ИИ переходит от нового эксперимента к основной финансовой инфраструктуре в Южной Африке, балансирование между автоматизированным удобством и бдительным человеческим надзором станет ключом к поддержанию безопасности и доверия.

Похожие сюжеты

Как агентский ИИ трансформирует операции по обеспечению безопасности в Южной Африке
Подробнее
techcentral.co.za

Как агентский ИИ трансформирует операции по обеспечению безопасности в Южной Африке

Организации в Южной Африке сталкиваются с постоянно усложняющимися киберугрозами. По мере ускорения цифровой трансформации, роста внедрения облачных технологий и ужесточения регуляторных требований, от команд по безопасности ожидается управление большим количеством оповещений, повышенной сложностью и увеличенными бизнес-рисками, часто без соответствующего увеличения ресурсов.

Для поставщиков управляемых услуг по безопасности (MSSP) эта проблема усугубляется тем, что каждый новый клиент приносит с собой различные технологии, механизмы контроля безопасности, требования соответствия и профили угроз. Хотя рост бизнеса является положительным моментом, он также создает значительное давление на центры операций по безопасности (SOC) с целью поддержания скорости, согласованности и точности.

По мнению Тима Лихили, вице-президента по корпоративной стратегии и операциям в Strike48, именно здесь агентский ИИ начинает менять методы работы современных SOC.

Агентский ИИ не заменяет аналитиков

Лихили подчеркивает, что «Агентский ИИ не предназначен для замены аналитиков или сокращения штата». Он отмечает, что истинная возможность заключается в улучшении того, какой объем работы команда безопасности может реалистично взять на себя до того, как операционное напряжение начнет влиять на качество принятия решений. По мере роста организаций, проблема заключается не просто в обработке большего числа оповещений, а в сохранении стабильно высокого качества решений при возрастающей сложности.

Традиционно масштабирование SOC следовало предсказуемой модели: увеличение числа клиентов вело к росту оповещений, что побуждало организации нанимать больше аналитиков, внедрять дополнительные операционные процессы и создавать новые уровни управления. Однако этот подход со временем достигает точки, когда добавление персонала дает все меньший прирост эффективности.

Аналитики тратят все больше времени на переключение между инструментами безопасности, сбор контекста, корреляцию телеметрии, проверку информации и определение того, представляет ли оповещение реальную угрозу. Хотя уровень обслуживания может сохраняться, поддержание этой производительности требует значительно больших усилий за кулисами.

Для организаций в Южной Африке, которые уже испытывают нехватку опытных специалистов по кибербезопасности, это операционное давление продолжает расти.

Агентский ИИ улучшает рабочие процессы, а не заменяет людей

Одним из самых распространенных заблуждений относительно искусственного интеллекта в сфере кибербезопасности является представление о том, что он существует для замещения аналитиков SOC. На самом деле, агентский ИИ оказывается наиболее ценным тем, что он усиливает работу специалистов по безопасности. Вместо простой автоматизации изолированных задач или генерации дополнительных оповещений, агентский ИИ непрерывно собирает доказательства, связывает активность в различных платформах безопасности, обогащает расследования контекстной информацией и предоставляет аналитикам гораздо более полное понимание инцидента до вмешательства человека.

Благодаря этому аналитики начинают расследования с уже выполненной значительной подготовительной работы, вместо того чтобы тратить драгоценное время на сбор информации. Лихили объясняет: «Рабочий процесс становится менее чувствительным к объему, поскольку усилия, необходимые для каждого расследования, становятся более последовательными». Он добавляет, что «аналитики тратят меньше времени на восстановление контекста и больше времени на применение своей экспертизы там, где это наиболее важно».

Решение проблемы нехватки навыков в Южной Африке

Южная Африка продолжает сталкиваться с хорошо задокументированной нехваткой квалифицированных специалистов по кибербезопасности, что затрудняет расширение команд безопасности организаций в темпе роста бизнеса. Агентский ИИ предоставляет возможность максимизировать эффективность существующих ресурсов безопасности. Автоматизируя рутинные задачи расследования и ускоряя контекстный анализ, организации позволяют опытным аналитикам сосредоточиться на задачах с более высокой ценностью, таких как поиск угроз, реагирование на инциденты и проактивное снижение рисков.

Тимоти Витакер, руководитель инженерной группы и ведущий разработчик в Maidar Secure, утверждает: «Организации в Южной Африке находятся под давлением необходимости укрепления своей киберустойчивости при управлении ограниченными бюджетами и недостаточными навыками в области безопасности». Он добавляет, что «Агентский ИИ позволяет организациям повысить мощность и эффективность существующих команд SOC без ущерба для качества принятия решений по безопасности. Цель состоит не в уменьшении числа аналитиков, а в предоставлении возможности квалифицированным специалистам тратить свое время на решение реальных проблем безопасности, а не на ручную сборку данных».

Последовательность становится реальным преимуществом

По мере роста организаций становится сложнее поддерживать единообразие в принятии решений по безопасности. Разные аналитики естественным образом расследуют инциденты по-разному, и по мере увеличения объема оповещений могут начать проявляться несоответствия в приоритезации, эскалации и реагировании. Агентский ИИ помогает создать более структурированный процесс расследования путем автоматической сборки телеметрии, исторической активности, разведывательных данных об угрозах, контекста окружающей среды и подтверждающих доказательств до начала оценки аналитиком. Это обеспечивает большую согласованность в SOC, одновременно сокращая время расследования и улучшая управление.

Для высокорегулируемых отраслей Южной Африки, включая финансовые услуги, здравоохранение, телекоммуникации, горнодобывающую промышленность и государственный сектор, эта согласованность способствует более строгому соблюдению нормативных требований, улучшенной аудируемости и более предсказуемым результатам в области безопасности.

Переосмысление масштабирования операций по безопасности

По словам Лихили, самое значительное преимущество агентского ИИ заключается в изменении самого подхода организаций к росту. Он говорит: «По мере масштабирования MSSP полагаться исключительно на индивидуальную экспертизу становится все труднее». Агентский ИИ вносит большую согласованность в расследования, гарантируя, что аналитики начинают с более полного понимания каждого инцидента. Мощность растет не просто потому, что людей становится больше, а потому, что каждый аналитик может работать эффективнее в рамках одной и той же операционной структуры.

Витакер считает, что эта эволюция особенно важна для южноафриканских предприятий, внедряющих облачные сервисы, гибридную работу и цифровую трансформацию на основе ИИ. Он заключает: «Кибербезопасность больше не может полагаться только на увеличение числа людей для соответствия растущему спросу. Будущее заключается в сочетании опытных специалистов по безопасности с интеллектуальной автоматизацией, которая укрепляет расследования, улучшает время реагирования и позволяет организациям безопасно масштабироваться по мере развития их цифровой среды».

В заключение, агентский ИИ предлагает практический путь для организаций в Южной Африке, сталкивающихся с растущими киберугрозами, ужесточающимися регуляторными ожиданиями и продолжающимся дефицитом навыков в области кибербезопасности, для построения более устойчивых, масштабируемых и эффективных операций по обеспечению безопасности.

Популярное