Австралийская компания использует искусственный интеллект для того, чтобы мошенники тратили время на несуществующих жертв. Компания Apate создала роботов, которые общаются с преступниками по телефону и через интернет, собирая данные о мошенничестве и затрудняя новые попытки обмана.
Эта технология также применяется в цифровых ловушках, предназначенных для привлечения хакеров. Цель состоит в том, чтобы использовать способность ИИ имитировать человеческое поведение для повышения эффективности этих оборонительных стратегий.
Apate разрабатывает эту платформу уже два года. Согласно словам Дали Каафара, основателя и генерального директора компании, система включает около 350 тысяч роботов и используется банками при поддержке телекоммуникационных компаний. Эти программы отвечают на звонки, обрабатывают текстовые сообщения и участвуют в онлайн-группах, используемых для совершения мошеннических действий. Во время общения они могут собирать сведения о преступной деятельности.
Компания утверждает, что собрала более 250 тысяч записей в режиме реального времени, включая адреса мошеннических сайтов, банковские данные и счета, используемые для незаконных переводов средств. Чтобы не вызывать подозрений, роботы принимают различные профили и модели поведения; некоторые используют WhatsApp, а другие — нет. Есть роботы, которые отвечают на звонки, и те, которые завершают разговор, заявляя о последующем обращении.
Дали Каафар заявил изданию Wired: «Мы любим думать, что создаем идеальных жертв для мошенников».
По его словам, каждая минута, потраченная преступником на разговор с роботом, может предотвратить обращение к сотням или даже тысячам людей этим же мошенником, который может применять системы автоматического набора номера.
Функционирование платформы было протестировано журналистами сайта Kernel Panic, которые пытались убедить искусственную жертву инвестировать в криптовалюту. Несмотря на то, что разговор проходил естественно, попытка потерпела неудачу: после шести минут система продолжала отклонять предложение.
Каафар отметил, что некоторые звонки длятся более двух часов. Пока мошенники пытаются убедить несуществующую жертву, они перестают обращаться к другим людям.
Однако охват этой стратегии имеет свои ограничения. Преступники совершают миллиарды звонков и отправляют миллиарды сообщений ежегодно, а некоторые операции проводятся в крупных физических центрах. Деятельность роботов сочетает в себе различные функции. Та же логика применяется в так называемых «ловушках» (honeypots) — системах, которые имитируют реальные компьютеры и сервисы для привлечения злоумышленников и наблюдения за их методами. Исследователи интегрируют большие языковые модели (LLMs) в эти ловушки, чтобы сделать их более убедительными.
В недавнем исследовании доктор наук Марк Веро из ETH Zurich и его коллеги обнаружили, что ловушки, оснащенные LLMs, удерживали агентов ИИ, используемых в атаках, дольше, чем системы с предсказуемым поведением. Веро заявил: «Атакующие агенты гораздо больше убеждаются симуляциями honeypots, созданными LLMs, и идентифицируют их как ловушки гораздо реже». По мнению исследователя, хорошо спроектированные системы могут дать преимущество тем, кто занимается защитой.
Борьба с цифровыми преступлениями также зависит от сотрудничества между правоохранительными органами, банками, телекоммуникационными компаниями и социальными сетями. Обмен информацией может помочь выявить закономерности и остановить операции, но ИИ пока не способен полностью помешать мошенникам пытаться обмануть новых жертв.