Искусственный интеллект помог исследователям обнаружить критическую уязвимость в Java, языке программирования, который используется в системах примерно 90% компаний из списка Fortune 500. Эта уязвимость, получившая название Java4Shell, потенциально позволяет злоумышленникам получить несанкционированный удаленный доступ к внутренним системам.
Обнаружение было объявлено во вторник (17) компанией Calif, стартапом в области кибербезопасности, которая использовала модель GPT-6 Cyber от OpenAI, предназначенную для исследований в сфере цифровой безопасности. По данным компании, уязвимость была найдена в декодере Base64 Java, компоненте, отвечающем за преобразование определенных бинарных данных в текст.
Проблема привлекла внимание из-за ее потенциального масштаба. Java применяется в банках, больницах, авиакомпаниях, технологических компаниях и государственных учреждениях, включая структуры, связанные с национальной безопасностью. Bruce Dang, старший исследователь Calif, заявил, что «Java является бьющимся сердцем современной экономики», и предположил, что практически все крупные компании пострадают от этой уязвимости.
Это открытие также подчеркивает сдвиг в секторе цифровой безопасности: инструменты ИИ ускоряют выявление ошибок в программном обеспечении, темп которого может затруднить работу специалистов по защите этих систем.
Компания Calif в последние дни работала над согласованием раскрытия информации об уязвимости с правительствами и технологическими компаниями. Эти усилия затронули страны, входящие в альянс по обмену разведданными Five Eyes: Соединенные Штаты, Канада, Австралия, Новая Зеландия и Великобритания. Компании, такие как Google и Microsoft, также были уведомлены. Oracle, владеющая брендом Java и предоставляющая коммерческие лицензии на язык, выпустила обновление безопасности во вторник.
Агентство по кибербезопасности и инфраструктуре США (CISA) также опубликовало предупреждение с рекомендацией немедленно установить исправление для организаций. Google заявила, что после получения информации об уязвимости внедрила защитные меры и обновления в свои сервисы, а также разработала механизмы обнаружения для проверки эксплуатации ошибки и опубликовала руководства для клиентов.
Неясно, связана ли временная перебои в работе сети Агентства национальной безопасности США (NSA) во вторник с исправлением проблемы. Издание The Times сообщило, что агентство не ответило на запрос о комментарии по этому вопросу.
Это открытие стало второй крупной уязвимостью, выявленной Calif при помощи моделей OpenAI за последние недели. В прошлом месяце стартап обнаружил серьезные недостатки в PHP, языке программирования, который используется примерно в 70% веб-сайтов и приложений в интернете. Этот инцидент вызвал международную мобилизацию для исправления уязвимых систем до того, как преступники смогли бы их использовать.
В тот раз государственные органы, включая NSA, рекомендовали компаниям вывести сайты из работы, если они не могли немедленно установить необходимые исправления. Несмотря на первоначальную обеспокоенность, последствия оказались менее серьезными, чем прогнозировалось, поскольку хакерам не удавалось легко воспроизвести метод атаки.
Различие заключается в том, что Java присутствует на более широком уровне цифровой инфраструктуры. Помимо обычных приложений, этот язык поддерживает облачные вычислительные сервисы, системы идентификации и аутентификации, а также почтовые платформы.
Thai Duong, исполнительный директор Calif, отметил, что уязвимость не так проста для превращения в атаку, что дает компаниям и разработчикам больше времени для установки исправлений. Тем не менее, он предупредил, что подобные ошибки могут оставаться угрозой годами; системы, которые не получат обновлений в течение следующих пяти-десяти лет, могут оставаться подверженными этой проблеме.
Этот случай также демонстрирует, как ИИ меняет динамику кибербезопасности. Продвинутые модели помогают исследователям находить проблемы в коде и разрабатывать демонстрации эксплойтов за гораздо меньший срок, чем требовалось ранее. Это может помочь оборонительным командам выявлять уязвимости раньше, чем это сделают преступники. С другой стороны, те же инструменты могут снизить усилия, необходимые для создания сложных цифровых атак.
Технический директор Национального центра кибербезопасности Великобритании, Ollie Whitehouse, заявил, что ИИ уже используется для обнаружения растущего числа уязвимостей в программном обеспечении и цифровых сервисах. Однако существует опасение, что технология также облегчает деятельность злоумышленников. На этой неделе ФБР выпустило предупреждение о хакерах, которые якобы используют автономные инструменты ИИ для атаки на государственные органы и компании в разных странах.
Fouad Matin, ответственный за подготовку и кибербезопасность в OpenAI, заявил, что исследование Calif показывает, как ИИ может помочь специалистам находить серьезные ошибки в программном обеспечении, используемом миллионами людей. Он добавил, что сотрудничество между исследователями и разработчиками может сделать критически важные системы более безопасными.
Прогресс ИИ в кибербезопасности напоминает прогноз чемпиона мира по шахматам Гарри Каспарова после поражения от компьютера Deep Blue от IBM почти 30 лет назад. Тогда Каспаров предполагал, что лучшие партии будут проходить в комбинации человека и компьютера, концепция, известная как центAUR, в честь мифологического существа, сочетающего человека и лошадь. Годами игроки, сочетавшие человеческие способности и вычислительную мощность, считались сильнейшими в шахматах. Теперь та же идея начинает проявляться в цифровой безопасности, где исследователи и инструменты ИИ работают вместе для поиска и эксплуатации уязвимостей.
Calif и другие команды уже продемонстрировали, что небольшие группы экспертов могут разработать атаки, которые раньше требовали месяцев работы больших высокоспециализированных команд хакеров, всего за часы или дни. По мнению Thai Duong, исполнительного директора стартапа, возможно, скоро ИИ сможет самостоятельно разрабатывать сложные атаки. «Я не знаю, сколько у нас времени — может быть, три месяца, может быть, три года. Но на данный момент лучший хакер — это хакер-центAUR», — заявил он изданию The Times.