Стартап обнаружил критическую уязвимость в Java с помощью искусственного интеллекта
Подробнее
Tecnoblog
tecnoblog.net

Стартап обнаружил критическую уязвимость в Java с помощью искусственного интеллекта

Компания по кибербезопасности обнаружила критическую уязвимость в Java, которая может позволить злоумышленникам выполнять удаленный код и захватывать контроль над системами предприятий, банков и государственных учреждений. Эта уязвимость получила название Java4Shell (CVE-2026-114938).

Открытие было достигнуто благодаря использованию искусственного интеллекта, а именно модели GPT-6 Cyber от OpenAI. В техническом отчете исследователю Куан Луонгу также была описана работа агента Codex. Компания утверждает, что поиск уязвимости занял около часа, а разработка первой функциональной эксплойта — еще два часа, при этом затраты на использование ИИ составили менее 200 долларов США.

Проблема кроется в декодере Base64 в OpenJDK. Этот инструмент используется для преобразования закодированной информации в ее исходный вид, что является стандартной практикой при аутентификации, передаче файлов и межсистемной коммуникации. По данным Calif, определенная последовательность из 64 букв «A», за которой следует знак равенства, может активировать эту уязвимость на определенных установках.

Ошибка связана с оптимизацией, использующей специфические инструкции процессора для ускорения процесса декодирования. Эта недоработка потенциально может вызвать зависания, утечку данных и, в некоторых случаях, позволить удаленное выполнение кода. Calif продемонстрировала эксплойты в таких приложениях, как Keycloak, Atlassian Jira, Confluence, Jenkins и JFrog Artifactory.

Важно отметить, что уязвимость не затрагивает все компьютеры с Java; она влияет только на конкретные версии OpenJDK, работающие на процессорах x86-64, совместимых с AVX-512 VBMI. Системы с процессорами ARM64 не считаются затронутыми.

Это открытие расширяет ряд уязвимостей, выявленных при помощи ИИ. Ранее в октябре та же компания Calif участвовала в обнаружении проблем в PHP, которые затронули государственные серверы и сервисы.

Oracle выпустила обновление безопасности во вторник (17/11) для устранения этой уязвимости, классифицировав ее как высокоприоритетную. Агентство по кибербезопасности и инфраструктуре США (CISA) рекомендовало организациям незамедлительно устанавливать доступные исправления. Предупреждение также советует администраторам идентифицировать уязвимые версии Java, включая те, что интегрированы в сторонние приложения.

Власти Германии и Нидерландов сообщили, что до среды (18/11) не было зарегистрировано известных успешных атак с использованием данной уязвимости, однако это не исключает риска, поскольку технические детали уже стали общедоступными.

Похожие сюжеты

Глава SBI предупреждает о рисках системных сбоев в финансовых учреждениях из-за ошибок ИИ
Подробнее
business-standard.com

Глава SBI предупреждает о рисках системных сбоев в финансовых учреждениях из-за ошибок ИИ

Ошибки, связанные с искусственным интеллектом (ИИ), могут вызвать каскадные сбои в взаимосвязанных системах, создавая серьезные проблемы управления для финансовых организаций. Глава Государственного банка Индии (SBI) Ц. С. Сетти заявил в четверг, что для предотвращения системных рисков банки должны усилить управление ИИ путем установления четких разрешений, лимитов транзакций, аудиторских следов и механизмов человеческого контроля, поскольку банки все чаще внедряют автономные системы.

Сетти отметил, что, хотя возможности ИИ обеспечивают значительный прирост производительности, они также порождают новые риски в области управления. Он подчеркнул, что учреждения должны предельно ясно понимать, какие действия авторизована выполнять автономная система, к какой информации она может получить доступ, какие решения может принимать и в каких случаях требуется вмешательство человека.

Важные обязанности советов директоров

В этом контексте Сетти акцентировал внимание на ключевых обязанностях советов директоров, включая обеспечение того, чтобы внедрение искусственного интеллекта было обусловлено целями самой организации, а не просто технологическим импульсом. По его словам, технологии должны решать реальные бизнес-задачи, будь то улучшение клиентского опыта, укрепление управления рисками или расширение доступа к финансовым услугам.

Он добавил, что внедрение не должно становиться самоцелью, что особенно важно в такой разнообразной стране, как Индия. Сетти предостерег, что ИИ не должен непреднамеренно исключать сельских заемщиков, малый бизнес или лиц без традиционной кредитной истории, настаивая на том, что финансовая доступность должна оставаться центральным элементом при разработке и применении этой технологии.

Касаясь рамок управления, Сетти сообщил, что SBI стал первым банком в банковской системе, который принял политику ответственного ИИ, определяющую принципы, границы и ответственность за использование данной технологии в рамках организации.

Он посоветовал директорам банков развивать компетенции для оценки рисков моделей, управления данными, кибербезопасности и алгоритмической предвзятости, одновременно понимая ограничения ИИ. Сетти сравнил это с ежегодными учениями по кибербезопасности, которые ожидаются от каждого совета директоров, и предложил интегрировать обучение по ИИ в этот процесс, подчеркнув, что директора должны понимать риски ИИ, а не обязательно знать, как его внедрять.

Сетти также упомянул политику Резервного банка Индии в отношении ИИ, согласно которой конечная ответственность за управление ИИ лежит на совете директоров. При этом он отметил, что ИИ может повысить эффективность совета, выявляя возникающие риски, упрощая сложную информацию и поддерживая принятие более обоснованных решений, позволяя директорам уделять больше внимания стратегии и долгосрочным приоритетам.

Необходимость сохранения человеческой ответственности

Подчеркивая важность сохранения человеческой подотчетности, Сетти заявил, что ИИ может рекомендовать или выполнять действия, однако окончательная ответственность за институциональные решения всегда должна оставаться за советом директоров. Он указал на серьезные проблемы управления, с которыми столкнется учреждение, если оно не сможет должным образом объяснить, почему процесс, основанный на ИИ, отказал в кредите, пометил транзакцию или инициировал какое-либо действие, тем самым подчеркнув важность объяснимости, прослеживаемости и независимой проверки.

Он добавил, что ИИ наиболее эффективен в ситуациях, где можно определить параметры, доступны соответствующие данные и возможна оценка результатов. Однако во время кризисов, неожиданных изменений в операционной среде или стратегических решений, связанных с незнакомыми обстоятельствами, коллективный опыт и независимое суждение совета остаются незаменимыми.

Сетти заключил, что темпы внедрения ИИ должны соответствовать способности учреждения управлять этой технологией, особенно когда решения имеют значительные финансовые, юридические, этические или репутационные последствия. Он отметил, что корпоративное управление испытывает особое напряжение, когда скорость технологических изменений превышает существующие рамки регулирования. Поэтому советы директоров должны гарантировать, что инновации продвигаются без ущерба для целостности учреждения и общественного доверия.

Он подчеркнул, что ИИ должен дополнять, а не заменять суждения и надзор советов директоров, усиливая их способность выполнять свои обязанности, при этом оставляя ответственность там, где она должна находиться. Глава крупнейшего кредитора страны отметил, что его банк использовал искусственный интеллект и машинное обучение, в частности, для управления рисками мошенничества и операционной деятельности. Среди инициатив — запатентованная модель ИИ и машинного обучения, которая определяет филиалы, являющиеся выбросами с точки зрения управления мошенничеством. Эта модель оценивает около 23 000 филиалов, классифицируя их по категориям очень высокого, высокого, среднего и низкого риска. Такая оценка помогает банку приоритизировать аудиты филиалов.

Тем не менее, Сетти сообщил, что фокус теперь смещается от отдельных сценариев использования ИИ к общекорпоративному внедрению, где управление станет особенно важным для крупных учреждений. Он определил справедливость, надежность, объяснимость, безопасность и подотчетность как критически важные элементы управления ИИ. Он также отметил, что предвзятость модели — это не просто теоретическая проблема для такого банка, как SBI, обслуживающего высокодиверсифицированную клиентскую базу, и что «справедливость и предотвращение предвзятости модели чрезвычайно важны с точки зрения управления».

Искусственный интеллект OpenAI обнаружил критическую уязвимость в Java, способную предоставить доступ хакерам
Подробнее
olhardigital.com.br

Искусственный интеллект OpenAI обнаружил критическую уязвимость в Java, способную предоставить доступ хакерам

Искусственный интеллект помог исследователям обнаружить критическую уязвимость в Java, языке программирования, который используется в системах примерно 90% компаний из списка Fortune 500. Эта уязвимость, получившая название Java4Shell, потенциально позволяет злоумышленникам получить несанкционированный удаленный доступ к внутренним системам.

Обнаружение было объявлено во вторник (17) компанией Calif, стартапом в области кибербезопасности, которая использовала модель GPT-6 Cyber от OpenAI, предназначенную для исследований в сфере цифровой безопасности. По данным компании, уязвимость была найдена в декодере Base64 Java, компоненте, отвечающем за преобразование определенных бинарных данных в текст.

Проблема привлекла внимание из-за ее потенциального масштаба. Java применяется в банках, больницах, авиакомпаниях, технологических компаниях и государственных учреждениях, включая структуры, связанные с национальной безопасностью. Bruce Dang, старший исследователь Calif, заявил, что «Java является бьющимся сердцем современной экономики», и предположил, что практически все крупные компании пострадают от этой уязвимости.

Это открытие также подчеркивает сдвиг в секторе цифровой безопасности: инструменты ИИ ускоряют выявление ошибок в программном обеспечении, темп которого может затруднить работу специалистов по защите этих систем.

Компания Calif в последние дни работала над согласованием раскрытия информации об уязвимости с правительствами и технологическими компаниями. Эти усилия затронули страны, входящие в альянс по обмену разведданными Five Eyes: Соединенные Штаты, Канада, Австралия, Новая Зеландия и Великобритания. Компании, такие как Google и Microsoft, также были уведомлены. Oracle, владеющая брендом Java и предоставляющая коммерческие лицензии на язык, выпустила обновление безопасности во вторник.

Агентство по кибербезопасности и инфраструктуре США (CISA) также опубликовало предупреждение с рекомендацией немедленно установить исправление для организаций. Google заявила, что после получения информации об уязвимости внедрила защитные меры и обновления в свои сервисы, а также разработала механизмы обнаружения для проверки эксплуатации ошибки и опубликовала руководства для клиентов.

Неясно, связана ли временная перебои в работе сети Агентства национальной безопасности США (NSA) во вторник с исправлением проблемы. Издание The Times сообщило, что агентство не ответило на запрос о комментарии по этому вопросу.

Это открытие стало второй крупной уязвимостью, выявленной Calif при помощи моделей OpenAI за последние недели. В прошлом месяце стартап обнаружил серьезные недостатки в PHP, языке программирования, который используется примерно в 70% веб-сайтов и приложений в интернете. Этот инцидент вызвал международную мобилизацию для исправления уязвимых систем до того, как преступники смогли бы их использовать.

В тот раз государственные органы, включая NSA, рекомендовали компаниям вывести сайты из работы, если они не могли немедленно установить необходимые исправления. Несмотря на первоначальную обеспокоенность, последствия оказались менее серьезными, чем прогнозировалось, поскольку хакерам не удавалось легко воспроизвести метод атаки.

Различие заключается в том, что Java присутствует на более широком уровне цифровой инфраструктуры. Помимо обычных приложений, этот язык поддерживает облачные вычислительные сервисы, системы идентификации и аутентификации, а также почтовые платформы.

Thai Duong, исполнительный директор Calif, отметил, что уязвимость не так проста для превращения в атаку, что дает компаниям и разработчикам больше времени для установки исправлений. Тем не менее, он предупредил, что подобные ошибки могут оставаться угрозой годами; системы, которые не получат обновлений в течение следующих пяти-десяти лет, могут оставаться подверженными этой проблеме.

Этот случай также демонстрирует, как ИИ меняет динамику кибербезопасности. Продвинутые модели помогают исследователям находить проблемы в коде и разрабатывать демонстрации эксплойтов за гораздо меньший срок, чем требовалось ранее. Это может помочь оборонительным командам выявлять уязвимости раньше, чем это сделают преступники. С другой стороны, те же инструменты могут снизить усилия, необходимые для создания сложных цифровых атак.

Технический директор Национального центра кибербезопасности Великобритании, Ollie Whitehouse, заявил, что ИИ уже используется для обнаружения растущего числа уязвимостей в программном обеспечении и цифровых сервисах. Однако существует опасение, что технология также облегчает деятельность злоумышленников. На этой неделе ФБР выпустило предупреждение о хакерах, которые якобы используют автономные инструменты ИИ для атаки на государственные органы и компании в разных странах.

Fouad Matin, ответственный за подготовку и кибербезопасность в OpenAI, заявил, что исследование Calif показывает, как ИИ может помочь специалистам находить серьезные ошибки в программном обеспечении, используемом миллионами людей. Он добавил, что сотрудничество между исследователями и разработчиками может сделать критически важные системы более безопасными.

Прогресс ИИ в кибербезопасности напоминает прогноз чемпиона мира по шахматам Гарри Каспарова после поражения от компьютера Deep Blue от IBM почти 30 лет назад. Тогда Каспаров предполагал, что лучшие партии будут проходить в комбинации человека и компьютера, концепция, известная как центAUR, в честь мифологического существа, сочетающего человека и лошадь. Годами игроки, сочетавшие человеческие способности и вычислительную мощность, считались сильнейшими в шахматах. Теперь та же идея начинает проявляться в цифровой безопасности, где исследователи и инструменты ИИ работают вместе для поиска и эксплуатации уязвимостей.

Calif и другие команды уже продемонстрировали, что небольшие группы экспертов могут разработать атаки, которые раньше требовали месяцев работы больших высокоспециализированных команд хакеров, всего за часы или дни. По мнению Thai Duong, исполнительного директора стартапа, возможно, скоро ИИ сможет самостоятельно разрабатывать сложные атаки. «Я не знаю, сколько у нас времени — может быть, три месяца, может быть, три года. Но на данный момент лучший хакер — это хакер-центAUR», — заявил он изданию The Times.

Искусственный интеллект ускоряет кибератаки и увеличивает количество инцидентов в компаниях
Подробнее
olhardigital.com.br

Искусственный интеллект ускоряет кибератаки и увеличивает количество инцидентов в компаниях

Прогресс в области искусственного интеллекта (ИИ) совпадает с ростом числа киберинцидентов, о чем свидетельствуют данные страховой компании Marsh. Эта технология ускоряет темп и масштаб атак, создавая новые проблемы как для компаний, так и для страховых организаций.

За последние две недели октября клиенты Marsh сообщили о 105 киберинцидентах. Этот объем более чем вдвое превышает 48 случаев, зарегистрированных за последние две недели мая.

В интервью Reuters на этой неделе Meredith Schnur, ответственная за практику киберрисков Marsh Risk в США и Канаде, отметила признаки того, что злоумышленники используют инструменты ИИ для поиска уязвимостей в системах.

«Есть признаки того, что злоумышленники используют инструменты, основанные на ИИ и агентские инструменты для выявления уязвимостей. Поэтому я бы сказала, что мы можем отнести значительное число этих инцидентов на счет ИИ», — заявила руководительница.

Среди эксплуатируемых недостатков — программное обеспечение без обновлений безопасности, открытые системы и слабые механизмы идентификации. Искусственный интеллект позволяет преступникам находить и использовать эти уязвимости гораздо быстрее.

Популяризация таких инструментов также облегчает расширение преступной деятельности при меньших затратах, увеличивая потенциальное число целей. По мнению Schnur, это движение, в сочетании с медленной реакцией организаций на атаки и инциденты, объясняет значительную часть недавнего роста регистрации.

«ИИ сам по себе не является угрозой; это усиление риска во всех областях», — подчеркнула руководительница.

Увеличение частоты атак также должно стимулировать рынок страхования цифровых рисков. Согласно прогнозам GlobalData, премии по киберстрахованию — суммы, которые компании платят за полисы — должны расти в мире более быстро в ближайшие два года, следуя за возросшей частотой атак.

Консалтинговая фирма прогнозирует, что мировой рынок вырастет на 6,9% в 2026 году, достигнув 16,6 миллиардов долларов США (около 94,62 миллиардов бразильских реалов). В 2027 году рост должен достигнуть 10%, увеличив объем до 18,3 миллиардов долларов США (примерно 104,31 миллиарда бразильских реалов).

Популярное