Mistral AI предоставила веса Large 4, модели искусственного интеллекта с триллионом параметров. Эту модель можно загрузить и использовать правительствами и компаниями в своих собственных системах. Этот ИИ, известный как «Le Chonk», был разработан для помощи в различных функциях, таких как выявление ошибок в программном обеспечении, анализ цифровых угроз и поддержка реагирования на кибератаки.
Запуск состоялся в этот четверг (29 число) и закрепляет стратегию французской компании по продвижению моделей с открытыми весами, что обеспечивает больший контроль над технологией. Файлы доступны на Hugging Face, а инструмент также может использоваться через API Mistral.
Эта инициатива направлена на снижение зависимости от сервисов ИИ, управляемых внешними провайдерами. Это особенно важно для организаций, работающих с конфиденциальными данными и нуждающихся в расследовании инцидентов безопасности без передачи своей информации на сторонние платформы.
Кибербезопасность является одним из столпов этого запуска. Large 4 был создан для поддержки технических команд в поиске уязвимостей, воспроизведении ошибок для подтверждения их подлинности и генерации исправлений для обнаруженных проблем.
По данным Mistral, модель получила оценку в 82% в тесте, проведенном Artificial Analysis Cyber Index. Этот индекс оценивает способность модели воспроизводить реальную уязвимость в программном обеспечении с открытым исходным кодом, а затем исправлять ее. Кроме того, компания сообщает, что ИИ решил 93% задач Cybench — набора из 40 упражнений, вдохновленных соревнованиями по цифровой безопасности.
Эти результаты публикуются самой разработчиком и должны анализироваться с учетом специфических обстоятельств каждой оценки. Помимо обнаружения ошибок, Mistral указывает на использование модели для анализа вредоносного ПО, приоритизации уязвимостей и разработки правил для выявления угроз.
Компания также подчеркнула производительность модели в программировании. В Coding Agent Index от Artificial Analysis Large 4 показал комбинированный балл 49,8%, согласно данным разработчика. Mistral утверждает, что это достижение ставит его в авангарде других моделей с открытыми весами в задачах программирования, выполняемых агентами ИИ.
Веса относятся к числовым значениям, полученным в процессе обучения, которые позволяют модели генерировать свои ответы. Выпуская эти файлы, организации получают возможность запускать Large 4 в собственной инфраструктуре, вместо того чтобы полагаться исключительно на внешний сервис. Это обеспечивает большую автономию в отношении данных, конфигурации инструмента и принятых мер безопасности. В критических сценариях, например, корпорация может использовать модель для расследования атаки, не будучи зависимой от доступности или ограничений стороннего API.
В беседе с TechCrunch вице-президент Mistral по науке Пьер Сток заявил, что предоставление весов позволяет компаниям и правительствам получать доступ к передовым возможностям ИИ для защиты от атак. По словам руководителя, модель может помогать в выявлении, координации и реагировании на крупные инциденты безопасности в режиме реального времени. Он также выступил за расширение доступа к этим возможностям для укрепления экосистемы цифровой защиты.
Эта стратегия ставит Mistral в конкуренцию с другими компаниями, такими как OpenAI и Anthropic, чьи более сложные модели преимущественно предлагаются через сервисы, контролируемые самими разработчиками. Однако свобода запуска модели без зависимости от внешнего поставщика имеет недостаток: после выпуска весов становится сложнее отслеживать, кто использует технологию и для каких целей.
Та же функциональность анализа уязвимостей, которая помогает командам безопасности, может представлять интерес для злоумышленников, стремящихся использовать слабости в системах. Более того, независимая эксплуатация позволяет организациям настраивать модель под свои нужды, но подразумевает, что ограничения, наложенные в размещенном сервисе, не всегда применяются ко всем модифицированным версиям.
Сток признал присущие риски развития ИИ и автономных агентов, но утверждал, что нет необходимости усиливать опасения по поводу технологии, поскольку безопасность — это проблема, которую можно решить. Mistral утверждает, что Large 4 был специально разработан для укрепления киберзащиты, обладая способностью выполнять технические задачи, которые более ограничительные системы могли бы отклонить, даже при законном расследовании безопасности.
С этим выпуском компания расширяет свой набор передовых моделей, которые могут быть внедрены и настроены самими пользователями. Главная задача заключается в поиске баланса между предоставлением доступа к мощным инструментам цифровой защиты и управлением опасностями их ненадлежащего использования.