Mistral AI представила мощную модель для киберзащиты
Компания Mistral AI выпустила открытую модель Mistral Large 4 для специалистов по кибербезопасности: её веса можно скачать и запустить на собственных серверах
Модель, получившая прозвище Le Chonk, построена по схеме «смесь экспертов»: на каждый запрос работает лишь часть сети — 52 млрд из 1,05 трлн параметров. В неё также встроен кодировщик изображений на 1,6 млрд параметров, а окно контекста достигает 1 млн токенов. Публичная предварительная версия была открыта через API с 6 октября, а веса Mistral опубликовала 29 октября, через 23 дня.
По данным Mistral, модель набрала 51 % в рейтинге Artificial Analysis Cyber Index; независимые проверки этот результат пока не повторили. Её можно использовать через API Mistral либо загрузить с платформы Hugging Face и разместить на собственных серверах. Это главное в выпуске: команда безопасности, которой нельзя передавать код клиентов или данные об инцидентах третьим лицам, получает модель такого масштаба внутри своего периметра.
Mistral называет Large 4 лучшей открытой моделью для программирования и киберзащиты. Её основная задача — воспроизводить найденные уязвимости и писать для них исправления. Для тестирования на проникновение и оценки уязвимостей компания готовит специализированный вариант: он пока проходит оценку вместе с партнёром Orange Cyberdefense и, по сообщениям, будет доступен только проверенным заказчикам. Вице-президент Mistral по науке Пьер Сток признал, что, когда модель уже опубликована, «ограничить доступ к ней невозможно».
Стоимость использования через API — 1,36 доллара за миллион входных токенов, 4,18 доллара за миллион выходных, а миллион кэшированных входных токенов стоит 0,14 доллара. Для самостоятельного размещения модели на практике нужен кластер серверов с несколькими GPU: хотя на каждый запрос работают лишь 52 млрд параметров, в памяти приходится держать их все — 1,05 трлн.
Ранее по теме: Модель искусственного интеллекта Claude нашла уязвимости в популярных ОС и браузерах
Источник: Tech Insider
