Mistral пусна за свободно изтегляне и модификация отворените тегла на своя модел Mistral Large 4 („Le Chonk“), като това дава възможност на организации да го изпълняват извън контрола на разработчика, но поставя върху тях отговорности за сигурността и съответствието.
Mоделът с трилиони параметри е достъпен за локален хостинг и донастройване под модифициран лиценз MIT; Mistral предлага и управляван API за тези, които предпочитат да не го държат в собствена инфраструктура.
Защитни мерки и ограничения при локален хостинг
Mistral посочва, че моделът се доставя с вградени предпазни мерки, но последващите актуализации на тези механизми няма да се приложат автоматично към вече изтеглените копия. Пиер Сток, вицепрезидент по науката в Mistral, каза: „Последващите актуализации на предпазните мерки се прилагат към нашия управляван API и бъдещите издания на модела, вместо автоматично да се актуализират изтеглените контролни точки“.
Компанията също така отбелязва, че наблюденията ѝ показват възможност за използване при задачи, свързани с киберсигурността — например за идентифициране, възпроизвеждане и отстраняване на софтуерни уязвимости. „Въпреки че наблюдавахме, че моделът отказва да се съобразява с атаки от типа „черна кутия“ срещу реални цели, виждаме потенциал за повишаване на нивото на защита за провеждане на реални атаки“, пише Mistral.
Сток допълва: „Докато нашият публичен мониторинг на предварителния преглед показа, че моделът отказва атаки срещу живи цели, ние разпознаваме потенциала за злоупотреба с развитието на възможностите и непрекъснато укрепваме нашите предпазни мерки“.
Рискът от отворените тегла и оценките
Хостингът на отворени тегла позволява на потребителя да контролира и политиката за използване, и внедряването, посочват оператори на платформи за модели с отворени тегла.
Институтът за сигурност на изкуствения интелект в Обединеното кралство отбеляза, че водещите модели с отворени тегла изостават от затворените „гранични“ модели в киберзадачите с четири до седем месеца и че публичното им предоставяне може да създаде „постоянен и необратим риск от злонамерена употреба“ при високо способни модели.
Mistral твърди, че Large 4 е отхвърлил 96,6% от злонамерените заявки в киберсекторните раздели на бенчмарковете JailbreakBench, StrongREJECT и AgentHarm – най-високият регистриран сред моделите с отворен достъп. Нияти Дафтари, главен анализатор в Gartner, предупреждава за ограничената приложимост на този резултат: „Показателят от 96,6% на Mistral показва как моделът се представя в техния конкретен тестов сценарий, но не и как ще реагира при работа с вашите данни, при специфични ваши сценарии на злонамерена употреба или в реална работна среда, изправен пред мотивирани нападатели“.
Бенчмаркове и регулаторни изисквания
Mistral съобщава, че моделът е постигнал 51% в индекса Artificial Analysis Cyber Index, който измерва способността да открива, възпроизвежда и коригира уязвимости; графика в компанията показва, че DeepSeek V4.1 Flash и MiMo-V2.6-Pro са постигнали по-високи резултати.
Според оценките на компанията Large 4 е и водещ модел с отворени тегла в програмирането въз основа на бенчмарк резултати във FrontierCode 2.0 и Terminal-Bench 4.0 на Cognition; техническият доклад за тези резултати предстои да бъде публикуван.
ENISA заяви, че тества модела за откриване на уязвимости, одит на код и анализ на логове, свързани със сигурността. Европейската комисия третира модели, обучени с над 10^25 FLOPs, като потенциален системен риск и изисква доставчиците да оценяват и смекчават тези рискове, да докладват сериозни инциденти и да поддържат мерки за киберсигурност; Mistral не е уточнила дали Large 4 попада в тази категория.
Какво означава това за предприятията
Моделът се предлага под модифициран лиценз MIT, който разрешава използване, промяна, донастройване и комерсиализация; фирми, които искат да предлагат модела като услуга (model-as-a-service), се нуждаят от отделен лиценз. Mistral предлага и управляван API с цена 0,70 долара за един милион входни токени и 2,10 долара за един милион изходни токени.
Компанията посочва, че технологичният суверенитет е важен за европейските клиенти, но не бива да бъде за сметка на сигурността. При модели с отворени тегла, които се хостват самостоятелно, отговорността за въвеждането на предпазни механизми, контрол на достъпа, мониторинг и предотвратяване на злоупотреби пада върху самия оператор.
Дафтари препоръчва предприятията да използват Large 4 като контролиран компонент при одит на код или анализ на уязвимости, а не като автономен агент. Това означава изолирани среди, достъп до код и идентификационни данни въз основа на принципа за минимални привилегии, изпълнение на генерирания код в изолирана среда (т.нар. „пясъчник“), както и одобрение от човек, преди да се предприемат каквито и да е коригиращи действия.
КОМЕНТАРИ (0)