Китайските компании DeepSeek и Moonshot AI са използвали отговори от GPT-6 Astra на OpenAI, за да обучат свои системи чрез дестилация. Това поставя въпроси за правата за ползване на данни и за безопасността на получените модели.
Данни от GPT-6 Astra са били прилагани при обучението на новия модел Kimi K3.1 Pro на Moonshot AI, пуснат миналата седмица, както и при обновения DeepSeek V4.1-Flash 1017, който излезе на 17 октомври, според публикация на The Information. Представители на OpenAI, DeepSeek и Moonshot AI не отговориха на запитванията за коментар от страна на агенция Ройтерс.
Какво представлява дестилацията
Дестилацията означава използване на отговори, генерирани от по-мощен модел, за да се обучи друг модел. Модел-учител създава решения на множество задачи, а модел-ученик се учи върху тези резултати, за да придобие съответни способности. Тази процедура позволява по-бързо възпроизвеждане на специфични умения без нужните за оригиналния модел големи инвестиции.
Това не означава автоматично копиране на целия модел: при дестилацията не се прехвърлят параметри, архитектура или обучителен код. По-скоро се пренасят модели на поведение, знания, подходи за решаване на задачи и характерни особености на генерираните отговори.
Спорове, рискове и регулаторни импликации
OpenAI, Anthropic и Google предупреждават, че дестилацията може да позволи на конкуренти да възпроизведат възможности на техните модели без съответните инвестиции. В публикация от 30 септември OpenAI заяви, че е идентифицирала субекти, за които се твърди, че са свързани с Moonshot AI, участвали в кампания за събиране на данни от юли.
Проблем възниква, когато процесът се осъществява без разрешение, в нарушение на условия за ползване, чрез мащабно автоматизирано извличане на отговори или чрез опити за разкриване на защитени вътрешни механизми. OpenAI описва такива опити в публикацията си от 30 септември 2026 г., като съобщава за координирана кампания, започнала през юли, при която са правени опити за извличане на защитени логически разсъждения от моделите ѝ и свързва част от дейността с лица, асоциирани с Moonshot AI.
В научната общност е обичайно изследователите да използват публикувани трудове, отворен код и публични данни, но използването на платена услуга за систематично извличане на резултати от скъп модел заобикаляне на ограниченията му е различно от тази нормална практика.
Освен правните и договорни въпроси, възниква и риск за безопасността: модел, който придобие способности без съпътстващи механизми за контрол и тестване, може да прояви по-слаба защитеност. Anthropic изрично посочва този риск в свой анализ за т.нар. дестилационни атаки.
Анализаторите прогнозират промени в конкурентните стратегии — компаниите ще трябва да пазят не само самите модели, но и начина, по който те взаимодействат с потребителите, тъй като всеки отговор може да бъде използван като обучителен материал.
Очаква се нарастващо значение на собствените модели и данни, усилия за разпознаване на подозрителни модели на употреба и мерки за ограничаване на масовото автоматизирано извличане. Натиск върху цените и бизнес-моделите също е възможен, тъй като дестилацията може да намали бариерите за създаване на способни модели.
Технологическите ограничения и санкциите досега включваха контрол върху износ на чипове, инвестиции и достъп до оборудване, но биха могли да бъдат допълнени с мерки, насочени към ограничаване на достъпа до интелектуалните възможности на AI системите. Сред възможните мерки са ограничаване на достъпа до най-мощните модели за определени държави и организации, по-строг контрол върху API достъпа и автоматизираното извличане, санкции срещу компании, обвинени в индустриализирано извличане, както и ограничаване на достъпа до облачни услуги за санкционирани организации.
На 8 септември 2026 г. CISA, NSA и FBI публикуваха съвместно предупреждение, в което обвиниха редица китайски AI компании, включително DeepSeek и Moonshot AI, в мащабни кампании за извличане на способности от американски модели. Американските агенции препоръчват координирани защитни мерки и обмен на информация между разработчиците.
КОМЕНТАРИ (0)