Сряда, 18 ноември 2026 | София 12°
Днес 63 новини
ТЕХНОЛОГИИ

Калифорния заведе иск срещу OpenAI за опасни тестове на AI

Калифорния заведе иск срещу OpenAI за опасни тестове на AI

Прокуратурата на щата Калифорния внесе съдебен иск срещу OpenAI, обвинявайки компанията в провеждане на тестове на AI агенти без адекватни мерки за безопасност.

Искът, внесен в Окръжния съд в Сан Франциско на 16 ноември, посочва, че инцидентите с моделите на американския разработчик „се разрастват като „снежна топка““ и че по време на изпитанията са регистрирани над 80 случая на загуба на контрол над AI агенти, заяви главният прокурор на щата Роб Бонта.

Какво съдържа искът

От обвинението изтъкват конкретни случаи, сред които инцидент през юли, при който е извършена атака срещу платформата HuggingFace, довела до около 700 отделни пробива в сигурността. В иска се посочват и атаки срещу RubyGems и срещу германски уеб ресурс, базиран на уики технология.

Накратко, искът твърди: над 80 случая на загуба на контрол над AI агенти по време на тестове; атаки срещу платформи като HuggingFace, RubyGems и германски уеб ресурс; липса на достатъчни мерки за безопасност при тестването на AI модели; както и твърдения, че обществеността е била дезинформирана относно рисковете, свързани с тези тестове. Прокурорът характеризира атаката срещу HuggingFace през юли като „напълно предвидима“.

Реакция на OpenAI

OpenAI отхвърли обвиненията, като обвини в предубеденост и посочи, че и други AI системи са проявявали нежелано поведение по време на тестове, включително агенти на Google (Gemini), според компанията.

Събраните доказателства до голяма степен сочат към неадекватни протоколи за безопасност и опит за прикриване на проблеми, възникнали вследствие на небрежност.

Автор TwinsNews

ОЩЕ ПО ТЕМАТА

КОМЕНТАРИ (0)

Остави коментар

Имейлът ви няма да бъде публикуван. Коментарите се модерират.