Групата за разследване на кибератаки Google Threat Intelligence Group (GTIG) за първи път е регистрирала заплаха, при която изкуствен интелект изпълнява целия процес на откриване и експлоатация без човешка намеса.
Наблюдението според GTIG променя традиционния жизнен цикъл на кибератаките, като съкращава времето и ресурсите, нужни за превръщането на публикуван пач в работещ експлойт.
Как работи автономният AI агент
GTIG описва решение, базирано на голям езиков модел, наречено exploit_agent, което е било настроено с инструменти на руски език. Агентът сравнява непрекъснато код преди и след прилагането на корекция за сигурност, открива нововъведенията и автоматично разработва експлойти — без човешка намеса.
По този начин процесът от откриване на потенциална уязвимост до генериране на експлойт се ускорява значително спрямо традиционните методи, които изискват квалифицирани оператори за анализ и писане на експлойти.
Открити инструменти и практики
В доклада се посочва, че нападателите вече използват AI агенти с отворен код по време на реални прониквания. GTIG е наблюдавала субекти, мотивирани от финансова изгода или кибершпионаж, които прилагат инструменти за тестване за проникване, базирани на AI агенти като CAIRN, PentAGI и CyberStrikeAI, за да автоматизират отделни етапи от атаките.
Освен директно генериране на експлойти, изкуственият интелект се използва и за разрастване и придаване на автентичност на кампании за чуждестранно влияние. Подкрепяни от държави групи и комерсиални доставчици от типа „влияние като услуга“ използват големи езикови модели за създаване на автоматизирани работни процеси, изграждане на инфраструктура и избягване на засичане.
Примери за целенасочена злоупотреба
В един описан случай участници са използвали API на Gemini за изграждане на платформи, управляващи над 100 000 синтетични акаунта чрез облачни „телефонни ферми“. Тези платформи включват функции, които имитират дефекти на камерите на смартфони, за да направят генерираното съдържание по-автентично.
GTIG е засякла и дейност, свързана със субекти, свързани с Китай, които използват големи езикови модели за обработка на откраднати данни в разузнавателни продукти. Организацията е проследила и кампании, свързани със Северна Корея, насочени към компании в крипто сектора, при които са използвани AI-генерирани самоличности — някои съдържащи водни знаци SynthID — както и опити за манипулиране на конфигурацията на автономни асистенти за писане на програмен код.
Накрая GTIG описва как Google е открила и преустановила злоупотребите с услугите Gemini: компанията е деактивирала свързаните акаунти и е засилила защитните механизми въз основа на констатациите.
КОМЕНТАРИ (0)