Shadow AI — използването на AI инструменти без видимост и одобрение от организацията — носи риск от изтичане на данни, погрешни препоръки и неуправлявани права за достъп.
Когато служител използва външен AI инструмент за обобщение на документ, редакция на писмо или намиране на грешка в код, удобството често прикрива въпроса къде точно отива информацията и при какви условия ще бъде обработена. Ако заявката съдържа лични или чувствителни служебни данни, последствията могат да надхвърлят локалната задача.
Какви са ключовите рискове
Най-непосредствената заплаха е разкриването на информация: данни могат да бъдат въведени в заявка, прикачени като файл или предоставени чрез интеграция с корпоративно хранилище. Дали това е допустимо зависи от чувствителността им, условията на доставчика, настройките за съхранение и контрола върху достъпа.
Отделно, отговорите на AI могат да изглеждат убедителни, но да съдържат грешки, измислени източници или неподходящи технически препоръки — с последствия при подготовка на код, правни документи или управленски решения. При AI агенти рискът се увеличава: когато системите имат достъп до поща, файлове или бизнес приложения, те не само обработват информация, но и могат да изпълняват действия.
Prompt injection възниква, когато злонамерени инструкции са в съдържание, което AI трябва да прочете — уебстраница, документ, имейл или външен резултат. Ако системата приеме това съдържание за инструкция, поведението ѝ може да бъде отклонено; примерен сценарий е AI асистент с достъп до корпоративна поща, който изпраща вътрешна информация на външен адрес вследствие на скрита инструкция.
Конкретни инциденти и откъде идва поуката
През пролетта на 2023 г. медии съобщиха, че служители на Samsung са въвели чувствителен изходен код и работна информация в ChatGPT; впоследствие компанията ограничи използването на генеративни AI инструменти на служебни устройства. Това илюстрира как лесна задача може да доведе до предоставяне на служебна информация на външна услуга.
Друг инцидент от 2023 г. показва важността на правилното управление на достъпите в AI инфраструктурата: изследователи на Wiz откриха, че публикуван в GitHub адрес с прекомерно разрешителен Azure Shared Access Signature (SAS) токен е позволил достъп до приблизително 38 TB вътрешни данни, свързани с Microsoft AI изследвания. Microsoft потвърди експозицията и посочи, че клиентски данни не са засегнати.
Откриване и контрол
Традиционните средства като защитни стени, EDR и SIEM остават важни, но връзките към AI услуги често преминават през обичаен HTTPS трафик и могат да изглеждат легитимни. Дори когато мрежовите журнали показват използвана услуга, те не винаги показват каква информация е изпратена. Освен това AI функции могат да бъдат вградени в приложения, които организацията вече е разрешила.
Една технология трудно дава пълна картина сама по себе си. Полезно е да се съпоставят DNS и proxy журнали, данни за SaaS приложения, endpoint DLP събития и информация от одобрените AI платформи. Не по-малко важен е разговорът със служителите: за какви задачи ползват тези инструменти и защо съществуващите корпоративни решения не им стигат.
Забраната може да е необходима за чувствителни данни или високорискови процеси, но като единствен подход има ограничение: тя не премахва причината служителите да търсят AI помощ. Ако липсва удобна и одобрена алтернатива, част от употребата просто става по-трудна за откриване.
По-важно е да се разбере за какви задачи служителите използват AI, каква информация предоставят и какви разрешения получават свързаните инструменти. На тази основа могат да се определят реалистични ограничения, одобрени алтернативи и механизми за контрол.
Преди да избере технология или да приеме нова забрана, организацията трябва да може да отговори на три въпроса: кои AI инструменти се използват на практика, до какви данни имат достъп и какви действия могат да извършват? Отговорите идват не само от техническите журнали, а и от диалога с хората, ясни правила и периодична оценка на риска.
Мариета Филипова е магистър по киберсигурност с над 10-годишен професионален опит в областта на мрежите и киберсигурността. Притежава международно признати сертификати, в това число и Certified Ethical Hacker (CEH). Професионалните ѝ интереси включват управлението на киберрискове, сигурността на изкуствения интелект и предизвикателствата, които новите технологии поставят пред организациите.
КОМЕНТАРИ (0)