Тіньовий AI стає неконтрольованим каналом витоку корпоративних даних

Працівники давно використовують генеративний штучний інтелект поза корпоративними політиками, але головна проблема полягає не в самому факті тіньового AI. Дослідження Teramind, яка знається на управлінні інсайдерськими ризиками та запобіганні витоку даних, показує, що традиційні механізми контролю майже не бачать, які дані потрапляють до AI-сервісів, а спроби їх блокувати лише переводять активність у ще менш контрольовані канали.

Дискусія навколо тіньового AI зазвичай зводиться до того, що співробітники користуються несанкціонованими сервісами на кшталт ChatGPT чи Gemini. Але звіт Teramind, дистриб'ютором якої в нашій країні є Softprom, показує іншу проблему. Для корпоративної безпеки головним викликом стала втрата видимості над тим, як корпоративні дані потрапляють до цих сервісів і повертаються назад у бізнес-процеси. Саме цей розрив між реальною поведінкою користувачів і можливостями ІТ-підрозділів автори вважають визначальною характеристикою сучасного тіньового AI.

За даними дослідження, офіційні корпоративні підписки на великі мовні моделі вже мають 98% компаній. Водночас у 90% організацій співробітники паралельно використовують несанкціоновані AI-інструменти. На кожну тисячу працівників припадає в середньому 269 різних AI-сервісів, а в типовій організації виявляють близько 66 генеративних застосунків, частина яких має високий рівень ризику. При цьому більшість таких сервісів залишаються активними понад 400 днів після першого використання, тобто мова вже давно не про експерименти окремих співробітників, а про інструменти, які стали частиною повсякденних робочих процесів.

Основна причина ризиків полягає в тому, що корпоративні дані регулярно потрапляють до зовнішніх AI-систем. Дослідники фіксують стрімке зростання інцидентів DLP, пов'язаних із генеративним AI, а серед інформації, яку працівники надсилають до сторонніх сервісів, є клієнтські дані, вихідний код, матеріали досліджень, внутрішні документи, HR-інформація та фінансові файли. Окремо зазначається, що третина користувачів несанкціонованих AI-сервісів уже передавала через них дослідницькі матеріали або набори даних, понад чверть – інформацію про співробітників, а майже чверть – фінансові дані компаній.

Найцікавіший висновок стосується не файлів чи API, а звичайного копіювання тексту. Саме copy-paste, а не завантаження документів, дослідники називають основним каналом потрапляння корпоративної інформації до Gen AI. У середньому співробітник вставляє інформацію до AI-сервісів 14 разів на день, причому три такі операції містять чутливі дані. Для більшості традиційних DLP-систем саме така поведінка залишається найменш помітною.

До того ж дослідження показує, що блокування окремих AI-сервісів не припиняє використання генеративного AI. Працівники просто переходять на інші сервіси, використовують особисті пристрої або ще якось обходять обмеження. Майже половина респондентів заявила, що продовжить користуватися AI навіть після прямої заборони, а дві третини співробітників знаходять способи отримати доступ до заблокованих застосунків. Автори роблять висновок, що стратегія, побудована виключно на заборонах, фактично переводить тіньовий AI у ще менш контрольоване середовище.

Показовою є також проблема корпоративної ідентифікації. Більшість користувачів працює з генеративним AI через особисті акаунти, а не через корпоративні облікові записи із SSO. Через це інструменти контролю доступу, політики збереження даних і системи аудиту просто не бачать значної частини взаємодії співробітників з AI-платформами. Водночас 86% організацій визнають, що не мають достатньої видимості потоків даних до AI-сервісів, а 60% ІТ-команд не можуть навіть переглянути запити, які користувачі надсилають генеративним моделям.

Звіт також звертає увагу на ще одну тенденцію. Ризики виникають не лише тоді, коли дані потрапляють до генеративного AI, а й коли створений ним контент повертається у корпоративні процеси. AI-відповіді дедалі частіше використовують у документації, програмному коді, юридичних документах, матеріалах для клієнтів та інших робочих процесах. Якщо такий контент потрапляє до регульованих сфер без перевірки, відповідальність за його точність і відповідність нормативним вимогам несе вже сама організація незалежно від того, що його створила мовна модель.

Таким чином масштаб тіньового AI вже неможливо зменшити лише політиками чи навчанням персоналу. Організаціям доведеться поєднувати контроль за потоками даних, інвентаризацію AI-сервісів, корпоративні альтернативи популярним генеративним інструментам і політики, які враховують реальну поведінку користувачів, а не припущення про те, як вони повинні працювати. При цьому самі автори наголошують, що будь-які механізми моніторингу мають впроваджуватися з урахуванням вимог трудового законодавства, захисту персональних даних і локальних регуляторних норм.