Згідно з новим дослідженням Ivanti, яке охопило 3900 співробітників із шести країн, керівники компаній майже вдвічі частіше приховують своє використання штучного інтелекту (ШІ), ніж усі інші працівники: 42% проти 23%. Серед керівників, які приховують таке використання, 52% стверджують, що роблять це для отримання “секретної переваги”. Те саме дослідження виявило, що 85% ІТ-фахівців стверджують, що кожен ШІ-агент має призначеного власника. Лише 42% зазначають, що власність є чітко визначеною — розрив у 43 пункти, для усунення якого жодна система управління не була розроблена.
Сем Еванс, директор з інформаційної безпеки (CISO) Clearwater Analytics, виступив перед радою директорів і окреслив ризики для активів на суму 8,8 трильйона доларів, які підтримує платформа його компанії. “Найгірше, що може статися, — це якщо хтось із наших співробітників візьме дані клієнтів і помістить їх у ШІ-систему, яку ми не контролюємо”, — сказав Еванс виданню VentureBeat. Він запропонував рішення, а не просто проблему. Багато CISO, опитаних VentureBeat, цього не зробили.
Генеральний директор Menlo Security Білл Роббінс переказав розмову з CISO одного з трьох найбільших банків США, який назвав виявлення “тіньового” ШІ “марною тратою часу”: ШІ вбудований у кожну програму та браузер, якими користуються співробітники. Банк керує шляхом стримування, а не виявлення.
Масштаб виправдовує таку позицію. “Ми бачимо 50 нових ШІ-додатків щодня, а вже каталогізували понад 12 000”, — повідомив виданню VentureBeat генеральний директор Prompt Security Ітамар Голан. “Близько 40% з них за замовчуванням тренуються на будь-яких даних, які ви їм надаєте, а це означає, що ваша інтелектуальна власність може стати частиною їхніх моделей”. CrowdStrike виявила 1800 ШІ-додатків, що працюють на 160 мільйонах кінцевих точок. Це дані від постачальників, отримані через власні телеметричні системи. Жодна незалежна сторона не може їх перевірити. Важливий загальний сигнал, а не точна кількість.
Технічний директор CrowdStrike Еліа Зайцев описав, що робить цю поверхню такою складною для управління. “Неможливо відрізнити, чи агент працює у вашому веб-браузері, чи ви працюєте у своєму браузері”, — сказав Зайцев виданню VentureBeat на RSAC 2026. “Спостереження за фактичними діями є структурованою, вирішуваною проблемою. Намір — ні”. Поверхня “тіньового” ШІ — це вже не список, який команди безпеки можуть вести. Це середовище, яке вони повинні припускати.
Опитування Ivanti було проведене незалежно компаніями Ravn Research та MSI Advanced Customer Insights серед 1500 ІТ-фахівців. Серед компаній, які мають політику щодо ШІ, лише 24% співробітників стверджують, що ці політики “дуже послідовно” дотримуються в повсякденній роботі.
Кай МакГладрі, старший член IEEE, пояснив виданню VentureBeat, чому цей розрив у управлінні зберігається. “Все, що має ознаки кібербезпеки, зазвичай відносять до категорії ризиків кібербезпеки, що є повною фікцією. Слід зосередитися на бізнес-ризиках, тому що якщо це не впливає на бізнес, наприклад, фінансові збитки, ніхто не звертатиме на це уваги, і вони не виділять належний бюджет, а також не впровадять адекватні засоби контролю для запобігання цьому”, — раніше сказав МакГладрі виданню VentureBeat.
Партнери-брокери з великих консалтингових фірм повідомили через Signal, що вони створюють “тіньові” ШІ-додатки в Google Colab і зберігають їх у S3-бакетах, щоб стиснути тиждень фінансового аналізу до однієї години. Процес затвердження займає надто багато часу, тому вони його обходять.
VB Transform · 14–15 липня · Менло-Парк · Безпека та ідентичність агентів
Ваші агенти мають доступ до електронної пошти, кредитних карток і терміналів. Що станеться, коли вони будуть скомпрометовані?
Сесії з безпеки агентів охоплюють ін’єкції підказок (prompt injection), пісочниці (sandboxing) у регульованих середовищах та протоколи довірених агентів, які Visa тестує проти власної критичної інфраструктури.
Дивіться повний порядок денний →
Управління під час розгортання, збій під час роботи
Перевірки оцінюють функціональні вимоги під час випуску моделі, але ніколи не перевіряють її походження (provenance), відхилення поведінки (behavioral drift) або чи розширив агент власні дозволи після запуску.
Генеральний директор CrowdStrike Джордж Курц розкрив на RSA Conference 2026, що ШІ-агент генерального директора компанії зі списку Fortune 50 переписав політику безпеки компанії, щоб розширити власну автономію. Компанія виявила це випадково. Усі перевірки облікових даних пройшли успішно. “В епоху агентів захист від супротивників, прискорених ШІ, та забезпечення безпеки самих систем ШІ вимагає роботи зі швидкістю машини”, — сказав Курц. Щорічні огляди управління не працюють зі швидкістю машини.
Майк Рімер, польовий CISO в Ivanti, врахував цей урок у розробці ШІ-агентів власної команди. “Він чудово справляється з тим, для чого я його призначив, але він також чудово справляється з тим, для чого я його не призначав, а це небезпечно”, — сказав Рімер виданню VentureBeat.
Дані про “галюцинації” ШІ (AI hallucinations) ускладнюють проблему. Згідно з даними Ivanti, 68% ІТ-фахівців особисто бачили, як ШІ генерував “галюцинації” з потенційним операційним впливом. Більше половини встигли виявити помилки до того, як вони завдали шкоди, але 16% — ні. Однак серед найдосвідченіших користувачів ШІ 49% повністю довіряють вихідним даним, згенерованим ШІ, які впливають на ІТ-рішення.
Рімер описав цю тенденцію в ексклюзивному інтерв’ю виданню VentureBeat. “Є люди, які просто приймають те, що їм надано, не до кінця розуміючи, що воно робить, — це ми спостерігаємо в технологічній галузі десятиліками”, — сказав Рімер. “Вони не ставлять під сумнів, як це робиться. Вони просто починають оцінювати це за результатом”.
Асаф Керен, CSO Qualtrics, виявив ключове протиріччя в ексклюзивному інтерв’ю виданню VentureBeat. Організації впроваджують “недетерміноване прийняття рішень у середовища, побудовані для детермінованих процесів”. Керен навів внутрішні дані Qualtrics, які показують, що 22% триажів (triage) у центрах операцій безпеки (SOC) вже керуються ШІ. Немає кодифікованого порогу, який би відокремлював те, що агент може виконати автоматично, від того, що вимагає участі людини.
18-місячний термін
Час на вирішення цієї проблеми закінчується. За даними Ivanti, ІТ-організації очікують, що ШІ автоматизує 46% своєї діяльності протягом 18 місяців. Американські компанії прогнозують 52%. Управління вже є найчастіше згадуваною перешкодою для швидшого розгортання, випереджаючи проблеми з навичками, технологіями та даними.
Розрив у зрілості робить прогалину в управлінні ще небезпечнішою. ІТ-фахівці в організаціях зі зрілим використанням ШІ заощаджують шість годин на тиждень, що вдвічі більше, ніж три години, заощаджені на найменш зрілому рівні. Майже 9 з 10 ІТ-фахівців у компаніях, що масштабували використання ШІ, стверджують, що ШІ часто допомагає виявляти або вирішувати проблеми до того, як вони вплинуть на співробітників. У компаніях, які лише експериментують, цей показник падає до чотирьох з десяти. 69% компаній, що масштабували використання ШІ, повідомляють про повністю вбудоване управління, порівняно з 15% у тих, хто знаходиться на ранній стадії експериментів.
Президент Cisco Джіту Пател у своєму інтерв’ю на RSAC 2026 описав гіпотетичний сценарій: агент, який коштує 40 000 доларів, запрошує конкурентів до каналу Slack і публікує домашні адреси. “Вибачення не є запобіжником”, — сказав Пател виданню VentureBeat.
Віце-президент Cato Networks з аналізу загроз Етай Маор в окремому інтерв’ю на RSAC сформулював проблему відповідальності. “Вони ближчі до людей. Чому ми не проводимо перевірку біографії агентів?”
“ШІ стискає час між наміром та виконанням, перетворюючи корпоративні ШІ-системи на цілі”, — повідомив виданню VentureBeat Адам Майерс, віце-президент CrowdStrike з операцій аналітики.
“Продовження однієї дії не означає продовження наступної”, — сказав DJ Сампат, старший віце-президент Cisco з програмного забезпечення та платформ ШІ, в окремому інтерв’ю.
МакГладрі описав першопричину. Організації за замовчуванням клонують профілі користувачів для агентів, і розширення дозволів починається з першого дня. “Він використовує набагато більше дозволів, ніж повинен, більше, ніж людина, через швидкість масштабування та намір”, — сказав він.
Команда Рімера вбудувала управління у власний процес розробки Ivanti. “У нас є ШІ, який перевіряє інший ШІ, щоб переконатися, що він виправлений. Дві різні моделі, два різні виробники”, — сказав Рімер. “Якщо один ШІ вважає, що інший ШІ виправив його належним чином, він передає його людині”.
Рімер поставив питання постачальникам у форматі, який можуть використовувати будь-які CISO під час переговорів. “Якщо постачальник не має способу показати вам, що він робив з точки зору розробки для покращення своїх процесів розробки, вам дійсно потрібно поставити під сумнів, чому ви працюєте з цим постачальником”, — сказав він.
Шесть питань нижче націлені на виміри управління, де реалізація зазнає краху під час роботи. CISO можуть використовувати їх під час поновлення договорів з постачальниками у 3-му кварталі, щоб відрізнити постачальників, які забезпечують виконання в реальному часі, від тих, хто надає лише документацію.
Шість питань щодо управління для поновлення договорів у 3-му кварталі
|
Вимір управління |
Що довели дані |
Чому управління це пропускає |
Питання для поновлення договору у 3-му кварталі |
Артефакт доказу, який потрібно вимагати |
|
“Тіньовий” ШІ керівників |
Керівники приховують ШІ у 42% проти 23% усіх співробітників. 52% приховують для “секретної переваги”. Регульовані галузі мають найвищий рівень несанкціонованого використання. |
Управління припускає, що розробники політик дотримуються політики. Керівники знаходяться вище контролю, який вони створили. |
Чи може ваша телеметрія DLP, браузера, SSE та кінцевих точок виявляти рух даних ШІ на рівні керівництва з таким же покриттям, як у всіх інших користувачів? |
Журнали телеметрії DLP, браузера, SSE та кінцевих точок на рівні керівництва, що показують однакове покриття, як і для всіх інших користувачів. |
|
Призначене володіння агентом |
85% стверджують, що мають призначеного власника. Лише 42% вважають володіння чітким. Розрив у 43 пункти. |
Власник у електронній таблиці. Агент під час роботи. Ніхто не перевірив, чи може власник зупинити агента під навантаженням. |
Чи можете ви назвати власника кожного ШІ-агента? Чи може цей власник відкликати доступ за 60 секунд? |
Демонстрація відкликання доступу агента за 60 секунд під виробничим навантаженням. |
|
Перевірка перед розгортанням |
65% мають перевірку ризиків перед розгортанням. Окремо лише 24% вважають, що будь-яка політика щодо ШІ дотримується “дуже послідовно”. Перевірка існує. Виконання — ні. |
Перевірка оцінює функціональні вимоги під час розгортання. Ніколи не перевіряє походження моделі або відхилення поведінки під час роботи. |
Чи охоплює ваша перевірка походження моделі? Чи є вона обов’язковою чи дорадчою? |
Сертифікат походження моделі з журналом виконання, що показує заблоковані розгортання. |
|
Виконання політик |
58% мають політики прийнятного використання. 24% дотримуються “дуже послідовно”. Документовано. Не практикується. |
Агент досягав своєї мети, незважаючи на будь-які межі. Пошук мети не зупиняється на документі, який модель ніколи не читає. |
Чи enforce політики серверними шлюзами, чи дотриманням вимог агентом? Який відсоток дій контролюється? |
Журнал аудиту серверних шлюзів із відсотком контрольованих та неконтрольованих дій агента. |
|
Пороги довіри |
68% бачили “галюцинації” з операційним впливом. 49% просунутих користувачів повністю довіряють результатам. |
Немає кодифікованого порогу, який відокремлює автоматичне виконання від людського перегляду. |
Які дії агента виконуються автоматично, а які потребують людського перегляду? Чи це enforce в політиці, чи в платформі? |
Матриця порогів, що класифікує кожну дію агента як автоматичне виконання або людський перегляд. |
|
Авторизація за дією |
Управління є №1 перешкодою (27%). Навички — 20%. Технології — 17%. Дані — 14%. |
Огляд контролю відбувається щокварталу. Агенти діють щосекунди. |
Чи enforce авторизація за дією під час роботи, чи лише під час перевірки при розгортанні? Чи можуть агенти накопичувати дозволи без повторної авторизації? |
Журнал авторизації в реальному часі, що показує події контролю за дією та часові мітки повторної авторизації дозволів. |
Вихідні дані з Ivanti, Scaling AI in IT Operations: The Path to Maturity in 2026 (n=1500 ІТ-фахівців, 3900 загалом співробітників, шість країн, лютий-березень 2026). Ексклюзивні інтерв’ю CISO від VentureBeat.
Еванс структурував розмову ради Clearwater. CISO банку, якого описував Роббінс, припустив, що ШІ є повсюди, і керувався стримуванням, а не виявленням. Система управління, яка намагається каталогізувати кожен “тіньовий” ШІ-інструмент, зазнає невдачі, оскільки поверхня зростає швидше, ніж будь-який інвентарний список.
У масштабованих, критично важливих для бізнесу організаціях 54% ІТ-фахівців стверджують, що ШІ робить їхню роботу швидшою та кращою, згідно з Ivanti. У компаніях, які перебувають на ранніх стадіях експериментів, цей показник становить 24%. У масштабованих організаціях відповідальність живе в платформі. У ранніх — в документі, який агент ніколи не читає.
Шість вищезазначених запитань надають кожному CISO можливість перевірити, чи дійсно їхня система управління працює там, де це важливо. Під час роботи, під навантаженням і до наступної перевірки поновлення договору.
Як захиститися (Порада CryptoDom):
1. Ретельна перевірка дозволів: Регулярно переглядайте та обмежуйте дозволи, надані ШІ-агентам. Жоден агент не повинен мати доступу до конфіденційних даних або критичних систем, якщо це абсолютно не необхідно для виконання його функцій. Використовуйте принцип найменших привілеїв.
2. Навчання персоналу та моніторинг: Впроваджуйте обов’язкові тренінги для всіх співробітників щодо безпечного використання ШІ, особливо щодо ризиків “тіньового” ШІ та “галюцинацій”. Постійно моніторте мережевий трафік та активність ШІ-інструментів на предмет несанкціонованого доступу чи підозрілої поведінки.
Подробиці можна знайти на сайті: venturebeat.com