За підтримки Splunk
Агентний штучний інтелект (AI) значно підвищує ефективність команд з IT та безпеки. Однак він також усуває стажування, яке довгий час формувало досвідчених операторів.
Оскільки організації автоматизують більше роботи, яка раніше виконувалася молодшими аналітиками та інженерами, вони стикаються з викликом, який стосується як дизайну робочої сили, так і архітектури: як виховати нове покоління експертів, коли ШІ бере на себе завдання, що раніше слугували навчанням.
Чим займалася молодша робоча сила
Протягом двох десятиліть шлях до того, щоб стати експертом з кібербезпеки (SecOps), інженером з надійності сайтів (SRE) або інженером з мережевих операцій (NetOps), пролягав через повторення.
Відсіювання помилкових спрацьовувань (false positives). Пошук контексту в дашбордах. Вивчення логів о 2-й годині ночі, які виявлялися нешкідливими. Галузь вважала цю роботу нудною, і в багатьох аспектах так воно і було.
Але це також слугувало стажуванням.
Тисячі годин, які аналітик витрачав, вивчаючи патерни трафіку, формували інтуїцію, що робила його безцінним під час реальної атаки. Цю інтуїцію неможливо було отримати на одному курсі чи зафіксувати у посібнику. Вона накопичувалася через досвід, розпізнавання патернів, невдачі та ескалацію. З часом саме так люди здобувають глибокий аналітичний досвід.
Однак агентний ШІ починає автоматизувати саме ті завдання, які колись були тренувальним майданчиком для здобуття експертизи. Це не причина сповільнюватися. Нудна робота була дорогою. Вигорання було реальним. Організації повинні використовувати агентні системи для зменшення рутинних завдань, де це можливо.
Водночас, усуваючи цей цикл стажування, ми повинні запропонувати операторам щось краще натомість. Те, як організації підійдуть до цього питання сьогодні, визначить переможців майбутнього.
Організації, які підійдуть до цього свідомо, випустять операторів, кваліфікованих для успіху в наступному десятилітті. Організації, які відкладуть це питання, можуть виявити, що сьогодні мають швидші системи, але завтра — менше людей, які їх глибоко розуміють, щоб ними керувати.
Коли автоматизація вихолощує підзвітність
Існує й другий аспект цієї дискусії, якому приділяється недостатньо уваги.
У регульованих середовищах рутинна робота стажування є частиною рівня підзвітності. Фреймворки від SOX до PCI DSS, від HIPAA до NIS2 передбачають ланцюжок людських суджень за кожним рішенням щодо контролю.
Аудитори не спілкуються з моделями. Вони спілкуються з людьми, які можуть пояснити, чому система зробила те, що зробила, чому рішення було обґрунтованим і чи були на місці відповідні засоби контролю.
Коли популяція професіоналів, здатних пояснити цей ланцюжок, починає скорочуватися, ризик може з’явитися не відразу. Контроль може пройти. Робочий процес може бути виконано. Дашборд може залишатися зеленим.
Але базові організаційні знання починають вихолощуватися.
Це не просто проблема інструментарію. Це також проблема навичок та дизайну робочої сили. І для організацій, які швидко впроваджують агентні системи, ризик ближчий, ніж багато хто думає.
Розбудова людської експертизи для управління ШІ
Коли ми втрачаємо частину рівня підзвітності через агентні системи, люди повинні зайняти інший тип управлінської ролі. Управління агентною системою означає впровадження автоматизованих “захисних поручнів”, які адаптуються до недетермінованої поведінки агентів і забезпечують належну їхню дію за умов, які ніхто повністю не передбачав. Це означає розробку критеріїв ескалації, які виявляють правильні аномалії, не перевантажуючи людей помилковими. Це означає впровадження динамічних інструментів, сповіщень та процесів для перевірки рішень машини з метою виявлення відхилень, упередженості та збоїв у логіці, які не можуть бути виявлені в окремих випадках.
Здатність оцінювати та реагувати на ці винятки вимагає суджень, сформованих роками досвіду, навчання розпізнаванню патернів, яке колись забезпечувала стара модель стажування.
Ось чому питання робочої сили та питання архітектури тепер є одним і тим же питанням. Якщо ми очікуємо, що люди керуватимуть дедалі автономнішими системами, нам потрібні цілеспрямовані шляхи, які допоможуть їм справлятися з масштабом та швидкістю систем ШІ, одночасно формуючи інтуїцію та судження у людських операторів, необхідні для цієї роботи.
В еру ШІ найціннішими платформами будуть не ті, що просто автоматизують найбільше завдань. Вони допоможуть людям стати більш компетентними, надійними та важливими, оскільки системи навколо них ставатимуть швидшими та розумнішими.
Це означає, що організації повинні інвестувати в повну екосистему експертизи для операторів: спільноти, які поширюють спільні практики, сертифікації або інші докази, що роблять експертизу видимою, та людино-орієнтовані пояснення й перевірки в ШІ, разом із навчальними шляхами, які формують спроможність. Розширення прав і можливостей (empowerment) — це вибір дизайну архітектури.
Розширення можливостей людини є критично важливою частиною розмови про практичне використання ШІ. Однак без цілеспрямованої стратегії підтримки це ризикує стати фразою, яка нічого не означає, бо може означати все.
Розширення можливостей для агентних систем не може бути просто концептуальною вимогою. Це має бути набір дизайнерських рішень, вбудованих у поведінку систем. Агентна система, яка розширює можливості своїх людських операторів і розвиває їхні професійні навички, робить чотири речі:
1. Розкриває логіку з даними, що стоять за нею
Кожна рекомендація, яку робить агент, має бути відстежуваною до даних, які він розглядав, логіки, яку він застосував, та походження вхідних даних, які він використовував. Оператори, які бачать логіку, формують судження про те, коли їй довіряти. Оператори, яким надають лише висновки, цього не роблять.
2. Розділяє повноваження за рівнем впевненості та впливу
Знайомі, низькоризиковані патерни можуть оброблятися автономно. Нові ситуації або дії зі значним радіусом впливу повинні за замовчуванням ескалуватися. Межа має бути чіткою та конфігурованою командами, які несуть відповідальність за наслідки.
3. Розглядає розбіжності як сигнал виправлення
Коли досвідчений інженер перериває роботу агента, він робить більше, ніж просто не погоджується. Він виправляє систему, надаючи судження, якого модель не мала: крихка залежність, особливість середовища, обмеження, яке дані ніколи не бачили. Система, яка реєструє переривання, але ігнорує причини, що стоять за ним, нічого не вчиться з того єдиного моменту, коли людина знала краще.
4. Фіксує рішення як міждоменні знання
Те, як вирішується інцидент, є уроком, який рідко залишається в одній галузі. Інцидент SecOps може виявити слабкість ITOps. Мережева проблема може бути пов’язана з бізнес-впливом. Коли цей зв’язок існує лише в закритому тікеті, наступна команда, яка стикається з ним, починає з нуля. Рішення повинні поширюватися між доменами, а не вмирати там, де вони були подані.
Це не виправдані якості. Це перевірені можливості продукту. Лідери, які оцінюють агентні системи, повинні мати можливість визначити, де ці можливості знаходяться, що відбувається, коли вони виходять з ладу, і чи покращується майстерність оператора після розгортання.
Наступна перевага — коли людина та ШІ масштабуються разом
Для того, щоб системи ШІ були практичними, надійними та працювали в масштабі, ключовим моментом дизайну є глибока співпраця ШІ з операторами та надання їм можливостей.
Отже, агентна ера — це не історія про заміну людей. Це історія про перепроектування систем, якими керують люди, щоб ці операції могли відбуватися зі швидкістю та масштабом машини, одночасно розвиваючи людську експертизу. Разом, а не коштом один одного.
Такий результат не є гарантованим. Він відбудеться лише там, де лідери ставлять розвиток операторів пріоритетом, а не другорядним питанням. Для досягнення цього агентні системи повинні бути навмисно розроблені так, щоб розкривати логіку, фіксувати навчання та перенаправляти роботу людям таким чином, щоби будувати навички та кар’єру, а не руйнувати їх.
Агенти будуть ставати розумнішими та швидшими. Здатність операторів, які працюють разом з ними, вчитися та зростати синхронно, визначатиме, чи володітимуть організації цифрову стійкістю наступного десятиліття, чи орендуватимуть її у звужуваного пулу експертизи.
Дізнайтеся більше про те, як Cisco Data Fabric на базі Splunk Platform допомагає командам прискорювати агентні операції.
Камаль Хаті є SVP і GM Splunk, компанії Cisco.
Спонсорські статті — це контент, створений компанією, яка або платить за публікацію, або має ділові стосунки з VentureBeat, і вони завжди чітко позначені. Для отримання додаткової інформації зв’яжіться з [email protected].
Як захиститися (Порада CryptoDom): Завжди перевіряйте джерело інформації та не поспішайте реагувати на несподівані повідомлення, особливо якщо вони містять запити на конфіденційні дані чи термінові дії. Використовуйте складні, унікальні паролі та вмикайте двофакторну автентифікацію всюди, де це можливо, для додаткового рівня захисту облікових записів.
Джерело новини: venturebeat.com