Представлено Splunk
Щодня організації отримують інформацію, яку їхні ШІ-системи не можуть використати.
Аналітик безпеки виправляє розслідування, згенероване ШІ. Інженер мережі визначає першопричину повторного збою. Команда з питань спостережуваності виявляє, що певна послідовність затримок, логів та змін інфраструктури передбачає деградацію сервісу. Команда по роботі з клієнтами дізнається, які сигнали свідчать про ймовірну ескалацію проблеми.
Кожен момент містить цінне організаційне знання. Але в більшості компаній ці знання зникають у тікетах, панелях моніторингу, чатах, звітах після інцидентів та в головах окремих експертів. Це може допомогти вирішити безпосередню проблему, але рідко стає частиною багаторазово використовуваної системи, яка покращує майбутні рішення, керовані ШІ.
Це – наступний виклик для “агентної” (agentic) організації.
Майбутнє визначатиметься не лише тим, хто матиме найпотужнішу модель або найавтономніших агентів. Багато організацій матимуть доступ до подібних передових моделей. Багато хто розгорне агентів у сферах безпеки, ІТ, інжинірингу, обслуговування клієнтів та бізнес-операцій.
Справжнім диференціатором буде здатність цих агентів навчатися на основі організації, в якій вони працюють.
Не шляхом постійного перенавчання базової моделі, а шляхом фіксації операційного досвіду, перетворення його на інституційні знання та надання доступу до цих знань майбутнім агентам, робочим процесам та рішенням.
Агентна організація – це не просто організація, яка використовує ШІ. Це організація, яка навчається через ШІ.
Агентні організації дозволяють ШІ-системам навчатися на їхньому досвіді
Дискусія навколо ШІ зосереджена на можливостях моделей: більші вікна контексту, краще міркування, швидше виконання, потужніше використання інструментів та більш складні агентні поведінки.
Ці досягнення важливі. Але в корпоративному середовищі модель є лише частиною системи.
Модель автоматично не знає, як працює конкретна організація. Вона не знає, який крок з виправлення усунув збій минулого місяця, яке виправлення аналітика покращило розслідування загроз, який мережевий сигнал передував збою сервісу, або яка внутрішня політика повинна переважити інше правдоподібне рекомендацію.
Ці знання належать організації.
Щоб агентні системи вдосконалювалися, організаціям потрібен спосіб фіксувати ці знання та робити їх придатними для повторного використання. У багатьох випадках це не вимагає зміни самої моделі. Це вимагає зміни екосистеми навколо моделі: бази знань, шару пошуку, підказок (prompts), політик, захисних механізмів (guardrails), логіки маршрутизації та робочих процесів, які формують поведінку агентів.
Модель може залишитися незмінною. Навчальна система навколо неї стає розумнішою.
Петлі зворотного зв’язку перетворюють кожен результат на навчальний момент для агентів
Кожен агентний робочий процес генерує сигнали.
Агент отримує запит. Він отримує контекст, обмірковує можливі дії, використовує інструменти та генерує відповіді. Людина приймає, відхиляє або модифікує цю відповідь. Подальші системи показують, чи спрацювала дія.
Весь цей ланцюжок є цінним.
ШІ-спостережуваність (AI observability) надає організаціям видимість того, що сталося: підказка, відповідь, шлях міркувань, виклики інструментів, джерела даних, проміжні кроки, режими відмови та результати. Без цієї видимості організації не можуть зрозуміти, чому агент поводився так, а не інакше, не кажучи вже про його покращення.
Але однієї лише спостережуваності недостатньо.
Більша можливість полягає в тому, щоб перетворити спостережувану поведінку на інституційні знання. Трасування (trace) повинно допомагати не лише розробнику та операторам налагоджувати агента. Воно повинно допомагати організації зрозуміти, чого навчився агент, що виправила людина, який результат був отриманий і що слід змінити до наступної подібної події.
Це – перехід від моніторингу ШІ до навчання ШІ.
В агентній організації петлі зворотного зв’язку пов’язують дію з результатом, результат зі знаннями, а знання – з майбутньою дією.
Практична реалізація системи навчання в безпеці, спостережуваності та мережі
Розглянемо сервіс, який зазнає періодичної деградації.
Агент спостережуваності виявляє незвичайні затримки та показники помилок. Мережевий агент визначає втрату пакетів по певному шляху. Агент безпеки помічає, що в тому ж часовому вікні спостерігається підозріла поведінка автентифікації та незвичний трафік з раніше невідомого джерела.
Окремо кожен агент має лише часткове уявлення. Разом вони створюють більш повну операційну картину.
Вперше, коли цей інцидент виникає, може знадобитися втручання людських експертів. Мережевий інженер підтверджує, що втрата пакетів була спричинена неправильно налаштованою зміною маршрутизації. Аналітик безпеки визначає, що підозрілий трафік не був атакою, а побічним ефектом неправильно маршрутизованого внутрішнього сервісу. SRE (Site Reliability Engineer) пов’язує мережеву подію з деградацією програми.
Це рішення містить знання, які організації не доведеться вивчати заново.
Зріла система навчання агентів повинна фіксувати трасування, виправлення від людей, контекст топології, висновки безпеки, сигнали спостережуваності та фінальні кроки з виправлення. Вона повинна зберігати зв’язок між цими сигналами: патерн затримок, мережевий шлях, поведінка ідентифікації, зміна маршрутизації та виправлення.
Наступного разу, коли з’явиться схожий патерн, агенти не починатимуть з нуля. Вони зможуть отримати попередній випадок, порівняти поточні умови, рекомендувати перевірений діагностичний шлях та ескалувати з кращим контекстом.
Передова базова модель не потребувала перенавчання.
Навчилася організація.
Архітектура навчальної агентної організації
Навчальна агентна організація потребує більше, ніж просто моделі чи чат-бота. Їй потрібна архітектура, яка може фіксувати досвід, перетворювати його на корисні знання, пов’язувати ці знання з операційним контекстом та керувати тим, як вони змінюють майбутню поведінку агентів.
Пам’ять (Memory) зберігає те, що сталося: що бачив агент, що він робив, де втручалися люди, і які результати були отримані.
Бази знань (Knowledge bases) перетворюють цей досвід на багаторазово використовувані рекомендації, включаючи посібники (playbooks), приклади, політики, процедури та докази.
Тканина даних (Data fabric) з’єднує операційне середовище. Сигнали, які потрібні агентам, існують у логах, метриках, трасуваннях, тікетах, системах ідентифікації, інструментах безпеки, мережевій телеметрії, платформах співпраці та бізнес-додатках. Тканина даних робить ці сигнали доступними для виявлення, кореляції, управління та використання в контексті.
ШІ-спостережуваність (AI observability) пояснює, як поводяться агенти, фіксуючи підказки, виклики інструментів, проміжні кроки, відповіді, зворотний зв’язок та результати. Ця видимість допомагає організаціям зрозуміти, де агенти досягають успіху, де вони зазнають невдачі, і що слід покращити.
Площина керування (Control plane) керує тим, як навчання стає зміною: які знання просуваються, які підказки або політики оновлюються, які агенти можуть використовувати нову інформацію, які дозволи потрібні, і як аудитуються зміни.
Разом ці можливості дозволяють ШІ-системам покращуватися з часом у контрольований, надійний спосіб, що дозволяє організації навчатися на власних операціях.
Організації, які навчаються найшвидше, переможуть
Наступна ера ШІ буде виграна не лише моделями. Її виграють організації, які зможуть зафіксувати те, що вони дізнаються з кожного робочого процесу, виправлення експерта, інциденту, розслідування та результату.
Найбільш просунуті агентні організації не просто розгортатимуть більше агентів. Вони створюватимуть системи, які дозволять кожному агенту отримати користь від колективних знань організації.
Це означає з’єднання операційних даних через тканину даних. Це означає глибоке спостереження за поведінкою агентів, щоб зрозуміти її. Це означає збереження досвіду в пам’яті та його інституціоналізацію в базах знань. Це означає використання площини керування для управління тим, як навчання змінює поведінку агентів.
Майбутнє ШІ – це не один автономний агент, який діє самостійно. Це екосистема агентів, людей, даних та контролів, яка навчається з часом.
Організації, які створять цю екосистему, створять ШІ-системи, які стають кращими з кожною взаємодією. Не тому, що модель постійно змінюється, а тому, що сама організація стає розумнішою.
Дізнайтеся більше про те, як Cisco Data Fabric на базі Splunk Platform прискорює агентні операції.
Хао Янг є віце-президентом з питань ШІ в Splunk, компанії Cisco.
Спонсорські статті – це контент, створений компанією, яка або платить за публікацію, або має ділові відносини з VentureBeat, і завжди чітко позначений. Для отримання додаткової інформації звертайтеся за адресою [email protected].
Як захиститися (Порада CryptoDom): Регулярно переглядайте та оновлюйте політики доступу до даних та встановлюйте чіткі правила для взаємодії агентів ШІ з критично важливою інформацією. Використовуйте принципи мінімальних привілеїв, щоб обмежити потенційну шкоду від будь-якого скомпрометованого або некоректно функціонуючого ШІ-агента.
Оригінал статті: venturebeat.com