На відміну від більшості впроваджень штучного інтелекту, які зосереджені на помічниках для написання коду чи чат-ботах для клієнтської підтримки, Morgan Stanley успішно інтегрував агентів ШІ у критично важливий та часо-залежний банківський процес — узгодження прибутку та збитків (P&L). Це дозволило скоротити обсяг роботи вдвічі. Неочікуваним аспектом є те, що компанія досягла цього, зменшивши автономність системи, а не навпаки.
Люди залишаються ключовою ланкою, а їхні рішення послідовно перетворюються на повторювані правила, які система може застосовувати самостійно.
«Це більше схоже на колегу, ніж на другого пілота», — зазначив Тодд Джонсон, керуючий директор Morgan Stanley, на нещодавньому заході VB AI Impact. Внутрішня система агентів, відома як FIXR, виходить за межі простих завдань «генеративного ШІ 1.0». «Ми вважаємо, що саме тут криється можливість справді розкрити потенціал складніших завдань в організації».
FIXR: як це працює
Щодня торгові майданчики Morgan Stanley обробляють транзакції з такими активами, як акції чи боргові інвестиції.
Наприкінці кожного торгового дня контролери повинні звірити дані про прибутки та збитки між фінансовими, ризиковими, операційними системами та системами захоплення угод. Усі ці дані мають бути зібрані, і, як не дивно, сотні тисяч показників часто не збігаються.
Зазвичай це означає, що контролерам доводиться вручну досліджувати кожну розбіжність (або «злам»), приймати рішення щодо коригувань, а потім, в ідеалі, затверджувати їх, перш ніж дані потраплять до торгового відділу. І все це під тиском жорсткого ранкового дедлайну.
Раніше на узгодження одного портфеля могло піти до шести годин. Тепер FIXR виконує завдання за дві-три години, повідомив Джонсон. Для приблизно 100 контролерів, які виконують цю роботу, це становить близько 1500 заощаджених годин на тиждень.
Після завершення нічних розрахунків P&L система автоматично аналізує «злами» та пропонує рішення на основі вивчених правил. Кілька агентів працюють спільно:
-
Один інтерпретує минулі вказівки для розробки рішень на початку дня.
-
Один навчається на поведінці контролерів і документує правила, які вони застосовують.
-
Один перетворює повторювані патерни на стійку, автоматизовану логіку.
З часом система може автоматично закривати певні «злами», які вона вже зустрічала раніше, пропонувати рішення для інших, менш знайомих, звертатися по допомогу, коли вона не впевнена, і позначати для ручного аналізу. Коли певні елементи послідовно вирішуються одним і тим же методом, система може створювати чіткі правила.
Критично важливо, що люди не виключаються з процесу, а залишаються в ньому повністю, зазначив Джонсон. Вони переглядають, затверджують або виправляють кожну рекомендацію, а потім передають ці рішення назад для покращення наступного циклу роботи. Агент щодня навчається від контролерів, що він робить правильно, а що ні, і кодифікує ці знання під час ітерацій.
«Ви зберігаєте елемент людської відповідальності, навіть коли починаєте автоматизувати», — сказав Джонсон. «З часом ви побачите, що все більше і більше цих пунктів вирішуватимуться автоматично».
Він наголосив, що автономність вимагає значного рівня довіри; підприємства не побачать підвищення ефективності, якщо кожен буде перевіряти все, що робить агент.
Цикл зворотного зв’язку «людина-агент» був критично важливим для вирішення проблеми контрольованої, вимірюваної та повторюваної автоматизації. «Ми усвідомили, що весь інтелект, який зосереджений у голові контролера, буде важко повністю перенести в агента з першого дня», — сказав Джонсон.
Пріоритет процесу, розширюваність
Джонсон наголосив, що було надзвичайно важливо спочатку встановити процеси, перш ніж залучати будь-який ШІ. Його команда провела «дуже ретельну» оцінку інтелекту процесів, яка картографувала та аналізувала робочі процеси, щоб визначити, де автоматизація буде найбільш вигідною: чи відповіддю були агенти, традиційна автоматизація, чи просте перепроектування неефективного кроку?
«Якщо ми зможемо виправити це спочатку, перш ніж додавати агентів до проблеми, тоді ми справді трансформуємо можливості», — сказав він.
Процес затвердження P&L був насичений ручними операціями, які підходять для автоматизації, і агенти, що беруть на себе частину цих трудомістких завдань, звільняють контролерів для «більш цінного аналізу» та «глибшого аналізу ризиків».
Однак розширюваність була так само важлива, як і економія часу. Команда Джонсона обрала саме цей випадок використання для узгодження P&L, оскільки сотні контролерів виконували цю роботу по всьому світу (в Америці, Європі, Азії).
Тому слід почати з конкретного випадку використання, довести його ефективність, розширити, «і врешті-решт трансформація відбудеться, коли ми будемо впроваджувати це все ширше по всій організації», — сказав Джонсон.
Детермінованість за дизайном
Джонсон зазначив, що команда також свідомо обмежила залежність робочого процесу від суджень моделі. «Якщо у вас є можливість зробити речі дуже чіткими та повторюваними, це дешевше з точки зору споживання токенів, це більш повторюване з точки зору контролю — і дозволити LLM робити те, для чого не потрібен такий детермінований робочий процес», — сказав він.
З кожним новим зворотним зв’язком від контролерів щодо певного типу «зламу», Morgan Stanley перетворює цей шаблон на фіксоване правило, замість того, щоб залишати його на розсуд моделі.
Людська відповідальність залишається
Цікаве (і, можливо, фундаментальне) питання, що виникає на початку ери агентів: чи є агенти кодом, чи цифровими співробітниками?
Джонсон стверджує, що «вони, ймовірно, є трохи тим і іншим», і тому вимагають тонкого підходу до управління та нагляду. Технічні команди, як і раніше, несуть відповідальність за підтримання захисних механізмів, таких як брандмауери або шифрування.
Але з’являється нова динаміка навколо «елемента продуктивності»: люди, які використовують агентів, несуть за них відповідальність, оскільки це допомагає їм у роботі. Наприклад, якщо старший контролер працює з молодшим, він не перекладає відповідальність лише тому, що йому хтось допомагає, зазначив Джонсон.
«Одним із наших чітких принципів у загальному управлінні ШІ є те, що завжди повинна бути людська відповідальність, навіть якщо існує певний ступінь автоматизації», — сказав він.
Однак, як правило, «немає однієї конкретної особи», і процес, зрештою, є безперервним. До цього Джонсон жартома зауважив, що одна «пригнічуюча» річ в агентському ШІ полягає в тому, що він вимагатиме постійного навчання, оскільки моделі постійно змінюються.
«Ви ніколи не зможете сказати: «Ми провели всю необхідну оцінку та тестування. Можемо відпустити його». Вам доведеться постійно стежити за ним, поки він еволюціонує з часом».
Morgan Stanley вирішує реальні проблеми підприємств
Досвід Morgan Stanley відображає тенденції, які VentureBeat виявив у галузі впровадження корпоративного ШІ.
Згідно з нещодавнім опитуванням VB Pulse, майже три чверті респондентів повідомили про незначну або відсутню віддачу від інвестицій (ROI) від доопрацювання власних моделей, описуючи «кладовище пісочниць» для проектів ШІ, які виявилися занадто дорогими для підтримки. Це свідчить про те, що підхід Morgan Stanley, який ставить процес на перше місце, з подальшим придбанням і інтеграцією, може бути більш стійким, ніж гонитва за індивідуальними моделями. В опитуванні взяли участь 87 респондентів, і результати слід розглядати як орієнтовні.
Управління (Governance) стало ще одним поширеним викликом: 38% респондентів назвали відсутність єдиної відповідальної особи як найбільшу перешкоду для впровадження ШІ у виробництво, тоді як лише два з 87 опитаних підприємств мали активний моніторинг та сповіщення для виявлення збоїв у роботі моделей.
Як захиститися (Порада CryptoDom): Не довіряйте надто багато автоматизації у критично важливих процесах. Завжди забезпечуйте людський нагляд та можливість ручного втручання, особливо коли йдеться про фінансові операції. Розглядайте ШІ як потужний інструмент допомоги, а не як повну заміну людського контролю.
Подробиці можна знайти на сайті: venturebeat.com