Розробники популярного, орієнтованого на корпоративний сегмент, відкритого рішення NanoClaw, що є варіантом OpenClaw, оголосили про співпрацю з лідером у сфері управління програмними ланцюгами постачань JFrog. Метою партнерства є впровадження нової спільної інтеграції безпеки, яка, за їхніми словами, захищатиме автономних агентів NanoClaw від ін’єкцій шкідливого коду.
«Ці агенти виконують дії, які ви не можете цілком контролювати і не можете повністю передбачити», — зазначив Гал Мардер, директор зі стратегії JFrog, в ексклюзивному інтерв’ю для VentureBeat.
Інтеграція, доступна негайно, напряму пов’язує агентів NanoClaw з перевіреними програмними репозиторіями JFrog. Це гарантує, що AI-асистенти зможуть завантажувати лише проскановані та безпечні залежності.
Це рішення усуває зростаючу “сліпу пляму” у технологічній сфері: автономні агенти часто встановлюють додаткові пакети у фоновому режимі для розширення своїх можливостей, нерідко без відома чи контролю з боку людини-оператора.
«Люди, які керують агентами, не обов’язково є розробниками, і вони можуть не усвідомлювати всіх наслідків», — пояснив Гавріель Коен, творець NanoClaw та генеральний директор і співзасновник стартапу NanoCo AI, що надає комерційні послуги.
З метою безпеки ширшої екосистеми, партнери працюють над тим, щоб зробити це рішення повністю безкоштовним для спільноти відкритого програмного забезпечення, тоді як корпоративні клієнти можуть легко направляти своїх агентів через існуючі комерційні ліцензійні середовища JFrog.
Нова технічна можливість, що стала можливою завдяки цьому партнерству, доповнює попередні кроки NanoCo. Компанія вже додала діалоги дозволів до додатків, де вона доступна, через співпрацю з Vercel, а також уклала нову угоду з Docker, що дозволяє агентам NanoClaw працювати безпечніше, ізольовано від інших програмних середовищ безпосередньо всередині віртуальних контейнерів Docker.
Ризик поточних персональних автономних AI-агентів
Коли оператор взаємодіє з автономною системою, такою як NanoClaw від NanoCo, комунікація відбувається на високому рівні абстракції.
Користувач може просто надіслати аудіофайл або голосове повідомлення, спонукаючи агента самостійно визначити, як його обробити.
Як пояснив Коен, агент думає: «О, я не можу розпізнати голосові повідомлення, тому я піду знайду пакет, завантажу його, встановлю, налаштую та запущу».
Таке динамічне самовдосконалення робить AI-агентів надзвичайно потужними, але водночас робить їх дуже вразливими до атак на ланцюг постачань програмного забезпечення. Зловмисники все частіше “отруюють” репозиторії відкритого коду шкідливими пакетами. Оскільки агенти діють автономно, завантажуючи необхідне, вони оминають людську перевірку. Оператори, які можуть навіть не бути розробниками, здебільшого не усвідомлюють прихованих загроз безпеці.
Як NanoCo та JFrog запобігають виконанню агентами шкідливого коду
Інтеграція між NanoCo та JFrog діє як автоматизована імунна система для цих AI-середовищ.
За своєю суттю, агенти NanoClaw тепер налаштовані направляти свої запити на програмні пакети, інструменти командного рядка (CLI) та сервери протоколу контексту моделі (MCP) виключно через репозиторії JFrog.
Якщо агент намагається завантажити скомпрометовану бібліотеку — наприклад, вразливу версію популярного пакету Axios — репозиторій JFrog перехоплює запит.
Він блокує встановлення, повертаючи агенту помилку політики безпеки, вказуючи, що запит був «відхилений репозиторієм JFrog з політикою безпеки 403».
Важливо, що система не просто зупиняє загрозу; вона створює динамічний цикл корекції. Агента сповіщають про уразливість і направляють на автоматичний пошук та встановлення схваленої, нешкідливої версії запитуваного пакету.
Для великих організацій ця інтеграція вирішує величезну проблему відповідності нормативним вимогам. Мардер зазначає, що з поширенням автономних агентів в корпоративному середовищі виникає потреба в абсолютній прозорості. «Нам потрібна система записів, місце для відстеження того, які агенти працюють, ким, споживаючи які пакети, використовуючи які навички та які MCP», — сказав він VentureBeat.
Окрім прозорості, інтеграція з JFrog забезпечує фундаментальний «рівень довіри» та суворе управління тим, до чого ці автоматизовані системи мають доступ.
Ліцензування та доступність
У сфері розповсюдження програмного забезпечення ліцензійні умови та параметри доступу визначають рівень впровадження. Партнерство NanoCo та JFrog використовує двоступеневий підхід для обслуговування як окремих розробників відкритого коду, так і компаній, що працюють у суворо регульованих галузях.
Для спільноти відкритого програмного забезпечення інтеграція є абсолютно безкоштовною. JFrog надає користувачам відкритого NanoClaw безкоштовний доступ до безпечних, перевірених джерел артефактів, інструментів та навичок. Це дозволяє індивідуальним розробникам запускати автономних агентів локально, не перевантажуючись ручними запитами на дозвіл для кожної залежності. Крім того, коли члени спільноти створюють та діляться новими «навичками» для агентів, ці внески завантажуються до репозиторію, скануються на наявність шкідливого коду та очищаються, перш ніж хтось інший зможе їх використати. Така інфраструктура безпосередньо нейтралізує загрозу «отруєних» репозиторіїв спільноти.
Для корпоративних розгортань архітектура безшовно інтегрується в існуюче комерційне середовище організації. Замість використання публічного репозиторію відкритого коду, корпоративні користувачі спрямовують своїх агентів NanoClaw до власних внутрішніх репозиторіїв JFrog. Це гарантує, що вся діяльність агентів відповідає конкретним комерційним ліцензіям компанії, внутрішнім політикам безпеки, потребам у прозорості та стандартам управління.
Оскільки штучний інтелект продовжує стирати межу між людським наміром та машинним виконанням, інфраструктура, що забезпечує безпеку цього виконання, має еволюціонувати. Це партнерство визнає ключову реальність: ви не можете навчити ШІ бездоганно розпізнавати кожну вразливість нульового дня; натомість, ви повинні створити середовище, де агент просто не зможе досягти цієї вразливості.
Як захиститися (Порада CryptoDom): Щоб уникнути ін’єкцій шкідливого коду в AI-агенти, завжди використовуйте централізовані, перевірені репозиторії програмного забезпечення. Для користувачів відкритого коду це може бути JFrog Artifactory Community Edition, а для корпорацій — комерційні версії з посиленим контролем доступу та скануванням на вразливості.
Оригінал статті: venturebeat.com