Представники Університету Торонто, Vector Institute, Кембриджського університету та ServiceNow розробили прототип самоадаптивного комп’ютерного хробака зі штучним інтелектом. Цей шкідливий програмний продукт здатний формувати індивідуальну тактику атаки для кожної конкретної цілі.
Згідно з дослідженням “AI Agents Enable Adaptive Computer Worms”, експеримент було проведено в ізольованому віртуальному середовищі. Прототип шкідливого ПЗ розповсюджувався мережею, що включала різноманітні системи Linux, Windows та пристрої IoT, використовуючи типові вразливості, що зустрічаються в корпоративних мережах.
Компрометовані машини слугували хробаку обчислювальною платформою для подальшого “розмірковування” та розширення свого впливу. Автори роботи зазначають, що це призводить до фактичного скасування витрат для зловмисника при зараженні нового пристрою.
За словами команди CleverHans Lab, шкідник функціонував на базі локальної мовної моделі, а не через комерційні ШІ-платформи. Розробники особливо наголосили, що вони не впроваджували стандартні антивірусні функції, які ускладнюють виявлення чи видалення шкідливого програмного забезпечення.
Схема атаки штучно-інтелектуального хробака. Джерело: CleverHans Lab.
Шкідник застосовував рекурсивний цикл “міркування”, використовував пам’ять та інструменти для адаптації стратегії атаки під конкретний пристрій. Заражені вузли з графічними процесорами (GPU) могли забезпечувати необхідні обчислювальні потужності для подальших атак на менш потужні пристрої в мережі.
Штучний інтелект використовував загальнодоступні, але все ще актуальні, вразливості, помилки в конфігурації та повторювані слабкі місця в безпеці.
Представники Університету Торонто назвали цю розробку першим прецедентом, коли загальнодоступні ШІ-моделі змогли забезпечити роботу вірусу, що динамічно змінює свою стратегію під час поширення між пристроями. Дослідження спрямоване на допомогу спільноті кібербезпеки у підготовці до подібних загроз.
Професор Девід Лай, що працює в університеті, охарактеризував цю публікацію як “тривожний сигнал” для розробників захисних систем.
Варто зазначити, що, за даними The New York Times, бурхливий розвиток генеративного ШІ спричинив значне зростання попиту на фахівців із кібербезпеки, незважаючи на загальні скорочення в технологічному секторі.