Дослідники продемонстрували черв’яка на базі ШІ, який адаптується до цілей, генерує стратегії атак та поширюється мережами без хмарних сервісів.
Нові дослідження попереджають, що досягнення в галузі агентів штучного інтелекту (ШІ) можуть відкрити двері для нової кіберзагрози: адаптивних комп’ютерних черв’яків, здатних на льоту генерувати стратегії атак та автономно поширюватися мережами.
У статті, підготовленій дослідниками з Університету Торонто, Інституту Вектора, Кембриджського університету та ServiceNow, описується концепція черв’яка на базі ШІ. Він може виявляти вразливості, розробляти індивідуальні шляхи атак, компрометувати системи та самостійно розмножуватися в мережі, адаптуючи свою тактику до різних цілей.
«Ми повинні підготуватися до автономних генеративних супротивників», — пишуть дослідники. «Шкідливі програми, які поширюються без участі людини-оператора і визначаються не фіксованим кодом експлойту, а здатністю аналізувати цілі, адаптуватися до спостережень та синтезувати логіку атаки в реальному часі».
Комп’ютерний черв’як — це шкідливе програмне забезпечення, яке самостійно розмножується і автоматично поширюється вразливими мережами. Спалахи черв’яків, такі як шкідливе програмне забезпечення ILOVEYOU у 2000 році та WannaCry у 2017 році, заразили мільйони комп’ютерів по всьому світу, порушивши критично важливі служби та завдавши збитків на мільярди доларів.
Нещодавно шкідливе програмне забезпечення Shai-Hulud продемонструвало, як самопоширювані атаки можуть поширюватися в Інтернеті, заражаючи програмне забезпечення, яке використовується великими компаніями, включаючи OpenAI та Mistral.
Згідно з новим дослідженням, дослідники зазначають, що відмінність їхнього черв’яка на базі ШІ від попередніх версій полягає в його здатності адаптуватися до різних цілей. Він використовує велику мовну модель (LLM) для виявлення вразливостей та генерації стратегій атак у реальному часі, замість того, щоб покладатися на фіксований набір експлойтів.
«Традиційні черв’яки, як WannaCry, використовували заздалегідь визначені вразливості, і їхнє поширення можна було зупинити, виправивши ці вразливості», — пишуть вони. «Тут ми показуємо, що агенти штучного інтелекту створюють принципово нову загрозу: черв’як, який генерує індивідуальні стратегії атак для кожної цілі, з якою він стикається».
У дослідженні команда протестувала черв’яка в ізольованій віртуальній мережі, що містила 33 системи Linux, Windows та IoT з поширеними вразливостями. За 15 експериментів черв’як виявив у середньому 31,3 вразливості, успішно скомпрометував 23,1 хост і поширився приблизно на 20 машин протягом семи днів автономної роботи.
У деяких тестах, як зазначено в дослідженні, шкідливе програмне забезпечення змогло досягти семи поколінь саморозмноження. На відміну від багатьох застосунків ШІ, черв’як не залежав від доступу до хмарних сервісів ШІ.
Замість того, щоб покладатися на хмарну інфраструктуру від постачальників, таких як AWS, Microsoft Azure або Google Cloud, шкідливе програмне забезпечення запускало моделі ШІ безпосередньо на скомпрометованих машинах. Під час поширення заражені системи фактично ставали частиною його обчислювальної інфраструктури.
Дослідники також виявили, що система може використовувати вразливості, виявлені після дати відсікання знань моделі, шляхом прийому новоопублікованих рекомендацій з безпеки під час виконання. Це дозволило їй інтегрувати інформацію, яка не була частиною початкових даних для навчання моделі.
Хоча тестування проводилося в контрольованому середовищі, автори визнали подвійне використання роботи і навмисно утрималися від деяких технічних деталей, щоб зменшити ризик зловживання.
«Перед випуском цього препринта ми відредагували рукопис, щоб представити наш метод, збалансувавши глибину деталей, необхідних для спільноти для вивчення цієї нової загрози, з ризиком того, що зловмисник може використовувати наш метод для створення шкідливого програмного забезпечення», — заявили вони.
Незважаючи на це, дослідники заявили, що проєкт призначений для кращого розуміння ризиків, пов’язаних з адаптивними комп’ютерними черв’яками, та надання доказів прогресу кіберможливостей на основі ШІ.
«Вирішення цієї загрози вимагатиме скоординованих дій між дослідницькою спільнотою, спільнотою безпеки, промисловістю та політиками: створення систем оцінки, які тестують можливості на рівні збірки, систем виявлення, налаштованих на поведінкові сигнатури автономних агентів, та регуляторних заходів, які враховують децентралізований характер виведення на основі відкритих моделей», — написали вони.
Погляд Crypto Top: Інтеграція адаптивних ШІ-агентів безпосередньо в мережу заражених пристроїв може призвести до появи децентралізованих, самокерованих кіберзагроз. Це вимагатиме від блокчейн-проєктів розробки інноваційних механізмів безпеки, що спираються на децентралізовані обчислення та смарт-контракти для виявлення та протидії подібним атакам.
Джерело: decrypt.co