Експерти попереджають: ШІ виявляє програмні вразливості в масштабі, підвищуючи ризик швидших кібератак.
Створіть обліковий запис, щоб зберегти свої статті.Додати в GoogleДодайте Decrypt як улюблене джерело, щоб бачити більше наших історій у Google.
Коротко
- Anthropic стверджує, що їхній ШІ виявив десятки тисяч програмних вразливостей.
- Генеральний директор Даріо Амодеі попередив, що є 6-12 місяців для їх виправлення.
- Критики вважають, що ризики можуть бути перебільшені, навіть попри зростаючі проблеми безпеки.
Дискусія між генеральним директором Anthropic Даріо Амодеі та генеральним директором JPMorgan Chase Джеймі Даймоном у вівторок була зосереджена на зростаючій загрозі кібербезпеці, яку становить штучний інтелект, оскільки він виявляє вразливості швидше, ніж організації встигають їх виправляти.
Під час майже двогодинного заходу, пов’язаного з виходом Anthropic на ринок фінансових послуг, де компанія представила ШІ-агентів для таких завдань, як підготовка презентацій, аналіз прибутків та роботи з відповідності нормативним вимогам, Амодеі заявив, що є вікно від шести до дванадцяти місяців для усунення десятків тисяч недоліків, виявлених моделлю компанії Mythos, перш ніж аналогічні можливості стануть більш широко доступними.
«Небезпека полягає у величезному зростанні кількості вразливостей, кількості зламів, фінансових збитків від програм-вимагачів для шкіл, лікарень, не кажучи вже про банки», — сказав Амодеі.
Останні заяви Амодеі продовжують попередні тести з Mozilla, коли рання версія Mythos виявила 271 вразливість у браузері Firefox за один прохід, демонструючи, як ШІ може сканувати великі кодові бази значно швидше, ніж людські дослідники.
Anthropic повідомила, що модель може виявити тисячі раніше невідомих слабких місць у широко використовуваному програмному забезпеченні. Багато з них залишаються нерозкритими, оскільки їх ще не було виправлено, залишаючи невирішені проблеми.
«Якщо ми щось оголосимо до того, як це буде виправлено, тоді погані хлопці це використають», — сказав Амодеі.
У контрольованих тестах Mythos виконував багатоетапні симуляції мережевих атак без втручання людини, демонструючи здатність переходити від виявлення слабких місць до їх експлуатації.
Anthropic обмежила доступ до моделі невеликій групі партнерів у рамках Project Glasswing, прагнучи виправити вразливості до того, як подібні інструменти стануть широко доступними.
Дослідники показали, що елементи можливостей Mythos можуть бути відтворені за допомогою існуючих моделей та технік з відкритим кодом, що свідчить про те, що подібні інструменти можуть поширитися швидше, ніж очікувалося.
Ці попередження викликали скептицизм в індустрії. У квітні генеральний директор OpenAI Сем Альтман заявив, що занепокоєння щодо Mythos можуть бути перебільшені, і припустив, що Anthropic використовує «маркетинг страху» для формування ризиків та виправдання обмеження доступу до технології.
«Ви можете виправдати це багатьма різними способами, і частина цього реальна, як-от законні проблеми безпеки», — сказав Альтман. «Але якщо ваша мета — це «нам потрібен контроль над ШІ, тільки ми, тому що ми — надійні люди», я думаю, що маркетинг страху, ймовірно, найефективніший спосіб це виправдати».
Незважаючи на цю протидію та публічний конфлікт з Anthropic, уряд США, як повідомляє Axios, використовує Claude Mythos для сканування секретних мереж на наявність вразливостей та тестування своїх можливостей кібербезпеки. Хоча він не коментував тривалу судову тяганину, Амодеі заявив, що Anthropic «корисна для цієї країни».
«Я думаю, що позиція Anthropic залишається незмінною. Щодо політизації, це те, про що я говорив, — бути послідовними, систематичними та справедливими до всіх», — сказав Амодеі. «Мета законів, а не дій ad hoc, полягає в тому, щоб усі компанії, принаймні в принципі — я знаю, що на практиці це складніше — ставилися однаково, і ми повинні прагнути до цього, навіть якщо це ніколи не буде досягнуто ідеально».
Амодеі охарактеризував цей момент як вузьке вікно для дій, попереджаючи, що швидкість реакції організацій може визначити, чи загостряться ризики, чи будуть взяті під контроль.
«Це момент небезпеки, коли, якщо ми відреагуємо правильно, і я думаю, ми зробили перші кроки, то на іншому боці нас чекатиме кращий світ», — сказав Амодеі. «Залишилося лише певну кількість помилок для виявлення».
Погляд Crypto Top: Прискорене виявлення вразливостей за допомогою ШІ може стати каталізатором для розробки децентралізованих систем безпеки, що працюють на блокчейні, підвищуючи надійність смарт-контрактів. Це також стимулюватиме створення нових токенізованих економік, де винагороди за пошук та виправлення помилок будуть автоматизовано розподілятися серед учасників мережі.
Джерело: decrypt.co