Чиновники Казначейства та Федеральної резервної системи попередили банки про ризики кібербезпеки, пов’язані з новою передовою моделлю ШІ Mythos від Anthropic.
Створіть обліковий запис, щоб зберегти свої статті.Додати в GoogleДодайте Decrypt як бажане джерело, щоб бачити більше наших історій у Google.
Коротко
Високопоставлені особи США попередили великі банки про ризики кібербезпеки, пов’язані з моделлю Mythos від Anthropic, повідомляє Bloomberg.
Система, за повідомленнями, здатна виявляти та використовувати вразливості в операційних системах і браузерах.
Anthropic обмежив доступ до моделі, поки оцінює потенційні ризики безпеки.
Секретар Казначейства США Скотт Бессент та голова Федеральної резервної системи Джером Пауелл, за повідомленнями, провели зустріч з керівниками банків Уолл-стріт раніше цього тижня, щоб попередити про ризики кібербезпеки, пов’язані з новою моделлю штучного інтелекту від Anthropic.
Згідно з повідомленням Bloomberg, у зустрічі взяли участь керівники Citigroup, Bank of America, Wells Fargo, Morgan Stanley та Goldman Sachs. Чиновники обговорили нову модель ШІ Mythos від Anthropic, яка нещодавно викликала широке занепокоєння через свої передові можливості в галузі кібербезпеки.
Метою зустрічі було забезпечення розуміння банками ризиків, пов’язаних із системами, здатними виявляти та експлуатувати вразливості програмного забезпечення в операційних системах і веб-браузерах, а також спонукання установ до посилення захисту від потенційних кібератак, здійснених за допомогою ШІ, спрямованих на фінансову інфраструктуру.
Дослідники безпеки попереджають, що інструменти, здатні автоматично виявляти вразливості, можуть прискорити як оборонну роботу в галузі безпеки, так і зловмисний хакінг у разі їх неправильного використання.
Модель Mythos від Anthropic вперше з’явилася в мережі в березні після витоку чорнових матеріалів про систему. Вони розкрили, що компанія описує її як свою найпотужнішу модель ШІ на сьогодні. За повідомленнями, під час тестування система виявила тисячі раніше невідомих вразливостей програмного забезпечення, зокрема нульового дня (zero-day) в основних операційних системах і веб-браузерах.
Дослідники Anthropic заявили у звіті раніше цього тижня, що можливості Mythos Preview з виявлення вразливостей не були навмисно закладені. Вони виникли як результат загальних покращень у кодуванні, здатності до міркувань та автономності моделі.
«Ті ж покращення, які роблять модель значно ефективнішою у виправленні вразливостей, також роблять її значно ефективнішою у їх експлуатації», — зазначила компанія.
Через ці можливості Anthropic обмежив доступ до моделі невеликій групі організацій з кібербезпеки.
«З огляду на потужність її можливостей, ми свідомо підходимо до її випуску», — заявила Anthropic. «Як це є стандартною практикою в галузі, ми співпрацюємо з невеликою групою клієнтів раннього доступу для тестування моделі. Ми вважаємо цю модель значним кроком вперед і найпотужнішою, яку ми створили до цього часу».
Щоб усунути цей ризик, Anthropic тестує Mythos через Project Glasswing — співпрацю з провідними технологічними компаніями та компаніями з кібербезпеки. Цей проєкт використовує модель для виявлення та виправлення вразливостей у критичному програмному забезпеченні до того, як зловмисники зможуть їх використати.
«Project Glasswing — це лише початковий етап. Жодна окрема організація не може вирішити ці проблеми кібербезпеки самотужки», — заявила компанія. «Розробники передових ШІ, інші компанії-розробники програмного забезпечення, дослідники безпеки, утримувачі відкритого програмного коду та уряди по всьому світу відіграють важливу роль».
Anthropic не відразу відповів на запит Decrypt про коментар.
Погляд Crypto Top: Розвиток передових моделей ШІ, здатних як знаходити, так і використовувати вразливості, підкреслює нагальну потребу в децентралізованих системах безпеки та аудиту на основі блокчейну. Це може стимулювати впровадження токенізованих програм винагород за помилки та системи репутації для ШІ-агентів, що підвищить довіру та стійкість у Web3.
