Розширення доступу до Claude Mythos: Anthropic посилює партнерство для виявлення вразливостей
Створіть обліковий запис, щоб зберегти свої статті.Додати в GoogleДодайте Decrypt як вибране джерело, щоб бачити більше наших історій у Google.
Ключові моменти
Anthropic розширює Project Glasswing, надаючи доступ до своєї потужної моделі ШІ Claude Mythos більшій кількості компаній.
Компанія нещодавно заявила, що ширший доступ клієнтів до моделей класу Mythos може з’явитися найближчими тижнями.
Дослідники та урядові агентства продовжують вивчати здатність моделі виявляти вразливості та проводити складні кібероперації.
Розширення Project Glasswing
Anthropic розширює доступ до своєї моделі ШІ Claude Mythos через Project Glasswing. Ця програма створена для того, щоб технологічні та безпекові компанії, а також уряди могли виявляти та усувати помилки й потенційні експлойти ще до публічного випуску потужної моделі.
У вівторок Anthropic повідомила, що додає приблизно 150 організацій до своєї контрольованої програми, готуючись до ширшого випуску суперечливої моделі.
Це розширення відбувається після заяви Anthropic про очікування випуску моделей класу Mythos для клієнтів “найближчими тижнями”, після завершення додаткових заходів безпеки. Новина також збігається з підготовкою Anthropic до виходу на публічний ринок (IPO) після конфіденційної подачі заявки до Комісії з цінних паперів та бірж США (SEC) у понеділок.
«Після кількох тижнів тісної співпраці з нашими партнерами з Project Glasswing, індустрією безпеки, розробниками відкритого програмного забезпечення та урядом США, ми розширюємо партнерство приблизно до 150 нових організацій», – заявили в Anthropic. «Кожна з них повинна буде відповідати нашим вимогам безпеки, перш ніж отримати доступ».
Секторна співпраця та виявлення загроз
Розширений Project Glasswing охоплює організації з критично важливих інфраструктурних секторів, включаючи енергетику, водопостачання, охорону здоров’я, зв’язок та виробництво обладнання. Anthropic зазначає, що багато нових партнерів підтримують програмне забезпечення, яке використовується урядами та сотнями мільйонів людей.
«Що спільного у всіх партнерів – це те, що успішна атака на їхню кодову базу може мати катастрофічні наслідки», – йдеться у заяві Anthropic. «Для більшості партнерів ми оцінюємо, що серйозна атака може торкнутися понад 100 мільйонів людей, з важливими наслідками як для глобальної, так і для національної безпеки».
Claude Mythos вперше став відомий широкому загалу в березні після витоку чернеток матеріалів Anthropic. За даними компанії, організації, які отримали доступ раніше, вже використали Mythos Preview для виявлення понад 10 000 програмних вразливостей високого або критичного рівня. Партнери також використовують модель для написання патчів, проведення оглядів безпеки та тестування програмного забезпечення перед випуском.
Можливості моделі викликають занепокоєння серед дослідників та урядових агентств, оскільки все більш потужні системи ШІ можуть полегшити здійснення кібератак.
Інститут безпеки ШІ Великої Британії повідомив, що Mythos автономно виконав 32-крокову симуляцію атаки на корпоративну мережу під час тестування. Mozilla заявила, що модель виявила 271 вразливість, які були виправлені у веббраузері Firefox, а стартап у сфері безпеки Calif стверджує, що попередня версія допомогла дослідникам розробити ланцюжок експлойтів, спрямований на чіпи Apple M5.
Стратегічна перевага для захисту
Anthropic пояснює розширення доступу до Mythos тим, що, на її думку, захисникам потрібні все більш потужні інструменти ШІ, перш ніж зловмисники отримають аналогічні можливості. Компанія очікує, що інші розробники випустять моделі класу Mythos протягом шести-дванадцяти місяців, потенційно без порівнянних заходів безпеки, що підвищує ймовірність частіших і менш передбачуваних кібератак.
«У майбутньому випуск передових моделей ставатиме все більш ризикованим. Можливості будуть продовжувати покращуватися в усіх доменах, включаючи ті, що, як і кібербезпека, можуть надати перевагу як нападникам, так і захисникам», – заявили в Anthropic. «Якщо ми будемо успішними, ми сподіваємося забезпечити постійну перевагу для захисників».
Anthropic не відразу відреагувала на запит про коментар від Decrypt.
З розширеним приватним доступом користувачі Myriad – платформи прогнозування від дочірньої компанії Decrypt, Dastan – втрачають впевненість у тому, що Claude Mythos буде випущено публічно до кінця червня. На момент написання статті вони оцінюють цей шанс лише у 26,5%, порівняно з піковим показником 58,5% минулого тижня.
Погляд Crypto Top: Розширення доступу до потужних моделей ШІ, таких як Claude Mythos, у рамках контрольованих програм може стимулювати розвиток децентралізованих обчислень та ШІ-орієнтованих смарт-контрактів. Це потенційно призведе до появи нових токенів, що відслідковують використання або безпеку цих передових ШІ-систем.
