Anthropic розширить доступ до своїх потужних моделей ШІ Claude Mythos
Створіть обліковий запис, щоб зберігати статті.Додати в GoogleДодайте Decrypt як джерело за вашим вибором, щоб бачити більше наших історій у Google.
Коротко
- Anthropic повідомила, що очікує надати доступ до своєї моделі ШІ Claude Mythos клієнтам “протягом наступних тижнів” після завершення додаткових тестів.
- Claude Mythos викликала занепокоєння після того, як дослідники виявили, що вона може автономно ідентифікувати вразливості та здійснювати складні кібератаки.
- Anthropic обмежила доступ до Claude Mythos через свою програму Project Glasswing.
Anthropic заявила в четвер, що очікує розширити доступ до своїх моделей ШІ Claude Mythos “протягом наступних тижнів”, сигналізуючи про те, що компанія може незабаром вийти за межі суворо обмеженого розгортання системи, орієнтованої на кібербезпеку.
“Ми робимо швидкий прогрес у розробці цих заходів безпеки та очікуємо, що зможемо надати моделі класу Mythos усім нашим клієнтам протягом наступних тижнів”, – заявила Anthropic поряд із анонсом випуску нової моделі Opus 4.8.
Це найчіткіша на сьогодні заява Anthropic про те, що ширша доступність Mythos знаходиться в розробці, після місяців попереджень від дослідників, урядів та експертів з кібербезпеки щодо можливостей моделі.
Anthropic не уточнила, які заходи безпеки ще потрібно завершити перед ширшим розгортанням Mythos, або чи отримають усі клієнти однаковий рівень доступу після того, як модель стане більш доступною.
Anthropic не надала негайних коментарів на запит видання Decrypt.
Користувачі Myriad – платформи прогнозних ринків, керованої материнською компанією Decrypt, Dastan – все більше схиляються до думки, що модель буде випущена до кінця червня, надаючи цій можливості 44% шансів на момент написання. Це зростання з 17,5% вранці.
Claude Mythos вперше з’явилася в березні після витоку чернеток матеріалів Anthropic в Інтернеті. Тоді Anthropic описала Mythos як “найпотужнішу ШІ-модель, яку ми коли-небудь розробляли”, позиціонуючи її як новий рівень вище за передові моделі компанії Opus.
“Хоча Mythos наразі значно випереджає будь-яку іншу ШІ-модель у кіберможливостях, вона передбачає майбутню хвилю моделей, які можуть експлуатувати вразливості так, що значно випереджають зусилля захисників”, – написала компанія.
З того часу Anthropic обмежила доступ до Mythos через Project Glasswing, програму, яка надає вибірковим технологічним компаніям, дослідникам безпеки та державним партнерам контрольований доступ до моделі.
Компанія стверджувала, що Mythos може допомогти захисникам виявляти та виправляти вразливості програмного забезпечення до того, як їх експлуатують зловмисники. Однак дослідники безпеки та урядові агентства попереджали, що ті ж можливості можуть прискорити кібератаки.
Ці побоювання посилилися після того, як Інститут безпеки ШІ Великої Британії виявив, що Mythos може автономно завершити 32-етапну симуляцію атаки на корпоративну мережу під час тестування. У квітні Mozilla заявила, що Mythos виявила 271 вразливість у Firefox під час внутрішніх оцінок безпеки. На початку цього місяця стартап у галузі безпеки Calif стверджував, що попередній версія моделі Mythos допомогла дослідникам розробити ланцюжок експлойтів, націлений на чипи Apple M5 Mac.
Модель також стала частиною ширшої дискусії в індустрії ШІ щодо того, як слід випускати передові системи, і чи використовують розробники ШІ страх перед “апокаліпсисом ШІ” для просування своїх продуктів.
Під час інтерв’ю подкасту “Core Memory” минулого місяця генеральний директор OpenAI Сем Альтман звинуватив Anthropic у використанні “маркетингу, заснованого на страху”, стверджуючи, що попередження про ризики кібербезпеки можуть стати виправданням для обмеження доступу до потужних систем ШІ.
Погляд Crypto Top: Розширення доступу до таких потужних ШІ-моделей, як Claude Mythos, підкреслює зростаючу інтеграцію передових алгоритмів машинного навчання з децентралізованими обчислювальними мережами, що потенційно може призвести до появи нових децентралізованих ШІ-агентів та токенізованих екосистем.
Джерело: decrypt.co