Обмеження доступу до потужних кібербезпекових можливостей ШІ
OpenAI та Anthropic впроваджують суворі обмеження на доступ до своїх найпотужніших інструментів кібербезпеки, надаючи їх виключно перевіреним організаціям. Ця тенденція свідчить про переосмислення стратегій розповсюдження передових технологій штучного інтелекту.
OpenAI приєднується до Anthropic у рішенні обмежити доступ до своїх найпотужніших розробок у сфері кібербезпеки, що базуються на штучному інтелекті. Згідно з новими звітами, передові моделі та продукти стають занадто ризикованими для загального випуску. Цей крок свідчить про перехід до моделі закритого, контрольованого доступу для найсучасніших ШІ-рішень.
Ініціативи контрольованого доступу
OpenAI розробляє продукт для кібербезпеки, який планується випускати виключно через програму “Trusted Access for Cyber”. Ця програма, анонсована в лютому, передбачає контрольоване розгортання, що обмежує доступ до певних продуктів для широкої публіки та надає їх лише операторам із захисту безпеки. Компанія запустила програму після випуску GPT-5.3-Codex, свого найпотужнішого наразі інструменту для кібербезпеки, надаючи учасникам доступу API-кредити на суму 10 мільйонів доларів.
Новина з’явилася на тлі зростаючого занепокоєння серед експертів з кібербезпеки щодо потенціалу все більш потужних ШІ-продуктів, здатних перевантажити існуючі системи. Нещодавно Anthropic сама була стривожена своєю розробкою — моделлю Claude Mythos. Компанія заявила, що Mythos є її найпотужнішою моделлю ШІ, яка виявилася настільки ефективною у виявленні вразливостей безпеки (zero-day у всіх основних операційних системах і браузерах), що було вирішено надавати до неї доступ лише обраній групі організацій.
Ризики передових моделей ШІ
Anthropic наразі веде юридичну боротьбу після того, як Пентагон позначив її як ризик для ланцюга поставок через відмову компанії зняти обмеження на використання Claude для стеження та автономної зброї. Федеральні агентства посилено перевіряють протоколи безпеки компаній, що займаються ШІ, з квітня.
Причина обмежень цілком очевидна. Mythos Preview від Anthropic, який витік до офіційного запуску, продемонстрував здатність виявляти “десятки тисяч вразливостей”, які навіть досвідчені дослідники безпеки ледь могли знайти. Модель описується як “надзвичайно автономна” і здатна міркувати з витонченістю старшого спеціаліста з безпеки. Така потужність, доступна будь-кому з ключем API, викликає серйозне занепокоєння у команд безпеки.
Відповіддю Anthropic став Project Glasswing — ініціатива контрольованого доступу, яка надає Mythos Preview лише перевіреним організаціям, включаючи Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Linux Foundation, Microsoft, Nvidia, Palo Alto Networks та приблизно 40 інших учасників, що підтримують критичну інфраструктуру.
Стратегічне позиціонування та майбутні тренди
Рішення OpenAI обмежити доступ до таких продуктів виглядає як спроба випередити регуляторний тиск. Добровільно обмежуючи доступ до того, як це зробить державне агентство, OpenAI позиціонує себе як відповідального гравця у сфері, де Anthropic зазнає критики.
Обмеження також відображають глибші міркування, ніж просто обережність щодо однієї конкретної моделі. У звіті про безпеку Anthropic визнала, що Cybench, бенчмарк, який використовується для оцінки кіберризиків ШІ, “більше не є достатньо інформативним щодо можливостей поточних передових моделей”, оскільки Mythos повністю його пройшов. Інструмент, створений для вимірювання небезпеки, більше не відповідає рівню сучасних розробок. Anthropic додала, що загальна оцінка безпеки “передбачає суб’єктивні судження”, і багато оцінок залишають “більш фундаментальну невизначеність”.
Anthropic зобов’язалася надати до 100 мільйонів доларів у вигляді кредитів на використання та 4 мільйони доларів прямої допомоги організаціям з відкритого доступу до безпеки як частину свого розгортання. OpenAI не оголошувала про подібні зобов’язання поряд зі своєю програмою доступу. Однак обидві компанії позиціонують свої обмежені програми як чисту перевагу для захисту безпеки, стверджуючи, що надання кращих інструментів захисникам перед тим, як їх отримають зловмисники, варте компромісу в обмеженні загального доступу.
Тенденція, що формується в індустрії передових ШІ, полягає в тому, що найпотужніші моделі більше не будуть випускатися як загальнодоступні продукти. Вони будуть розповсюджуватися радше як засекречені дослідження — вибірково, за угодою, організаціям з інфраструктурою та намірами використовувати їх відповідально.
Погляд Crypto Top: Обмеження доступу до найпотужніших ШІ-моделей може стимулювати розробку децентралізованих ШІ-мереж, де токени, як FET чи TAO, стануть ключем до розподілених обчислень та доступу до функціоналу, зменшуючи залежність від централізованих вендорів.
Джерело: decrypt.co