Урядова заборона для Anthropic: нові виклики для розвитку ШІ
Уряд США випустив надзвичайний директив щодо експортного контролю, зобов’язавши компанію Anthropic негайно припинити доступ до своїх двох найпотужніших моделей штучного інтелекту — Claude Fable 5 та Claude Mythos 5. Ці моделі, випущені лише за кілька днів до цього, стали об’єктом національної безпеки через потенційну вразливість. Директива забороняє будь-яким іноземним громадянам доступ до цих моделей, незалежно від їх місцезнаходження. Широке охоплення наказу змусило Anthropic тимчасово вимкнути моделі для всіх користувачів, щоб забезпечити відповідність.
Суперечливі оцінки безпеки
Хоча уряд не надав детальних відомостей про свої побоювання щодо національної безпеки, він вважає, що виявлено метод обходу (так званий “jailbreak”) моделі Fable 5. Модель Mythos 5, яка має менше обмежень і є особливо потужною у виявленні кібербезпекових експлойтів, була доступна лише обмеженому колу партнерів. Однак Anthropic поставила під сумнів серйозність знахідки. Компанія заявила, що проаналізувала демонстрацію техніки та дійшла висновку, що виявлені вразливості є відносно простими, і що інші загальнодоступні моделі здатні їх відтворити без необхідності обходу.
Попередження про небезпечний прецедент
Anthropic стверджує, що уряд надав лише усні докази потенційного вузького, не універсального “джейлбрейку”. Компанія підтвердила, що рівень можливостей, продемонстрований у цьому випадку, вже широко доступний у конкурентних моделях, включаючи GPT-5.5 від OpenAI. Погоджуючись з директивою, Anthropic висловила занепокоєння щодо створення небезпечного прецеденту. Компанія попередила, що якщо подібний стандарт буде застосований до всієї галузі, це може зупинити розгортання всіх нових передових моделей.
Доступ до всіх інших моделей Anthropic не буде змінено. Компанія працює над відновленням доступу якомога швидше.
Суперечки щодо співпраці та безпеки
Девід Сакс, співголова Президентської ради радників з науки і техніки, припустив, що Anthropic відмовилася співпрацювати з урядом щодо вирішення проблеми безпеки, надавши пріоритет продовженню надання споживчої моделі над безпекою. За словами Сакса, уряд видав експортний контроль неохоче, здивований відсутністю співпраці з боку Anthropic у вирішенні “розумного запиту щодо безпеки”. Він зазначив, що це суперечить заявам компанії про важливість безпеки ШІ та регулювання.
Минулі конфлікти та надії на вирішення
Це не перший випадок напруженості між Anthropic та урядом США. Раніше цього року компанія відмовилася підписати розширену угоду, яка дозволяла б масове внутрішнє спостереження за американцями та використання повністю автономних систем озброєння. Попри минулі розбіжності, уряд висловлює надію, що Anthropic вирішить проблему, і Fable 5 зможе повернутися до публічного випуску. Адміністрація цінує технічні можливості Anthropic і вважає, що ця проблема, хоч і серйозна, може бути легко вирішена.
Погляд Crypto Top: Урядове втручання підкреслює зростаючу актуальність безпеки ШІ, що може стимулювати розробку децентралізованих рішень для ШІ, які усувають єдині точки відмови та підконтрольність. Це також може призвести до зростання попиту на токени, що лежать в основі таких децентралізованих мереж, як FET чи TAO, оскільки вони пропонують більш стійку та захищену від цензури інфраструктуру для ШІ-моделей.
Джерело: decrypt.co