Ера прозорості в регулюванні ШІ добігає кінця: заклик до обов’язкового тестування передових моделей
Створіть обліковий запис, щоб зберегти свої статті.Додати в GoogleДодайте Decrypt як джерело за замовчуванням, щоб бачити більше наших історій у Google.
Ключові моменти
Амодеї стверджує, що епоха регулювання ШІ, орієнтованого на прозорість, закінчилася, і США потребують обов’язкових вимог до тестування передових моделей, подібних до системи Федерального управління цивільної авіації (FAA).
У своїй статті він закликає до обов’язкового незалежного тестування за чотирма категоріями ризиків: кібербезпека, біологічна зброя, втрата контролю над ШІ та автоматизовані дослідження й розробки.
Anthropic також публікує законодавчу пропозицію щодо тестування передових моделей та політичну рамку для вирішення проблеми витіснення робочих місць.
Генеральний директор Anthropic Даріо Амодеї заявив у середу, що уряди більше не можуть розглядати регулювання ШІ як проблему для вивчення, і що Сполученим Штатам необхідні обов’язкові вимоги безпеки для найпотужніших моделей штучного інтелекту.
У своїй статті під назвою “Політика щодо експоненти ШІ” Амодеї стверджує, що вимог до прозорості вже недостатньо, і закликає до обов’язкового регулювання передових систем ШІ.
«ШІ розвивається блискавичними темпами — лише за чотири роки моделі ШІ пройшли шлях від нездатності написати зв’язний рядок коду до написання більшої частини коду у великих компаніях, що займаються ШІ», — написав Амодеї.
Стаття Амодеї з’явилася на тлі розширення Anthropic доступу до Claude Mythos із запуском Mythos 5 у вівторок — його обмеженої передової моделі ШІ для організацій кібербезпеки та урядових партнерів. Дослідники, зокрема Британського інституту безпеки ШІ, виявили, що вона може автономно виконувати складні кібератаки.
За словами Амодеї, його пропозиція запозичує регуляторну структуру, яку використовує Федеральне управління цивільної авіації США (FAA).
«Передові моделі ШІ, як і літаки, повинні проходити технічне тестування та аудит, а їх випуск має бути заблоковано або скасовано як загроза громадській безпеці, якщо вони не відповідають високим стандартам безпеки», — написав він. «Я вдячний за те, що виконавчий наказ адміністрації Трампа поступово рухається до більшої ролі уряду в ШІ, хоча пропозиція Anthropic рекомендує ще подальші дії».
Today I'm publishing a new essay, Policy on the AI Exponential. AI is progressing extremely fast—much faster than the policy process was built to handle. The essay lays out where I think the technology is now, and the action needed to close the gap: https://t.co/Lh6PWae178
— Dario Amodei (@DarioAmodei) June 10, 2026
Згідно з пропозицією Амодеї, регуляторна рамка вимагатиме обов’язкового незалежного тестування передових моделей ШІ, надання урядові повноважень блокувати небезпечні розгортання, а також зобов’язань для компаній щодо забезпечення захисту ваг моделей, проведення тестування безпеки та повідомлення про серйозні інциденти. Він також закликає уряди підготуватися до витіснення робочих місць, спричиненого ШІ, та до досягнень у розробці ліків, обмежити використання систем спостереження та автономної зброї у внутрішніх правоохоронних органах, а також зміцнити співпрацю між демократичними країнами щодо критично важливих технологій ШІ.
«По-перше, тривале витіснення робочих місць є небажаним і небезпечним, і ми повинні зробити все можливе, щоб мінімізувати або запобігти йому, а не сприяти йому», — написав він, посилаючись на минулі випадки, коли попереджав про витіснення робочих місць. «По-друге, будь-яка відповідь на витіснення робочих місць, спричинене ШІ, повинна враховувати як потребу забезпечити всіх економічно, так і потребу людей знаходити сенс, мету та дієвість».
Стаття також з’явилася того ж тижня, коли Anthropic запустила Claude Fable 5 — версію Claude Mythos 5, доступну для громадськості. Вона перенаправляє певні запити, що стосуються кібербезпеки, біології, хімії та розробки ШІ, до менш потужної моделі Claude Opus 4.8 як запобіжний захід проти зловживань. Запуск викликав критику з боку розробників та дослідників щодо вищого споживання токенів Fable, обов’язкового 30-денного терміну зберігання даних та запобіжних заходів, які можуть знизити можливості моделі без повідомлення користувачів.
Заклик Амодеї до змін у політиці розробки ШІ також збігається з підготовкою Anthropic до виходу на публічний ринок. На початку цього місяця компанія подала документи до Комісії з цінних паперів та бірж США (SEC) для первинного публічного розміщення акцій (IPO) після залучення коштів від раунду Series H на суму 65 мільярдів доларів при оцінці 965 мільярдів доларів.
Хоча Амодеї представляв проблему як гонку між технологічним прогресом та державною політикою, критики ставлять під сумнів, чи дійсно заклики до суворішого регулювання ШІ служать суспільному благу. У квітні генеральний директор OpenAI Сем Альтман звинуватив Anthropic у використанні “маркетингу страху” для просування Claude Mythos, стверджуючи, що занепокоєння щодо передового ШІ може бути використано для виправдання концентрації контролю над технологіями в руках невеликої кількості компаній.
«Ви можете виправдати це багатьма різними способами, і деякі з них реальні, оскільки будуть законні проблеми безпеки», — сказав Альтман. «Але якщо ваша мета — це «нам потрібен контроль над ШІ, тільки ми, тому що ми — надійні люди», то, на мою думку, маркетинг страху — це, ймовірно, найефективніший спосіб це виправдати».
Амодеї відкинув ідею про те, що занепокоєння щодо передового ШІ є переважно PR-проблемою, стверджуючи натомість, що страхи щодо технології відображають законні проблеми, які необхідно вирішити.
«Люди стурбовані ШІ, тому що вони правильно сприймають, що його ризики реальні, а не тому, що генеральні директори ШІ були недостатньо панглосіанськими», — сказав він, посилаючись на вигаданого філософа Панглоса з “Кандида” Вольтера, відомого своїм непохитним оптимізмом, що все найкраще, незалежно від обставин.
«Я вважаю своїм обов’язком як лідера у сфері ШІ продовжувати бути відвертим щодо цих ризиків, а суспільне занепокоєння у відповідь на цю прозорість є проявом демократичної підзвітності, що працює належним чином», — сказав він.
Погляд Crypto Top: Запровадження обов’язкового тестування безпеки для передових моделей ШІ може створити нові можливості для децентралізованих платформ перевірки, потенційно підвищуючи попит на токени, які забезпечують такі послуги. Зростання складності та потенційних ризиків ШІ також може прискорити інтеграцію смарт-контрактів для автоматизації дотримання нормативних вимог та управління ризиками в екосистемі Web3.
