Створіть обліковий запис, щоб зберегти свої статті.Додати в GoogleДодайте Decrypt як ваше улюблене джерело, щоб бачити більше наших історій у Google.
Коротко
- Амодеї стверджує, що епоха регулювання ШІ, орієнтованого на прозорість, закінчилася, і США потребують обов’язкових вимог до тестування моделей-першопрохідців, подібних до FAA.
- Есе закликає до обов’язкового стороннього тестування за чотирма категоріями ризиків: кібербезпека, біологічна зброя, втрата контролю над ШІ та автоматизовані дослідження та розробки.
- Anthropic випускає законодавчу пропозицію щодо тестування моделей-першопрохідців та політичну рамку щодо заміщення робочих місць поряд з есе.
Генеральний директор Anthropic Даріо Амодеї заявив у середу, що уряди більше не можуть розглядати регулювання ШІ як проблему для вивчення, і що Сполученим Штатам потрібні обов’язкові вимоги безпеки для найпотужніших моделей ШІ.
В есе під назвою “Політика щодо експоненти ШІ” Амодеї стверджує, що вимог щодо прозорості вже недостатньо, і закликає до обов’язкового регулювання передових систем ШІ.
«ШІ розвивається з блискавичною швидкістю — лише за чотири роки моделі ШІ перетворилися з нездатності написати зв’язний рядок коду до написання більшої частини коду у великих компаніях, що займаються ШІ», — написав Амодеї.
Есе Амодеї з’являється на тлі розширення Anthropic доступу до Claude Mythos із запуском Mythos 5 у вівторок — його обмеженої передової моделі ШІ для організацій кібербезпеки та урядових партнерів. Дослідники, зокрема Інститут безпеки ШІ Великобританії, виявили, що вона може самостійно виконувати складні кібератаки.
За словами Амодеї, його пропозиція запозичує регуляторну структуру, яку використовує Федеральне управління цивільної авіації (FAA).
«Передові моделі ШІ, як і літаки, повинні проходити технічне тестування та аудит, а їх випуск має бути заблокований або скасований як загроза громадській безпеці, якщо вони не відповідають високим стандартам безпеки», — написав він. «Я вдячний за те, що Виконавчий наказ адміністрації Трампа поступово рухається до більшої ролі уряду в ШІ, хоча пропозиція Anthropic рекомендує ще подальші дії».
Today I'm publishing a new essay, Policy on the AI Exponential. AI is progressing extremely fast—much faster than the policy process was built to handle. The essay lays out where I think the technology is now, and the action needed to close the gap: https://t.co/Lh6PWae178
— Dario Amodei (@DarioAmodei) June 10, 2026
Згідно з пропозицією Амодеї, регуляторна рамка вимагатиме обов’язкового стороннього тестування передових моделей ШІ, надання урядові повноважень блокувати небезпечні розгортання та вимог до компаній щодо захисту ваг моделей, проведення тестування безпеки та звітування про серйозні інциденти. Він також закликає уряди підготуватися до заміщення робочих місць, спричиненого ШІ, та досягнень у розробці ліків, обмежити нагляд та автономну зброю у внутрішніх правоохоронних органах та посилити співпрацю між демократичними країнами щодо критично важливих технологій ШІ.
«По-перше, тривале скорочення робочих місць є небажаним і небезпечним, і ми повинні зробити все можливе, щоб мінімізувати або запобігти цьому, а не сприяти йому», — написав він, посилаючись на минулі випадки, коли він попереджав про скорочення робочих місць. «По-друге, будь-яка відповідь на скорочення робочих місць, спричинене ШІ, повинна враховувати як потребу забезпечити економічно всіх, так і потребу людей знайти сенс, мету та свободу дій».
Есе також з’являється того ж тижня, коли Anthropic запустила Claude Fable 5, публічну версію Claude Mythos 5, яка перенаправляє певні запити, пов’язані з кібербезпекою, біологією, хімією та розробкою ШІ, до менш потужної Claude Opus 4.8 як запобіжник проти зловживання. Запуск викликав критику з боку розробників та дослідників щодо вищого використання токенів Fable, обов’язкових вимог до зберігання даних протягом 30 днів та запобіжних заходів, які можуть знизити можливості моделі без повідомлення користувачів.
Заклик Амодеї до змін політики щодо розробки ШІ також з’являється на тлі підготовки Anthropic до виходу на біржу. На початку цього місяця компанія подала документи до Комісії з цінних паперів та бірж США для первинного публічного розміщення акцій (IPO) після залучення раунду Series H на суму 65 мільярдів доларів за оцінкою 965 мільярдів доларів.
Хоча Амодеї представив проблему як гонку між технологічним прогресом та державною політикою, критики ставлять під сумнів, чи справді заклики до суворішого регулювання ШІ служать суспільному благу. У квітні генеральний директор OpenAI Сем Альтман звинуватив Anthropic у використанні “маркетингу страху” для просування Claude Mythos, стверджуючи, що занепокоєння щодо передового ШІ може бути використане для виправдання концентрації контролю над технологією серед невеликої кількості компаній.
«Ви можете виправдати це різними способами, і частина цього є реальною, оскільки будуть законні проблеми з безпекою», — сказав Альтман. «Але якщо ви хочете отримати щось на кшталт “нам потрібен контроль над ШІ, лише ми, тому що ми — надійні люди”, я думаю, що маркетинг страху, ймовірно, є найефективнішим способом це виправдати».
Амодеї відкинув ідею, що занепокоєння щодо передового ШІ є головним чином проблемою громадських зв’язків, натомість стверджуючи, що страхи щодо технології відображають законні занепокоєння, які необхідно вирішити.
«Люди турбуються про ШІ, тому що вони правильно сприймають, що його ризики є реальними, а не тому, що генеральні директори ШІ були недостатньо панглоссіанцями», — сказав він, посилаючись на вигаданого філософа Панглосса з «Кандида» Вольтера, відомого тим, що незмінно оптимістично стверджував, що все найкраще, незалежно від обставин.
«Я вважаю своїм обов’язком як лідера у сфері ШІ продовжувати бути прозорим щодо цих ризиків, а громадське занепокоєння у відповідь на цю прозорість є демократичною підзвітністю, що працює належним чином», — сказав він.
Погляд Crypto Top: Впровадження жорстких протоколів безпеки для ШІ-моделей, подібних до авіаційних стандартів, може стимулювати розробку децентралізованих систем верифікації, де блокчейн може відігравати ключову роль у забезпеченні прозорості та безпеки. Це може призвести до появи нових токенізованих екосистем, де безпека та надійність ШІ стають основними активами.
Джерело: decrypt.co