Створіть обліковий запис, щоб зберігати статті.Додати в GoogleДодайте Decrypt як бажане джерело, щоб бачити більше наших матеріалів у Google.
Коротко
- Даріо Амодеї заявив, що Anthropic не видалить заборони на масове внутрішнє стеження та повністю автономну зброю.
- Пентагон погрожує розірвати контракт та вжити заходів відповідно до Закону про оборонне виробництво.
- Протистояння відбувається на тлі повідомлень про використання армією США Claude для захоплення колишнього президента Венесуели Ніколаса Мадуро.
Генеральний директор Anthropic Даріо Амодеї заявив у четвер, що компанія не видалятиме захисні механізми зі своєї моделі Claude AI, ескалуючи конфлікт з Міністерством оборони США щодо використання цієї технології у секретних військових системах.
Ця заява лунає на тлі перегляду Міністерством оборони відносин з Anthropic та розгляду потенційних наслідків, включаючи розірвання контракту на 200 мільйонів доларів та можливе застосування Закону про оборонне виробництво.
«Ми не можемо з чистою совістю задовольнити їхній запит», – написав Амодеї, посилаючись на вимогу Пентагону в січні дозволити військовим «будь-яке законне використання» систем ШІ-підрядників.
Хоча Пентагон згодом вимагав від постачальників ШІ використовувати стандартну мову «будь-яке законне використання» в майбутніх угодах, Anthropic залишалася єдиною передовою ШІ-компанією, яка відмовилася передати контроль над своїм ШІ військовим.
У середу видання Axios першим повідомило, що Пентагон висунув ультиматум, який вимагає необмеженого військового використання Claude. Термін виконання, за повідомленнями, — п’ятниця цього тижня.
«Це право Департаменту обирати підрядників, які найкраще відповідають їхньому баченню», – продовжив Амодеї. «Але враховуючи значну цінність, яку технологія Anthropic надає нашим збройним силам, ми сподіваємося, що вони переглянуть своє рішення».
У своїй заяві Амодеї представив позицію компанії як таку, що узгоджується з цілями національної безпеки США.
«Я глибоко вірю в екзистенційну важливість використання ШІ для захисту Сполучених Штатів та інших демократій, і для перемоги над нашими автократичними противниками», – сказав він.
Він додав, що Claude «широко використовується в Департаменті війни та інших агентствах національної безпеки для аналізу розвідданих, моделювання та симуляції, оперативного планування, кібер-операцій тощо».
Війна з ШІ
Суперечка розгортається на тлі ширших занепокоєнь щодо поведінки передових систем ШІ у високоризикованих військових сценаріях. У нещодавньому дослідженні King’s College London моделі GPT-5.2 від OpenAI, Claude Sonnet 4 від Anthropic та Gemini 3 Flash від Google в 95% змодельованих геополітичних криз застосовували ядерну зброю.
Під час виступу на Starbase компанії SpaceX у Техасі в січні міністр оборони Піт Хегсет заявив, що збройні сили США планують розгортати найсучасніші моделі ШІ.
Того ж місяця з’явилися повідомлення про використання Claude під час операції США із захоплення колишнього президента Венесуели Ніколаса Мадуро. Амодеї спростував заяви про те, що Anthropic ставить під сумнів будь-які конкретні військові операції.
«Anthropic розуміє, що рішення щодо військових операцій приймає Департамент війни, а не приватні компанії», – сказав він. «Ми ніколи не висловлювали заперечень щодо конкретних військових операцій і не намагалися обмежувати використання наших технологій на окремій основі».
Незважаючи на це, Амодеї заявив, що використання цих систем для масового внутрішнього стеження або автономної зброї несумісне з демократичними цінностями та становить серйозні ризики.
«Сьогодні передові системи ШІ просто недостатньо надійні, щоб живити повністю автономну зброю», – сказав він. «Ми не будемо свідомо надавати продукт, який ставить під загрозу американських військових та цивільне населення».
Він також звернувся до погрози Пентагону позначити Anthropic як «ризик для ланцюга постачань», а також потенційно застосувати Закон про оборонне виробництво.
«Ці останні дві погрози є суперечливими: одна визначає нас як ризик для безпеки; інша визначає Claude як істотний для національної безпеки», – сказав він.
Хоча Амодеї заявив, що компанія не виконає запит Пентагону, водночас Anthropic переглянула свою Політику відповідального масштабування, відмовившись від зобов’язання припинити навчання передових систем без гарантованих заходів безпеки.
Роберт Вайсман, співпрезидент Public Citizen, заявив, що позиція Пентагону сигналізує про ширший тиск на технологічну індустрію.
«Пентагон публічно залякує Anthropic, і публічність є навмисною, оскільки вони хочуть чинити тиск на цю конкретну компанію і надіслати повідомлення всім великим технологічним компаніям та всім корпораціям, що ми маємо намір робити і брати все, що захочемо, і не ставати на нашому шляху», – сказав Вайсман Decrypt.
Вайсман охарактеризував запобіжники Anthropic як «скромні» та спрямовані на запобігання «неправомірного стеження за американцями або сприяння розробці та розгортанню роботи-вбивць, озброєнь на основі ШІ, які могли б наносити летальні удари без людського контролю».
«Це найрозумніші та найскромніші запобіжники, які тільки можна було придумати щодо цієї потужної нової технології».
Щодо погрози Пентагону визнати Anthropic «ризиком для ланцюга постачань», Вайсман назвав це потенційно руйнівною санкцією з боку уряду і стверджував, що це змусить інші ШІ-компанії уникати встановлення подібних обмежень.
«Окремі особи можуть використовувати Claude, але жодна з ШІ-компаній, особливо Anthropic, не має бізнес-моделей, заснованих на індивідуальному використанні; вони шукають корпоративне використання», – сказав він. «Це потенційно руйнівний штраф від уряду».
Хоча Пентагон ще не повідомив, чи планує він виконати свою погрозу розірвати контракт або застосувати Закон про оборонне виробництво, Вайсман зазначив, що Пентагон дає зрозуміти ШІ-компаніям, що він очікує необмеженого доступу до їхніх технологій після їх розгортання в урядових системах.
«Посил Пентагону такий: «ми не будемо це терпіти, і ми очікуємо мати можливість використовувати технологію в міру її розробки для будь-яких цілей, які ми хочемо», – сказав Вайсман.
Департамент оборони та Anthropic не відповіли негайно на запити Decrypt про коментар.
Погляд Crypto Top: Це протистояння підкреслює фундаментальну напругу між етичними обмеженнями ШІ та прагматичними потребами оборони, потенційно стимулюючи розвиток децентралізованих ШІ-платформ, які можуть запропонувати більшу прозорість та контроль над використанням.
Джерело: decrypt.co