Компанія Anthropic стверджує, що оператори, пов’язані з Alibaba, використали майже 25 000 шахрайських облікових записів для генерації 28,8 мільйонів взаємодій з Claude.
Створіть обліковий запис, щоб зберігати свої статті.Додати в GoogleДодайте Decrypt як ваше джерело за замовчуванням, щоб бачити більше наших історій у Google.
Коротко
- Anthropic стверджує, що оператори, пов’язані з Alibaba, здійснили найбільшу відому кампанію дистиляції ШІ-моделей проти Claude.
- Компанія закликає Конгрес посилити експортний контроль, розширити обмін розвідданими та накладати стягнення на компанії, що займаються великомасштабним вилученням моделей.
- Лист надходить на тлі розгляду законодавцями законопроектів, спрямованих на боротьбу з несанкціонованим доступом до передових американських ШІ-моделей.
Компанія Anthropic закликає Конгрес посилити захист від дистиляції ШІ-моделей, стверджуючи, що оператори, пов’язані з Alibaba, здійснили найбільшу відому спробу вилучити можливості з їхнього чат-бота Claude.
У листі від 10 червня до голови Комітету Сенату з банківських справ, житлових питань та міських справ Тіма Скотта та його заступника Елізабет Воррен, Anthropic стверджує, що оператори, пов’язані з Alibaba та її лабораторією ШІ Qwen, згенерували понад 28,8 мільйонів взаємодій з Claude між 22 квітня та 5 червня, використовуючи майже 25 000 «шахрайських облікових записів», тобто тих, що не представляють реальних, органічних користувачів.
Ці операції, відомі як атаки дистиляції, були спрямовані на можливості агентського міркування, розробки програмного забезпечення та довгострокового планування Claude. Це дозволило конкурентам відтворити передову поведінку моделі без витрат на навчання нової ШІ-системи.
«Окрім масштабу, ця кампанія вразила своєю зухвалою природою», — написала Anthropic. «Alibaba зареєстрована на Нью-Йоркській фондовій біржі, має ділові операції в Сполучених Штатах і підзвітна американським інвесторам та регуляторам».
Anthropic заявила, що кампанія виходить за межі питань інтелектуальної власності, розглядаючи великомасштабну дистиляцію моделей як проблему національної безпеки, яка може прискорити розвиток військових та кібернетичних ШІ-можливостей Китаю, одночасно скорочуючи технологічну перевагу Сполучених Штатів.
Цей лист з’являється на тлі посилення зусиль Вашингтона із захисту лідерства США у сфері ШІ. На початку цього місяця Президент Дональд Трамп підписав виконавчий наказ про розширення ініціатив кібербезпеки на основі ШІ, відклавши його через побоювання, що це може послабити конкурентну позицію Америки щодо Китаю.
«Коли лабораторії КНР дистилюють ці можливості з американських моделей, вони отримують прибуток від американських інвестицій, не несучи витрат або ризиків, пов’язаних з навчанням передових ШІ-моделей», — написала Anthropic. «Це перевертає економічну логіку, що лежить в основі американського лідерства в галузі ШІ, перетворюючи мільярди доларів на дослідження та розробки, обчислювальні потужності та інші інвестиції США на субсидію для наших конкурентів».
Anthropic закликала законодавців розширити обмін розвідданими між розробниками передових ШІ та урядом США, уточнити антимонопольні правила, щоб дозволити компаніям ШІ обмінюватися інформацією про атаки дистиляції, посилити експортний контроль над передовими ШІ-чіпами та обчислювальними потужностями, закрити лазівки, які дозволяють китайським компаніям отримувати доступ до закордонних центрів обробки даних, і накласти стягнення на компанії, відповідальні за великомасштабне вилучення моделей.
Представник Anthropic відмовився коментувати лист, але повідомив Decrypt: «Ми вважаємо, що боротьба з загрозою незаконної дистиляції вимагає скоординованих дій між урядом та промисловістю, і ми продовжуватимемо співпрацювати з Конгресом та адміністрацією для збереження американського лідерства в галузі ШІ».
Лист також спирається на заяви Anthropic у лютому про те, що китайські розробники ШІ DeepSeek, Moonshot AI та MiniMax згенерували понад 16 мільйонів взаємодій з Claude, використовуючи приблизно 24 000 шахрайських облікових записів.
Ці заяви викликали критику з боку спостерігачів, які стверджували, що компанії ШІ покладаються на подібні методи під час навчання власних систем. Anthropic у відповідь заявила, що звичайна дистиляція є законним методом виробництва менших, дешевших моделей, тоді як несанкціоноване вилучення можливостей передових моделей через шахрайський доступ порушує її умови обслуговування.
Загальні дебати щодо дистиляції стали складнішими в останні місяці. У квітні Ілон Маск свідчив у федеральному суді, що xAI «частково» використовувала моделі OpenAI під час навчання Grok, підкреслюючи, що дистиляція є усталеною галузевою практикою — навіть тоді, коли компанії сперечаються, де закінчується законне навчання моделей, а де починається несанкціоноване вилучення.
Погляд Crypto Top: Випадки несанкціонованого доступу до ШІ-моделей та їх дистиляції підкреслюють потребу в надійних механізмах автентифікації та моніторингу в децентралізованих мережах. Це може стимулювати розробку рішень на базі блокчейну для управління доступом та відстеження використання ресурсів ШІ.
Джерело: decrypt.co