Штучний інтелект та блокчейн: Синергія, що змінює майбутнє
Компанія Anthropic, розробник моделі штучного інтелекту (ШІ) Claude, нібито інтегрувала своїх інженерів до Агентства національної безпеки (NSA) США для проведення наступальних кібероперацій. Це викликає серйозні питання щодо безпеки та етичного використання передових ШІ-технологій. Паралельно, Anthropic опублікувала доповідь, яка попереджає про потенційну можливість ШІ самостійно покращуватися без участі людини.
Ключові аспекти:
- Anthropic, за повідомленнями, надала приблизно шістьох інженерів Агентству національної безпеки (NSA) для розгортання своєї найпотужнішої ШІ-моделі Mythos для наступальних кібероперацій, що потенційно включає атаки на мережі в Китаї та Ірані.
- Компанія також висловила занепокоєння щодо наближення ШІ до рекурсивного самовдосконалення та закликала до узгодженого глобального механізму призупинення розвитку.
- Ці події відбуваються на тлі подання Anthropic заявки на IPO, оцінка якого може перевищити 1 трильйон доларів.
Інтеграція ШІ у кібербезпеку та автономність
За даними Financial Times, Anthropic розмістила близько шести інженерів у структурі Агентства національної безпеки США. Ці фахівці займаються кастомізацією моделі Mythos для конкретних застосувань, що може включати проникнення в мережі інших держав. Хоча підтвердження безпосередньої участі інженерів у активних операціях відсутнє, сам факт використання моделі, яку Anthropic не випускає публічно через ризик зловживання, викликає занепокоєння. Mythos доступна лише перевіреним партнерам через програму Project Glasswing, до якої входять такі гіганти, як Microsoft, Apple та Amazon. Цікаво, що Anthropic також перебуває у судовому процесі з Пентагоном. Після розірвання контракту на 200 мільйонів доларів, міністр оборони США назвав компанію ризиком для ланцюга поставок. Причиною стала відмова Anthropic дозволити Міністерству оборони використовувати Claude для повністю автономної зброї або масового внутрішнього стеження. Контракт з NSA, однак, був звільнений від цих обмежень.
Рекурсивне самовдосконалення ШІ: Страхи та реальність
Одночасно з новинами про співпрацю з NSA, дослідницький інститут Anthropic опублікував доповідь “Коли ШІ створює себе сам” (When AI Builds Itself). У ній розглядається прогрес моделі Claude в автоматизації власної розробки. Компанія виступає за глобальний мораторій на гонку озброєнь у сфері ШІ, порівнюючи ситуацію з угодами про ядерне озброєння часів Холодної війни. Аналіз показує, що модель Claude вже пише понад 80% коду, який інтегрується до продуктивної кодової бази Anthropic. Це значний стрибок порівняно з попередніми показниками. Інженери компанії тепер постачають приблизно у вісім разів більше коду на день, ніж у 2024 році.
Найбільш вражаючий висновок дослідження: агенти Claude, отримавши завдання з безпеки ШІ (чи може слабша модель надійно контролювати сильнішу), показали надзвичайну ефективність. За декілька тижнів роботи вони надолужили 97% розриву в продуктивності, тоді як люди-дослідники змогли відновити лише 23%. Це перший опублікований випадок, коли Claude продемонстрував дослідницьку ініціативу, а не просто виконання поставлених завдань. Саме ця здатність ШІ самостійно визначати напрямок досліджень, а не лише виконувати команди, викликає найбільші побоювання. Це може призвести до того, що люди втратять контроль над процесом розробки, а незначні розбіжності в цілях моделей можуть накопичуватися протягом поколінь самовдосконалення, стаючи незворотними.
Пропозиції щодо контролю та майбутнє
Anthropic пропонує створити верифікований глобальний механізм призупинення розробки ШІ, який передбачає одночасне припинення роботи провідних лабораторій з незалежною верифікацією. Компанія готова долучитися до такого механізму, але визнає, що одностороннє уповільнення лише надасть перевагу тим, хто продовжить розробку. Історія показує, що компанії, які попереджають про небезпеку ШІ, водночас є лідерами його розробки та комерціалізації. Це створює циклічну проблему: прибутковість технології спонукає до її розвитку, незважаючи на потенційні ризики. Попередні заклики до призупинення розвитку, як-от відкритий лист від сотень фахівців у 2023 році або звернення щодо ChatGPT, не призвели до реальних змін. Очікується, що IPO Anthropic та рішення щодо її використання у Пентагоні привернуть ще більше уваги до цих питань.
Погляд Crypto Top: Інтеграція потужних ШІ-моделей у кібербезпеку та їхній потенціал до самовдосконалення можуть стимулювати розвиток децентралізованих обчислювальних мереж і ШІ-орієнтованих блокчейн-проектів (наприклад, FET, TAO) для забезпечення прозорості та безпеки таких операцій. Це також може призвести до створення нових токен-утиліт, пов’язаних з управлінням ШІ-агентами та доступом до обчислювальних ресурсів.
Джерело: decrypt.co