Новий стандарт розрахунків для агентів ШІ: ескроу та андеррайтинг
З розвитком штучного інтелекту (ШІ) та його інтеграцією в процеси, що вимагають фінансових транзакцій, виникає нагальна потреба в механізмах, які б гарантували безпеку користувачів. Нещодавно запропонований “Агентний стандарт ризиків” (Agentic Risk Standard) має на меті вирішити цю проблему, розділяючи завдання ШІ-агентів на два типи: ті, що потребують лише комісії за послуги, та ті, що пов’язані з обігом коштів.
Цей новий підхід передбачає впровадження ескроу-рахунків для простих завдань, де ризик для користувача обмежується сплатою комісії. Платежі будуть утримуватися на ескроу до моменту підтвердження виконання роботи. Для більш ризикованих операцій, які вимагають попереднього вивільнення коштів, таких як фінансові угоди чи обмін валют, стандарт передбачає залучення андеррайтерів.
Роль андеррайтерів у транзакціях ШІ
Андеррайтери відіграватимуть ключову роль у забезпеченні безпеки складних транзакцій, що виконуються ШІ-агентами. Вони будуть оцінювати потенційні ризики, вимагатимуть від постачальників послуг надання застави, а також відшкодовуватимуть збитки користувачам у разі настання страхового випадку, тобто недотримання умов угоди ШІ-агентом.
Автори дослідження, серед яких представники Microsoft, Google DeepMind, Columbia University та стартапів Virtuals Protocol і t54.ai, наголошують, що поточні методи безпеки ШІ не враховують фінансові ризики, які покладаються на людину, коли її ШІ-агент припускається помилки. Тому потрібні нові підходи, подібні до тих, що використовуються у страхуванні.
Виклики та симуляції
У ході симуляцій, проведених дослідниками, впровадження андеррайтингу дозволило зменшити збитки користувачів до 61%. Однак, відсутність премій за нульовий ризик призвела до неплатоспроможності андеррайтерів у певних сценаріях. Це підкреслює критичну важливість точної оцінки частоти збоїв. Як завищені, так і занижені показники відмов можуть створювати системні ризики.
Слід зазначити, що запропонований стандарт не охоплює нефінансові ризики, такі як “галюцинації” моделі, дифамація або психологічна шкода. Основною проблемою залишається розробка точних моделей оцінки частоти збоїв, що є ключовим для побудови стійких механізмів відшкодування.
Розробники планують подальші дослідження у напрямку моделювання ризиків для різноманітних сценаріїв збоїв, емпіричного вимірювання частоти відмов в умовах реального використання, а також розробки стратегій андеррайтингу та формування застави, які б залишалися ефективними незалежно від помилок детектора чи стратегічної поведінки учасників.
Погляд Crypto Top: Цей розвиток може кардинально змінити ландшафт Web3, інтегруючи децентралізовані фінанси (DeFi) та штучний інтелект більш безпечно. Поява механізмів, подібних до андеррайтингу, може підвищити довіру до ШІ-агентів та стимулювати зростання таких токенів, як FET та TAO, які пов’язані з децентралізованими обчисленнями та ШІ.
Джерело: decrypt.co