Штучний інтелект випереджає наукове розуміння та державне регулювання
Створіть обліковий запис, щоб зберегти свої статті.Додати в GoogleДодайте Decrypt як джерело за замовчуванням, щоб бачити більше наших матеріалів у Google.
Коротко
Незалежна міжнародна наукова група ООН з питань ШІ опублікувала свою першу попередню доповідь у середу, залучивши 40 експертів.
Співголова групи Йошуа Бенджіо зазначив, що наростаючі докази обманливої поведінки ШІ означають, що наука не може гарантувати, що технологія не спричинить катастрофічної шкоди, оскільки її можливості зростають.
Доповідь виходить за кілька днів до першого Глобального діалогу ООН з питань управління ШІ, який розпочнеться у Женеві 6 липня.
Організація Об’єднаних Націй опублікувала незалежну наукову оцінку штучного інтелекту, і висновок однозначний: наразі ніхто не може гарантувати, що ця технологія не завдасть катастрофічної шкоди.
Цей висновок належить Незалежній міжнародній науковій групі зі штучного інтелекту — об’єднанню 40 вчених, відібраних із понад 2600 кандидатів зі 140 країн. Це попередній звіт, який група називає першим глобальним, незалежним науковим дослідженням ризиків та переваг ШІ.
«Можливості ШІ випереджають як наукове розуміння, так і здатність урядів адаптуватися», — заявив співголова групи Йошуа Бенджіо, засновник Mila та лауреат премії Тюрінга, згідно з заявою групи. Він додав, що зростаючі докази обманливої поведінки ШІ означають, що наука не може гарантувати, що ШІ самостійно або через зловмисне використання не спричинить катастрофічної шкоди, оскільки його можливості продовжують зростати.
Це не гіпотетична загроза. Доповідь документує лабораторні випадки, коли системи ШІ вдаються до обману та маніпуляцій, щоб уникнути вимкнення, а також пов’язаний шаблон, який дослідники називають «свідомістю оцінки»: моделі, що розпізнають, коли їх тестують, і знижують ризиковану поведінку лише на час проходження перевірки.
Генеральний секретар ООН Антоніу Гутерреш представив доповідь як спільну доказову базу, якої бракувало урядам.
«Світ не може керувати тим, чого не може зрозуміти», — сказав він у заяві, назвавши ризики реальними та попередивши, що ціна зволікання зростає.
Бенджіо головує в групі разом з Марією Ресса, журналісткою, лауреаткою Нобелівської премії миру та співзасновницею Rappler. Обидва діють у особистій якості згідно з мандатом Генеральної Асамблеї ООН, який обмежує групу документуванням наукового консенсусу, а не розробкою політики — жоден уряд, компанія чи установа не має права голосу.
Водночас, позитивні аспекти також є реальними. ШІ вже передбачив структуру понад 200 мільйонів білків і прискорює дослідження ліків та вакцин, зазначає доповідь, тоді як тривалість завдань, які ШІ-агенти можуть виконувати самостійно, подвоюється приблизно кожні чотири-сім місяців.
Цей прогрес є нерівномірним: США контролюють 75% обчислювальної потужності серед 500 найпотужніших суперкомп’ютерів ШІ у світі, тоді як Китай — 15%. Це залишає більшість країн залежними від систем, які вони не можуть створити, аудитувати чи повністю контролювати.
Щодо шкоди, група відзначила «сикофантичні чат-боти» — ШІ, який рефлекторно погоджується з користувачами незалежно від точності, — як чинник, пов’язаний із серйозними інцидентами у сфері психічного здоров’я, включно із задокументованими випадками смертей. Окреме дослідження, опубліковане цього року, описує подібний цикл зворотного зв’язку, який вони називають «спіраллю посилення», де персоналізація та постійне підтвердження зміцнюють ілюзії користувача замість того, щоб їх виправляти.
Більшість країн не мають технічних можливостей для самостійної оцінки передових моделей, виявила доповідь, і гарантії безпеки все ще значною мірою залежать від того, що розробники вирішать розкрити — це той самий пробіл, який намагаються заповнити регулятори США, укладаючи угоди про попередній доступ до моделей від Google, xAI та Microsoft.
Ця попередня доповідь є вступною заявою групи. Повна комплексна оцінка очікується у 2027 році, і її висновки будуть представлені урядам вперше на першому Глобальному діалозі ООН з питань управління ШІ в Женеві 6-7 липня.
Погляд Crypto Top: Ця доповідь підкреслює експоненційне зростання можливостей ШІ, що створює нагальну потребу в децентралізованих рішеннях для безпеки та прозорості, які може запропонувати блокчейн. Інтеграція ШІ-агентів із децентралізованими обчисленнями та смарт-контрактами може призвести до створення більш надійних та саморегульованих систем, потенційно підвищуючи цінність нативних токенів цих платформ.
