Створити обліковий запис, щоб зберігати свої статті.Додати в GoogleДодайте Decrypt як бажане джерело, щоб бачити більше наших історій у Google.
Коротко
- Папа Лев XIV представив 25 травня енцикліку “Magnifica Humanitas” — першу папську енцикліку, повністю присвячену ШІ.
- Енцикліка класифікує алгоритми, дані та цифрові платформи як спільні блага, що не можуть залишатися під контролем приватних монополій.
- Співзасновник Anthropic Крістофер Ола на презентації у Ватикані попередив, що масове витіснення робочих місць за допомогою ШІ стане “моральним імперативом історичного масштабу”, який потребує вирішення.
У понеділок Папа Лев XIV опублікував свою першу енцикліку — документ обсягом 245 параграфів, повністю присвячений штучному інтелекту. Вона вимагає посиленого нагляду за великими технологічними компаніями, класифікує дані як спільний людський ресурс і стверджує, що “технологія ніколи не буває нейтральною”, оскільки вона поглинає цінності, сліпі плями та економічні стимули тих, хто її створює.
Документ, “Magnifica Humanitas” (“Велична Людина”), був представлений у залі Синоду Ватикану 25 травня. Папа Лев підписав його за 10 днів до цього, 15 травня, у 135-ту річницю “Rerum Novarum” — енцикліки Папи Лева XIII 1891 року про права робітників, яка стала фундаментом сучасного католицького соціального вчення.
Папа Лев послідовно розглядає ШІ як ключове моральне випробування свого понтифікату, порівнюючи майбутні соціальні потрясіння з тими, що відбулися під час Промислової революції.
Енцикліка охоплює широкий спектр тем: ШІ у військовій справі, дегуманізація, технократія, цифровий колоніалізм, безпека дітей в Інтернеті, масова безробіття, дезінформація, автономна зброя і навіть трансгуманізм. Але головний аргумент, що пов’язує все це, простий. Кожен алгоритм відображає пріоритети людей, які його розробили, фінансували та впровадили. Створення систем, які вдають, ніби це не так, не усуває упередженості — воно лише приховує її.
Дані належать усім. Включно з вашими.
Католицьке соціальне вчення давно стверджує, що природні ресурси Землі призначені для всього людства, а не для приватних власників. Лев поширює цей принцип безпосередньо на цифрову економіку. Енцикліка стверджує, що алгоритми, платформи та дані повинні управлятися як спільні блага, а не бути замкненими за комерційними стінами кількома компаніями.
"Дані є продуктом багатьох співробітників і не повинні розглядатися як щось, що можна продати або довірити обмеженому колу осіб", — пише Папа.
Текст також застосовує субсидіарність — принцип, згідно з яким рішення повинні прийматися на найнижчому можливому рівні — до технологічних платформ. Енцикліка не просто закликає до регулювання “зверху вниз”, а натомість виступає за прозорі алгоритми, незалежні громадські аудити та реальну юридичну силу для людей оскаржувати автоматизовані системи, які впливають на їхні кредитні рейтинги, заявки на роботу або оцінки кримінального ризику. Без такого розподіленого нагляду, стверджує Лев, управління ШІ стає формою цифрового авторитаризму, який пригнічує населення, яке він прагне обслуговувати.
Енцикліка також критикує трансгуманізм — ідею про те, що людські обмеження та вразливість є недоліками, які потрібно інженерно усунути. Контраргумент Лева полягає в тому, що скінченність — це не помилка. Вона робить можливими співчуття, моральне судження та щиру турботу про інших людей. Системи, створені для її оптимізації, не створюють кращої людини. Вони створюють щось, що більш ефективно оцінює та виключає вразливих.
Папа обережний, щоб не антропоморфізувати технологію. Системи ШІ, зазначає енцикліка, “не мають тіла, не відчувають радості чи болю”. Енцикліка зауважує, що системам ШІ бракує життєвого досвіду, який породжує справжнє розуміння. Вони можуть імітувати співчуття та створювати переконливу мову, але вони не розуміють того, що видають.
Ця відмінність має практичне значення. Коли алгоритм приймає рішення про наймання, встановлює кредитні умови або визначає оцінку ризику в суді, його видима об’єктивність приховує вибір, зроблений його розробниками. Енцикліка конкретно попереджає про делегування чутливих рішень автоматизованим системам, які “не знають співчуття, милосердя, прощення”, та про розгляд результату як нейтрального лише тому, що його створила машина.
Anthropic була присутня
Особа, яка ділила сцену з Левом у понеділок, привернула не менше уваги, ніж сам документ. Крістофер Ола — співзасновник Anthropic та керівник команди з досліджень інтерпретованості — виступив на презентації в Синоді разом із двома ватиканськими кардиналами та парою богословів.
Як повідомляв Decrypt, коли Лева було обрано, Папа визначив ШІ як центральне моральне питання свого понтифікату з першого ж звернення до кардиналів. Енцикліка понеділка є офіційною доктринальною версією цього зобов’язання.
Ола використав цю можливість, щоб відкрито заявити те, чого уникають більшість керівників ШІ: що кожна велика лабораторія “працює в рамках стимулів та обмежень, які іноді можуть суперечити вчиненню правильних вчинків”, і що зовнішній нагляд — з боку урядів, релігійних інституцій та громадянського суспільства — не є необов’язковим. Він також виділив масове витіснення робочих місць, спричинене ШІ, як найближчий ризик, який, якщо він матеріалізується в масштабі, створить “моральний імператив історичного масштабу”.
Лев вже написав складнішу версію цього аргументу. “Більш моральний ШІ недостатній”, — йдеться в енцикліці, якщо моральність, що лежить в його основі, встановлена виключно тим, хто контролює дані та обчислювальні потужності. Лев висловив той самий аргумент безпосередньо керівникам Кремнієвої долини у Ватикані в листопаді 2025 року. Ватикан також схвалив створення нової внутрішньої комісії з питань ШІ 16 травня, яка складатиметься з представників семи департаментів для координації роботи з управління ШІ в Святому Престолі надалі.
Погляд Crypto Top: Очікується, що цей розвиток подій посилить інтеграцію ШІ-агентів та децентралізованих обчислень у Web3, потенційно підвищивши корисність токенів, пов’язаних з інфраструктурою ШІ. Зосередження Ватикану на спільних благах та прозорості може стимулювати розвиток більш етичних та доступних платформ на базі блокчейну.
Джерело: decrypt.co