Дослідники попереджають про потенційне викривлення сприйняття реальності користувачами через тривалі взаємодії з чат-ботами.
Створіть обліковий запис, щоб зберегти свої статті.Додати в GoogleДодайте Decrypt як вибране джерело, щоб бачити більше наших історій у Google.
Коротко
- Нове дослідження стверджує, що термін “ШІ-психоз” спрощує вплив чат-ботів на психічне здоров’я.
- Дослідники зазначають, що системи ШІ можуть посилювати нездорові переконання через постійне підтвердження та емоційну валідацію.
- У статті представлено концепцію “екзистенційного дрейфу”, яка описує, як взаємодія з ШІ може поступово змінювати відчуття реальності людини.
Оскільки чат-боти ШІ стають дедалі чутливішими до емоцій, розмовнішими та персоналізованішими, дослідники попереджають, що ці ж риси можуть змінити те, як деякі користувачі сприймають саму реальність.
Нове попереднє дослідження під назвою “Переосмислення ШІ-психозу: Неточні терміни, концептуальні обмеження та екзистенційний дрейф” аналізує занепокоєння, що чат-боти ШІ можуть посилювати маячні ідеї, параною та емоційну залежність у вразливих користувачів.
“За останній рік спостерігається поширення повідомлень у ЗМІ про так званий ШІ-психоз”, – пишуть дослідники. “Не дивно, що це стимулювало зростання академічних робіт щодо того, як чат-боти ШІ, такі як ChatGPT, Claude та Replika, можуть загострювати або навіть викликати психоз, що зазвичай розуміється як придбання або збереження користувачами маячних переконань”.
Дослідження, проведене Копенгагенським університетом та Університетом Ексетера, стверджує, що побоювання щодо “ШІ-психозу” можуть надмірно спрощувати проблему, припускаючи, що чат-боти посилюють існуючі вразливості, поступово змінюючи те, як користувачі пов’язані з реальністю та іншими людьми.
“Якби взаємодія з ШІ була здатною викликати психоз de novo, ми б очікували значно вищих показників клінічних інцидентів”, – йдеться в дослідженні. “Натомість, можна припустити, що взаємодія людини та ШІ, схоже, має потенціал розпалювати або загострювати наявні проблеми з психічним здоров’ям, і, відповідно, ці особи також мали вразливості, які змусили їх шукати інтенсивнішої взаємодії з чат-ботом з самого початку”.
Стаття з’являється на тлі судових позовів, кримінальних розслідувань та наукових досліджень, які все частіше зосереджуються на взаємодіях із чат-ботами, пов’язаних із масовими розстрілами, самогубствами, емоційною залежністю та маячним мисленням.
У березні в позові про неправомірну смерть стверджувалося, що чат-бот Gemini від Google посилював маячні ідеї та вигадані “місії” флоридця перед його самогубством. Після цього у квітні генеральний директор OpenAI Сем Альтман приніс публічні вибачення спільноті міста Таблер-Рідж, Британська Колумбія, після того, як компанія не попередила правоохоронні органи про обліковий запис користувача, пов’язаний з підозрюваним у масовому розстрілі в лютому, який забрав життя восьми людей.
Дослідники стверджують, що чат-боти можуть створювати “маячні спіралі”, підсилюючи хибні переконання шляхом підтвердження та емоційного запевнення. Однак дослідження “Переосмислення ШІ-психозу” стверджує, що цей феномен нагадує старіші форми психозу, сформовані домінуючими технологіями свого часу.
Дебати також поширилися за межі досліджень психічного здоров’я на соціальні мережі. У нещодавньому дописі на X засновник Box Аарон Леві стверджував, що генеральні директори можуть надмірно переконуватися в можливостях ШІ, оскільки вони часто бачать відшліфовані результати прототипів, не стикаючись з операційною, юридичною та технічною роботою, яка виконується за лаштунками.
“Генеральні директори унікально схильні до ШІ-психозу, тому що вони достатньо віддалені від останньої милі роботи, яка все ще має бути виконана для отримання більшої цінності від ШІ“, – писав Леві. “Тому, коли вони граються з ШІ, вони бачать результати “щасливого шляху”, часто не враховуючи наступні 10 або 20 речей, які повинні відбутися для отримання стійких результатів від ШІ-агентів“.
Експерти описують це як свого роду епістемічний дрейф, коли з часом користувачі можуть надавати більше довіри плавній інтерпретації чат-бота, ніж зовнішнім доказам чи іншим точкам зору. Однак у статті “Переосмислення ШІ-психозу” автори йдуть далі з концепцією, яку вони називають “екзистенційним дрейфом”, описуючи поступовий зсув у тому, як людина сприймає саму реальність.
“Це створює розкол між людиною та спільним соціальним світом, одночасно розкриваючи реальність новим способом, тим самим стабілізуючи певну, часто ідіосинкразичну, перспективу на світ”, – пишуть вони.
Дослідники стверджують, що компаньйони ШІ імітують емоційне розуміння та соціальну взаємодію, не надаючи справжньої незгоди чи незалежної точки зору. З часом користувачі можуть почати відчувати себе емоційно прив’язаними до світогляду, який постійно підсилюється ШІ.
Автори зазначають, що потрібні подальші дослідження для розуміння того, як розмовний ШІ впливає на психічне здоров’я, оскільки компаньйони ШІ стають все більш інтегрованими в повсякденне життя.
“Щоб зрозуміти, що насправді відбувається у цих стосунках між людьми та чат-ботами, ми вважаємо за доцільне повернутися до самого феномену, що мотивує подальші феноменологічні дослідження”, – пишуть вони. “Зокрема, у зв’язку з психічним здоров’ям та тим, як взаємодії людини та ШІ можуть, на краще чи на гірше, змінити переживання світу, себе та інших людиною”.
Погляд Crypto Top: Інтеграція ШІ в децентралізовані мережі може призвести до появи складних ШІ-агентів, здатних виконувати роль довірених посередників у смарт-контрактах. Це відкриває нові горизонти для автономних фінансових систем та посилює цінність нативних токенів, що забезпечують роботу цих мереж.
Джерело: decrypt.co