Створити обліковий запис, щоб зберегти свої статті.Додати в GoogleДодайте Decrypt як джерело за замовчуванням, щоб бачити більше наших історій у Google.
Коротко
- Дослідники з MIT протягом чотирьох тижнів відстежували 67 учасників, які використовували систему виявлення дезінформації на базі ШІ.
- Точність виявлення покращилася на 21% під час сесій за участю ШІ, тоді як самостійна робота згодом знизилася на 15,3 відсоткових пункти.
- Дослідження проводиться на тлі зусиль соціальних мереж, включаючи X, щодо боротьби з фейковими відео військових дій, згенерованими ШІ.
Люди, які використовують штучний інтелект (ШІ) для оцінки достовірності новин, можуть стати менш ефективними у самостійному виявленні дезінформації, свідчать нові дослідження Лабораторії медіа Массачусетського технологічного інституту (MIT).
За даними дослідників MIT, це дослідження з’являється в той час, коли чат-боти зі штучним інтелектом все частіше використовуються для перевірки інформації в Інтернеті, що викликає питання, чи допомагають ці інструменти розвивати критичне мислення користувачів, чи просто делегують це завдання ШІ.
“Допоміжники на базі ШІ, такі як ChatGPT, Claude та Grok, все частіше використовуються для оцінки достовірності онлайн-інформації, від перевірки автентичності новинних заголовків і вірусних зображень до відповідей на питання про медичні твердження або політичні чутки”, – пишуть дослідники. “Хоча останні дослідження свідчать, що такі системи можуть зменшити віру в конкретні хибні твердження, залишається незрозумілим, чи навчають ці розмови людей виявляти дезінформацію, чи просто змінюють переконання щодо неправдивої інформації за допомогою ШІ”.
Під час чотиритижневого дослідження за участю 67 осіб, 7 203 розмов зі ШІ та 4 536 оцінок автентичності новин дослідники оцінювали, як люди оцінюють реальні та фейкові новинні заголовки та зображення. Вони виявили, що хоча допомога ШІ підвищила точність виявлення дезінформації на 21%, продуктивність учасників у нових оцінках без ШІ знизилася на 15,3%.
Для проведення дослідження дослідники створили систему, яка поєднувала GPT-4o від OpenAI з Google Search, щоб допомогти учасникам оцінювати новини. Спочатку учасники самостійно визначали, чи є заголовок і зображення реальними чи фейковими, потім обговорювали матеріал із GPT-4o, перш ніж зробити остаточну оцінку.
Згодом дослідники протестували їх на новому, невідомому контенті без допомоги ШІ, щоб визначити, чи покращилися чи погіршилися їхні навички виявлення дезінформації. Після цього команда використала Claude 3.5 Sonnet від Anthropic для аналізу тисяч розмов між користувачами та ШІ.
Оскільки в дослідженні використовувалися старіші моделі GPT-4o та Claude 3.5 Sonnet, неясно, чи новіші моделі ШІ, такі як GPT-5.5 або Claude Opus 4.8, з кращими можливостями міркування, дали б подібні результати.
Зниження продуктивності було зумовлене переважно зменшенням здатності виявляти фейкові новини, тоді як точність щодо реальних новин залишалася незмінною. Дослідники припускають, що хоча ШІ може покращити продуктивність у моменти використання, він також може стимулювати залежність від технології.
“Наш лонгітюдний аналіз демонструє, що поточні підходи пріоритезують корекцію переконань над розвитком навичок, створюючи залежність, а не стійкі можливості розрізнення”, – йдеться в дослідженні. “Оскільки ШІ стає все більш досконалим, забезпечення того, щоб ці інструменти розвивали критичне мислення, а не когнітивну залежність, стає надзвичайно важливим для підтримки громадської стійкості до дезінформації”.
Це дослідження проводиться на тлі того, що генеративний ШІ зробив створення переконливих фейкових новин легшим, ніж будь-коли, з реалістичними зображеннями та відео, які можуть швидко поширюватися соціальними мережами та експлуатувати схильність людей довіряти тому, що вони бачать.
Після ракетних ударів Ірану по Ізраїлю в червні 2025 року відео, які нібито демонстрували руйнування в Тель-Авіві та аеропорту Бен-Гуріон, широко поширилися в соціальних мережах, набравши мільйони переглядів, перш ніж були ідентифіковані як згенеровані ШІ.
Занепокоєння щодо поширення фейкових військових відео тривало, що призвело до того, що X оголосив у березні про призупинення участі творців у своїй програмі розподілу доходів за публікацію відео конфліктів, згенерованих ШІ, без належного розкриття інформації.
“У часи війни критично важливо, щоб люди мали доступ до достовірної інформації з місця подій”, – написав керівник продукту X Нікіта Бір. “Завдяки сучасним технологіям ШІ створення контенту, який може ввести людей в оману, є тривіальним”.
Погляд Crypto Top: Інтеграція ШІ для верифікації даних у Web3 може призвести до появи децентралізованих систем оцінки достовірності, потенційно підвищуючи корисність токенів, пов’язаних з цими мережами. Однак, ризик когнітивної залежності від ШІ ставить під сумнів довгострокову стійкість навичок критичного мислення в децентралізованих екосистемах.
Джерело: decrypt.co