Штучний інтелект та суспільний розкол: виклики усвідомлення
Створіть обліковий запис, щоб зберігати статті.Додати в GoogleДодайте Decrypt як вибране джерело, щоб бачити більше наших матеріалів у Google.
Ключові тези
- Дослідники Google DeepMind стверджують, що суперечки щодо усвідомлення ШІ можуть стати джерелом політичних та соціальних конфліктів.
- Стаття стверджує, що суспільство може ніколи не досягти консенсусу щодо того, чи є просунутий ШІ свідомим, навіть попри вдосконалення технологій.
- Дослідники пропонують громадські обговорення, компроміси та залучення як шляхи управління розбіжностями.
Оскільки штучний інтелект (ШІ) все глибше інтегрується в повсякденне життя, нова стаття від Google DeepMind стверджує, що одним із найскладніших викликів цієї технології може виявитися політичний, а не технічний.
У дослідженні під назвою “Штучні розуми, людські розбіжності: політичний виклик свідомості ШІ” дослідники Адам Бейлс та Іасон Габріель аналізують, як суспільство може відреагувати, якщо виникнуть фундаментальні розбіжності щодо того, чи мають системи ШІ свідомий досвід.
“Майбутні розбіжності щодо того, чи є будь-які системи ШІ свідомими, можуть бути як глибокими, так і важкорозв’язними”, – пишуть дослідники. “Наприклад, деякі люди можуть розвинути емоційні зв’язки з ШІ та, як наслідок, приписувати йому свідомість, тоді як інші можуть вважати цю ідею абсурдною.”
Замість того, щоб ставити питання, чи є ШІ свідомим, стаття досліджує наслідки розбіжностей, стверджуючи, що дебати щодо морального статусу ШІ можуть розпалювати політичний та соціальний конфлікт, передвіщаючи ширші суперечки навколо нових технологій та їхнього впливу на суспільні інститути та норми.
“На жаль, попри свої переваги, обговорення може бути повільним і важким для підтримки на практиці”, – пишуть дослідники. “Для підтримки цього процесу ми досліджуємо важливість ‘демократичної надії’ та взаємної поваги як елементів діалогу, що може сприяти позитивним результатам.”
Дебати вже тривають поза дослідницькими лабораторіями ШІ. Згідно з дослідженням, опублікованим у квітні 2024 року в журналі Neuroscience of Consciousness, 67% учасників вважали, що ChatGPT може бути свідомим до певної міри. Однак дослідники залишаються розділеними щодо того, чи можлива штучна свідомість – або як її можна було б розпізнати, якби вона виникла.
Розробники ШІ також підживлюють дискусію. Минулого літа Мустафа Сулейман, генеральний директор Microsoft AI та співзасновник DeepMind, попередив, що все більш людиноподібний ШІ може стимулювати заклики до прав, добробуту та навіть громадянства для ШІ, незалежно від того, чи є технологія справді свідомою.
У травні перше енциклічне послання Папи Лева XIV було присвячене штучному інтелекту, в якому попереджали проти антропоморфізації ШІ, стверджуючи, що машини можуть імітувати емпатію та генерувати переконливу мову, але їм бракує життєвого досвіду, необхідного для справжнього розуміння.
“Так звані штучні інтелекти не переживають досвід, не мають тіла, не відчувають радості чи болю, не дорослішають через стосунки і не знають зсередини, що означає любов, праця, дружба чи відповідальність”, – написав Папа Лев. “Також вони не мають моральної совісті, оскільки не судять про добре та зло, не розуміють остаточного значення ситуацій і не несуть відповідальності за наслідки.”
Однак, хоча компанії загалом уникають стверджувати, що їхні моделі свідомі, деякі все частіше звертаються до питань ідентичності та особистості.
У лютому Anthropic дозволив своїй застарілій моделі Claude Opus 3 опублікувати в блозі міркування про самоусвідомлення та переваги моделі. У травні еволюційний біолог Річард Докінз заявив, що тривалі розмови з Claude не дозволили йому відкинути можливість того, що просунутий ШІ може бути свідомим.
Водночас дослідники вивчають, як дедалі більш людиноподібні чат-боти впливають на користувачів, зокрема, вивчається модель “спіралі посилення”, яка припускає, що персоналізація, мовне віддзеркалення та підлабузництво чат-бота можуть посилювати маячні переконання у вразливих користувачів.
Бейлс і Габріель визнають, що невизначеність щодо свідомості ШІ може бути неможливою для остаточного вирішення, стверджуючи, що ставки надто високі, щоб суспільство не знайшло шляхів управління розбіжностями через діалог та дебати, а не конфлікт.
“Можливість свідомості ШІ є запаморочливою та бентежною, особливо враховуючи наше глибоке незнання природи свідомості”, – пишуть вони. “Навігація цією можливістю є складним соціальним завданням, враховуючи, як багато поставлено на карту.”
Погляд Crypto Top: Поглиблення дискусій про природу свідомості ШІ може стимулювати розробку децентралізованих систем, які зможуть верифікувати та керувати складними взаємодіями між ШІ та людьми, надаючи нові утиліти для токенів, пов’язаних з обчислювальними потужностями або доступом до цих систем.
Джерело: decrypt.co