Звіт GLAAD: ШІ може посилювати упередження та дискримінацію проти ЛГБТК+ спільноти
Створіть обліковий запис, щоб зберегти свої статті.Додати в GoogleДодайте Decrypt як улюблене джерело, щоб бачити більше наших історій у Google.
Ключові тези
- GLAAD стверджує, що системи штучного інтелекту (ШІ) вже завдають непропорційної шкоди ЛГБТК+ людям через упередженість, дезінформацію та дискримінацію.
- Правозахисна група попереджає, що все більш автономні ШІ-агенти можуть автоматизувати ці форми шкоди у сферах житла, зайнятості, охорони здоров’я та кредитування.
- Звіт закликає до посилення нагляду, покращення навчальних даних та тіснішої співпраці між компаніями, що займаються розробкою ШІ, та громадськими організаціями.
Штучний інтелект (ШІ) посилює упередження, дезінформацію та дискримінацію проти ЛГБТК+ спільноти, що може впливати на всі сфери життя — від охорони здоров’я та зайнятості до житла та конфіденційності. Такий висновок міститься у новому звіті правозахисної організації GLAAD.
Опублікований у середу, звіт під назвою “Створення для всіх: Основи для представництва та безпеки ЛГБТК+ у ШІ” (Build for Everyone: A Framework for LGBTQ Representation and Safety in AI) стверджує, що безпека ЛГБТК+ має бути ключовою вимогою для відповідальної розробки ШІ.
GLAAD попереджає, що ШІ, навчений на упереджених або неповних даних, може закріплювати стереотипи, пригнічувати голоси ЛГБТК+ спільноти, створювати ризики для конфіденційності користувачів та призводити до дискримінаційних результатів, оскільки ця технологія все глибше вбудовується у повсякденне життя.
«ШІ — це питання громадянських прав, — пише у звіті президент і генеральний директор GLAAD Сара Кейт Елліс. — Нейтральність більше не є варіантом. Щоб створювати етичний, інклюзивний та відповідальний ШІ, технічні лідери повинні проактивно впроваджувати цілеспрямовані практики для створення безпечних продуктів».
Сфери, що викликають занепокоєння, згідно з дослідженням, включають: упередженість навчальних даних, дезінформацію, спрямовану проти ЛГБТК+ спільноти, дискримінаційні результати у системах предиктивного аналізу, збої в модерації контенту та ризики для конфіденційності. Вказується, що системи ШІ, навчені на неповній або неточній інформації про ЛГБТК+ людей, можуть закріплювати стереотипи.
Елліс стверджує, що відповідальний ШІ є вигідним для бізнесу та необхідним для майбутнього зростання компаній, що займаються його розробкою. «Понад 20 відсотків покоління Z належать до ЛГБТК+ спільноти, — пише вона. — Це ваші майбутні співробітники та споживачі».
Згідно з дослідженням 2023 року консалтингової та інвестиційної фірми LGBT Capital, глобальна купівельна спроможність ЛГБТК+ людей становить 4,7 трильйона доларів США, і очікується, що до 2030 року ця цифра досягне 33 трильйонів доларів.
«Щоб зрозуміти масштаб, якби ми були країною, ми були б четвертою за величиною економікою світу», — зазначає Елліс.
Звіт з’являється на тлі триваючої дискусії щодо упередженості ШІ. У травні дослідники виявили, що провідні моделі ШІ послідовно надавали перевагу католицизму, водночас менш прихильно ставлячись до свідків Єгови, атеїзму та агностицизму.
На початку цього місяця колишній інженер xAI Девін Кім подав до суду на xAI та SpaceX, стверджуючи, що його звільнили після попередження про відсутність у Grok належних запобіжників проти дезінформації та упередженості. Тим часом xAI, очолювана Ілоном Маском, веде юридичну боротьбу з Колорадо через державний закон, який вимагає від компаній оцінювати та зменшувати ризики дискримінації в системах ШІ, що використовуються для прийняття рішень щодо житла, зайнятості та кредитування.
GLAAD стверджує, що наслідки виходять за межі чат-ботів та генераторів зображень.
«Хоча це не стосується виключно ЛГБТК+ людей, ми також повинні згадати інші нові виклики, що виникають у міру розвитку та впровадження ШІ, — йдеться у дослідженні. — Це можуть бути галюцинації моделей або підлабузнювальна поведінка, яка генерує дезінформацію, зокрема щодо важливих тем, таких як охорона здоров’я чи вибори».
Ці побоювання стають ще більш значущими, зазначає дослідження, оскільки компанії розробляють ШІ-агенти, здатні виконувати завдання з обмеженим людським наглядом. GLAAD попереджає, що автономні агенти можуть успадкувати існуючі упередження та автоматизувати дискримінаційні результати, наприклад, виключати з результатів пошуку медичних провайдерів, які підтримують ЛГБТК+ спільноту, або робити помилкові припущення щодо ідентичності користувачів.
Щоб запобігти подальшому закріпленню цих ризиків у системах ШІ, GLAAD закликає розробників покращувати представленість ЛГБТК+ у навчальних даних, посилювати захист конфіденційності, зберігати людський нагляд за системами модерації та тісніше співпрацювати з правозахисними групами. Звіт також закликає до посилення підзвітності галузі та регуляторного нагляду.
«Нездатність врахувати досвід та проблеми ЛГБТК+ у навчальних даних, дизайні продуктів та управлінні може призвести не лише до шкоди для маргіналізованих спільнот, але й до неточних, нижчої якості продуктів, які можуть підірвати довіру користувачів у зростаючої демографічній групі», — йдеться у дослідженні.
Погляд Crypto Top: Інтеграція ШІ в блокчейн-проєкти може як посилити етичні проблеми, пов’язані з упередженістю даних, так і запропонувати нові рішення для прозорості та аудиту, потенційно трансформуючи використання смарт-контрактів для забезпечення справедливості. Це також може стимулювати попит на токени, пов’язані з децентралізованими обчисленнями та перевіреними ШІ-моделями, надаючи їм додаткову корисність та вартість.
Джерело: decrypt.co