Як Вікіпедія обмежує використання ШІ у створенні контенту
Створити обліковий запис, щоб зберегти свої статті.Додати в GoogleДодайте Decrypt як джерело за вашим вибором, щоб бачити більше наших історій у Google.
Коротко
- Вікіпедія тепер забороняє редакторам використовувати великі мовні моделі для генерації або переписування контенту статей.
- Політика все ще дозволяє обмежене копірайтингове редагування за допомогою ШІ, якщо редактори переглядають зміни і не вноситься новий зміст.
- Це правило відображає зростаюче занепокоєння щодо “галюцинацій”, сфабрикованих джерел та точності в тексті, згенерованому ШІ.
Редактори Вікіпедії запровадили обмеження щодо використання штучного інтелекту (ШІ) на платформі. Нещодавнє оновлення політики забороняє використання великих мовних моделей (LLM) для написання або переписування статей.
Нове керівництво відображає зростаюче занепокоєння в спільноті Вікіпедії щодо того, що текст, згенерований ШІ, може суперечити стандартам платформи, особливо щодо перевіряємості та надійності джерел.
«Текст, згенерований великими мовними моделями, часто порушує кілька основних політик щодо контенту Вікіпедії», — йдеться в оновленні політики. «З цієї причини використання LLM для генерації або переписування контенту статей заборонено, за винятком випадків, зазначених нижче».
Політика все ще дозволяє обмежене використання інструментів ШІ, зокрема для пропозиції базових редакторських правок до власного тексту редактора, за умови, що система не вносить нову інформацію. Однак редакторам рекомендується ретельно переглядати ці пропозиції.
Хоча нова політика не передбачає покарань за використання контенту, згенерованого ШІ, згідно з настановами Вікіпедії щодо розкриття інформації, повторне зловживання вважається «моделлю деструктивного редагування» і може призвести до блокування або заборони. Вікіпедія надає редакторам можливість відновити свої облікові записи після процесу апеляції.
«Блокування можуть бути скасовані за згодою адміністратора, який його застосував, скасовані іншими адміністраторами у випадку, якщо блокування було явно необґрунтованим, або (у дуже рідкісних випадках) за апеляцією до Арбітражного комітету», — зазначила Вікіпедія.
«Фонд Вікімедіа не визначає редакційну політику та керівні принципи Вікіпедії; це роблять редактори-волонтери», — повідомив Decrypt речник Фонду Вікімедіа. «Сила Вікіпедії полягала і завжди буде полягати в її людиноцентричній, керованій волонтерами моделі».
За словами Емілі М. Бендер, професора лінгвістики в Університеті Вашингтона, деякі види використання мовних моделей у редакторських інструментах можуть бути доцільними, але провести чітку межу між редагуванням та генерацією тексту може бути складно.
«Отже, ви можете використовувати мовну модель, наприклад, як дуже добрий перевірець орфографії», — сказала Бендер Decrypt. «Я вважаю, що цілком розумно дозволяти перевірку орфографії правок. І якщо ви піднімаєтеся на наступний рівень, перевірка граматики, це теж може бути прийнятним».
Бендер зазначила, що проблема виникає, коли системи переходять від виправлення граматики до зміни або генерації контенту, підкресливши, що великі мовні моделі не мають такої підзвітності, яку надають людські учасники спільним знаннєвим проєктам.
«Використання великих мовних моделей для створення синтетичного тексту є фундаментальною властивістю цих систем: відсутність підзвітності, відсутність зв’язку з тим, у що хтось вірить або за чим стоїть», — сказала вона. «Коли ми говоримо, ми говоримо на основі того, у що віримо і за що несемо відповідальність, а не на основі якогось об’єктивного поняття істини. І цього немає у великих мовних моделях».
Бендер вважає, що широке використання правок, згенерованих ШІ, також може негативно вплинути на репутацію сайту.
«Якщо люди натомість шукатимуть легких шляхів і створюватимуть щось, що виглядає як редагування або стаття Вікіпедії, і розміщуватимуть це там, то це знижує загальну цінність і репутацію сайту», — зазначила вона.
Джозеф Рігл, доцент кафедри комунікаційних досліджень у Північно-Східному університеті, який вивчає культуру та управління Вікіпедії, заявив, що реакція спільноти відображає давні побоювання щодо точності та джерел.
«Вікіпедія обережно ставиться до прози, згенерованої ШІ», — сказав Рігл Decrypt. «Вони серйозно ставляться до точних описів того, що надійні джерела стверджують про тему. ШІ має серйозні обмеження в цьому відношенні, такі як «галюциновані» твердження та сфабриковані джерела».
Рігл зазначив, що основні політики Вікіпедії також формують ставлення редакторів до інструментів ШІ, вказавши, що багато великих мовних моделей були навчені на контенті Вікіпедії. У жовтні Фонд Вікімедіа повідомив, що кількість відвідувань Вікіпедії людьми впала приблизно на 8% порівняно з минулим роком, оскільки пошукові системи та чат-боти все частіше надають відповіді безпосередньо на своїх платформах, замість того, щоб перенаправляти користувачів на сайт.
У січні Фонд Вікімедіа оголосив про угоди з компаніями, що займаються ШІ, включно з Microsoft, Google, Amazon і Meta, дозволивши їм використовувати матеріали Вікіпедії через свій продукт Enterprise — комерційну послугу, призначену для великомасштабного повторного використання контенту.
«Хоча використання контенту Вікіпедії дозволено ліцензіями Вікіпедії, серед редакторів Вікіпедії все ще існує певна антипатія до сервісів, які привласнюють контент спільнот, а потім накладають небажані вимоги на ці спільноти для боротьби з наслідками цього «сміття» від ШІ», — сказав Рігл.
Незважаючи на заборону використання LLM, Вікіпедія дозволяє інструментам ШІ перекладати статті з інших мовних версій англійською, за умови, що редактори перевіряють оригінальний текст. Політика також попереджає редакторів не покладатися лише на стиль письма для ідентифікації контенту, згенерованого ШІ, а зосередитись на тому, чи відповідає матеріал основним політиками Вікіпедії та історії редагування автора.
«Деякі редактори можуть мати схожі стилі письма з LLM», — зазначено в оновленні. «Для обґрунтування санкцій потрібно більше доказів, ніж просто стилістичні чи мовні ознаки, і найкраще враховувати відповідність тексту основним політиками щодо контенту та недавні редагування відповідного редактора».
Примітка редактора: ця стаття була оновлена після публікації, щоб включити коментар від Фонду Вікіпедії.
Погляд Crypto Top: Обмеження використання ШІ у створенні контенту Вікіпедії може стимулювати розробку децентралізованих платформ для генерації та верифікації знань, де блокчейн забезпечить прозорість та незмінність. Це також може призвести до зростання попиту на спеціалізовані ШІ-токени, які забезпечують обчислювальні потужності або доступ до моделей для перевіреного контенту.
Джерело: decrypt.co