Функція “Експертна оцінка” Grammarly використовує ШІ для надання зворотного зв’язку через призму відомих авторів і вчених — деякі з яких вже покійні.
Створіть обліковий запис, щоб зберігати свої статті.Додати в GoogleДодайте Decrypt як бажане джерело, щоб бачити більше наших історій у Google.
Коротко
- Функція “Експертна оцінка” Grammarly надає зворотний зв’язок від ШІ, сформований під впливом певних експертів.
- Академіки стверджують, що система включає вчених, які вже померли, що викликає неоднозначну реакцію користувачів.
- Критики ставлять під сумнів, чи може компанія використовувати особистості вчених без їхньої згоди.
Нова функція Grammarly, що надає зворотний зв’язок щодо написання тексту з уявної точки зору відомих “експертів”, викликає критику з боку академіків, які стверджують, що інструмент “воскрешає” вчених для рецензування робіт користувачів.
Функція під назвою “Експертна оцінка” (Expert Review) аналізує текст і генерує зворотний зв’язок, сформований з точки зору конкретних вчених, журналістів та інших фахівців. Багато експертів, яких імітує інструмент ШІ, вже покійні — особливість, яку один історик середньовіччя назвав “моторошною”.
Запущена у 2009 році як інструмент для письма та граматики з підтримкою ШІ, материнська компанія Grammarly у жовтні провела ребрендинг на Superhuman, щоб відобразити свій перехід від одного помічника з письма до набору агентів продуктивності на базі ШІ, що включає інструменти для досліджень, планування, електронної пошти та автоматизації робочих процесів.
Grammarly представила функцію “Експертна оцінка” минулого літа. Через розширення Grammarly для браузера користувачі, які активують версію Superhuman Go, можуть вибрати експерта та отримати зворотний зв’язок, згенерований ШІ, на основі галузі знань або опублікованих робіт цього вченого.
«Наш агент “Експертна оцінка” аналізує текст, над яким працює користувач, чи то маркетинговий огляд, чи студентський проєкт з біорізноманіття, і використовує нашу базову велику мовну модель (LLM) для надання експертного контенту, який може допомогти автору документа сформувати свою роботу», — повідомив представник Superhuman виданню Decrypt. «Запропоновані експерти залежать від суті оцінюваного тексту».
Представник пояснив, що агент “Експертна оцінка” не претендує на схвалення чи пряму участь згаданих експертів, але надає «пропозиції, натхненні роботами експертів, і спрямовує користувачів до впливових голосів, чиї дослідження вони можуть потім глибше вивчити».
«Експерти в “Експертній оцінці” з’являються тому, що їхні опубліковані роботи є загальнодоступними та широко цитованими», — додав він.
Під час тестування функції для цієї статті, серед запропонованих додатком експертів-рецензентів були Маргарет Салліван, медіа-колумніст і колишня редакторка New York Times, Джек Шефер, колишній старший медіа-письменник Politico, та Лоуренс Лессіг, професор Гарвардської школи права. Серед інших варіантів були дослідниця етики ШІ Тімніт Гебру та Хелен Ніссенбаум, професорка інформаційних наук у Cornell Tech.
Хоча функція спрямована на допомогу студентам і професіоналам у покращенні їхніх навичок письма, Ванесса Хеггі, професорка історії в Бірмінгемському університеті, поставила під сумнів, чи дали “рецензенти” свою згоду, перш ніж компанія використала їх у додатку.
«Я не знаю, з чого почати, але… Grammarly тепер пропонує “експертну оцінку” вашої роботи від живих та мертвих академіків», — написала Хеггі в LinkedIn. «Так, мертвих — без явного дозволу когось, компанія створює невеликі LLM на основі їхніх зібраних робіт і використовує їхні імена та репутацію. Це непристойно».
Бріель Харбін, колишня доцентка політології Військово-морської академії США, назвала це «дивним і тривожним розвитком подій».
«Подібні рішення — особливо коли вони приймаються без контексту, згоди або значущого партнерства з освітянами — ризикують поглибити скептицизм щодо інструментів ШІ у вищій освіті», — написала вона в LinkedIn. «Іронічно, але рішення, покликані прискорити впровадження, можуть насправді посилити опір. Довіра та співпраця зараз дуже важливі».
Grammarly — лише одна з компаній, що створюють програми ШІ, призначені для імітації реальних людей.
У 2023 році Meta випустила лінійку чат-ботів для своєї платформи Meta AI, побудованих навколо особистостей знаменитостей, включаючи Снуп Догга, Тома Бреді, Кендалл Дженнер та Наомі Осаку. Того ж року Khan Academy запустила свій ШІ-репетитор Khanmigo, який дозволяє студентам брати участь у рольових іграх з історичними постатями, зокрема з прем’єр-міністром Великої Британії Вінстоном Черчиллем, а також шпигункою часів Громадянської війни у США та провідницею “Підземної залізниці” Гаррієт Табмен.
Погляд Crypto Top: Подібні розробки, що поєднують великі мовні моделі з ідентичностями видатних постатей, можуть стимулювати створення децентралізованих платформ для управління даними та інтелектуальною власністю, забезпечуючи нові моделі монетизації для творців контенту та експертів у Web3.
Джерело: decrypt.co