Grammarly призупиняє функцію “Експертна оцінка” після критики
Платформа для допомоги у написанні Grammarly тимчасово вимкнула свою функцію “Експертна оцінка” (Expert Review) на базі штучного інтелекту (ШІ) після значної критики з боку науковців та письменників. Цей інструмент генерував відгуки щодо тексту, імітуючи стиль та думки реальних експертів, включаючи тих, хто вже помер, без їхньої попередньої згоди.
Компанія заявила, що переосмислить функцію, аби надати експертам більше контролю над тим, як вони представлені.
Суть проблеми
- Grammarly вимкнула функцію “Експертна оцінка” ШІ через критику з боку академіків та авторів.
- Інструмент генерував відгуки, спираючись на ідентичність та стиль науковців, навіть померлих.
- Компанія планує переробити функцію, надавши експертам контроль над їхнім представленням.
Популярний помічник у написанні Grammarly повідомив у середу, що призупинив роботу функції “Експертна оцінка” ШІ після онлайн-обурення та звинувачень у використанні особистостей та стилів різних авторів і редакторів без дозволу.
Функція “Експертна оцінка” аналізує текст користувача та надає відгуки з точки зору науковців, журналістів та інших фахівців. Материнська компанія Superhuman заявила, що змінює курс після значної негативної реакції.
“Минулого тижня ми отримали слушні критичні відгуки від експертів, які стурбовані тим, що агент спотворив їхні голоси”, – написав генеральний директор Superhuman Шішір Мехротра (Shishir Mehrotra) у LinkedIn. “Такий аналіз покращує наші продукти, і ми ставимося до нього серйозно”.
Grammarly запустила функцію “Експертна оцінка” минулого літа як частину свого розширення до ШІ-агентів продуктивності. Інструмент дозволяв користувачам обирати експерта та отримувати відгуки, згенеровані ШІ на основі роботи цієї особи. Після того, як було виявлено, що ШІ посилався на реальних людей, включаючи померлих науковців, функція викликала різку критику з боку академіків та журналістів.
Після критики Superhuman заявила, що вимкнула функцію “Експертна оцінка” і переробить її, щоб експерти могли контролювати, чи і як вони представлені. До цих змін експерти мали вручну відмовитись від участі, якщо не хотіли бути включеними, що критики вважали неприйнятним.
“Я не юрист, але думаю, що фраза “Ми будемо продовжувати красти ваші матеріали, доки ви не скажете нам, що не хочете, щоб ми їх крали” – це не зовсім той захист, який, на думку Grammarly, є сильним, принаймні, не в очах громадськості”, – написав колишній креативний директор The Verge Джеймс Барехем (James Bareham) у Bluesky. “Я сподіваюся, що цю компанію спіткає судовий позов. Я скасував свій про-акаунт сьогодні”.
Інші, зокрема автор та редактор Бенджамін Дрейер (Benjamin Dreyer), висміяли політику компанії щодо відмови від участі у своєму дописі, відповідаючи на функцію.
“Можливо, зрештою я просто скористаюся їхньою щедрою пропозицією відмови від участі, о, дякую, дякую. Але тим часом, якщо я зможу викликати у якогось корпоративного пройдисвіта хоч якусь ажитацію, я відчуватиму, що моя важка праця не була марною”, – написав Дрейер.
У заяві, наданій Decrypt, Айліан Ґан (Ailian Gan), директорка відділу управління продуктами для агентів у Grammarly, зазначила, що компанія вимкнула функцію “Експертна оцінка” після отримання відгуків, які показали, що вона “не досягла мети”.
“Оскільки ми інновуємо на межі ШІ, для нас важливо продовжувати шукати найкращі способи допомогти людям відчувати контроль над технологіями та формувати їх відповідно до своїх потреб”, – написала Ґан. “Дякуємо, що тримаєте нас відповідальними. Ми прагнемо зробити це правильно наступного разу і будемо прозорими щодо того, як ми будемо вдосконалюватися”.
Погляд Crypto Top: Інцидент з Grammarly підкреслює етичні виклики, пов’язані з використанням ШІ-агентів, які можуть бути вирішені за допомогою децентралізованих систем управління даними та ідентичністю. У майбутньому токенізовані системи можуть забезпечити прозорість та контроль для творців контенту, зменшуючи ризик несанкціонованого використання їхніх робіт.
Джерело: decrypt.co