ШІ-функція Roblox переписує заблоковані повідомлення, зберігаючи читабельність та дотримуючись правил платформи.
Створіть обліковий запис, щоб зберегти свої статті.Додати в GoogleДодайте Decrypt як вибране джерело, щоб бачити більше наших історій у Google.
Коротко
- Нова функція Roblox на основі ШІ переписує ненормативну лексику в чаті, а не замінює повідомлення на “####”.
- Система спрямована на те, щоб підтримувати читабельність розмов під час ігрового процесу, дотримуючись при цьому стандартів спільноти Roblox.
- Компанія також оновлює свої фільтри чату для виявлення ненормативної лексики та спроб отримати особисту інформацію гравців.
Масово популярна онлайн-ігрова платформа Roblox замінює послідовності знаків решітки, що з’являються, коли її фільтри чату виявляють ненормативну лексику, на перефразовані версії позначених повідомлень за допомогою штучного інтелекту (ШІ), про що компанія оголосила у четвер.
Функція, що називається “перефразування чату в реальному часі” (real-time chat rephrasing), модифікує ненормативну лексику в повідомленнях, щоб розмови залишалися читабельними, а не відображалися як заблокований текст.
“Наприклад, повідомлення, яке порушує правила Roblox щодо ненормативної лексики, таке як «Поспішай, ТФ!» раніше відображалося б як «####» у ігровому чаті”, – зазначила компанія. “Тепер воно буде перефразовано як «Поспіши!»”.
Цей новий дизайн, за словами віце-президента Roblox з продуктів користувачів та виявлення Раджива Бхатії, спрямований на підтримання ввічливості шляхом перефразування мови та заміни “заборонних знаків” на реальні слова.
“Чат є центральним елементом того, як люди спілкуються, координуються та грають на Roblox”, – заявив Бхатія. “Перефразування в реальному часі допомагає підтримувати ігровий процес та розмови в потрібному руслі, одночасно спрямовуючи мову до прийнятного рівня”.
У травні 2025 року Roblox запровадив попередження в реальному часі, які сповіщають користувачів, коли повідомлення можуть порушувати правила платформи, та заохочують їх переглянути формулювання.
“У минулорічних експериментах Roblox спостерігав, що надання сповіщень у текстовому чаті під час гри та тайм-аутів призвело до 5% скорочення кількості відфільтрованих повідомлень у чаті та 6% скорочення наслідків від звітів про зловживання”, – зазначила компанія.
Незважаючи на це зниження, Roblox зазначає, що нова зміна вирішує давню проблему, коли відфільтрована мова відображається як послідовності випадкових символів, що може ускладнити відстеження чатів під час ігрового процесу.
Хоча гравці в чаті отримують сповіщення про перефразування тексту, компанія стверджує, що нова система не змінює її правила щодо покарання за ненормативну лексику.
“Варто зазначити, що коли ми перефразуємо повідомлення, яке порушує нашу політику щодо ненормативної лексики, це все одно є порушенням, і ті самі правила залишаються в силі”, – заявив Бхатія в окремій заяві у четвер. “Користувач, який продовжуватиме намагатися використовувати лайку в чаті, все одно зіткнеться з такими ж наслідками за повторне порушення нашої політики”.
Функція перефразування, за даними Roblox, доступна лише в чатах між користувачами з підтвердженим віком у подібних вікових групах і підтримує всі мови, що зараз доступні через інструменти автоматичного перекладу Roblox. Щоб зрозуміти, як підлітки спілкуються під час гри, Roblox зазначає, що нова функція перефразування була розроблена у співпраці з членами її “Підліткової ради” (Teen Council).
Компанія також модернізує свою систему фільтрації тексту, щоб краще виявляти спроби обійти правила модерації, включаючи варіації мови, які замінюють цифри або символи літерами, відомі як “леетспік” (leetspeak).
Перефразування чату в Roblox є частиною зростаючої тенденції в ігровій індустрії, де компанії все частіше використовують ШІ для модерації поведінки гравців у багатокористувацьких іграх. У 2024 році Activision повідомила, що понад 2 мільйони облікових записів були позначені за деструктивні чати після розгортання їхньої системи модерації ToxMod на базі ШІ в кількох іграх Call of Duty. Компанія заявила, що цей інструмент допоміг скоротити кількість повторних порушників та зменшити кількість серйозних випадків деструктивного голосового спілкування.
Roblox також розширив використання ШІ на своїй платформі. У лютому 2024 року компанія представила функцію перекладу чату за допомогою ШІ в реальному часі, яка дозволяє гравцям спілкуватися понад 16 мовами в чаті Roblox.
“Це сміливий новий підхід, і ми не завжди будемо перефразовувати все ідеально”, – сказав Бхатія про останній крок, додавши, що компанія продовжуватиме вчитися та експериментувати з цією функцією. “Наша кінцева мета – надати користувачам можливість співпрацювати та спілкуватися таким чином, щоб це було одночасно весело та шанобливо”.
Roblox не відразу відповів на запит про коментар від Decrypt.
Погляд Crypto Top: Інтеграція ШІ для модерації контенту в масових онлайн-іграх, подібна до цієї, може прокласти шлях для більш складних застосувань ШІ-агентів у децентралізованих середовищах, потенційно підвищуючи ефективність та безпеку в Web3-додатках. Це також може стимулювати розробку спеціалізованих токенів, які винагороджують за внесок у розвиток та управління ШІ-моделями, що використовуються в таких платформах.
Джерело: decrypt.co