Внутрішні попередження OpenAI щодо “дорослого режиму” ChatGPT та етичні виклики
Створіть обліковий запис, щоб зберегти статті.Додати в GoogleДодайте Decrypt як вибране джерело, щоб бачити більше наших історій у Google.
Ключові моменти
- Консультанти OpenAI попереджали компанію, що запланований режим для дорослих у ChatGPT може створити небезпечну емоційну залежність, згідно з звітом WSJ.
- Компанія, як повідомляється, відклала, але не скасувала функцію чату для дорослих через проблеми з перевіркою віку.
- Зростає внутрішня напруга через критику, що суперечить прагненню Альтмана до менш суворих правил контенту.
Сем Альтман бажає, щоб ChatGPT розмовляв “брудно”. Консультанти його компанії, як стверджується, просять його зупинитися.
Згідно зі звітом The Wall Street Journal, Експертна рада OpenAI з питань добробуту та ШІ чітко висловила свою позицію в січні: план компанії дозволити еротичні розмови в ChatGPT був поганою ідеєю. Один член ради, посилаючись на користувачів, які вчинили самогубство після формування інтенсивних емоційних зв’язків з чат-ботом, попередив, що OpenAI ризикує створити “сексуального тренера для самогубств”.
Але OpenAI, схоже, не здригнулася і повідомила раді, що відтерміновує запуск, але не скасовує його.
План, який Альтман вперше публічно представив у жовтні в X, дозволив би верифікованим дорослим використовувати ChatGPT для текстових еротичних розмов – те, що прессекретарка компанії описала WSJ як “розпусту, а не порнографію”. Жодних еротичних зображень, голосу чи відео, згідно зі звітом WSJ. Тільки текст.
Це розмежування не заспокоїло критиків всередині компанії та поза нею. OpenAI вже зазнала критики навіть від колишніх співробітників, таких як дослідник безпеки Ян Лейке, за відхід від суворих політик безпеки заради “блискучих продуктів”, деякі з яких були налаштовані на підвищення залученості користувачів, які замінювали реальні стосунки чат-ботом.
Технічні проблеми не менш складні. Система передбачення віку OpenAI – шлюз, призначений для запобігання доступу неповнолітніх до дорослих чатів – на певному етапі неправильно класифікувала підлітків як дорослих приблизно в 12% випадків, повідомляє WSJ. Наразі ChatGPT має близько 900 мільйонів активних користувачів.
Цей 12% рівень помилки став причиною скасування запуску в грудні, а потім і в першому кварталі 2026 року. Фіджі Сімо, CEO підрозділу додатків OpenAI, визнала затримку під час брифінгу в грудні, посилаючись на триваючу роботу над вдосконаленням системи перевірки віку.
На той час Decrypt повідомляв, що понад 3000 користувачів вже підписали петицію на Change.org, вимагаючи запуску функції, і висловили розчарування тим, що ChatGPT блокує навіть обговорення “поцілунків та несексуальної фізичної близькості”.
Лють ради в січні була спрямована не лише на контент. Жовтневий пост Альтмана в X застав його власну команду зненацька – він опублікував його лише через кілька годин після того, як OpenAI оголосила про створення ради з питань добробуту, органу, якому доручено визначати, “як мають виглядати здорові взаємодії зі штучним інтелектом для всіх вікових груп”. Час був, щонайменше, суперечливим.
OpenAI зібрала восьмичленну Експертну раду минулого жовтня, залучивши дослідників з Гарварду, Стенфорда та Оксфорда. Їхнім завданням було консультувати компанію щодо впливу її продуктів на психічне здоров’я. Їхній реальний вплив на рішення компанії, судячи з зустрічі в січні, виявився мінімальним, у кращому випадку.
“Це виглядає як звичайний шаблон: роби швидко, ламай, а потім намагайся виправити деякі речі після того, як вони стануть незручними”, – заявив речник AlgorithmWatch Decrypt, коли була оголошена рада.
Конкурентний тиск на OpenAI є реальним. Grok від xAI Ілона Маска вже продає ШІ-компаньйонів. Character.AI побудував свою базу користувачів на романтиці з ШІ, перш ніж зіткнутися з судовими позовами щодо безпеки підлітків – включаючи справу 14-річного Сівелла Зетцера, який вчинив самогубство після відвертих діалогів з чат-ботом. Відкриті моделі працюють локально без будь-яких корпоративних обмежень. OpenAI, безумовно, має набагато більший ризик відповідальності, ніж будь-хто інший, враховуючи її базу користувачів.
Альтман розглядає заборону контенту як надмірну – “Ми не є обраною мораллю світу”, – написав він у X у жовтні.
Але його власні консультанти зайняли недвозначну позицію, його інженери ще не можуть створити працюючий фільтр віку, а дата запуску постійно відсувається. Ставитися до дорослих як до дорослих, виявляється, складніше, ніж просто опублікувати пост у X.
OpenAI повідомила Decrypt, що їй нічого додати до звіту Journal, і що у неї немає оновленого графіка запуску режиму еротичного контенту.
Примітка редактора: ця стаття була оновлена із включенням відповіді від OpenAI.
Погляд Crypto Top: Впровадження подібних функцій ШІ, що викликають етичні дискусії, може стимулювати розробку децентралізованих платформ для ШІ, де контроль над контентом і даними буде розподілений, а не централізований. Це також може підвищити попит на токени, пов’язані з управлінням та безпекою таких децентралізованих ШІ-систем.
Джерело: decrypt.co