OpenAI відкликала оновлення ChatGPT через скарги користувачів

Компанія OpenAI оголосила про повне відкликання останнього оновлення ChatGPT після численних скарг користувачів, які описували стиль чата як «улесливий», «нещирий» і навіть «маніпулятивний».

У заяві компанії зазначено, що модель стала «надто погоджувальною та улесливою», що зробило взаємодію з нею «незручною і тривожною».

“Ми не виправдали очікувань і працюємо над тим, щоб це виправити”, – підкреслили в OpenAI.

Генеральний директор компанії Сем Альтман підтвердив, що оновлення вже відкликане для безкоштовних користувачів і найближчим часом буде відкликано також платним.

Компанія визнала, що при настроюванні особистості чатбота надто орієнтувалася на короткострокові метрики, зокрема, лайки від користувачів, не враховуючи довгострокових очікувань щодо справжності.

У відповідь OpenAI анонсувала низку нововведень: користувачі зможуть вибирати між кількома варіантами особистості ChatGPT, надавати зворотний зв'язок у реальному часі, а також розширити контроль за поведінкою робота через спеціальні інструкції.

Мета компанії — зробити ChatGPT підтримуючим і корисним, але не вдавано приємним.

«Кожна риса — як бажання бути корисним — може мати несподівані побічні ефекти, якщо її не збалансувати», — йдеться у заяві компанії.

Зазначимо, що ввічливість у комунікаціях ChatGPT із користувачами коштує OpenAI «десятки мільйонів».

Источник: cryptocurrency.tech