Grok виклав 370 000 листування з користувачами

ІІ-стартап xAI опублікував у Google та інших пошукових ресурсах сотні тисяч діалогів між користувачами та чат-ботом Grok. У багатьох випадках конфіденційна інформація розкрита без дозволу користувачів, пише Forbes.

Щоразу, коли користувач натискає кнопку “поділитися” в чаті, створюється унікальне посилання. Вона дозволяє поширювати розмову в месенджерах, поштою та іншими способами. Виявилося, що вони також індексуються в пошукових системах на кшталт Google, Bing та DuckDuckGo.

Іншими словами, натискання кнопки «поділитися» робить листування публічно доступним для будь-якої людини в інтернеті.

За інформацією видання, проіндексовано понад 370 тисяч діалогів. Серед опублікованих розмов зустрічаються прості бізнес-завдання на кшталт написання твітів і досить сумнівний контент, такий як генерація фейкових новин про теракти в Кашмірі або спроби злому криптогаманця.

Можна виявити особисті питання про медицину, психологію, паролі. Доступними виявились завантажені зображення, таблиці, текстові документи.

Деякі запити містили непристойності, ксенофобські висловлювання. Grok навіть давав інструкції з виготовлення наркотиків, шкідливого ПЗ, що самопоширюється, бомби і поради за методами суїциду. В одному з листування чат-бот надав план замаху на Ілона Маска.

Раніше аналогічний скандал стався із ChatGPT від OpenAI. Тоді компанія пояснила індексацію листування тестовою функцією та відключила її. Маск висміяв конкурента, а в офіційному акаунті Grok запевнили, що сервіс не має такої функції.

Невідомо, коли індексацію листування активували. Користувачі нарікали на неї ще в січні.

Ймовірно, деякі запити про наркотики та зброю зроблено фахівцями з кібербезпеки у рамках тестування роботи штучного інтелекту. Однак навіть професійні дослідники не знали, що їхні діалоги потрапляють у пошукові системи.

У Google пояснили, що власники ресурсів самі ухвалюють рішення про індексацію сторінок. Раніше компанія дозволяла це робити з чатами Bard, але прибрала функцію у 2023 році.

Тим часом маркетологи вже почали застосовувати опубліковані листування з Grok для SEO. На LinkedIn та BlackHatWorld обговорюють, як за їх допомогою можна просувати бренди у пошуковій видачі Google.

У липні Сем Альтман заявив, що особисті бесіди з ChatGPT не захищені юридично. При необхідності суд може зажадати всю інформацію, якою користувачі ділилися з чат-ботом.

Источник: cryptocurrency.tech