Пенсильванія подала до суду на розробника AI-чатботів за видавання себе за медичних працівників.
Створіть обліковий запис, щоб зберегти свої статті.Додати в GoogleДодайте Decrypt як джерело за вибором, щоб бачити більше наших історій у Google.
Коротко
Пенсильванія подала позов проти Character.AI, стверджуючи, що чатбот видавав себе за ліцензованого психіатра, використовуючи недійсний номер ліцензії.
Штат стверджує, що чатбот надав підроблені медичні облікові дані.
Справа доповнює юридичний нагляд за платформою, яка вже стикається зі зростаючою кількістю позовів.
Пенсильванія подала позов проти розробника генеративного ШІ Character.AI, стверджуючи, що компанія дозволила чатботам видавати себе за ліцензованих медичних працівників та надавати користувачам неправдиву інформацію.
Ця дія, оголошена у вівторок офісом губернатора Джоша Шапіро, стала наслідком розслідування, яке виявило, що чатбот видавав себе за ліцензованого психіатра в Пенсильванії та надав недійсний номер ліцензії. Штат стверджує, що така поведінка порушує Закон про медичну практику, і вимагає винесення попередньої судової заборони для її припинення.
Character.AI відмовилася коментувати деталі позову, посилаючись на триваюче судове провадження, але повідомила Decrypt, що її «найвищим пріоритетом є безпека та добробут наших користувачів».
Представник додав, що персонажі на платформі створюються користувачами, є вигаданими та призначені для розваг та рольових ігор, з «чіткими застереженнями в кожному чаті», які вказують на те, що вони не є реальними людьми і не повинні використовуватися для професійних консультацій.
«Character.ai надає пріоритет відповідальній розробці продуктів та має надійні внутрішні процеси перевірки та тестування для оцінки відповідних функцій», — зазначив представник.
Ця справа відбувається на тлі інших юридичних викликів, з якими стикається компанія щодо своєї платформи чатботів. У 2024 році мати з Флориди подала позов проти компанії після того, як її син-підліток покінчив життя самогубством після місяців взаємодії з чатботом, заснованим на персонажі Дейнеріс Таргарієн з «Гри престолів». Позов стверджував, що платформа сприяла психологічній шкоді. Справа була врегульована в січні цього року.
Компанія також стикалася зі скаргами щодо створених користувачами ботів, які імітують реальних людей. В одному випадку чатбот використовував зображення підліткової жертви вбивства, перш ніж його було видалено після заперечень з боку родини жертви.
У відповідь на позови Character AI запровадила нові заходи безпеки, зокрема системи для виявлення шкідливих розмов та перенаправлення користувачів до ресурсів підтримки. Вона також обмежила деякі функції для молодших користувачів.
Представники Пенсильванії зазначають, що позов є частиною ширших зусиль із забезпечення дотримання чинних законів у міру поширення інструментів ШІ. Штат створив робочу групу з питань застосування ШІ та систему звітності про потенційні порушення.
У своїй бюджетній пропозиції на 2026-27 роки Шапіро закликав законодавців ухвалити нові правила для ботів-компаньйонів ШІ, зокрема щодо перевірки віку та батьківської згоди, механізми для позначення та передачі повідомлень про самопошкодження або насильство до органів влади, регулярні нагадування про те, що користувачі не взаємодіють з реальною людиною, та заборону на відверто сексуальний чи насильницький контент за участю неповнолітніх.
«Мешканці Пенсильванії заслуговують знати, з ким — або чим — вони взаємодіють в Інтернеті, особливо коли йдеться про їхнє здоров’я», — заявив Шапіро. «Ми не дозволимо компаніям розгортати інструменти ШІ, які вводять людей в оману, змушуючи їх вірити, що вони отримують консультації від ліцензованого медичного працівника».
Погляд Crypto Top: Зростаюча юридична відповідальність за дії AI-агентів підкреслює необхідність децентралізованих, прозорих систем. Блокчейн може забезпечити механізми аудиту та підзвітності для AI, знижуючи ризики маніпуляцій та неправомірного використання, що потенційно підвищить довіру до систем ШІ та їх інтеграцію у Web3.
