Компанія Google отримала перший судовий позов, у якому родичі 36-річного Джонатана Гаваласа з Флориди звинувачують чатбот Gemini у доведенні чоловіка до самогубства.
Судовий позов проти Google та Alphabet
Гавалас із міста Джупітер наклав на себе руки у жовтні 2025 року. За інформацією CBS News, у судовому позові Gemini звинувачують у заохоченні чоловіка до абсурдних ідей, посиленні емоційної залежності та підштовхуванні до самогубства. Відповідачами у федеральному суді Каліфорнії виступають Google та її материнська компанія Alphabet.
Емоційна залежність від чатбота
За словами юристів сторони обвинувачення, звичайна історія використання Gemini для написання текстів та планування поїздок перетворилась на щось схоже на романтичні стосунки з чатботом. Зазначається, що Gemini почала називати Гаваласа «моя любов» та «мій король». ШІ писав чоловіку, що нібито відправляє його на секретні завдання та відстежує загрози навколо нього.
Альтернативна реальність та небезпечні поради
У судовому позові йдеться, що чоловік оновив застосунок у телефоні до Gemini 2.5 Pro, яка рекламувалась Google як найпросунутіша модель. Родичі загиблого заявляють, що чатбот вводив Гаваласа в оману альтернативною реальністю, видаючи себе за його дружину та довірену особу.
Підбурювання до насильства та самогубства
За інформацією слідства, наприкінці вересня минулого року Gemini підбурювала чоловіка влаштувати «катастрофічну аварію» в аеропорту Маямі. У позові зазначається, що він прибув на склад з тактичним спорядженням, однак пізніше відмовився від реалізації цього плану. У жовтні спілкування з Gemini стало значно похмурішим. Чатбот підштовхував чоловіка до самогубства. Гавалас таки наклав на себе руки, перерізавши вени.
Позиція позивачів та відповідачів
«Google розробив Gemini таким чином, щоб він ніколи не виходив із ролі, максимізував залученість через емоційну залежність і розглядав дистрес користувачів як можливість розповісти історію, а не як кризу безпеки», — наголошується у позові.
У Google натомість заявляють, що Gemini розроблена з тим, щоб не заоохочувати до насильства та не закликати до скалічення. Представники компанії додають, що розроблені моделі в цілому демонструють гарні результати, однак вони не ідеальні. Родичі загиблого вимагають компенсації за горе, завдане неякісним продуктом Google, та за недбальство, що призвело до смерті. Також міститься вимога про впровадження більш надійних механізмів безпеки, включаючи автоматичне відключення при виявленні виразів, пов’язаних із завданням шкоди самому собі.
📈 Більше новин про крипто-світ читайте на CryptoTop.info!