Внутрішні запобіжники були обійдені у справі Prince Group, що призвело до вигаданих та неточних юридичних цитат.
Створіть обліковий запис, щоб зберегти свої статті.Додати в GoogleДодайте Decrypt як вибране джерело, щоб бачити більше наших історій у Google.
Коротко
- Юридична фірма Sullivan & Cromwell визнала, що нещодавнє подання у справі з високим резонансом містило «галюцинації» ШІ.
- Фірма заявила, що результати роботи ШІ не були належним чином перевірені та містили сфабриковані цитати.
- Справа стосується зусиль призначених судом ліквідаторів щодо пред’явлення позовів, пов’язаних із підсанкційною організацією Prince Group.
Юридична фірма Sullivan & Cromwell визнала перед судом США у справах про банкрутство, що нещодавнє подання у справі з високим резонансом містило помилки, згенеровані штучним інтелектом, включаючи сфабриковані цитати.
«Ми глибоко шкодуємо, що це сталося», — написав Ендрю Дайдеріх, керівник відділу реструктуризації фірми, судді Мартіну Гленну, зазначивши, що документ містив «галюцинації» ШІ, які призвели до вигаданих джерел та спотворення наявних.
Це зізнання було зроблено в листі до Південного окружного суду Нью-Йорка США, де фірма представляє призначених судом ліквідаторів з Британських Віргінських Островів. Помилки з’явилися в клопотанні від 9 квітня, і фірма зазначила, що під час його підготовки не були дотримані її правила щодо використання ШІ.
Справа стосується зусиль цих ліквідаторів щодо пред’явлення позовів, пов’язаних з Prince Group та її власником Чен Чжі. Прокурори стверджують, що Чен керував шахрайськими схемами, які націлювалися на жертв по всьому світу, і намагаються повернути мільярди доларів у криптовалюті, які, на їхню думку, пов’язані з цією діяльністю. Його було затримано на початку цього року в Камбоджі, а пізніше екстрадовано до Китаю.
Через процедуру Розділу 15 у США ліквідатори прагнуть отримати визнання своєї влади діяти від імені кредиторів та заявлених жертв. Prince Group, зареєстрована на Британських Віргінських Островах, була пов’язана американською владою з великомасштабними шахрайськими операціями в Південно-Східній Азії та піддана санкціям урядів Великобританії та США.
Згідно з виправленим поданням, у квітневому клопотанні було допущено численні неточності в судових рішеннях, а також включено цитати, які не підтверджували приписані їм твердження, тоді як деякі, здавалося, не мали жодного обґрунтування. Фірма відкликала оригінальне клопотання та подала переглянуту версію.
Юристи Prince Group та Чен з Boies Schiller Flexner спочатку виявили помилки. Вони заявили, що не вдалося знайти формулювання, приписані Кодексу США про банкрутство, і що кілька джерел були неправильно охарактеризовані або ідентифіковані. В одному випадку, за їхніми словами, процитована справа стосувалася іншого рішення в іншому окрузі.
У окремому поданні відповідачами було зазначено, що щонайменше 28 цитат були помилковими, включаючи цитати, приписані суду, яких не існує. Вони стверджували, що час виправлення був невигідним, оскільки виправлене подання надійшло після подання їхніх заперечень, і попросили суд відкласти заплановане слухання та провести конференцію щодо статусу справи.
Sullivan & Cromwell заявила, що її політики вимагають від юристів пройти навчання перед використанням інструментів ШІ та самостійно перевіряти всі результати.
«Перед тим, як будь-якому юристу фірми буде надано доступ до генеративних інструментів ШІ, юрист повинен пройти два обов’язкові навчальні модулі, проходження яких відстежується та перевіряється. Навчання багаторазово підкреслює ризик «галюцинацій» ШІ, включаючи фабрикацію цитат справ, неправильне тлумачення джерел та неточні цитати», — йдеться у заяві.
«Воно наставляє юристів «нічому не довіряти і все перевіряти» та чітко вказує, що недотримання самостійної перевірки результатів, згенерованих ШІ, є порушенням політики фірми».
Фірма повідомила, що ширший огляд виявив додаткові незначні помилки у формулюванні в інших документах, які вона пов’язала з людським фактором, а не з ШІ. Юристи, які готували оригінальне клопотання, ідентифіковані не були.
ШІ під судом
Цей інцидент додається до зростаючого списку помилок, пов’язаних із ШІ, у юридичній практиці, оскільки фірми тестують інструменти, призначені для прискорення досліджень та підготовки документів. Нещодавно суди накладали санкції або критикували юристів за подання документів із сфабрикованими або неточними посиланнями, згенерованими ШІ. В Австралії одного юриста минулого року позбавили права практикувати як головного юриста через використання ШІ.
Юридичні школи починають вимагати викладання цієї технології, тоді як старші судді попереджають, що її неправильне використання може вплинути на цілісність судових процесів.
Нещодавні рішення також стосувалися того, як ШІ вписується в існуючі правові рамки, зокрема, чи захищені привілеями взаємодії з такими інструментами. Водночас деякі суди пілотують системи ШІ для допомоги у врегулюванні великої кількості справ.
Погляд Crypto Top: Випадки зловживання ШІ в юридичних процесах підкреслюють необхідність надійних систем верифікації, що може стимулювати впровадження децентралізованих рішень для аудиту та перевірки даних у Web3. Інтеграція перевірених ШІ-моделей з блокчейном для юридичних документів може підвищити довіру та ефективність, одночасно створюючи нові моделі використання токенів для доступу до верифікованих ШІ-послуг.
Джерело: decrypt.co