Сенаторка Воррен вимагає відповідей після того, як Пентагон надав доступ до секретної мережі компанії xAI Ілона Маска, попри попередження АНБ та шлейф шкідливих ШІ-виводів.
Створіть обліковий запис, щоб зберегти свої статті.Додати в GoogleДодайте Decrypt як вибране джерело, щоб бачити більше наших історій у Google.
Коротко
- Сенаторка Воррен надіслала листа міністру оборони Піту Хегсету з вимогою відповідей щодо доступу Grok до Пентагону.
- Агенції з безпеки попереджали про ризики Grok, але Пентагон, схоже, все одно рухається вперед.
- Історія Grok включає появу шокуючих діпфейк-зображень неповнолітніх, антисемітські висловлювання та витік розмов.
Сенаторка Елізабет Воррен хоче знати, як чат-бот, який, за повідомленнями, генерував мільйони діпфейк-зображень, включаючи компрометуючі зображення неповнолітніх, отримав доступ до найсекретніших систем Пентагону.
У неділю Воррен надіслала чотиристорінковий лист міністру оборони Піту Хегсету з вимогою відповідей щодо рішення Міністерства оборони (DoD) надати компанії xAI Ілона Маска доступ до секретних військових мереж, яке, за її словами, було надано, незважаючи на червоні прапорці, підняті кількома федеральними агентствами.
«Я пишу щодо моїх занепокоєнь щодо повідомленого рішення Міністерства оборони (DoD) дозволити xAI Ілона Маска отримати доступ до секретних систем, незважаючи на занепокоєння, висловлені кількома федеральними агентствами, включаючи Агентство національної безпеки (АНБ) та Головне управління служб (GSA)», — написала Воррен.
«Я стурбована тим, що очевидна відсутність належних запобіжників у Grok може становити серйозний ризик для безпеки американського військового персоналу та для кібербезпеки секретних систем, — додала вона, — особливо якщо Grok отримає доступ до чутливої військової інформації та до операційних систем».
Національне агентство безпеки, як зазначає лист Воррен, «провело секретне розслідування» і «визначило, що Grok має певні проблеми безпеки, яких не мали інші моделі». Головне управління служб висловило подібні застереження.
«Якщо Grok випустить урядову інформацію, це може розкрити чутливі військові плани, американські розвідувальні операції та потенційно поставити під загрозу військовослужбовців», — написала Воррен.
Жодне з цих занепокоєнь, схоже, не сповільнило процес.
«Неясно, які гарантії чи документацію xAI надала Міністерству оборони щодо заходів безпеки Grok, практик обробки даних або контролю безпеки, і чи оцінило DoD ці гарантії перед тим, як, за повідомленнями, надати Grok доступ до секретних систем», — йдеться в листі.
Час подій неможливо ігнорувати. Того ж дня, коли був надісланий лист Воррен, троє неповнолітніх з Теннессі подали федеральний позов проти xAI, стверджуючи, що Grok створив матеріали сексуального насильства над дітьми на основі їхніх реальних фотографій. У позові xAI звинувачують у навмисному випуску Grok без стандартних галузевих запобіжників, називаючи це «бізнес-можливістю» для отримання прибутку від експлуатації реальних людей, зокрема дітей.
Минулого тижня Washington Post повідомила, що співробітник Департаменту ефективності уряду (DOGE) під наглядом Маска скопіював конфіденційні записи даних Соціального страхування сотень мільйонів американців і мав намір використати ці дані у своєму новому технологічному стартапі.
Лист Воррен також цитує історію Grok щодо генерації антисемітського контенту, надання користувачам інструкцій щодо здійснення вбивств та терористичних актів, а також несанкціонованого створення діпфейків, незважаючи на неодноразові обіцянки щодо виправлень. Сотні тисяч приватних розмов Grok також були знайдені проіндексованими в Google минулого серпня.
Урядове тестування показало, що Grok більш схильний до атак «отруєння даних» — коли маніпульовані дані пошкоджують виводи системи — порівняно з конкурентними моделями. Це серйозна вразливість для інструменту, що розглядається для розробки озброєнь та розвідки на полі бою. Власний директор з відповідального ШІ Пентагону розсилав внутрішні меморандуми щодо цих ризиків і незабаром після цього пішов у відставку.
Сама угода була укладена за незвичайних обставин. xAI, за повідомленнями, була пізнім доповненням до групи постачальників ШІ Пентагону, отримавши контракт на суму до 200 мільйонів доларів минулого липня. Угода про секретний доступ послідувала в лютому, саме тоді, коли DoD публічно сперечався з Anthropic щодо запобіжників безпеки.
Відповідаючи на запит, речник Пентагону повідомив Wall Street Journal, що департамент «радий мати xAI, одну з провідних компаній-фронтирів ШІ Америки, на борту та з нетерпінням чекає на розгортання Grok на їхній офіційній платформі ШІ GenAI.mil найближчим часом».
Цей контекст має значення. Anthropic була єдиною компанією ШІ із системами, готовими до роботи з секретною інформацією, а їхній Claude використовувався в реальних військових операціях. Після того, як Anthropic відмовилася виконати вимогу Пентагону зробити Claude доступним для «всіх законних цілей» — зокрема, відмовившись від автономної зброї та масового внутрішнього спостереження — DoD позначив компанію як ризик для ланцюга поставок. xAI та OpenAI були оголошені як заміни.
Немає жодних записів про те, щоб xAI ставила під сумнів сферу дії стандарту «всіх законних цілей». OpenAI була більш дипломатичною, встановивши певні межі на рівні сервера.
Воррен просить Хегсета надати до 30 березня повний текст угоди з xAI, усі внутрішні комунікації щодо угоди та відповіді на запитання, чи проводилося будь-яке тестування чи оцінка перед наданням доступу. Одне з її 10 запитань прямо запитує, чи існують запобіжники, які гарантують, що Grok не спричинить «помилкові рішення щодо наведення», якщо його буде розгорнуто в критичних операційних системах.
Погляд Crypto Top: Надання доступу до секретних систем ШІ-моделям з сумнівною репутацією, як Grok, ігноруючи попередження безпеки, може призвести до компрометації критично важливих даних. Це підкреслює нагальну потребу в надійних механізмах верифікації та безпеки на перетині ШІ та національної безпеки, що потенційно може стимулювати розробку децентралізованих, перевірених рішень ШІ в Web3.
Джерело: decrypt.co