Внутрішній спротив у Google через угоду з Пентагоном щодо класифікованої роботи зі ШІ
Google, за повідомленнями, уклав угоду про надання своїх моделей штучного інтелекту (ШІ) Пентагону для виконання класифікованих завдань. Цей крок викликав значний внутрішній спротив серед співробітників компанії, які закликають керівництво відмовитися від подібних контрактів, що стосуються військових розробок. Угода надає Міністерству оборони США можливість використовувати ШІ Google для “будь-яких законних урядових цілей”. Ця мова договорів подібна до тих, що були укладені Пентагоном з OpenAI та xAI для використання їхніх ШІ-моделей у класифікованих мережах. Представник Google заявив: “Ми пишаємося тим, що є частиною широкого консорціуму провідних лабораторій ШІ та технологічних і хмарних компаній, що надають послуги та інфраструктуру ШІ на підтримку національної безпеки”. Компанія підкреслює, що застосовує свою експертизу у сферах логістики, кібербезпеки, дипломатичного перекладу, технічного обслуговування парків техніки та захисту критичної інфраструктури, працюючи з державними агентствами як над класифікованими, так і над некласифікованими проєктами. “Ми вважаємо, що надання API-доступу до наших комерційних моделей, зокрема на базі Google-інфраструктури, з використанням галузевих стандартів та умов, є відповідальним підходом до підтримки національної безпеки”, – додали в компанії. Водночас Google підтверджує свою прихильність до консенсусу приватного та державного секторів щодо неприпустимості використання ШІ для масового внутрішнього спостереження чи автономної зброї без належного людського контролю.
Занепокоєння працівників щодо етичного застосування ШІ
Напередодні укладення угоди сотні співробітників Google підписали відкритий лист до генерального директора Сундара Пічаї, закликаючи компанію не надавати свої ШІ-системи Пентагону. У листі висловлюється бажання, щоб “ШІ приносив користь людству, а не використовувався у нелюдських або надзвичайно шкідливих способах”. Працівники стверджують, що єдиний спосіб гарантувати, що Google не буде асоціюватися з подібною шкодою, – це відмовитися від усіх класифікованих завдань. Інакше, такі використання можуть відбуватися без їхнього відома та можливості їх зупинити.
Ризики зловживання та централізація влади
Лист також наголошує на тому, що системи ШІ “роблять помилки” і можуть “централізувати владу”. Компанія, на думку співробітників, несе відповідальність за запобігання “найбільш неетичним і небезпечним застосуванням”, включаючи “летальну автономну зброю та масове спостереження”. Працівники попереджають, що “неправильне рішення саме зараз завдасть непоправної шкоди репутації Google, бізнесу та ролі у світі”.
Посилення військових зусиль у сфері ШІ
Пентагон значно прискорив зусилля з укладання угод з провідними компаніями у сфері ШІ з січня, коли міністр оборони Піт Хегсет заявив про необхідність інтеграції цієї технології у військові структури. Лист підкреслює зростаючий розрив між військовими та деякими розробниками ШІ щодо того, як технологія повинна використовуватися у військовій справі. У березні Пентагон визнав компанію Anthropic “ризиком для ланцюга постачання”, фактично заборонивши стартапу співпрацювати з федеральним урядом після того, як генеральний директор Даріо Амодеї відмовився дозволити необмежене використання своїх ШІ-моделей. Anthropic подала позов проти Пентагону через це рішення, прагнучи продовжити співпрацю з іншими державними структурами.
Протистояння етичних принципів та національної безпеки
Попри внутрішній тиск, Google, схоже, продовжує реалізовувати свою угоду з Пентагоном, оскільки Департамент оборони розширює використання штучного інтелекту у своїх класифікованих операціях. “Просто кажучи, Сполучені Штати повинні виграти стратегічну конкуренцію за технологічну перевагу 21-го століття”, – заявив Хегсет у січні під час виступу на Starbase Ілона Маска, назвавши це “давно назрілим”. “Дуже скоро ми матимемо провідні світові моделі ШІ у всіх некласифікованих та класифікованих мережах нашого департаменту”, – додав він.
Погляд Crypto Top: Інтеграція передових ШІ-моделей у державні та військові структури може стимулювати розробку децентралізованих ШІ-мереж та безпечніших методів взаємодії між ШІ-агентами. Це потенційно може збільшити попит на токени, що використовуються в екосистемах децентралізованих обчислень та ШІ-орієнтованих блокчейн-проєктах.
Джерело: decrypt.co