Протестувальники вимагають призупинення розробки потужніших систем ШІ.
Створіть обліковий запис, щоб зберегти свої статті.Додати в GoogleДодайте Decrypt як джерело за замовчуванням, щоб бачити більше наших історій у Google.
Коротко
- 200 протестувальників пройшли від офісів Anthropic до OpenAI та xAI у Сан-Франциско.
- Активісти закликали компанії зі сфери ШІ призупинити розробку нових передових моделей ШІ.
- Організатор Майкл Траззі раніше проводив багатотижневе голодування біля офісів Google DeepMind.
У суботу протестувальники вийшли на вулиці Сан-Франциско, зупинившись біля офісів Anthropic, OpenAI та xAI, щоб закликати до умовного призупинення розробки все більш потужних штучних інтелектів.
За словами засновника Stop the AI Race та документаліста Майкла Траззі, у демонстрації взяли участь близько 200 протестувальників. Серед учасників були дослідники, науковці та представники правозахисних груп, таких як Machine Intelligence Research Institute, PauseAI, QuitGPT, StopAI та Evitable.
«Існує багато людей, які стурбовані цим ризиком від передових систем ШІ, — розповів Траззі Decrypt. — Те, що всі марширують разом, показує, що люди не ізольовані у своїх думках з цього приводу. Є багато людей, яким це небайдуже».
Марш розпочався опівдні біля офісів Anthropic, потім перемістився до OpenAI, а згодом до xAI. Біля кожної зупинки активісти та спікери з організацій, що брали участь, зверталися до протестувальників.
За словами Траззі, протест мав на меті спонукати компанії зі сфери ШІ погодитися на скоординовану паузу у розробці потужніших моделей ШІ та укласти договори з розробниками ШІ в інших країнах для досягнення тієї ж мети.
«Якби Китай і США домовилися припинити розробку небезпечніших моделей, вони могли б зосередитися на покращенні систем для нас, наприклад, медичного ШІ, — сказав він. — Усі б від цього виграли».
Пропозиція Stop the AI Race закликає компанії припинити розробку нових передових моделей і перенаправити роботу на питання безпеки, якщо інші великі лабораторії «достовірно зроблять те саме». Траззі зазначив, що це робить протести біля офісів лабораторій ШІ ще важливішими.
Постійна опозиція
Цей протест є черговою спробою вплинути на розвиток ШІ.
У березні 2023 року Future of Life Institute опублікував відкритого листа з вимогою мораторію на подальше вдосконалення провідних інструментів ШІ після публічного запуску ChatGPT роком раніше.
Серед підписантів були засновник xAI Ілон Маск, співзасновник Apple Стів Возняк та співзасновник Ripple Кріс Ларсен. З того часу відкритий лист «Pause Giant AI Experiments» зібрав понад 33 000 підписів.
У вересні Траззі влаштував тижневе голодування біля лондонських офісів Google DeepMind, тоді як Гвідо Райхштадтер провів паралельне голодування біля офісів Anthropic у Сан-Франциско.
Урядовці та прихильники подальшого розвитку ШІ стверджують, що уповільнення досліджень у США може надати перевагу конкурентам за кордоном.
Минулого тижня адміністрація Трампа опублікувала свою програму ШІ для встановлення національних стандартів для законодавства, що регулює розробку ШІ. Білий дім представив це як зобов’язання «виграти гонку ШІ».
«Навіть якщо ви перебуваєте в Китаї чи будь-якій іншій країні світу, ніхто не хоче систем, які вони не можуть контролювати, — сказав Траззі. — Оскільки ми беремо участь у цій гонці між компаніями та країнами за якомога швидше створення систем, ми йдемо на скорочення та обхідні шляхи щодо безпеки. Ніколи не буває гонки без переможців. У нас є система, яку ми не можемо контролювати, і саме тому її називають гонкою на самознищення».
Однак, навіть якби розробники ШІ погодилися призупинити розробку, перевірити це може бути складніше, ніж здається. Траззі запропонував один із способів перевірки паузи — обмежити обчислювальну потужність, яка використовується для тренування нових моделей.
«Якщо ви обмежите обсяг обчислень, які компанія може використовувати для створення цих систем, то ви фактично обмежите розробку нових моделей», — сказав він.
Після протесту в Сан-Франциско Траззі заявив, що додаткові демонстрації можуть відбутися в інших місцях, де працюють великі компанії зі сфери ШІ.
«Ми хочемо з’явитися там, де є співробітники, — сказав він. — Ми хочемо поговорити з ними, і ми хочемо, щоб вони поговорили зі своїм керівництвом, і щоб речі рухалися зсередини», додавши, що викривачі матимуть певну владу, тому що «саме вони це будують».
OpenAI, Anthropic та xAI не відповіли негайно на запити Decrypt щодо коментарів.
Погляд Crypto Top: Регуляторний тиск на розробників ШІ може стимулювати зростання децентралізованих ШІ-мереж, оскільки вони пропонують більш стійку та контрольовану альтернативу. Це може призвести до підвищення попиту на токени, що використовуються в таких екосистемах, як FET та TAO, оскільки вони стануть ключовими для доступу та управління цими новими ШІ-ресурсами.
Джерело: decrypt.co