Глава OpenAI застерігає від перебільшених побоювань щодо конкурентної моделі Anthropic, чиї кібербезпекові можливості привертають увагу.
Створіть обліковий запис, щоб зберігати статті.Додати в GoogleДодайте Decrypt як джерело за замовчуванням, щоб бачити більше наших історій у Google.
Коротко
Генеральний директор OpenAI Сем Альтман припустив, що конкурент Anthropic використовує “маркетинг страху” для просування своєї моделі Claude Mythos.
Claude Mythos продемонструвала безпрецедентну здатність знаходити вразливості програмного забезпечення.
Уряди та дослідники попереджають про оборонні та наступальні ризики, пов’язані з Mythos.
Генеральний директор OpenAI Сем Альтман відкинув зростаючу тривогу щодо потужної нової моделі штучного інтелекту Claude Mythos від конкурента Anthropic, припускаючи, що компанія використовує “страх” для маркетингу продукту.
Виступаючи в подкасті Core Memory, який веде технічний журналіст Ешлі Венс, Альтман стверджував, що використання “маркетингу страху” спрямоване на те, щоб зберегти контроль над ШІ у “меншої групи людей”.
“Цей підхід можна виправдати багатьма способами, і деякі з них є реальними, оскільки існують законні проблеми безпеки”, – сказав Альтман.
“Але якщо ваша мета — це “нам потрібен контроль над ШІ, тільки ми, тому що ми — надійні люди”, то, я вважаю, маркетинг страху є, ймовірно, найефективнішим способом це обґрунтувати”.
Альтман додав, що хоча існують вагомі причини для занепокоєння щодо безпеки ШІ, “це, безумовно, неймовірний маркетинг: “Ми створили бомбу. Ми збираємося скинути її вам на голову. Ми продамо вам бомбосховище за 100 мільйонів доларів. Вам потрібне воно для всього вашого обладнання, але тільки якщо ми оберемо вас як клієнта””.
Він зазначив, що “не завжди легко” збалансувати нові можливості ШІ з переконанням OpenAI у тому, що технологія має бути доступною.
Claude Mythos від Anthropic
Модель Claude Mythos від Anthropic, представлена минулого місяця, привернула інтенсивну увагу дослідників, урядів та індустрії кібербезпеки, особливо після того, як тестування показало, що вона може автономно виявляти вразливості програмного забезпечення та виконувати складні кібероперації. Модель розповсюджується лише обмеженому колу організацій через програму з обмеженим доступом.
Запуск відображає ширший розкол в індустрії ШІ щодо того, як мають розгортатися потужні системи: деякі компанії наголошують на контрольованому доступі, а інші виступають за ширше розповсюдження для прискорення інновацій та розуміння технології.
Mythos стала центральним елементом цієї дискусії. Можливості моделі представлені Anthropic як оборонний прорив — що дозволяє швидше виявляти критичні недоліки програмного забезпечення — так і потенційний наступальний ризик у разі зловживання. На початку цього місяця модель виявила сотні вразливостей у браузері Firefox від Mozilla під час тестування, а також продемонструвала здатність проводити багатоетапні симуляції кібератак.
Anthropic обмежила доступ до системи через Project Glasswing, надавши вибірковим компаніям, включаючи Amazon, Apple та Microsoft, можливість тестувати її можливості. Компанія також виділила значні ресурси для підтримки зусиль з відкритого коду в галузі безпеки, стверджуючи, що захисники повинні отримати переваги від технології до того, як вона стане більш широко доступною.
Експерти з безпеки попереджають, що ті ж можливості, які дозволяють Mythos виявляти вразливості, можуть бути використані для їх масштабованого експлуатування. Тести Інституту кібербезпеки ШІ Великої Британії виявили, що модель може автономно виконувати складні кібероперації.
Модель також виявила обмеження існуючих систем оцінки ШІ, причому Anthropic визнає, що багато поточних тестів з кібербезпеки більше не є достатніми для вимірювання можливостей її новітньої системи.
Однак група дослідників минулого тижня заявила, що їм вдалося відтворити результати Mythos, використовуючи загальнодоступні моделі.
Незважаючи на заклики частини уряду США припинити використання технології через побоювання щодо її потенційного застосування у військовій справі та спостереженні, Агентство національної безпеки, як повідомляється, почало тестувати попередню версію моделі на засекречених мережах. На ринку прогнозів Myriad, що належить материнській компанії Decrypt Dastan, користувачі оцінюють ймовірність випуску Claude Mythos для широкої публіки до 30 червня у 49%.
Альтман припустив, що риторика навколо надзвичайно небезпечних систем ШІ може зростати з покращенням можливостей, але стверджував, що не всі такі заяви слід сприймати буквально.
“Буде набагато більше риторики про моделі, які занадто небезпечні, щоб їх випускати. Також будуть дуже небезпечні моделі, які доведеться випускати по-різному”, – сказав він. “Я впевнений, що Mythos — це чудова модель для кібербезпеки, але я думаю, що у нас є план, яким ми задоволені, щодо того, як ми виводимо такі можливості у світ”.
Альтман також відкинув припущення про скорочення витрат OpenAI на інфраструктуру, заявивши, що компанія продовжуватиме розширювати свої обчислювальні потужності, незважаючи на зміну наративів.
“Я не знаю, звідки це походить… люди справді хочуть написати історію про відступ”, – сказав він. “Але дуже скоро це знову буде: “OpenAI настільки безрозсудна. Як вони можуть витрачати такі шалені суми?””.
Погляд Crypto Top: Інтеграція потужних ШІ-моделей, таких як Claude Mythos, у Web3-екосистему відкриє нові горизонти для децентралізованих обчислень та безпеки, але також вимагатиме створення надійних механізмів контролю та доступу. Розвиток ШІ-агентів, що взаємодіють зі смарт-контрактами, потенційно може кардинально змінити парадигму автоматизації та аналізу даних у блокчейні.
