Виталик Бутерин: Искусственный интеллект угрожает человечеству

В новой занимательной статье сооснователь Ethereum (ETH) порассуждал на тему ИИ. По его мнению, новейшая технология имеет «серьезные шансы» на то, чтобы стать следующим приматом Земли. 

Бутерин заявил, что ИИ «принципиально отличается» от таких изобретений, как социальные сети, самолеты, оружие или печатный станок. Он отметил, что искусственный интеллект способен создать новый тип разума, который может обернуться против человечества. 

«ИИ — это новый тип разума, который быстро набирает силу, и у него есть серьезные шансы обогнать человека по умственным способностям и стать новым видом приматов на планете», — добавил он. 

На такое заявление, как утверждает сам программист, его натолкнули пренебрежительные высказывания об ИИ. Многие называют это «очередной технологией». 

Неправильно настроенный искусственный интеллект может буквально привести к уничтожению цивилизации, считает программист. Он сравнил такой сценарий с другими глобальными катастрофами, включая изменение климата, ядерную войну и пандемию. Во всех перечисленных случаях есть вероятность, что останутся некоторые живые островки, которые из осколков смогут собрать новую цивилизацию. Сверхразумный ИИ же, напротив, покончит с человечеством навсегда. 

Бутерин также привел данные опроса, проведенного в августе 2022 года среди 4 тыс. исследователей в области машинного обучения. Так, вероятность того, что ИИ нас уничтожит, оценили в 5-10%. По словам сооснователя второй криптовалюты, такой показатель — высокий. 

При этом программист отметил, что его слова можно считать экстремальными. Он уверен, что у людей есть некоторые шансы, чтобы победить ИИ. 

В статье он также предложил интегрировать интерфейс мозг-компьютер (BCI). Таким образом люди получат больше контроля над мощными формами вычислений на основе искусственного интеллекта. 

BCI — это системы, которые позволяют человеку напрямую общаться с компьютером или другими устройствами, используя мозговую активность. К другим устройствам можно, например, отнести роботизированный протез. 

По мнению Бутерина, с помощью такой интеграции в каждом решении, принимаемом ИИ, смогут участвовать люди. Таким образом получится снизить вероятность того, что искусственный интеллект в определенный момент станет неконтролируемым.

В сентябре редакция писала о том, что программист посоветовал криптовалютным биржам делать финансовую систему более доступной для пользователей. Он раскритиковал централизованные платформы, которые заняли слишком большую часть рынка и усложнили жизнь сектору децентрализованных финансов (DeFi).

По его мнению, привлечь людей в криптоиндустрию можно с помощью нескольких факторов, включая надежность и простоту в использовании.

Источник: cryptocurrency.tech