Сооснователь проекта Ethereum Виталик Бутерин рассказал о своем отношении к концепции технооптимизма и потенциальной угрозе искусственного интеллекта для человечества. По мнению разработчика, стремительное и бесконтрольное развитие ИИ может обернуться катастрофой для людей.
New monster post: my own current perspective on the recent debates around techno-optimism, AI risks, and ways to avoid extreme centralization in the 21st century.https://t.co/6lN2fLBUUL pic.twitter.com/h5aIyFNCoh
— vitalik.eth (@VitalikButerin) November 27, 2023
В своем блоге Бутерин заявил, что автоматизация и технологии принесли человечеству недооцененную выгоду, повлияв на комфорт жизни. Часть этих улучшений поддаются количественной оценке, часть — нет, но все они преобразовывали существование человека и способствовали его дальнейшему развитию, отмечает сооснователь Ethereum.
В ХХI веке есть большая вероятность, что нас ждет еще более радикальные улучшения, заявил Бутерин. Если в течение следующих 75 лет продвинется так же далеко, как компьютеры за тот же период, будущее может превзойти самые смелые ожидания, по мнению разработчика.
В то же время Виталик Бутерин указал на риски для человечества, связанные со стремительным развитием технологий. Одна из ключевых угроз кроется в искусственном интеллекте, который имеет все шансы превзойти людей и стать новым высшим видом на Земле, отмечает разработчик.
«ИИ — это новый тип разума, который быстро набирает силу, и у него есть серьезные шансы обогнать человека по умственным способностям, став новым видом доминирующим видом на планете», — пишет Бутерин.
По словам сооснователя Ethereum, в отличие от изменения климата, искусственной пандемии или ядерной войны, сверхразумный ИИ потенциально может положить конец человечеству и не оставить никого в живых.
К примеру, Центр безопасности ИИ в мае 2023 года искусственный интеллект к экзистенциональным угрозам для людей.
Риск такого развития событий усиливается, если в конечном итоге ИИ будет рассматривать людей как угрозу своему выживанию, указывает Бутерин. Даже на Марсе человечество не сможет укрыться, считает разработчик.
Чтобы избежать такого сценария, люди могут улучшить возможности собственного организма. Бутерин предлагает интегрировать в мозг человека интерфейс, который позволяет подключаться к компьютеру. Это даст возможность контролировать большие объемы информации и расширить вычислительные мощности людей.
Бутерин назвал людей «самой яркой звездой» во Вселенной, поскольку человечество разработало технологию, позволяющую расширить его потенциал на тысячи лет вперед. Однако для дальнейшего удержания лидирующей позиции как вида, людям необходимо научится управлять ИИ и разработать меры, которые позволят держать его под контролем, пишет сооснователь Ethereum.
Напомним, ранее мы писали, что Виталик Бутерин «четыре основных риска», связанных с Worldcoin.
