Создатели чат-бота ChatGPT из компании OpenAI сообщили о своих планах сформировать команду специалистов по контролю за суперинтеллектом.
Работники OpenAI считают, что суперинтеллект, превосходящий человеческий разум, окажется безумно важной технологией и поможет решить многие проблемы. Однако он также несёт угрозу обществу и даже может уничтожить человечество.
По оценкам экспертов, первый суперинтеллект появится в течение ближайших 10 лет, поэтому уже сейчас нужно придумать методы снижения рисков. Именно этим будет заниматься команда работников OpenAI под руководством главного научного сотрудника фирмы Ильи Суцкевера и Яна Лейке, возглавляющего отдел согласования.
Илья Суцкевер
В числе рядовых членов группы по контролю за суперинтеллектом окажутся исследователи и инженеры. Они получат доступ к 20% вычислительной мощности устройств OpenAI, чтобы решить проблему, связанную с возможным восстанием искусственного разума. Работу планируют завершить в течение четырёх лет.
Очевидно, что суперинтеллект может стать опасным только в процессе самостоятельной тренировки. В связи с этим способ устранения угрозы, скорее всего, найдут эксперты в области машинного обучения.
