Илон Маск "Люди должны быть обеспокоины новым искуственным интелектом"

Новый, самообучающийся бот с искусственным интеллектом (ИИ), команды Илона Маска, был тестирован на стратегии реального времени - Дота 2. Разработчики научили бота самым базовым аспектам игры и оставили его на два месяца само обучаться. За это время бот сыграл, против версии самого себя миллионы раз и в итоге достиг уровня профессионалов. В его финальном тесте, его поставили против лучших игроков планеты и он победил всех со счетами 12-0, 10-0 и так далее.

Шокирует во всем этом то, что боту не важно какая задача поставлена перед ним, стать лучшим в компьютерной игре или стать, на пример, лучшим хакером в мире, взломать аэропорт и устроить массовую катастрофу. Второе, что поражает - насколько быстро он обучается по сравнению с человеком. Профессиональные игроки потратили минимум 5-10 лет своей жизни, оттачивая навыки в эту игру, но самой сырой версии ИИ хватило двух месяцев чтобы стать лучше их.

Мысли Элона Маска об искусственном интеллекте хорошо известны на данный момент. Он классно сравнивал работу над ИИ с «призывом демона» и снова предупреждал, что эта технология представляет собой экзистенциальный риск для человечества. На собрании губернаторов США он повторил эти настроения, но также подчеркнул то, что как он говорит, еще более важно: правительствам необходимо начать регулировать ИИ сейчас.
"Я имею доступ к самой последней версии ИИ, и я думаю, люди должны быть обеспокоенными этой технологией" - сказал Маск на Национальной Ассоциации Губернаторов. "Я продолжаю утверждать, что это опасно, но пока люди не увидят роботов, убивающих людей на улицах, им кажется, что эта проблема эфирна и не выглядит реальной.

Решение, говорит Маск, - это регулирование: "ИИ - редкий случай, когда нам нужно быть проактивными в отношении регулирования, а не реактивными. Поскольку я думаю, что если мы будем решать проблемы по мере поступления, то в какой-то момент может быть слишком поздно". Он добавил, что нынешняя модель регулирования, в которой правительства вступают только после того, как происходит целая куча плохих вещей, неадекватна для ИИ, потому что технология представляет собой "фундаментальный риск существования цивилизации"

Маск не говорит о таком искусственном интеллекте, который в настоящее время используют такие компании, как Google, Uber и Microsoft, а то, что известно как искусственный генеральный интеллект - некоторая сознательная, супер-интеллектуальная сущность, подобная той, которую вы видите в научных фильмах. Маск (и многие исследователи ИИ) считают, что работа над этим в конечном итоге приведет к последнему.