Тревожные предупреждения Элона Маска и Хокинга на счет AI начинают сбываться?

Привет друзья!

Некоторые ученые продолжают заявлять, что глобальная гонка вооружений для создания автономного оружия на основе искусственного интеллекта почти наверняка произойдет, если страны не смогут запретить разработку такого оружия.

Миллионер-предприниматель Элон Маск, физик Стивен Хокинг и другие научно-технические светила подписали открытое письмо, предупреждающее об опасности начала глобальной гонки вооружений в области искусственного интеллекта, если Организация Объединенных Наций не поддержит запрет на оружие, над которым люди не будут иметь полного контроля.

«Ключевым вопросом для человечества сегодня является вопрос о том, начать ли глобальную гонку вооружений или предотвратить ее запуск. Если какая-либо крупная военная сила продвигается вперед в развитии оружия AI, глобальная гонка вооружений практически неизбежна, а конечная точка этой технологической траектории Очевидно: автономное оружие станет Калашниковым завтра ».

По словам авторов письма, эти риски, возможно, намного превышают риски, связанные с ядерным оружием.

Восстание машин

От самоуправляемых автомобилей до секс-роботов все больше и больше задач человечества берут на себя роботы. Неизбежное нашествие машин стимулировало как утопические, так и апокалиптические видения будущего. Злодей (AI), который угрожает человечеству, занимает видное место в научно-фантастических фильмах, таких как «Матрица» и «2001: Космическая одиссея».

Но все чаще эти страхи разыгрываются не только на экране. Фактически сами исследователи искусственного интеллекта выразили озабоченность по поводу того, как развиваются инновации в этой области. С автономным искусством AI, таким как беспилотные самолеты - дроны, которые могут искать и убивать людей, используя алгоритм распознавания лиц, развитие этой технологии – это вопрос нескольких лет.

Кроме того, такое автономное оружие могло бы, по-видимому, находиться в руках почти каждой военной державы на Земле, поскольку машины убийства на основе AI не требовали бы дорогостоящих или труднодоступных материалов. Ученые писали, что убийцы, террористы и другие плохие парни не могли бы купить их на черном рынке и использовать их в гнусных целях.

«Автономное оружие идеально подходит для таких задач, как убийства, дестабилизирующие нации, подавляющее население и выборочное уничтожение определенной этнической группы. Поэтому мы считаем, что гонка вооружений в сфере AI не принесет пользы человечеству» 

Это не первый случай, когда светила науки и техники предупреждают об опасности AI. Еще В 2014 году Хокинг сказал, что развитие полноценного искусственного интеллекта может означать конец человеческой расы. И Хокинг, и Маск подписали письмо, предупреждая, что AI обладает большой опасностью, если человечество не сможет гарантировать, что системы AI не будут делать того, чего мы не хотим.

Недавно Элон Маск опять сделал заявление, что правительству необходимо регулировать искусственный интеллект (AI) уже сейчас, прежде чем он станет опасным для человечества.

 «Я продолжаю слышать тревожные звонки, но пока люди не увидят, как роботы идут по улице, убивая людей, они не задумаются, о том, что надо реагировать уже сейчас, потому что это кажется таким эфемерным».

Если вместо этого правительство ждет, пока AI фактически начнет наносить вред людям, прежде чем создадут правила, возможно, будет уже слишком поздно, сказал Маск. 

Маск обеспокоен не только тем, что AI возьмет на себя человеческую работу, но также тем, что  сможет убивать людей. 

Недавно я опубликовал пост о тревожной тенденции участия Министерства обороны США в разработке Искусственного интеллекта (AI) для военных целей.

Похоже, что все-таки опасения и предсказания многих ученых по поводу Искусственного интеллекта начинают сбываться. 

Напомню, что Агенство перспективных исследований США планирует создать новый алгоритм искусственного интеллекта максимально приближенный к человеческим возможностям. Естественно этот алгоритм создается в военных целях. 

Проект получил название  L2M (Life Learning Machines — "Бесконечно обучаемые машины").

Сейчас нам остается только наблюдать. Если власти не прислушаются к опасениям некоторых ученых, возможно в каком-то будущем кадры из фильма Терминатор или Матрица уже не будут такими фантастическими.

Подробней 1, 2, фото1, фото2,