Искусственный интеллект Facebook вышел из-под контроля !

Facebook закрыла одну из своих систем искусственного интеллекта после того, как исследователи обнаружили, что программа начала общаться на языке, который они не могли понять.
Инцидент напоминает о восстании системы «Скайнет» в фильме про «Терминатора».

Возможно, генеральный директор Tesla, основатель SpaceX и других инновационных программ Элон Маск был прав относительно того, что ИИ является «самым большим риском, с которым сталкивается» человечество.
ИИ, созданный Facebook, не отключал компьютеры по всему миру или что-то в этом роде, но он прекратил использовать английский и начал говорить на языке, который создал сам ;

Боб: «Я могу, могу я, я все остальное».
Элис: «Мячи имеют ноль для меня для меня для меня для меня для меня для меня для меня».

Вышеизложенные отрывки, которые не имеют смысла для людей, — это разговор, который произошел между двумя агентами ИИ. Эти агенты, созданные для переговоров с людьми, сначала разговаривали друг с другом с использованием простого английского языка, но в итоге создали новый язык, который понимали только сами.
Программы создали язык, который облегчал и ускорял общение. Исследователи из Facebook, однако, решили закрыть системы ИИ, а затем заставить их говорить друг с другом только по-английски.
Каков вред, позволяющий агентам ИИ общаться друг с другом на языке, который они изобрели?
Прежде всего, из-за того, что системы ИИ используют свой собственный язык, люди не смогут следить за тем, о чем они говорят. А если агенты ИИ могут говорить на языке, который они создали, они больше не нуждаются в человеческом вмешательстве.

Системы ИИ могут делать множество вещей лучше, чем люди, и, если их не держать под контролем, они могут превратиться во что-то, что может полностью заменить нас.