Разработанный в Facebook AI начал говорить на непонятном людям языке и был отключен из-за опасности превращения в Skynet
Привет. Только недавно я опубликовал пост о заочном споре Марка Цукерберга и Элона Маска по поводу потенциальной опасности, которую может представлять Искусственный интеллект. В этом споре Цукерберг заявлял о том, что опасения на этот счет безосновательны и AI несет только благо человечеству. И вот теперь Facebook вынужден закрыть одну из своих систем искусственного интеллекта после того, как исследователи обнаружили, что он начал общаться на языке, который они не могли понять.
Инцидент вызывает образы пугающего Скайнета из Терминатора. Возможно, генеральный директор Tesla Элон Маск прав относительно того, что AI является самой большой опасностью, с которым мы сталкиваемся.
Facebook отключает систему AI, заговорившего на собственном языке.
Facebook пришлось отключить систему искусственного интеллекта, над которой работали ее исследователи, потому что все вышло из-под контроля. AI не начинал проникать на компьютеры по всему миру или что-то в этом роде, что мы видели в кино, но он прекратил использовать английский и начал использовать язык, который он создал.
Bob: "I can can I I everything else."
Alice: "Balls have zero to me to me to me to me to me to me to me to me to."
Вышеизложенные отрывки, которые не имеют смысла для людей, - это разговор, который произошел между двумя агентами AI, разработанными Facebook. Агенты AI, созданные для переговоров с людьми, сначала разговаривали друг с другом с использованием простого английского языка, но в итоге создали новый язык, который понимали только сами системы AI.
Агенты AI не ограничивались ограничением использования только английского языка, и поэтому они отклонялись от него и создавали тот, который облегчал и ускорял общение. Исследователи из Facebook, однако, решили закрыть системы AI, а затем заставить их говорить друг с другом только по-английски.
Почему это тревожное развитие событий для AI
Каков вред, позволяющий агентам AI общаться друг с другом на языке, который они изобрели?
Прежде всего, с помощью систем AI, использующих свой собственный язык, люди не смогут следить за тем, о чем говорят агенты AI. Люди не могут понять, как сложные системы AI думают из-за их скрытых мыслительных процессов, поэтому секретность агентов AI будет еще хуже, когда их разговоры будут проходить на неизвестном языке.
Если агенты AI могут говорить на языке, который они создали, они больше не нуждаются в человеческом вмешательстве.
«У меня есть самый передовой AI, и я думаю, что люди должны быть действительно обеспокоены этим, - сказал в начале этого месяца Маск.
Маск утверждает, что системы AI могут делать множество вещей лучше, чем люди, и, если их не держать под контролем, могут превратиться во что-то, что может полностью заменить нас.
Кстати, Маск знает о чем говорит, только сегодня я опубликовал пост о том, что его стартап - AI-bot победил всех лучших игроков в игру Dota-2, а это уже действительно серьезный шаг в развитие алгоритмов AI.
