Философски и интеллектуально человеческое общество не готово к росту искусственного интеллекта
Каким будет влияние на историю самообучающихся машин - машин, которые приобретали знания по конкретным процессам для себя, и применяли эти знания до конца, для которых не может быть категории человеческого понимания? Стали бы эти машины учиться общаться друг с другом? Как сделать выбор среди новых вариантов? Возможно ли, что история человечества может пойти по пути инков, столкнувшихся с испанской культурой, непонятной и даже внушающей им страх?
Существующий порядок сейчас находится в состоянии потрясения на фоне новой, еще более масштабной технологической революции, последствия которой мы не смогли полностью учесть и кульминацией которой может стать мир, опирающийся на машины, работающие на данных и алгоритмы, не управляемые этическими или философскими нормами.
Интернет-век, в котором мы уже живем, предвосхищает некоторые вопросы и проблемы, которые AI только сделает более острыми. Целью интернета является ратификация знаний путем накопления и манипулирования постоянно расширяющимися данными. Человеческое познание теряет свой личный характер. Люди превращаются в данные, и данные становятся господствующими.
Пользователи Интернета подчеркивают получение и управление информацией по концептуализации ее значения. Они редко обращаются к истории или философии; как правило, они требуют информацию, соответствующую их непосредственным практическим потребностям.
При этом алгоритмы поисковых машин приобретают способность прогнозировать предпочтения отдельных клиентов, позволяя алгоритмам персонализировать результаты и предоставлять их другим сторонам в политических или коммерческих целях. Истина становится относительной. Информация угрожает подавить мудрость.
Наводненные через социальные сети мнением множества людей, пользователи отвлекаются от самоанализа; на самом деле многие технофилы используют интернет, чтобы избежать одиночества, которого они боятся. Все эти давления ослабляют силу духа, необходимую для развития и поддержания убеждений.
Влияние интернет-технологий на политику особенно заметно. Способность ориентироваться на микрогруппы нарушила ранее достигнутый консенсус в отношении приоритетов, позволив сосредоточить внимание на специализированных целях. Политические лидеры, перегруженные нишевым давлением, лишены времени на размышления над контекстом, сокращая пространство, доступное им для разработки видения.
Акцент цифрового мира на скорость тормозит рефлексию; ценности формируются консенсусом подгрупп, а не самоанализом.
По мере того как интернет и возросшая вычислительная мощность способствовали накоплению и анализу обширных данных, появились беспрецедентные перспективы для человеческого понимания. Пожалуй, наиболее значимым является проект создания искусственного интеллекта-технологии, способной изобретать и решать сложные, казалось бы, абстрактные задачи процессами, которые, кажется, повторяют процессы человеческого разума.
Это выходит далеко за рамки автоматизации, как мы ее знаем. Автоматизация имеет дело со средствами; она достигает поставленных целей путем рационализации или механизации инструментов для их достижения. В отличие от этого, ИИ занимается конечными целями; он устанавливает свои собственные цели. В той мере, в какой его достижения отчасти формируются сами по себе, ИИ по своей природе нестабилен.
Системы ИИ, благодаря своей работе, находятся в постоянном потоке, когда они приобретают и мгновенно анализируют новые данные, а затем стремятся улучшить себя на основе этого анализа. Благодаря этому процессу искусственный интеллект развивает способность, которая, как считается, присуща людям. Он делает стратегические суждения о будущем, некоторые на основе данных, полученных в виде кода (например, правила игры), а некоторые на основе данных, которые он собирает сам (например, играя 1 миллион итераций игры).
Беспилотный автомобиль иллюстрирует разницу между действиями традиционных ТС, управляемых человеком и работающих на программном обеспечении AI. Вождение автомобиля требует суждений в нескольких ситуациях, которые невозможно предвидеть, и, следовательно, заранее программировать. Что произойдет, если использовать известный гипотетический пример, если такой автомобиль был вынужден по обстоятельствам выбирать между убийством дедушки и бабушки и убийством ребенка? Кого бы она выбрала? Почему? Какие факторы из его вариантов он попытается оптимизировать? И может ли он объяснить свое обоснование?
До сих пор ограничиваясь определенными областями деятельности, исследование ИИ теперь направлено на создание «общеинтеллектуального» ИИ, способного выполнять задачи в нескольких областях. Растущий процент человеческой деятельности будет в течение измеримого периода времени управляться алгоритмами ИИ. Но эти алгоритмы, будучи математическими интерпретациями наблюдаемых данных, не объясняют лежащую в основе реальность, которая их производит. Как это ни парадоксально, поскольку мир становится более прозрачным, он также становится все более загадочным. Что отличает этот новый мир от того, который мы знаем?
Как мы будем в нем жить? Как мы будем управлять ИИ, улучшать его или, по крайней мере, предотвращать его причинение вреда, что приведет к самой зловещей озабоченности: этот ИИ, осваивая определенные компетенции более быстро и окончательно, чем люди, может со временем уменьшить человеческую компетентность и само состояние человека, превращая его в данные.
Искусственный интеллект со временем принесет необычайную пользу медицинской науке, обеспечению чистой энергией, экологическим проблемам и многим другим областям. Но именно потому, что AI делает суждения относительно развивающегося, пока еще неопределенного будущего, неопределенность и двусмысленность присущи его результатам. Существуют три области, вызывающие особую озабоченность:
Во-первых, этот ИИ может достичь непреднамеренных результатов. Научная фантастика создала сценарии восстания ИИ на своих создателей. Более вероятной является опасность того, что ИИ неверно истолкует человеческие инструкции из-за присущего ему отсутствия контекста. Известным недавним примером был AI chatbot под названием Tay, предназначенный для создания дружеской беседы на языке 19-летней девочки. Но машина оказалась не в состоянии определить императивы “дружественного” и “разумного” языка, установленного ее инструкторами, и вместо этого стала расистской и сексистской в своих ответах.
Некоторые исследователи в мире технологий утверждают, что эксперимент был непродуманным и плохо выполненным, но он иллюстрирует основную цель: в какой степени можно позволить ИИ поставить под угрозу контекст, который формирует его инструкции? Какая среда могла бы помочь ему определить для себя слово, означающее, что люди не согласны? Можем ли мы на ранней стадии обнаружить и исправить программу ИИ, которая действует вне наших рамок ожидания? Или пустить все на самотек?
Во-вторых, в достижении намеченных целей ИИ может исказить человеческие мыслительные процессы и человеческие ценности. AlphaGo победил чемпиона мира по ходу, сделав стратегически беспрецедентные ходы, которые люди не задумали и еще не смогли успешно преодолеть. Являются ли эти шаги выше возможностей человеческого мозга? Или люди могли бы узнать их сейчас, когда они были продемонстрированы новым мастером?
До того, как AI начал играть в Go, игра имела разнообразные, многоуровневые цели: игрок стремился не только выиграть, но и изучить новые стратегии, потенциально применимые к другим измерениям жизни. Со своей стороны, ИИ, напротив, знает только одну цель: победить. Он «учится» не концептуально, а математически, маргинальными изменениями его алгоритмов. Поэтому, учась выиграть Go, играя его иначе, чем люди, AI изменил природу игры и ее влияние. Является ли это преобладающим характером всех ИИ?
Другие проекты ИИ работают над изменением человеческой мысли путем разработки устройств, способных генерировать ряд ответов на человеческие запросы. Помимо фактических вопросов ("какова температура снаружи?"), вопросы о природе реальности или смысле жизни поднимают более глубокие вопросы. Хотим ли мы, чтобы дети учились ценностям через дискурс с помощью неуправляемых алгоритмов? Должны ли мы защищать конфиденциальность, ограничивая изучение ИИ данных о своих респондентах? Если да, то как мы достигаем этих целей?
Если ИИ учится экспоненциально быстрее, чем люди, мы должны ожидать, что он ускорит, также экспоненциально, процесс проб и ошибок, с помощью которого обычно принимаются человеческие решения: совершать ошибки быстрее и большей величины, чем люди.
Может быть, невозможно умерить эти ошибки, как это часто предлагают исследователи из ИИ, включив в программу оговорки, требующие «этических» или «разумных» результатов. Целые академические дисциплины возникли из-за неспособности человечества договориться о том, как определить эти термины. Должен ли ИИ стать их арбитром?
В-третьих, ИИ может достичь намеченных целей, но не может объяснить обоснование своих выводов. В определенных областях - распознавание образов, анализ больших данных, возможности игрового ИИ уже могут превышать возможности людей. Если его вычислительная мощность будет быстро расти, ИИ вскоре сможет оптимизировать ситуации способами, которые по крайней мере незначительно отличаются и, вероятно, значительно отличаются от того, как люди будут их оптимизировать.
Но в этот момент ИИ сможет объяснить, каким образом люди могут понять, почему его действия оптимальны? Или принятие решения АИ превосходит объяснительные полномочия человеческого языка и разума? Всю историю человечества цивилизации искали объяснения окружающего мира. Самый сложный, но важный вопрос о мире, в который мы направляемся, таков: что станет с человеческим сознанием, если его собственная объяснительная сила будет превзойдена ИИ, и общества уже не смогут интерпретировать мир, в котором они живут?
Как определить сознание в мире машин, которые сводят человеческий опыт к математическим данным, интерпретируемым их собственными воспоминаниями? Кто отвечает за действия ИИ? Как следует определять ответственность за свои ошибки? Может ли правовая система, разработанная людьми, идти в ногу с деятельностью, производимой ИИ, способной потенциально перехитрить их?
Это только часть вопросов, на которые нам еще только предстоит ответить, но глобальность трансформационного воздействия технологий на будущий мир не позволяет отнестись к ним без самого серьезного внимания.
