Разработаны первые этические принципы для автономных систем (беспилотных автомобилей) на государственном уровне
Привет. "Люди предпочтительней животных и собственности. Никакой дискриминации ни по каким признакам относительно того, кто из людей должен выжить".
Это лишь некоторые из первых в мире этических правил, которые используются в Германии относительно того, как программировать автономные транспортные средства.
Команда исследователей из Германии отмечает технический прогресс, достигнутый в области увеличения автоматизации в автомобилях, чтобы сделать их более безопасными и уменьшить несчастные случаи, но сегодня невозможно полностью предотвратить аварии. Это делает необходимым принятие этических норм при создании программного обеспечения высокоавтоматизированных систем управления.
Исследователями приведены 20 рекомендаций для автомобильной промышленности, которые следует учитывать при разработке любых автоматизированных систем управления. Кабинет министров Германии принял руководящие принципы в этой сфере, сделав их первыми в мире.
Такое решение позволяет немецким автопроизводителям поддерживать их технологическое лидерство, создавая яркий пример для остального мира.
Нравственная основа проста: поскольку беспилотные транспортные средства будут вызывать меньше человеческих смертей и травм, существует моральный императив использования таких систем, так как правительства обязаны заботиться о своих гражданах.
Если авария не может быть предотвращена, то безопасность человека должна иметь приоритет над животными и имуществом. Программное обеспечение должно пытаться избежать столкновения в целом, но если это невозможно, оно должно принять меры, которые наносят наименьший вред людям.
Исследователи признают, что некоторые решения могут быть слишком морально неоднозначными для решения их программными средствами.
В этих случаях окончательное решение и ответственность, по крайней мере на данный момент, должны быть за человеком, сидящим на сиденье водителя, поскольку контроль может быть быстро передан ему. В ближайшем будущем, по мере улучшения возможностей, транспортные средства могут стать полностью автономными.
Признано, что никакая система не идеальна. Если вредные результаты не могут быть уменьшены до нуля, по крайней мере, они будут ниже существующего уровня.
Если столкновение неизбежно, то системы должны быть нацелены на минимизацию вреда. Но при этом не должно быть дискриминации по признаку возраста, пола, расы, физических атрибутов или всего остального любой потенциальной жертвы.
Все люди считаются равными при решении вопроса о минимизации вреда.
Это приводит к тому, что знаменитая "Трамвайная дилемма" не имеет значения, поскольку программное обеспечение не позволяет устанавливать приоритетность относительной ценности человека.
Трамвайная дилемма - это мысленный эксперимент по этике. Общая форма проблемы такова:
По рельсам едет трамвай. Впереди, на рельсах, есть пять человек, связанных и неспособных двигаться. Трамвай направляется прямо на них. Вы стоите на некотором расстоянии от рельсов, рядом с рычагом перевода стрелок. Если вы потянете этот рычаг, трамвай перейдет на другие рельсы. Однако, вы заметили, что на тех рельсах есть один человек. У вас есть два варианта: 1. Ничего не делать, и трамвай убивает пятерых людей. 2. Перевести стрелки и трамвай бьет одного человека. (В некоторых версиях, один человек на рельсах - это ребенок того, кто переводит стрелки). Какой в этой ситуации лучший этический выбор?
В докладе исследователей упоминается о возможности достичь полной автономности систем, но признается, что технология еще не способна решать сложные «ситуации выбора», в которых автомобиль должен решить между меньшим из двух зол. По мере того как технология станет достаточно зрелой, возможно допустить полную автономию транспорта.
В любом случае, всегда должно быть понятно, кто управляет автомобилем - человек или компьютер.
Автомобиль должен иметь «Черный ящик» в авиационном стиле, который постоянно регистрирует события, включая тех, кто или что контролирует автомобиль в каждый момент времени.
В случае аварии, связанной с автономным транспортным средством, расследование должно проводиться независимым федеральным агентством для определения ответственности. Водитель транспортного средства сохраняет свои права на личную информацию, собранную в результате расследования.
Угроза злонамеренного взлома любой автономной системы вождения должна быть нивелированна эффективными средствами защиты. Программное обеспечение должно быть спроектировано в соответствии требованиями безопасности, которые делают хакерский взлом крайне маловероятным.
Что касается настройки средств управления транспортным средством, они должны оставаться эргономически оптимальными для использования человеком, так же, как и в обычном автомобиле.
Транспортное средство может реагировать автономно в чрезвычайной ситуации, но человек может принять участие в управлении при морально неоднозначных ситуациях. Элементы управления должны быть разработаны для плавного и быстрого переноса с автономии на человека.
Общественность должна быть осведомлена о принципах функционирования автономных транспортных средств, включая обоснование любого из этих принципов. Это должно быть включено в школьные учебные программы, чтобы люди понимали как и почему автономные транспортные средства принимают решения.
Рекомендации будут рассмотрены после двух лет тестирования. Несомненно, будет производиться тонкая настройка всех элементов в ходе этого процесса.
Руководящие принципы прочно обоснованы и достаточно всеобъемлющие, чтобы обеспечить юридическую основу немецким автопроизводителям для продвижения своих планов.
Можно сделать вывод, что это первая ласточка в разработке всеобщих руководящих этических принципов для автономных систем. Остается надеяться, что остальные страны последуют в этом вопросе примеру Германии.
