Кого давить будешь? Разбор полета вагонетки.

  В прошлом своем посте «Комментарий к "АСГАРДИЯ - ...[НОВОСТИ НАУКИ И ТЕХНОЛОГИЙ]" Решение проблемы ваганетки»,  разместил два довольно интересных и актуальных видео. Одно с них – анекдот. Но в каждой шутке есть доля правды, поэтому хотелось бы рассмотреть его серьезно.  Данная проблема встречается почти в каждом научпоке об автопилотах для машин и очень распространена.  Оригинальная формулировка данной умозрительной проблемы, если не врет вики, звучит так: 

 «Тяжёлая неуправляемая вагонетка несётся по рельсам. На пути её следования находятся пять человек, привязанные к рельсам сумасшедшим философом. К счастью, вы можете переключить стрелку — и тогда вагонетка поедет по-другому, запасному пути. К несчастью, на запасном пути находится один человек, также привязанный к рельсам. Каковы ваши действия?».

 Вместо одного человека в других формулировках фигурирует толстяк, которого надо скинуть с моста, чтобы спасти пятерых.  Вот эту проблему и ставят перед автопилотами.  С той же Вики, впервые данный умозрительный эксперимент был сформулирован в далеком 1967 году английским философом Филиппой Фут. По-видимому, подхваченная Лемом. Далее подобная дилемма, почему-то начала рассматриваться именно в контексте кибернетики, ИИ, робототехники. Приобрела массу разных форм. кого же стоит давить толстяка или группу людей. С таким подходом мы никогда не создадим не то что ИИ, но и банального автопилота, т.к. для того что бы он правильно работал и мог определить кого надо давить ему следует взвесить столько факторов, сколько способен просчитать разве что демон Лапласа. Например, несчастный робот решит задавить толстяка вместо того что бы наехать на толпу, к примеру, при дальнейших расчетах окажется что наехав на толпу удар бы погасился и все отделались бы переломами, а при наезде на толстяка он однозначно умрет. Что вы выберете – перелому 5 человек или смерть одного?  Накажете ли производителей данного робота за неправильное решение? И таких умозрительных примеров «кого надо давить можно привести массу». Допустим с одной чаше весов опытный хирург, который спасает сотни жизней, а с другой кучка наркоманов – кого вы будете давить? Или с одной мать пятерых детей, а с другой несчётная старушка у которой семеро внуков – кого давить. Эти все данные должен учитывать автопилот? Или еще пример авария, в которой может пострадать или водитель, уехав в кювет, или олигарх на дорогой тачке со своей семьей. Т.е. если водитель съедет в кювет, то с определенной вероятностью получит пару переломов, а если наедет на олигарха, то всю жизнь ему придётся за это расплачиваться. Это к тому, что некоторые производители таких систем делают упор на безопасности, прежде всего водителя.  Таким образом, сама постановка вопроса не верна. Он не является универсальным решением и приводит к ошибочным выводам. По поводу, которых можно долго, нудно и бессмысленно полемизировать. Поэтому просто надо перевести эту проблему в правильное русло. Что и показано в шуточной форме в анекдоте. Но в каждой шутке есть доля правды. Правда заключается в том, что надо делать упор не на бессмысленном выборе «кого давить», а на явном выборе между более безопасными системами. Т.е. давить надо на тормоз! Делая автопилоты более безопасными. Создавая более сложные просчёты и прогнозируя ситуации, в которых «НИКОГО НЕ ПРИЙДЕТСЯ ДАВИТЬ». Это можно сделать, банально снизив скорость: ЗАРАНЕЕ, соблюдая дистанцию, используя более чувствительные и точные датчики (мониторящие больший участок дороги и заглядывающие под каждый, самый дальний куст). Вот на этом надо делать упор. Уже сегодня данные технологии могут спасти тысячи жизней, но из-за нелепого мема «кого надо давить», люди продолжают гибнуть под колесами транспортных средств управляемых не роботами, а ограниченными и в реакции и во внимании приматами.  Естественно если роботы будут управлять авто, то и тут могут быть жертвы, но если их будет меньше, то не стоит комплексовать с вагонетками, тормозя развитие подобных технологий. Возможно, задействовать какую-то гибридную схему: человек и машина. Продумать разные настройки и многое другое. Но главное это правильно ставить вопросы и действовать рационально, спасая жизни, а не бессмысленно полемизируя.  Хотя, возможно пока ИИ не на столько развит что бы доверить ему полное управление, и пока, на данном этапе, все токи актуальнее гибридная схема управления. Это показано уже в другом видео с той же серии: «МИРОВОЕ МЕТРО [Новости науки и технологий]».

   Тем не менее, к гадалки не ходи ясно что можно создать уже сейчас такой компьютер у которого реакция будет значительно быстрее чем у человека. Да, человек более универсален, и в нестандартных ситуациях возможно еще долго, а может и не долго, будет оставаться таковым, но в стандартных, к примеру, дабы избежать столкновения, можно использовать все более и более грамотные механизмы.