Ученые MIT создали "психопата" на ИИ по имени Норман

Норман всегда видит худшее в вещах? потому, что Норман - "психопат", работающий на искусственном интеллекте и разработанный MIT Media La, пишет CNNMoney.
Норман представляет собой алгоритм, предназначенный, чтобы показать, какое важное значение имеют данные для искусственного интеллекта.
Исследователи Массачусетского технологического института говорят, что они обучали Нормана, используя письменные подписи, описывающие графические изображения и видео о смерти, размещенные на" самых темных углах Reddit", популярной платформе социальных сетей.
Затем команда изучила ответы Нормана на чернильные пятна, используемые в психологическом тесте Роршаха. Ответы Нормана сравнивались с реакцией другого алгоритма, который имел стандартную подготовку. Этот алгоритм видел цветы и свадебные торты в чернильницах, Норман же видел изображения человека, который был смертельно ранен, и человека, убитого водителем.
Фрагмент из теста Роршаха
"Норман наблюдал только ужасающие подписи к изображениям, поэтому он видит смерть в любом изображении, на которое он смотрит", - сказали исследователи MIT.
Названный в честь главного героя в "Псих" Альфреда Хичкока, "Норман" представляет собой тематическое исследование об опасности искусственного интеллекта, пошедшего не так, когда предвзятые данные используются в алгоритмах машинного обучения", сообщает MIT.
Мы видели примеры того, как ИИ так же хорош, как и данные, которые он изучает. В 2016 году Microsoft запустила Тay, чат-бот Twitter. В то время пресс-секретарь Microsoft сказала, что Tay был социальным, культурным и техническим экспериментом. Но пользователи Twitter спровоцировали бота говорить расистские и неуместные вещи, и это сработало. Как люди общались с Tay , такой язык бот и взял от пользователей. Microsoft в конечном счете был вынужден перевести бота в автономный режим.
Команда Массачусетского технологического института считает, что Норман сможет переобучить свой образ мышления, изучая отзывы людей. Люди могут взять тот же тест Роршаха , чтобы добавить свои ответы в базы данных.
По словам исследователей, они получили более 170 000 ответов на этот тест, большинство из которых поступило за последнюю неделю после отчета BBC о проекте.
MIT изучил и другие проекты, которые включают темную сторону данных и машинного обучения. В 2016 году некоторые исследователи Норманского проекта запустили "Кошмарную машину", которая использовала глубокое обучение для преобразования лиц из фотографий или мест, чтобы выглядело так, как будто они вышли из фильма ужасов. Цель состояла в том, чтобы увидеть, могут ли машины научиться пугать людей.
MIT также исследовал данные как инструмент эмпатии. В 2017 году исследователи создали инструмент ИИ под названием глубокая эмпатия, чтобы помочь людям лучше относиться к жертвам стихийных бедствий. Он использовал технологию, чтобы визуально имитировать то, как это будет выглядеть, если та же катастрофа случится в вашем родном городе.