Правила безопасности при работе с искусственным интеллектом

Почитывал тут намедни хрестоматию по психологии труда какой-то то ли Мухиной, то ли Махиной - не суть важно, интересные в книге были выдержки из правил по безопасной при работе на заводах-пароходах авторства неких неравнодушных инженеров 19-го века. И отметил я, что ничего собственно нового с тех пор не придумали. Как мудро ответил мне недавно один технический работник на вопрос “Ты когда последний раз переаттестацию проходил? Правила же меняются-дополняются по пять раз на дню” - “Срал я на правила - законы физики-то не меняются”.

Законы физики, действительно не меняются. Меняется (предположительно) основа, на которую накладываются всякие правила, инструкции и т.д. А представляет она собой взаимодействие человека с неким механизмом. Будь то станок токарный, копировальный аппарат или электрический чайник. Да, если у вас на работе есть хоть одна розетка, значит у специально обученного человека есть очень толстая папка с разными инструкциями для всего, что может быть в эту розетку воткнуто: просто на случай, если вас током ёбнет и вы помрёте, человек предъявит бумажку, где стоит ваша подпись под многозначительным “С инструкцией ознакомлен” или что-нибудь вроде того, чем снимет с работодателя всякую ответственность.

Это всё лирика. Вернёмся к парадигме “человек и машина”. До сих пор было всё ясно и понятно: огради вращающиеся части механизма, работай в перчатках, выключай электроприборы в конце рабочего дня за исключением тех что “предполагают круглосуточную работу, например, холодильник”. И тут у нас - херак - искусственный интеллект. Как от него обезопаситься?

Нам понятны различные опасные факторы типа электричества, высоких температур, радиации, вибрации, шума и т.д. А вот интеллект нам не очень понятен. Тем более искусственный. Какие опасные факторы несёт он сам по себе или в процессе производства. И тут у нас вырисовываются две мысли.

Первая: все правила по безопасности, как говорят специалисты, пишутся кровью. То есть происходит некий несчастный случай и соответствующие инструкции пересматриваются, дополняются и прочее. То есть нам нужны жертвы. “О.К., Google!” - “Убей себя нахуй!!!” Может быть это будет не так прямолинейно (интеллект же, хоть и искусственный), но что-то такое должно случиться.

Второе: никакого искусственного интеллекта не существует и не будет вообще никогда. И эта мысль мне кажется гораздо больше соответствующей реальности.