Как можно выиграть любой спор? Новый AI от IBM имеет формулу

Любой, кто провел хоть какое-то время в интернете в последнее время, может почувствовать, что в нем слишком много «дебатов», многие из которых скатываются к оскорблениям "ad hominem".
В то же время растет озабоченность по поводу того, что автоматизация вытесняет людей из мира труда. Но это не помешало IBM продолжить "обсуждение проекта", который впервые был протестирован на мировой арене в Сан-Франциско в июне.
Естественно, когда вы думаете об IBM и AI, вы думаете о Watson, программе, способной отвечать на вопросы на естественном языке, которые лихо победил человеческих игроков в Jeopardy! в 2011 году. IBM видит свой проект Project Debater естественным преемником Watson.
Оба они, в свою очередь, являются естественным продолжением поисковой системы. Поисковые системы могут давать релевантные результаты по ключевым словам. Watson может получать информацию из открытых источников, оценивая контекст и используя некоторую степень логики и рассуждений. Project Debater стремится не только находить соответствующую информацию, но и умело и последовательно использовать ее в дискуссии по сложной теме.
Это новый уровень понимания и вовлеченности естественного языка. Если тест Тьюринга для ИИ-это машина, которая может убедить людей, что это человек, имеет смысл попытаться быть убедительным.
Понимание контекста, как правило, было трудным для диалогового ИИ, причем многие известные примеры ограничивались простым вопросом и ответом. Однако крайне важно быть убедительными в дискуссии. Чтобы провести дискуссию по алгоритму, IBM пришлось применить искусство обсуждения в алгоритме.
В задаче для ИИ была дана одна из сорока ранее невиданных тем для дебатов. Затем он построил четырехминутный вступительный спор, просканировав обширную базу данных из 300 миллионов соответствующих новостных статей и соединив компоненты, которые, по его мнению, имеют отношение к рассматриваемой теме.
Обработка естественного языка позволяет алгоритмам создавать все более реалистичный диалог, как показал Google Duplex, но это большой скачок от обманывания одного человека во время очень шаблонного разговора о бронировании ресторанов до спора с человеком, чтобы убедить комнату, полную людей.
Project Debater должен иметь дело со стандартными текстовыми и речевыми проблемами и НЛП, а также с правилами дебатов. Тем не менее структурированная среда формальных дебатов, вероятно, помогла программному обеспечению убедить девять членов аудитории, что она права в вопросе исследования космоса.
После вступительных заявлений прения перешли к опровержению. Исследования IBM сосредоточены на семантической структуре аргументов, разбивая их на отдельные утверждения и доказательства, предлагаемые в поддержку. В исследовании 2014 года был продемонстрирован алгоритм, который может обнаруживать контекстно-зависимые утверждения.

В качестве примера был приведен аргумент о том, что жестокие видеоигры не должны продаваться несовершеннолетним. Основное утверждение может заключаться в том, что эти игры способствуют жестокому поведению или снижают чувствительность игроков. Вы можете увидеть, как алгоритм, который может идентифицировать это конкретное утверждение, может проанализировать большой корпус связанных материалов для опровержения и, возможно, предоставить подтверждающие фактические доказательства для этого опровержения.
В самом деле, последующие алгоритмы обнаруживали доказательства и классифицировали их как «экспертные», «анекдотические» и «исследовательские». Здесь вы можете увидеть начало нюансированного аргумента: опровержение экспертных доказательств при помощи анекдотами может быть неубедительным для менее эмоциональных дискуссий, но если эмоции нагреваются, цитирование академических исследований может оказаться менее убедительным, чем повествовательная история, которая поддерживает вашу точку зрения.
Это может показаться простым алгоритмическим подходом к аргументации: определите претензии, которые делает ваш оппонент, и опровергните их, проанализировав аналогичные аргументы в базе данных или, возможно, найдя экспертные мнения.
Но каждое звено в цепочке «аргументации» требует сложных рассуждений. Анализ настроения, подобный разработанному Стэнфордом, имеет решающее значение для понимания того, действительно ли конкретная цитата эксперта поддерживает ваш аргумент или нет.
Точно так же вам нужен какой-то способ анализа того, поддерживают ли отдельные утверждения в литературе или опровергают ваши общие аргументы. Все это время лингвистические тонкости, такие как идиомы, могут оказаться камнями преткновения, и их необходимо учитывать.
Бесконечная цепочка опровержений, которая не представляет ничего положительного, не является самым убедительным аргументом; IBM также разработала средства для создания «de novo» (для начала) претензий и аргументов, связанных с данной темой, путем сканирования ее корпуса, представляя их в качестве пунктов для оппонента.
Алгоритм также включает в себя средство оценки убедительности своих аргументов, которые, возможно, потребуется переделывать в случае одного утверждения “de novo”, которое, по-видимому, было получено со страниц мнений британской социалистической газеты "Утренняя Звезда". В определенной степени применяется старый закон “garbage in, garbage out” (мусор на входе, мусор на выходе), но можно сказать то же самое для источников, используемых человеческими спорщиками.
Хотя вы можете попытаться формализовать логические правила дебатов и избежать ужасных логических ошибок или внутренних несоответствий, вполне логичный аргумент может быть не самым убедительным. Люди, как правило, гораздо менее логичны, чем нам хотелось бы думать.

Возможно, с этой целью IBM решила сделать свой ИИ более симпатичным. В какой-то момент, когда обсуждаешь телемедицину, ИИ рассказывает анекдот: «Я бы сказал, что это заставляет мою кровь кипеть, но у меня нет крови».
Если вы прислушаетесь к дебатам по конкретным темам, вы быстро поймете, что часто основным используемым методом является попытка переосмыслить условия дебатов и заставить противоположную сторону спорить о чем-то другом.
Хотя технически это может быть примером заблуждения "straw man" (логическая ошибка), искажающего точку зрения вашего противника, чтобы облегчить атаку, тем не менее он может убедить аудиторию, если противоположная сторона попадает в эту ловушку. Точно так же нетрадиционные методы, такие как «gish gallop»—бросать как можно больше аргументов вашему оппоненту, чтобы он был вынужден тратить время на их опровержение, даже если они внутренне противоречивы—могут оказаться эффективными.
Учитывая, что основной подход Project Debater, похоже, идентифицирует, исследует и опровергает отдельные претензии, сделанные противником, стратегия, которая опирается на многие аргументы, может оказаться успешной—или, возможно, у Project Debater будет терпение спокойно и методично проанализировать их все. Недобросовестные дебаты в целом всегда будут более трудными для алгоритма. Возможно, через несколько лет даже затягиевание с ответом в споре о политике в Twitter, станет задачей для AI.
IBM рассматривает свой проект не как средство выиграть каждый онлайн-спор, создав цифрового Цицерона. Вместо этого они направлены на то, чтобы помочь людям понять природу логическогих аргументов в споре.
Согласно их веб-сайту, “дебаты обогащают процесс принятия решений, помогая людям взвешивать плюсы и минусы новых идей и философий. Он лежит в основе цивилизованного общества. Мы обсуждаем не только убеждение других в наших собственных мнениях, но и понимание взглядов друг друга.
Здесь, опять же, мы находим идеализм научной фантастики: искусственный интеллект как оракул, с которым люди могут консультироваться для рациональных ответов на наши сложные вопросы.
Источник