Компания, финансируемая Google, использует искусственный интеллект для борьбы с фейковыми новостями
Потенциальный вред настолько велик, что «фейковые новости» стали горячей темой для тех, кто по обе стороны политического спектра. Исследовательская и консалтинговая компания Gartner дошла до того, что в 2022 году мы будем потреблять больше лжи, чем истины.
Но если технология усугубит ситуацию, есть надежда, что она также может предложить и средства правовой защиты. В частности, искусственный интеллект - в его наиболее полезной текущей форме - машинное обучение - потенциально может стать мощным инструментом для сортировки правды от вымысла.
Машинное обучение уже используется банками и финансовыми учреждениями для проверки записей о финансовых операциях, поиска контрольных признаков ошибок или мошенничества, и использования этих данных для повышения эффективности “обучения” без участия человека.
Точно так же алгоритмы могут обучаться для мониторинга медиа - как в социальных сетях, так и в новостных агенствах - в поисках контрольных признаков того, что любой результат может быть несовместим с любыми объективными истинами относительно ситуаций или событий.
Одно из интересных применений этой технологии осуществляется бельгийским стартапом VeriFlix. Они разработали метод сканирования видео, представленных пользователями, которые играют все более важную роль в выводе большинства медиа – организаций, и пытаются определить, являются ли они на самом деле тем, на что они претендуют.
После получения финансирования через Digital News Initiative от Google, технология компании теперь используется одним из крупнейших медиакомпаний этой страны - Rourlarta с многообещающими результатами.
Основатель компании Дональд Стаар рассказал о том, как платформа эволюционировала от своей первоначальной концепции как приложение краудсорсинга для видео. Медиа-организации делают запрос на видеоматериал через приложение, и любой пользователь в правильной геолокации сможет включить свой телефон и начать съемку.
«Как только видеоролики отправляются на платформу, мы добавляем слой, который сначала обнаруживает содержимое каждого потока, поэтому мы можем сказать, что видим в видео, наряду с данными геолокации и отметкой времени»
"И как только видео помечены, мы можем сравнить их друг с другом, так что если, например, один запрос приводит к 1000 видео, мы можем сравнить содержание каждого видео, и если большинство видео показывают то же содержание, то он может проверить подлинность того, что было снято.
“Если 800 видео из 1000 показать то же самое, то вероятность того, что видео было подделано очень низкая.”
Veriflix использует алгоритмы обнаружения объектов в режиме реального времени YOLO (вы смотрите только один раз), чтобы классифицировать и маркировать содержимое видео, прежде чем передавать эти данные на патентованные алгоритмы, разработанные в партнерстве с Университетом KU Leuven. Эти алгоритмы анализируют данные, а также информацию о временной отметке и геолокации, передаваемую через безопасный интерфейс приложения.
Есть два основных преимущества: во-первых, медиа-компании теперь могут убедиться, что видеоролики, которые они используют, аутентичны и сняты в том месте, где это заявлено автором, что они не изменены и не обработаны.
Как это часто бывает с теми, кто работает в сегодняшнем пространстве ИИ, авторы стремятся указать, что идея заключается не в том, чтобы убрать журналистов людей из профессии.
«Это не заменит работу журналиста - нам всегда нужны журналисты, чтобы была представлена определенная точка зрения, но чтобы работать с необработанными данными, это будет отличным инструментом».
Конечно, по мере развития технологий, инструменты, которые используют мошенники, чтобы попытаться пустить пыль в глаза, скорее всего, станут все более изощренными. Уже можно сделать очень реалистичные видеоролики, вкладывая слова в уста людей, которые на самом деле вряд ли скажут такие вещи. Это подделка видео Обамы
Со временем, скорее всего, мы увидим продолжение гонки вооружений, которая всегда существовала в сфере технологий – с хорошими парнями, сражающимися против плохих парней, чтобы первыми развернуть новейшие и самые мощные инструменты.
Поддельные новости вряд ли когда-либо будут полностью искоренены - всегда будет кто-то, кто желает представить искаженную версию правды, чтобы продвигать свою собственную повестку дня. Тем не менее, это может быть так, что такие инструменты, как VeriFlix или что-то подобное, повысят барьер в отношении технологий и опыта, необходимых для того, чтобы обмануть нас, придумав способ сделать мир более правдивым местом.