Элементарно, Ватсон. Почему суперкомпьютер от IBM не смог произвести революцию в медицине
Вот уже больше чем полвека человечество пытается построить систему на основе искусственного интелекта, которая будет умнее самого человека. Разумеется, такой интерес к искуственному разуму обусловлен не только любопытством, но и прагматичными интересами. Многие надеются, что AI сможет выполнять работу не хуже, или даже лучше людей
Особые надежды возлагаются на AI-решения в области медицины. Ведь если искуственный интеллект сможет осуществлять диагностику и лечение болезней, это позволит поднять точность и доступность медицинской помощи на невиданную высоту. Поэтому уже сегодня существует немало компаний, занимающихся внедрением AI в больницы и исследовательские центры
К сожалению, большая часть этих проектов далеки от запуска в продакшн, но из этого правила есть исключения. Одно из них - система Watson Oncology, разработанная IBM. На сегодняшний день она работает больше чем в 50 больницах по всему миру, поэтому, уже можно сделать первые выводы о ее эффективности. Сама IBM утверждает, что система показала высокую эффективность, однако, есть серьезные подозрения, что такое мнение далеко от истины. Ряд специалистов, успевших поработать с системой утверждают, что возможности системы довольно скромны и не соответствует картине, которую пытается представить IBM
Однако, прежде чем рассуждать об удачности системы, нужно в общих чертах представить механизм ее работы
Как работает система Watson Oncology
В основе Watson Oncology лежит система IBM Watson. Выражаясь простым языком, IBM Watson - это облачный суперкомпьютер, под капотом которого крутятся продвинутые алгоритмы, занимающиеся анализом естественных языков и машинным обучением. Его главная особенность в том, что он может обрабатывать запросы, написанные не на языках программирования, а на обычном английском. Получив такой запрос, Ватсон строит грамматическую и семантическую (смысловую) структуру вопроса, выделяет в ней ключевые слова, и начинает искать ответ в своей базе данных. В этом процессе тоже есть свои особенности. В отличие от большинства существующих систем, Ватсон может анализировать не только структурированную информацию (например, хранящуюся в SQL базах данных), но и обычные текстовые документы, например, статьи в Википедии. Благодаря подобному умению хорошо понимать обычный человеческий язык Ватсон стал системой с уникальными возможностями в плане искуственного интеллекта
Одной из первых областей, к которой IBM решила приложить таланты Ватсона, стала онкология, для чего была создана система Watson Oncology. Подобно оригинальному Ватсону, она во многом опирается на распознавании смысла написанных людьми текстов. Благодаря продвинутой системе анализа естественных языков, Watson Oncology может обрабатывать данные о пациентах, анализировать огромный объем информации, включающий в себя множество научных статей и гайдлайнов, и подбирать в итоге рекомендации, подходящие к конкретному случаю
По крайней мере, так это выглядит на первый взгляд. Однако, реальность несколько отличается от образа мудрого робота, с легкостью принимающего правильные решения там, где может спасовать даже самый талантливый доктор
Чем Watson Oncology не является
Из-за особенностей маретинговой компании IBM у многих сложилось превратное представление о том, как работает эта система. Ниже приведено несколько расхожих заблуждений по поводу принципов работы Watson Oncology:
1.Watson Oncology интегрирует данные о методиках лечения, используемых в множестве больниц по всему миру.
Это представление далеко от истины. На самом деле, единственный источник данных, на основе которых Watson Oncology дает рекомендации по лечению - это конкретные случаи, загруженные врачами из центра имени Слоуна-Кеттеринга
2. Watson Oncology соотносит данные об особенностях пациента, прописанном лечении и исходе болезни и делает выводы о эффективности той или иной схемы лечения
Действительно, по такому принципу работают многие системы на основе алгоритмов машинного обучения. Они берут набор исходных значений (features), смотрят, как они соотносятся с итоговыми значениями и пытаются подобрать математическую функцию, которая будет отражать правильное отношение. Однако, на самом деле обучение Ватсона-онколога происходит так: врачи из центра имени Слоуна-Кеттеринга загружают в базу данных Watson Oncology данные о пациентах, проходящих лечение в этом центре, данные о назначенных им диагностических исследованиях и лечении, а также научные статьи и гайдлайны, на основе которых эти врачи приняли решение о назначенном лечении. После этого, когда врачи-пользователи системы загружают в систему данные о своих пациентах, Ватсон просто ищет похожие случаи и выдает рекомендации, составленные врачами из центра Слоуна-Кеттеринга. Таким образом, получается, что значительная часть обучения Watson Oncology происходит вручную, а не на основе алгоритмов машинного обучения
3. Watson Oncology берет данные о пациенте, делает поиск по базе клинических рекомендаций и выдает решение, основанное на этих документах
Опять таки, это не соответствует действительности. Гайдлайны для конкретных случаев подбирают врачи из центра Слоуна-Кеттеринга, а не алгоритмы, встроенные в Watson Oncology.
Таким образом, главная проблема Ватсона-онколога в том, что он не способен создавать новое знание, и лишь выдает то, что в систему вложили обучающие его врачи
Пока что игры удаются роботам лучше, чем работа врача
Проблемы Watson Oncology
Из-за подобной схемы работы при использовании Ватсона возникает несколько серьезных проблем. Во-первых, у системы есть всего один источник информации - опыт врачей из онкологического центра Слоуна-Кеттеринга. И хотя эти врачи являются очень авторитетными специалистами, они тоже могут совершать ошибки и не всегда основывают свои решения на достоверных данных
Во-вторых, не для каждого случая можно найти подходящие гайдлайны. А так как Ватсон не способен создавать новые знания и учиться на случаях, с которыми он встречался в прошлом, итоговые рекомендации будут основываться скорее на интуиции врачей, обучавших системы, нежели на строгих научных данных
В-третьих, особенности пациентов, получающих лечение в одной больнице, могут значительно отличаться от особенностей пациентов из другой. Особенно важно это может быть в тех случаях, когда Ватсон внедряется в азиатских странах, где генетические особенности населения могут сильно отличаться от США. Кроме того, у многих стран есть свои стандарты лечения, которые могут отличаться от тех, которые используются в Америке
Преимущества Watson Oncology
Тем не менее, у системы есть свои положительные стороны. Одно из преимуществ Ватсона проявляется в тех странах, где наблюдается сильный дефицит врачей. В таких странах лечением пациентов нереко занимаются врачи с низкой квалификацией в области онкологии. В сравнении с ними, Ватсон выдает куда более качественный результат
Большая же часть преимуществ связаны с мощной системой поиска по неструктурированным источникам данных. Благодаря ей, Ватсон может быстро предоставлять врачам большой массив данных, подходящих под интересующий их случай. Ряд специалистов, которые уже успели поработать с Watson Oncology, отмечают, что это позволяет сэкономить много времени на поиске статей, в которых есть интересующая их информация
Таким образом, в реальности Ватсон-онколог далек от настоящего искуственного интеллекта. Пока что он больше похож на базу знаний врачей из известного онкологического центра с продвинутой системой поиска. И хотя подобный инструмент зачастую может быть очень полезен, высокая цена (за каждого пациента, при лечении которого используется Watson Oncology больница должна выплатить IBM от 200 до 1000 долларов) и проблемы с релевантностью информации могут оттолкнуть многих потенциальных заказчиков