Google и другие технологичные компании разрабатывают системы AI, которые могут сомневаться в себе
Привет. Искусственный интеллект (AI) примет более правильные решения, если будет сомневаться. Благодаря новому мощному подходу к глубокому обучению, разработанному исследователями из Массачусетского технологического института (MIT), AI приобретает новые возможности: чувство сомнения.
Исследователи из Uber и Google работают над модификациями двух самых популярных структур глубокого обучения, которые позволят им работать с вероятностями. Это обеспечит способ для самых умных программ AI оценивать свою уверенность в прогнозах или решениях - по существу, и понимать, когда им следует сомневаться в себе.
Глубокое обучение, которое включает в себя подачу данных в большую и мощную нейронную сеть, за последние несколько лет имело огромный успех, позволяя машинам распознавать объекты на изображениях или транскрибировать речь почти идеально. Но для этого требуется большое количество данных и соответствующая вычислительная мощность, кроме того, это может быть удивительно хрупкой системой.
С некоторым противоречием, эта неуверенность в себе предлагает одно улучшение. Новый подход может быть полезен в критических сценариях, связанных с автономными транспортными средствами.
«Вы хотели бы, чтобы система давала вам определенную степень уверенности», - говорит один из разработчиков в Google. «Если самоуправляемый автомобиль не знает своего уровня неуверенности, он может совершить фатальную ошибку, и это может быть катастрофическим».
Исследование отражает осознание того, что сомнения являются ключевым аспектом человеческого мышления и интеллекта. Его добавление в программы AI может сделать их умнее и менее подверженным ошибкам.
Это может оказаться жизненно важным, поскольку системы AI используются во все более критических сценариях. «Мы хотим иметь прочную основу для глубокого обучения, но облегчаем людям и представление сомнения».
Во время научной конференции по AI группа исследователей собралась, чтобы обсудить "Pyro" - новый язык программирования, разработанный компанией Uber, который объединяет глубокое обучение с вероятностным программированием.
Исследователи объясняют, что при глубоком обучении способность справляться с вероятностью может сделать AI умнее несколькими способами. Например, это могло бы помочь программе распознать вещи, с разумной степенью уверенности, из нескольких примеров, а не из многих тысяч. Предлагая определенную степень уверенности, а не ответ «да» или «нет». Это может помочь в работе с инженерно-сложными системами.
И, хотя обычная система глубокого обучения учится только из данных, которые она получает, Pyro также может использоваться для создания системы, предварительно запрограммированной знаниями. Это может быть полезно практически в любом сценарии, где применяются методы машинного обучения.
"В тех случаях, когда у нас есть предварительные знания, которые мы хотим встроить в модель, вероятностное программирование особенно полезно. Люди будут использовать Pyro для всех типов задач".
Edward - еще один язык программирования, который взаимодействует с неопределенностью, он был разработан в Колумбийском университете при финансовой поддержке DARPA. Оба эти языка программирования все еще находятся на ранних стадиях развития, но нетрудно понять, почему в них так заинтересованы Uber и Google.
Uber использует машинное обучение в бесчисленных областях, от маршрутизации движения водителей до установки повышенных цен во время загрузки дорог и, конечно же, в своих беспилотных автомобилях. Компания инвестировала значительные средства в AI, нанимая ряд экспертов, работающих над новыми идеями. Google в последнее время восстановил весь свой бизнес, относящийся к AI и глубокому обучению.
Ученые говорят, что сочетание глубокого обучения и вероятностного программирования является многообещающей идеей, которая требует еще большой работы. В принципе, это очень мощно, но есть еще много технических проблем.
Кроме того, как отмечают исследователи, Pyro и Edward имеют важное значение для объединения двух конкурирующих школ в AI, одна из которых ориентирована на нейронные сети, а другая на вероятность.
В последние годы школа "нейронных сетей" была настолько доминирующей, что другие идеи остались практически без внимания. Но, чтобы двигаться вперед, возможно, потребуется принять и другие идеи.
Фишка заключается в том, что нам не нужно думать об этих направлениях, как о полностью отдельных. Они могут работать вместе - фактически, они уже работают вместе - в инструментах, создаваемых сегодня учеными из Google и Uber.
Таким образом, машины становятся умнее, понимая, что они еще много не знают.
