10 удивительных прорывов глубокого обучения в индустрии ИИ

Квест «сделаем машины умными» уже давно занимает самых ярких специалистов в области ИИ. Машинное обучение (и особенно глубокое обучение) сделало все самые ошеломляющие достижения в искусственном интеллекте на сегодняшний день. Только за последнее время удалось добиться удивительных прорывов в области разработки ИИ.  

1. AlphaZero DeepMind победил всех в Го, сёги и шахматах

После ошеломляющей победы над лучшим игроком Го в 2016 году система AlphaGo получила апгрейд и превратилась в AlphaZero. Без какого-либо обучения человеком, зная только правила игры, AlphaZero научился играть в шахматы самостоятельно всего за четыре часа. Затем система выиграла у Stockfish (предыдущий шахматный бот-чемпион) 100 раз подряд – и ни разу не проиграла.


2. К платформе OpenAI присоединились крупнейшие участники рынка геймдевелопмента

Стремясь к созданию дружественного искусственного интеллекта, Илон Маск создал организацию OpenAI. В конце 2016 года появилась свободная платформа OpenAI Universe, на которой разработчики могут тренировать своих ботов в различных средах, таких как веб-сайты, приложения и игры. В 2017 году к платформе присоединились EA, Valve и Microsoft Studios.

3. ИИ проекты с открытым исходным кодом

В 2015 году Google запустила открытую программную библиотеку машинного обучения TensorFlow, а через год - Magenta (платформа ИИ для создания живописи и музыки). В 2016 году соцсеть Facebook выпустила фреймоврк глубокого обучения PyTorch, поддерживающую динамические вычисления. В 2017 году через свою дочернюю компанию DeepMind компания Google выпустила Sonnet, платформу с открытым исходным кодом, которая упрощает разработчикам сборку компонентов нейронной сети.

4. Facebook и Microsoft поддержали ONNX

Технологические гиганты  с помощью партнерских сообществ (включая AWS, Nvidia, Qualcomm, Intel и Huawei) разработали Open Neural Network Exchange (ONNX) – открытый формат для представления моделей глубокого обучения, который также позволяет очень быстро обучать модели нейросетей.

5. Unity дала разработчикам возможно легко создавать интеллектуальных ботов для игр

Одна из ведущих компаний по разработке игр в мире построила платформу ML-Agents, в которой разработчики могут обучать интеллектуальных ботов, используя эволюционные стратегии, глубокое обучение и другие методы обучения.

6. MLaaS всюду

В 2017 году каждый технологический гигант проявил большой интерес к предоставлению сервисов «машинное обучение как услуга» (Machine Learning as a Service; MLaaS),  предназначенных для «демократизации ИИ». Услуги прогнозирования Google были переименованы в Google Cloud AI, Amazon расширила доступ к голосовым и платным платформам NLP, таким как Lex, Polly и Alexa Skills Kit, в то время как Microsoft и IBM одинаково продвигали свои собственные продукты.

Все больше и больше компаний присоединяются к гонке по созданию собственных платформ машинного обучения и центров глубокого обучения. У Uber есть проект Michelangelo, Facebook сделали FBLearner Flow, Twitter запустил Cortex. Другие компании также создают собственные центры разработки машинного обучения.

7. Зоопарк генеративно-состязательных сетей (Generative adversarial network; GAN) продолжает расти

В январе 2017 года группа исследователей ИИ опубликовала статью о Wasserstein GAN (WGAN), улучшив традиционный процесс обучения GAN. В свою очередь, появилось множество новых GAN, от BEGAN и CycleGan до Progressive GAN. Последний подход к постепенному обучению GAN позволил Nvidia создавать фотографии с высоким разрешением поддельных знаменитостей.

8. Кто нуждается в «повторении» или «свертывании», когда у вас есть «внимание»?

Задачи обработки естественного языка, такие как распознавание речи и машинный перевод, исторически решались с помощью нейронных сетевых архитектур с долгой краткосрочной памятью (Long short-term memory; LSTM). В прорывной статье «Attention Is All You Need» была предложена новая модель Transformer, которая не требует дорогостоящих вычислений, таких как повторение и свертка, для достижения самой большой производительности в задачах машинного перевода.  

9. Наконец-то появились Capsule Networks

Ведущий разработчик в области глубокого обучения Джеффри Хинтон в 2017 году представил новую сетевую архитектуру нейросетей под названием Capsule Networks. Капсульные сети преодолевают многие ограничения сверточных нейронных сетей (легко могут быть обмануты различными ошибками и преднамеренными атаками).

10. Квантовая и оптическая вычислительная техника на тропе аппаратные войны ИИ

Более быстрое аппаратное обеспечение означает улучшение возможностей ИИ. Google объявила о выпуске второго поколения своих модулей Tensor Processing Units (TPU), разработанных специально для исследований ИИ. IBM и Google анонсировали новые этапы развития своей квантовой вычислительной техники, в то время как исследователи и инженеры обнаружили, что матричные операции, используемые в глубоком обучении, могут выполняться параллельно, на квантовых компьютерах.   

На фоне темпов технологического прогресса ряд ведущих футурологов высказывают опасения по поводу разработки ИИ. Кэти О'Нил, автор книги «Математическое оружие уничтожения», призвала отказаться от слепой веры в большие данные. Fei-Fei Li, профессор Стэнфордского университета и главный научный сотрудник Google Cloud AI, принял участие в организации AI4ALL, призванной способствовать гендерному и этнокультурному многообразию в сфере ИИ. Кейт Кроуфорд и Мередит Уитакер основали организацию AI Now, посвященную изучению социальных последствий ИИ.  

С учетом всех происходящих изменений остается только просить себя: что ждет нас в 2018 году, который обещает дать еще больше новостей про ИИ?