Соучредитель Google Сергей Брин предупреждает об угрозах AI в сегодняшнем «технологическом ренессансе»
Привет. Соучредитель технологического гиганта Google Сергей Брин предупредил, что нынешний бум в развитии искусственного интеллекта создал «технологический ренессанс», который содержит много потенциальных угроз.
В своем ежегодном письме учредителей компании Google, опубликованном в пятницу, президент Alphabet сделал предупреждение. «Новая весна в искусственном интеллекте - это самое значительное развитие в вычислительной технике в моей жизни», - пишет Брин.
«Каждый месяц появляются потрясающие новые приложения и преобразующие новые методы». Но, добавляет он, «такие мощные инструменты также приносят с собой и новые вопросы и обязанности».
Брин начинает свое письмо, цитируя Чарльза Диккенса из «Повесть о двух городах»: «Это было лучшее время, это было худшее время». Он отмечает, что вычислительная мощность показала взрывной рост с тех пор, как Google была основана в 1998 году, и также, как и в то время, техника, которая теперь составляет основу современного AI, нейронных сетей, была просто «забытой сноской в информатике».
За прошедшее десятилетие произошла революция в машинном обучении, и Брин перечисляет некоторые из многих способов использования AI для работы служб Alphabet и других компаний.
Искусственный интеллект анализирует изображения в Google photo; переводит более 100 языков в Google translate; управляет навигационными системами в беспилотных автомобилях Waymo; и даже помогает диагностировать болезни и открывать новые планетные системы.
"В этом смысле мы действительно находимся в технологическом ренессансе, захватывающее время, где мы можем видеть приложения практически во всех сегментах современного общества", - пишет Брин.
Но, по его словам, AI также создает ряд проблем: "от страхов перед чувством научно-фантастического стиля до более краткосрочных вопросов, таких как проверка производительности самоуправляемых автомобилей." Брин говорит, что Alphabet дает "серьезную толчок" ряду этих вопросов, в том числе о том, как AI повлияет на занятость; проблемы создания беспристрастных и прозрачных алгоритмов; и опасения, что эта технология будет использоваться для “манипулирования людьми" (Это, скорее всего, ссылка на недавние обсуждения фэйковых новостей, созданных AI).
Примечательно, что Брин не упоминает одно из самых спорных вариантов применения AI, который имеет особое значение для Alphabet: военное применение. Ранее в этом году выяснилось, что Google помогает Пентагону внедрять средства машинного обучения для анализа видеозаписей с видеороликов от беспилотных самолетов.
Компания заявила, что технология предназначена только для «не наступательных целей», но тысячи сотрудников Google потребовали от компании выйти из проекта. Письмо Брина также выходит в то время, когда компании из Силиконовой долины сталкиваются с более пристальным вниманием, чем когда-либо, со стороны правительств и общественности.
При этом, Alphabet сообщила о росте выручки на 26% до 31,1 млрд долларов, а прибыль Amazon выросла на 43% в годовом исчислении, при этом продажи в первом квартале составили 51 млрд долларов. Страх перед AI, забирающим рабочие места и манипулирующим политикой, вероятно, будет частью любых будущих обсуждений необходимости ограничения Силы и влияния "Большой Технологии".
Это, как и все остальное, вероятно, объясняет мрачный тон Брина. Он закрывает письмо, говоря: «Несмотря на то, что я с оптимизмом смотрю на потенциал, который могут дать технологии для решения самых больших проблем в мире, мы находимся на пути, который мы должны проделать с большой ответственностью, заботой и смирением».
