Нецензурируемый децентрализованный ИИ. Спикер: Андрей Соболь
Представитель проекта Pandora Boxchain Андрей Соболь в данной лекции расскажет о децентрализованном и устойчивом к цензуре искусственном интеллекте (ИИ).
В общем смысле, децентрализация означает, что нет единой точки отказа, которая способна контролировать определенный сервис.
В случае с ИИ, устойчивый к цензуре означает, что не существует субъекта, который принимал бы правила для создания, модификации, самоуничтожения или обучения искусственного интеллекта.
В широком смысле термин «устойчивость к цензуре» возник с появлением блокчейна Биткоин, что является одной из важных частей в финансовой инфраструктуре.
Феномен Big in Japan
Данный феномен заключается в том, что определенное явление может быть неизвестно в мире, но его популяризация в Японии способствует глобальному распространению.
Подобное произошло и с децентрализованными технологиями. На сегодняшний день люди, вовлеченные в данную сферу, не только занимаются разработкой для узкого пользования, но и задают вектор развития. Например, глобальная финансовая система трансформируется с учетом изменений в области криптовалюты.
Аналогичное будет происходить и с ИИ. Децентрализованный ИИ будет задавать планку, на которую остальные субъекты будут реагировать.
Основным фокусом на данный момент, которые выделяет спикер, выступают две дисциплины:
- Экономика - теория игр, праксиология, австралийская теория бизнес-циклов, частные валюты
- Компьютерная наука - распределенные системы, блокчейн, дизайн алгоритмов консенсуса, криптография
Рассмотрим интересное рассуждение спикера
Существует такой персонаж как Капитан Очевидность. В общем смысле, Капитан Экономика и есть Капитан Очевидность, поскольку основные логические рассуждения, которыми пользуются большинство экономистов - очевидны.
Например: большинство экономистов согласны с тем, что существование границ для передвижения товаров неэффективно с точки зрения экономики.
Обоснование очевидно - нецелесообразно вводить пошлины на товары, которые не производятся в стране.
Если говорить о теории игр - работает закон Капитан Неочевидность, поскольку выводы даже простых задач в теории игр являются совершенно неожиданными.
Разберем на примере Truel
Truel - дуэль трех лиц. Предположим существование трех субъектов S1, S2, S3, которые стоят с оружием, направленным на одного из данных субъектов.
Предположим, что субъекты с определенной вероятностью могут уничтожить любой другой субъект.
Распределим вероятности попадания: для S1- 1, S2 - 0,8, S3 - 0,5
Если предоставить каждому из субъектов выбрать цель и попасть в нее, то, на первый взгляд, у участника S1 шансы выжить больше.
Теория игр говорит об обратном. Предположим, что порядок выстрелов следующий: S1 - первый, S2 - второй, S3 - третий. Субъекту S1 целесообразнее выбрать субъект S2, также как и субъекту S2 выгоднее выбрать S1 в данном случае и в случае, если он по порядку стреляет первый.
В итоге получается весьма неочевидный вывод - в дуэли трех лиц вероятность выжить больше всего у субъекта S3, затем S1 и S2.
Отметим еще одну важную особенность данной задачи
Предположим, что у субъектов есть возможность стрелять в воздух. В таком случае, все участники выберут возможность не стрелять.
Данная задача появилась после Второй Мировой Войны. Если бы решение было найдено ранее, возможно, понимая все последствия, войны удалось бы избежать.
Неочевидные решения, которые предоставляет теория игр заставляют задуматься о многих вещах
Одна из таких вещей - стоит ли опасаться ИИ
Это пирамида Маслоу, которая достаточно рациональна с эволюционной точки зрения.
Безопасность стоит на втором месте. По этой причине и по выводам, сделанным с помощью теории игр, ИИ задумается о подобном ценностном ряде для собственной безопасности.
Но, человек, боясь угрозы, может создать «кнопку, которая уничтожит ИИ». По этой причине, необходимо создать децентрализованную среду для коммуникации между искусственными и естественными субъектами.
Решение - Блокчейн
Многие люди думают, что Блокчейн это:
- Распределенная база данных
- Безопасное хранилище
На самом деле Блокчейн - это хешированные блоки
Инновация Блокчейна заключается в появлении стимулов: появление награды за майнинг, награды за верификацию блоков.
Выделим основные вещи, которые привнес Блокчейн:
- Консенсус алгоритм
- Инцентивизация
- Токен
Следующий важный момент - необходимо создать децентрализованную среду для ИИ
Именно над этой задачей задумались создатели проекта Pandora Boxchain
Pandora Boxchain - это подготовка к созданию децентрализованного окружения для ИИ.
Для организации децентрализованной среды необходимо создать:
- Децентрализованный рынок данных
- Децентрализованный рынок моделей нейронных сетей
- Децентрализованный рынок подсчетов
В первую очередь, проект фокусируется на создании децентрализованного рынка подсчетов.
Был разработан алгоритм консенсуса Prometheus, в котором есть несколько субъектов:
Участники делят между собой определенные подсчеты, которые служат для тренировки нейронных сетей:
- Воркеры - подсчитывают данные
- Валидаторы - частично проверяют результат
- Арбитры - субъекты, которые разбирают спорные случаи
В проекте будет предусмотрен двухуровневый алгоритм консенсуса:
- PoCW (Proof of Cognitive Work) - субъекты считают нейронные сети и получают награды в токенах и баллы репутации
- PoR (Proof of Reputation)
Репозиторий проекта https://github.com/pandoraboxchain
Если у вас остались вопросы, можете задать их непосредственно спикеру лекции