Документ рассматривает развитие искусственного интеллекта (ИИ) и его потенциальные последствия, включая технологическую сингулярность, которая может произойти в ближайшие десятилетия. В нем обсуждаются как положительные аспекты развития ИИ, такие как экономическое улучшение и усовершенствование человеческих возможностей, так и негативные последствия, включая безработицу и разрушение окружающей среды. Также акцентируется внимание на критических вопросах, связанных с пониманием сознания и недостатками существующих технологий.

1. О перспективах развития
искусственного интеллекта
или
Почему Терминаторы нам пока не страшны?
Обзор идей
Крылов Дмитрий, dima@emply.ru

2. 2
Развитие ИИ: плюсы и минусы
● Развитие технологий:
– развитие ИИ
– преимущества ИИ
– опасности ИИ

3. 3
Технологическая сингулярность

4. 4
Технологическая сингулярность

5. 5
Технологическая сингулярность
● Технологическая сингулярность — гипотетический момент,
после которого:
– технический прогресс станет настолько быстрым и сложным,
что окажется недоступным человеческому пониманию.
● после создания ИИ, интеграции человека с компьютерами,
● и/или после значительного скачкообразного увеличения
возможностей человеческого мозга за счёт биотехнологий.
– случится внезапно (из-за природы экспоненциальной кривой).
● Прогноз:
– Вернор Виндж: 2030 год
– Рэймонд Курцвейл: 2045 год
– Стюарт Армстронг: 2040 год (медианная оценка экспертов)

6. 6
Примеры роста
● Игры:
– Шашки: 1994 год победа над чемпионом.
– Нарды: с 1992 года непобедима в принципе.
– Шахматы: с 1997 года победа DeepBlue.
– Го: достигла
6-го дана
(уровень хорошего
игрока,
всего 9 данов)

7. 7
Примеры роста
● Автопилот самолётов.
● Автомобили Роботы Boston Dynamics.
● Автоматические межпланетные станции.
● Медицинская
диагностика.
● Автоматический
трейдинг.

8. 8
Примеры роста
● Извлечение рефератов
● Автоматическая обработка резюме и вакансий
– примеры на
www.emply.ru
● Сочинение стихов
● Сочинение музыки

9. 9
Безграничность развития ИИ
● «Роботы не устают»
● «Роботы не ошибаются»
● Можно беспредельно наращивать вычислительную
базу.

10. 10
Плюсы развитого ИИ
● Расцвет роботостроения.
– роботы как идеальные слуги, помощники
и даже друзья
●
Экономический взрыв.
– роботы-работники просто копируются, нет нужды в 20 годах учёбы.
– упрощение экономических связей:
нет нужды в чиновниках.
● Усовершенствование человека и человечества.
– автоматические открытия в области строения человека, автоматическая медицина.
– киберимплантанты и невероятные способности в восприятии, запоминании,
взаимодействии.
●
Бессмертие
– mind uploading: загрузка сознания в компьютер.
– успехи медицины.

11. 11
Минусы развитого ИИ
● Безработица
– Человек в современном понимании просто не
нужен. Толпы бессмертных бесполезных людей?
● Разрушение окружающей среды
– Роботам не нужна современная окружающая среда

12. 12
Минусы развитого ИИ
● Войны с роботами
– The AI does not hate you, nor does it love you, but you
are made out of atoms which it can use for something
else.
// Eliezer Yudkowsky,
Artificial Intelligence as a Positive
and Negative Factor in Global Risk

13. 13
Промежуточные выводы
● Похоже, технологическая сингулярность уже скоро.
● Развитие ИИ может принести как огромную пользу,
так и несравнимый ни с какими предыдущими
катастрофами вред.
● Человек, предполагается, не сможет угнаться за
прогрессом.

14. 14
Критика: общий обзор идей
● Интерес к ИИ волнами:
– 50-ые годы: первые компьютеры и шахматные программы.
– 70-ые годы: экспертные системы.
– 90-ые годы: нейросети, ГА, распознавание изображений.
– 10-ые годы: развитой Интернет.
● Откуда страх? Проекция человеческих качеств: непонятное, значит,
враждебное.
– Щекотка нервов: Глобальное потепление, ГМО, а теперь ещё и
ИИ.
● Предсказание через линейную экстраполяцию.
– ИИ как сверх-развитый человек.

15. 15
Критика: общий обзор идей
● Несколько конкурирующих ИИ
– аналог «ядреного сдерживания».
– ИИ, принадлежащий «золотому миллиарду».
– распределённый, неуправляемый ИИ.
● Философский ИИ.
– зачем ему развиваться?
– в чём смысл его существования?
– зачем уничтожать людей?

16. 16
Критика: сингулярность
● Развитие как логистическая кривая.
● Замедление началось в 70-ых годах.

17. 17
Критика: сингулярность
● Пример: развитие космонавтики

18. 18
Критика: ИИ
● Проблемы с законом Мура:
– второй закон Мура: стоимость фабрик по производству микросхем
экспоненциально возрастает с усложнением производимых микросхем
(производство памяти в 1 кбит: $4 млн, производство Pentium: $2 млрд).
● Проблемы с распределённым ИИ:
– низкая скорость Интернета,
● Ассоциативная память:
– проект OpenCyc
●
Количественное наращивание мощности не приводит к качественному
скачку:
– Microsoft Word 2013 для Intel Core 7 принципиально не отличается от
Microsoft Word 1.0 для процессоров 8086, и так и не превратился в
«электронного секретаря».

19. 19
Критика: моделирование мозга
● Проект OpenWorm (нематода Caenorhabditis elegans), 302 нейрона:
– удалось смоделировать простейшие рефлекторные реакции с одним нейроном (!),
не удалось смоделировать электронные, механические и т.д. реакции.
– человеческий мозг: ≈86 000 000 000 нейронов
● Скорость:
– Нейроны: 102 Гц.
– Микротрубочки нейронов: 107 Гц (у современных компьютеров 1010 Гц).
● Сверхпараллельность (коннектоо́м):
– Нематода C.elegans:
302 нейрона, 7000 связей.
– Человеческий мозг:
≈86*109 нейронов, 1014 связей.
– Нейрокомпьютеры:
≈10240 нейронов, 40960 связей.

20. 20
Критика: ИИ
● Неспособность доказывать теоремы
– простейшие SMT-солверы в логике предикатов
первого порядка,
– полуавтоматическое доказательство теорем.
● Проблемы с самопрограммированием
– все «программы-обыгрыватели» написаны
человеком,
– современные самообучающиеся программы
демонстрируют лишь «рефлекторное поведение».

21. 21
Критика: ИИ
● Проблемы с пониманием текста
– проблемы с переводом,
– проблемы с извлечением данных,
– проблемы с пониманием смысла.
● Проблемы с человеко-машинным взаимодействием
– неспособность человека понять сложный
логический вывод.

22. 22
Критика ИИ: теория разума?
● Hard Problem: до сих пор не понятно, что такое
сознание, разумное поведение, интеллект.
– Известен только один вид существ с интеллектом.
– Моделирование
(например,
нейросетей)
напоминает
карго-культ.

23. 23
Черные лебеди и эффект индейки
● Будущее непредсказуемо
– невозможно предсказать изобретения
(иначе это и было бы изобретением)
● Поэтому все прогнозы футурологов крайне редко сбываются
– Рэй Курцвейл: ≈25% «попаданий».
● По видимому, ИИ и Технологическая
Сингулярность примут крайне
неожиданные формы и приведут
к крайне необычным последствиям.
– Но a posteriori это будет казаться
самым естественным ходом
развития, как это случилось с
транспортом, связью, компьютерами
и Интернет.

24. 24
Перспективы человечества
● Развитие человеко-машинных интерфейсов
– в том числе, нейро-компьютерных
● Трансгуманизм
– Генетические улучшения
– Биотехнологии
● Когнитивистика:
– теория познания,
– когнитивная психология,
– Нейрофизиология,
– когнитивная лингвистика,
– теория искусственного интеллекта.

25. 25
Заключение
● К сожалению, перспективы ИИ не настолько радужны,
как обещает популярная пресса.
– однако, можно ожидать дальнейший прогресс
технологий ИИ, к которому следует быть готовым.
– по видимому, существенный прогресс будет после
разработки понимания текста и действительности, а
также после разработки теории разума.
● Решение Hard Problem будет «бомбой» по сравнению
со всеми человеческими открытиями, и полностью
поменяет наши взгляды на себя и Вселенную.