Одиннадцатая лекция из цикла «13 лекций о будущем» посвящена приближающейся сингулярности в контексте уже происходящей тотальной автоматизации.

1. Лекция о будущем
Анатолий Левенчук
http://ailev.ru
ailev@asmp.msk.su
Москва
«точка кипения»
24 октября 2014г.

2. САМООПРЕДЕЛЕНИЕ
• 1977-1980 – machine learning (тогда это называлось pattern
recognition)
• 1985– по настоящее время: инженерия знаний (онтологические
редакторы)
• 1987—по настоящее время: уход из госсектора
• 1987– по настоящее время: методология и ситуационная
инженерия методов
• Безбумажные ценные бумаги – 1990-1997г. (до кризиса!)
• 1991-2004 – интернет (первый вебсайт 1994, web framework
1998г., digital humanities)
• 2007 по настоящее время – системная инженерия
• Прямо сейчас: рабочая группа нейронета, роботика и т.д.
• Профессиональная работа: читаю лекции о будущем для
предприятий
2

3. Будущее в глазах смотрящего
3

4. Обсуждаем
• Нарратив-клип (рвакля), мало картинок
• Мысли о происходящем с «технологиями»
• Жанр: «британские учёные о будущем»
(околонаучпопса – если вообще можно
говорить про «науку» футурологию),
• Моё личное мнение (пристрастное
цитирование – ни разу не «объективный
обзор»!)
4

5. 5
Технологическая сингулярность
Vernor Vinge (январь 1983, популяризация тезиса
I.J.Good 1965):
• Тридцать лет до создания искусственного интеллекта
[2013, современная оценка – 2020 или 2039]
• Искусственный интеллект применит свой
интеллект для усиления своего интеллекта
• Очень скоро после этого человек перестанет быть
царем природы (как сейчас приматы)
• Невозможно предсказать, что будет после этого, но
мир будет меняться с такой скоростью, что простой
человек не сможет с ним разобраться.
http://old.computerra.ru/think/35636/

6. Что не обсуждаем в AI
• Жёсткий взлёт (Hard take off)
• Что такое сознание
• Что такое интеллект, варианты Теста Тьюринга
• Проблему GAI (но не проблему «common
sense» -- её как раз обсуждаем)
• Дружественный AI
• Embodient intelligence
• Upload
6

7. Мифы и реальность искусственного интеллекта
(strong and weak AI)
Миф Реальность
• Маршруты с учётом пробок
• SIRI, Quick Voice, Voice S
• IBM Watson
• Клинические отчёты CYC
• Переводчики текстов
• …
• И много-много
других маленьких
применений
7
Огромное золотое яблоко
Много мелкого изюма

8. Технологии искусственного
интеллекта
• Понимание естественного языка, перевод
• Онтологии (общая картина мира) и
представление знаний
• Экспертные системы (ответы на вопросы)
• Машинное обучение (включая распознавание
образов и открытие закономерностей)
• Синтез моделей, удовлетворяющих
ограничениям (в том числе -- генетические
алгоритмы)
• ...
8

9. Приложения обработки естественного языка
• Персональные помощники (голосовые интерфейсы к телефону
и компьютеру) -- Siri
• Вопросно-ответные системы (IBM Watson)
– Call-center и engagement (ответы на вопросы клиентов): май 2013
– Финансовый консультант (исходя из профиля клиента, ситуации на
рынке, продуктов компании): обучение
– Медицинский консультант (исходя из анамнеза клиента и текущих
медицинских технологий): февраль 2013
• WolframAlpha
• Call-center – smartaction (http://www.smartaction.com/our-difference/
artificial-intelligence) и многие другие
• Подготовка медицинской отчётности (CYC)
9

10. Уровни интеллектуальности
компьютерных систем
Уровень 3 Формировать
теории для
достижения цели
Физическое
взаимодействие с
Миром
Управляет своей
работой
Уровень 2 Применяет теории
для достижения
цели
Адаптивное
взаимодействие с
другими системами
Мониторит свою
работу
Уровень 1 Аккуратно
представляет Мир
Спроектированное
взаимодействие с
другими системами
Содержит данные
о себе
Уровень 0 Подразумеваемый
Мир
Пассивное
взаимодействие с
пользователями
Фиксированная
структура
Понимает мир Взаимодействует с
Миром
Самосознание
http://www.matthew-west.org.uk/documents/IntelligenceInSystems.pdf 10

11. Что ещё не обсуждаем
• Религию (включая приходы мессий, концы света и
календарей)
• Всемирные заговоры (в том числе «во имя
прогресса»)
• UFO и aliens
• Сепаратизмы и глобализацию
• Мешанизм (капитализм-социализм)
• Всемирное правительство и что будет с
«государством»
• Больших Братьев
• Экологию (в том числе урбанизацию), исчезновение
видов
• Экзистенциальные катастрофы
• Конец эпохи авторов, композиторов, писателей,
искусства 11

12. Будущее тела
Не обсуждаем, но должны бы:
• Техническое бессмертие
• Рибофанк
12
Aubrey de Grey of SENS Foundation
Preparing for the Reddit AMA

13. Почему трудно обсуждать будущее
• Зачем обсуждаем?! (Предприниматели?
Карьеристы? Правители? Учёные?)
• Контринтуитивность на потоке: смены
парадигм. В какой парадигме обсуждаем?!
• «Всё со всем связано»
13

14. Вне времени: линия времени
14

15. 15
Вне времени: 4D + экстенсионализм
Наряду с настоящим,
существуют и прошлое, и
время
пространство
Объект протяжён во
времени
будущее
1. Индивиды расположены как во времени, так и
в пространстве, и имеют как темпоральные,
так и пространственные части - пердурантизм.
2. Если два индивида занимают одинаковую
пространственно-временную область – это на
самом деле один и тот же индивид
(экстенсионализм).
Использована диаграмма Matthew West

16. Нет сверхчеловека, есть сверхорганизации
По факту -- киборги (cybernetic organisms) уже
заполонили всю планету, но они оказались не
«людьми», а организациями:
• Сверхмасштабы (счет на миллионы единиц
продукции, миллионы обслуженных людей)
• Сверхскорость (18 месяцев – время жизни
полупроводниковой технологической линии,
затем опять перестройка)
• Сверхресурсы (бюджеты ТНК сравнимы с
бюджетами государств, и не размазываются по
многим темам)
24-Oct-14 16

17. Дилемма инноватора
(Clayton Christensen из Гарварда)
17
Х
а
р
а
к
т
е
р
и
с
т
и
к
и
Время
Характеристики
лучших продуктов
На рынке
Характеристики
худших продуктов
на рынке
http://web.mit.edu/6.933/www/Fall2000/teradyne/clay.html

18. Управление развитием (технологией, technology management)
и совершенствованием (зрелость процессов, process management)
18
Р
Е
З
У
Л
Ь
Т
А
Т
Ы
ВРЕМЯ
III поколение,
P2M, TOC
II поколение,
PMBoK, PRINCE2
I поколение,
«сетевое планирование»
1960 1990 2000 2010
IV поколение

19. Проблема с «предсказаниями» и
«аналитикой»
Одиночных технологий не бывает.
19

20. Кембрийский взрыв технологий
• технология беспилотного дрона:
Вложения в миллиарды долларов, которые мы наблюдали между 1980 и
2010 годами, — вот что сделало дронов возможными. Отметим четыре
зоны:
1. GPS. В 1981 году первый коммерческий передатчик GPS весил 15
килограмм и стоил больше 100 тысяч долларов. Сегодня GPS — это 0,3-
граммовый чип стоимостью меньше 5 долларов.
2. IMU. Инерциальный измерительный блок (IMU) измеряет скорость,
ориентацию и ускорение дрона. В 1960-х годах IMU (разработанный для
программы «Аполлон») весил больше 15 килограмм и стоил миллионы.
Сегодня это пара чипов стоимостью 1 доллар в вашем телефоне.
3. Цифровые камеры. В 1976 году первая цифровая камера Kodak снимала с
разрешением 0,1 мегапикселя, весила килограмм и стоила больше 10 000
долларов. Сегодняшние цифровые камеры в миллиард раз лучше
(разрешение лучше в 1000 раз, они меньше в 1000 раз, дешевле в 100 раз).
4. Компьютеры и беспроводные коммуникации (Wi-Fi, Bluetooth). Ну, здесь
без вопросов. Компьютеры и беспроводные технологии стали в миллиард
раз лучше с 1980 года.
http://hi-news.ru/technology/kratkij-prognoz-razvitiya-bespilotnyx-dronov.html
Нет отдельных S-образных кривых, у них там промискуитет: все со всеми!
20

21. Как быстро всё будет?
CUPERTINO, California—September 22,
2014— Apple® today announced it has sold
over 10 million new iPhone® 6 and iPhone 6
Plus models, a new record, just three days
after the launch on September 19. iPhone 6
and iPhone 6 Plus are available in the US, Australia,
Canada, France, Germany, Hong Kong, Japan, Puerto
Rico, Singapore and the UK and will be available in
more than 20 additional countries on September 26.
The new iPhones will be available in 115 countries by
the end of the year.
21
https://www.apple.com/pr/library/2014/09/22First-Weekend-iPhone-Sales-Top-10-Million-Set-New-Record.html

22. 22
Технологии для коммуникации
Картинка из
http://en.wikipedia.org/wiki/Accelerating_change

23. Скорость распространения: 21 век
23
2006
Deep
Learning
29 июня
2007
iPhone
Август 2012 –
Гуглемобиль
прошёл
483тыс. км
Февраль 2011
IDSIA
дорожные
знаков
Февраль
2011
IBM Watson
Jeopardy!
3 апреля
2010
iPad
Март 2004 –
DARPA Grand
Challenge
1 января
2004
HDTV в
Европе
Февраль
2013
IBM Watson
в
медицине
9 лет назад!
2004 2009 2014

24. 24
Моды и поветрия на практики
Практика = дисциплина + технология
• вчера было 10 лет/практику*,
• сегодня 3 года/практику,
• завтра… сингулярность
*Методы не обязательно уходят!
Моды – это не поветрия!

25. Будущее уже здесь
25
Будущее уже здесь, просто оно ещё
неравномерно распределено.
Уильям Гибсон.

26. Скорость интернета
26

27. 4К дисплеи
27
$8000 (70” LED)
39” -- $700 (июнь 2013, Seiki -- http://hi-news.
ru/tv/neveroyatno-dostupnye-4k-televizory-uzhe-zdes.
html)
В 2015 году Япония начнет
вещание в формате 8К
• 2004 – начало вещания HDTV в Европе
• на конец 2007г. к HDTV имеют доступ 36%
американских семей.
• 10% вернули телевизоры в 2007г., не
разобравшись. 20% -- в 2006г.
• На CES 2008 было выставлено 2 телевизора
формата 4K
4K важно для развития
моделирования: прирост
производительности труда от
удвоения площади экрана
для знаниевых работников –
до 30%

28. Код как еще один тип медиа:
магазины
28
Microsoft's Antoine Leblond at the unveiling of the Windows Store app marketplace.
Credit: James Martin/CNET
Компьютер – это плеер для кода

29. Код как еще один тип медиа:
коммодитизация кода
Код
• Приложения стали
крошечными
• Запасы ненужных приложений
зашкаливают
• Одно и то же приложение есть
на разных устройствах
• Есть магазины и торрент-сайты
• На одной странице пришедшие
от разных мест
(коллаборация!) входные
данные, кнопки, живые
графики, сортируемые таблицы,
текстовые пояснения
Картинки, звук, видео
• от концертов и альбомов
перешли к трекам
• Запасы ненужных треков
зашкаливают
• Один и тот же трек играется на
разных устройствах
• Есть магазины и торрент-сайты
• На одной странице пришедшие
из разных мест
(коллаборация!) картинка,
аудио и видео
29

30. Так что же происходит с IT?
• Закон Мура
– Квантовые компьютеры
– Оптические компьютеры
– Другие алгоритмы
• Алан Кей: «компьютерная революция ещё
не началась»
– Отдайте мои 1000 раз
– Компактность кода
– Компьютерная грамотность
– Programming-in-the-large (теория)
• Гибридные вычисления
30

31. Аргумент: «вы сто лет уже про это говорите»!!!
• Топливные элементы
• Быстрые и ёмкие аккумуляторы
• Термоядерное электричество
• Энергонезависимая быстрая память
• Автопилоты автомобилей
• Гибкие дешёвые быстрые экраны высокого
разрешения (требование объема отпало)
• Трубопроводные скоростные поезда
31

32. Глубокое обучение
32
• Разные уровни презентации (абстракции) числом больше 2
• Первый результат: 2006 (7 лет назад!)
• Второй, третий, четвертый и т.д. результаты – прорывы
почти каждый год
• Предварительное «обучение без учителя» ускоряет работу
в десятки раз
• Google и Ng – только что удалось создать программный
комплекс за $100тыс. (без GPU) вместо кластера на 1000
компьютеров

33. Соревнования в компьютерном
зрении
• German Traffic Sign Benchmark
• Выиграла программа Swiss Artificial Intelligence Lab –
99.46%, люди – высшая 99.22% (из группы 32
человека, средняя 98.84%) -- http://www.kurzweilai.net/how-bio-inspired-
deep-learning-keeps-winning-competitions
• Типичные соревнования: Mitosis Detection in Breast
Cancer Histological Images (MITOS dataset), 2012г. –
участвовали 129 компаний, 17 команд прислали
результаты
33

34. Ремонт по состоянию
• Boeing Company: 85% отказов оборудования происходят невзирая на
своевременное календарное обслуживание
• Emerson: 63% запланированного обслуживания задвижек не были
необходимыми, поэтому перестало это делать.
• Традиционные методы предсказания поломок работают плохо.
• Методы машинного обучения работают удивительно хорошо –
особенно deep learning. Ключевые особенности:
– Обработка миллионов измерений от самых разных датчиков
– Хорошее отделение «сигнала» от «шума»
• Первые применения: непрерывные производства (нефтянка,
электростанции, химические производства, фармакологические
фирмы)
34
http://www.mtelligence.net/

35. Competition – соревнования, конкуренция
• Наука как спорт
• Соревнования в data mining
o http://www.kaggle.com/
o http://www.crowdanalytix.com
o https://www.innocentive.com/
o http://tunedit.org/
o http://www.kddcup2012.org/
• Учебные соревнования
http://ailev.livejournal.com/1047765.html 35

36. Роботизация
Дубль -- это очень интересная штука. Как правило, это довольно точная
копия своего творца. Не хватает, скажем, человеку рук -- он создает себе
дубля безмозглого, безответного, только и умеющего, что паять контакты,
или таскать тяжести, или писать под диктовку, но зато уж умеющего это
делать хорошо. Или нужна человеку модель-антропоид для какого-
нибудь эксперимента -- он создает себе дубля, безмозглого,
безответного, только и умеющего, что ходить по потолку или принимать
телепатемы, но зато уж умеющего хорошо. Или самый простой случай.
Собирается, скажем, человек получить зарплату, а времени терять ему не
хочется, и он посылает вместо себя своего дубля, только и умеющего, что
никого без очереди не пропускать, расписываться в ведомости и
сосчитать деньги, не отходя от кассы. Конечно, творить дублей умеют не
все. Я, например, еще не умел. То, что у меня пока получалось, ничего не
умело -- даже ходить. И вот стоишь, бывало, в очереди, вроде бы тут и
Витька, и Роман, и Володя Почкин, а поговорить не с кем. Стоят как
каменные, не мигают, не дышат, с ноги на ногу не переминаются, и
сигарету спросить не у кого.
Аркадий и Борис Стругацкие
Понедельник начинается в субботу
1965 год
36

37. Ноги к планшету уже приделали,
руки ждём-с
37
Image from New York Times
Care robot AMIGO. Photo: Bart van Overbeeke.

38. Локомоция
Adidas SpringBlade (16 пластин) MIT Biomimetic Laboratory, Сheetach, 47км/ч
38
Boston Dynamics BigDog, «рука»

39. Соревнование роботов (ICRA 2013)
http://mobilemanipulationchallenge.org/ -- «робот на кухне» 39

40. Основные проблемы робототехники
• Надёжное распознавание рук
• Дорогая аппаратура (не бытовые сенсоры, не
промышленные контроллеры)
• Энергоэффективность автономных роботов
• Обучение/программирование
• Отсутствие стандартов (они только-только появляются --
http://www.iso.org/iso/home/store/catalogue_tc/catalogue_tc_browse.htm?commid=
54138)
• Нереальные цены (правительственная накачка)
• Огромный плюс: ROS (robot operation system,
http://ros.org – лицензия BSD)
40

41. Порождающее проектирование и
производство
«Порождение» против «редактирования»
Generative design (биты в биты)
• Информационная модель-1 + справочные данные =
информационная модель-2
Generative manufacturing (биты в атомы)
• Информационная модель + справочные данные =
оформленное вещество
41

42. Порождающее производство
• Форма, невозможная для ручной работы
• Субтрактивные и аддитивные методы
(экономия материала, энергии, времени)
• 3D печать
• Робототехника (сборка)
• Автоматизированная логистика (деталь
описывает сама себя в логистической
цепочке)
42

43. 3D печать
• Идеальный метод для деталей сложной формы (учитывая
надёжность и прочность). Сложная форма даёт прочность,
лёгкость, меньшее число деталей (дешевизну логистики и сборки).
• Массовость: поддержка в Windows 8.1 драйверов 3D принтеров
(http://www.microsoft.com/3d), это уже не экзотика.
• от микрон до метров, от инженерных до биоприменений
43
Анод и катод микробатареи
Первый в мире дом начали печатать в
Амстердаме (июнь 2013)
http://www.telegraph.co.uk/travel/ultratravel/the-next-big-thing/10110195/The-worlds-first-3D-printed-house.html
http://www.boston.com/business/innovation/blogs/inside-the-hive/2013/06/28/harvard-researcher-used-printer-create-really-tiny-batteries/YAnRhFfWn4BzoZUp0Y9GOK/blog.html

44. Робототехнические заводы
• evolvable ultra-precision assembly systems (EUPASS, 2009г.)
• Ключевой вопрос: комплексирование роботов разных производителей, это вопрос
стандартов
• Advanced manufacturing (США), cyber-physical production systems (Германия)
• Иллюстрация: гамбургерная Alpha Machine (2013), 360 гамбургеров в час
44

45. Экспансия инженерии на
нетрадиционный материал
• Программная инженерия (это уже "бывший тренд", но он остаётся важным)
• Онтологическая инженерия (инженерия данных)
• генная и биоинженерия
• молекулярные и наномашины, метаматериалы, лекарства
• подводные разработки ископаемых
• Инженерия предприятий
• новая физика (квантовые компьютеры, плазма, пока еще сомнительные LENR
и эффект Маха)
• Новая логика (4D онтология, парадигма факт-ориентированности)
• системы систем (инженерия сверхбольших распределенных систем,
основанных на стандартах -- например, интернет)
Вывод: невероятная ранее диверсификация инженерии и инженерных
специальностей
45

46. Проблема: не всех извозчиков берут
в таксисты
• Понятие сингулярности как «горизонта
событий»
• Непонятно, чему учить (парадигма)
• Непонятно, когда учить (возраст)
• Непонятно, кого учить («непрерывное
образование»)
• Непонятно, как учить (технология
образования)
Пример: моделирование данных vs алгоритмика
46

47. Как выправить гуманизацию
образования по Selmer Bringsjord
• Патернализм (родитель требует того, что будет
лучше детишкам)
• Прекратить рекламу STEM (в том числе физики,
математики и т.д.)
• Поскольку в основании всего лежит логика
(логицизм!), то требовать формализации того
предмета, по которому идёт защита: не знаешь
логики, не можешь формализовывать – не будет
тебе защиты диплома
• Помним выставку абстракционистов, где сдавили
тест на рисование: в присутствии членов комиссии
рисовали кулак
47

48. Артигогика
• Искусственные интеллекты тоже нужно
учить!
• Проект Baby X
http://www.abi.auckland.ac.nz/en/about/our-research/animate-technologies.html
48

49. 49
Спасибо за внимание