Повышение производительности труда и нейро:
смычка кортекса и экзокортекса
Москва
28 октября 2015г.
Совместная работа
• Совместная работа – это делать какую-то
систему/сервис (не рассматриваем совместные
развлечения, религиозные практики, совместные
занятия сексом для деторождения и т.д.)
• Используем представления системной инженерии –
вид жизненного цикла как «принципиальная схема»
работ по созданию системы.
• Где в жизненном цикле ожидать помощи со
стороны «нейро»?
• Будущее доступно через метафору тумана: вблизи
всё прозрачно, а в трёх метрах может быть
невидимая стена. Так что ограничиваемся только
тем, что уже видно – стараемся много не сочинять.
2
Тотальная автоматизация
•Традиционная автоматизация –
алгоритмическая (можем
использовать точные определения)
• Черчение и стереометрия, физика,
дифференциальные уравнения, логика
•Обучение нейронных сетей –
неалгоритмическая (не можем
использовать точные определения).
• Стиль и художественный дизайн
• Работа с интересами людей
3
Искусственный интеллект: «то, что
компьютеры пока не умеют делать»
Граница быстро движется: шахматы,
вождение автомобиля, распознавание речи и
т.д.
Смена парадигмы:
Обучение (learning) проектированию,
конструированию, моделированию
вместо/вместе программирования (GOFAI)
Эпистемология (неявное знание и методы
обучения) вместо/вместе онтологии (явного
сконструированного знания)
Машинное обучение бывает
(с выходом на master algorithm):
• Символьное (правила)
• Коннекционистское
(нейронные сети) – сегодня в
моде («глубокое обучение»)!
• Байесовское (вероятности)
• Эволюционное (генетические алгоритмы)
• Поиском аналогий 4
Почему только сейчас?!
Оборудование: enabling technology
Интернет (1990 – первый
браузер WWW)
• Линии связи позволили передавать
картинки на дом (т.е. стало можно
использовать WWW)
• Дисплеи смогли картинки показать
• Процессоры смогли картинки обработать
250Kb веб-страница
• 56Kbps – 36 секунд
• 1Mbps – 2 секунды
• 100Mbps – 0.2 секунды
Нейронные сетки (2012 – первая
победа на соревнованиях)
• Процессоры сумели выдать
терафлопс, нужный для
научения сетки за обозримое
время
• Связь и память смогли дать
терабайты данных для научения
• 1TFLOP -- 200млн. человек по 14 вычислений на
калькуляторе в день каждый, за год
• GTX Titan X – 7TFLOPS (single preсision)
• Intel Knights Landing Xeon Phi – 6TFLOPS
(http://www.zdnet.com/article/intels-next-big-thing-knights-landing/,
http://arxiv.org/abs/1506.09067)
• FPGA: эксперименты до 10TFLOPS и до 6x
меньше TFLOPS/Watt
5
http://www.theguardian.com/technology/2011/jul/06/broadband-speeds-uk
Дилемма инноватора: мужики-то не знают!
(Clayton Christensen из Гарварда)
Х
а
р
а
к
т
е
р
и
с
т
и
к
и
Время
Характеристики
лучших продуктов
На рынке
Характеристики
худших продуктов
на рынке
http://web.mit.edu/6.933/www/Fall2000/teradyne/clay.html
6
• Инновации обеспечиваются на неприкладных уровнях технологического
стека (проектирование – алгоритмы обучения
• Обучение компьютеров сегодня даёт любительские результаты во всём,
кроме задач распознавания изображений, звука, сигналов, вторжений и т.д..
• Через 5 лет эти любительские результаты окажутся профессиональными,
если не сверхчеловеческими. Всё происходит быстро.
Экстремальная сложность
INCOSE VISION 2025 (июнь 2014)
http://www.incose.org/AboutSE/sevision
Выход за пределы сложности для
классического
проектирования/конструирования:
• Эволюция в системах систем
• Общественные дисциплины
(сдвиг на оргсистемы)
• Мегаломания (появилась Земля
как объект контроля-
проектирования)
7
Там, где интересы людей, там меньше уравнений,
больше трудноопределяемых понятий – там
нужно использовать нейро!
Многомасштабность*за пределами жизненного цикла
<<< Замысел Архитектура «Рабочка» Изготовление Эксплуатация>>>
Using
system
IT-1 IT-2 IT-3 IT-4 IT-5
Макро IT1 IT2 IT3 IT4 IT5
Мезо IT6 IT7 IT8 IT9 IT10
Микро IT11 IT12 IT13 IT14 IT15
Нано IT16 IT17 IT18 IT19 IT20
Специализация/профессионализация: фирма в каждой клетке, плюс экспансия на соседей
Интеграция в продукте: вся таблица (эко-система!)
CAD/CAM/codes/PLM/CAE/ERP/EAM/… будут интегрированы!
уровни структуры вещества * уровни воплощения
8
ФормальностьНейро сюда!
Экстремальное начало ЖЦ проекта:
исследования как часть проектирования
• Отрицательный результат в исследованиях – это не результат, если
есть проектирование. Исследования и изобретательство различны.
• Наука-техника Латура: исследования и изобретательство едины.
• Лаборатории условного Эйнштейна, условного Эдисона.
• R&D management – относительно новая дисциплина, но мы-то не про
менеджмент! Дисциплины R&D инженерии пока нет.
• Крупные корпорации, государство (институты развития), стартап-
движение, предпринимательские университеты.
• Пример: акселераторы и лаборатории при акселераторах (Y
Combinator, http://ailev.livejournal.com/1220274.html), фонды для
инфраструктурных проектов «низко по стеку» (NumFocus и Julia)
9
Basic Research Applied Research Concept Design Engineering
http://www.3ds.com/products-services/biovia/
global, collaborative product lifecycle
experiences to transform scientific innovation
Нейро сюда!
Model-based conceptual design
Выход за пределы:
• Явное упоминание стратегии (ISO 15288:2015 – 6.4.1 Business of mission
analysis process)
• Пересечение с системной инженерией (требования и архитектура)
• Пересечение с классическим предметным проектированием
10
Steven J.Saunders, INCOSE INSIGHT volume 17 issue 4
Нейро сюда!
Киборги-2, мультиагентные системы
• Агент – сущность, способная к действию
(https://en.wikipedia.org/wiki/Agency_(philosophy))
• Пока разделение «человек или компьютер» важно:
• Мультиагентские системы
• Экономика, социология, правоведение психология, и т.д.
• Завтра эти дисциплины начнут смешиваться
• Киборг-1 = кибернетический организм
• Киборг-2 = кибернетическая организация
• Киборгизируются и
• отдельные люди (экзокортекс и персональные агенты), и
• Команды, коллективы (корпоративные информационные
системы как агенты), и
• общество в целом (агенты социальных сетей).
• Команда, коллектив, общество = мультиагентная
система из людей и достаточно умных компьютеров
11
Чтобы проект начать, нужно его как-то описать!
(ISO 42010 – OMG Essence)
12
Нейро сюда!
Concerns = интересы (озабоченности)
• Интересы плохо формализуются!
• Интересы часто бессознательны
• С бессознательным работает
нейролингвистическое программирование
(R.Bandler, J.Grinder. Epistemology by
G.Bateson)
• Работа с кортексом двусторонняя (обучение
идёт в две стороны – ситуации в проекте
учится и кортекс, и экзокортекс!)
13
Нейролингвистическое программирование
(neuro-linguistics programming)
• Упор не на онтологию, а эпистемологию (обучение,
моделирование)
• Бинарная модель психики (хорошо согласуется с
нейромоделями)
• совершенно необязательно тамошним моделям «верить на
слово», для сегодняшнего уровня техники можно легко
проверить постулаты (они довольно эклектичны) и
воспользоваться только тем, что проверилось/подтвердилось.
• Использовать не только само НЛП как набор отдельных
моделей, но и дискуссию вокруг (например, дискуссии про
манипулятивность воздействий, повременную оплату против
фиксированной за терапию/обучение)
• Использовать не столько конкретные модели, сколько сам
подход (эпистемологию), способ задания вопросов, подход к
моделированию.
14
Терминология: не так важно
(word embeddings)
15
Словарные сообщества
тачка
Понятийное сообщество
car машинка автомобиль
Эстетика и художественность (модели стилей)
Learning Visual Clothing
Style with Heterogeneous
Dyadic Co-occurrences
(http://arxiv.org/abs/1509.07473)
16
A Neural Algorithm of
Artistic Style
(http://arxiv.org/abs/1508.06576)
Аватаризация инженерного софта
• Обучение САПР вместо/вместе программирования/настройки
• Естественный язык вместо/вместе компьютерного
• Диалог компьютера с человеком по уточнению намерений и ограничений
• Совместное порождение идей вместо/вместе оформления идей человека
• Комфортный диалог: имя и образ (аватар), распознавание и учёт эмоций
Фирма Имя умного помощника
Google Google
Apple Siri
Microsoft Cortana
Facebook M
Amazon Alexa
Autodesk ???????????
17
Коллаборативное проектирование
• Дисинтермедиация проектирования, создание команд «вне
фирм»:
• не требуется фирма для гладкого включения в команду людей (Uber для
поиска коллаборантов, включая по-разному обученных компьютерных
интеллектуальных агентов от разных поставщиков) – распознавание
интересов, опыт «сайтов свиданий»
• Низкий барьер входа (облачные ресурсы и подписки, доступны даже
индивидам, а не только фирме)
• Совместная работа с аватаризованными инженерными
компьютерными помощниками (на естественном языке, с
распознаванием жестов, они всех будут различать по голосу и
помнить по именам!)
• Киборг-2:
• Ведение протокола принятых решений (и изменения решений –
возможно с переспросом), отметки о консенсусе и расхождении мнений
• Учёт интересов, определение провалов в представленности каких-то
интересов (например, если никто не озаботился о финансах, то можно
об этом в какой-то момент сообщить команде – легко сравнивать
происходящее с чеклистами)
18
19
Спасибо за внимание
Анатолий Левенчук,
http://ailev.ru
ailev@asmp.msk.su
TechInvestLab

А.Левенчук -- смычка кортекса и экзокортекса

  • 1.
    Повышение производительности трудаи нейро: смычка кортекса и экзокортекса Москва 28 октября 2015г.
  • 2.
    Совместная работа • Совместнаяработа – это делать какую-то систему/сервис (не рассматриваем совместные развлечения, религиозные практики, совместные занятия сексом для деторождения и т.д.) • Используем представления системной инженерии – вид жизненного цикла как «принципиальная схема» работ по созданию системы. • Где в жизненном цикле ожидать помощи со стороны «нейро»? • Будущее доступно через метафору тумана: вблизи всё прозрачно, а в трёх метрах может быть невидимая стена. Так что ограничиваемся только тем, что уже видно – стараемся много не сочинять. 2
  • 3.
    Тотальная автоматизация •Традиционная автоматизация– алгоритмическая (можем использовать точные определения) • Черчение и стереометрия, физика, дифференциальные уравнения, логика •Обучение нейронных сетей – неалгоритмическая (не можем использовать точные определения). • Стиль и художественный дизайн • Работа с интересами людей 3
  • 4.
    Искусственный интеллект: «то,что компьютеры пока не умеют делать» Граница быстро движется: шахматы, вождение автомобиля, распознавание речи и т.д. Смена парадигмы: Обучение (learning) проектированию, конструированию, моделированию вместо/вместе программирования (GOFAI) Эпистемология (неявное знание и методы обучения) вместо/вместе онтологии (явного сконструированного знания) Машинное обучение бывает (с выходом на master algorithm): • Символьное (правила) • Коннекционистское (нейронные сети) – сегодня в моде («глубокое обучение»)! • Байесовское (вероятности) • Эволюционное (генетические алгоритмы) • Поиском аналогий 4
  • 5.
    Почему только сейчас?! Оборудование:enabling technology Интернет (1990 – первый браузер WWW) • Линии связи позволили передавать картинки на дом (т.е. стало можно использовать WWW) • Дисплеи смогли картинки показать • Процессоры смогли картинки обработать 250Kb веб-страница • 56Kbps – 36 секунд • 1Mbps – 2 секунды • 100Mbps – 0.2 секунды Нейронные сетки (2012 – первая победа на соревнованиях) • Процессоры сумели выдать терафлопс, нужный для научения сетки за обозримое время • Связь и память смогли дать терабайты данных для научения • 1TFLOP -- 200млн. человек по 14 вычислений на калькуляторе в день каждый, за год • GTX Titan X – 7TFLOPS (single preсision) • Intel Knights Landing Xeon Phi – 6TFLOPS (http://www.zdnet.com/article/intels-next-big-thing-knights-landing/, http://arxiv.org/abs/1506.09067) • FPGA: эксперименты до 10TFLOPS и до 6x меньше TFLOPS/Watt 5 http://www.theguardian.com/technology/2011/jul/06/broadband-speeds-uk
  • 6.
    Дилемма инноватора: мужики-тоне знают! (Clayton Christensen из Гарварда) Х а р а к т е р и с т и к и Время Характеристики лучших продуктов На рынке Характеристики худших продуктов на рынке http://web.mit.edu/6.933/www/Fall2000/teradyne/clay.html 6 • Инновации обеспечиваются на неприкладных уровнях технологического стека (проектирование – алгоритмы обучения • Обучение компьютеров сегодня даёт любительские результаты во всём, кроме задач распознавания изображений, звука, сигналов, вторжений и т.д.. • Через 5 лет эти любительские результаты окажутся профессиональными, если не сверхчеловеческими. Всё происходит быстро.
  • 7.
    Экстремальная сложность INCOSE VISION2025 (июнь 2014) http://www.incose.org/AboutSE/sevision Выход за пределы сложности для классического проектирования/конструирования: • Эволюция в системах систем • Общественные дисциплины (сдвиг на оргсистемы) • Мегаломания (появилась Земля как объект контроля- проектирования) 7 Там, где интересы людей, там меньше уравнений, больше трудноопределяемых понятий – там нужно использовать нейро!
  • 8.
    Многомасштабность*за пределами жизненногоцикла <<< Замысел Архитектура «Рабочка» Изготовление Эксплуатация>>> Using system IT-1 IT-2 IT-3 IT-4 IT-5 Макро IT1 IT2 IT3 IT4 IT5 Мезо IT6 IT7 IT8 IT9 IT10 Микро IT11 IT12 IT13 IT14 IT15 Нано IT16 IT17 IT18 IT19 IT20 Специализация/профессионализация: фирма в каждой клетке, плюс экспансия на соседей Интеграция в продукте: вся таблица (эко-система!) CAD/CAM/codes/PLM/CAE/ERP/EAM/… будут интегрированы! уровни структуры вещества * уровни воплощения 8 ФормальностьНейро сюда!
  • 9.
    Экстремальное начало ЖЦпроекта: исследования как часть проектирования • Отрицательный результат в исследованиях – это не результат, если есть проектирование. Исследования и изобретательство различны. • Наука-техника Латура: исследования и изобретательство едины. • Лаборатории условного Эйнштейна, условного Эдисона. • R&D management – относительно новая дисциплина, но мы-то не про менеджмент! Дисциплины R&D инженерии пока нет. • Крупные корпорации, государство (институты развития), стартап- движение, предпринимательские университеты. • Пример: акселераторы и лаборатории при акселераторах (Y Combinator, http://ailev.livejournal.com/1220274.html), фонды для инфраструктурных проектов «низко по стеку» (NumFocus и Julia) 9 Basic Research Applied Research Concept Design Engineering http://www.3ds.com/products-services/biovia/ global, collaborative product lifecycle experiences to transform scientific innovation Нейро сюда!
  • 10.
    Model-based conceptual design Выходза пределы: • Явное упоминание стратегии (ISO 15288:2015 – 6.4.1 Business of mission analysis process) • Пересечение с системной инженерией (требования и архитектура) • Пересечение с классическим предметным проектированием 10 Steven J.Saunders, INCOSE INSIGHT volume 17 issue 4 Нейро сюда!
  • 11.
    Киборги-2, мультиагентные системы •Агент – сущность, способная к действию (https://en.wikipedia.org/wiki/Agency_(philosophy)) • Пока разделение «человек или компьютер» важно: • Мультиагентские системы • Экономика, социология, правоведение психология, и т.д. • Завтра эти дисциплины начнут смешиваться • Киборг-1 = кибернетический организм • Киборг-2 = кибернетическая организация • Киборгизируются и • отдельные люди (экзокортекс и персональные агенты), и • Команды, коллективы (корпоративные информационные системы как агенты), и • общество в целом (агенты социальных сетей). • Команда, коллектив, общество = мультиагентная система из людей и достаточно умных компьютеров 11
  • 12.
    Чтобы проект начать,нужно его как-то описать! (ISO 42010 – OMG Essence) 12 Нейро сюда!
  • 13.
    Concerns = интересы(озабоченности) • Интересы плохо формализуются! • Интересы часто бессознательны • С бессознательным работает нейролингвистическое программирование (R.Bandler, J.Grinder. Epistemology by G.Bateson) • Работа с кортексом двусторонняя (обучение идёт в две стороны – ситуации в проекте учится и кортекс, и экзокортекс!) 13
  • 14.
    Нейролингвистическое программирование (neuro-linguistics programming) •Упор не на онтологию, а эпистемологию (обучение, моделирование) • Бинарная модель психики (хорошо согласуется с нейромоделями) • совершенно необязательно тамошним моделям «верить на слово», для сегодняшнего уровня техники можно легко проверить постулаты (они довольно эклектичны) и воспользоваться только тем, что проверилось/подтвердилось. • Использовать не только само НЛП как набор отдельных моделей, но и дискуссию вокруг (например, дискуссии про манипулятивность воздействий, повременную оплату против фиксированной за терапию/обучение) • Использовать не столько конкретные модели, сколько сам подход (эпистемологию), способ задания вопросов, подход к моделированию. 14
  • 15.
    Терминология: не такважно (word embeddings) 15 Словарные сообщества тачка Понятийное сообщество car машинка автомобиль
  • 16.
    Эстетика и художественность(модели стилей) Learning Visual Clothing Style with Heterogeneous Dyadic Co-occurrences (http://arxiv.org/abs/1509.07473) 16 A Neural Algorithm of Artistic Style (http://arxiv.org/abs/1508.06576)
  • 17.
    Аватаризация инженерного софта •Обучение САПР вместо/вместе программирования/настройки • Естественный язык вместо/вместе компьютерного • Диалог компьютера с человеком по уточнению намерений и ограничений • Совместное порождение идей вместо/вместе оформления идей человека • Комфортный диалог: имя и образ (аватар), распознавание и учёт эмоций Фирма Имя умного помощника Google Google Apple Siri Microsoft Cortana Facebook M Amazon Alexa Autodesk ??????????? 17
  • 18.
    Коллаборативное проектирование • Дисинтермедиацияпроектирования, создание команд «вне фирм»: • не требуется фирма для гладкого включения в команду людей (Uber для поиска коллаборантов, включая по-разному обученных компьютерных интеллектуальных агентов от разных поставщиков) – распознавание интересов, опыт «сайтов свиданий» • Низкий барьер входа (облачные ресурсы и подписки, доступны даже индивидам, а не только фирме) • Совместная работа с аватаризованными инженерными компьютерными помощниками (на естественном языке, с распознаванием жестов, они всех будут различать по голосу и помнить по именам!) • Киборг-2: • Ведение протокола принятых решений (и изменения решений – возможно с переспросом), отметки о консенсусе и расхождении мнений • Учёт интересов, определение провалов в представленности каких-то интересов (например, если никто не озаботился о финансах, то можно об этом в какой-то момент сообщить команде – легко сравнивать происходящее с чеклистами) 18
  • 19.
    19 Спасибо за внимание АнатолийЛевенчук, http://ailev.ru ailev@asmp.msk.su TechInvestLab