Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.
О перспективах развития
искусственного интеллекта
или
Почему Терминаторы нам пока не страшны?
Обзор идей
Крылов Дмитрий, d...
2
Развитие ИИ: плюсы и минусы
● Развитие технологий:
– развитие ИИ
– преимущества ИИ
– опасности ИИ
3
Технологическая сингулярность
4
Технологическая сингулярность
5
Технологическая сингулярность
● Технологическая сингулярность — гипотетический момент,
после которого:
– технический про...
6
Примеры роста
● Игры:
– Шашки: 1994 год победа над чемпионом.
– Нарды: с 1992 года непобедима в принципе.
– Шахматы: с 1...
7
Примеры роста
● Автопилот самолётов.
● Автомобили Роботы Boston Dynamics.
● Автоматические межпланетные станции.
● Медиц...
8
Примеры роста
● Извлечение рефератов
● Автоматическая обработка резюме и вакансий
– примеры на
www.emply.ru
● Сочинение ...
9
Безграничность развития ИИ
● «Роботы не устают»
● «Роботы не ошибаются»
● Можно беспредельно наращивать вычислительную
б...
10
Плюсы развитого ИИ
● Расцвет роботостроения.
– роботы как идеальные слуги, помощники
и даже друзья
●
Экономический взры...
11
Минусы развитого ИИ
● Безработица
– Человек в современном понимании просто не
нужен. Толпы бессмертных бесполезных люде...
12
Минусы развитого ИИ
● Войны с роботами
– The AI does not hate you, nor does it love you, but you
are made out of atoms ...
13
Промежуточные выводы
● Похоже, технологическая сингулярность уже скоро.
● Развитие ИИ может принести как огромную польз...
14
Критика: общий обзор идей
● Интерес к ИИ волнами:
– 50-ые годы: первые компьютеры и шахматные программы.
– 70-ые годы: ...
15
Критика: общий обзор идей
● Несколько конкурирующих ИИ
– аналог «ядреного сдерживания».
– ИИ, принадлежащий «золотому м...
16
Критика: сингулярность
● Развитие как логистическая кривая.
● Замедление началось в 70-ых годах.
17
Критика: сингулярность
● Пример: развитие космонавтики
18
Критика: ИИ
● Проблемы с законом Мура:
– второй закон Мура: стоимость фабрик по производству микросхем
экспоненциально ...
19
Критика: моделирование мозга
● Проект OpenWorm (нематода Caenorhabditis elegans), 302 нейрона:
– удалось смоделировать ...
20
Критика: ИИ
● Неспособность доказывать теоремы
– простейшие SMT-солверы в логике предикатов
первого порядка,
– полуавто...
21
Критика: ИИ
● Проблемы с пониманием текста
– проблемы с переводом,
– проблемы с извлечением данных,
– проблемы с понима...
22
Критика ИИ: теория разума?
● Hard Problem: до сих пор не понятно, что такое
сознание, разумное поведение, интеллект.
– ...
23
Черные лебеди и эффект индейки
● Будущее непредсказуемо
– невозможно предсказать изобретения
(иначе это и было бы изобр...
24
Перспективы человечества
● Развитие человеко-машинных интерфейсов
– в том числе, нейро-компьютерных
● Трансгуманизм
– Г...
25
Заключение
● К сожалению, перспективы ИИ не настолько радужны,
как обещает популярная пресса.
– однако, можно ожидать д...
Upcoming SlideShare
Loading in …5
×

Почему Терминаторы нам пока не страшны

600 views

Published on

Презентация Дмитрия Крылова на GDG Vladivostok Meetup 04.04.2015

Published in: Software
  • Be the first to comment

  • Be the first to like this

Почему Терминаторы нам пока не страшны

  1. 1. О перспективах развития искусственного интеллекта или Почему Терминаторы нам пока не страшны? Обзор идей Крылов Дмитрий, dima@emply.ru
  2. 2. 2 Развитие ИИ: плюсы и минусы ● Развитие технологий: – развитие ИИ – преимущества ИИ – опасности ИИ
  3. 3. 3 Технологическая сингулярность
  4. 4. 4 Технологическая сингулярность
  5. 5. 5 Технологическая сингулярность ● Технологическая сингулярность — гипотетический момент, после которого: – технический прогресс станет настолько быстрым и сложным, что окажется недоступным человеческому пониманию. ● после создания ИИ, интеграции человека с компьютерами, ● и/или после значительного скачкообразного увеличения возможностей человеческого мозга за счёт биотехнологий. – случится внезапно (из-за природы экспоненциальной кривой). ● Прогноз: – Вернор Виндж: 2030 год – Рэймонд Курцвейл: 2045 год – Стюарт Армстронг: 2040 год (медианная оценка экспертов)
  6. 6. 6 Примеры роста ● Игры: – Шашки: 1994 год победа над чемпионом. – Нарды: с 1992 года непобедима в принципе. – Шахматы: с 1997 года победа DeepBlue. – Го: достигла 6-го дана (уровень хорошего игрока, всего 9 данов)
  7. 7. 7 Примеры роста ● Автопилот самолётов. ● Автомобили Роботы Boston Dynamics. ● Автоматические межпланетные станции. ● Медицинская диагностика. ● Автоматический трейдинг.
  8. 8. 8 Примеры роста ● Извлечение рефератов ● Автоматическая обработка резюме и вакансий – примеры на www.emply.ru ● Сочинение стихов ● Сочинение музыки
  9. 9. 9 Безграничность развития ИИ ● «Роботы не устают» ● «Роботы не ошибаются» ● Можно беспредельно наращивать вычислительную базу.
  10. 10. 10 Плюсы развитого ИИ ● Расцвет роботостроения. – роботы как идеальные слуги, помощники и даже друзья ● Экономический взрыв. – роботы-работники просто копируются, нет нужды в 20 годах учёбы. – упрощение экономических связей: нет нужды в чиновниках. ● Усовершенствование человека и человечества. – автоматические открытия в области строения человека, автоматическая медицина. – киберимплантанты и невероятные способности в восприятии, запоминании, взаимодействии. ● Бессмертие – mind uploading: загрузка сознания в компьютер. – успехи медицины.
  11. 11. 11 Минусы развитого ИИ ● Безработица – Человек в современном понимании просто не нужен. Толпы бессмертных бесполезных людей? ● Разрушение окружающей среды – Роботам не нужна современная окружающая среда
  12. 12. 12 Минусы развитого ИИ ● Войны с роботами – The AI does not hate you, nor does it love you, but you are made out of atoms which it can use for something else. // Eliezer Yudkowsky, Artificial Intelligence as a Positive and Negative Factor in Global Risk
  13. 13. 13 Промежуточные выводы ● Похоже, технологическая сингулярность уже скоро. ● Развитие ИИ может принести как огромную пользу, так и несравнимый ни с какими предыдущими катастрофами вред. ● Человек, предполагается, не сможет угнаться за прогрессом.
  14. 14. 14 Критика: общий обзор идей ● Интерес к ИИ волнами: – 50-ые годы: первые компьютеры и шахматные программы. – 70-ые годы: экспертные системы. – 90-ые годы: нейросети, ГА, распознавание изображений. – 10-ые годы: развитой Интернет. ● Откуда страх? Проекция человеческих качеств: непонятное, значит, враждебное. – Щекотка нервов: Глобальное потепление, ГМО, а теперь ещё и ИИ. ● Предсказание через линейную экстраполяцию. – ИИ как сверх-развитый человек.
  15. 15. 15 Критика: общий обзор идей ● Несколько конкурирующих ИИ – аналог «ядреного сдерживания». – ИИ, принадлежащий «золотому миллиарду». – распределённый, неуправляемый ИИ. ● Философский ИИ. – зачем ему развиваться? – в чём смысл его существования? – зачем уничтожать людей?
  16. 16. 16 Критика: сингулярность ● Развитие как логистическая кривая. ● Замедление началось в 70-ых годах.
  17. 17. 17 Критика: сингулярность ● Пример: развитие космонавтики
  18. 18. 18 Критика: ИИ ● Проблемы с законом Мура: – второй закон Мура: стоимость фабрик по производству микросхем экспоненциально возрастает с усложнением производимых микросхем (производство памяти в 1 кбит: $4 млн, производство Pentium: $2 млрд). ● Проблемы с распределённым ИИ: – низкая скорость Интернета, ● Ассоциативная память: – проект OpenCyc ● Количественное наращивание мощности не приводит к качественному скачку: – Microsoft Word 2013 для Intel Core 7 принципиально не отличается от Microsoft Word 1.0 для процессоров 8086, и так и не превратился в «электронного секретаря».
  19. 19. 19 Критика: моделирование мозга ● Проект OpenWorm (нематода Caenorhabditis elegans), 302 нейрона: – удалось смоделировать простейшие рефлекторные реакции с одним нейроном (!), не удалось смоделировать электронные, механические и т.д. реакции. – человеческий мозг: ≈86 000 000 000 нейронов ● Скорость: – Нейроны: 102 Гц. – Микротрубочки нейронов: 107 Гц (у современных компьютеров 1010 Гц). ● Сверхпараллельность (коннектоо́м): – Нематода C.elegans: 302 нейрона, 7000 связей. – Человеческий мозг: ≈86*109 нейронов, 1014 связей. – Нейрокомпьютеры: ≈10240 нейронов, 40960 связей.
  20. 20. 20 Критика: ИИ ● Неспособность доказывать теоремы – простейшие SMT-солверы в логике предикатов первого порядка, – полуавтоматическое доказательство теорем. ● Проблемы с самопрограммированием – все «программы-обыгрыватели» написаны человеком, – современные самообучающиеся программы демонстрируют лишь «рефлекторное поведение».
  21. 21. 21 Критика: ИИ ● Проблемы с пониманием текста – проблемы с переводом, – проблемы с извлечением данных, – проблемы с пониманием смысла. ● Проблемы с человеко-машинным взаимодействием – неспособность человека понять сложный логический вывод.
  22. 22. 22 Критика ИИ: теория разума? ● Hard Problem: до сих пор не понятно, что такое сознание, разумное поведение, интеллект. – Известен только один вид существ с интеллектом. – Моделирование (например, нейросетей) напоминает карго-культ.
  23. 23. 23 Черные лебеди и эффект индейки ● Будущее непредсказуемо – невозможно предсказать изобретения (иначе это и было бы изобретением) ● Поэтому все прогнозы футурологов крайне редко сбываются – Рэй Курцвейл: ≈25% «попаданий». ● По видимому, ИИ и Технологическая Сингулярность примут крайне неожиданные формы и приведут к крайне необычным последствиям. – Но a posteriori это будет казаться самым естественным ходом развития, как это случилось с транспортом, связью, компьютерами и Интернет.
  24. 24. 24 Перспективы человечества ● Развитие человеко-машинных интерфейсов – в том числе, нейро-компьютерных ● Трансгуманизм – Генетические улучшения – Биотехнологии ● Когнитивистика: – теория познания, – когнитивная психология, – Нейрофизиология, – когнитивная лингвистика, – теория искусственного интеллекта.
  25. 25. 25 Заключение ● К сожалению, перспективы ИИ не настолько радужны, как обещает популярная пресса. – однако, можно ожидать дальнейший прогресс технологий ИИ, к которому следует быть готовым. – по видимому, существенный прогресс будет после разработки понимания текста и действительности, а также после разработки теории разума. ● Решение Hard Problem будет «бомбой» по сравнению со всеми человеческими открытиями, и полностью поменяет наши взгляды на себя и Вселенную.

×