ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ: тренды, достижения и вызовы

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ:
тренды, достижения и вызовы
Спикер: к.т.н., доц. Алексей Незнанов
старший научный сотрудник МНУЛ ИССА ФКН НИУ ВШЭ
2019-02-16

О докладчике
⚫ Алексей Андреевич Незнанов
⚫ К.т.н., доцент
⚫ Член IEEE
⚫ Доцент департамента анализа данных и
искусственного интеллекта ФКН НИУ ВШЭ
(http://cs.hse.ru/ai)
⚫ Старший научный сотрудник международной
лаборатории интеллектуальных систем и
структурного анализа ФКН НИУ ВШЭ
(http://cs.hse.ru/ai/issa)
⚫ Консультант «маленького гида по большим
данным» на Постнауке
(http://postnauka.ru/author/a_neznanov)
⚫ Автор учебника, учебных пособий, 9 авторских
курсов и более 60 научных публикаций
© 2019, А.А. Незнанов 2

Жизнеутверждающий эпиграф
Компьютер никогда не заменит человека!
© Людоедская классика

Что же такое ИИ?
✓ Когда появился термин?
✓ Области исследований
✓ ИИ как объект исследования
✓ ИИ слабый и сильный
✓ Основные классы и формы
✓ Знания – явные и неявные, нейросети и онтологии

Искусственный интеллект – начало
⚫ Дартмутский семинар, 1956 год
⚫ «Мы предлагаем исследование искусственного интеллекта сроком в
2 месяца с участием 10 человек летом 1956 года в Дартмутском
колледже (США).
Исследование основано на предположении, что всякий аспект
обучения или любое другое свойство интеллекта может в принципе
быть столь точно описано, что машина сможет его симулировать.
Мы попытаемся понять, как обучить машины использовать
естественные языки, формировать абстракции и понятия, решать
задачи, сейчас подвластные только людям, и улучшать самих себя.
Мы считаем, что существенное продвижение в одной или более из
этих проблем вполне возможно, если специально подобранная
группа учёных будет работать над этим в течение лета».
⚫ Дж. Маккарти, М. Минский, К. Шеннон, Г. Саймон,
Н. Рочестер, Р. Соломоноф, …

ИИ – одного лета не хватило…
⚫ International Joint Conference on Artificial Intelligence (с 1969 г.)
⚫ …
⚫ IJCAI-1975 (Тбилиси) – около 120 докладов
⚫ …
⚫ IJCAI-2013 (Beijing) – 413 докладов
⚫ IJCAI-2015 (Buenos Aires) – 571 доклад
⚫ IJCAI-2017 (Melbourne) – 660 докладов
⚫ IJCAI-2018 (Stockholm) – 709 докладов
⚫ при почти одинаковой доли приема в чуть более 20%
⚫ Другие конференции
⚫ Более 200 международных конференций высокого уровня в год!
⚫ Ultimate Guide to Artificial Intelligence and Machine Learning Conferences –
Updated November 2018 (http://developer.att.com/blog/ai-conferences)

ИИ – междисциплинарность
⚫ Представления об ИИ непрерывно расширялись
⚫ Wolfgang Bibel, On a Scientific Discipline (Once) Named AI
(IJCAI/ECAI-2018 Special Track on the Evolution of the Contours
of AI)
⚫ «…the scientific discipline envisioned by AI’s pioneers today has
become spread over about half a dozen of other disciplines who
compete with AI for harvesting the honors (and profits)…» :
⚫ Neuroscience
⚫ Psychology and cognitive science (CogSci)
⚫ Computer Science (CS)
⚫ Informatics
⚫ …

В общем, известная история …

ИИ – Классификация
⚫ Artificial Intelligence (AI)
⚫ Слабый – решение задач, традиционно требующих креативной
деятельности человека
⚫ Сильный – целеполагание, принятие решений вне зависимости от
области
⚫ Тест Тьюринга
⚫ Конкурс на премию Лёбнера – Loebner prize
(http://www.aisb.org.uk/events/loebner-prize)
⚫ Управление знаниями
⚫ Эксплицитными (явными) – онтологии + логика
⚫ Имплицитными (наявными) – нейронные сети
⚫ Анализ данных
⚫ Чисел, текстов, изображений, сетей (графов), ...

ИИ – основные области
⚫ Моделирование
⚫ Восприятия
⚫ Обучения
⚫ Представления знаний
⚫ Рассуждения
⚫ Механизмов выбора и действий
⚫ Самые перспективные области (всё время меняются ☺)
⚫ Глубокие нейронные сети в машинном обучении
⚫ Генеративные модели
⚫ Обучение с подкреплением
⚫ Неклассические логики и нетрадиционное представление знаний
⚫ Этика ИИ
⚫ ...

Машинное обучение
⚫ Задачи
⚫ Восстановление зависимостей
⚫ Сжатие данных и выявление знаний
⚫ Как имплицитных, так и эксплицитных (в зависимости от метода)
⚫ Классификация (распознавание по образцам)
⚫ Кластеризация (различение)
⚫ Ранжирование (упорядочение и размещение в пространстве)
⚫ ...
⚫ Методы
⚫ Обучение без учителя
⚫ Обучение с учителем (на примерах и с подсказками)
⚫ Обучение с подкреплением (на основе вознаграждений)

Значимость логики
⚫ 2011 – по сумме двух игр IBM Watson заработал 77 тысяч
долларов, более чем втрое обогнав сильнейших участников
Jeopardy – Кена Дженнингса (Ken Jennings) и Брэда Руттера
(Brad Rutter)
⚫ Jeopardy – американский аналог «Своей игры»
⚫ Одна из логических ошибок Watson’a:
⚫ Простой вопрос «назовите аэропорт в Америке,
названный в честь героя 2-й мировой войны»
Watson не смог назвать О’Хара (Чикаго),
хотя у него было знание имени этого аэропорта
и знание того, что О’Хара получил высший орден
США за Боевые Заслуги, но не было заложено
знание о том, что:
«получатель Ордена за Боевые Заслуги» есть «герой»

Онтологическое моделирование (1)
⚫ Термин «онтология» используется в нескольких различных значениях
1. Наука, изучающую характеристики бытия и сущности
⚫ Так определена ещё Аристотелем – философская дисциплина
2. Средство формального моделирования знаний о некоторой системе или
предметной области (в самом широком смысле)
⚫ Чаще всего используемое в наше время техническими специалистами
⚫ 1993 г. – Т. Грубер определил формальную онтологию как
эксплицитную спецификацию концептуализации
⚫ Это определение на данный момент является лингвистически красивым и
наиболее цитируемым
⚫ 1997 г. – В. Борст определила онтологию как формальную
спецификацию общей концептуализации, с дополнительным
требованием, чтобы данная концептуализация выражала общее
мнение некоторой группы людей
⚫ 1998 г. – Р. Студер уточнил прагматику термина, предложив понимать
онтологию как формальную, точную спецификацию общей
концептуализации, которая может использоваться как человеком, так
и компьютером

Онтологическое моделирование (2)
⚫ Кратко:
⚫ Для рассказа компьютеру и самому себе (человеку)
о предметной области
⚫ Развёрнуто:
⚫ Для уточнения понимания
⚫ Для формализации знаний – онтология по определению
эксплицитна!
⚫ Для верификации знания
⚫ Для обнаружения лакун в знаниях
⚫ Для обмена знаниями между людьми и информационными
системами
⚫ Для обеспечения фактами процедур логического вывода
⚫ Для выявления знаний более высокого уровня
из массивов низкоуровневого знания
⚫  Онтологии – основа баз знаний

А распознавание?
⚫ Задачи:
⚫ Выделение сущностей [Exctraction]
⚫ Начальная идентификация [Initial identification]
⚫ Отслеживание [Tracking]
⚫ Повторное распознавание [Reindentification]
⚫ Правда и ложь систем распознавания лиц
(http://habr.com/company/recognitor/blog/418127/)
⚫ Быстро развивается, но наталкивается на проблемы:
⚫ Принципиальные (определение идентичности и изменчивости)
⚫ Этические
⚫ Организационные
⚫ Включая обеспечение безопасности
⚫ Технические

Хакеры и AI
⚫ Можно ли «хакнуть» искусственный интеллект?
⚫ Интересный вопрос! Текущее состояние: Smith D.G. How to
Hack an Intelligent Machin. 2018
(http://www.scientificamerican.com/article/how-to-hack-an-intelligent-machine/)
⚫ А может ли один AI
хакнуть другой?
⚫ Кто бы сомневался!

Другой пример обмана нейросети

Генеративные модели
⚫ GAN (Generative Adversarial Network)
⚫ Иллюстрация: GAN Lab (http://poloclub.github.io/ganlab/)
⚫ Постправда и мир фэйков
⚫ Прорыв за прорывом с 2016 года
⚫ Deep-fake
⚫ Quach K. The eyes don't have it! AI's 'deep-fake' vids surge ahead
in realism. 2018 (http://www.theregister.co.uk/2018/09/11/ai_fake_videos/)
⚫ DeepFakes Club (http://www.deepfakes.club)
⚫ Создание anime-персонажей
⚫ MakeGirlMoe (http://make.girls.moe/#/)

GAN Lab interface

Генеративные модели:
Влияние на мир постправды
⚫ ‘Deepfake’ videos get weaponised
(http://www.nesta.org.uk/feature/ten-predictions-2019/deepfake-videos-get-
weaponised/)
⚫ Deep fakes are fake news on steroids, and we’re unsure how to
fight them (http://www.richardvanhooijdonk.com/en/blog/deep-fakes-are-
fake-news-on-steroids-and-were-unsure-how-to-fight-them/)
⚫ Katja Bego (Data Scientist in the Technology Futures and Explorations teams),
предсказание:
2019 will be the year
that a malicious ‘deepfake’ video
sparks a geopolitical incident

Пример работы Deepfake (1)
⚫ Horrifying deepfake video blends Jennifer Lawrence and Steve
Buscemi in latest example of the 'nightmare' technology
2019-01-14 (http://www.dailymail.co.uk/sciencetech/article-6655231/Horrifying-
deepfake-video-blends-Jennifer-Lawrence-Steve-Buscemi.html)

Пример работы Deepfake (2)

На всякий случай о Fake News
⚫ В 2018 году освещение «фейковых» новостей выросло
на 33% по сравнению с 2017 годом
⚫ Анализ проводился только по топ-15 новостей!
⚫ 15 781 сообщений -> 20 923 сообщений
⚫ Медиалогия – FAKE NEWS за 2017 и 2018 годы
(http://www.mlg.ru/ratings/research/6438/?fbclid=IwAR2DD95PyvLK8C8dSt1b_4Fc_gzQAsulc
xvMS9yEYTSjjSxnaXFzGUp4Ok8)

Как выжить в мире постправды?
⚫ Новый уровень информационной безопасности
⚫ Электронная подпись и удостоверяющие центры для
мультимедийных данных
⚫ Специальные режимы работы фото- и видеокамер для
согласования сремени и координат съёмки
⚫ Deepfake-busting apps can spot even a single pixel out of place
(http://www.technologyreview.com/s/612357/deepfake-busting-apps-can-spot-
even-a-single-pixel-out-of-place/)
⚫ Надёжные распределённые реестры (развитие блокчейна)
⚫ Hany Farid (computer science professor at Dartmouth College), мнение:
I don’t think we’re ready yet

Проект MakeGirlsMoe
⚫ Создание персонажей аниме с помощью генеративных
моделей: Create Anime Characters with A.I. !
(http://makegirlsmoe.github.io/assets/pdf/technical_report.pdf)

MakeGirlsMoe – интерфейс

MakeGirlsMoe – примеры
⚫ Девушки:

Некоторые достижения ИИ
(ещё совсем слабого ☺)
✓ Индивидуальные решения
✓ Коллективное поведение
✓ Креативность
✓ Некоторые нетривиальные приложения

ИИ – Индивидуальное мастерство (1)
⚫ 1997 – Chess
⚫ IBM Deep Blue
⚫ Матч из 6 партий
с Гарри Каспаровым
(чемпион мира):

⚫ 2015 – Go
⚫ DeepMind Alpha Go
⚫ Знаменитая игра
с Ли Седоль (9 дан) –
2016, с 9 по 15 марта:

⚫ 2017 – Poker
⚫ Carnegie-Mellon Libratus
⚫ Турнир Texas Hold’em –
выигрыш 1,7 млн.
долларов в течение
20 дней турнира:

⚫ 2019 – Starcraft
⚫ Google's StarCraft II victory shows AI improves via diversity,
invention, not reflexes (http://www.zdnet.com/article/googles-starcraft-ii-
victory-shows-ai-improves-via-diversity-invention-not-reflexes/)
⚫ AlphaStar ↔ Team Liquid

ИИ – к коллективному поведению
⚫ 2017 – Dota 2 индивидуальная
⚫ Бот OpenAI победил трёх топовых профессионалов в Dota 2
(http://habr.com/ru/post/405939/)
⚫ 2018 – Dota 2 командная
⚫ OpenAI Five разгромил команду людей в показательном матче
Dota 2 (http://habr.com/post/419399/)
⚫ Победит ли OpenAI Five профессиональную команду на The
International? (http://habr.com/post/420505/)
⚫ Пока нет, но всё равно было весело...

ИИ – Переспорить человека
⚫ IBM Debater (http://www.research.ibm.com/artificial-
intelligence/project-debater/index.html)
⚫ Подпроект IBM Watson с 2017 года
⚫ Выступает на уровне чемпионов мира по дебатам
⚫ !!Ужас!! Может отстаивать любую позицию
⚫ См. далее про этику ИИ

ИИ – Удаление объектов
с изображений
⚫ 2017 – Проект MIT Deep Angel (http://deepangel.media.mit.edu)
⚫ Erase with AI
⚫ + Detect fakes

ИИ – Креативность и артистизм:
Что происходит?
⚫ AI Art Just Got Awesome
(http://www.artnome.com/news/2018/3/29/ai-art-just-got-awesome)
⚫ OBVIOUS (http://obvious-art.com)
⚫ “Computers are useless. They can only give answers.”
Well Picasso (1881 – 1973), it’s a disagreement

Инструменты художника (1)

⚫ Ryan Bliss – one of a handful of people
on the planet who makes a living by
creating 3D computer wallpaper
⚫ http://ryanbliss.com
⚫ http://digitalblasphemy.com

Deep Dream (1)
⚫ Синтез и обработка изображений
⚫ Google Deep Dream Generator (http://deepdreamgenerator.com)

Deep Dream (2)

Deep Dream (3)

Deep Dream (4)

генерация ландшафтов
⚫ Modified implementation of DCGAN by Robbie Barrat
(http://github.com/robbiebarrat/art-DCGAN)
⚫ Ориентирована на генерацию
художественных ландшафтов:
⚫ Заранее обученные модели
⚫ Варианты для абстрактной живописи,
портретов и др.

генерация лиц
⚫ GAN 2.0: NVIDIA’s Hyperrealistic Face Generator
(http://medium.com/syncedreview/gan-2-0-nvidias-hyperrealistic-face-generator-
e3439d33ebaf)

Видео –> Аниме (1)
⚫ Cartoon GAN: Generative Adversarial Networks for Photo
Cartoonization by Yang Chen, Yu-Kun Lai, Yong-Jin Liu
(http://openaccess.thecvf.com/content_cvpr_2018/CameraReady/2205.pdf)
⚫ Примеры на Питоне: CartoonGAN-Test-Pytorch-Torch
(http://github.com/Yijunmaverick/CartoonGAN-Test-Pytorch-Torch)

Сочинение и аранжировка музыки (1)
⚫ How AI-generated Music is Changing the Way Hits Are
Made (http://www.theverge.com/2018/8/31/17777008/artificial-
intelligence-taryn-southern-amper-music)
⚫ A.I. Songwriting Has Arrived. Don't Panic
(http://fortune.com/2018/10/25/artificial-intelligence-music/)
⚫ 11 Startups Using AI to Compose Music
(http://www.nanalyze.com/2018/05/11-startups-ai-compose-
music/)

Сочинение и аранжировка музыки (2)
⚫ Amper Music (http://www.ampermusic.com)
⚫ Amper Score™ enables enterprise teams to compose custom music
in seconds and reclaim the time spent searching through stock
music. Whether you need music for a video, podcast, or another
project, Score’s Creative AI quickly makes music that fits the exact
style, length, and structure you want.
⚫ AI.MUSIC (http://www.aimusic.co.uk)
⚫ SYMPAPHONIC – understands the essence of the music being
played and takes that information to find the perfect track for
your audio advert
⚫ OSSIA – allows you to be in control of the music you listen to

AIVA
⚫ AIVA (Artificial Intelligence Virtual Artist) (http://www.aiva.ai)
⚫ Пример: On the Edge (Ai-Generated Rock Music by Aiva)
⚫ This track is an original composition that was created by AIVA in
the style of Rock Music

Яндекс и «неизвестный Скрябин»

Синтез голоса
⚫ Vocaloid – Virtual Singers in Your Computer
(http://www.vocaloid.com)

Виртуальные исполнители
⚫ Hatsune Miku – the Japanese Pop Star Hologram
⚫ Голос Vocaloid + Танец Miku Miku Dance (MMD)
⚫ Концерты:
⚫ 2009-08-22 – Animelo Summer Live at Saitama Super Arena
⚫ …
⚫ 2018-02-09 – SNOW MIKU LIVE! at Zepp Sapporo

Виртуальные исполнители
⚫ Hatsune Miku – Развитие:
⚫ 冨田勲 (Исао Томита) написал
для Мику Хацуне Symphony Ihatov
⚫ 2012-11-23, Tokyo Opera City concert hall
(http://columbia.jp/ihatov/concertreport.html)

ИИ – Журналистика (1)
⚫ Robot journalism (Automated journalism) + Data-driven journalism
⚫ ИИ уже активно вымывает корреспондентов из срочных /
спортивных / биржевых новостей
⚫ Люди используются для оживления – «human-assisted reporting»
⚫ 2017 – The Washington Post’s robot reporter has published
850 articles in the past year

⚫ Уже серьёзная история развития!
⚫ Из инструментов анализа данных и сторителлинга
⚫ 2013 – Robot reporters: A look at the computers writing the news
(http://www.journalism.co.uk/news/robot-reporters-how-computers-are-
writing-la-times-articles/s2/a552359/)
⚫ «Мгновенная» подготовка
фактографии
⚫ Совмещение мультимедиа-данных:
карт, снимков, анимации
⚫ Заготовки репортажей
⚫ Стилизация текстов
⚫ ...

⚫ Проблемы
⚫ Цена ошибки!
⚫ Дегуманизация
⚫ Обсуждение:
⚫ Pros and cons of robot journalism (http://www.mediego.com/en/blog/pros-
and-cons-of-robot-journalism/)
⚫ Robot Journalism: how bots will change the editorial landscape
(http://internetinnovators.com/en/post-en/robot-journalism/)
⚫ Robots can save local journalism. But will they make it more biased?
(http://datadrivenjournalism.net/news_and_analysis/robots_can_save_local_journalism._but_
will_they_make_it_more_biased)

Не ИИ – Журналистика
⚫ Технологии дополненной реальности в журналистике:

Беспилотные автомобили и не только
⚫ Одновременно тренд и драйвер развития
⚫ Self-Driving Cars Technology & Solutions from NVIDIA Automotive
(http://www.nvidia.com/en-us/self-driving-cars/)
⚫ NVIDIA DRIVE™, NVIDIA® DGX™ + AGX Pegasus™ + AGX Xavier
⚫ The Self-Driving Car Timeline – Predictions from the Top 11
Global Automakers (http://www.techemergence.com/self-driving-car-
timeline-themselves-top-11-automakers/)
⚫ Tesla autopilot (http://www.tesla.com/autopilot)
⚫ Enhanced Autopilot: Full Self-Driving Capability, On-ramp to Off-
ramp, Autosteer+, Smart Summon, From Home, To your
Destination, …

Беспилотные автомобили – уровни

Tesla's new Autopilot hardware upgrade

Юриспруденция и правоприменение
⚫ Не считаются ИИ:
⚫ Накопление и управление правовой информацией
[Legal Data Platforms]
⚫ Подготовка и отслеживание выполнения контрактов
[Contracting Platforms]
⚫ Будем считать ИИ:
⚫ Умные контракты [Smart Contracts]
⚫ Автоматическое рецензирование документов
[Document Review]
⚫ Экспертные и рекомендательные системы
[Recommender and Expert Systems]
⚫ Робо-юристы [Legal Bots, Lawbots]

LegalAI – анализ документов (1)
⚫ Инструмент «ayfie Inspector»
(http://www.ayfie.com/products/extensions/contract-analysis)
⚫ Специализированная система анализа
юридических документов
⚫ Гибко настраивается
⚫ Использует базу знаний
⚫ Выявление стандартных параметров контрактов (договоров)
⚫ Оценка рисков, обязательств и возможностей
⚫ Оценка обязательств и ответственности
⚫ Интегрируется с платформой Relativity

⚫ 2017 – Case Crunch: AI vs Lawyers
⚫ Case Cruncher Alpha
(http://www.case-crunch.com/#challenge)
⚫ The robot lawyers are here – and they’re winning!
(http://www.bbc.com/news/technology-41829534)

LegalAI – другие проекты
⚫ Другие проекты:
⚫ LawGeex – Contract Review Automation (http://www.lawgeex.com)
⚫ “My Other Lawyer is a Robot!”
⚫ Legal AI Forum (http://legalaiforum.iqpc.com)

LegalAI – Почему робот?
⚫ Объективность
⚫ Исследование в университетах США. Рассмотрено более 1000
решений, вынесенных в 2009 году восемью судьями
Вероятность благоприятного решения для подсудимого
максимальна в начале дня (65%), неуклонно снижаясь с
течением времени до почти нуля, прежде чем вернуться к
начальному значению после перерыва на обед или чай
⚫ Возможность мажоритарного решения нескольких ИИ
⚫ Оценка вероятности
⚫ Байес
⚫ Возможность автоматического пересмотра решений
«по вновь открывшимся обстоятельствам»
⚫ Далее уточним понятие «этики ИИ»

ИИ – выращивание огурцов
⚫ Autonomous Greenhouse Challenge
⚫ Соревнования по выращиванию чего-то полезного (в данном случае
огурцов), завершились 2018-12-07
(http://venturebeat.com/2018/12/14/microsoft-researchers-beat-tencent-and-
intel-in-autonomous-greenhouse-competition/)
⚫ Победил ИИ Sonoms от Microsoft + студенты из Нидерландов
и Дании, а вообще места распределились так:
1. Microsoft
2. Tencent
3. Intel
4. Люди

ИИ – Производство и ритейл (1)
«machine learning and neural networks are now
core to just about every business process»

⚫ Основные подобласти
⚫ Продажи и взаимодействие с клиентами
[Sales and CRM Applications]
⚫ Рекомендации покупателю [Customer Recommendations]
⚫ Можно отнести и к маркетингу ☺
⚫ Оптимизация производства [Manufacturing]
⚫ Логистика и доставка [Logistics and Delivery]
⚫ Платёжные сервисы [Payments and Payment Services]

⚫ Сервис доставки цветов «1-800-Flowers.com»
(http://www.1800flowers.com)
⚫ Рекомендательная система «Gifts When You Need (GWYN)»
⚫ IBM – GWYN Gives the Gift of Simplicity
(http://www.ibm.com/blogs/insights-on-business/retail/gwyn-gives-gift-simplicity/)

⚫ Логистический проект Amazon Prime Air
(http://www.amazon.com/Amazon-Prime-Air)
⚫ Дроны автоматизированной системы доставки

ИИ – Маркетинг (1)
⚫ Понимание клиентов
⚫ Сегментация
⚫ Персонализированная реклама
⚫ Реклама с учётом контекста
⚫ ...
⚫ Анализ результатов рекламных компаний
⚫ Автоматическая генерация контента
⚫ Персонализированные рекламные объявления

⚫ Albert™ – the First Fully-Autonomous Digital Marketer
(http://albert.ai)
⚫ Artificial Intelligence in Marketing and Advertising – 5 Examples
of Real Traction (http://www.techemergence.com/artificial-intelligence-in-
marketing-and-advertising-5-examples-of-real-traction/)

⚫ Банковская деятельность
⚫ Кредитный скоринг
⚫ Интерпретируемость методов!
⚫ Оптимизация инвестиционного портфеля
⚫ Персонализация
⚫ Интеллектуальные системы управления активами
⚫ Иллюстрация уровня значимости:
⚫ Artificial Intelligence:
The Weapon of Choice in Banks’ Fight for Survival
(http://thefinancialbrand.com/71108/artificial-intelligence-banking-machine-
learning/)
⚫ Также отметим новый уровень регуляции деятельности
финансовых агентов [intelligent regulation]

ИИ – системы обмена ресурсами
⚫ Уберизация на марше
⚫ Распознавание образов
⚫ Поддержка диалога
⚫ Анализ мнений и отзывов
⚫ Рекомендации
⚫ Проверка акторов и подбор параметров обмена
⚫ Оптимизация
⚫ Логистики, инвестирования, микротранзакций
⚫ Uber AI (http://www.uber.com/us/en/uberai/)
⚫ How Booking.com are Using AI to Alleviate the Stress of
Travel (http://medium.com/@teamrework/how-booking-com-
are-using-ai-to-alleviate-the-stress-of-travel-c08e4122ec3c)

ИИ – Управление персоналом
⚫ StatusToday: World fastest growing employee insights
platform (http://www.statustoday.com)
⚫ Лозунг: Understand your team!

Основные опасности ИИ
✓ Философский ужас
✓ Военный ужас
✓ Экономический ужас
✓ Ужас-ужас

Экзистенциальная угроза
⚫ Илон Маск, 2014 год:
«Искусственный интеллект является крупнейшей
экзистенциальной угрозой человечества!»
⚫ Обсуждение подобных страхов:
⚫ The Sorcerer’s Apprentice: Is AI an existential threat to humanity?
(http://hackernoon.com/is-ai-an-existential-threat-to-humanity-54936580aded)

Основные страхи
⚫ Мы все потеряем работу и будем годны только на
батарейки
⚫ Сколько профессий исчезнет через 10 лет?
⚫ 20? 30%? 40%?
⚫ Даже художники и музыканты!
⚫ Нас всех убъют, так как и на батарейки мы не годны
⚫ Робототехника

Прямая военная угроза?

Заготовки для терминаторов?

Не издевайтесь над AI!

Злой и незлой ИИ: реальность
⚫ Стивен Хокинг:
The real risk with AI isn’t malice but competence.
A superintelligent AI will be extremely good at accomplishing its
goals, and if those goals aren’t aligned with ours, we’re in trouble.
You’re probably not an evil ant-hater who steps on ants out of
malice, but if you’re in charge of a hydroelectric green energy
project and there’s an anthill in the region to be flooded, too bad
for the ants.
Let’s not place humanity in the position of those ants.
⚫ Дискуссия «Science AMA Series: Stephen Hawking AMA
Answers!»
(http://www.reddit.com/r/science/comments/3nyn5i/science_ama_series_stephen_h
awking_ama_answers/)

Дружелюбность ИИ
⚫ Почему не «зло» и «добро»?
⚫ По причине неопределённости вне контекста
⚫ MIT Moral Machine (http://moralmachine.mit.edu)
⚫ Оценка ожиданий людей
на примере поведения беспилотного автомобиля
⚫ Э. Юдковский на LessWrong
⚫ Friendly artificial intelligence
(http://wiki.lesswrong.com/wiki/Friendly_artificial_intelligence)
⚫ Unfriendly artificial intelligence
(http://wiki.lesswrong.com/wiki/Unfriendly_artificial_intelligence)

Этичность ИИ
⚫ Bossmann J. Top 9 ethical issues in artificial intelligence. 2016
(http://www.weforum.org/agenda/2016/10/top-10-ethical-issues-in-artificial-
intelligence/)
⚫ Vander Ark T. Let's Talk About AI Ethics; We're On A Deadline.
2018 (http://www.forbes.com/sites/tomvanderark/2018/09/13/ethics-on-a-
deadline)
⚫ …
⚫ Основные вопросы этики «полезного AI»
⚫ Ценности
⚫ Позиции стейкхолдеров
⚫ Соглашения
⚫ Явные и неявные декларации!
⚫ Безопасность и контроль

FLI Value Alignment Research Landscape
⚫ http://futureoflife.org/valuealignmentmap/
⚫ Validation: ensuring that the right system specification is provided for the
core of the agent given stakeholders' goals for the system
⚫ Security: applying cyber security paradigms and techniques to AI-specific
challenges
⚫ Control: structural methods for operators to maintain control over
advanced agents
⚫ Foundations: foundational mathematical or philosophical problems that
have bearing on multiple facets of safety
⚫ Verification: techniques that help prove a system was implemented
correctly given a formal specification
⚫ Ethics: effort to understand what we ought to do and what counts as moral
or good
⚫ Governance: the norms and values held by society, which are structured
through various formal and informal processes of decision-making to ensure
accountability, stability, broad participation, and the rule of law

Проект Moral Machine (1)
⚫ MIT – Moral Machine (http://moralmachine.mit.edu)

Проект Moral Machine (2)

Но это ещё не конец?!
⚫ к.т.н., доц. Незнанов Алексей Андреевич
⚫ Старший научный сотрудник международной лаборатории
интеллектуальных систем и структурного анализа ФКН НИУ ВШЭ
Доцент департамента анализа данных и искусственного интеллекта
ФКН НИУ ВШЭ (School of Data Analysis and Artificial Intelligence,
Faculty of Computer Science, NRU HSE, Moscow, Russia)
⚫ E-mail: aneznanov@hse.ru
⚫ Web-site: http://hse.ru/staff/aneznanov
⚫ SlideShare: http://www.slideshare.net/alexneznanov
⚫ Blog: http://siberianshamanssongs.blogspot.ru (RU)

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ: тренды, достижения и вызовы

Recommended

Recommended

More Related Content

Similar to ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ: тренды, достижения и вызовы

Similar to ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ: тренды, достижения и вызовы (20)

More from Alexey Neznanov

More from Alexey Neznanov (16)

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ: тренды, достижения и вызовы