Диалоговые системы и чат-боты: как они устроены сейчас (правила, фреймы, шаблоны) и как машинное обучение может изменить их качество и применимость. Видеозапись лекции: https://www.youtube.com/watch?v=-9zKXLAwm7w

1. Диалоговые системы и чат-боты
Как они устроены сейчас,
и что ждет их в ближайшем будущем
Татьяна Ландо

2. Настоящее

4. Ближайшее будущее:
Conversational Commerce
• Telegram
• Facebook
• Slack
Платформы для быстрого построения ботов:
• https://botogram.io/
• http://chatfuel.com/ru
• http://manychat.com/

5. Как вообще устроен диалог?

6. Порядок обмена репликами

7. Структура разговора

8. Инициатива

9. Общий контекст

10. Что должна уметь
диалоговая система?
• Определять, когда пользователь закончил
говорить и ждет ответа;
• Иметь с пользователем общий контекст,
обучаться на лету его пополнять;
• Понимать роли собеседников и порядок
реплик;
• Вовремя перехватывать и отдавать
инициативу

11. Единственная общепризнанная
метрика – тест Тьюринга

12. Единственная общепризнанная
метрика – тест Тьюринга

13. Как устроены чат-боты?

14. Классическая
архитектура чат-бота

15. Классическая
архитектура чат-бота
• КАК ТЫ ЖИВЕШЬ | ? | Вот, сижу в
компьютере, разговариваю с людьми…
• ТЕБЯ ДОЛГО ДЕЛАЛИ | ? | Меня - полдня, а
базу - четыре года.
• ПЛОХО | ТАК КАК | А ты не допускаешь
другой точки зрения?
• ХОЧУ | РАБОТ | Если хочешь поработать, ляг
поспи и все пройдет.

16. Классическая
архитектура чат-бота
• Диалог основывается на шаблонах
«стимул — реакция»

17. Классическая
архитектура чат-бота
Входнаяреплика heyman, lookatwhatI've foundhere ;)
Очистка lookatwhatI havefoundhere
Поискшаблона <WHAT I HAVE FOUNDHERE>
Поискшаблона
<WHAT DIDYOUFIND?>
<THAT'SNOTINTERESTING!>
Ответ That'snotinteresting!

18. Прошлое

19. Eliza (Weizenbaum, 1966)
User: I am feeling depressed.
ELIZA: How long are you feeling
depressed?
I am feeling * =>
How long are you feeling *

20. AIML: ALICE & Co
• AIML – XML для создания чатботов
• ALICE:
–бот с открытым кодом на основе AIML
–50 000 пар шаблон – ответ
–поддержка краткосрочной памяти
–поддержка темы диалога
–обобщенные шаблоны

21. Поддержка краткосрочной памяти
<category>
<pattern>YES</pattern>
<that>DO YOU LIKE READING BOOKS?</that>
<template>Which one do you like
most?</template>
</category>

22. Поддержка темы диалога
<topic name=”POETRY”/>
<category>
<pattern>*</pattern>
<template>Do you own any poetry
books?</template>
</category>

23. Обобщения шаблонов
– Меня зовут Бонд, Джеймс Бонд
– Приятно познакомиться, Бонд, Джеймс Бонд!

24. Обобщения шаблонов
– Меня зовут Бонд, Джеймс Бонд
– Приятно познакомиться, Бонд, Джеймс Бонд!
– Меня зовут Бонд, Джеймс Бонд
– Приятно познакомиться, Бонд!

25. Обобщения шаблонов
– Меня зовут Бонд, Джеймс Бонд
– Приятно познакомиться, Бонд, Джеймс Бонд!
– Меня зовут Бонд, Джеймс Бонд
– Приятно познакомиться, Бонд!
– Меня зовут Бонд, Джеймс Бонд
– Приятно познакомиться, Джеймс!

26. Обобщение шаблонов и NLP
• Регулярные выражения
• Контекстно-свободные грамматики
• Извлечение именованных сущностей (NER)
• Синтаксический парсинг, вот это всё

27. Обобщение шаблонов и NLP
<category>
<pattern>WHO IS ALBERT *</pattern>
<template>albert is a common name</template>
</category>
<category>
<pattern>WHO IS NE_PERSON *</pattern>
<template>I don't know anybody of that
name.</template>
</category>

28. Как устроены
диалоговые системы?

29. Классическая архитектура
диалоговой системы
Понимание ввода на естественном языке
Управление диалогом
Генерация ответа на естественном языке

30. Классическая архитектура
диалоговой системы

31. Понимание естественного языка
Natural Language Understanding
• Сири, разбуди меня завтра в 6 утра
• Слушай, Яндекс, поехали домой
• Окей, гугл, Сколько лет Анджелине Джоли?
• Фильм в котором два мужика едут к морю

32. Понимание естественного языка
Natural Language Understanding
Очистка входной
реплики
Опечатки, ошибки, символы
Сегментация Предложения
Уровень слов Морфология, извлечение
именованных сущностей
Синтаксис Синтаксические связи
Семантика Попытка связать со
значениями

33. Управление диалогом
• Решает, что должна сделать система
• Основана на «разговорных состояниях»
– Граф конечных состояний
– Фреймы
– План

34. Управление диалогом: фрейм
Покупка авиабилета
Origin: {{city}} Москва
Destination: {{city}} Париж
Date: {{date}} завтра
Time: {{time}} 10.00
Airline: {{airline_name}} Air France

35. Генерация ответа
• Преднаписанный текст
• Заполнение шаблонов:
– Преднаписанные тексты с пробелами
– Пробелы заполняются значениями переменных
• Генерация текста:
– Очень сложно делать хорошо
– Интегрирована в «плановое управление
диалогом»

36. Генерация ответа
В Москве 21 ноября 2015 года будет 4 градуса
выше нуля.
В _city_(предложный падеж) _date_ будет
_degrees_.
Date = _day_ _month_ _year_
Degrees = _number_ _градус(а|ов|-)_
(выше|ниже) нуля

37. Генерация естественного языка
Naturalism and decision for the majority of Arab
countries' capitalide was grounded by the Irish
language by [[John Clair]], [[An Imperial Japanese
Revolt]], associated with Guangzham's
sovereignty. His generals were the powerful ruler
of the Portugal in the [[Protestant Immineners]],
which could be said to be directly in Cantonese
Communication, which followed a ceremony and
set inspired prison, training.

38. Попытки автоматизации
• Марковский процесс принятия решения
• Обучение с подкреплением (Reinforcement
learning)
• Проблемы:
– Подобрать вознаграждения для MDP
– Количество состояний конечно (реплик или
действий)

39. Что дальше?

40. Машинное обучение и боты

41. Машинное обучение и боты
• Обучение на реальных диалогах:
– End-to-end системы
– Нейронные сети
• Обучение с подкреплением:
– Разные реакции на одинаковые реплики
– Но не понятно как их оценивать

42. Нейронные сети
• Обучение от последовательности к
последовательности (Sequence to sequence)
см. Ilya Sutskever, Oriol Vinyals, Quoc V.Le
• Многослойная длинная краткосрочная память
(Long Short-Term Memory, LSTM)
• Neural Conversational Model:
– Субтитры
– Логи службы поддержки

43. Гибриды
• Надо ли обучать нейронную сеть, чтобы
отвечать на вопросы о погоде?
• Чат-боты используются для
«общечеловеческой болтовни»
• Диалоговые системы – для применений в
конкретных предметных областях

44. Оценка качества

45. Оценка качества: зачем?
• Оценить как система выполняет цели
• Как система улучшается от версии к версии
• Сравнивать системы между собой
• Найти слабые места системы
• Делать тонкую настройку: размен факторов

46. Оценка качества
Нейронная сеть
Q: my name is david .
what is my name ?
R: david .
Q: is sky blue or black ?
R : blue .
Q: what do you think
about cleopatra ?
R: oh , she ’s very regal
.
Чат-бот (Cleverbot)
Q: My name is david .
what is my name ?
R: How old are you
David?
Q: Is sky blue or black ?
R: I am 200 years old.
Q: What do you think
about cleopatra ?
R: Cool is cool.

47. Оценка качества:
пользовательские и объективные
• Счастье пользователя:
– Вероятность повторного использования
– Простота использования, ожидаемое поведение
– Обратная связь «спасибо»
• Характеристики системы:
– Проблема 100% полноты (у чат ботов)
– Частота успешных диалогов
– Время/число реплик до выполнения цели диалога

48. Оценка качества: юзабилити
• «Счастье пользователей»:
– Task ease
– Perceived completion
– Expected behavior
• Вероятность повторного использования

49. Оценка качества: объективные
• Проблема 100% полноты (у чат ботов)
• Частота успешных диалогов
• Время/число реплик до выполнения цели
диалога

50. Оценка качества: WOZ
Решаем проблему, где взять эталон:
– Человек прикидывается чат-ботом (Wizard)
– Пользователь считает, что говорит с чат-ботом
– Строгие протоколы взаимодействия
– Нужно много «волшебников»

51. Использование
в настоящем и будущем

52. XiaoIce
• Jerry: XiaoIce, will it rain tomorrow?
• XiaoIce: Tomorrow the weather in Beijing will be
nice with a maximum high of 25*C. No rain to get
you soaked.
• Jerry: How about the day after tomorrow?
• XiaoIce: The day after tomorrow, the weather in
Beijing will also be fair, with a max high of 23*C.
• Jerry: What about Seattle?
• XiaoIce: Yes sir, I’ve got the answer. The day after
tomorrow, Seattle will be cloudy with a max high of
30*C. Perfect for going outside.

53. Google

54. Какими станут диалоговые системы?
• Обучающимися
• Эмоциональными
• Персональными
• Универсальными
• Аватаризированными

55. Терапевтические применения

56. Голосовые интерфейсы

57. Спасибо!
tatiana.lando@gmail.com