Лекция №2 "Задача кластеризации и ЕМ-алгоритм"Technosphere1
Техносфера Mail.ru Group, МГУ им. М.В. Ломоносова. Курс "Алгоритмы интеллектуальной обработки больших объемов данных", Лекция №2 "Задача кластеризации и ЕМ-алгоритм"
Лектор - Николай Анохин
Постановка задачи кластеризации. Функции расстояния. Критерии качества кластеризации. EM-алгоритм. K-means и модификации.
Видео лекции курса https://www.youtube.com/playlist?list=PLrCZzMib1e9pyyrqknouMZbIPf4l3CwUP
Лекция №2 "Задача кластеризации и ЕМ-алгоритм"Technosphere1
Техносфера Mail.ru Group, МГУ им. М.В. Ломоносова. Курс "Алгоритмы интеллектуальной обработки больших объемов данных", Лекция №2 "Задача кластеризации и ЕМ-алгоритм"
Лектор - Николай Анохин
Постановка задачи кластеризации. Функции расстояния. Критерии качества кластеризации. EM-алгоритм. K-means и модификации.
Видео лекции курса https://www.youtube.com/playlist?list=PLrCZzMib1e9pyyrqknouMZbIPf4l3CwUP
16.
решение
общее
xe
Ce
y
e
C
x
y
x
v
x
u
y
Ответ
C
x
u
dx
du
u
e
e
u
e
v
x
v
dx
v
dv
v
dx
dv
v
v
e
v
u
v
v
e
v
v
u
v
u
e
uv
u
v
v
u
u
v
v
u
y
x
v
x
u
y
замена
e
y
y
x
x
x
x
x
x
x
x
x
x
:
1
ln
0
0
17. Линейное неоднородное ДУ. Метод Иоганна
Бернулли
x
Q
y
x
P
y
Любую величину можно представить в форме произведения двух
сомножителей, причем один из множителей можно выбрать по
своему желанию.
uv
y
В результате линейное неоднородное ДУ сводиться к двум уравнениям
с разделяющимися переменными:
где u v
и - новые функции переменной .
x
или
)
(
0
)
(
x
Q
v
u
v
x
P
v
)
(
0
)
(
x
Q
u
v
u
x
P
u
18. Решить уравнение .
3
x
y
x
y
.
,
3
x
x
Q
x
x
P
Решение:
Положим ,
uv
y
тогда .
u
v
v
u
y
Пример 1.
Получим ,
3
x
uv
x
u
v
v
u
)
1
(
.
3
x
v
u
v
x
v
u
)
(
0
)
(
x
Q
v
u
v
x
P
v
Получили систему уравнений
x
v
u
v
х
v 0
3
19. .
0
3
v
x
v ,
dx
dv
v
,
3
x
dx
v
dv
,
3
x
dx
v
dv
,
ln
3
ln С
x
v
Здесь v – любое частное решение,
поэтому для простоты возьмём С=0
.
3
x
v
Подставляя во второе уравнение системы, получим
x
x
u
3
Решим первое уравнение системы
Здесь
dx
du
u
Здесь
2
x
dx
du
dx
x
du 2
1
,
1
C
x
u
постоянную С писать обязательно
21. Решить уравнение
Решение: y=uv
)
1
(
1
x
e
x
y
y x
).
1
(
)
1
(
),
1
(
1
x
e
v
u
x
u
u
v
x
e
x
uv
v
u
v
u
x
x
x
x
e
v
x
e
v
x
)
1
(
)
1
(
).
)(
1
( C
e
x
uv
y x
)
1
(
0
1
x
e
v
u
x
u
u
x
1
x
u
C
e
v x
22. Расставь по порядку!
Алгоритм решения линейного ДУ 1-го порядка
__ Приводят уравнение к виду
x
Q
y
x
P
y
,
uv
y u
v
v
u
y
находят
__ Используя подстановку
и подставляют эти выражения в
уравнение.
__ Группируют члены уравнения, выносят одну из функций
за скобки. Находят вторую функцию, приравняв выражение в
скобках нулю и решив полученное уравнение.
__ Подставляют найденную функцию в оставшееся
выражение и находят вторую функцию.
__ Записывают общее решение, подставив выражения для
найденных функций и в равенство
__ Если требуется найти частное решение , то определяют С из
начальных условий и подставляют в общее решение.
u
u
v
v uv
y
ил
и
23. Проверим!
Алгоритм решения линейного ДУ 1-го порядка
1. Приводят уравнение к виду
x
Q
y
x
P
y
,
uv
y u
v
v
u
y
находят
2. Используя подстановку
и подставляют эти выражения в
уравнение.
3. Группируют члены уравнения, выносят одну из функций
за скобки. Находят вторую функцию, приравняв выражение в
скобках нулю и решив полученное уравнение.
4. Подставляют найденную функцию в оставшееся
выражение и находят вторую функцию.
5. Записывают общее решение, подставив выражения для
найденных функций и в равенство
6. Если требуется найти частное решение , то определяют С из
начальных условий и подставляют в общее решение.
u
u
v
v ,
uv
y
ил
и
24. Сделай сам, помоги другу!
Решить уравнения:
1.
2.
Ответ:
.
cos
2
x
x
y
y
x
Ответ: .
sin C
x
x
y
25.
26. Линейные дифференциальные
уравнения первого порядка
x
g
y
x
p
y
1 метод: метод замены или метод Бернулли
v
u
v
u
y
uv
y
)
(
0
)
(
)
(
)
(
x
g
v
u
v
x
p
v
x
g
uv
x
p
v
u
v
u
27. Пример
x
xy
y 2
2
v
u
v
u
y
uv
y
x
v
u
xv
v
x
xuv
v
u
v
u
2
0
2
2
2
;
2xdx
v
dv
2
x
e
v
xdx
du
e x
2
2
)
( 2
2
x
d
e
du x
C
e
u x
2
2
1 x
Ce
y
1.
2.
3.
4.
;
ln 2
x
v
;
1
:
2
х
Се
у
Ответ
28. Линейные уравнения
1-го порядка
y
y
)
1
(
)
(
)
( x
Q
y
x
P
y
Как отличить!
Особенность
таких уравнений:
функция y и её
производная y’
входят в
уравнение в
первой степени,
29.
30.
31. 2 метод: метод вариации произвольной
константы или метод Лагранжа
;
0
y
x
p
y ;
)
( dx
x
p
y
dy
)
(
)
(
)
(
)
(
)
(
)
(
x
g
e
x
C
x
p
e
x
C
dx
x
p
dx
x
p
1.
2.
3.
dx
x
p
e
x
C
y
)
(
)
(
x
g
y
x
p
y
dx
x
p
y )
(
ln
dx
x
p
Ce
y
)
(
)
(
)
(
)
(
)
(
)
(
)
(
)
(
)
(
)
(
x
g
e
x
C
x
p
e
x
C
x
p
e
x
C
dx
x
p
dx
x
p
dx
x
p
)
(
)
(
)
(
x
g
e
x
C
dx
x
p
dx
x
p
e
x
g
x
C
)
(
)
(
)
(
32. Пример
x
xy
y 2
2
;
0
2
xy
y ;
2xdx
y
dy
;
ln
ln 2
C
x
y
2
x
e
C
y
;
2
x
e
x
C
y
;
2
2
2
x
e
x
C
e
x
C
y x
x
;
2
2
2
2
2
2
x
e
x
xC
e
x
xC
e
x
C x
x
x
;
2
2
x
e
x
C x
;
2
2
x
xe
x
C
C
e
x
C x
2
2
2
x
x
e
C
e
y
;
1
:
2
x
Ce
y
Ответ
1.
2.
3.
;
2
2
dx
xe
dC x
33. But what if we can’t use the
product rule backwards?
Then multiplying through by the integrating
factor:
Then we can solve in the usual way:
?
?
?
34. You could
skip to here
provided you
don’t forget to
multiply the
RHS by the IF.
What shall we do first so that we have an
equation like before?
STEP 2:
Determine IF
STEP 3:
Multiply
through by IF
and use
product rule
backwards.
STEP 4:
Integrate and
simplify.
?
?
?
?
35. Решить уравнение
Решение: y=uv
)
1
(
1
x
e
x
y
y x
).
1
(
)
1
(
),
1
(
1
x
e
v
u
x
u
u
v
x
e
x
uv
v
u
v
u
x
x
x
x
e
v
x
e
v
x
)
1
(
)
1
(
).
)(
1
( C
e
x
uv
y x
)
1
(
0
1
x
e
v
u
x
u
u
x
1
x
u
C
e
v x
36. Сделай сам, помоги другу!
Решить уравнения:
1.
2.
Ответ:
Ответ:
Дескрипторы:
- верно определяет вид
уравнения
- верно определяет метод
решения,
40. Сущность интегрирования методом замены переменной
(способом подстановки) заключается в преобразовании
интеграла в интеграл , который
легко вычисляется по какой-либо из основных формул
интегрирования.
Для нахождения интеграла заменяем
переменную x новой переменной u с помощью
подстановки . Дифференцируя это равенство,
получим . Подставляя в подынтегральное
выражение вместо x и dx их значения, выраженные
через u и du, имеем
После того как интеграл относительно новой
переменной u будет найден, с помощью подстановки
он приводится к переменной x.
du
u
F
dx
x
f
dx
x
f
u
x
du
u
dx
.
du
u
F
du
u
u
f
dx
x
f
x
u
42. Пример 1. Решить интеграл .
2
3
5
dx
x
Решение:
Введём подстановку . Дифференцируя, имеем
, откуда . Подставив в данный интеграл
вместо и их выражения, получим:
Заменив u его выражением через x, получим:
u
x
2
3
du
dx
3 du
dx
3
1
2
3
x dx
.
18
1
6
3
1
3
1
2
3 6
6
5
5
C
u
C
u
du
u
dx
x
.
2
3
18
1
2
3
6
5
C
x
dx
x
49.
.
1
3
1
3
9
1
2
3
6
1
6
1
1
3 2
2
2
3
2
1
2
C
x
x
C
t
dt
t
dx
x
x
Пример 8.
dx
x
x 1
3 2
.
6
1
.
.
,
6
,
1
3 2
dt
dx
x
е
т
dt
dx
x
тогда
t
x
Пусть
65. С помощью этой формулы вычисление
интеграла сводится к вычислению
интеграла , если последний
окажется проще исходного, где u(x), v(x) –
непрерывные дифференцируемые
функции.
vdu
uv
udv
udv
du
v
Метод интегрирования по
частям
66. К числу интегралов, вычисляемых
интегрированием по частям,
относятся, например, интегралы вида
где P(x) – многочлен (в частности,
степенная функция )
f(x) – одна из следующих функций:
,
)
(
)
( dx
x
f
x
P
arctgx
x
x
x
x
eax
,
arcsin
,
ln
,
cos
,
sin
,
n
x
67. cos
x x dx
polynomial factor u x
du dx
cos
dv x dx
sin
v x
u dv uv v du
LIPET
C
x
x
x
dx
x
x
x
dx
x
x
cos
sin
sin
sin
cos
Example 1:
68. Example 2:
logarithmic factor ln
u x
1
du dx
x
u dv uv v du
LIPET
xdx
dv
2
2
x
C
x
x
x
dx
x
x
x
x
dx
x
x
4
ln
2
1
2
ln
2
ln
2
2
2
2
69. This is still a product, so we
need to use integration by
parts again.
Example 3:
2 x
x e dx
u dv uv v du
LIPET
2
u x
x
dv e dx
2
du x dx
x
v e
u x
x
dv e dx
du dx
x
v e
dx
xe
e
x
dx
x
e
e
x
dx
e
x
x
x
x
x
x
2
2
2
2
2
C
e
xe
e
x
dx
e
xe
e
x
x
x
x
x
x
x
2
2
2
2
2
70. Example 4:
cos
x
e x dx
LIPET
x
u e
sin
dv x dx
x
du e dx
cos
v x
sin sin
x x
e x x e dx
sin cos cos
x x x
e x e x x e dx
x
u e
cos
dv x dx
x
du e dx
sin
v x
sin cos cos
x x x
e x e x e x dx
This is the
expression
we started
with!
uv v du
71. Example 4(cont.):
cos
x
e x dx
LIPET
u v v du
cos
x
e x dx
2 cos sin cos
x x x
e x dx e x e x
sin cos
cos
2
x x
x e x e x
e x dx C
sin sin
x x
e x x e dx
x
u e
sin
dv x dx
x
du e dx
cos
v x
x
u e
cos
dv x dx
x
du e dx
sin
v x
sin cos cos
x x x
e x e x e x dx
sin cos cos
x x x
e x e x x e dx
This is called
“solving for the
unknown
integral.”
It works when
both factors
integrate and
differentiate
forever.