Теория вероятностей

1. Лекция 10. Двумерное непрерывное распределение
Курбацкий А. Н.
МШЭ МГУ
15 декабря 2016
Курбацкий А. Н. (МШЭ МГУ) Двумерное непрерывное распределение 15 декабря 2016 1 / 20

2. Содержание
1 Двумерное непрерывное распределение
2 Маргинальные распределения
3 Условное распределение и условное математическое ожидание
Курбацкий А. Н. (МШЭ МГУ) Двумерное непрерывное распределение 15 декабря 2016 2 / 20

3. Совместная функция распределения
На практике часто возникают ситуации, когда результатом
случайного эксперимента является точка на числовой плоскости
или ее части. В таких случаях говорят, что мы имеем дело со
случайным вектором (X, Y ), каждая из координат которого
является случайной величиной.
Распределение случайного вектора (X, Y ) на плоскости можно
задать с помощью функции распределения F(x, y) или плотности
распределения ρ(x, y).
Определение
Совместной функцией распределения случайного вектора (X; Y )
называется функция F(x, y), равная вероятности
P(X ≤ x; Y ≤ y)
Курбацкий А. Н. (МШЭ МГУ) Двумерное непрерывное распределение 15 декабря 2016 3 / 20

4. Свойства функции распределения
1 0 ≤ F(x, y) ≤ 1;
2 F(x, y) неубывающая по каждому аргументу;
3 непрерывна справа по каждому аргументу;
4 F(+∞; +∞) = 1, F(x; −∞) = F(−∞; y) = 0;
5 ∀ ai и bi P(a1 ≤ X < b1; a2 ≤ Y < b2) =
F(b1; b2) − F(b1; a2) − F(a1; b2) + F(a1; a2) ≥ 0.
Курбацкий А. Н. (МШЭ МГУ) Двумерное непрерывное распределение 15 декабря 2016 4 / 20

5. Функция плотности распределения
Определение
Функция ρ(x, y) называется плотностью распределения вероятностей
на плоскости, если выполнены два условия:
ρ(x, y) ≥ 0 для всех x, y ∈ R2
+∞
−∞
+∞
−∞
ρ(x, y)dxdy = 1.
Второе условие означает, что совокупный объем фигуры,
заключенный между поверхностью, заданной функцией ρ(x, y), и
плоскостью (x, y) равен 1.
F(x; y) =
u
−∞
v
−∞
ρ(x, y)dudv, ρ(x; y) = Fxy (x; y)
Если известно, что случайный вектор (X, Y ) может принимать
значения в области Ω ∈ R2, то ρ(x, y) = 0 для любой точки (x, y) /∈ Ω.
Курбацкий А. Н. (МШЭ МГУ) Двумерное непрерывное распределение 15 декабря 2016 5 / 20

6. Попробуйте самостоятельно!
Пример
Вектор (x, y) может принимать значения только на квадрате
Ω = {0 ≤ x ≤ 1, 0 ≤ y ≤ 1}. Пусть ρ(x, y) = 1 для всех x, y ∈ Ω и
ρ(x, y) = 0 для всеx x, y /∈ Ω. Тогда ρ(x, y) является плотностью
распределения вероятностей.
Курбацкий А. Н. (МШЭ МГУ) Двумерное непрерывное распределение 15 декабря 2016 6 / 20

7. Попробуйте самостоятельно!
Пример
Вектор (x, y) может принимать значения только на квадрате
Ω = {0 ≤ x ≤ 1, 0 ≤ y ≤ 1}. Пусть ρ(x, y) = 1 для всех x, y ∈ Ω и
ρ(x, y) = 0 для всеx x, y /∈ Ω. Тогда ρ(x, y) является плотностью
распределения вероятностей.
Решение
Условие 1 определения плотности очевидно выполнено. Проверим
условие 2:
+∞
−∞
+∞
−∞
ρ(x, y)dxdy =
1
0
1
0
1dxdy =
1
0
y|1
0 dx =
1
0
1dx = 1.
Курбацкий А. Н. (МШЭ МГУ) Двумерное непрерывное распределение 15 декабря 2016 6 / 20

8. Содержание
1 Двумерное непрерывное распределение
2 Маргинальные распределения
3 Условное распределение и условное математическое ожидание
Курбацкий А. Н. (МШЭ МГУ) Двумерное непрерывное распределение 15 декабря 2016 7 / 20

9. Маргинальные распределения
Зная распределение вектора (X, Y ), можно получить распределение
каждой из его координат. Такие распределения называются
маргинальными распределениями.
Определение
Плотность маргинального распределения X задается соотношением:
ρ1(x) =
+∞
−∞
ρ(x; y)dy
Плотность маргинального распределения Y задается соотношением:
ρ2(y) =
+∞
−∞
ρ(x; y)dx
Координаты X и Y случайного вектора (X, Y ) являются обычными
непрерывными случайными величинами с плотностями ρ1(x) и ρ2(y)
Курбацкий А. Н. (МШЭ МГУ) Двумерное непрерывное распределение 15 декабря 2016 8 / 20

10. Числовые характеристики
Определение
Математическим ожиданием (средним значением) случайного вектора
(X, Y ) называется вектор (E(X), E(Y )). Для характеристики
изменчивости случайного вектора (X, Y ) используется
ковариационная матрица Σ:
D(X) cov(X, Y )
cov(X, Y ) D(Y )
На главной диагонали матрицы Σ стоят дисперсии D(X) и D(Y ), а на
побочной диагонали cov(X, Y ).
Курбацкий А. Н. (МШЭ МГУ) Двумерное непрерывное распределение 15 декабря 2016 9 / 20

11. Понятие независимости
Теорема
Координаты случайного вектора (X, Y ), имеющего совместную
плотность распределения ρ(x, y), являются независимыми случайными
величинами тогда и только тогда, когда плотность распределения
вероятностей этого вектора ρ(x, y) = ρ1(x) · ρ2(y), где ρ1(x) и ρ2(y) -
маргинальные плотности распределения случайных величин X и Y .
Курбацкий А. Н. (МШЭ МГУ) Двумерное непрерывное распределение 15 декабря 2016 10 / 20

12. Пример
Задача
Для случайного вектора (X; Y ) равномерно распределенного в
прямоугольнике Π = {(x; y)|0 ≤ x ≤ 2; 1 ≤ y ≤ 4} найти
а) маргинальные плотности вероятности ρ1(x) и ρ2(y);
б) математические ожидания EX и EY ;
в) ковариацию cov(X; Y ).
Курбацкий А. Н. (МШЭ МГУ) Двумерное непрерывное распределение 15 декабря 2016 11 / 20

13. Пример
Задача
Для случайного вектора (X; Y ) равномерно распределенного в
прямоугольнике Π = {(x; y)|0 ≤ x ≤ 2; 1 ≤ y ≤ 4} найти
а) маргинальные плотности вероятности ρ1(x) и ρ2(y);
б) математические ожидания EX и EY ;
в) ковариацию cov(X; Y ).
Решение. Так как площадь прямоугольника Π равна шести, то
функция плотности вероятности имеет вид ρ(x; y) = 1/6, при x ∈ Π (и
равна нулю в остальных точках). Находим маргинальные плотности
ρ1(x) =
+∞
−∞
ρ(x; y)dy =
4
1
1
6
dx = 1/2,
ρ2(y) =
+∞
−∞
ρ(x; y)dx =
2
0
1
6
dx = 1/3.
Курбацкий А. Н. (МШЭ МГУ) Двумерное непрерывное распределение 15 декабря 2016 11 / 20

14. Вычисляем математические ожидания:
EX =
+∞
−∞
xρ1(x)dx =
2
0
x
2
dx =
x2
4
2
0
= 1,
EY =
+∞
−∞
yρ2(y)dy =
4
1
y
3
dy =
y2
6
4
1
=
5
2
.
Теперь вычисляем ковариацию
cov(X; Y ) = E(XY ) − EX · EY =
+∞
−∞
+∞
−∞
xyρ(x; y)dxdy − EX · EY =
=
2
0
4
1
xy
6
dxdy − 1 ·
5
2
=
4
1
y
3
dy −
5
2
=
5
2
−
5
2
= 0.
Этот результат можно было бы получить проще, заметив, что
случайные величины X и Y независимы, так как ρ(x; y) = ρ1(x)ρ2(y).
Курбацкий А. Н. (МШЭ МГУ) Двумерное непрерывное распределение 15 декабря 2016 12 / 20

15. Содержание
1 Двумерное непрерывное распределение
2 Маргинальные распределения
3 Условное распределение и условное математическое ожидание
Курбацкий А. Н. (МШЭ МГУ) Двумерное непрерывное распределение 15 декабря 2016 13 / 20

16. Условное распределение
Определение
Условным распределением с.в. X при условии Y = y называется
функция, ставящее в соответствие значениям с.в. X условные
вероятности их принятия при условии Y = y
FX|Y (x|y) =
P(X ≤ x, Y = y)
P(Y = y)
FX|Y (x|y) =
Fy (x, y)
ρY (y)
FX|Y (x|y) =
x
−∞
ρX,Y (u, y)
ρY (y)
du
Курбацкий А. Н. (МШЭ МГУ) Двумерное непрерывное распределение 15 декабря 2016 14 / 20

17. Условное распределение
Определение
Если функция распределения имеет частную производную по x, то
существует условная плотность распределения X при условии Y = y
ρX|Y (x|y) =
∂FX|Y (x|y)
∂x
=
ρX,Y (x, y)
ρY (y)
Определение
Условное мат. ожидание с.в. X при условии Y = y называется
математическое ожидание условного распределения X при условии
Y = y
E(X|Y = y) =
+∞
−∞
xρX|Y (x|y)dx =
+∞
−∞
x
ρX,Y (x, y)
ρY (y)
dx
Курбацкий А. Н. (МШЭ МГУ) Двумерное непрерывное распределение 15 декабря 2016 15 / 20

18. Функция регрессии
Определение
Функция регрессии с.в. X по Y называется функция, ставящее в
соответствие числу y условное мат. ожидание X при условии Y = y:
ϕX|Y (y) = E(X|Y = y)
Функция регрессии характеризует среднее значение одной с.в. при
известном значении другой. Если разброс невелик, то это может быть
информативно!
Определение
Условным математическим ожиданием X по Y называется называется
случайная величина, равная ϕX|Y (Y ), которая обозначается E(X|Y )
Курбацкий А. Н. (МШЭ МГУ) Двумерное непрерывное распределение 15 декабря 2016 16 / 20

19. Пример
Пара случайных величин ξ и η равномерно распределены в
треугольнике ∆ с вершинами в точках (0; 0), (0; 2), (2; 0). Найти
функцию регрессии ξ по η.
Курбацкий А. Н. (МШЭ МГУ) Двумерное непрерывное распределение 15 декабря 2016 17 / 20

20. Пример
Пара случайных величин ξ и η равномерно распределены в
треугольнике ∆ с вершинами в точках (0; 0), (0; 2), (2; 0). Найти
функцию регрессии ξ по η.
Решение. Так как площадь треугольника равна 2, то функция
плотности распределения ρξ,η(x; y) =
1/2, (x; y) ∈ ∆,
0, (x; y) /∈ ∆.
Курбацкий А. Н. (МШЭ МГУ) Двумерное непрерывное распределение 15 декабря 2016 17 / 20

21. Пример
Пара случайных величин ξ и η равномерно распределены в
треугольнике ∆ с вершинами в точках (0; 0), (0; 2), (2; 0). Найти
функцию регрессии ξ по η.
Решение. Так как площадь треугольника равна 2, то функция
плотности распределения ρξ,η(x; y) =
1/2, (x; y) ∈ ∆,
0, (x; y) /∈ ∆.
Найдём
ρη(y) =
+∞
−∞
ρξ,η(x; y)dx =
2−y
0
1
2 dx =
2−y
2 , x ∈ (0; 2),
0, x /∈ (0; 2).
Курбацкий А. Н. (МШЭ МГУ) Двумерное непрерывное распределение 15 декабря 2016 17 / 20

22. Пример
Пара случайных величин ξ и η равномерно распределены в
треугольнике ∆ с вершинами в точках (0; 0), (0; 2), (2; 0). Найти
функцию регрессии ξ по η.
Решение. Так как площадь треугольника равна 2, то функция
плотности распределения ρξ,η(x; y) =
1/2, (x; y) ∈ ∆,
0, (x; y) /∈ ∆.
Найдём
ρη(y) =
+∞
−∞
ρξ,η(x; y)dx =
2−y
0
1
2 dx =
2−y
2 , x ∈ (0; 2),
0, x /∈ (0; 2).
Теперь можем
найти функцию регрессии
ϕξ|η(y) =
+∞
−∞
xρξ,η(x; y)dx =
+∞
−∞
x
ρξ,η(x; y)
ρη(y)
dx =
2−y
0
x
2 − y
dx =
Откуда
ϕξ|η(y) =
x2
2(2 − y)
2−y
0
=
2−y
2 , y ∈ (0; 2),
0, y /∈ (0; 2).
Курбацкий А. Н. (МШЭ МГУ) Двумерное непрерывное распределение 15 декабря 2016 17 / 20

23. Плотность двумерного нормального распределения
Вектор математических ожиданий ¯a = (a1; a2) и матрица ковариаций
Σ =
σ2
1 ρσ1σ2
ρσ1σ2 σ2
2
, где ρ – коэффициент корреляции, σ1 и σ2 –
стандартные отклонения.
Определение
(ξ1; ξ2) – двумерный нормальный вектор, если совместная функция
плотности имеет вид
ρ(x; y) =
1
2π
√
det Σ
exp −
1
2
¯aT
Σ−1
¯a
Если математические ожидания равны нулю, а дисперсии - единице,
то вид функции плотности упрощается
ρ(x; y) =
1
2π 1 − ρ2
exp −
x2 − 2ρxy + y2
2(1 − ρ2)
Курбацкий А. Н. (МШЭ МГУ) Двумерное непрерывное распределение 15 декабря 2016 18 / 20

24. Функция регрессии для нормального вектора
Докажите, что условное распределение ξ1 по ξ2 является нормальным.
Найти функцию регрессии ξ1 по ξ2.
Курбацкий А. Н. (МШЭ МГУ) Двумерное непрерывное распределение 15 декабря 2016 19 / 20

25. Функция регрессии для нормального вектора
Докажите, что условное распределение ξ1 по ξ2 является нормальным.
Найти функцию регрессии ξ1 по ξ2.
Решение. ϕξ1|ξ2
(y) = a1 + ρσ1
σ2
(y − a2)
Курбацкий А. Н. (МШЭ МГУ) Двумерное непрерывное распределение 15 декабря 2016 19 / 20

26. Корреляция
Важное значение коэффициента корреляции обусловлено следующей
теоремой
Теорема
Пусть (X, Y ) – двумерная нормально распределенная случайная
величина. Тогда случайные величины X и Y независимы тогда и
только тогда, когда corr(X, Y ) = 0.
Таким образом, парный коэффициент корреляции можно
рассматривать как меру зависимости двух случайных величин
(факторов), имеющих совместное нормальное распределение, причем:
ρ = 0 ⇔ величины независимы;
ρ = ±1 ⇔ между величинами линейная функциональная
зависимость: y = β∗
0 + β∗
1x.
Курбацкий А. Н. (МШЭ МГУ) Двумерное непрерывное распределение 15 декабря 2016 20 / 20