Эконометрика: тема 2

Лекции по Эконометрике.
Мультиколлинеарность
Н. В. Артамонов
МГИМО МИД России
17 октября 2017 г.
Н. В. Артамонов (МГИМО) Эконометрика I 17 октября 2017 г. 1 / 25

Содержание
1 Мультиколлинеарность
Что это такое?
Последствия
Идентификация мультиколлинеарности
Корректировка на мультиколлинеарность

Важно!
Причиной формального вывода о незначимости коэффициента
(незначимости влияния фактора) может быть
мультиколлинеарность (а не то, что на самом деле не влияет).

Важно!
Причиной формального вывода о незначимости коэффициента
(незначимости влияния фактора) может быть
мультиколлинеарность (а не то, что на самом деле не влияет).
Два вида мультиколлинеарности
“идеальная”, “теоретическая”
“практическая”
Важно!
Мультиколлинеарность есть свойство объясняющих переменных!

«Идеальная» мультиколлинеарность: на выборочных данных
один из регрессоров линейно выражается через остальные (+
константа). Это равносильно
det(X X) = 0.

det(X X) = 0.
В этом случае оценки наименьших квадратов не могут быть
найдены однозначно, т.к. оценки коэффициентов есть решение
системы
(X X)β = X y.
Более того, система имеет бесконечно много решений.

det(X X) = 0.
В этом случае оценки наименьших квадратов не могут быть
найдены однозначно, т.к. оценки коэффициентов есть решение
системы
(X X)β = X y.
Более того, система имеет бесконечно много решений.
Следовательно, невозможно оценить модель регрессии.

Хорошая новость: на практике встречается крайне редко и как
правило связана невнимательностью.

Что делать: исключить проблемный фактор.

Что делать: исключить проблемный фактор.
Пример
Пусть H – общее располагаемое время, t – рабочее время, l –
время на отдых (leisure). Тогда очевидно
H = t + l
и в модель нельзя одновременно включить H, t и l.

«Практическая» мультиколлинеарность: на выборочных данных
один из регрессоров «почти выражается» через остальные
регрессоры («хорошо приближается» остальными).

«Практическая» мультиколлинеарность: на выборочных данных
один из регрессоров «почти выражается» через остальные
регрессоры («хорошо приближается» остальными).
Формально: рассмотрим линейные регрессии каждого из
регрессоров на оставшиеся
x1 на x2, x3, . . . , xk R2
1
x2 на x1, x3, . . . , xk R2
2
...
...
xk на x1, x2, . . . , xk−1 R2
k
Важно!
Эти регрессии в общем случае не имеют экономического смысла.

“Практическая” мультиколлинеарность: один из коэффициентов
R2
j “большой” (“близок к единице”). Также говорят, что
соответствующий фактор xj дает “проблему
мультиколлинеарности”.
Это равносильно det(X X) “близок к нулю”.

“Практическая” мультиколлинеарность: один из коэффициентов
R2
j “большой” (“близок к единице”). Также говорят, что
соответствующий фактор xj дает “проблему
мультиколлинеарности”.
Это равносильно det(X X) “близок к нулю”.
Важно!
“Практическая” мультиколлинеарность носит не
“количественный”, а “качественный” характер.
В самом деле, что значит “R2
j близок к единице” количественно?

Можно показать, что для стандартной ошибки коэффициента
s. e.(βj ) =
s2
(1 − R2
j ) TSSj
TSSj – общая выборочная вариация фактора xj .

Можно показать, что для стандартной ошибки коэффициента
s. e.(βj ) =
s2
(1 − R2
j ) TSSj
TSSj – общая выборочная вариация фактора xj .
Тогда
1 “большой” R2
j =⇒ s. e.(βj ) 1.
2 s. e.(βj ) 1 =⇒ тестовая статистика t = ˆβj / s. e.(βj )
“маленькая”
3 “маленькая” тестовая t-статистика может привести к выводу
о незначимости коэффициента.

Важно!
Как правило феномен мультиколлинеарности проявляется на
малых выборках, так что его можно считать«проблемой малых
выборок» (micronumerosity).
Это связано с состоятельностью OLS-оценок коэффициентов:
при βj = 0
ˆβj → βj s. e.(βj ) → 0 t =
ˆβj
s. e.(βj )
→ +∞ при n → +∞

Как идентифицировать мультиколлинеарность? Какие
возможные количественные характеристики?

Как идентифицировать мультиколлинеарность? Какие
возможные количественные характеристики?
Наиболее распространённая количественная характеристика
мультиколлинеарности основана на
VIFj =
1
1 − R2
j
≥ 1, j = 1, . . . , k
(Variance Inﬂation Factor, считается для каждого коэффициента).
Хорошая новость: считается автоматически.

Эмпирическое правило №1 (gretl)
Для фактора xj (возможно!) есть проблема
мультиколлинеарности, если VIFj > 10.

Эмпирическое правило №2

Эмпирическое правило №2
Важно!
Если есть проблема мультиколлинеарности, то возможно именно
она является причиной незначимости коэффициента.

Пример (Зарплатное уравнение 1)
Для мужчин возрастной группы 28 – 38 лет оценили модели
регрессии, описывающие зависимость месячной зарплаты (wage)
от возраста (age) (+ другие факторы):

Пример (Зарплатное уравнение 1)
Для мужчин возрастной группы 28 – 38 лет оценили модели
регрессии, описывающие зависимость месячной зарплаты (wage)
от возраста (age) (+ другие факторы):
Зависимая переменная: ln(wage)
const age age2
· · ·
коэфф 4.10328 0.132716 −0.00177434 · · ·
№1 P-знач 0.0216 0.2188 0.2736 · · ·
VIF 630.276 630.244 · · ·
коэфф 6.04976 0.0146772 · · ·
№2 P-знач 4.08 ·10−8
0.0011 · · ·
VIF 1.088 · · ·

5
6
7
8
27.5 30.0 32.5 35.0 37.5
age
log(wage)

900
1100
1300
27.5 30.0 32.5 35.0 37.5
age
age^2

Расчёты в gretl:
Модель 1: МНК, использованы наблюдения 1–935
Зависимая переменная: sq_age
Коэффициент Ст. ошибка t-статистика P-значение
const −1096,83 2,88513 −380,1682 0,0000
age 66,5286 0,0868341 766,1581 0,0000
Среднее зав. перемен 1103,949 Ст. откл. зав. перемен 206,9222
Сумма кв. остатков 63462,35 Ст. ошибка модели 8,247404
R2
0,998413 Исправленный R2
0,998411
F(1, 933) 586998,2 Р-значение(F) 0,000000
Лог. правдоподобие −3298,462 Крит. Акаике 6600,923
Крит. Шварца 6610,604 Hannan–Quinn 6604,615

Пример (Зарплатное уравнения 2)
Зависимость средней почасовой зарплаты wage от опыта работы
exper (1-51 год) (+ другие факторы):
Зависимая переменная: ln(wage)
const exper exper2
· · ·
коэфф 1.25042 0.0368797 −0.000771672 · · ·
№1 P-знач 3.28 ·10−68
2.21 ·10−10
5.37 ·10−10
· · ·
VIF 15.568 14.699 · · ·
коэфф 1.41366 0.00215516 · · ·
№2 P-знач 1.36 ·10−88
0.1745 · · ·
VIF 1.121 · · ·

0
1
2
3
0 10 20 30 40 50
exper
log(wage)

0
1000
2000
0 10 20 30 40 50
exper
exper^2

Расчёты gretl:
Модель 1: МНК, использованы наблюдения 1–526
Зависимая переменная: expersq
Коэффициент Ст. ошибка t-статистика P-значение
const −211.534 20.0213 −10.5654 0.0000
exper 44.9991 0.549236 81.9302 0.0000
smsa −5.68297 15.8471 −0.3586 0.7200
female −3.42077 14.2777 −0.2396 0.8107
married −123.347 15.4241 −7.9971 0.0000
Среднее зав. перемен 473.4354 Ст. откл. зав. перемен 616.0448
Сумма кв. остатков 13555205 Ст. ошибка модели 161.2999
R2
0.931967 Исправленный R2
0.931444
F(4, 521) 1784.251 Р-значение(F) 2.0e–302
Лог. правдоподобие −3417.647 Крит. Акаике 6845.295
Крит. Шварца 6866.621 Hannan–Quinn 6853.645

Что делать при мультиколлинеарности?
Универсальных “рецептов” нет. Всё зависит от конкретной
ситуации! (как всегда в экономике)

Несколько возможных рекомендаций:
Исключить “проблемный” фактор. Но исключать факторы
нужно острожно (можно получить ошибку спецификации)

Изменить спецификацию (например, перейти к
логарифмам).

Увеличить объем выборки.

Увеличить объем выборки.
Оставить “как есть” (например, если нужно оценить модель
именно заданной спецификации).

Эконометрика: тема 2

Recommended

Recommended

More Related Content

Featured

Featured (20)

Эконометрика: тема 2