Gunosy2015-06-03

1. 北川源四郎「時系列解析入門」 第 7 章
柏野 雄太
バクフー株式会社
June 4, 2015

2. AR(自己回帰) モデル
AR モデル eq.7.1
yn =
m
i=1
aiyn−i + vn
時系列 y1, ..., yN
m: 自己回帰次数
ai: 自己回帰係数
vn: 平均 0, 分散 σ2 の正規分布に従う白色雑音
目的
次数 m を決定し，自己回帰係数 a1, ..., am と分散 σ2 を推定すること
2 / 12

3. そもそも AR モデルとは
時刻 n における yn を，過去の値 yn−1, yn−2, · · · とホワイトノイズ vn で表
現する．
yn =
m
i=1
aiyn−i + vn
yn
yn−1· · ·
vn
yn−2
Figure: AR モデルの概念図
3 / 12

4. AR モデルの推定方法
最尤推定法
ユール・ウォーカー法 (レビンソン＝ダービンのアルゴリズム)
最小二乗法
PARCOR 法 ⇐= 本日はここまで
多変量版のユール・ウォーカー法
多変量版の最小二乗法
4 / 12

5. TSSS 版 AR モデルの推定
TSSS 版 AR モデル推定
#␣TSSS における AR モデルの推定
library("TSSS")
data(Sunspot)
ywar␣=␣arfit(Sunspot,␣method=1)␣#Yule-Walker␣method
arfit(Sunspot,␣method=2)␣#Least␣squares␣(Householder)
arfit(Sunspot,␣method=3)␣#PARCOR␣method␣(Partial␣autoregression)
arfit(Sunspot,␣method=4)␣#PARCOR␣method␣(PARCOR)
arfit(Sunspot,␣method=5)␣#PARCOR␣method␣(Burg’s␣algorithm)
5 / 12

6. R Stat 版 AR モデルの推定
R Stat 版 AR モデル推定
#␣R␣stat における AR モデルの推定
mle␣=␣ar(Sunspot,␣method="mle")
yw␣=␣ar(Sunspot,␣method="yw")
ols␣=␣ar(Sunspot,␣method="ols")
6 / 12

7. R で AR 推定の通常の手順
R で AR モデル推定
#␣R で AR 推定の通常の手順
library("TSSS")
data(Sunspot)
plot(Sunspot,␣type="l")
acf(Sunspot)
pacf(Sunspot)
res␣=␣ar(Sunspot)
res$aic
#␣Ljung-Box テストで「v_n がホワイトノイズ」という帰無仮説を検定する
Box.test(res$res,␣type="Ljung")
7 / 12

8. R で AR(2) を生成
AR(2) を生成
#␣R で独自に AR(2) を生成して Plot
v␣<-␣rnorm(200)
v␣<-␣v[101:200]
x␣<-␣filter(v,␣filter=c(0.9*sqrt(3),␣-0.81),␣method="recursive")
plot(x)
pacf(x)
aa$aic
ar(x)
8 / 12

9. 注意
輪読会では別途書籍をベースに説明したために，これより後のページは暫
定的なものになります．時間があるときに追記します．
9 / 12

10. AR モデルの最尤推定
AR モデルに従う時系列の同時分布は多変量正規分布である．
AR モデル尤度
L(θ) = p(y1, · · · , yN |θ)
= (2π)− N
2 |Σ|− 1
2 exp[−
1
2
yT
Σ−1
y]
分散共分散行列 eq.7.2
Σ =





C0 C1 · · · CN−1
C1 C0 · · · CN−2
...
...
...
...
CN−1 CN−2 · · · C0





しかし，このままでは複雑すぎて解けないので，工夫する．
10 / 12

11. AR モデルの最尤推定 2
尤度を乗法定理を用いて条件付き分布の積で表現してから，近似．
AR モデル尤度 eq. 7.4
L(θ) = p(y1, · · · , yN |θ)
= p(y1, · · · , yN−1|θ)p(yN |y1, · · · , yN−1, θ)
...
=
N
n=1
p(yn|y1, · · · , yn−1, θ)
AR モデル AIC eq. 7.5
AIC = −2 log L(ˆθ) + 2(m + 1)
11 / 12

12. AR モデル推定：ユール・ウォーカー法
自己共分散関数のユール・ウォーカー方程式から自己回帰係数，σ2 を求
める．
ユール・ウォーカー方程式
C0 =
m
i=1
aiCi + σ2
(1)
Cj =
m
i=1
aiCj−1
一次推定式





ˆC0
ˆC1 · · · ˆCm−1
ˆC1
ˆC0 · · · ˆCm−2
...
...
...
...
ˆCN−1
ˆCN−2 · · · ˆC0










a0
a1
...
am





=





ˆC1
ˆC2
...
ˆCm





12 / 12