Dokumen tersebut membahas tentang kolinearitas ganda dan heteroskedastisitas dalam regresi linier. Kolinearitas ganda terjadi ketika terdapat hubungan linier sempurna antara variabel-variabel penjelas, sementara heteroskedastisitas terjadi ketika varians error tidak konstan. Kedua masalah tersebut dapat menyebabkan estimasi koefisien menjadi tidak efisien walaupun tidak bias. Dokumen ini juga menjelaskan berbagai cara untuk men

1. KOLINEARITAS GANDA
(MULTICOLLINEARITY)
KOLINEARITAS GANDA
(MULTICOLLINEARITY)
Oleh Bambang Juanda

2. Ci konstanta yg tdk semuanya 0.
• Mudah diketahui krn tdk ada dugaan parameter
koef dgn OLS, juga ragamnya.
• Kolinearitas ganda hanya untuk hubungan linear.
bukan, Yi (biaya)=f(output)
= 0 + 1 X + 2 X2 +…+ p Xp
• Karena asumsi X nonstokastik (fixed),
multikolinearitas hanya fenomena sample saja.
Model: Yi = 1 X1 + 2 X2 +…+ k Xk + εi
0
1


k
i
ii XC
1. Hubungan Linear Sempurna (eksak), Jika
Ci konstanta yg tdk semuanya 0.
• Mudah diketahui krn tdk ada dugaan parameter
koef dgn OLS, juga ragamnya.
• Kolinearitas ganda hanya untuk hubungan linear.
bukan, Yi (biaya)=f(output)
= 0 + 1 X + 2 X2 +…+ p Xp
• Karena asumsi X nonstokastik (fixed),
multikolinearitas hanya fenomena sample saja.

3. Konsekuensinya (dan Juga mendeteksinya) :
Masih bersifat Tak Bias, tapi tidak berarti ragamnya harus kecil
Tidak bisa (sulit) memisahkan pengaruh masing-masing peubah
bebas,karena besar
Koefisien sulit diinterpretasi (Asumsi Ceteris Paribus?)
R2 tinggi, tapi tidak ada (sedikit) koefisien yang nyata, bahkan tandanya
bisa terbalik
Koefisien korelasi sederhana atau tinggi.
2
ˆˆ
i

  BesarTapiBias,Tidakˆ 2
ˆ 
i
iE 

sisaan,0
1

ii
k
i
ii vvXC
2. Hubungan Linear Tidak Sempurna, jika :
Konsekuensinya (dan Juga mendeteksinya) :
Masih bersifat Tak Bias, tapi tidak berarti ragamnya harus kecil
Tidak bisa (sulit) memisahkan pengaruh masing-masing peubah
bebas,karena besar
Koefisien sulit diinterpretasi (Asumsi Ceteris Paribus?)
R2 tinggi, tapi tidak ada (sedikit) koefisien yang nyata, bahkan tandanya
bisa terbalik
Koefisien korelasi sederhana atau tinggi.
2
ˆˆ
i

 lainnya2
XfXutkR jj 
ji xxrNote : merupakan syarat cukup bukan syarat perlu
Multikolinearitas

4. VIF : Variance Inflation Factor = Kenaikan karena korelasi
antara peubah penjelas.
λ = akar ciri matriks (X`X)
Aturan praktis : kolinearitas jika K ≥ 30; atau K ≥ (VIFjmax)1/2……………(Berk 1977)
   22
2
1
1ˆ
jj
j
Rx
Var





2
1
1
jR
 jVar ˆ
2
1
min
max









K
Mengatasi Kolinearitas Ganda :Mengatasi Kolinearitas Ganda :
1. Manfaatkan Informasi sebelumnya ( a Prior information)
Mis: tingkat perubahan konsumsi (Y) terhadap perubahan kekayaan (x3)
sepersepuluh dari tingkat perubahannya terhadap perubahan pendapatan
(x2)  β3 = 0,1 β2
Yi = 1 + 2 Xi + εi ; + Xi = X2i + 0.1 X3i
2. Mengeluarkan peubah dengan kolinearitas tinggi (Kesalahan Spesifikasi)

5. 5. Menggabungkan data ‘cross section’ dan ‘time series”
Mis :
Karena rPY maka , Misal : 3 dari SUSENAS
dimana harga tidak begitu
bervariasi
6. Penambahan data baru 
7. Cek kembali asumsi waktu membuat model (Mis :CRS,IRS,..komponen error)
seringkali jika tidak nyata dianggap masalah kolinearitas ganda ?! Dan
umumnya di pecahkan dengan mencari prosedur pendugaan
tttt YPQ   lnlnln 321
t
tt
PQ
YQQ
t
t
ln
lnln
21
*
3
*




3. Transformasi data dengan perbedaan pertama (first differnce form) utk data
time series.
4. Menggunakan PCA , Ridge Regression  berbias tapi Var(i ) kecil
5. Menggabungkan data ‘cross section’ dan ‘time series”
Mis :
Karena rPY maka , Misal : 3 dari SUSENAS
dimana harga tidak begitu
bervariasi
6. Penambahan data baru 
7. Cek kembali asumsi waktu membuat model (Mis :CRS,IRS,..komponen error)
seringkali jika tidak nyata dianggap masalah kolinearitas ganda ?! Dan
umumnya di pecahkan dengan mencari prosedur pendugaan
t
tt
PQ
YQQ
t
t
ln
lnln
21
*
3
*





i
j j
x 22


6. HETEROSCEDASTICITY (Heteroskedastisitas)
-Sering terjadi dlm data “cross section”
misal: Hubungan pendapatan & pengeluaran RT, Perusahaan
-Biasanya tdk terjadi dlm data “ Time Series”
-Jika Var (εi) , E (εi
2)=σi
2, penduga koefisien OLS tetap tak bias
dan konsisten, tapi tidak efisien, bahkan Var( )OLS berbias
Dlm model linear sederhana:
-Sering terjadi dlm data “cross section”
misal: Hubungan pendapatan & pengeluaran RT, Perusahaan
-Biasanya tdk terjadi dlm data “ Time Series”
-Jika Var (εi) , E (εi
2)=σi
2, penduga koefisien OLS tetap tak bias
dan konsisten, tapi tidak efisien, bahkan Var( )OLS berbias
Dlm model linear sederhana:

 
 2
)(
i
iii
x
xx 



 2
^
i
ii
x
yx


7. 









)1980,(
)(
)(
)Var(;
)(
)(
22
22
22
22
2
2
2
2
Whiteec
x
x
cVar
x
x
c
xx
xE
E
ii
i
ii
ii
i
i
i
i
OLS
i
ii






Tetapi tetap inefisien dibandingkan penduga tak bias berikut ini :
Mis. , ki: konstanta yg tdk harus samaii k22
 
    


  2
2
2
2
22
22
)ˆ(
i
ii
ii
ii
x
kx
xx
kx
Var


  12
2



i
ii
x
kx
Jika Maka underestimate dan thit overestimate OLSVar ˆ

8. Mendeteksi Heteroskedastisitas
• Metode grafik diplotkan.
• Uji Heteroskedastisitas :
Ho :
H1 : tergantung pendugaan yang dianggap akan menghasilkan
koreksi heteroskedastisitas yang paling diinginkan.
1. UJI PARK (Econometrica, vol 34, No. 4, 1966)
menganjurkan fungsi :
)e(x,atau),( 22
ieY

22
2
2
1 ... N 
• Metode grafik diplotkan.
• Uji Heteroskedastisitas :
Ho :
H1 : tergantung pendugaan yang dianggap akan menghasilkan
koreksi heteroskedastisitas yang paling diinginkan.
1. UJI PARK (Econometrica, vol 34, No. 4, 1966)
menganjurkan fungsi :
vi?polamasalah?signifikan22


 vi
ii ex
2
i
2
i edenganPlot

9. 2. UJI GLEJSER (seperti uji Park)
Fungsi Linear |ei| terhadap :
3. UJI Korelasi Pangkat SPEARMAN (urutan ei dan Xi)
,...
1
,
1
,,
ii
ii
xx
xxFungsi Linear |ei| terhadap :
3. UJI Korelasi Pangkat SPEARMAN (urutan ei dan Xi)
)2(22
2
1
2
)1(
61 














n
s
si
s t
r
nr
t
nn
d
r

10. 4. UJI GOLDFELD-QUANDT (JASS, Vol 60, 1965)
Cara : 1. Urutkan data peubah bebas x.
2. Keluarkan d pengamatan di tengah (jika tidak ada `natural
break`) misal : d=
3. Hitung 2 model regresi terpisah tersebut, dengan
dbe=(N-d-2k)/2
4. Hitung JKS1 dan JKS2
5. Dengan asumsi masing-masing εi ~Normal,
Note : - Jika k>2, urutkan pengamatan berdasarkan salah satu peubah
bebasnya
- Supaya kuasa uji tinggi (salah jenis II lebih keci), harus dengan
restriksi dimana kedua model regresi tersebut mempunyai
parameter koefisien yang sama
22
1 : ii cxH  
N
5
1
Cara : 1. Urutkan data peubah bebas x.
2. Keluarkan d pengamatan di tengah (jika tidak ada `natural
break`) misal : d=
3. Hitung 2 model regresi terpisah tersebut, dengan
dbe=(N-d-2k)/2
4. Hitung JKS1 dan JKS2
5. Dengan asumsi masing-masing εi ~Normal,
Note : - Jika k>2, urutkan pengamatan berdasarkan salah satu peubah
bebasnya
- Supaya kuasa uji tinggi (salah jenis II lebih keci), harus dengan
restriksi dimana kedua model regresi tersebut mempunyai
parameter koefisien yang sama
),(
1
2
1 dbedbeF
JKS
JKS


11. 5. UJI BREUSCH-PAGAN ( Econometrica, Vol 47, 1979 )
Misal Model : Yi=α + β xi + εi
dengan asumsi umum:
z dapat merupakan peubah bebas x atau suatu kelompok peubah
bebas selain x.
> gunakan
> Lakukan Regresi:
> Jika εi ~Normal, merupakan statistik uji yang cocok.
Jika nyata (heteroskedastisitas), koreksinya menggunakan peubah z
)(2
ii zf  
N
i
i




22
menghitunguntuk


ii
i
i
vz 




2
2
Misal Model : Yi=α + β xi + εi
dengan asumsi umum:
z dapat merupakan peubah bebas x atau suatu kelompok peubah
bebas selain x.
> gunakan
> Lakukan Regresi:
> Jika εi ~Normal, merupakan statistik uji yang cocok.
Jika nyata (heteroskedastisitas), koreksinya menggunakan peubah z
N
i
i




22
menghitunguntuk


ii
i
i
vz 




2
2
)(
2
2
p
JKR


12. 6. WHITE TEST (Econometrica, Vol. 48, 1980)
• Tidak perlu asumsi kenormalan seperti B-test.
• Dengan asumsi umum :
dengan R2 sebagai ukuran `goodness of fit`.
Jika homoskedastisitas,
,
2
iii vz 


2
)(
2
pNR 

13. CARA MENGATASI (MENGOREKSI) HETEROSKEDASTISITAS
a) Jika σ2 diketahui Weighted Least Squares (MKT tertimbang);
kasus khusus dari GLS, yg dpt
diturunkan dari fungsi kemungkinan
maximum.
Note :
simpangan (pengamatan) ekstrim dpt timbangan kecil




22
2
)()(
1
i
ii
ii
i
xY
xYJKS







 

*
**
/
/
22
2
i
ii
ii
iii
x
yx
x
yx



i
i
i
i
i
i
y
y
x
x

 *dan*dimana



 

*
**
/
/
22
2
i
ii
ii
iii
x
yx
x
yx



i
i
i
i
i
i
y
y
x
x

 *dan*dimana
|
1
x|...
i
221

 ikikii xxY 
i
i
i
ki
k
i
i
ii
i xxY









 ...
1 2
21
**...*** 2211 ikikii xxxY  
1)(
1
*)( 2
 i
i
i VarVar 


Cara Transformasi Model:

14. b. Jika σi
2 tidak diketahui  sering menggunakan asumsi tentang σi
2
Misal Asumsi : Var(εi)=C X2i
2  lakukan seperti di atas dengan
transformasi: x (X2i)-1
i
i
i
ki
k
i
i
ii
i
xx
x
x
x
xx
Y
222
3
32
2
1
2
...
1 
 
cVar i  *)( cVar i  *)(

15. 252.7F;93.0R;237.089.0 2


ii xY
c. Dapat dengan Transformasi Log (memperkecil skala) 
kadangkala dapat masalah baru, seperti Spurious
correlation, kolinearitas.
Teladan : Dengan OLS :
(4.4) (15.9) statistik t
Dengan WLS :
58.7F;76.0R;
1
7529.0249.0
*
1
**
2



ii
i
i
ii
i
xx
Y
xx
Y

58.7F;76.0R;
1
7529.0249.0
*
1
**
2



ii
i
i
ii
i
xx
Y
xx
Y

(21.3) (7.7)
R2
WLS < R2
OLS  jangan dianggap sebagai indikasi bahwa koreksi
heteroskedastisitas kurang baik karena prosedur WLS melibatkan
transformasi peubah tak bebas (Y*)
Dengan indikator :


2
)249.07529.0( RXY iii 1-0harustidak1 
JKT
JKS

ii YY
r
iY
