2. 2.1. REGRESI
Regresi adalah studi bagaimana satu
variabel yaitu variabel dependen
dipengaruhi oleh satu atau lebih
variabel independen dengan tujuan
untuk mengestimasi dan atau
memprediksi nilai rata-rata variabel
dependen didasarkan pada nilai
variabel independen yang diketahui.
3. Hubungan linear keduanya dapat kita tulis dalam
persamaan regresi sebagai berikut :
Yi = 0 + 1Xi + i (i = 1, 2, …, n)
dimana :
Yi merupakan nilai dari variabel dependent pada
observasi ke-i
0 dan 1 merupakan parameter model
i merupakan Variabel error
(pengaruh variabel bebas lain selain variabel X)
Xi nilai variabel bebas (independen) X pd observasi ke-i
n adalah banyaknya data observasi (sampel)
Note: 0 dan 1 disebut juga koefisien regresi,
0 merupakan intercept dan 1
merupakan slope (gradien garis) yang
menyatakan perubahan nilai Y untuk
setiap kenaikan satu satuan X
4. JENIS DATA
Cross Section
Time Series
Pooled (Data
Panel)
Regresi Cross
Section
Regresi Time
Series
Regresi Pooled
(Data Panel)
5. Pendugaan / Estimasi Parameter
Metode Estimasi pada
Regresi Linear
Maximum Likelihood
Method
Least Squares Method
Ordinary Least
Squares Method (OLS)
Generalized Least
Squares Method (GLS)
7. Ada beberapa asumsi OLS yang digunakan dalam
regresi berganda :
1.Hubungan antara X (variabel independen) dan Y
(variabel dependen) adalah linear dalam parameter.
2.Nilai X nilainya tetap (non stocastic) untuk observasi
yang berulang-ulang.
3.Nilai terapan (expected value) atau rata-rata dari
variabel gangguan еі adalah nol.
E(eiXi)=0
4.Varian dari variabel gangguan ei adalah sama
Var(eiXi)=σ²
5.Tidak ada serial korelasi antara variabel gangguan ei.
Cov(ei,ejXi,Xj)=0
6.Variabel gangguan ei berdistribusi normal.
e ~ N (0,σ²)
8. Jika asumsi 1 sampai 5 terpenuhi maka metode
OLS akan menghasilkan kriteria sbb :
1.Estimator adalah linear terhadap variabel
indepanden Y.
2.Estimator tidak bias .
3.Estimator varian yang minimum.
1
ˆ
1
ˆ
1
ˆ
B
L
U
E
9. yi = 0 + 1xi1 + 2xi2 + … + pxip + I
dimana
yi = variabel tak bebas (response/dependent variable)
xi = variabel bebas (predictor/independent variable) ke-i
i = suku sisaan (error/residual)
i = koefisien regresi dari variabel bebas ke-i
10. Evaluasi hasil regresi meliputi :
1.Penilaian seberapa baik model regresi
menjelaskan variasi variabel dependen
melalui koefisien determinasi.
2.Uji signifikansi pengaruh semua variabel
independen secara serentak terhadap
variabel dependen melalui uji F.
3.Uji signifikansi pengearuh variabel
independen terhadap variabel dependen
secar individu melalui uji t.
4.Uji asumsi-asumsi OLS.
11. TSS = ESS + RSS
2
2
2
)
ˆ
(
)
ˆ
(
)
( Y
Y
Y
Y
Y
Y i
i
i
i
2
2
2
)
(
)
ˆ
(
1
Y
Y
Y
Y
R
TSS
ESS
TSS
RSS
R
1
2
12. Adjusted R²
Dimana :
k = Jumlah parameter estimasi,termasuk
intersep
n = Jumlah observasi
)
1
/(
)
(
)
/(
)
(
1 2
2
n
Y
Y
k
n
e
R
i
i
adj
13. Uji F digunakan untuk mengevaluasi pengaruh
semua variabel independen terhadap variabel
dependen.
F= ESS/(k-1) atau : F= R²/(k-1)
RSS/(n-k) 1-R²/(n-k)
dimana :
n = jumlah observasi
k = jumlah parameter estimasi termasuk
intersep atau konstanta
R² = koefisien determinasi
14. Uji t
Uji t digunakan untuk membuktikan apakah
variabel independen secara individu
mempengaruhi variabel dependen.
Probabilitas Distribusi t
Uji Distribusi t digunakan untuk membuktikan
apakah variabel independen secara individu
mempengaruhi variabel dependen dengan
melihat nilai probabilitasnya (nilai untuk uji dua
sisi).
15. Metode Stepwise ini digunakan dalam
modeling regresi yaitu ketika kita mempunyai
banyak variabel independen.
Contoh :
Regresi Ekspor Gas Alam Indonesia ke Jepang
Metode Stepwise
Hasil metode stepwise dengan program SPSS
sebagai berikut :
16. Tampilan 1
Model R R Square
Adjusted R
Square
Std Error of the
Estimate
1 .836 a .699 .686 2540158.65
2 .909 b .827 .811 1971902.24
3 .926 c .857 .837 1830222.87
a. Predictors : (Constant), GDP Jepang
b. Predictors : (Constant), GDP Jepang, Harga Gas Alam
c. Predictors : (Constant), GDP Jepang, Harga Gas Alam,
Harga Minyak Bumi
Model Summary
17. Tampilan 2
Model
Sum of
Square
df Mean Square F Sig
1 Regression 3E + 014 1 3.448E+014 53.440 .000a
Residual 1E + 014 23 6.452E+012
Total 5E + 014 24
2 Regression 4E + 014 2 2.038E+014 52.422 .000b
Residual 9E + 013 22 3.888E+012
Total 5E + 014 24
3 Regression 4E + 014 3 1.410E+014 42.081 .000c
Residual 7E + 013 21 3.350E+012
Total 5E + 014 24
a. Predictors : (Constant), GDP Jepang
b. Predictors : (Constant), GDP Jepang, Harga Gas Alam
c. Predictors : (Constant), GDP Jepang, Harga Gas Alam, Harga Minyak Bumi
d. Dependent Variable : Ekspor Gas alam ke Jepang
ANOVA d
18. Tampilan 3
Standardized
Coefficients
B Std Error Beta
1 (Constant) 2357312 2037145 1.157 .259
GDP Jepang 35.114 4.803 .836 7.310 .000
2 (Constant) 1E + 007 2631470 4.109 .000
GDP Jepang 29.689 3.965 .707 7.487 .000
Harga Gas Alam -32755.9 8146.778 -.380 -4.021 .001
3 (Constant) 1E + 007 2471902 4.047 .001
GDP Jepang 30.983 3.730 .738 8.306 .000
Harga Gas Alam -59172.2 14524.135 .686 -4.047 .001
Harga Minyak Bumi 229125.2 107558.5 .363 2.130 .045
a. Dependent Variable : Ekspor Gas alam ke Jepang
Coefficients a
Model
Unstandardized Coefficients
t Sig
19. Tampilan 4
Collinearity
Statistics
Tolerance
1 Harga Gas Alam -.380a -4.021 .001 -.651 .884
Kurs RupiahYen -.395a -2.620 .016 -.488 .458
Harga Minyak Bumi -.230a -1.981 .060 -.389 .862
2 Kurs RupiahYen -.123b -.745 .465 -.160 .293
Harga Minyak Bumi -.363b 2.130 .045 .422 .234
3 Kurs RupiahYen -.174c -1.139 .268 -.247 .287
a. Predictors in the Model : (Constant), GDP Jepang
b. Predictors in the Model : (Constant), GDP Jepang, Harga Gas Alam
c. Predictors in the Model : (Constant), GDP Jepang, Harga Gas Alam, Harga Minyak Bumi
d. Dependent Variable : Ekspor Gas alam ke Jepang
Model Beta In t Sig Partial Correlation
Excluded Variables d
20.
21. lnY₁ = ß₀ + ß₁lnX₁ì + ß2lnX2ì + ß3lnX3ì +
ß4lnX4ì
Contoh :
Tampilan 1
Model R R Square
Adjusted R
Square
Std Error of the
Estimate
1 .937 a .878 .853 .13040130
a. Predictors : (Constant), Harga Minyak Bumi, Kurs
Rupiah Yen, Harga Gas Alam, GDP Jepang
Model Summary
22. -
Tampilan 2
Model
Sum of
Square
df Mean Square F Sig
1 Regression 2.442 4 .611 35.908 .000a
Residual .340 20 .017
Total 2.782 24
a. Predictors : (Constant), Harga Minyak Bumi, Kurs Rupiah Yen
Harga Gas Alam, GDP Jepang
b. Dependent Variable : Ekspor Gas alam ke Jepang
ANOVA d
