Dokumen tersebut membahas konsep dasar model regresi linear sederhana, termasuk parameternya, asumsi-asumsi model, dan metode estimasi parameter menggunakan ordinary least squares. Secara ringkas, model regresi linear sederhana digunakan untuk menjelaskan hubungan antara variabel tergantung dengan satu variabel bebas, dengan metode estimasi kuadrat terkecil untuk memperoleh nilai parameternya.

1. William J. Stevenson
Operations Management
8th edition
REGRESI
Rosihan Asmara
http://rosihan.lecture.ub.ac.id
http://rosihan.web.id
http://rosihan.web.id

2. Model Regresi Sederhana
Yi = 0 + 1 Xi + i
 0 dan 1 : parameter dari fungsi yg nilainya akan
diestimasi.
 Bersifat stochastik  untuk setiap nilai X terdapat suatu
distribusi probabilitas seluruh nilai Y atau Nilai Y tidak
dapat diprediksi secara pasti karena ada faktor
stochastik i yang memberikan sifat acak pada Y.
 Adanaya variabel i disababkan karena:
 Ketidak-lengkapan teori
 Perilaku manusia yang bersifat random
 Ketidak-sempurnaan spesifikasi model
 Kesalahan dalam agregasi
 Kesalahan dalam pengukuran
http://rosihan.web.id

3. .
.
.
.
. .
.
.
Ÿi = b0 + b1 XiYi
Ÿi
i
X
Y
Yi = 0 + 1 Xi + i
Variation
in Y
Systematic
Variation
Random
Variation
0
Asumsi-asumsi mengenai i:
1. i adalah variabel random yg menyebar normal
2. Nilai rata-rata i = 0, e( i) = 0.
3. Tidak tdpt serial korelasi antar i cov( i, j) = 0
4. Sifat homoskedastistas, var( i) = 2
5. cov( i,Xi) = 0
6. Tidak terdapat bias dalam spesifikasi model
7. Tidak terdapat multi-collinearity antar variebel penjelas
http://rosihan.web.id

4. X1 X2 X3
Fungsi Regresi Populasi
E(Yi) = 0 + 1 Xi
X
Y
Yi = 0 + 1 Xi + i
Nilai rata2 Yi :
E(Yi) = 0 + 1 Xi
I = Yi - E(Yi)
http://rosihan.web.id

5. METODE PENAKSIRAN PARAMETER DALAM
EKONOMETRIK
Metode estimasi yang sering digunakan adalah Ordinary Least
Square (OLS). Dalam regresi populasi dikenal pula adanya
istilah PRF (Population Regression Function) dan dalam
regresi sampel sebagai penduga regresi populasi dikenal
istilah SRF (Sample Regression Function).
Yi
ei
ui
0 XXi
Y
XY
^^^
X)Y(E
SRF
PRF
P
Yi^
http://rosihan.web.id

6. Penaksir kuadrat terkecil adalah mempunyai varian yang minimum yaitu penaksir
tadi bersifat BLUE (Best Linear Unbiased Estimator). Asumsi yang harus
dipenuhi dalam penaksiran metode OLS adalah sebagai berikut :
1. i adalah sebuah variabel acak atau random yang riil dan memiliki distribusi
normal.
2. Nilai harapan dari i yang timbul karena variasi nilai Xi yang diketahui
harus sama dengan nol. E( i/ Xi) = 0
3. Tidak terjadi autokorelasi atau serial korelasi. Artinya,
Cov( i, j) = E i – E( i) j – E( j)
= E( i, j)
= 0 .................... i j
4. Syarat Homoskedastisiti. Artinya bahwa varian dari i adalah konstan dan
sama dengan 2.
Var ( i / Xi) = E i – E( i) 2
= E( i)2
= 2
5. Tidak terjadi multikolonieritas. Yaitu tidak ada korelasi antara dengan
variabel bebasnya Xi atau :
Cov( i , Xi) = E( i – E( i))(Xi – E(Xi))
= 0
http://rosihan.web.id

7. Pengujian statistik SECARA PARSIAL mendasarkan pada hipotesis
:
Uji Konstanta Intersep H0 : ß0 = 0
H1 : ß0 ≠ 0
Uji Koeff. X H0 : ß1 = 0
H1 : ß1 ≠ 0
REGRESI LINEAR SEDERHANA
Y = ß0 + ß1 X
Pengujian statistik model secara keseluruhan dilakukan dengan uji-F.
Uji F mendasarkan pada dua hipotesis, yaitu :
H0 : Semua koefisien variabel bebas adalah 0 (nol)
H1 : Tidak seperti tersebut di atas
http://rosihan.web.id

8. Sehingga dapat disajikan hasil sebagai berikut :
Konsumsi = 24.455 + 0.509*Income R2 = 0.962
S.E (6.414) (0.036)
t-hitung = 3.813 14.243
F hit = 202,868
Df = 8
Dalam pengertian ekonomi dapat dikatakan bahwa jika terdapat
kenaikan income sebesar $ 1 per bulan maka akan
mempengaruhi kenaikan pula pada konsumsi sebesar $ 0.509.
Demikian juga bila terjadi penurunan income sebesar $ 1 per
bulan maka akan berdampak pada penurunan konsumsi sebesar
$ 0.509.
Contoh :
http://rosihan.web.id

9. Estimasi Parameter
Model Regresi Sederhana
Yi = 0 + 1 Xi + i
Metode Kuadrat Terkecil
(Ordinary Least Square – OLS):
Prinsip: Meminimumkan nilai error – mencari jumlah
penyimpangan kuadrat ( i
2) terkecil.
i = Yi - 0 - 1 Xi
i
2 = (Yi - 0 - 1 Xi)2
i
2 = (Yi - 0 - 1 Xi)2
i
2 minimum jika:
i
2 / 0 = 0  2 (Yi - 0 - 1 Xi) = 0
i
2 / 1 = 0  2 Xi (Yi - 0 - 1 Xi) = 0
http://rosihan.web.id

10. Sederhanakan, maka didapat:
(Xi – X) (Yi – Y)
b1 =
(Xi – X)2
b0 = Y - b1X
dimana
b0 dan b1 nilai penduga untuk 0 dan 1.
X dan Y adlh nilai rata2 pengamatan X dan Y
Standar error:
2
½
SE(b1) =
(Xi – X)2
Xi
2 ½
SE(b0) =
N (Xi – X)2
diduga dengan s, dimana:
s = ( i
2 /n-2)2 dan i
2 = (Yi – Y)2
http://rosihan.web.id

11. Yi = 1 + 2 Xi + i
Yi = 1 + 2 Xi + i
Ŷi = 1 + 2 Xi
Yi = Ŷi + i
i = Yi - Ŷi
Persamaan umum Regresi
sederhana
1 dan 2 adalah nilai estimasi
untuk parameter
Ŷi = nilai estimasi model
i = nilai residual
(1)
(2)
(3)
(4)
(5)
Metode Ordinary Least Squares (OLS)
n XiYi – Xi Yi
2 =
n Xi
2 – ( Xi)2
(Xi – X)(Yi – Y)
=
(Xi – X)2
n xiyi
=
xi
2
(Xi )2 Yi – Xi XiYi
1 =
n Xi
2 – ( Xi)2
= Y – 2X
Koefisien parameter untuk 1 dan 2
http://rosihan.web.id

12. Standard error of the estimates
Var( 2) = 2 / Xi
2
2
Se( 2) = Var( 2) = =
Xi
2 Xi
2
Xi
2
Var( 1) = 2
n xi
2
Xi
2
Se( 1) = Var( 1) = 2
n xi
2
i
2
2 = i
2 = yi
2 – 2
2 xi
2
n – 2
(xi yi) 2
= yi
2 –
xi
2
http://rosihan.web.id

13. Koefisien Determinasi
•
TSS
RSS
ESS
TSS = RSS + ESS
ESS RSS
1 = +
TSS TSS
(Ŷi - Y)2
i
2
= +
(Yi - Y)2 (Yi - Y)2
ESS (Ŷi - Y)2
r2 = =
TSS (Yi - Y)2
atau
ESS i
2
= 1 – = 1 –
TSS (Yi - Y)2
X
Y
Y
1 + 2 Xi
Atau:
xi
2
r2 = 2
2
yi
2
(xi yi) 2
=
xi
2 yi
2
http://rosihan.web.id