Statistik PRESS digunakan untuk mengetahui kemampuan suatu model regresi dalam memprediksi observasi yang tidak digunakan dalam pembuatan model. PRESS menghitung error prediksi dengan menghilangkan satu observasi sekaligus dari data untuk membangun model, lalu mengestimasi observasi yang dihilangkan tersebut. Semakin kecil nilai PRESS, semakin baik kemampuan model dalam memprediksi. Statistik Cp dan AIC digunakan untuk membanding

1. STATISTIK
PRESS
(prediction sum of square)
• PRESS residual:
Memberikan error prediksi dimana observasi
yang diprediksi bebas terhadap fiiting model.
merupakan prediksi data ke i
dengan model yang tidak menggunakan
data ke i dalam menghitung koef.
regresinya.
Rumus lain:
GOAL:
Mengetahui seberapa baik
suatu “kandidat model”
dalam memprediksi nilai
respon yang data
terobservasinya tidak
digunakan untuk
membangun model
tersebut.
KRITERIA PEMILIHAN MODEL BERDASAR PRESS residual:
a. b. PRESS
Kriteria b. Lebih sensitif apabila terdapat salah satu/beberapa nilai press residual yang
besar

2. Dibandingkan dengan
rata-rata nilai
terobservasi yi untuk
melihat error signifikan
atau tidak

3. Contohnya: Model yang menggunakan X2 dan X5 saja sebagai regressornya
Langkah:
a. Pilih i=1
b. Prediksi koefisien regresi dr model regresi diatas dengan membuang observasi ke i=1
dalam prhitungan.
c. Setelah mendapatkan model regresinya, gunakan model tersebut untuk mengestimasi
hasil dari observasi yang telah dihilangkan. (dalam hal ini observasi prtama)
d. Maka diperoleh untuk model regresi diatas.
e. Lakukan untuk i lainnya (i=1,...,n)
Contoh Perhitungan

4. of Prediction
,dengan PRESS
: Menyatakan variasi yang secara ideal dijelaskan oleh model regresi
: Menyatakan kemampuan dari persamaan
regresi untuk memprediksi observasi yang
independent terhadap model.

5. List of all
possible models
Kegunaan:
Untuk mengeliminasi
model model yang tidak signifikan
Dapat dilihat bahwa model yang
memuat regressor X2 dan X5
termasuk model yang baik

6. Statistik Cp
• P: Jumlah parameter yang diprediksi
• : mean square error dari full
model
• : mean square error dari kandidat
model
Bias bisa negatif ketika full model bukan merupakan estimator yang
baik. Sehingga Cp kurang dari p.
Masalah:
a. Bias yang besar ketika
kita memilih terlalu sedikit
regressor (underfit)
b. Variansi prediksi yang
besar ketika memilih
model yang overfit
Kegunaan:
Memilih model terbaik
dengan
mempertimbangkan
prinsip parsimony dan
kesederhanaan model.

8. • WEAKNESS
Cp dan PRESS hanya digunakan jiga parameter
dari full model (p) kecil. Hal ini dikarenakan
apabila p besar maka subset variabel yang
digunakan dalam regresi sangatlah banyak.
Apabila p besar, maka gunakan forward
selection, backward selection atau stepwise
regression.