Dokumen ini membahas tentang metode Maximum Likelihood Estimation (MLE) dalam statistik inferensi, yang digunakan untuk menaksir nilai parameter populasi berdasarkan sampel. MLE sangat efektif digunakan bila distribusi populasi diketahui, namun sensitif terhadap data ekstrim. Dokumentasi ini juga mencakup contoh aplikasi MLE dalam berbagai distribusi data dan penjelasan tentang fungsi likelihood.

1. BAB I
PENDAHALUAN
A. Latar Belakang
Statistik inferensi digunakan untuk memprediksi “keadaan” dari suatu
populasi berdasarkan sampel yang diambil. Dalam statistika inferensi ini,
seringkali diasumsikan bahwa distribusi populasi diketahui. Teknik yang
digunakan untuk menaksir nilai parameter bila distribusi populasi diketahui
adalah dengan Maximum Likelihood Estimation (MLE).
Pada MLE, teknik penaksiran parameternya lebih mudah, sehingga orang
banyak menggunakan teknik ini. Akan tetapi teknik ini hanya dapat
digunakan bilamana distribusi populasi diketahui. Selain itu MLE sangat
sensitif terhadap data ekstrim. Data ekstrim ini sangat berpengaruh terhadap
nilai-nilai mean ataupun variansi.
B. Rumusan Masalah
Adapun rumusan masalah kami dalam makalah ini yaitu:
1. Bagaimana Metode Maximum Likelihood?
2. Bagaimana sosulusi Metode Maximum Likelihood dalam penyelesaian
beberapa contoh soal?
C. Tujuan
Adapun tujuan dalam penulisan makalah ini yaitu untuk mengetahui:
1. Metode Maximum Likelihood.
2. Penerapan Metode Maximum Likelihood dalam beberapa contoh soal.
1

2. BAB II
METODE MAXIMUM LIKELIHOOD
(Metode Kemungkinan Maksimum)
A. Pendahuluan
Berikut ini adalah metode yang cukup sering menghasilkan penaksir yang
memiliki sifat-sifat tertentu yang diharapkan, khususnya sifat-sifat sampel besar.
Penalarannya adalah menggunakan nilai parameter yang mungkin, yang
bersesuaian dengan largest likelihood (peluang besar) bagi yang teramati, sebagai
taksiran parameter yang tidak diketahui (besarnya).
Maximum likelihood adalah teknik yang sangat luas dipakai dalam
penaksiran suatu parameter distribusi data dan tetap dominan dipakai dalam
pengembangan uji -uji yang baru (Lehmann, 1986). Berikut ini akan disinggung
sedikit tentang penaksiran parameter ini.
Andaikan variabel random X mempunyai nilai-nilai terbilang
1 2 , dengan . Seseorang ingin menaksir nilai
yang sebenarnya dari tersebut dari nilai-nilai observasi 1 2 .
Sehingga untuk setiap nilai yang mungkin perlu dipertimbangkan probabiliti
nilai diketahui bahwa nilai benar. Semakin tinggi peluangnya, maka seseorang
akan semakin ingin menjelaskan bahwa nilai dapat dijelaskan dengan , dan
akan semakin sering muncul. Karena itu ekspresi sebagai fungsi untuk
fixed disebut likelihood dari . Simbol lain untuk likehood adalah
Misalkan ada terbilang banyaknya keputusan-keputusan yang
diformulasikan dengan fungsi keuntungan (lawan dari fungsi kerugian) dimana
fungsi tersebut bernilai kalau keputusannya salah dan bilamana
keputusannya benar dengan nilai benar. Likelihood diberi bobot tertentu
(yang dihasilkan bilamana nilai benar), untuk menaksir nilai yang
memaksimumkan . dan memilih keputusan yang benar. Kemudian
juga akan dipilih fungsi keputusan yang benar dengan asumsi benar. Penjelasan
akan sama juga untuk sebagai fungsi kepadatan (data kontinu).
2

3. Pada penaksiran parameter biasanya adalah bebas dari Sehingga
hal ini akan menggiring orang untuk menaksir dengan memaksimumkan nilai
yang dikenal dengan maximum likelihood estimate dari .
B. Metode Maximum Likelihood (Metode Kemungkinan Maksimum)
Pada tulisan ini distribusi populasi data diambil berbentuk normal. Hal ini
adalah untuk memenuhi syarat dalam penaksiran dengan MLE dan juga untuk
memudahkan penurunan formula-formula matematiknya. Akan tetapi pada situasi
yang sebenarnya, kalau distribusi data tidak diketahui maka bentuk distribusi ini
haruslah ditaksir.
Misalkan adalah sampel random dari distribusi
dengan .
Dengan demikian, adalah nilai yang memaksimumkan .
Statistik disebut maximum likelihood estimator untuk .
Contoh 1:
Andaikan tersedia mata uang logam yang tidak seimbang, yaitu mata
uang pertama, kalau dilambungkan, peluang munculnya sisi M adalah ;
mata uang kedua,kalau dilambungkan, peluang munculnya sisi M adalah
3

4. ; dan mata uang ketiga, kalau dilambungkan, peluang munculnya sisi M
adalah . Ketiga mata uang itu, tidak dapat dibedakan berdasarkan wujud
maupun beratnya. Misalkan satu mata uang dipilih secra acak dari tiga mata uang
tersebut, lalu dilambungkan dua kali. Jika menyatakan banyaknya sisi M yang
muncul pada lambungan pertama, dan menyatakan banyaknya sisi M yang
muncul pada lambungan kedua.
Dalam hal ini ada sampel random , dari distribusi Bernoulli, ,
dengan ruang parameter . Pada distribusi , kita
ketahui bahwa , maka MME untuk adalah . Akan
tetapi, MME untuk yaitu , tidak menghasilkan taksiran yang pantas untuk .
Ada tiga nilai saja, yaitu , yang merupakan anggota dari ruang parameter
.
Untuk memperoleh taksiran dengan metode peluang terbesar, kita
perhatikan fungsi densitas peluang bersama dari , yaitu
untuk , dan . Nilai-nilai fungsi
densitas bersama itu sebagai berikut:
(
P
(0,0) (0,1) (1,0) (1,1)
0,20 0,64 0,16 0,16 0,04
0,30 0,49 0,21 0,21 0,09
0,80 0,04 0,16 0,16 0,64
Taksiran yang akan memaksimalkan “peluang” adalah sebagai berikut:
jika
jika
jika
4

5. Definisi 1:
Fungsi densitas peluang bersama dari variabel random ,
yang tergantung pada satu parameter , yaitu fungsi , yang di
nilainya disebut likelihood function (fungsi kemungkinan)
Untuk konstan, hanya tergantung
pada , dan lazim dinyatakan dengan symbol . Apabila )
merupakan sampel random berukuran dari distribusi dengan fungsi densitas
itu, maka
Definisi 2:
Misalkan adalah fungsi densitas peluang bersama dari
), yang tergantung pada parameter , yaitu
. Nilai dari yang menghasilakn nilai maksimum
untuk disebut maximum Likelihood Estimate untuk , dan dengan
dinyatakan dengan symbol .
Jadi,
Perhatikan:
1) Jika setiap himpunan hasil pengamatan atau hasil pengukuran
bersesuaian dengan tepat satu nilai dari , maka cara
memperoleh taksiran di atas menentukan suatu fungsi
, yang domainnya adalah himpunan semua himpunan
hasil pengamatan atau pengukuran sampel. Fungsi itu disebut Maksimum
Likelihood Estimator (MLE) utnuk .
5

6. 2) Jika merupakan suatu interval, dan jika diferensiabel dan mencapai
maksimum di suatu nilai dalam , maka MLE merupakan selesaian dari
persamaan
Atau persamaan
Karena fungsi logaritma merupakan fungsi naik.
Dari selesaian (3) atau (4) itu harus dipilih yang menghasilkan nilai negative dari
derivative kedua. Persamaan (3) dan (4) diesebut persamaan maximum likelihood
(persamaan kemungkinan maksimum).
Contoh 2:
Misalkan adalah sampel random berukuran dari distribusi
Poisson, dengan parameter . Jadi, . Dalam hal ini, fungsi
kemungkinannya adalah
Dan fungsi log-kemungkinannya adalah
Dengan mencari akar persamaan , dan memilih akar yang
menghasilkan , akan memperoleh MLE (Penaksir Kemungkinan
Maksimum).
6

7. Teorema 1 (Sifat Invarians I):
Jika adalah Maximum Likelihood Estimator (MLE) untuk dan adalah
fungsi dari , yaitu , maka Maximum Likelihood Estimator (MLE)
untuk adalah .
Contoh 3:
Misalkan adalah sampel random berukuran dari distribusi
Eksponensial, dengan parameter . Jadi, , untuk
Dalam hal ini, fungsi kemungkinannya adalah
Terdapat
Pada nilai ekstrem dari , dipenuhi persamaan:
Berarti
Untuk , terdapat
Jadi, MLE untuk adalah
7

8. Untuk menaksir , kita gunakan Teorema (1) dan kita
peroles MLE daari adalah .
Contoh 4:
Misalkan adalah sampel random berukuran dari distribusi
Eksponensial Dua-parameter, dengan parameter . Jadi, , untuk
.
Fungsi kemungkinannya adalah
Fungsi itu dapat dinyatakan dalam bentuk lain, yaitu
. Jadi penaksir kemungkinan Maksimum
untuk adalah statistic urutan pertama. Contoh ini menunjukkan bahwa MLE
tidak selalu sama besar dengan MME.
Contoh 5:
Tahap hidup suatu jenis komponen elektronik berdistribusi eksponensial,
. Misalkan komponen diambil secara acak, kemudian dicoba tahan
hidupnya. Jika tahan hidup komponen pertama yang mati lebih dulu adalah
. Maka dapat diketahui bahwa fungsi densitas peluang bersama
variabel yang bersangkutan adalah dengan aturan
8

9. Perhatikan bahwa menyatakan jumlah keseluruhan
tahan hidup komponen yang dicoba, sapai akhir percobaan.
MLE untuk , dapat dihitung dari data tersebut, dengan jalan sebagai berikut
, untuk suatu konstan .
Dari persamaan , didapat . Jadi .
Kalau seluruh anggota sampel dicoba, maka . Jadi, .
Persamaan
Untuk disebut persamaan kemungkinan maksimum.
Teorema 2 (Sifat Invarians II):
Jika adalah Maximim Likelihood Estimate
(MLE) untuk , sedangkan ,
untuk maka untuk adalah .
Contoh 6:
Misalkan adalah sampel random berukuran dari distribusi
normal, . Misalkan , maka dari adalah
MLE untuk dari dapat dicari sebagai berikut:
9

10. , untuk suatu konstan , sehingga
Dari pasangan persamaan dan , diperoleh
Jadi,
Contoh 7:
Misalkan adalah sampel random dari populasi yang
berdistribusi ekspoonensial dua-parameter, yaitu utnuk
, dengan parameter dan yang tidak diketahui besarnya. Fungsi
densitas peluang populasi adalah , utnuk .
Fungsi lemungkinannya adalah
Untuk .
Sehingga , jika .
Seperti pada contoh 4, mencapai nilai maksimum jika . Jadi,
. Untuk memperoleh taksiran untuk , kitaa selesaikan persamaan
Haislnya
10

11. Sehingga,
Jadi,
Contoh 8:
Kita akan mencari MME (Penaksir Kemungkinan Maksimum, PKM) untuk
parameter distribusi gamma, , berdasarkan sampel acak berukuran .
Misalkan sampel acak itu . Kita ketahui
Persamaan Kemungkinan Maksimumnya adalah
Misalkan
11

12. Yaitu rata-rata aritetik sampel,
Dan
Yaitu rata-rata geometric sampel, maka terdapatlah dan dalam
pernyataan implicit sebagai berikut:
dan .
Contoh 9:
Misalkan adalah sampel random dari populasi yang berdistribusi
Weibull, , dengan dan yang tidak diketahui besarnya. Fungsi
densitas peluang populasi adalah , dengan aturan
untuk .
Fungsi log-likelihood ybs adalah
Persamaan-persamaan Kemungkinan Maksimumnya adalah:
Dan
12

13. BAB III
PENUTUP
A. Kesimpulan
1. Untuk populasi yang distribusinya diketahui, penaksiran parameter akan
lebih mudah bila menggunakan MLE.
2. Fungsi likelihood adalah ukuran yang menyatakan sebarapa sering nilai
, diberikan bahwa telah terobservasi. Fungsi likelihood BUKAN suatu
peluang.
3. Jika dua percobaan, yang melibatkan model dengan parameter
memberikan likelihood yang sama, maka inferensi terhadap haruslah
sama.
4. Misalkan adalah fungsi likelihood (fungsi dari parameter ). Kita
dapat menentukan nilai yang memaksimumkan . Penaksir untuk
, yaitu disebut Penaksir Likelihood Maksimum (maximum likelihood
estimator, MLE). Penaksir suatu parameter adalah fungsi dari peubah
acak.
B. Saran
Penulis mengharapkan agar makalah ini dapat digunakan untuk menunjang
pembelajaran Mata Kuliah Statistika Matematika pada khususnya dan
pembelajaran matematika pada umumnya.
13

14. DAFTAR PUSTAKA
Hogg, Robert V. & Allen T. Craig. 1995. Introduction to Mathematical Statistics
(Fifth Edition). Hong Kong & Macau: Pearson Education Asia Limited &
Higher Education Press.
http://www.scribd.com/doc/52880907/Teori-Peluang-Bab-9 diakses pada 28 Mei 2011.
14