Metode maximum likelihood

19,797 views

Published on

0 Comments
8 Likes
Statistics
Notes
  • Be the first to comment

No Downloads
Views
Total views
19,797
On SlideShare
0
From Embeds
0
Number of Embeds
4
Actions
Shares
0
Downloads
754
Comments
0
Likes
8
Embeds 0
No embeds

No notes for slide

Metode maximum likelihood

  1. 1. BAB I PENDAHALUANA. Latar Belakang Statistik inferensi digunakan untuk memprediksi “keadaan” dari suatu populasi berdasarkan sampel yang diambil. Dalam statistika inferensi ini, seringkali diasumsikan bahwa distribusi populasi diketahui. Teknik yang digunakan untuk menaksir nilai parameter bila distribusi populasi diketahui adalah dengan Maximum Likelihood Estimation (MLE). Pada MLE, teknik penaksiran parameternya lebih mudah, sehingga orang banyak menggunakan teknik ini. Akan tetapi teknik ini hanya dapat digunakan bilamana distribusi populasi diketahui. Selain itu MLE sangat sensitif terhadap data ekstrim. Data ekstrim ini sangat berpengaruh terhadap nilai-nilai mean ataupun variansi.B. Rumusan Masalah Adapun rumusan masalah kami dalam makalah ini yaitu: 1. Bagaimana Metode Maximum Likelihood? 2. Bagaimana sosulusi Metode Maximum Likelihood dalam penyelesaian beberapa contoh soal?C. Tujuan Adapun tujuan dalam penulisan makalah ini yaitu untuk mengetahui: 1. Metode Maximum Likelihood. 2. Penerapan Metode Maximum Likelihood dalam beberapa contoh soal. 1
  2. 2. BAB II METODE MAXIMUM LIKELIHOOD (Metode Kemungkinan Maksimum)A. Pendahuluan Berikut ini adalah metode yang cukup sering menghasilkan penaksir yangmemiliki sifat-sifat tertentu yang diharapkan, khususnya sifat-sifat sampel besar.Penalarannya adalah menggunakan nilai parameter yang mungkin, yangbersesuaian dengan largest likelihood (peluang besar) bagi yang teramati, sebagaitaksiran parameter yang tidak diketahui (besarnya). Maximum likelihood adalah teknik yang sangat luas dipakai dalampenaksiran suatu parameter distribusi data dan tetap dominan dipakai dalampengembangan uji -uji yang baru (Lehmann, 1986). Berikut ini akan disinggungsedikit tentang penaksiran parameter ini. Andaikan variabel random X mempunyai nilai-nilai terbilang 1 2 , dengan . Seseorang ingin menaksir nilaiyang sebenarnya dari tersebut dari nilai-nilai observasi 1 2 .Sehingga untuk setiap nilai yang mungkin perlu dipertimbangkan probabilitinilai diketahui bahwa nilai benar. Semakin tinggi peluangnya, maka seseorangakan semakin ingin menjelaskan bahwa nilai dapat dijelaskan dengan , danakan semakin sering muncul. Karena itu ekspresi sebagai fungsi untukfixed disebut likelihood dari . Simbol lain untuk likehood adalah Misalkan ada terbilang banyaknya keputusan-keputusan yangdiformulasikan dengan fungsi keuntungan (lawan dari fungsi kerugian) dimanafungsi tersebut bernilai kalau keputusannya salah dan bilamanakeputusannya benar dengan nilai benar. Likelihood diberi bobot tertentu(yang dihasilkan bilamana nilai benar), untuk menaksir nilai yangmemaksimumkan . dan memilih keputusan yang benar. Kemudianjuga akan dipilih fungsi keputusan yang benar dengan asumsi benar. Penjelasanakan sama juga untuk sebagai fungsi kepadatan (data kontinu). 2
  3. 3. Pada penaksiran parameter biasanya adalah bebas dari Sehinggahal ini akan menggiring orang untuk menaksir dengan memaksimumkan nilai yang dikenal dengan maximum likelihood estimate dari .B. Metode Maximum Likelihood (Metode Kemungkinan Maksimum) Pada tulisan ini distribusi populasi data diambil berbentuk normal. Hal iniadalah untuk memenuhi syarat dalam penaksiran dengan MLE dan juga untukmemudahkan penurunan formula-formula matematiknya. Akan tetapi pada situasiyang sebenarnya, kalau distribusi data tidak diketahui maka bentuk distribusi iniharuslah ditaksir. Misalkan adalah sampel random dari distribusidengan . Dengan demikian, adalah nilai yang memaksimumkan .Statistik disebut maximum likelihood estimator untuk .Contoh 1: Andaikan tersedia mata uang logam yang tidak seimbang, yaitu matauang pertama, kalau dilambungkan, peluang munculnya sisi M adalah ;mata uang kedua,kalau dilambungkan, peluang munculnya sisi M adalah 3
  4. 4. ; dan mata uang ketiga, kalau dilambungkan, peluang munculnya sisi Madalah . Ketiga mata uang itu, tidak dapat dibedakan berdasarkan wujudmaupun beratnya. Misalkan satu mata uang dipilih secra acak dari tiga mata uangtersebut, lalu dilambungkan dua kali. Jika menyatakan banyaknya sisi M yangmuncul pada lambungan pertama, dan menyatakan banyaknya sisi M yangmuncul pada lambungan kedua. Dalam hal ini ada sampel random , dari distribusi Bernoulli, ,dengan ruang parameter . Pada distribusi , kitaketahui bahwa , maka MME untuk adalah . Akantetapi, MME untuk yaitu , tidak menghasilkan taksiran yang pantas untuk .Ada tiga nilai saja, yaitu , yang merupakan anggota dari ruang parameter . Untuk memperoleh taksiran dengan metode peluang terbesar, kitaperhatikan fungsi densitas peluang bersama dari , yaitu untuk , dan . Nilai-nilai fungsidensitas bersama itu sebagai berikut: ( P (0,0) (0,1) (1,0) (1,1) 0,20 0,64 0,16 0,16 0,04 0,30 0,49 0,21 0,21 0,09 0,80 0,04 0,16 0,16 0,64Taksiran yang akan memaksimalkan “peluang” adalah sebagai berikut: jika jika jika 4
  5. 5. Definisi 1: Fungsi densitas peluang bersama dari variabel random ,yang tergantung pada satu parameter , yaitu fungsi , yang dinilainya disebut likelihood function (fungsi kemungkinan) Untuk konstan, hanya tergantungpada , dan lazim dinyatakan dengan symbol . Apabila )merupakan sampel random berukuran dari distribusi dengan fungsi densitasitu, makaDefinisi 2: Misalkan adalah fungsi densitas peluang bersama dari ), yang tergantung pada parameter , yaitu . Nilai dari yang menghasilakn nilai maksimumuntuk disebut maximum Likelihood Estimate untuk , dan dengandinyatakan dengan symbol .Jadi,Perhatikan: 1) Jika setiap himpunan hasil pengamatan atau hasil pengukuran bersesuaian dengan tepat satu nilai dari , maka cara memperoleh taksiran di atas menentukan suatu fungsi , yang domainnya adalah himpunan semua himpunan hasil pengamatan atau pengukuran sampel. Fungsi itu disebut Maksimum Likelihood Estimator (MLE) utnuk . 5
  6. 6. 2) Jika merupakan suatu interval, dan jika diferensiabel dan mencapai maksimum di suatu nilai dalam , maka MLE merupakan selesaian dari persamaanAtau persamaanKarena fungsi logaritma merupakan fungsi naik.Dari selesaian (3) atau (4) itu harus dipilih yang menghasilkan nilai negative dariderivative kedua. Persamaan (3) dan (4) diesebut persamaan maximum likelihood(persamaan kemungkinan maksimum).Contoh 2:Misalkan adalah sampel random berukuran dari distribusiPoisson, dengan parameter . Jadi, . Dalam hal ini, fungsikemungkinannya adalahDan fungsi log-kemungkinannya adalahDengan mencari akar persamaan , dan memilih akar yangmenghasilkan , akan memperoleh MLE (Penaksir KemungkinanMaksimum). 6
  7. 7. Teorema 1 (Sifat Invarians I):Jika adalah Maximum Likelihood Estimator (MLE) untuk dan adalahfungsi dari , yaitu , maka Maximum Likelihood Estimator (MLE)untuk adalah .Contoh 3:Misalkan adalah sampel random berukuran dari distribusiEksponensial, dengan parameter . Jadi, , untukDalam hal ini, fungsi kemungkinannya adalahTerdapatPada nilai ekstrem dari , dipenuhi persamaan:BerartiUntuk , terdapatJadi, MLE untuk adalah 7
  8. 8. Untuk menaksir , kita gunakan Teorema (1) dan kitaperoles MLE daari adalah .Contoh 4:Misalkan adalah sampel random berukuran dari distribusiEksponensial Dua-parameter, dengan parameter . Jadi, , untuk .Fungsi kemungkinannya adalahFungsi itu dapat dinyatakan dalam bentuk lain, yaitu . Jadi penaksir kemungkinan Maksimumuntuk adalah statistic urutan pertama. Contoh ini menunjukkan bahwa MLEtidak selalu sama besar dengan MME.Contoh 5:Tahap hidup suatu jenis komponen elektronik berdistribusi eksponensial, . Misalkan komponen diambil secara acak, kemudian dicoba tahanhidupnya. Jika tahan hidup komponen pertama yang mati lebih dulu adalah . Maka dapat diketahui bahwa fungsi densitas peluang bersamavariabel yang bersangkutan adalah dengan aturan 8
  9. 9. Perhatikan bahwa menyatakan jumlah keseluruhantahan hidup komponen yang dicoba, sapai akhir percobaan.MLE untuk , dapat dihitung dari data tersebut, dengan jalan sebagai berikut , untuk suatu konstan .Dari persamaan , didapat . Jadi .Kalau seluruh anggota sampel dicoba, maka . Jadi, .PersamaanUntuk disebut persamaan kemungkinan maksimum.Teorema 2 (Sifat Invarians II):Jika adalah Maximim Likelihood Estimate(MLE) untuk , sedangkan ,untuk maka untuk adalah .Contoh 6:Misalkan adalah sampel random berukuran dari distribusinormal, . Misalkan , maka dari adalahMLE untuk dari dapat dicari sebagai berikut: 9
  10. 10. , untuk suatu konstan , sehinggaDari pasangan persamaan dan , diperolehJadi,Contoh 7:Misalkan adalah sampel random dari populasi yangberdistribusi ekspoonensial dua-parameter, yaitu utnuk , dengan parameter dan yang tidak diketahui besarnya. Fungsidensitas peluang populasi adalah , utnuk .Fungsi lemungkinannya adalahUntuk .Sehingga , jika .Seperti pada contoh 4, mencapai nilai maksimum jika . Jadi, . Untuk memperoleh taksiran untuk , kitaa selesaikan persamaanHaislnya 10
  11. 11. Sehingga,Jadi,Contoh 8:Kita akan mencari MME (Penaksir Kemungkinan Maksimum, PKM) untukparameter distribusi gamma, , berdasarkan sampel acak berukuran .Misalkan sampel acak itu . Kita ketahuiPersamaan Kemungkinan Maksimumnya adalahMisalkan 11
  12. 12. Yaitu rata-rata aritetik sampel,DanYaitu rata-rata geometric sampel, maka terdapatlah dan dalampernyataan implicit sebagai berikut: dan .Contoh 9:Misalkan adalah sampel random dari populasi yang berdistribusiWeibull, , dengan dan yang tidak diketahui besarnya. Fungsidensitas peluang populasi adalah , dengan aturan untuk .Fungsi log-likelihood ybs adalahPersamaan-persamaan Kemungkinan Maksimumnya adalah:Dan 12
  13. 13. BAB III PENUTUPA. Kesimpulan 1. Untuk populasi yang distribusinya diketahui, penaksiran parameter akan lebih mudah bila menggunakan MLE. 2. Fungsi likelihood adalah ukuran yang menyatakan sebarapa sering nilai , diberikan bahwa telah terobservasi. Fungsi likelihood BUKAN suatu peluang. 3. Jika dua percobaan, yang melibatkan model dengan parameter memberikan likelihood yang sama, maka inferensi terhadap haruslah sama. 4. Misalkan adalah fungsi likelihood (fungsi dari parameter ). Kita dapat menentukan nilai yang memaksimumkan . Penaksir untuk , yaitu disebut Penaksir Likelihood Maksimum (maximum likelihood estimator, MLE). Penaksir suatu parameter adalah fungsi dari peubah acak.B. Saran Penulis mengharapkan agar makalah ini dapat digunakan untuk menunjang pembelajaran Mata Kuliah Statistika Matematika pada khususnya dan pembelajaran matematika pada umumnya. 13
  14. 14. DAFTAR PUSTAKAHogg, Robert V. & Allen T. Craig. 1995. Introduction to Mathematical Statistics (Fifth Edition). Hong Kong & Macau: Pearson Education Asia Limited & Higher Education Press.http://www.scribd.com/doc/52880907/Teori-Peluang-Bab-9 diakses pada 28 Mei 2011. 14

×