Post on 28-Apr-2018
ESTIMASI PARAMETER DISTRIBUSI BINOMIAL NEGATIF DENGAN PENDEKATAN BAYESIAN
MENGGUNAKAN MONTE CARLO MARKOV CHAIN BERDASARKAN ALGORITMA METROPOLIS HASTING
SKRIPSI
MIFTA DIAN MULYANINGSIH
PROGRAM STUDI S-1 STATISTIKA DEPARTEMEN MATEMATIKA
FAKULTAS SAINS DAN TEKNOLOGI UNIVERSITAS AIRLANGGA
2016
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
Scanned by CamScanner
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
Scanned by CamScanner
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
Scanned by CamScanner
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
PEDOMAN PENGGUNAAN SKRIPSI
Skripsi ini t idak d ipublikasikan, na mun tersedia d i p erpustakaan d alam
lingkungan Universitas Airlangga, diperkenankan untuk dipakai sebagai referensi
kepustakaan, t etapi pe ngutipan harus s eijin penulis d an harus menyebutkan
sumbernya s esuai k ebiasaan ilmiah. Dokumen s kripsi i ni m erupakan h ak m ilik
Universitas Airlangga.
iv
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
Scanned by CamScanner
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
KATA PENGANTAR
Assalamu’alaikum w r.wb Puji s yukur kehadirat A llah S WT yang t elah
melimpahkan r ahmat-Nya s ehingga penulis dapat m enyelesaikan skripsi yang
berjudul “ Estimasi P arameter D istribusi B inomial N egatif d engan P endekatan
Bayesian M enggunakan M onte Carlo M arkov C hain Berdasarkan Algoritma
Metropolis Hasting”. Dalam kesempatan ini penulis menyampaikan ucapan terima
kasih kepada:
1. Orang t ua d an k eluarga tercinta yang selalu me mberikan doa, dukungan, dan
kepercayaan sehingga penulis dapat menyelesaikan skripsi ini.
2. Dr. A rdi K urniawan, M .Si da n Drs. E ko Tjahjono, M .Si selaku do sen
pembimbing I da n d osen pe mbimbing I I y ang s enantiasa membimbing da n
membantu dengan tulus dan sabar dalam penyelesaian skripsi ini.
3. Drs. Sediono, M.Si selaku do sen w ali yang s elalu memberikan penjelasan,
pengarahan, dan saran demi kesuksesan menjadi mahasiswa.
4. Risanti, Asti, Achnes, Arin, M anja, I ntan dan teman statistika angkatan 2 012
yang selalu memberikan doa dan semangat dalam penyelesaian skripsi ini.
Penulis b erharap s emoga skripsi ini da pat bermanfaat b agi p erkembangan
ilmu pengetahuan dan teknologi.
Surabaya, Agustus 2016
Penulis,
Mifta Dian Mulyaningsih
vi
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
Mifta D ian M ulyaningsih, 201 6. Estimasi P arameter D istribusi B inomial Negatif d engan P endekatan B ayesian M enggunakan M onte C arlo M arkov Chain B erdasarkan A lgoritma M etropolis Hasting. S kripsi ini d ibawah bimbingan D r. Ardi Kurniawan, M .Si. dan D rs. E ko T jahjono, M.Si. Program Studi S 1-Statistika, D epartemen M atematika, Fakultas S ains d an T eknologi, Universitas Airlangga, Surabaya.
ABSTRAK
Estimasi parameter merupakan estimasi s embarang nilai yang me njelasan karakteristik suatu p opulasi t ertentu. Estimasi parameter dapat dilakukan de ngan metode k lasik maupun metode B ayesian. M etode B ayesian merupakan metode yang menggabungkan informasi saat ini dengan informasi sebelumnya atau yang biasa d isebut d istribusi prior. P enggabungan informasi t ersebut menghasilkan distribusi po sterior, s elanjutnya d istribusi t ersebut di gunakan s ebagai da sar estimasi parameter. Penyelesaian dari estimasi parameter tersebut terkadang sulit sehingga m embutuhkan m etode numerik dalam p enyelesaiannya, s alah satunya adalah metode M onte C arlo M arkov C hain ( MCMC) a lgoritma M etropolis Hasting. M etode tersebut m erupakan metode i ntegrasi yang menggunakan mekanisme p enerimaan d an p enolakan u ntuk m embangkitkan k andidat s ampel. Tujuan da ri pe nelitian ini a dalah u ntuk mengestimasi parameter distribusi Binomial N egatif d engan pendekatan Bayesian menggunakan MCMC algoritma Metropolis Hasting. Distribusi B inomial N egatif merupakan d istribusi yang banyak d igunakan u ntuk menganalisis da ta count saat t erjadi overdispersi. Da ta yang d igunakan p ada p enelitian ini a dalah d ata b angkitan. B erdasarkan hasil penelitian e stimasi p arameter distribusi B inomial N egatif dengan pendekatan Bayesian me nggunakan MCMC algoritma me tropolis hasting me nghasilkan n ilai estimasi ya ng s angat dekat dengan pe rhitungan biasa, de ngan de mikian M CMC algoritma metropolis hasting d apat d igunakan sebagai a lternatif u ntuk mempermudah perhitungan yang rumit.
Kata K unci : Estimasi p arameter, Bayesian, Binomial N egatif, MCMC, Metropolis Hasting.
vii
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
Mifta D ian Mulyaningsih, 2 016, Parameter Estimation of N egative B inomial Distribution u sing B ayessian A pproach w ith Monte C arlo M arkov C hain Based on Metropolis Hasting Algorithm . This Thesis under the supervising of Dr. Ardi Kurniawan, M.Si. dan Drs. Eko Tjahjono, M.Si. Program S1-Statistics, Departement of Mathematics, F aculty o f S cience T echnology, Airlangga Univerrsity, Surabaya.
ABSTRACT
Parameter estimation is estimation o f any value t hat e xplains t he characteristics of a particular population. Parameter estimation can be achieved by classical and B ayesian methods. B ayesian method i s a method t hat c ombines current information w ith p revious information or c ommonly called p rior distribution. M erging t his information g enerates th e p osterior d istribution, th e distribution s ubsequently u sed a s t he basis for p arameter es timation. This Calculation of the parameter sometimes are difficult and need numerical methods. One o f this method called Markov C hain Mo nte C arlo ( MCMC) Metropolis Hasting a lgorithm. This method uses accept and reject mechanism for generating sample. T he p urpose o f t his s tudy w as t o es timate t he n egative binomial distribution w ith a B ayesian a pproach u sing M CMC H asting Metropolis algorithm. Negative B inomial d istribution widely used to analyze the data count when t here o verdispersion. Data that used in t his s tudy are generated. Based o n the r esults, Negative B inomial d istribution p arameter e stimation w ith B ayesian approach u sing M CMC a lgorithms metropolis hasting g enerate t he es timated value that is ve ry c lose t o the u sual c alculation, thus metropolis h asting MCMC algorithms can be used as an alternative to simplify complex calculations.
Keywords : Parameter Estimation, Bayessian, Negative Binomial, MCMC, Metropolis Hasting.
viii
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
DAFTAR ISI
Halaman
HALAMAN JUDUL ....................................................................................... i
LEMBAR PERNYATAAN ............................................................................ ii
LEMBAR PENGESAHAN ............................................................................ iii
LEMBAR PENGGUNAAN SKRIPSI ............................................................iv
LEMBAR ORISINALITAS ............................................................................. v
KATA PENGANTAR ....................................................................................vi
ABSTRAK ................................................................................................... vii
ABSTRACT ................................................................................................ viii
DAFTAR ISI ..................................................................................................ix
DAFTAR GAMBAR ......................................................................................xi
DAFTAR TABEL ........................................................................................ xii
DAFTAR LAMPIRAN ................................................................................ xiii
BAB I PENDAHULUAN
1.1 Latar Belakang .................................................................................... 1
1.2 Rumusan Masalah ............................................................................... 3
1.3 Tujuan Penelitian ................................................................................ 4
1.4 Manfaat Penelitian .............................................................................. 4
1.5 Batasan Masalah ................................................................................. 4
BAB II TINJAUAN PUSTAKA
2.1 Variabel Acak .................................................................................... 5
2.2 Fungsi Kepadatan Probabilitas ........................................................... 5
2.3 Metode Bayes..................................................................................... 5
2.4 Fungsi Likelihood .............................................................................. 8
2.5 Distribusi Prior ................................................................................... 9
2.6 Prior Konjugat .................................................................................. 10
2.7 Distribusi Prior Uniform ................................................................... 11
2.8 Prior Jeffreys .................................................................................... 11
2.9 Distribusi Posterior ........................................................................... 11
ix
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
2.10 Distribusi Binomial Negatif ............................................................. 12
2.11Distribusi Gamma ............................................................................ 13
2.12 Distribusi Beta ................................................................................ 14
2.13Distribusi Cauchy ............................................................................. 16
2.14Distribusi Weibull ............................................................................ 16
2.15 Markov Chain Monte Carlo ............................................................. 16
2.16 Metropolis Hasting .......................................................................... 17
2.17 Batch Mean ..................................................................................... 18
2.18 Mathematica .................................................................................... 19
BAB III METODE PENELITIAN
3.1 Langkah-Langkah Analisis Data ....................................................... 20
3.2 Flowchart ......................................................................................... 22
BAB IV HASIL DAN PEMBAHASAN
4.1 Penentuan Distribusi Posterior Pada Distribusi Binomial Negatif
Menggunakan Pendekatan Bayesian ................................................... 23
4.2 Estimasi Parameter Berdasarkan Distribusi Posterior ......................... 25
4.3 Penerapan Estimasi Parameter Distribusi Posterior Menggunakan Monte
Carlo Markov Chain Algoritma Metropolis Hasting ........................... 26
4.3.1 Estimasi Parameter Dengan Perhitungan Manual ...................... 27
4.3.2 Estimasi Parameter Dengan Algoritma Metropolis Hasting ....... 28
BAB V KESIMPULAN DAN SARAN
5.1 Kesimpulan ....................................................................................... 36
5.2 Saran ................................................................................................. 37
DAFTAR PUSTAKA .................................................................................... 38
LAMPIRAN
x
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
DAFTAR GAMBAR
Nomor Judul Gambar Halaman 3.1 Flowchart Estimasi Parameter Menggunakan 22
Algoritma Metropolis Haasting 4.1 Prosedur Estimasi Parameter 28 4.2 Prosedur Perhitungan Batch Mean 29
ix
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
DAFTAR TABEL
Tabel Judul Tabel Halaman 2.1 Prior Konjugat dari Beberapa Fungsi Likelihood 10 4.1 Data Berdistribusi Binomial Negatif 27 4.2 Perhitungan dengan Metropolis Hasting 29 4.3 Perbedaan Parameter Distribusi Prior 32 4.4 Data Binomial Negatif 33 4.5 Estimasi dengan Distribusi Prior Non Konjugat 35
ix
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
DAFTAR LAMPIRAN
Nomor Judul Lampiran 1 Data
2 Program MCMC Algoritma Metropolis Hasting dengan prior Beta
3 Program MCMC Algoritma Metropolis Hasting dengan prior Gamma
4 Output Program Perhitungan dengan Metropolis Hasting
5 Output Perbedaan Parameter Distribusi Prior
6 Output Estimasi dengan Distribusi Prior Non Konjugat
ix
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
BAB I
PENDAHULUAN
1.1 Latar Belakang
Metode s tatistika merupakan pr osedur-prosedur yang d igunakan da lam
pengumpulan, pe nyajian, a nalisis, da n pe nafsiran da ta. M etode tersebut
dikelompokan menjadi dua ke lompok ut ama, yaitu statistika de skriptif da n
statistika i nferesi ( Walpole, 1995) . S tatistika de skriptif bertujuan u ntuk
menyajikan informasi d ata s ebagai d eskripsi f akta at au p eristiwa d apat
disimpulkan secara mudah, sedangkan statistika inferensi menggunakan konsep
probabilitas untuk membuat perkiraan, prediksi, peramalan, dan generalisasi dari
suatu objek berdasarkan informasi data yang diambil sebagai populasi atau sampel
(Mustafid d alam Siska, 2011) . I nferensi statistik da pat d ibedakan menjadi dua ,
yaitu estimasi parameter dan uji hipotesis (Walpole, 1995).
Estimasi parameter merupakan estimasi sembarang nilai yang menjelaskan
ciri atau k arakteristik suatu populasi t ertentu. E stimasi parameter t ersebut d apat
dilakukan de ngan metode kl asik maupun metode B ayesian. Metode k lasik
memandang p arameter sebagai besaran t etap yang t idak d iketahui harganya da n
inferensi didasarkan hanya pada informasi dalam sampel, sedangkan pada metode
Bayesian inferensinya tidak ha nya didasarkan pada informasi pada sampel tetapi
juga melibatkan d istribusi prior (Berger, 2011) . Berdasarkan p erbedaan d asar
inferensinya, metode Bayes lebih baik d igunakan untuk mengestimasi parameter
apabila telah diketahui informasi sebelumnya dan apabila tidak terdapat informasi
awal, lebih baik menggunakan metode klasik.
1
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
2
Metode Bayesian merupakan metode yang menggabungkan informasi saat
ini de ngan informasi awal yang d iperoleh sebelumnya ( Apsari, 2013) . Informasi
awal t ersebut m erupakan d istribusi subyektif b erdasarkan p ada k eyakinan
seseorang. P enggabungan informasi a wal da n informasi s aat ini ke mudian
menghasilkan d istribusi posterior. Penyelesaian f ormulasi B ayesian tersebut
terkadang s ulit u ntuk d iselesaikan secara a nalitis s ehingga d ibutuhkan metode
numerik untuk penyelesaiannya (Siska, 2011).
Monte Carlo Markov Chain (MCMC) adalah s ebuah r angkaian metode
untuk m enciptakan ba risan s ampel r andom yang b erasal da ri d istribusi p eluang
dengan membangun r antai Markov s esuai d engan d istribusi t ertentu y ang
diinginkan ( Walsh d alam I rwanti, 2012). S imulasi s tokastik yang d ihasilkan dari
metode MCMC t ersebut membantu penyelesaian estimasi model dari persamaan
yang s ulit. Metode M CMC yang sering d igunakan ad alah a lgoritma Metropolis
Hasting.
Algoritma Metropolis Hasting adalah salah satu algoritma yang mengikuti
aturan M CMC de ngan mekanisme pe nerimaan da n pe nolakan da lam pr oses
pembangkitan s ampel. S ampel yang d ibangkitkan t ersebut k emudian d igunakan
untuk me nyelesaikan e stimasi p arameter. K elebihan d ari a lgoritma M etropolis
Hasting adalah h asil e stimasi yang dihasilkan t epat meskipun me nggunakan
distribusi prior non-infomatif dan tidak bergantung pada asumsi sample besar.
Distribusi B inomial Negatif me rupakan distribusi c ampuran a ntara
distribusi Gamma d an d istribusi P oisson. Kegunaan Distribusi B inomial Negatif
adalah untuk m enganalisis d ata count saat t erjadi overdispersi. O verdispersi
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
3
mengindikasikan n ilai v ariansi le bih b esar daripada me an. K eadaan overdispersi
menyebabkan es timasi parameter yang d idapat me njadi t idak e fisien s ehingga
memberikan informasi yang tidak sesuai (Hilbe, 2011).
Lio (2009) menggunakan metode Bayesian untuk mengestimasi parameter
Binomial Negatif dengan m enggunakan distribusi B eta s ebagai d istribusi
priornya. Bradlow dkk ( 2002) j uga menggunakan inferensi Bayesian untuk
mengestimasi m odel B inomial Negatif. Kedua penelitian t ersebut s ama-sama
menggunakan distribusi Beta sebagai distribusi priornya, akan tetapi Bradlow dkk
melakukan inferensi Bayesian menggunakan ekspansi po linomial sedangkan Lio
menggunakan proses sampling.
Berdasarkan u raian t ersebut dilakukan pe nelitian e stimasi pa rameter
distribusi Binomial Negatif dengan pendekatan metode Bayesian yang dilanjutkan
dengan inferensi statistika menggunakan MCMC algoritma Metropolis Hasting.
1.2 Rumusan Masalah
Berdasarkan latar be lakang yang t elah d ikemukakan d i a tas, m aka
permasalahan yang dibahas dalam penelitian ini adalah sebagai berikut:
1. Bagaimana menentukan distribusi posterior pada d istribusi Binomial
Negatif menggunakan metode Bayesian?
2. Bagaimana estimasi p arameter d istribusi B inomial N egatif
menggunakan pendekatan Bayesian?
3. Bagaimana penerapan es timasi p arameter d istribusi B inomial N egatif
menggunakan metode Bayesian dengan MCMC algoritma Metropolis
Hasting?
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
4
1.3 Tujuan Penelitian
Penelitian estimasi p arameter d istribusi Binomial N egatif menggunakan
metode Bayesian ini memiliki tujuan sebagai berikut:
1. Menentukan distribusi posterior pada d istribusi B inomial Negatif
menggunakan metode Bayesian.
2. Mengestimasi p arameter d istribusi B inomial N egatif menggunakan
metode Bayesian.
3. Menerapkan p enaksiran p arameter d istribusi B inomial N egatif
menggunakan metode Bayesian dengan MCMC a lgoritma Metropolis
Hasting.
1.4 Manfaat
Manfaat yang dapat diambil dari penelitian ini adalah sebagai berikut:
1. Mengembangkan w awasan ilmu pe ngetahuan yang berkaitan d engan
estimasi parameter menggunakan metode Bayesian.
2. Mengembangkan w awasan ilmu pe ngetahuan yang berkaitan d engan
metode Monte Carlo Markov Chain khususnya a lgoritma Metropolis
Hasting.
1.5 Batasan Masalah
Batasan masalah pada penelitian ini adalah estimasi parameter pada distribusi
Binomial N egatif menggunakan metode B ayesian dengan prior konjugat yaitu
distribusi Beta ( , )a b .
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
BAB II
TINJAUAN PUSTAKA
2.1. Variabel Acak
Variabel acak didefinisikan s ebagai s uatu fungsi y ang me metakan u nsur-
unsur da lam r uang s ampel suatu p ercobaan t erhadap s uatu gugus bi langan r iil
sebagai suatu w ilayah fungsi. V ariabel acak dinotasikan d engan huruf ka pital
misalnya X , s edangkan nilai pa danannya d inotasikan de ngan huruf ke cil ( Bain
dan Engelhardt, 1992).
2.2. Fungsi Kepadatan Probabilitas
Misalkan v ariabel acak X terletak an tara a dan b , fu ngsi ( )f x disebut
fungsi k epadatan p robabilitas at au probability density function (PDF) bagi
variabel ac ak X apabila luas da erah d i bawah k urva s ama de ngan s atu da n
apabila luas daerah dibawah kurva antara x a= dan x b= menyatakan peluang X
antara a dan b (Walpole, 1995).
2.3. Metode Bayes
Metode B ayes merupakan m etode yang m enggabungkan informasi
terdahulu d ari p arameter yang a kan d itaksir d engan informasi yang d idapat d ari
sampel. Informasi t erdahulu t ersebut merupakan distribusi subyektif berdasarkan
pada k eyakinan seseorang. Penggabungan ke dua informasi t ersebut ke mudian
menghasilkan d istribusi posterior yang selanjutnya d igunakan da lam pe naksiran
parameter.
5
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
6
Misalkan r uang sampel S d ipartisi menjadi kejadian ya ng mutually
exclusive dan exhaustive 1, 2,..., KA A A dengan ( ) 0iP A ≠ untuk 1,2,...,i K= .
Misalkan terdapat kejadian B d i da lam ruang sampel S sehingga ( ) 0P B > maka
untuk sembarang kejadian B,
1 1 2 2
( | ) ( )( | )( | ) ( ) ( | ) ( ) ... ( | ) ( )
i ii
K K
P B A P AP A BP B A P A P B A P A P B A P A
=+ + +
(2.1)
Bukti:
( ) ( | ) ( )i i iP B A P B A P A∩ =
( ) ( | ) ( )i iP A B P A B P B∩ =
karena ( ) ( )i iP B A P A B∩ = ∩ , maka ( | ) ( ) ( | ) ( )i i iP B A P A P A B P B= . Bagi kedua
ruas dengan ( )P B , diperoleh
( | ) ( )( | )( )
i ii
P B A P AP A BP B
=
dengan
1 2( ) ( ) ( ) ... ( )KP B P B A P B A P B A= ∩ + ∩ + + ∩
1 1 2 2( | ) ( ) ( | ) ( ) ... ( | ) ( )K KP B A P A P B A P A P B A P A= + + +
sehingga persamaannya menjadi
1 1 2 2
( | ) ( )( | )( | ) ( ) ( | ) ( ) ... ( | ) ( )
i ii
K K
P B A P AP A BP B A P A P B A P A P B A P A
=+ + +
Misalkan X adalah v ariabel acak y ang me miliki d istribusi probabilitas
yang bergantung pada θ, dengan θ merupakan suatu variabel acak yang memiliki
distribusi p robabilitas te rtentu. J ika ( | )f x θ merupakan p df bersyarat d ari
variabel acak X dengan nilai θ =θ dan ( )p θ merupakan pdf dari variabel acak θ,
maka distribusi posterior dari θ | x dapat ditentukan menggunakan metode Bayes.
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
7
Misalkan 1 2, ,..., nX X X adalah sampel acak d ari p eubah ac ak X , ma ka
pdf bersama dari 1 2, ,..., nX X X diberikan θ, yaitu:
1 2 1 2( , ,..., | ) ( | ) ( | )... ( | )n nf x x x f x f x f xθ θ θ θ= (2.2)
Pdf bersama 1 2, ,..., nX X X dan θ adalah
1 2 1 2( , ,..., , ) ( , ,..., | ) ( )n nf x x x f x x x pθ θ θ= (2.3)
Jika θ merupakan va riabel acak k ontinu, maka p df marginal bersama d ari
1 2, ,..., nX X X yaitu:
1 2 1 2( , ,..., ) ( , ,..., , )n nf x x x f x x x dθ θ∞
−∞
= ∫
1 2( , ,..., | ) ( )nf x x x p dθ θ θ∞
−∞
= ∫ (2.4)
Jika θ merupakan va riabel acak d iskrit, maka p df marginal bersama d ari
1 2, ,..., nX X X yaitu:
1 2 1 2( , ,..., ) ( , ,..., , )n nf x x x f x x xθ
θ=∑
1 2( , ,..., | ) ( )nf x x x pθ
θ θ=∑ (2.5)
Pdf bersyarat dari θ diberikan 1 1X x= , 2 2X x= ,…, n nX x= yaitu:
1 21 2
1 2
( , ,..., , )( | , ,..., )( , ,..., )
nn
n
f x x xf x x xf x x x
θθ =
1 2
1 2
( , ,..., | ) ( )( , ,..., )
n
n
f x x x pf x x x
θ θ= (2.6)
Persamaan (2.6) m erupakan b entuk l ain dari a turan Bayes, dengan f ungsi
1 2( | , ,..., )nf x x xθ disebut pdf posterior dari θ, sementara fungsi 1 2( , ,..., | )nf x x x θ
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
8
disebut likelihood dari 1 2, ,..., nX X X dan f ungsi ( )p θ disebut s ebagai pd f prior
dari θ. Aturan Bayes sering ditulis sebagai berikut:
1 2 1 2( | , ,..., ) ( , ,..., | ) ( )n nf x x x f x x x pθ θ θ∝ (2.7)
Estimasi pa rameter pa da m etode ba yes didasarkan pa da d istribusi posterior
sesuai persamaan (2.6). Perhitungan e stimasi parameter diperoleh dengan mencari ni lai
ekspekstasi da ri d istribusi posterior. Jika θ merupakan variabel acak kontinu, maka
nilai θ̂ dapat diperoleh sebagai berikut:
ˆ ( | 1, 2,..., ) ( | )E x x xn f y dθ θ θ θ θ∞
−∞
= = ∫ (2.8)
Jika θ merupakan va riabel acak d iskrit, maka nilai θ̂ dapat di peroleh
sebagai berikut:
ˆ ( | 1, 2,..., ) ( | )n
iE x x xn f yθ θ θ θ= =∑ (2.9)
(Andrew dkk, 2000)
2.4. Fungsi Likelihood
Fungsi likelihood adalah f ungsi d ensitas b ersama dari n variable acak
1 2, ,..., nX X X dan d inyatakan da lam bentuk 1 2( | , ,..., )nf x x xθ . J ika 1 2, ,..., nx x x
ditetapkan, maka fungsi likelihood dari parameter θ dinotasikan dengan ( )L θ .
Jika 1 2, ,..., nX X X menyatakan suatu sampel acak dari ( | )f x θ , maka
1 2( ) ( | ) ( | )... ( | )nL f x f x f xθ θ θ θ=
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
9
1
( ) ( | )n
i
i
L f xθ θ=
=∏ (2.10)
(Bain dan Engelhardt,1992)
2.5. Distribusi Prior
Distribusi prior adalah bentuk di stribusi frekuensi y ang m erupakan
representasi o bjektif p ada suatu p arameter yang lebih r asional u ntuk dipercayai.
Distribusi prior menunjukan ketidakpastian tentang parameter θ yang tidak
diketahui, s ehingga p ermasalahan u tama d alam metode B ayes a dalah memilih
distribusi pr ior untuk suatu parameter yang t idak d iketahui namun sesuai dengan
permasalahan. B erdasarkan fungsi likelihoodnya, d istribusi pr ior d ikelompokan
menjadi dua (Box dan Tiao, 2011):
1. Berkaitan dengan bentu distribusi hasil identifikasi pola data
a. Distribusi prior konjugat, mengacu pada analisis model t erutama
dalam pe mbentukan f ungsi likelihoodnya s ehingga dalam
penentuan pr ior ko njugat s elalu d ipikiran mengenai po la
distribusi prior yang m emiliki be ntuk konjugat dengan f ungsi
densitas peluang pembangun likelihood.
b. Distribusi prior non-konjugat, apabila pemberian prior pada suatu
model tidak mengindahkan pola pembentuk fungsi likelihood.
2. Berkaitan de ngan pe nentuan masing-masing p arameter p ada p ola
distribusi prior
a. Distribusi prior informatif, mengacu p ada p emberian parameter
dari distribusi yang telah dipilih baik distribusi prior konjugat atau
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
10
tidak. P emberian nilai parameter pa da d istribusi prior i ni sangat
mempengaruhi bentuk distribusi posterior.
b. Distribusi prior non-informatif, p emilihan d istribusi prior yang
tidak mengandung informasi tentang parameter θ. Distribusi prior
non-informatif misalnya prior Uniform dan prior Jeffreys.
2.6. Prior Konjugat
Misalkan F adalah k elas d ari d istribusi s ampling ( | )f y θ dan P adalah
kelas d ari d istribusi prior θ , m aka P kelas d isebut un tuk ke las F jika f ungsi
probabilitas posterior ( | )h yθ memiliki d istribusi y ang sama dengan f ungsi
probabilitas prior ( )h θ untuk seluruh ( | )f y Fθ ∈ . Pemilihan prior konjugat yang
lebih spesifik d apat d ilakukan de ngan memilih kelas d istribusi prior P yang
merupakan hi mpunan dari s eluruh f ungsi kepadatan y ang m emiliki b entuk
fungsional yang sama d engan fungsi likelihood dari ( | )f y θ . Pada kasus ini P
disebut prior konjugat dari F (Andrew dkk, 2000).
Tabel 2.1. Prior Konjugat dari Beberapa Fungsi Likelihood
Likelihood Prior Konjugat
Binomial Beta
Binomial Negatif Beta
Poisson Gamma
Normal
µ tidak diketahui, σ2 diketahui Normal
µ diketahui, σ2 tidak diketahui Inverse Chi-Square
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
11
2.7. Distribusi Prior Uniform
Distribusi p rior non-informatif a dalah distribusi prior yang t idak
mengandung informasi tentang parameter θ. Salah satu pemilihan d istribusi prior
non-informatif a dalah prior Uniform, yang d inyatakan s ebagai d istribusi Beta
(1,1). Prior Uniform memberikan fungsi de nsitas probabilitas yang ko nstan da n
menghasilkan bobot yang sama ke semua nilai.
1
1 1
0
( , ) (1 )a bBeta a b x x dx− −= −∫
1 1
0 0 10
0 0
(1,1) (1 ) | 1Beta x x dx dx x= − = = =∫ ∫
Sehingga densitas Beta (1,1) adalah
0 01( |1,1) (1 )(1,1)
f x x xB
= − (2.11)
2.8. Prior Jeffreys
Prior Jeffreys merupakan distribusi prior non-informatif yang pertama kali
dikemukakan o leh S ir H arold J effreys pa da t ahun 1961. Secara u mum Prior
Jeffreys digunakan untuk estimasi single parameter θ dan sebanding dengan akar
kuadrat dari informasi Fisher. Informasi Fisher didefinisikan sebagai nilai negatif
dari turunan kedua log-likelihood (Christensen dkk, 2011).
2.9. Distribusi Posterior
Distribusi posterior merupakan distribusi yang dibentuk oleh informasi awal
(distribusi prior) dan in formasi s aat in i. Distribusi posterior dinotasikan de ngan
( | )f xθ . Persamaan distribusi posterior selain dapat dituliskan seperti persamaan
(2.6), juga dapat dinyatakan sebagai fungsi densitas bersyarat θ apabila observasi
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
12
x diketahui.
( , ) ( | ) ( )f x f x f xθ θ= (2.12)
sehingga
( , )( | )( )
f xf xf xθθ = (2.13)
Fungsi likelihood dinotasikan d engan ( | )f x θ dan ( )f θ merupakan d istribusi
prior. Fungsi densitas marginal selanjutnya dapat dinyatakan sebagai
( ) ( , ) ( ) ( | )f x f x d f f x dθ θ θ θ θ∞ ∞
−∞ −∞= =∫ ∫ (2.14)
Kemudian d istribusi posterior dapat di gunakan u ntuk menentukan e stimasi
parameter (Soejoeti dan Soebanar, 1988).
2.10. Distribusi Binomial Negatif
Distribusi Binomial Negatif merupakan ditribusi yang memiliki banyak cara
dalam penurunannya. Boswell dan Patil (1970) menunjukkan bahwa terdapat dua
belas car a u ntuk mendapatkan d istribusi B inomial N egatif. S alah s atunya d apat
diturunkan s ebagai d istribusi campuran P oisson-Gamma, a kan t etapi pe nurunan
klasik d ari d istribusi B inomial N egatif yang p aling s ering d igunakan a dalah
sebagai barisan p ercobaan B ernoulli. Fungsi p robabilitas d istribusi B inomial
Negatif adalah sebagai berikut:
1
Pr( ) (1 ) , , 1, 2,....1
k x kxX x x k k k
kθ θ −−
= = − = + + − (2.15)
dengan Pr( )X x= adalah probabilitas t erjadi sukses ke- k pada percobaan ke x
dan θ merupakan probabilitas sukses dari setiap percobaan konstan.
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
13
Distribusi p robabilitas d ari p eubah acak X , d apat d inotasikan me njadi
bentuk l ain yaitu menggunakan t ransformasi Y X k= − , de ngan Y menyatakan
jumlah ke gagalan sebelum t erjadi k buah s ukses. D istribusi pr obabilitas da ri
peubah acak Y dapat dinyatakan sebagai berikut:
1
Pr( ) (1 ) , 0,1, 2,...1
k yy kY y y
kθ θ
+ − = = − = −
(2.16)
dengan Pr( )Y y= adalah pr obabilitas t erjadi sukses ke - k setelah t erjadi y
kegagalan.
Distribusi Binomial N egatif d apat d idefinisikan untuk setiap nilai po sitif
dari k de ngan menggunakan fungsi G amma sebagai pe ngganti da ri ko mbinasi,
yaitu:
( )Pr( ) (1 ) , 0,1, 2,...( ) !
k yy kY y yk y
θ θΓ += = − =
Γ (2.17)
(Jong dan Heller, 2008)
2.11. Distribusi Gamma
Suatu variabel acak dikatakan memiliki distribusi Gamma dengan parameter
α dan b adalah bilangan positif. Parameter α merupakan parameter skala, dan β
merupaan parameter bentuk. Fungsi kepadatan dari distribusi Gamma adalah
11( )( )
t
f t t eβ ββα β
−−=
Γ (2.18)
dengan ( )βΓ adalah fungsi Gamma yang didefinisikan sebagai
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
14
1
0
( ) tt e dtββ∞
− −Γ = ∫ (2.19)
(Walck, 2007)
2.12. Distribusi Beta
Suatu variabel acak dikatakan memiliki distribusi Beta dengan parameter a
dan b , jika fungsi kepadatannya adalah
1 11( ) (1 ) ,0 1( , )
a bf x x x xB a b
− −= − < < (2.20)
dengan ( , )B a b adalah fungsi Beta yang didefinisikan sebagai
1
1 1
0
( , ) (1 )a bB a b x x dx− −= −∫ (2.21)
Fungsi B eta sesuai p ersamaan (2.21) da pat di transformasi de ngan 2sinx θ=
sehingga
1
1 1
0
( , ) (1 )a bB a b x x dx− −= −∫
22( 1) 2 1
0
(sin ) (1 sin ) 2sin cosa b d
π
θ θ θ θ θ− −= −∫
2
2 2 2 2
0
(sin ) (cos ) 2sin cosa b d
π
θ θ θ θ θ− −= ∫
2
2 1 2 1
0
( , ) 2 (sin ) (cos )a bB a b d
π
θ θ θ− −= ∫ (2.22)
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
15
Fungsi B eta d apat d ihubungkan dengan f ungsi G amma, m isalkan 2t y= , ma ka
sesuai persamaan ( 2.17) d iperoleh 22 1
0
( ) 2 p yp y e dy∞
− −Γ = ∫ dan 2t x= maka
22 1
0
( ) 2 q xq x e dx∞
− −Γ = ∫ , apabila ( )pΓ dikalikan dengan ( )qΓ sehingga diperoleh
2 1 2 22 1 ( )
0 0
( ) ( ) 4q p x yp q x y e dxdy−
∞ ∞− − +Γ Γ = ∫ ∫
2
22 1 2 1
0 0
4 ( cos ) ( sin )q p rr r e rdrd
π
θ θ θ∞
− − −= ∫ ∫
2
22 2 1 2 1 2 1
0 0
4 (cos ) (sin )p q r q pr e dr d
π
θ θ θ∞
+ − − − −= ∫ ∫
1 14 ( ) ( , )2 2
p q B p q= Γ +
( ) ( ) 1 ( , )2 ( ) 2
p q B p qp q
Γ Γ=
Γ +
( ) ( ) ( , )( )a b B a ba b
Γ Γ=
Γ + (2.23)
Sehingga fungsi kepadatan probabilitas distribusi Beta adalah
1 1( )( ) (1 )( ) ( )
a ba bf x x xa b
− −Γ += −Γ Γ
(2.24)
(Spiegel dkk, 2004)
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
16
2.13. Distribusi Cauchy
Suatu variabel acak dikatakan memiliki distribusi Cauchy dengan parameter
c dan d , apabila c merupakan bilangan real dan d merupakan bilangan positif.
Parameter c merupakan p arameter lokasi, s edangkan p arameter d merupakan
parameter skala. Fungsi kepadatan probabilitas dari fungsi Cauchy adalah
2
2
1( )( )(1 )
f xx cd
dπ
=−
+ (2.25)
(Walck, 2007)
2.14. Distribusi Weibull
Suatu variabel acak dikatakan memiliki distribusi Weibull dengan parameter
e dan f , apabila e dan f merupakan bilangan positif. Parameter e merupakan
parameter bentuk, sedangkan parameter f merupakan parameter skala. Distribusi
Weibull biasanya d igunakan u ntuk m endapatkan r eabilitas. F ungsi ke padatan
probabilitas dari fungsi adalah
( )/1( ) , 0gx fg
ggf x x e xf
−−= > (2.26)
(Walck, 2007)
2.15. Markov Chain Monte Carlo
Markov Chain Monte Carlo adalah suatu metode simulasi yang merupakan
perpaduan a ntara Monte Carlo de ngan sifat Markov C hain u ntuk mendapatkan
data s ampel berdasarkan s kenario s ampling t ertentu. Metode M arkov C hain
Monte C arlo b anyak digunakan un tuk menyelesaikan p ersoalan-persoalan
Bayesian, k hususnya jika d istribusi p robabilitasnya berdimensi t inggi. Rantai
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
17
Markov state space S didefinisikan sebagai suatu deret variabel random 0{ }t tX ≥ ,
dengan nilai untuk masing-masing variabel random tersebut berada di dalam state
space dan d istribusi dari Xt diberikan berdasarkan semua ni lai sebelumnya dari
proses yaitu 0, 1, 2, ..., 1tX X X X − hanya tergantung pada 1tX − . Definisi dari Rantai
Markov secara matematis adalah sebagai berikut:
Misal 0{ }t tX ≥ merupakan deret dari suatu variabel random dikatakan
sebagai suatu Rantai Markov jika diberikan suatu nilai untuk Xt
sedemikian sehingga distribusi bersyarat Xt dengan 0, 1, 2, ..., 1tX X X X −
diketahui hanya akan bergantung pada nilai 1tX − saja, atau dapat
dituliskan sebagai berikut:
1 1 2 2 0 0 1 1( | , ,..., ) ( | )t t t t t t t tP X A X A X A X A P X A X A− − − − − −∈ ∈ ∈ ∈ = ∈ ∈
(Astuti, 2006)
2.16. Metropolis Hasting
Algoritma M etropolis Hasting me rupakan salah s atu metode MC MC yang
menggunakan mekanisme pe nerimaan da n pe nolakan u ntuk membangkitkan
barisan sampel dari suatu distribusi proposal. Distribusi proposal adalah distribusi
pembangkit kandidat sampel yang yang d ijadikan a cuan d alam p ergerakan
sampel. D istribusi yang biasa d igunakan sebagai d istribusi pr oposal a dalah
distribusi normal d an uniform. Pembangkitan sampel d imulai dengan pemberian
nilai a wal 1θ , s etelah k iterasi diperoleh 1 2, ,..., kθ θ θ . Iterasi s elanjutnya y aitu
pada iterasi 1k + dibangkitkan *θ dari distribusi proposal *( | )kh θ θ . Selanjutnya
nilai-nilai t ersebut d igunakan un tuk menghitung *( , )kα θ θ yang m erupakan
probabilitas penerimaan sampel.
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
18
* *
**
( | ) ( | )( , ) min 1,( | ) ( | )
kk
k kp x hp x hθ θ θα θ θ αθ θ θ
= =
(2.27)
Setelah p erhitungan *( , )kα θ θ , di lakukan pe mbangkitan [0,1]u U dan
selanjutnya d ilakukan p emilihan s ampel. S ampel a kan d iterima a pabila u α≤
sehingga 1 *kθ θ+ = . S ebaliknya, s ampel akan d itolak a pabila u α> sehingga
1k kθ θ+ = (Christensen dkk, 2011).
Estimasi parameter p ada kasus-kasus i nferensi B ayesian, m emisalkan θ
adalah s ebuah ve ktor p arameter yang d iestimasi nilainya. A lgoritma M etropolis
Hasting k emudian melakukan s imulasi u ntuk m emperoleh n ilai (1) (2) ( ), ,..., Tθ θ θ
dengan T adalah b anyak s ampel y ang tersimulasikan dan masing- masing
terdistribusi ke distribusi posterior. Estimasi dari parameter θ̂ diperoleh dari nilai
rata-rata dari nilai-nilai sampel yang tersimulasi yaitu
( )
1ˆ
Tt
t
T
θθ ==
∑ (2.28)
(Johnson dan Albert, 1999)
2.17. Batch Mean
Perhitungan penting setelah analisis output adalah mengenai standart error.
Salah s atu m etode y ang s ederhana dan m udah diterapkan untuk m enghitung
standart error yaitu me tode Batch Mean. Metode Batch Mean dilakukan dengan
membagi u rutan n ilai-nilai s imulasi (1) (2) ( ), ,..., Tθ θ θ menjadi h kelompok y ang
berukuran w , s ehingga .T h w= . S etiap kelompok ke mudian dihitung r ata-rata
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
19
sampel, misalkan rata-rata sampel adalah 1,..., hθ θ . Selanjutnya estimasi standart
error dapat diestimasi dengan standart deviasi dari Batch Mean yaitu
2
1ˆ
ˆ( )
( 1)
h
iB iS
h hθ
θ θ=
−=
−
∑ (2.29)
Standart error sangat berguna untuk menentukan ketelitian dari rata-rata distribusi
target yang dihitung pada simulasi yang dijalankan. Apabila standart error terlalu
besar m aka algoritma M etropolis Hasting s ebaiknya dijalankan m enggunakan
iterasi yang lebih besar (Johnson dan Albert, 1999).
2.18. Mathematica
Mathematica m erupakan program komputasi m atematika y ang s ering j uga
disebut computer algebra program. M athematica d ikembangkan o leh Wolfram
Research of Champaign dan d iluncurkan pe rtama ka li pa da t ahun 1988.
Mathematica merupakan salah satu high performance program yang memudahkan
pengguna da lam melakukan a nalisis. Analisis yang da pat di lakukan de ngan
Mathematica a ntara lain time series, a nalisis multivariat, p erhitungan k ompleks,
analisis cluster, dan sebagainya.
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
BAB V
KESIMPULAN DAN SARAN
5.1 Kesimpulan
Berdasarkan hasil a nalisis da n pe mbahasan yang d ilakukan, da pat
diperoleh kesimpulan yaitu:
1. Pengestimasian p arameter θ dalam D istribusi B inomial N egatif dengan
menggunakan d istribusi prior ( , )Beta a b menghasilkan d istribusi
posterior yaitu distribusi ( , )iBeta kn a y b+ +∑ dan ˆi
kn akn a b y
θ +=
+ + +∑.
2. Meskipun d iperoleh e stimasi yang e ksplisit, namun s etelah d ilakukan
penerapan M onte C arlo M arkov C hain algoritma Metropolis H asting
memberikan h asil θ̂ sebesar 0, 40004 dengan standart error 0,0043368
yang d iperoleh d ari d istribusi prior (2, 4)Beta dan d istribusi pr oposal
(0,1)Uniform melalui 1000 iterasi dengan nilai 1 0, 2θ = .
3. Dari hasil p enerapan M onte C arlo M arkov C hain a lgoritma M etropolis
Hasting un tuk prior non ko njugat y aitu d istribusi (5,8)Gamma ,
(5,8)Cauchy , d an (4,5)Weibull yang paling m endekati ni lai θ
sebenarnya a dalah d engan menggunakan d istribusi prior (5,8)Cauchy
yang m enghasilkan n ilai θ̂ sebesar 4, 29321 dan standart error sebesar
0,893824.
36
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
37
5.2 Saran
Berdasarkan hasil yang d iperoleh da lam s kripsi ini, s aran yang d apat
diberikan yaitu Metode Monte Carlo Markov Chain algoritma Metropolis Hasting
akan lebih bermanfaat ap abila d igunakan p ada perhitungan e stimasi p arameter
dengan m enggunakan d istribusi prior non ko njugat, ka rena pa da u mumnya
penyelesaian dengan distribusi prior non konjugat lebih sulit.
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
BAB III
METODE PENELITIAN
3.1. Langkah Analisis
Langkah an alisis yang d igunakan d alam p enelitian ini a dalah s ebagai
berikut:
1. Penentuan distribusi posterior
a. Membentuk f ungsi likelihood ( )L θ dari d istribusi B inomial Negatif
sesuai persamaan (2.10)
b. Memilih distribusi prior konjugat ( )p θ dari distribusi Binomial Negatif
yaitu distribusi ( , )Beta a b sesuai persamaan (2.20)
c. Membentuk distribusi posterior ( | )f xθ sesuai persamaan (2.6)
2. Estimasi p arameter distribusi B inomial N egatif menggunakan pe ndekatan
Bayesian
a. Memperoleh distribusi posterior ( | )f xθ sesuai dengan langkah 1
b. Mengestimasi parameter θ̂ sesuai persamaan (2.8)
3. Penerapan e stimasi p arameter d istribusi p osterior m enggunakan Monte
Carlo Markov Chain dengan Algoritma Metropolis Hasting
a. Membangkitkan d ata b erdistribusi B inomial N egatif sesuai p ersamaan
(2.15) dengan menggunakan software Wolfram Mathematica 7.0
b. Memilih distribusi prior konjugat ( )p θ sesuai persamaan (2.20)
c. Membentuk distribusi posterior sesuai persamaan (2.6)
d. Menentukan nilai awal (1)θ
20
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
21
e. Menentukan distribusi proposal untuk pergerakan sampel
f. Menentukan parameter distribusi proposal
g. Membangkitkan *θ dari distribusi proposal
h. Menghitung lompatan nilai dari nilai acak *θ
i. Menghitung α sesuai persamaan (2.27)
j. Membangkitkan sampel random (0,1)u U
k. Membandingkan nilai u dengan α , apabila u α≤ maka d iambil nilai
( 1) *kθ θ+ = sedangkan apabila u α> maka nilai ( 1)k kθ θ+ =
l. Mengulangi l angkah b h ingga diperoleh sampel s esuai i terasi y ang
diinginkan
m. Menghitung pe nduga d ari pa rameter θ yang d iperoleh d ari r ata r ata
nilai sampel yang tersimulasi sesuai persamaan (2.28)
n. Menentukan selisih sampling
o. Mengurangi iterasi dengan selisih sampling
p. Menghitung nilai autokorelasi antar parameter
q. Membagi jumlah iterasi menjadi h kelompok berukuran w
r. Menghitung r ata-rata s ampel t iap ke lompok yang t elah d ibagi
sebelumnya
s. Menghitung standart error Batch Mean sesuai persamaan (2.29)
3.2. Flowchart
Berdasarkan langkah a nalisis d ibuat flowchart untuk menunjukkan
prosedur-prosedur da lam sistem kerja Monte C arlo M arkov C hain a lgoritma
Metropolis Hasting dengan lebih mudah. Flowchart tersebut ditunjukkan sebagai
berikut:
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
22
Gambar 3.1. Flowchart Estimasi Parameter Menggunakan Algoritma Metropolis Hasting.
u α≤
( 1) *kθ θ+ = ( 1) *kθ θ+ =
i n=
Mengestimasi θ (sebanyak m kali)
Menghitung standart error θ̂
Selesai
Menghitung α
Input (1)θ ,
n
Membangkitkan *θ
Membangkitkan u
Mulai
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
BAB IV
PEMBAHASAN
4.1 Penentuan D istribusi Posterior pada D istribusi B inomial N egatif
Menggunakan Pendekatan Bayesian
Misalkan X merupakan va riabel acak yang mengikuti d istribusi B inomial
Negatif dengan 1
( | ) (1 )1
k x kxf x
kθ θ θ −−
= − − . Distribusi probabilitas dari variabel
acak X dapat di notasikan menjadi bentuk l ain de ngan t ransformasi y x k= − ,
dengan y menyatakan jumlah k egagalan s ebelum t erjadi k buah su kses.
Distribusi pr obabilitas d ari variabel acak Y dinyatakan de ngan
1( | ) (1 )
1k yy k
f yk
θ θ θ+ −
= − − . Penentuan d istribusi Posterior pada d istribusi
Binomial N egatif menggunakan p endekatan B ayesian d engan d istribusi prior
yaitu distribusi Beta adalah sebagai berikut:
1
( | ) (1 )1
k yy kf y
kθ θ θ
+ − = − −
( 1)! (1 )!( 1)!
k yy ky k
θ θ+ −= −
−
( ) (1 )( 1) ( )
k yy ky k
θ θΓ += −Γ + Γ
(4.1)
Likelihood distribusi Binomial Negatif dengan PDF sesuai persamaan (4.1)
1
( ) ( | )n
i
i
L f yθ θ=
=∏
23
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
24
1
( ) (1 )( 1) ( )
in
i k y
ii
y ky k
θ θ=
Γ += −
Γ + Γ∏
1
1 ( )( ) ( ) (1 )( ) ( 1)
in
i yk n n
ii
y kk y
θ θ=
Γ + ∑= −Γ Γ +∏ (4.2)
Selanjutnya PDF distribusi prior konjugat yaitu distribusi Beta( ,a b )
1 11( ) (1 )( , )
a bpB a b
θ θ θ− −= − (4.3)
Dengan
1
1 1
0
( , ) (1 )a bB a b dθ θ θ− −= −∫ (4.4)
Penentuan distribusi Posterior
( , )( | )( )
f yf yf yθθ = (4.5)
Dengan
( , ) ( | ) ( )f y f y fθ θ θ= (4.6)
( ) ( ) ( | )f y f f y dθ θ θ∞
−∞
= ∫ (4.7)
Sehingga sesuai persamaan (4.6) diperoleh
( , ) ( | ) ( )f y f y fθ θ θ=
1 1
1
1 ( ) 1( ) ( ) (1 ) (1 )( ) ( 1) ( , )
in
i yk n n a b
ii
y kk y B a b
θ θ θ θ− −
=
Γ + ∑= − × −Γ Γ +∏
1 1
1
(1 ) ( ) (1 )( ) ( 1) ( , )
iykn a bni
nii
y kk y B a b
θ θ θ θ− −
=
∑− Γ + −= ×
Γ Γ +∏
1 1
1
(1 ) (1 ) ( )( ) ( , ) ( 1)
iykn a b ni
nii
y kk B a b y
θ θ θ θ− −
=
∑− − Γ +=
Γ Γ +∏
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
25
11
1
(1 ) ( )( , )( ) ( , ) ( 1)
iy bkn a ni
nii
y kf yk B a b y
θ θθ+ −+ −
=
∑− Γ +=
Γ Γ +∏
11
1
( ) 1(1 )( 1) ( ) ( , )
in
iy bkn an
ii
y ky k B a b
θ θ + −+ −
=
Γ +∑= −Γ + Γ∏ (4.8)
Karena pada p ersamaan ( 4.8) 1
( ) 1( 1) ( ) ( , )
ni
nii
y ky k B a b=
Γ +Γ + Γ∏ merupakan ko nstanta,
maka dapat d iabaikan sehingga 11( , ) (1 ) iy bkn af yθ θ θ + −+ − ∑− . Dengan demikian
sesuai persamaan (4.5) diperoleh distribusi Posterior yaitu:
( , )( | )( )
f yf yf yθθ =
11
111
0
(1 )
(1 )
i
i
y bkn a
y bkn a d
θ θ
θ θ θ
+ −+ −
+ −+ −
∑−=
∑−∫
11(1 )
( , )
iy bkn a
iB kn a y bθ θ + −+ − ∑−
=+ +∑
(4.9)
4.2 Estimasi Parameter Berdasarkan Distribusi Posterior
Distribusi Posterior yang d iperoleh sesuai p ersamaan ( 4.9) m erupakan
distribusi ( , )iBeta kn a y b+ +∑ selanjutnya d igunakan dalam es timasi parameter
θ . Nilai θ̂ diperoleh sebagai berikut:
1
1
0
ˆ ( | ,..., ) ( | )nE y y f y dθ θ θ θ θ= = ∫
11 1
0
(1 )( , )
iy bkn a
i
dB kn a y b
θ θ θθ+ −+ − ∑−
=+ +∫ ∑
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
26
11
0
(1 )ˆ
( , )
iy bkn a
i
d
B kn a y b
θ θ θθ
+ −+ ∑−=
+ +
∫∑
( 1, )
( , )i
i
B kn a y bB kn a y b
+ + +=
+ +∑∑
( 1) ( )( 1 )( ) ( )( )
kn a yi bkn a yi bkn a yi bkn a yi b
Γ + + Γ +Γ + + + +
=Γ + Γ +Γ + + +
∑∑∑∑
( ) ( ) ( )( ) ( )
( ) ( )( )
i
i i
i
i
kn a kn a y bkn a y b kn a y b
kn a y bkn a y b
+ Γ + Γ ++ + + Γ + + +
=Γ + Γ +Γ + + +
∑∑ ∑
∑∑
( ) ( ) ( ) ( )
( ) ( ) ( ) ( )i i
i i i
kn a kn a y b kn a y bkn a y b kn a y b kn a y b
+ Γ + Γ + Γ + + +=
+ + + Γ + + + Γ + Γ +∑ ∑
∑ ∑ ∑
( ) ( ) ( )( )
( ) ( ) ( ) ( )i i
i i i
kn a y b kn a y bkn akn a y b kn a y b kn a y b
Γ + Γ + Γ + + ++=
+ + + Γ + + + Γ + Γ +∑ ∑
∑ ∑ ∑
i
kn akn a b y
+=
+ + +∑ (4.10)
4.3 Penerapan E stimasi Parameter D istribusi Posterior Menggunakan
Monte Carlo Markov Chain Algoritma Metropolis Hasting
Estimasi parameter d istribusi posterior dengan pe rhitungan m anual akan
dibandingkan d engan es timasi p arameter yang diperoleh menggunakan M onte
Carlo Markov Chain algoritma Metropolis Hasting. Data yang digunakan sebagai
contoh p enerapan ad alah d ata berdistribusi Binomial N egatif yang d ibangkitkan
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
27
dengan Software Wolfram Mathematica 7 .0. Data t ersebut di bangkitkan de ngan
probabilitas sukses 0,4 dan kejadian sukses sebanyak 7, serta distribusi prior yang
digunakan adalah distribusi Beta.
Tabel 4.1 Tabel Data Berdistribusi Binomial Negatif
7 19 8 10
10 9 20 8
11 6 8 9
11 7 7 7
16 13 10 10
9 2 25 10
1 11 14 17
9 28 14 16
18 8 5 3
4 9 5 8
4.3.1 Estimasi Parameter dengan Perhitungan Manual
Berdasarkan data t ersebut dan sesuai p ersamaan (4.10) diperoleh
nilai θ̂ sebagai berikut:
ˆi
kn akn a b y
θ +=
+ + +∑
7(40) 27(40) 2 4 (7 19 ... 8)
+=
+ + + + + +
282 0,3983708
= =
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
28
4.3.2 Estimasi Parameter dengan Algoritma Metropolis Hasting
Algoritma M etropolis H asting bertujuan un tuk
menyelesaikan p erhitungan yang r umit s alah s atunya a dalah
estimasi parameter. Suatu estimasi parameter pada kasus Bayesian
terjadi a pabila d istribusi prior yang digunakan buka n m erupakan
prior kunjugat da ri distribusi yang in gin diestimasi. B erikut in i
adalah p rosedur es timasi p arameter d engan a lgoritma M etropolis
Hasting.
Prosedur Estimasi Parameter
Inisialisasi data, 1θ , iterasi ; set t=1
Trajectory =
For[ Start t ; End t < iterasi
Bangkitkan p dari distribusi proposal
Bangkitkan u dari distribusi (0,1)uniform
If [
u α≤ , set 1t t pθ θ+ = +
Else set 1t tθ θ+ =
]
]
Thetatopi = Mean [Trajectory]
Gambar 4.1 Prosedur Estimasi Parameter
Setelah diperoleh h asil e stimasi parameter y aitu θ̂ ,
selanjutnya d ilakukan pe rhitungan standart error Batch Mean.
Perhitungan standart error Batch M ean d idasarkan p ada
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
29
perhitungan yang t elah d ilakukan s ebelumnya. B erikut i ni a dalah
prosedur perhitungan standart error Batch Mean.
Prosedur Estimasi Parameter
Inisialisasi h, w ; set i=1
Bagi Trajectory sebanyak h
For[ Start i ; End i < h
ThetraTrajectory [i]= Mean [Trajectory[i]]
Error[i] = Quadrat[ThetraTrajectory [i] -Thetatopi]
Batch Mean = Sqrt[ Sum [ error[i]/((h-1)*h)]]
]
Gambar 4. 2 Prosedur Perhitungan Standart Error Batch Mean
Berdasarkan pr osedur-prosedur t ersebut dapat d ilakukan
perhitungan e stimasi p arameter d engan algoritma Metropolis
Hasting. Berikut ini a dalah hasil perhitungan data pada Tabel 4.1
menggunakan algoritma Metroplois Hasting:
Tabel 4.2 Tabel Perhitungan dengan Metropolis Hasting
θ Iterasi Prior Distribusi
Proposal
1θ θ̂ Standart
Error
0.3983 100 Beta(2,4) Normal(0,1) 0.2 0.401417 0.0040357
0.3983 1000 Beta(2,4) Normal(0,1) 0.2 0.391904 0.0105594
0.3983 10000 Beta(2,4) Normal(0,1) 0.2 0.400438 0.0011625
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
30
Lanjutan Tabel 4.2 Tabel Perhitungan dengan Metropolis Hasting
θ Iterasi Prior Distribusi
Proposal
1θ θ̂ Standart
Error
0.3983 100 Beta(2,4) Normal(0,1) 0.5 0.427118 0.0314959
0.3983 1000 Beta(2,4) Normal(0,1) 0.5 0.405117 0.0190912
0.3983 10000 Beta(2,4) Normal(0,1) 0.5 0.39843 0.0013406
0.3983 100 Beta(2,4) Normal(0,1) 0.7 0.415353 0.0051671
0.3983 1000 Beta(2,4) Normal(0,1) 0.7 0.407188 0.0042770
0.3983 10000 Beta(2,4) Normal(0,1) 0.7 0.399445 0.0010819
0.3983 100 Beta(2,4) Uniform(0,1) 0.2 0.376067 0.0036752
0.3983 1000 Beta(2,4) Uniform(0,1) 0.2 0.393563 0.0119888
0.3983 10000 Beta(2,4) Uniform(0,1) 0.2 0.40004 0.0043368
0.3983 100 Beta(2,4) Uniform(0,1) 0.5 0.405967 0.0008491
0.3983 1000 Beta(2,4) Uniform(0,1) 0.5 0.395704 0.0031467
0.3983 10000 Beta(2,4) Uniform(0,1) 0.5 0.397316 0.0012965
0.3983 100 Beta(2,4) Uniform(0,1) 0.7 0.405513 0.0051184
0.3983 1000 Beta(2,4) Uniform(0,1) 0.7 0.392925 0.0117327
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
31
Berdasarkan T abel 4.2 hasil e stimasi parameter
menggunakan a lgoritma Metropolis H asting m enunjukkan h asil
yang c ukup d ekat de ngan nilai θ sebenarnya dan ni lai standart
error Batch Mean yang d iperoleh s angat ke cil yang berarti nilai
standart error yang dihasilkan kecil. Melalui simulasi tersebut juga
dapat di simpulkan bahwa s emakin b anyak ju mlah i terasi akan
menyebabkan n ilai θ̂ semakin de kat de ngan nilai θ , s elain itu
distribusi pr oposal yang d igunakan yaitu d istribusi N ormal da n
distribusi U niform memberikan e stimasi yang relatif s ama.
Perbedaan in isialisasi 1θ pada a lgoritma Metropolis Hasting t idak
berpengaruh s ignifikan t erhadap hasil e stimasi, k arena berapapun
nilai 1θ yang diinputkan diperoleh estimasi yang relatif sama.
Selanjutnya algorima M etropolis H asting akan d igunakan
untuk melihat pe ngaruh p arameter d istribusi B eta dalam e stimasi
parameter distribusi Binomial N egatif. Simulasi s elanjutnya
menggunakan inisialisasi 1θ yang s ama, yaitu 0 .5 dan
menggunakan d istribusi p roposal yaitu d istribusi N ormal ( 0,1).
Nilai 1θ dan d istribusi pr oposal yang d igunakan s ama mengingat
kedua faktor tersebut tidak memberikan perbedaan yang signifikan
terhadap h asil e stimasi. Berikut a dalah s imulasi de ngan
menggunakan data pada Tabel 4.1:
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
32
Tabel 4.3 Tabel Perbedaan Parameter Distribusi Prior
Distribusi Prior θ̂ Standart Error
Beta (1,2) 0.382559 0.00489297
Beta (2,3) 0.403235 0.00427772
Beta (1,3) 0.389386 0.00513714
Beta (1,4) 0.390629 0.0035615
Beta (3,4) 0.406527 0.00355009
Beta (2,5) 0.400866 0.00592813
Beta (3,5) 0.406562 0.00370302
Beta (4,5) 0.399273 0.00328232
Beta (2,6) 0.393828 0.00490377
Beta (3,6) 0.410854 0.00442508
Beta (4,6) 0.398502 0.00391238
Beta (5,6) 0.406587 0.00360521
Berdasarkan T abel 4. 3 da pat di lihat jika berapapun pa rameter
distribusi prior me nghasilkan n ilai e stimasi yang nilainya s aling
berdekatan .
Algoritma M etropolis H asting s angat b aik d alam
memberikan e stimasi p arameter B inomial Negatif d engan
distribusi prior berupa distribusi Beta, dengan demikian Algoritma
Metropolis H asting d apat juga d iterapkan p ada berbagai macam
distribusi prior lainnya y ang me miliki penyelesaian s ulit. Berikut
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
33
adalah data yang a kan d iestimasi dengan b erbagai macam
distribusi prior.
Tabel 4.4 Tabel Data Binomial Negatif
13 11 9 6
13 12 15 11
11 17 15 5
5 12 17 6
11 8 11 16
8 8 19 15
31 11 19 5
10 12 15 9
6 20 13 11
15 16 14 8
Data tersebut k emudian d iestimasi d engan algoritma
Metropolis Hasting. D istribusi prior yang d ipilih adalah d istribusi
prior n on ko njugat. D istribusi posterior yang d ihasilkan d engan
pemilihan distribusi prior non konjugat biasanya sulit diselesaikan,
sehingga e stimasi pa rameternya a kan lebih mudah apabila
diselesaikan d engan al goritma Metropolis H asting. Misalkan
distribusi B inomial N egatif akan d iestimasi menggunakan
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
34
distribusi p rior ( , )Gamma a b . Likelihood diperoleh s esuai
persamaan (4.2) yaitu
1
1 ( )( ) ( ) ( ) (1 )( ) ( 1)
in
i yk n n
ii
y kLk y
θ θ θ=
Γ + ∑= −Γ Γ +∏
Selanjutnya PDF distribusi ( , )Gamma a b yaitu
11( )( )
b bbp e
a b
θ
θ θ−−=
Γ
Sehingga sesuai p ersamaan (4.5) diperoleh d istribusi posterior
sebagai berikut
1
1
0
(1 )( ( )) ( )( | )
(1 )( ( )) ( )
i
i
y bkn b
n b
y bkn b
n b
ek a bp y
e dk a b
θ
θ
θθθ
θθ θ
−
+ −
−∞
+ −
∑−Γ Γ=
∑−Γ Γ∫
Distribusi posterior tersebut sulit diselesaikan sehingga dibutuhkan
bantuan i terasi n umerik untuk m enyelesaikan estimasi
parameternya. H al t ersebut juga berlaku u ntuk pe nggunaan
distribusi prior non konjugat la innya m isalnya distribusi C auchy
dan d istribusi Weibull. Berikut in i adalah hasil estimasi parameter
dengan ba ntuan algoritma M etropolis H asting yang d ijalankan
masing-masing de ngan 1000 iterasi da n banyaknya s elisih
sampling adalah 100:
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
35
Tabel 4.5 Tabel Estimasi dengan Distribusi Prior Non Konjugat
Distribusi Prior θ̂ Standart Error
Gamma (5,8) 20.4 2.9263
Cauchy(5,8) 4.29321 0.893824
Weibull (4,5) 6.09339 2.19357
Berdasarkan Tabel 4 .5 es timasi p arameter d ari data b erdistribusi
Binomial Negatif d engan distribusi G amma ( 5,8) , C auchy ( 5,8), da n
Weibull (4,5) menghasilkan θ̂ masing-masing sebesar 20.4, 4.29321, dan
6.09339. Algoritma me tropolis Hasting in i memberikan e stimasi d engan
proses yang mudah sehingga algoritma Metropolis Hasting dapat dijadikan
alternatif bantuan u ntuk mengestimasi parameter, na mun d emikian
estimasi yang d ihasilkan da ri metode M onte C arlo M arkov C hain
algoritma Metropolis Hasting tidak memberikan hasil yang tetap, sehingga
apabila menginginkan e stimasi yang nilainya t etap da pat m enggunakan
metode iterasi numerik lain.
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
DAFTAR PUSTAKA
Andrew, G , S tern, H , C arlin, J, D unson D , V ehtari, A , a nd R ubin, D . 2000. Bayesian Data Analysis Third Edition. United States: Chapman and Hall.
Apsari, W. 2013. Estimasi Parameter Regresi Logistik Multinomial dengan Metode Bayes. Jurnal Gaussian, 2: 79-88.
Astuti, E . 2006. Implementasi B ayesian Markov C hain M onte C arlo p ada Permodelan P ortofolio O ptimal d engan P endekatan M odel M ixture Beberapa M ixture. Tesis. S urabaya: I nstitut T eknologi S epuluh November.
Bain, L.J. and Engelhardt, M. 1992. Introduction to Probability and Mathematical Statistics Second Edition. California: Duxbury Press.
Berger, J .O. 1980. Statistical Decision Theory and Bayesian Analysis Second Edition. New York: Springel-Verlag inc.
Boldstad, W . 2007. Introduction to Bayesian Statistics Second Edition. U nited States: Wiley Interscience.
Box, G .E.P a nd T iao, G .C. 2 011. Bayesian Inference in Statistical Analysis. Philippines: Addision-Wesley Publishing Company Inc.
Bradlow, E, Hardie, B, and Fader, P . 2002. Bayesian Inference for the Negative Binomial Distribution via Polynomial Expansions. J ournal o f Computional and Statistics, 11: 189-201.
Christensen, R, Johnson, W, Branscum, A, and Hanson, T. 2011. Bayesian Ideas and Data Analysis: An Introduction for Scientists and Statisticians. United States: CRC Press.
Gregory, P . 2010. Bayesian Logical Data Analysis for the Physical Sciences. United Kingdom: Cambridge.
Hilbe, J. 2011. Negative Binomial Regression. Cambridge: Cambridge University Press
Irwanti, L .K. 2012. Pembangkitan Sampel Random Menggunakan Algoritma Metropolis Hasting. Jurnal Gaussian, 1:135-146.
Johnson, V.E dan Albert, J.H. 1999. Ordinal Data Modeling. New York: Springer -Verlag Inc.
38
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
39
Jong, P , a nd H eller, G . 2008. Generalized Linear Model for Insurance Data. Cambridge: Cambridge University Press
Lio, Y, L. 2009. A Note on Bayesian Estimation for the Negative Binomial Model. Pliska Stud. Math. Bulgar, 19: 207-216.
Shafira. 2 011. P enaksiran P arameter D istribusi Binomial N egatif p ada Kasus Overdispersi. Skripsi. Jakarta: Universitas Indonesia.
Siska, A . 2011. I nferensi S tatistik D istribusi Binomial d engan M etode B ayes Menggunakan P rior K onjugat. Skripsi. S emarang: U niversitas Diponegoro.
Soejoeti, Z dan Soebanar. 1988. Inferensi Bayesian. Jakarta: Universitas Terbuka.
Walck, C . 2007. Statistical Distributions for Experimentalists. S weden: University of Stockholm.
Walpole, R . 1995. Pengantar Statistika. Edisi ketiga. J akarta: P T G ramedia Pustaka Utama
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
Lampiran 1. Data Berdistribusi Binomial Negatif
7 19 8 10
10 9 20 8
11 6 8 9
11 7 7 7
16 13 10 10
9 2 25 10
1 11 14 17
9 28 14 16
18 8 5 3
4 9 5 8
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
Lanjutan Lampiran 1. Data Berdistribusi Binomial Negatif
13 11 9 6
13 12 15 11
11 17 15 5
5 12 17 6
11 8 11 16
8 8 19 15
31 11 19 5
10 12 15 9
6 20 13 11
15 16 14 8
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
Lampiran 2. Program MCMC Algoritma Metropolis Hasting dengan prior Beta
#Pembangkitan data
#Perhitungan estimasi parameter
n=Input["Jumlah data yang ingin dibangkitkan"]
k=Input["Kejadian sukses"]
thetadata=Input["Probabilitas sukses"]
data=RandomInteger[NegativeBinomialDistribution[k,thetadata],n]
TabView[{"Plot"->ListLinePlot[data,Mesh->All,GridLines->{{},{1}}],"Data"->data}]
Clear[a,b,iterasi,trajectory,traj,w,u,prop,proposedjump,prob,alfa,r,rr,ss,s,q,qq,
thetatopi,r,sumy,f]
a=Input["Parameter Distribusi Prior a"]
b=Input["Parameter Distribusi Prior b"]
iterasi=Input["Iterasi yang diinginkan"]
trajectory[1]=Input["Nilai awal dengan kurung kurawal"]
traj=Array[trajectory,iterasi]
w=Array[u,iterasi]
rr=Array[r,iterasi]
prop=Array[proposedjump,iterasi]
qq=Array[q,iterasi]
prob=Array[alfa,iterasi]
ss=Array[s,iterasi]
sumy=Total[data]
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
Lanjutan Lampiran 2. Program M CMC A lgoritma M etropolis Hasting dengan
prior Beta
#Perhitungan Batch Mean
likelihood[f_,data]:=Product[Evaluate[PDF[f,y]],{y,data}]
li=likelihood[NegativeBinomialDistribution[k,theta],data]
pri=PDF[BetaDistribution[a,b],theta]
ats=li*pri
bwh=Integrate[ats,theta]
f[theta_]:=ats/bwh
For[i=1,i<iterasi,i++,proposedjump[i]=RandomReal[NormalDistribution[0,1],1];u[i]=RandomReal[UniformDistribution[{0,1}],1];q[i]=trajectory[i][[1]]+proposedjump[i][[1]];r[i]=If[q[i]<1&&q[i]>0,q[i],0];If[r[i]!=0,s[i]=f[r[i]]/f[trajectory[i][[1]]],s[i]=0];alfa[i]=Min[1,s[i]];If[u[i][[1]]<=alfa[i],trajectory[i+1]={q[i]},trajectory[i+1]=trajectory[i]]]
thetatopi=Total[traj]/iterasi
TabView[{"Proposed Jump"->prop,"U"->w,"alfa"->prob,"Theta"->traj,"Hasil Estimasi"->thetatopi}]
Clear[h,c,tp,v,l,sd]
l=Input["Selisih Sampling"]
g[x_]:=(x-thetatopi)
z=iterasi-l
mm=Array[m,z]
oo=Array[o,z]
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
Lanjutan Lampiran 2. Program M CMC Algoritma Metropolis H asting dengan
prior Beta
For[j=1,j<=z,j++,m[j]=g[trajectory[j][[1]]]*g[trajectory[j+l][[1]]];o[j]=Power[g[trajectory[j][[1]]],2]]
atas=Total[mm]
bawah=Total[oo]
rel=(iterasi/z)*(atas/bawah)
v=iterasi/l
trj=Array[tp,v]
thetatraj=Partition[traj,l]
syy=Array[sy,v]
For[c=1,c<=v,c++,tp[c]=Total[thetatraj[[c]]]/l;sy[c]=Power[tp[c]-thetatopi,2]]
se=Sqrt[Total[syy]/((v-1)*v)]
TabView[{"Batch Mean"->se}]
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
Lampiran 3. Program MCMC Algoritma Metropolis Hasting dengan prior Gamma
#Pembangkitan data
#Perhitungan estimasi parameter
n=Input["Jumlah data yang ingin dibangkitkan"]
k=Input["Kejadian sukses"]
thetadata=Input["Probabilitas sukses"]
data=RandomInteger[NegativeBinomialDistribution[k,thetadata],n]
TabView[{"Plot"->ListLinePlot[data,Mesh->All,GridLines->{{},{1}}],"Data"->data}]
Clear[a,b,iterasi,trajectory,traj,w,u,prop,proposedjump,prob,alfa,r,rr,ss,s,q,qq,
thetatopi,r,sumy,f]
a=Input["Parameter Distribusi Prior a"]
b=Input["Parameter Distribusi Prior b"]
iterasi=Input["Iterasi yang diinginkan"]
trajectory[1]=Input["Nilai awal dengan kurung kurawal"]
traj=Array[trajectory,iterasi]
w=Array[u,iterasi]
rr=Array[r,iterasi]
prop=Array[proposedjump,iterasi]
qq=Array[q,iterasi]
prob=Array[alfa,iterasi]
ss=Array[s,iterasi]
sumy=Total[data]
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
Lanjutan Lampiran 3. Program M CMC Algoritma Metropolis H asting d engan
prior Gamma
#Perhitungan Batch Mean
likelihood[f_,data]:=Product[Evaluate[PDF[f,y]],{y,data}]
li=likelihood[NegativeBinomialDistribution[k,theta],data]
pri=PDF[GammaDistribution[a,b],theta] #apabila ingin mengganti distribusi prior Beta (a,b) dengan distribusi lain, hapus GammaDistribution dan ganti dengan distribusi yang diinginkan. PDF[CauchyDistribution[a,b] ,theta] untuk distribusi Cauchy, dan PDF[WeibullDistribution[a,b] ,theta] untuk distribusi Weibull
ats=li*pri
bwh=Integrate[ats,theta]
f[theta_]:=ats/bwh
For[i=1,i<iterasi,i++,proposedjump[i]=RandomReal[NormalDistribution[0,1],1];u[i]=RandomReal[UniformDistribution[{0,1}],1];q[i]=trajectory[i][[1]]+proposedjump[i][[1]];r[i]=If[q[i]<1&&q[i]>0,q[i],0];If[r[i]!=0,s[i]=f[r[i]]/f[trajectory[i][[1]]],s[i]=0];alfa[i]=Min[1,s[i]];If[u[i][[1]]<=alfa[i],trajectory[i+1]={q[i]},trajectory[i+1]=trajectory[i]]]
thetatopi=Total[traj]/iterasi
TabView[{"Proposed Jump"->prop,"U"->w,"alfa"->prob,"Theta"->traj,"Hasil Estimasi"->thetatopi}]
Clear[h,c,tp,v,l,sd]
l=Input["Selisih Sampling"]
g[x_]:=(x-thetatopi)
z=iterasi-l
mm=Array[m,z]
oo=Array[o,z]
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
Lanjutan Lampiran 3. Program M CMC Algoritma Metropolis H asting d engan
prior Gamma
For[j=1,j<=z,j++,m[j]=g[trajectory[j][[1]]]*g[trajectory[j+l][[1]]];o[j]=Power[g[trajectory[j][[1]]],2]]
atas=Total[mm]
bawah=Total[oo]
rel=(iterasi/z)*(atas/bawah)
v=iterasi/l
trj=Array[tp,v]
thetatraj=Partition[traj,l]
syy=Array[sy,v]
For[c=1,c<=v,c++,tp[c]=Total[thetatraj[[c]]]/l;sy[c]=Power[tp[c]-thetatopi,2]]
se=Sqrt[Total[syy]/((v-1)*v)]
TabView[{"Batch Mean"->se}]
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
Lampiran 4. Output Program Perhitungan dengan Metropolis Hasting
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
Lanjutan Lampiran 4. Output Program Perhitungan dengan Metropolis Hasting
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
Lanjutan Lampiran 4. Output Program Perhitungan dengan Metropolis Hasting
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
Lanjutan Lampiran 4. Output Program Perhitungan dengan Metropolis Hasting
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
Lampiran 5. Output Perbedaan Parameter Distribusi Prior
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
Lanjutan Lampiran 5. Output Perbedaan Parameter Distribusi Prior
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
Lanjutan Lampiran 5. Output Perbedaan Parameter Distribusi Prior
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN
Lampiran 6. Output Estimasi dengan Distribusi Prior Non Konjugat
ADLN - PERPUSTAKAAN UNIVERSITAS AIRLANGGA
SKRIPSI ESTIMASI PARAMETER DISTRIBUSI ... MIFTA DIAN