PENDUGAAN FUNGSI SEBARAN DALAM MODEL

NONPARAMETRIK

RONI WIJAYA

DEPARTEMEN MATEMATIKA

FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM

INSTITUT PERTANIAN BOGOR

BOGOR

2013

PERNYATAAN MENGENAI SKRIPSI DAN

SUMBER INFORMASI SERTA PELIMPAHAN HAK CIPTA

Dengan ini saya menyatakan bahwa skripsi berjudul Pendugaan Fungsi

Sebaran dalam Model Nonparametrik adalah benar karya saya dengan arahan dari

komisi pembimbing dan belum diajukan dalam bentuk apa pun kepada perguruan

tinggi mana pun. Sumber informasi yang berasal atau dikutip dari karya yang

diterbitkan maupun tidak diterbitkan dari penulis lain telah disebutkan dalam teks

dan dicantumkan dalam Daftar Pustaka di bagian akhir skripsi ini.

Dengan ini saya melimpahkan hak cipta dari karya tulis saya kepada Institut

Pertanian Bogor.

Bogor, Juni 2013

Roni Wijaya

NIM G54080042

ABSTRAK

RONI WIJAYA. Pendugaan Fungsi Sebaran dalam Model Nonparametrik.

Dibimbing oleh I WAYAN MANGKU dan SISWANDI.

Statistika nonparametrik merupakan alternatif dari statistika parametrik

ketika asumsi-asumsi yang mendasari dalam statistika parametrik tidak dapat

terpenuhi, seperti tidak diketahuinya fungsi sebaran. Statistika nonparametrik

sering disebut sebagai prosedur yang bebas distribusi (free-distibution

procedures) karena tidak mengacu pada distribusi tertentu. Dalam karya ilmiah ini

dibahas tentang pendugaan fungsi sebaran dalam model nonparametrik dan dititik

beratkan pada keluarga nonparametrik. Tujuan karya ilmiah ini adalah untuk

mempelajari model pendugaan nonparametrik pada fungsi sebaran empiris,

dinotasikan yang independent and identically distributed (iid) dan

merupakan maximum likelihood untuk suatu fungsi sebaran yang tidak diketahui.

merupakan penduga takbias terhadap dengan

atau adalah uniformly minimum variance

unbiased estimator (UMVUE) dan -konsisten untuk .

Kata kunci: penduga nonparametrik, fungsi sebaran secara empiris, likelihood.

ABSTRACT

RONI WIJAYA. Estimation in Nonparametric Models. Supervised by I WAYAN

MANGKU and SISWANDI.

Nonparametric statistics are alternative for parametric statistics whenever

no assumptionis satisfied in parametric statistics, for example the distribution

function is not identified. Nonparametric statistics are often referred as free

distribution procedures, because they are not referred to any particular

distribution. This paper discusses the estimation of the distribution function in

nonparametric models. It emphasizes on nonparametric family. The objective of

this research is tostudy nonparametric estimation models on the empirical

distribution functions, denoted by that is independent and identically

distributed (i.i.d.) and is maximum likelihood for unknown distribution

function. is unbiased estimator of with

or as an uniformly minimum variance unbiased estimator

(UMVUE) and -consistent for .

Keywords: nonparametric estimation, empirical distribution function, likelihood.

PENDUGAAN FUNGSI SEBARAN DALAM MODEL

NONPARAMETRIK

RONI WIJAYA

Skripsi

sebagai salah satu syarat untuk memperoleh gelar

Sarjana Sains

pada

Departemen Matematika

DEPARTEMEN MATEMATIKA

FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM

INSTITUT PERTANIAN BOGOR

BOGOR

2013

Judul Skripsi : Pendugaan Fungsi Sebaran dalam Model Nonparametrik

Nama : Roni Wijaya

NIM : G54080042

Disetujui oleh

Dr Ir I Wayan Mangku, MSc

Pembimbing I

Drs Siswandi, MSi

Pembimbing II

Diketahui oleh

Dr Dra Berlian Setiawaty, MS

Ketua Departemen

Tanggal Lulus:

PRAKATA

Puji dan syukur penulis panjatkan kepada Allah subhanahu wa ta’ala atas

segala karunia-Nya sehingga karya ilmiah ini berhasil diselesaikan. Tema yang

dipilih ialah pendugaan, dengan judul Pendugaan Fungsi Sebaran dalam Model

Nonparametrik.

Terima kasih penulis ucapkan kepada Bapak Dr Ir I Wayan Mangku, MSc

dan Bapak Drs Siswandi, MSi selaku pembimbing. Ungkapan terima kasih juga

disampaikan kepada ayah, ibu, serta seluruh keluarga, atas segala doa dan kasih

sayangnya.

Semoga karya ilmiah ini bermanfaat.

Bogor, Juni 2013

Roni Wijaya

DAFTAR ISI

DAFTAR LAMPIRAN vi

PENDAHULUAN

Latar Belakang 1

Tujuan 1

LANDASAN TEORI

Ruang Contoh, Kejadian, dan Peluang 2

Peubah Acak dan Fungsi Sebaran 3

Nilai Harapan, Ragam, dan Momen 3

Matriks 5

Multivariate Normal 6

Peubah Acak Bernoulli dan Binomial 6

Kekonvergenan Peubah Acak 7

Penduga dan Sifat-sifatnya 8

Beberapa Lema Teknis 9

HASIL DAN PEMBAHASAN

Estimasi Parameter 11

Fungsi Sebaran dalam Kasusu iid Secara Empiris 15

Maximum Likelihood Estimator (MLE) di Model Nonparametrik 21

Metode Maximum Likelihoods 22

Contoh Penerapan 26

SIMPULAN 27

DAFTAR PUSTAKA 27

LAMPIRAN 29

DAFTAR LAMPIRAN

1. Bukti Lema 2.1 Pertaksamaan Markov 30

2. Bukti Lema 2.2 Pertaksamaan Chebyshev 30

3. Bukti Lema 2.4 Teorema Limit Pusat (CLT) 31

PENDAHULUAN

Latar Belakang

Statistika nonparametrik merupakan alternatif dari statistika parametrik

ketika asumsi-asumsi yang mendasari dalam statistika parametrik tidak dapat

terpenuhi seperti tidak diketahuinya fungsi sebaran. Pada umumnya, setelah data

dikumpulkan, langkah selanjutnya adalah menduga nilai harapannya (mean) dan

ragamnya (variance), kemudian dilakukan uji-z atau uji-t. Semua tindakan yang

dilakukan di atas merupakan prosedur umum statistika parametrik yang mengacu

pada suatu distribusi tertentu. Berbeda dengan statistika parametrik, statistika

nonparametrik adalah prosedur statistika yang tidak mengacu pada distribusi

tertentu. Itulah sebabnya, statistika nonparametrik sering disebut sebagai prosedur

yang bebas distribusi (free-distibution procedures). Statistika nonparametrik

digunakan bila distribusi dari data yang diamati tidak diketahui.

Salah satu peran dan kegunaan statistika dalam ilmu pengetahuan adalah

sebagai alat analisis dan interpretasi data kuantitatif ilmu pengetahuan, sehingga

didapatkan suatu kesimpulan dari data tersebut. Dalam statistika dikenal sebuah

istilah pendugaan. Istilah pendugaan yang sering didengar adalah terjemahan dari

kata estimation. Pada dasarnya, metode pendugaan adalah suatu metode untuk

memperkirakan kisaran nilai-nilai karakteristik suatu populasi dengan

menggunakan nilai-nilai sampel. Nilai karakteristik populasi sering disebut

dengan parameter populasi, sedangkan nilai-nilai sampel sering disebut dengan

statistik sampel. Dalam metode estimasi, parameter populasi yang ingin diduga

adalah berupa nilai harapan dari peubah acak yang diberi notasi dan simpangan

baku dengan notasi . Teori pendugaan sendiri digolongkan menjadi pendugaan

titik (point estimation) dan pendugaan selang (interval estimation).

Misalkan diberikan data pengamatan peubah acak yang

independent and identically distributed (i.i.d.) dan , dengan adalah

ruang dimensi dan adalah bilangan bulat positif.. Untuk menentukan

distribusi dari ekivalen dengan menentukan fungsi sebarannya.

Untuk menduga fungsi sebaran F dapat dilakukan dengan dua pendekatan

yaitu pendekatan parametrik dan non parametrik. Pendekatan parametrik

dilakukan jika asumsi bentuk fungsi F diketahui dan tergantung pada suatu

parameter, sehingga menduga fungsi F ekivalen dengan menduga

parameternya. Sedangkan pendekatan nonparametrik dilakukan jika asumsi

bentuk fungsi F tidak diketahui. Dalam hal ini diasumsikan bahwa fungsi F

termuat dalam kelas fungsi mulus dalam arti mempunyai turunan yang kontinu.

Dalam tulisan ini dibahas tentang pendugaan fungsi sebaran dalam model

nonparametrik dan dititikberatkan pada keluarga nonparametrik.

Tujuan

Tujuan dari penulisan karya ilmiah ini adalah untuk:

1 Mempelajari model pendugaan nonparametrik pada fungsi sebaran empiris

yang i.i.d.

2 Mempelajari metode maximum likelihoods dalam model nonparametrik.

3 Membuktian bahwa penduga fungsi sebaran adalah lebih efisien secara

asimtotik dibandingkan dengan fungsi sebaran empirisnya.

LANDASAN TEORI

Ruang Contoh, Kejadian, dan Peluang

Suatu percobaan yang dapat diulang dalam kondisi yang sama, yang

hasilnya tidak bisa diprediksi secara tepat tetapi kita bisa mengetahui semua

kemungkinan hasil yang muncul disebut percobaan acak.

Definisi 1 (Ruang contoh)

Ruang contoh adalah himpunan semua hasil yang mungkin dari suatu percobaan

acak, dan dinotasikan dengan Ω.

(Grimmett and Stirzaker 1992)

Definisi 2 (Kejadian)

Kejadian adalah suatu himpunan bagian dari ruang contoh Ω.

(Grimmett and Stirzaker 1992)

Definisi 3 (Kejadian lepas)

Kejadian A dan B disebut saling lepas jika irisan dari keduanya adalah himpunan

kosong.

(Grimmett and Stirzaker 1992)

Definisi 4 (Medan-σ)

Medan-σ adalah suatu himpunan yang anggotanya terdiri atas himpunan bagian

ruang contoh Ω, yang memenuhi syarat berikut:

1.

2. jika , maka

3. jika maka .

(Hogg et al. 2005)

Jika adalah himpunan bilangan real, maka medan-σ disebut medan Borel.

Anggota dari medan Borel disebut himpunan Borel.

Definisi 5 (Ukuran peluang)

Misalkan Ω adalah ruang contoh suatu percobaan dan adalah medan-σ pada Ω.

Suatu fungsi yang memetakan unsur-unsur ke himpunan bilangan real , atau

disebut ukuran peluang jika:

1. tak negatif, yaitu untuk setiap , .

2. bersifat aditif tak hingga, yaitu jika dengan ,

maka

.

3. bernorma satu, yaitu .

Pasangan disebut ruang ukuran peluang atau ruang probabilitas.

(Hogg et al. 2005)

Definisi 6 (Kejadian saling bebas)

Kejadian A dan B dikatakan saling bebas jika:

.

Secara umum, himpunan kejadian dikatakan saling bebas jika:

3

untuk setiap himpunan bagian J dari I, dengan adalah himpunan indeks.

(Grimmett and Stirzaker 1992)

Peubah Acak dan Fungsi Sebaran

Definisi 7 (Peubah acak)

Misalkan Ω adalah ruang contoh dari suatu percobaan acak. Fungsi X yang

terdefinisi pada Ω yang memetakan setiap unsur ke satu dan hanya satu

bilangan real disebut peubah acak. Ruang dari X adalah himpunan

bagian dari himpunan bilangan real yang dinotasikan . (Hogg et al. 2005)

Peubah acak dinotasikan dengan huruf kapital seperti X, Y, dan Z. Sedangkan

nilai peubah acak dinotasikan dengan huruf kecil seperti dan . Setiap peubah

acak memiliki fungsi sebaran.

Definisi 8 (Fungsi sebaran)

Fungsi sebaran suatu peubah acak X adalah , yang didefinisikan

oleh (Grimmett and Stirzaker 1992)

Definisi 9 (Peubah acak diskret)

Peubah acak X dikatakan diskret jika semua himpunan nilai dari peubah acak

tersebut merupakan himpunan tercacah.

(Hogg et al. 2005)

Definisi 10 (Fungsi massa peluang)

Fungsi massa peluang dari peubah acak diskret X adalah fungsi yang diberikan oleh:

.

(Hogg et al. 2005)

Definisi 11 (Peubah acak kontinu)

Suatu peubah acak X disebut kontinu jika fungsi sebarannya dapat dinyatakan

sebagai:

untuk suatu fungsi yang terintegralkan. Selanjutnya fungsi

disebut fungsi kepekatan peluang .

(Grimmett and Stirzaker 1992)

Nilai Harapan, Ragam, dan Momen

Definisi 12 (Nilai harapan)

Misalkan adalah peubah acak diskret dengan himpunan semua kemungkinan

nilai X adalah A dan dengan fungsi massa peluang , maka nilai harapan

(expected value) dari , dinotasikan dengan , adalah

4

jika jumlah di atas konvergen. Jika jumlah di atas divergen, maka nilai harapan

dari X adalah tidak ada.

(Hogg et al. 2005)

Definisi 13 (Ragam)

Misalkan adalah peubah acak diskret dengan fungsi massa peluang dan

nilai harapan Maka ragam dari , dinotasikan dengan atau ,

adalah

(Hogg et al. 2005)

Definisi 14 (Momen ke-k)

Jika k adalah bilangan bulat positif, maka momen ke-k atau dari peubah acak

X adalah

(Hogg et al. 2005)

Definisi 15 (Momen pusat ke-k)

Jika k adalah bilangan bulat positif, maka momen pusat ke-k atau dari peubah

acak X adalah

(Hogg et al. 2005)

Nilai harapan dari peubah acak X juga merupakan momen pertama dari X dan

ragam merupakan momen pusat ke-2 dari peubah acak X.

Definisi 16 (Fungsi pembangkit momen)

Fungsi pembangkit momen (moment generating function) dari suatu peubah acak

X, didefinisikan sebagai

untuk .

(Hogg et al. 2005)

Jika adalah vektor peubah acak yang berukuran sedemikian rupa

sehingga maka fungsi pembangkit momennya adalah

,

dengan adalah vektor berukuran sehingga , untuk

.

Definisi 17 (Fungsi indikator)

5

Misalkan A adalah suatu kejadian. Fungsi indikator dari A adalah suatu

fungsi , yang diberikan oleh:

(Grimmett and Stirzaker 1992)

Definisi 18 (Sebaran normal)

Suatu peubah acak X disebut memunyai sebaran normal dengan nilai harapan

dan ragam , ditulis X menyebar , jika fungsi kepekatan peluangnya

adalah

untuk .

(Hogg et al. 2005)

Matriks

Matriks merupakan kumpulan bilangan yang disusun dalam bentuk persegi

panjang atau bujur sangkar dan setiap matriks akan mempunyai baris dan kolom.

Secara umum matriks yang berukuran dapat ditulis dengan

dengan adalah unsur matriks pada baris ke- dan kolom ke- , dan

, . Matriks dapat ditulis dalam bentuk:

.

(Leon 2001)

Definisi 19 (Matriks transpos)

Transpos dari suatu matriks berukuran , ditulis adalah matriks

berukuran yang diperoleh dengan mengganti setiap baris dari menjadi

kolom dan sebaliknya, sehingga jika , maka

.

(Leon 2001)

Definisi 20 (Matriks definit positif)

Suatu matriks simetrik berukuran disebut matriks definit positif jika

bentuk kuadrat , untuk semua taknol dalam .

(Leon 2001)

Contoh:

Matriks

merupakan matriks definit positif karena bentuk kuadrat

6

untuk .

Multivariate Normal

Misalkan adalah peubah acak kontinu dengan merupakan

nilai dari peubah acak dan adalah matriks koragam simetrik definit positif yang

berukuran dan adalah vektor nilai harapan dari peubah acak yang

berukuran . Didefinisikan dengan adalah transpos

dari dan anggota himpunan bilangan real. Suatu vektor peubah acak yang

berukuran sedemikian rupa sehingga disebut

memunyai sebaran multivariate normal dengan vektor nilai harapan dan matriks

koragam , ditulis X menyebar , jika fungsi kepekatan peluangnya adalah

,

untuk .

(Hogg et al. 2005)

Peubah Acak Bernoulli dan Binomial

Suatu percobaan disebut percobaan Bernoulli jika hasilnya hanya ada dua

kemungkinan, yaitu ‘sukses’ dengan peluang atau ‘gagal’ dengan peluang . Jika suatu peubah acak X hanya memiliki dua nilai, yaitu bernilai 0 jika hasil

percobaan Bernoulli adalah ‘gagal’ dan bernilai 1 jika hasil percobaan Bernoulli

adalah ‘sukses’, maka peubah acak tersebut dinamakan peubah acak Bernoulli.

Definisi 21 (Peubah acak Bernoulli)

Peubah acak diskret X disebut peubah acak Bernoulli dengan parameter ,

, jika fungsi massa peluangnya diberikan oleh

(Ghahramani 2005)

Jika percobaan Bernoulli diulang secara bebas dan identik sebanyak kali serta

menyatakan banyaknya ‘sukses’ di antara ulangan tersebut, maka disebut

memiliki sebaran Binomial dengan parameter .

Definisi 22 (Peubah acak Binomial)

Peubah acak diskret X disebut peubah acak Binomial dengan parameter ,

adalah bilangan bulat positif dan , jika fungsi massa peluangnya

diberikan oleh

(Ghahramani 2005)

Teorema 1

Jika adalah peubah acak Binomial dengan parameter , maka ,

dan (Ghahramani 2005)

7

Bukti: lihat Ghahramani (2005).

Kekonvergenan Peubah Acak

Definisi 23 (Kekonvergenan dalam peluang)

Misalkan adalah barisan peubah acak pada suatu ruang peluang

( ). Barisan peubah acak dikatakan konvergen ke X, dilambangkan

, jika untuk setiap berlaku untuk

(Grimmett and Stirzaker 1992)

Definisi 24 (Kekonvergenan dalam sebaran)

Misalkan adalah peubah acak yang terdefinisi pada suatu ruang peluang.

Misalkan adalah fungsi sebaran untuk , dan adalah fungsi sebaran untuk

. Suatu barisan peubah acak dikatakan konvergen dalam sebaran ke peubah

acak , ditulis , jika dan hanya jika untuk setiap titik kontinu pada ,

(Shao 2007)

Definisi 25 (Kekonvergenan almost surely (a.s))

Misalkan adalah peubah acak yang terdefinisi pada suatu ruang peluang.

Suatu barisan peubah acak dikatakan konvergen hampir pasti (almost surely

(a.s)) ke peubah acak , ditulis , jika dan hanya jika

(Shao 2007)

Definisi 26 (Kekonvergenan dalam momen ke-p)

Misalkan adalah peubah acak yang terdefinisi pada suatu ruang peluang.

Suatu barisan peubah acak dikatakan konvergen dalam momen ke- ke

peubah acak , ditulis , jika dan hanya jika

(Shao 2007)

Penduga dan Sifat-sifatnya

Definisi 27 (Statistik)

Statistik adalah suatu fungsi dari satu atau lebih peubah acak yang tidak

tergantung pada satu atau beberapa parameter yang nilainya tidak diketahui.

(Hogg et al. 2005)

Contoh dari statistik adalah statistik kunjungan wisatawan ke Indonesia, statistik

hotel, statistik restoran, dan lain-lain.

8

Definisi 28 (Penduga)

Misalkan adalah contoh acak. Suatu statistik yang

digunakan untuk menduga fungsi parameter , dikatakan sebagai penduga

(estimator) bagi , dilambangkan oleh Bilamana nilai maka disebut

sebagai dugaan (estimate) bagi (Hogg et al. 2005)

Definisi 29 (Penduga takbias)

(i). Suatu penduga yang nilai harapannya sama dengan parameter , yaitu

disebut penduga takbias bagi parameter .

Jika sebaliknya, penduga di atas disebut berbias.

(ii). Jika

maka disebut sebagai penduga takbias asimtotik bagi

parameter (Hogg et al. 2005)

Definisi 30 (Penduga konsisten)

Suatu penduga yang konvergen dalam peluang ke parameter disebut

penduga konsisten bagi (Hogg et al. 2005)

Definisi 31 (O(.) dan o(.) )

Simbol-simbol ini merupakan cara untuk membandingkan besarnya dua fungsi

dan dengan menuju suatu limit L.

(i). Notasi menyatakan bahwa

terbatas, untuk

.

(ii). Notasi , menyatakan bahwa

, untuk .

(Serfling 1980)

Definisi 32 (Konsistensi penduga titik)

Misalkan adalah peubah acak dari populasi yang tidak

diketahui , dengan adalah keluarga yang mengandung populasi yang

menghasilkan data dan adalah penduga titik bagi suatu nilai untuk setiap

.

i) disebut konsisten terhadap jika dan hanya jika untuk

setiap .

ii) Misalkan adalah barisan konstanta positif yang divergen ke .

disebut -konsisten terhadap jika dan hanya jika

untuk setiap .

iii) konsisten kuat terhadap jika dan hanya jika untuk

setiap .

iv) disebut -konsisten terhadap jika dan hanya jika

untuk setiap dan .

9

(Shao 2007)

Definisi 33 (MSE suatu penduga)

Mean Square Error (MSE) dari suatu penduga U bagi parameter

didefinisikan sebagai

dengan .

Definisi 34 (UMVUE suatu penduga)

Misalkan adalah peubah acak dari populasi yang tidak diketahui dan

adalah parameter yang terkait dengan , . Didefinisikan adalah

penduga takbias terhadap jika dan hanya jika . Sebuah penduga

takbias terhadap disebut uniformly minimum variance unbiased estimator

(UMVUE) jika dan hanya jika untuk setiap

dan setiap penduga takbias lain terhadap .

(Shao 2007)

Beberapa Lema Teknis

Lema 1 (Pertaksamaan Markov)

Jika X adalah peubah acak yang taknegatif, maka untuk setiap ,

Bukti: lihat Lampiran 1.

Lema 2 (Pertaksamaan Chebyshev)

Jika X adalah peubah acak dengan nilai harapan dan ragam , maka untuk

setiap k > 0,

Bukti: lihat Lampiran 2.

Lema 3 (Teorema deret Taylor) Deret Taylor dari fungsi f di a (atau di sekitar a atau yang berpusat di a)

memenuhi persamaan

(Stewart 2001)

.

Bukti: lihat Stewart (2001)

Lema 4 (Teorema Limit Pusat (CLT))

Jika adalah barisan peubah acak i.i.d. dengan dan , maka sebaran dari

10

konvergen ke sebaran normal baku, yaitu

Bukti: lihat Lampiran 3

Lema 5 (Teorema kontinuitas)

Misalkan adalah barisan peubah acak dengan fungsi pembangkit momen

dan jika ,

maka

Dengan kata lain, fungsi sebaran dari konvergen ke fungsi sebaran normal jika

fungsi pembangkit momen dari konvergen ke fungsi pembangkit momen

sebaran normal.

(Grimmett and Welsh 1986)

Misalkan adalah matiks koragam simetrik definit positif yang berukuran

dan adalah 10ector nilai harapan yang berukuran . Jika

adalah 10ector peubah acak yang berukuran dengan fungsi pembangkit

momen dan jika ,

dengan adalah 10ector berukuran sehingga , untuk

, maka

Dengan kata lain, fungsi sebaran dari konvergen ke fungsi sebaran normal

multivariate jika fungsi pembangkit momen dari konvergen ke fungsi

pembangkit momen sebaran normal multivariate.

Bukti: lihat Grimmett and Welsh (1986).

11

Lema 6 (Sifat fungsi pembangkit momen berdasarkan teorema Taylor) Jika

, dengan – dan , maka ada sebaran yang

unik dengan fungsi pembangkit momen . Selanjutnya,

(Grimmett and Welsh 1986)

Bukti: lihat Grimmett and Welsh (1986).

Teorema 2 (Bilangan sebagai suatu limit)

Untuk sebarang , maka

(Stewart 2001)

Bukti: lihat Stewart (2001).

HASIL DAN PEMBAHASAN

Estimasi Parameter

Kebanyakan model probabilitas, terutama yang cukup luas penggunaannya,

tergantung dari beberapa konstanta yang dikenal dengan nama parameter. Jika

parameter tidak diketahui, maka harus diduga dengan menggunakan data sampel.

Hal ini dapat dilakukan dengan menggunakan fungsi yang dinamakan statistik.

Pendugaan adalah proses yang menggunakan statistik sampel untuk

menduga atau menaksir nilai parameter populasi yang tidak diketahui. Pendugaan

merupakan suatu pernyataan mengenai parameter populasi yang tidak diketahui

berdasarkan sampel dari populasi. Dalam hal ini sampel random, yang diambil

dari populasi yang bersangkutan. Penduga (estimator) adalah contoh acak atau

suatu statistik yang digunakan untuk menduga parameter atau fungsi parameter.

Besaran sebagai hasil penerapan penduga terhadap data dari semua contoh disebut

nilai dugaan (estimate).

Sebuah nilai bagi suatu parameter disebut suatu nilai dugaan bagi

parameter populasi. Statistik yang digunakan untuk memperoleh sebuah nilai

dugaan disebut estimator atau fungsi keputusan. Sifat yang seharusnya dimiliki

oleh estimator adalah menghasilkan nilai dugaan parameter yang bersifat takbias

(unbiased estimator).

Dalam kehidupan sehari-hari banyak kasus yang menggunakan pendugaan

untuk menaksir parameter tertentu seperti suatu perusahaan elektronik

menggunakan pendugaan nonparametrik untuk mengetahui jangka waktu pakai

suatu jenis elektronik yang diproduksinya.

12

Berikut dibuktikan Proposisi 1 yang digunakan untuk menunjukkan

distribusi asimtotik dari suatu fungsi sebaran yang tidak diketahui.

Proposisi 1 (Multivariate CLT)

Misalkan adalah vektor peubah acak yang i.i.d. dengan

dan maka

dengan merupakan ukuran vektor nilai harapan dan matriks koragam

yang berukuran , yaitu

,

dan rata-ratanya adalah

Bukti:

Misalkan karena adalah peubah acak yang i.i.d. maka adalah peubah acak dari yang saling bebas dan mempunyai sebaran identik.

Vektor nilai harapan dan matriks koragamnya adalah sebagai berikut:

Karena , maka

13

dan memiliki fungsi pembangkit momen yang sama,

, dengan adalah 13ector berukuran

sehingga , untuk .

Misalkan

maka fungsi pembangkit momen dari adalah

Karena adalah peubah acak yang saling bebas dan mempunyai sebaran

identik maka

Karena memiliki fungsi pembangkit momen yang sama misalkan

didefinisikan dengan

maka

sehingga

Berdasarkan Lema 3

14

Karena , maka

Substitusi persamaan (3) ke persamaan (2) dengan tetap, maka diperoleh

Selanjutnya berdasarkan

sehingga konvergen ke

. Berdasarkan Lema 5 fungsi sebaran dari

konvergen ke fungsi sebaran normal multivariate jika fungsi pembangkit

momen dari konvergen ke fungsi pembangkit momen sebaran normal

multivariate, akibatnya

Dengan demikian Proposisi 1 terbukti.

Fungsi Sebaran dalam Kasus i.i.d. Secara Empiris

Misalkan adalah vektor peubah acak yang i.i.d. dengan

dari fungsi sebaran yang tidak diketahui. Jika fungsi bukan dalam anggota

keluarga parametrik, maka penduga nonparametrik dari adalah fungsi

sebaran secara empiris yaitu:

untuk setiap .

15

Karena adalah i.i.d. peubah acak biner

dengan

akibatnya peubah acak memiliki sebaran binomial .

Karena memiliki sebaran binomial maka dan

sehingga merupakan penduga takbias terhadap dan adalah

uniformly minimum variance unbiased estimator (UMVUE).

Karena -konsisten untuk , untuk setiap m titik berbeda yang

diketahui yaitu di maka berdasarkan Proposisi 1 dan (4) untuk

dengan adalah matriks koragam yang berukuran dengan elemen

adalah

.

Hasil ini didapat tanpa ada asumsi untuk fungsi F.

Perhatikan adalah suatu fungsi sebaran terhadap dan anggota ,

dengan adalah koleksi himpunan fungsi sebaran di Berikut ini akan

diberikan Definisi 35 untuk menjukan jarak di koleksi himpunan fungsi sebaran

pada .

Definisi 35

i. Misalkan adalah himpunan bagian dari . Sebuah fungsi dari

ke disebut jarak pada jika dan hanya jika ,

a) jika dan hanya jika ,

b) ,

c) .

ii. Misalkan ada dari suatu ruang vektor dengan

Norm pada didefinisikan sebagai fungsi dari ke yang

memenuhi:

a) jika dan hanya jika ,

b) dan ,

c) .

16

Norm mengartikan suatu jarak yang diberikan oleh . Jarak yang paling umum digunakan adalah sup-norm jarak , yaitu

jarak yang disebabkan oleh sup-norm

Lema 7 (Pertaksamaan Dvoretzky, Kiefer, and Wolfowitz (DKW) )

Misalkan adalah fungsi sebaran empiris dari peubah acak yang

i.i.d. dengan dari suatu sebaran .

i. Ketika maka ada C konstanta positif yang tidak bergantung dengan F,

sehingga

(8)

untuk ii. Ketika untuk setiap maka positif yang konstan dan tidak

tergantung pada F, sehingga

(9)

untuk

Bukti :

Misalkan merupakan fungsi yang terdistribusi secara empirik dari fungsi

sebaran

Misalkan . Karena sehingga , maka ada sehingga untuk setiap , akibatnya

Berdasarkan Definisi 35 pertaksamaan di atas dapat ditulis

dengan C konstanta positif yang tidak bergantung dengan F.

Berikut ini diberikan Teorema 3 dan Lema 7 untuk menunjukkan bahwa

penduga konvergen dalam peluang ke untuk .

17

Teorema 3

Misalkan adalah barisan peubah acak yang i.i.d. dari sebaran . Jika

merupakan fungsi distribusi empirik dari F, maka

i) . (10)

ii)

. (11)

Bukti :

i) Dari pertaksamaan DKW untuk setiap ,

maka

akibatnya

sehingga .

ii) Dengan menggunakan pertaksamaan DKW, dengan

Jadi Teorema 3 terbukti.

Teorema 4 (Hukum Kuat bilangan besar (SLLN))

Jika adalah barisan peubah acak i.i.d. dengan dan

, maka berlaku

jika , sehingga

18

Bukti:

Karena adalah peubah acak yang saling bebas dan mempunyai sebaran

identik maka

Selanjutnya kita dapat menunjukkan bahwa

dan

sehingga

Berdasarkan Lema 1 dengan

, diperoleh

Jika , maka

Akibatnya

19

Jadi Teorema 4 terbukti.

Dari hasil tersebut dapat dikatakan bahwa memenuhi SLLN jika

sehingga

Teorema 3(i) menunjukkan bahwa penduga konvergen sangat kuat

(a.s.) ke seragam untuk setiap ,

,

sehingga penduga konsisten.

Teorema 3(ii) menunjukkan bahwa adalah hasil konsistensi

yang lebih kuat dibandingkan dengan dari

Misalkan dan , yang merupakan

himpunan bagian dari fungsi sebaran di yang memiliki momen. Didefinisikan

jarak antara dengan di adalah sebagai berikut:

.

Misalkan , maka selama

jika dan hanya jika dan untuk setiap

, kontinu. Berdasarkan Teorema 3 dan SLLN bahwa

jika .

Ketika , jarak yang lain digunakan untuk mengukur kedekatan antara

dengan adalah jarak , yaitu:

,

dengan .

Teorema 5

Misalkan barisan peubah acak i.i.d. dari fungsi sebaran . Jika

merupakan fungsi distribusi secara empiris dari , maka

i) (12)

ii) , dan

atau jika . (13)

20

Bukti :

i) Karena

dan dari Teorema 3 untuk , maka

Misalkan

, maka adalah peubah acak yang i.i.d.

dan

(14)

yang terbatas untuk . Berdasarkan SLLN didapat

Karena dan

berdasarkan Teorema 3

sehingga

Hasil (15) di atas setara dengan

ii) Untuk

,

21

Jadi Teorema 5 terbukti.

Maximum Likelihood Estimator (MLE) di Model Nonparametrik

Misalkan barisan peubah acak i.i.d. dan adalah ukuran

peluang untuk . Diberikan , fungsi nonparametric

likelihood dari ke didefinisikan sebagai berikut:

Maka jika untuk setidaknya satu i. Hasil ini menunjukkan

bahwa fungsi sebaran secara empiris adalah maximum likelihood estimate

(MLE) nonparametrik dari F.

Teorema 6

Misalkan adalah peubah acak i.i.d. dengan dan adalah

fungsi nonparametric likelihood dari ke yang didefinisikan pada (18),

maka fungsi sebaran empiris akan memaksimumkan dengan

Bukti:

Kita hanya perlu mempertimbangkan sehingga Misalkan

dan adalah himpunan bagian dari yang berisi , dan

.

Didefinisikan

dengan adalah pengganda Lagrange.

Himpunan

Solusinya adalah , , dan

adalah solusi maksimum dengan .

Hal ini menunjukan bahwa

(18)

dimaksimumkan di untuk tetap, sehingga untuk

.

22

Bukti alternatif:

Kita cukup menunjukan bahwa

untuk setiap .

Misalkan adalah peubah acak yang mengambil nilai dengan kemungkinan

, maka

yang hasinya tetap, sehingga fungsi sebaran empiris memaksimalkan

dengan

Jadi Teorema 6 terbukti.

Metode Empirical Likelihoods

Metode empirical likelihoods ini berasal dari fungsi sebaran F yang dapat

diperluas untuk berbagai situasi dengan beberapa modifikasi dari fungsi

nonparametric likelihood dan kendala . Modifikasi dari likelihood

ini disebut dengan empirical likelihood. Estimator yang diperoleh dengan

memaksimumkan kemungkinan empiris ini disebut dengan maximum empirical

likelihood estimator (MELE).

Dari Teorema 6, fungsi sebaran empiris adalah maximum likelihood

dengan fungsi nonparametric likelihood dari ke yang didefinisikan

sebagai berikut:

untuk setiap , dengan . Dalam

beberapa kasus, banyak estimasi fungsi sebaran F dengan informasi tambahan

23

tentang F dan barisan peubah acak i.i.d. Misalkan ada fungsi Borel

dari ke sehingga

(misalnya rata-rata dari beberapa komponen F adalah 0). Karena fungsi adalah

penduga dari fungsi sebaran , maka berdasarkan (20)

Namun hal ini tidak berlaku untuk fungsi sebaran empiris yang didefinisikan di

(4) meskipun nilai harapan , karena

Menggunakan metode empirical likelihoods, solusi alami didapat dengan

menempatkan kendala yang lain dalam proses memaksimumkan kemungkinan.

Maka kita dapat memaksimumkan yang didefinisikan di (19) dengan

kendala dan , untuk .

Dengan menggunakan pengganda Lagrange dan argumen yang mirip

dengan pembuktian Teorema 6, dapat ditunjukkan bahwa MELE dari fungsi

sebaran adalah

dengan

dan adalah pengganda Lagrange yang memenuhi

Perhatikan bahwa penduga fungsi sebaran tereduksi ke jika

Dapat dilihat bahwa persamaan (25) memiliki solusi asimtotik, dengan

catatan bahwa

dan

24

yang merupakan definit negatif jika adalah definit positif.

Jadi,

Oleh karena itu, dengan menggunakan argumen yang sama seperti dalam bukti

Teorema 6, kita dapat menunjukkan bahwa ada urutan yang unik dari sehingga

untuk .

Teorema 7

Misalkan adalah peubah acak i.i.d. dengan dan adalah

fungsi Borel di seperti yang didefinisikan di (20) dan adalah MELE dari

yang diberikan di (23). Andaikan adalah definit positif dan

di dan adalah konstanta bilangan real, maka

(27)

dengan

adalah matriks koragam yang elemen dari adalah

,

Bukti:

Misalkan , . Berdasarkan (25), (26) dan ekspansi deret

Taylor

Dengan SLLN dan CLT,

25

Dengan menggunakan ekspansi deret Taylor dan SLLN kembali, kita dapat

Jadi,

Hasil ini berdasarkan CLT dan fakta bahwa,

Berdasarkan (27) dan (7) jika dibandingkan, kita dapat menyimpulkan bahwa

penduga fungsi sebaran adalah lebih efisien secara asimtotik dibandingkan

dengan .

Contoh Penerapan

Metode ini dapat diaplikasikan dalam masalah penyensoran data yang

diperkenalkan oleh Kaplan-Meier (1958) dalam masalah product-limit estimator.

Misalkan adalah peubah acak yang i.i.d. dengan merupakan waktu

kelangsungan hidup yang nonnegatif, dan adalah variabel acak yang i.i.d

26

dengan merupakan banyaknya penyensoran yang bebas terhadap . Model

sensor acaknya adalah:

Dalam hal ini hanya dipertimbangkan estimasi sebaran kelangsungan

hidup F.

Sebuah MELE dari F dapat diturunkan dengan memisalkan

adalah nilai urutan dari dan adalah nilai yang terkait dengan .

Didefinisikan sebuah fungsi sebaran kontinu yang memberikan massa pada titik

dan interval Misalkan dan maka sebuah MELE dari diperoleh dengan memaksimumkan

dengan kendala

Sehingga MELE dari adalah:

dengan merupakan statistik order dan

SIMPULAN

Pada tulisan ini dikaji suatu pendugaan di model nonparametrik dari sebaran

empirik yaitu:

dengan .

Dari hasil pengkajian yang dilakukan, dapat disimpulkan bahwa:

27

1. merupakan penduga takbias terhadap dengan atau adalah uniformly minimum

variance unbiased estimator (UMVUE) dan -konsisten untuk , untuk

setiap m berbeda yang diketahui dan di .

2. adalah maximum likelihood dengan fungsi nonparametric likelihood dari

ke adalah

untuk setiap , dan .

3. penduga fungsi sebaran adalah lebih efisien secara asimtotik dibandingkan

dengan jika menggunakan informasi .

DAFTAR PUSTAKA

Ghahramani S. 2005. Fundamentals of Probability. Third Ed. Prentice Hall.

New Jersey.

Grimmett GR, Stirzaker DR. 1992. Probability and Random Processes. Second

Ed. Oxford (US): Clarendon Press.

Grimmett GR, Welsh D. 1986. Probability: An Introduction. Oxford University

Press. USA.

Hogg RV, Craig AT, McKean JW. 2005. Introduction to Mathematical

Statistics. Sixth Ed. Prentice Hall. Englewood Cliffs. New Jersey.

Kaplan EL, Meier P. 1958. Nonparametric estimation from incomplete

observation. J. Amer. Statist. Assoc., 53: 457-906.

Leon SJ. 2001. Aljabar Linear dan Aplikasinya. Ed. Ke-5. Bondan A, alih

bahasa: Jakarta (ID): Erlangga. Terjemahan dari: Linear Algebra with

Application.

Serfling RJ. 1980. Aproximation Theorems of Mathematical Statistics. John

Wiley & Sons. New York (US): Springer.

Shao J. 2007. Mathematical Statistics. Second Ed. New York (US): Springer.

Stewart, J. 2001. Kalkulus. Jilid 1. Ed. ke-4. Susila, I Nyoman dan Gunawan,

Hendra, alih bahasa: Jakarta (ID): Erlangga. Terjemahan dari: Calculus.

28

LAMPIRAN

29

Lampiran 1 (Pembuktian Lema 1)

Lema 1 (Pertaksamaan Markov)

Jika X adalah peubah acak yang taknegatif, maka untuk setiap ,

Bukti:

Jika X kontinu dengan fungsi kepekatan peluang f, maka

Untuk kasus X diskret, dapat dibuktikan dengan cara serupa, yaitu dengan

mengganti integral dengan notasi penjumlahan serta fungsi kepekatan peluang

dengan fungsi kerapatan peluang. Jadi

Sehingga dapat ditulis

Jadi pertaksamaan Markov terbukti.

Lampiran 2 (Pembuktian Lema 2)

Lema 2 (Pertaksamaan Chebyshev)

Jika X adalah peubah acak dengan nilai harapan dan ragam , maka untuk

setiap k > 0,

Bukti:

Untuk membuktikan pertaksamaan Chebyshev menggunakan Lema 1.

30

Jadi Lema 2 terbukti.

Lampiran 3 ( Pembuktian Lema 4)

Lema 4 (Teorema Limit Pusat (CLT))

Jika adalah barisan peubah acak i.i.d. dengan dan , maka sebaran dari

konvergen ke sebaran normal baku, yaitu

Bukti:

Berdasarkan Lema 5, untuk membuktikan Lema 4 cukup dibuktikan

konvergen ke

, yaitu pembangkit momen peubah acak normal baku. Misalkan

maka adalah peubah acak yang saling bebas dan

mempunyai sebaran identik dengan nilai harapan dan ragam yang diberikan

sebagai berikut:

dan memiliki fungsi pembangkit momen yang sama,

Diketahui

maka fungsi pembangkit momen

dari adalah

31

Persamaan di atas dapat ditulis sebagai :

ruas kanan adalah fungsi sebaran normal dengan nilai harapan 0 dan ragam 1.

Untuk menyelesaikan bukti Lema 4, digunakan Lema 3, sehingga diperoleh

Substitusi persamaan (34) ke persamaan (33) dengan

dan tetap, maka

diperoleh

Selanjutnya, dicari limit dari sebagai berikut

Sehingga konvergen ke

, yaitu pembangkit momen peubah acak

normal baku.

Dengan demikian Lema 4 terbukti.

32

RIWAYAT HIDUP

Penulis dilahirkan di Padang Bintungan pada tanggal 08 Desember 1989

dari ayah Aly Fikri dan Ibu Suparni. Penulis adalah putra keempat dari empat

bersaudara. Tahun 2008 penulis lulus SMA Negri 1 Sitiung dan pada tahun yang

sama penulis lulus seleksi masuk Institut Pertanian Bogor (IPB) melalui jalur

Undangan Seleksi Masuk IPB (USMI) dan diterima di Departemen Matematika,

Fakultas Matematika dan Ilmu Pengetahuan Alam.

Selama mengikuti perkuliahan, penulis menjadi asisten dosen mata kuliah

Pemrograman Linear pada tahun ajaran 2010/2011 dan 2011/2012, asisten

praktikum Analisis Numerik pada tahun ajaran semester pendek 2012. Penulis

juga aktif mengajar privat matematika di bimbingan belajar dan privat Gumatika.

Penulis juga aktif sebagai Badan Pengawas Gumatika. Penulis juga aktif berwira

usaha sebagai produsen bakpau.