Regresi Kekar(robust regression)

Outline

• Pengenalan metode weighted least squares

• Konsep umum regresi kekar

• Fungsi pembobot pada regresi kekar

• Ilustrasi

Pengenalan Regresi dengan Metode Weighted Least Squares

• Perhatikan model umum regresi

• Metode OLS (ordinary least squares) atau MKT (metode kuadrat terkecil) bekerja dengan mencari penduga bagi sehingga

minimum

εXβy

n

i

i

TJKG1

2)()( XβyXβy

Pengenalan Regresi dengan Metode Weighted Least Squares

• Solusi yang diperoleh dalam mencari penduga dilakukan dengan menurunkan fungsi JKG terhadap dan disamadengankan 0 sehingga diperoleh

yXXXβtt 1)(ˆ

Pengenalan Regresi dengan Metode Weighted Least Squares

• Andaikan setiap amatan diberi bobot yang berbeda-beda, maka fungsi yang diminimumkan menjadi

dengan wi adalah bobot masing-masing amatan ke-i dan W adalah matriks

)()(1

2XβyWXβy

Tn

i

iiwJKG

nw

w

w

000

00

00

2

1

Pengenalan Regresi dengan Metode Weighted Least Squares

• Solusi yang diperoleh adalah

• Metode ini dikenal sebagai metode kuadrat terkecil terboboti atau weighted least squares

WyXWXXβtt 1)(ˆ

data a;input X Y;cards;4 1014 3011 8214 2810 253 89 197 144 911 2612 28;symbol1 v=dot c=red h=2;proc gplot data=a;plot Y * X;run;quit;

data a;input X Y bobot;cards;4 10 114 30 111 82 0.214 28 110 25 13 8 19 19 17 14 14 9 111 26 112 28 1;proc reg data = a;model Y = X;weight bobot;output out=b p=yhat2;run;

Regresi Kekar

• Digunakan untuk mengurangi pengaruh yang ditimbulkan oleh amatan-amatan yang “unusual” terhadap dugaan garis regresi.

• Prinsip dasarnya adalah memberikan bobot yang kecil kepada amatan “unusual” yang dicirikan dengan nilai residual yang besar.

Tahapan Perhitungan

1. Duga koefisien model menggunakan OLS

2. Hitung sisaan dari model untuk setiap amatan, yaitu ei

3. Hitung bobot, wi, dari setiap amatan yang merupakan fungsi dari sisaan ei. Amatan dengan |ei| yang besar diberi bobot lebih rendah.

4. Duga koefisien model menggunakan WLS

5. Ulangi tahap 2 – 4 hingga tidak diperoleh perubahan pada nilai dugaan koefisien model

Fungsi PembobotHuber

k = 1.345

Fungsi PembobotBisquare

k = 4.685

Fungsi Pembobot di SAS: PROC ROBUSTREG

data a;input X Y;cards;4 1014 3011 8214 2810 253 89 197 144 911 2612 28;

proc robustreg data = a plot=fitplot;method=M (WF=Huber);model Y = X;run;