regresi kekar (robust regression) - stat.ipb.ac. file(metode kuadrat terkecil) bekerja dengan...

Regresi Kekar(robust regression)

Outline

Pengenalan metode weighted least squares

Konsep umum regresi kekar

Fungsi pembobot pada regresi kekar

Ilustrasi

Pengenalan Regresi dengan Metode Weighted Least Squares

Perhatikan model umum regresi

Metode OLS (ordinary least squares) atau MKT (metode kuadrat terkecil) bekerja dengan mencari penduga bagi sehingga

minimum

Xy

n

i

i

TJKG1

2)()( XyXy

Pengenalan Regresi dengan Metode Weighted Least Squares

Solusi yang diperoleh dalam mencari penduga dilakukan dengan menurunkan fungsi JKG terhadap dan disamadengankan 0 sehingga diperoleh

yXXXtt 1)(

Pengenalan Regresi dengan Metode Weighted Least Squares

Andaikan setiap amatan diberi bobot yang berbeda-beda, maka fungsi yang diminimumkan menjadi

dengan wi adalah bobot masing-masing amatan ke-i dan W adalah matriks

)()(1

2XyWXy

Tn

i

iiwJKG

nw

w

w

000

00

00

2

1

Pengenalan Regresi dengan Metode Weighted Least Squares

Solusi yang diperoleh adalah

Metode ini dikenal sebagai metode kuadrat terkecil terboboti atau weighted least squares

WyXWXXtt 1)(

data a;input X Y;cards;4 1014 3011 8214 2810 253 89 197 144 911 2612 28;symbol1 v=dot c=red h=2;proc gplot data=a;plot Y * X;run;quit;

data a;input X Y bobot;cards;4 10 114 30 111 82 0.214 28 110 25 13 8 19 19 17 14 14 9 111 26 112 28 1;proc reg data = a;model Y = X;weight bobot;output out=b p=yhat2;run;

Regresi Kekar

Digunakan untuk mengurangi pengaruh yang ditimbulkan oleh amatan-amatan yang unusual terhadap dugaan garis regresi.

Prinsip dasarnya adalah memberikan bobot yang kecil kepada amatan unusual yang dicirikan dengan nilai residual yang besar.

Tahapan Perhitungan

1. Duga koefisien model menggunakan OLS

2. Hitung sisaan dari model untuk setiap amatan, yaitu ei

3. Hitung bobot, wi, dari setiap amatan yang merupakan fungsi dari sisaan ei. Amatan dengan |ei| yang besar diberi bobot lebih rendah.

4. Duga koefisien model menggunakan WLS

5. Ulangi tahap 2 4 hingga tidak diperoleh perubahan pada nilai dugaan koefisien model

Fungsi PembobotHuber

k = 1.345

Fungsi PembobotBisquare

k = 4.685

Fungsi Pembobot di SAS: PROC ROBUSTREG

data a;input X Y;cards;4 1014 3011 8214 2810 253 89 197 144 911 2612 28;

proc robustreg data = a plot=fitplot;method=M (WF=Huber);model Y = X;run;