regresi kekar (robust regression) -...

17
Regresi Kekar (robust regression)

Upload: truongnga

Post on 16-Mar-2019

243 views

Category:

Documents


1 download

TRANSCRIPT

Page 1: Regresi Kekar (robust regression) - stat.ipb.ac.idstat.ipb.ac.id/en/uploads/STK335/STK335_08.pdf(metode kuadrat terkecil) bekerja dengan mencari penduga bagi sehingga ... •Prinsip

Regresi Kekar(robust regression)

Page 2: Regresi Kekar (robust regression) - stat.ipb.ac.idstat.ipb.ac.id/en/uploads/STK335/STK335_08.pdf(metode kuadrat terkecil) bekerja dengan mencari penduga bagi sehingga ... •Prinsip

Outline

• Pengenalan metode weighted least squares

• Konsep umum regresi kekar

• Fungsi pembobot pada regresi kekar

• Ilustrasi

Page 3: Regresi Kekar (robust regression) - stat.ipb.ac.idstat.ipb.ac.id/en/uploads/STK335/STK335_08.pdf(metode kuadrat terkecil) bekerja dengan mencari penduga bagi sehingga ... •Prinsip

Pengenalan Regresi dengan Metode Weighted Least Squares

• Perhatikan model umum regresi

• Metode OLS (ordinary least squares) atau MKT (metode kuadrat terkecil) bekerja dengan mencari penduga bagi sehingga

minimum

εXβy

n

i

i

TJKG1

2)()( XβyXβy

Page 4: Regresi Kekar (robust regression) - stat.ipb.ac.idstat.ipb.ac.id/en/uploads/STK335/STK335_08.pdf(metode kuadrat terkecil) bekerja dengan mencari penduga bagi sehingga ... •Prinsip

Pengenalan Regresi dengan Metode Weighted Least Squares

• Solusi yang diperoleh dalam mencari penduga dilakukan dengan menurunkan fungsi JKG terhadap dan disamadengankan 0 sehingga diperoleh

yXXXβtt 1)(ˆ

Page 5: Regresi Kekar (robust regression) - stat.ipb.ac.idstat.ipb.ac.id/en/uploads/STK335/STK335_08.pdf(metode kuadrat terkecil) bekerja dengan mencari penduga bagi sehingga ... •Prinsip

Pengenalan Regresi dengan Metode Weighted Least Squares

• Andaikan setiap amatan diberi bobot yang berbeda-beda, maka fungsi yang diminimumkan menjadi

dengan wi adalah bobot masing-masing amatan ke-i dan W adalah matriks

)()(1

2XβyWXβy

Tn

i

iiwJKG

nw

w

w

000

00

00

2

1

Page 6: Regresi Kekar (robust regression) - stat.ipb.ac.idstat.ipb.ac.id/en/uploads/STK335/STK335_08.pdf(metode kuadrat terkecil) bekerja dengan mencari penduga bagi sehingga ... •Prinsip

Pengenalan Regresi dengan Metode Weighted Least Squares

• Solusi yang diperoleh adalah

• Metode ini dikenal sebagai metode kuadrat terkecil terboboti atau weighted least squares

WyXWXXβtt 1)(ˆ

Page 7: Regresi Kekar (robust regression) - stat.ipb.ac.idstat.ipb.ac.id/en/uploads/STK335/STK335_08.pdf(metode kuadrat terkecil) bekerja dengan mencari penduga bagi sehingga ... •Prinsip

data a;input X Y;cards;4 1014 3011 8214 2810 253 89 197 144 911 2612 28;symbol1 v=dot c=red h=2;proc gplot data=a;plot Y * X;run;quit;

Page 8: Regresi Kekar (robust regression) - stat.ipb.ac.idstat.ipb.ac.id/en/uploads/STK335/STK335_08.pdf(metode kuadrat terkecil) bekerja dengan mencari penduga bagi sehingga ... •Prinsip
Page 9: Regresi Kekar (robust regression) - stat.ipb.ac.idstat.ipb.ac.id/en/uploads/STK335/STK335_08.pdf(metode kuadrat terkecil) bekerja dengan mencari penduga bagi sehingga ... •Prinsip

data a;input X Y bobot;cards;4 10 114 30 111 82 0.214 28 110 25 13 8 19 19 17 14 14 9 111 26 112 28 1;proc reg data = a;model Y = X;weight bobot;output out=b p=yhat2;run;

Page 10: Regresi Kekar (robust regression) - stat.ipb.ac.idstat.ipb.ac.id/en/uploads/STK335/STK335_08.pdf(metode kuadrat terkecil) bekerja dengan mencari penduga bagi sehingga ... •Prinsip
Page 11: Regresi Kekar (robust regression) - stat.ipb.ac.idstat.ipb.ac.id/en/uploads/STK335/STK335_08.pdf(metode kuadrat terkecil) bekerja dengan mencari penduga bagi sehingga ... •Prinsip

Regresi Kekar

• Digunakan untuk mengurangi pengaruh yang ditimbulkan oleh amatan-amatan yang “unusual” terhadap dugaan garis regresi.

• Prinsip dasarnya adalah memberikan bobot yang kecil kepada amatan “unusual” yang dicirikan dengan nilai residual yang besar.

Page 12: Regresi Kekar (robust regression) - stat.ipb.ac.idstat.ipb.ac.id/en/uploads/STK335/STK335_08.pdf(metode kuadrat terkecil) bekerja dengan mencari penduga bagi sehingga ... •Prinsip

Tahapan Perhitungan

1. Duga koefisien model menggunakan OLS

2. Hitung sisaan dari model untuk setiap amatan, yaitu ei

3. Hitung bobot, wi, dari setiap amatan yang merupakan fungsi dari sisaan ei. Amatan dengan |ei| yang besar diberi bobot lebih rendah.

4. Duga koefisien model menggunakan WLS

5. Ulangi tahap 2 – 4 hingga tidak diperoleh perubahan pada nilai dugaan koefisien model

Page 13: Regresi Kekar (robust regression) - stat.ipb.ac.idstat.ipb.ac.id/en/uploads/STK335/STK335_08.pdf(metode kuadrat terkecil) bekerja dengan mencari penduga bagi sehingga ... •Prinsip

Fungsi PembobotHuber

k = 1.345

Page 14: Regresi Kekar (robust regression) - stat.ipb.ac.idstat.ipb.ac.id/en/uploads/STK335/STK335_08.pdf(metode kuadrat terkecil) bekerja dengan mencari penduga bagi sehingga ... •Prinsip

Fungsi PembobotBisquare

k = 4.685

Page 15: Regresi Kekar (robust regression) - stat.ipb.ac.idstat.ipb.ac.id/en/uploads/STK335/STK335_08.pdf(metode kuadrat terkecil) bekerja dengan mencari penduga bagi sehingga ... •Prinsip

Fungsi Pembobot di SAS: PROC ROBUSTREG

Page 16: Regresi Kekar (robust regression) - stat.ipb.ac.idstat.ipb.ac.id/en/uploads/STK335/STK335_08.pdf(metode kuadrat terkecil) bekerja dengan mencari penduga bagi sehingga ... •Prinsip

data a;input X Y;cards;4 1014 3011 8214 2810 253 89 197 144 911 2612 28;

proc robustreg data = a plot=fitplot;method=M (WF=Huber);model Y = X;run;

Page 17: Regresi Kekar (robust regression) - stat.ipb.ac.idstat.ipb.ac.id/en/uploads/STK335/STK335_08.pdf(metode kuadrat terkecil) bekerja dengan mencari penduga bagi sehingga ... •Prinsip