regresi dengan autokorelasi pada error

Regresi dengan Autokorelasi Pada Error

Autocorrelation• Terjadi ketika kovarians dan korelasi antar galat ≠ tidak sama dengan nol.

– Salah satu pelanggaran asumsi

stuu st beberapa untuk ,0,cov

Paling sering terjadi pada data deret waktu Karena urutan pengamatan mempunyai makna Galat pada satu periode mempengaruhi galat pada periode berikutnya Terutama pada periode dengan jarak pendek (mis: harian)

Pada data cross section jarang terjadi Karena urutan pengamatan tidak penting

Penyebab Autokorelasi

• Ommited important variable• Misspecification of the model• Systematic errors in measurement

Omitted variable• Misalkan Yt dipengaruhi oleh X2t dan X3t

• Akan tetapi X3t tidak disertakan di dalam model.

ttt uXY 211 ttt vXu 3

Sifat data time series: X3t berhubungan dengan X3,t-1, X3,t-2

Sehingga ut berhubungan dengan ut-1, ut-2

Misspecification of the model• Misalkan Yt dipengaruhi oleh X2t secara kuadratik

tttt uXXY 223221

Akan tetapi suku kuadratik X2t tidak disertakan di dalam model.

ttt vXY 221 ttt uXv 223

Jika X2t naik atau turun seiring waktu maka vt juga akan naik atau turun seiring waktu

Systematic Errors in Measurement

• Pengukuran yang dilakukan pada waktu tertentu– Misalkan tingkat sediaan pada waktu t– Terjadi kesalahan dalam pengukuran tersebut

• Jika variabel bersifat akumulatif, maka kesalahan pengukuran juga akan terakumulatif

• Error di pengamatan t dipengaruhi oleh error pada waktu sebelumnya

Jenis autokorelasi• Yang paling sering terjadi adalah first order serial autocorrelation: AR(1)

tktkttt uXXXY 33221

ttt uu 1

ρ menyatakan hubungan fungsional antar galat ut

Koefisien dari first order autocorrelation, Bernilai di antara -1 s/d 1

Dan εt adalah galat yang iid

• ρ=0, tidak ada autokorelasi• ρ→1, positif korelasi serial, galat waktu sebelumnya

sangat mempengaruhi galat saat ini.– Galat waktu t-1 yang (-) diikuti oleh galat waktu t

yang juga (-)– Galat waktu t-1 yang (+) diikuti oleh galat waktu t

yang juga (+)• ρ→-1, negatif korelasi serial, galat waktu

sebelumnya sangat mempengaruhi galat saat ini.– Galat waktu t-1 yang (-) diikuti oleh galat waktu t

yang (+)– Galat waktu t-1 yang (+) diikuti oleh galat waktu t

yang (-)

Positive Autocorrelation

Autokorelasi positif, ditunjukkan oleh pola siklus dari galat seiring waktu.

+

-

-

tu

+

1ˆ tu

-3.7-6-6.5-6-3.1-5-30.5-11435787

+

-

Time

tu

Negative Autocorrelation

Autokorelasi negatif, ditunjukkan dari pola yang ‘alternating’ dari galat seiring waktu

+

-

-

tu

+

1ˆ tu

+

-

tu

Time

No pattern in residuals – No autocorrelation

Tidak ada pola dari galat, tidak ada autokorelasi

+

tu

-

-

+

1ˆ tu

+

-

tu

Time

Efek dari Autokorelasi• Penduga OLS untuk koefisien regresi tetap tidak bias akan tetap tidak

lagi efisien (ragam besar)– Tidak lagi BLUE

• Penduga ragam bagi koefisien regresi menjadi bias dan tidak konsisten– Uji hipotesis tidak lagi valid– Tidak mencerminkan hal yang sebenarnya

• Overestimated R2:– Lebih besar dari yang sebenarnya– Model lebih sering dinyatakan ‘a good fit’ daripada hubungan yang

sebenarnya– Uji t juga lebih sering dinyatakan nyata

Efek matematis terhadap ragam penduga koefisien

• Ragam peragam penduga koefisien OLS tanpa autokorelasi:

11 'ˆvar XX'XuuX'XX'β E

121ˆvar XX'IXX'XX'β

12112ˆvar XX'XX'XX'XX'β

• Ragam peragam penduga koefisien OLS dengan autokorelasi:

Jika terdapat autokorelasi, maka:

Ωuu

1

1

1

1

'

321

32

22

12

2

nnn

n

n

n

E

tt uuE , 1, tt uuE 2, tt uuE

111 'ˆvar XX'XuuX'XX'β EAR 11 XX'ΩXX'XX'

Detecting Autocorrelation:The Durbin-Watson Test

Uji Durbin-Watson (DW):- Uji untuk first order autocorrelation AR (1)

ut = ut-1 + vt

dengan vt N(0, v2).

• Hipotesis uji: – H0 : =0 and H1 : 0

• Statistik uji DW

u u

u

t tt

T

tt

T

12

2

2

2

The Durbin-Watson Test: Critical Values

Dengan penyederhanaan:

)1(ARpada korelasi koefisienpenduga :

1ˆ1

Sehingga:

12 DW

40 DW

2:0ˆ DWUntuk DW → 2, tidak akan ada cukup bukti untuk adanya autokorelasi

Terdapat dua nilai kritis bagi DW, Upper critical value (du)

Lower critical value (dL)

Terdapat pula daerah yang ‘inconclusive’

The Durbin-Watson Test: Interpretasi hasil uji

Syarat agar uji dapat dilakukan secara sah:1. Ada suku konstan pada model regresi2. Peubah eksogen non stokastik (fixed)3. Tidak ada lag pada peubah eksogen

• Dapat dilakukan untuk menguji autokorelasi sampai derajat ke r

Uji Breusch-Godfrey

trtrtttt vuuuuu 332211

2,0~ vt Nv

Hipotesis nol dan hipotesis alternatif:H0 : 1 = 0 dan 2 = 0 dan ... dan r = 0H1 : 1 0 atau 2 0 atau ... atau r 0

Dengan mengkombinasikan sifat galat tsb dan model regresi:

trrttktktt vuuuXXY 12211221

Langkah-langkah uji Breusch-Godfrey • Langkah 1: Dapatkan penduga bagi model regresi

Langkah 2: Dapatkan penduga galat

ttt YYu ˆˆ Langkah 3: Dapatkan penduga auxiliary regression bagi penduga galat

sebagai fungsi dari seluruh peubah eksogen dan galat sejumlah lag yang ingin diuji

ptpktkktktt uuXXu ˆˆˆ 11210

tktkttt uXXXY 33221

Langkah 4: Dapatkan statistik uji berdasarkan koefisien determinasi dari auxiliary regression R2

22 ~ rRrnLM

Langkah 5: Tolak H0 jika ada bukti yang nyata dari statistik uji

Penentuan r tergantung dari periode data (bulanan, mingguan dsb) dan sifat siklusnya.

Cara Mengatasi Autokorelasi• Berdasarkan pengetahuan tentang ρ diketahui– ρ diketahui atau – ρ tidak diketahui

Mengatasi autokorelasi ketika ρ diketahui

• ρ diketahui dan diasumsikan autokorelasi terjadi seusai AR(1) model.

tktkttt uXXXY 33221

ttt uu 1

Model yang sama berlaku pada waktu ke t-1

1113312211 tktkttt uXXXY

Model pada t-1 dikalikan dengan ρ

1113312211 tktkttt uXXXY

(1)

(2)

• Persamaan (1) dikurangi dengan persamaan (2)

tktkttt uXXXY 33221

1113312211 tktkttt uXXXY

111122211 1 ttktktktttt uuXXXXYY

ttktt XXY *3

*22

*1

*

Akibat pembedaan, pengamatan berkurang 1 Pengamatan pertama digantikan dengan:

21

*1

21

*1 1,1 ii XXYY

Mengatasi autokorelasi ketika ρ tidak diketahui: Cochrane-Orcutt Iterative Procedure

• Langkah 1: duga model regresi dan dapatkan penduga galat• Langkah 2: duga koefisien korelasi serial orde 1 dengan metode OLS

dari:

ttt uu 1ˆˆ

2

1*1

21

*1

1*

1*11

*

ˆ1,ˆ1

ˆ,ˆ1,ˆ

ii

itititttt

XXYY

XXXYYY

ttkttt XXY *3

*22

**

Langkah 3: Lakukan transformasi untuk peubah peubah yang dipakai dengan hubungan berikut:

Langkah 4: Dapatkan penduga regresi dan penduga galat untuk persamaan berikut:

Ulangi lagi langkah 2 sampai dengan 4 sampai dipenuhi kriteria berikut:

01ke iterasiˆke iterasiˆ jj