regresi-dengan-autokorelasi
TRANSCRIPT
Regresi dengan Autokorelasi Pada Error
Autocorrelation• Terjadi ketika kovarians dan korelasi antar galat ≠ tidak sama dengan nol.
– Salah satu pelanggaran asumsi
stuu st beberapa untuk ,0,cov
Paling sering terjadi pada data deret waktu Karena urutan pengamatan mempunyai makna Galat pada satu periode mempengaruhi galat pada periode berikutnya Terutama pada periode dengan jarak pendek (mis: harian)
Pada data cross section jarang terjadi Karena urutan pengamatan tidak penting
Penyebab Autokorelasi
• Ommited important variable• Misspecification of the model• Systematic errors in measurement
Omitted variable• Misalkan Yt dipengaruhi oleh X2t dan X3t
• Akan tetapi X3t tidak disertakan di dalam model.
ttt uXY 211 ttt vXu 3
Sifat data time series: X3t berhubungan dengan X3,t-1, X3,t-2
Sehingga ut berhubungan dengan ut-1, ut-2
Misspecification of the model• Misalkan Yt dipengaruhi oleh X2t secara kuadratik
tttt uXXY 223221
Akan tetapi suku kuadratik X2t tidak disertakan di dalam model.
ttt vXY 221 ttt uXv 223
Jika X2t naik atau turun seiring waktu maka vt juga akan naik atau turun seiring waktu
Systematic Errors in Measurement
• Pengukuran yang dilakukan pada waktu tertentu– Misalkan tingkat sediaan pada waktu t– Terjadi kesalahan dalam pengukuran tersebut
• Jika variabel bersifat akumulatif, maka kesalahan pengukuran juga akan terakumulatif
• Error di pengamatan t dipengaruhi oleh error pada waktu sebelumnya
Jenis autokorelasi• Yang paling sering terjadi adalah first order serial autocorrelation: AR(1)
tktkttt uXXXY 33221
ttt uu 1
ρ menyatakan hubungan fungsional antar galat ut
Koefisien dari first order autocorrelation, Bernilai di antara -1 s/d 1
Dan εt adalah galat yang iid
• ρ=0, tidak ada autokorelasi• ρ→1, positif korelasi serial, galat waktu sebelumnya
sangat mempengaruhi galat saat ini.– Galat waktu t-1 yang (-) diikuti oleh galat waktu t
yang juga (-)– Galat waktu t-1 yang (+) diikuti oleh galat waktu t
yang juga (+)• ρ→-1, negatif korelasi serial, galat waktu
sebelumnya sangat mempengaruhi galat saat ini.– Galat waktu t-1 yang (-) diikuti oleh galat waktu t
yang (+)– Galat waktu t-1 yang (+) diikuti oleh galat waktu t
yang (-)
Positive Autocorrelation
Autokorelasi positif, ditunjukkan oleh pola siklus dari galat seiring waktu.
+
-
-
tu
+
1ˆ tu
-3.7-6-6.5-6-3.1-5-30.5-11435787
+
-
Time
tu
Negative Autocorrelation
Autokorelasi negatif, ditunjukkan dari pola yang ‘alternating’ dari galat seiring waktu
+
-
-
tu
+
1ˆ tu
+
-
tu
Time
No pattern in residuals – No autocorrelation
Tidak ada pola dari galat, tidak ada autokorelasi
+
tu
-
-
+
1ˆ tu
+
-
tu
Time
Efek dari Autokorelasi• Penduga OLS untuk koefisien regresi tetap tidak bias akan tetap tidak
lagi efisien (ragam besar)– Tidak lagi BLUE
• Penduga ragam bagi koefisien regresi menjadi bias dan tidak konsisten– Uji hipotesis tidak lagi valid– Tidak mencerminkan hal yang sebenarnya
• Overestimated R2:– Lebih besar dari yang sebenarnya– Model lebih sering dinyatakan ‘a good fit’ daripada hubungan yang
sebenarnya– Uji t juga lebih sering dinyatakan nyata
Efek matematis terhadap ragam penduga koefisien
• Ragam peragam penduga koefisien OLS tanpa autokorelasi:
11 'ˆvar XX'XuuX'XX'β E
121ˆvar XX'IXX'XX'β
12112ˆvar XX'XX'XX'XX'β
• Ragam peragam penduga koefisien OLS dengan autokorelasi:
Jika terdapat autokorelasi, maka:
Ωuu
1
1
1
1
'
321
32
22
12
2
nnn
n
n
n
E
tt uuE , 1, tt uuE 2, tt uuE
111 'ˆvar XX'XuuX'XX'β EAR 11 XX'ΩXX'XX'
Detecting Autocorrelation:The Durbin-Watson Test
Uji Durbin-Watson (DW):- Uji untuk first order autocorrelation AR (1)
ut = ut-1 + vt
dengan vt N(0, v2).
• Hipotesis uji: – H0 : =0 and H1 : 0
• Statistik uji DW
u u
u
t tt
T
tt
T
12
2
2
2
The Durbin-Watson Test: Critical Values
Dengan penyederhanaan:
)1(ARpada korelasi koefisienpenduga :
1ˆ1
Sehingga:
12 DW
40 DW
2:0ˆ DWUntuk DW → 2, tidak akan ada cukup bukti untuk adanya autokorelasi
Terdapat dua nilai kritis bagi DW, Upper critical value (du)
Lower critical value (dL)
Terdapat pula daerah yang ‘inconclusive’
The Durbin-Watson Test: Interpretasi hasil uji
Syarat agar uji dapat dilakukan secara sah:1. Ada suku konstan pada model regresi2. Peubah eksogen non stokastik (fixed)3. Tidak ada lag pada peubah eksogen
• Dapat dilakukan untuk menguji autokorelasi sampai derajat ke r
Uji Breusch-Godfrey
trtrtttt vuuuuu 332211
2,0~ vt Nv
Hipotesis nol dan hipotesis alternatif:H0 : 1 = 0 dan 2 = 0 dan ... dan r = 0H1 : 1 0 atau 2 0 atau ... atau r 0
Dengan mengkombinasikan sifat galat tsb dan model regresi:
trrttktktt vuuuXXY 12211221
Langkah-langkah uji Breusch-Godfrey • Langkah 1: Dapatkan penduga bagi model regresi
Langkah 2: Dapatkan penduga galat
ttt YYu ˆˆ Langkah 3: Dapatkan penduga auxiliary regression bagi penduga galat
sebagai fungsi dari seluruh peubah eksogen dan galat sejumlah lag yang ingin diuji
ptpktkktktt uuXXu ˆˆˆ 11210
tktkttt uXXXY 33221
Langkah 4: Dapatkan statistik uji berdasarkan koefisien determinasi dari auxiliary regression R2
22 ~ rRrnLM
Langkah 5: Tolak H0 jika ada bukti yang nyata dari statistik uji
Penentuan r tergantung dari periode data (bulanan, mingguan dsb) dan sifat siklusnya.
Cara Mengatasi Autokorelasi• Berdasarkan pengetahuan tentang ρ diketahui– ρ diketahui atau – ρ tidak diketahui
Mengatasi autokorelasi ketika ρ diketahui
• ρ diketahui dan diasumsikan autokorelasi terjadi seusai AR(1) model.
tktkttt uXXXY 33221
ttt uu 1
Model yang sama berlaku pada waktu ke t-1
1113312211 tktkttt uXXXY
Model pada t-1 dikalikan dengan ρ
1113312211 tktkttt uXXXY
(1)
(2)
• Persamaan (1) dikurangi dengan persamaan (2)
tktkttt uXXXY 33221
1113312211 tktkttt uXXXY
111122211 1 ttktktktttt uuXXXXYY
ttktt XXY *3
*22
*1
*
Akibat pembedaan, pengamatan berkurang 1 Pengamatan pertama digantikan dengan:
21
*1
21
*1 1,1 ii XXYY
Mengatasi autokorelasi ketika ρ tidak diketahui: Cochrane-Orcutt Iterative Procedure
• Langkah 1: duga model regresi dan dapatkan penduga galat• Langkah 2: duga koefisien korelasi serial orde 1 dengan metode OLS
dari:
ttt uu 1ˆˆ
2
1*1
21
*1
1*
1*11
*
ˆ1,ˆ1
ˆ,ˆ1,ˆ
ii
itititttt
XXYY
XXXYYY
ttkttt XXY *3
*22
**
Langkah 3: Lakukan transformasi untuk peubah peubah yang dipakai dengan hubungan berikut:
Langkah 4: Dapatkan penduga regresi dan penduga galat untuk persamaan berikut:
Ulangi lagi langkah 2 sampai dengan 4 sampai dipenuhi kriteria berikut:
01ke iterasiˆke iterasiˆ jj