10/19/2013

1

Analisis Regresi

Pengantar Terdapat kejadian–kejadian, kegiatan-kegiatan,

atau masalah-masalah yang salingberhubungan satu sama lain

Dibutuhkan analisis hubungan antara kejadiantersebut

Perlu dibahas mengenai bentuk hubungan yangada atau diperkirakan ada antara keduaperubah tersebut

10/19/2013

2

Analisis regresi adalah studi tentang hubunganantara variabel dependen dengan satu atau lebihvariabel independen.

Analisis regresi digunakan untuk mengetahuihubungan antara variabel dependen denganvariabel independen.

Apabila hanya ada satu variabel dependen dansatu variabel dependen disebut analisis regresisederhana.

Apabila terdapat beberapa variabel independendisebut analisis regresi berganda.

Pengantar

Untuk menaksir nilai rata-rata dari variabel terikatberdasarkan nilai-nilai variabel bebas yang ada.

Untuk menguji hipotesis tentang sifatketergantungan antarvariabel yakni hipotesisberdasarkan teori ekonomi.

Untuk memprediksi atau meramalkan nilai rata-rata dari variabel terikat berdasarkan nilai variabelbebas yang berada diluar rentang sampel.

Tujuan Analisis Regresi

10/19/2013

3

Persamaan regresi liniersederhana

0 1 1 ataui i i i iY X Y X e

0 dan 1 : parameter dari fungsi yg nilainyaakan diestimasi.

Bersifat stochastik untuk setiap nilai Xterdapat suatu distribusi probabilitas seluruhnilai Y atau Nilai Y tidak dapat diprediksisecara pasti karena ada faktor stochastik iyang memberikan sifat acak pada Y.

Adanya variabel i disababkan karena: Ketidaklengkapan teori Perilaku manusia yang bersifat random Ketidaksempurnaan spesifikasi model Kesalahan dalam agregasi Kesalahan dalam pengukuran

Persamaan regresi liniersederhana

10/19/2013

4

i adalah variabel random yg menyebar normal Nilai rata-rata i = 0, e(i) = 0. Tidak terdapat serial korelasi antar i ; cov(i,j)

= 0 Sifat homoskedastistas, var(i) = 2

cov(i,Xi) = 0 Tidak terdapat bias dalam spesifikasi model Tidak terdapat multi-collinearity antar variebel

penjelas

Persamaan regresi liniersederhana

Varians dan Covarians• Varians adalah bilangan yang menyatakan

bervariasinya nilai suatu variabel terhadap nilairerata hitungnya. Secara definitif adalah selisihnilai pengamatan dengan nilai rerata hitung(rerata penyimpangan kuadrat dari nilaipengamatan dengan nilai rerata hitungnya).

• Kovarian adalah bilangan yang menyatakanbervariasinya nilai suatu variabel dalam nisbahasosiatifnya dengan variabel lain.

10/19/2013

5

Contoh mencari VarianSimpangan Baku

N Data1 165 -1 12 170 4 163 169 3 94 168 2 45 156 -10 1006 160 -6 367 175 9 818 162 -4 169 169 3 9

Rerata 166Jumlah 272

5.835.50

34.0030.22

Varians sampleVarians populasi

Simpangan baku (sample)Simpangan baku (populasi)

2

1

2

1

2

2

Simpangan Baku (sample):

1

Simpangan baku (populasi):

Varians (sample):

Varians (populasi):

n

ii

n

ii

x xS

n

x x

n

v S

v

ix x 2ix x Keterangan:S atau σ disebutsebagai SimpanganBaku atau jugasering dinamakanStandart Deviasi /Deviasi Standar

Link

Contoh mencari KovarianCovarian

N X Y

1 165 40 -1 -0.44 0.442 170 42 4 1.56 6.223 169 42 3 1.56 4.674 168 39 2 -1.44 -2.895 156 38 -10 -2.44 24.446 160 40 -6 -0.44 2.677 175 41 9 0.56 5.008 162 40 -4 -0.44 1.789 169 42 3 1.56 4.67

Rerata 166 40.4447.00Jumlah

Covarians 5.875

Covarians:

1i i

xy

x x y yS

n

ix x iy y i ix x y y

10/19/2013

6

Hubungan Varian dan CovarianHubungan Varians dan Covarian

N X Y

1 165 40 -1 1 -0.44 0.20 0.442 170 42 4 16 1.56 2.42 6.223 169 42 3 9 1.56 2.42 4.674 168 39 2 4 -1.44 2.09 -2.895 156 38 -10 100 -2.44 5.98 24.446 160 40 -6 36 -0.44 0.20 2.677 175 41 9 81 0.56 0.31 5.008 162 40 -4 16 -0.44 0.20 1.789 169 42 3 9 1.56 2.42 4.67

Rerata 166 40.44272 16.22 47.005.83 1.42

34.00 0.425.875Covarians XY

JumlahSimpangan bakuVarians sample

ix x 2ix x iy y 2iy y i ix x y y

Hubungan Varian dan CovarianHubungan Varians dan Covarian

N X Y

1 163 40 0.22 0.05 -0.44 0.20 -0.102 163 42 0.22 0.05 1.56 2.42 0.353 164 42 1.22 1.49 1.56 2.42 1.904 163 39 0.22 0.05 -1.44 2.09 -0.325 162 38 -0.78 0.60 -2.44 5.98 1.906 162 40 -0.78 0.60 -0.44 0.20 0.357 163 41 0.22 0.05 0.56 0.31 0.128 162 40 -0.78 0.60 -0.44 0.20 0.359 163 42 0.22 0.05 1.56 2.42 0.35

Rerata 162.7778 40.443.555556 16.22 4.89

0.67 1.420.44 0.42

0.61

JumlahSimpangan bakuVarians sampleCovarians XY

ix x 2ix x iy y 2iy y i ix x y y

10/19/2013

7

Sifat-sifat BLUE(Best Linear Unbiased Estimator)• Estimator slope adalah linier yaitu linier

terhadap variabel stokastik Y sebagai variabeldependen.

• Estimator slope tidak bias yaitu nilai rata-rataatau nilai harapan E sama dengan nilai yangsebenarnya.

• Estimator slope mempunyai varian yangminimum. Estimator yang tidak bias denganvarian minimum disebut estimator yang efisien(efficient estimator).

1

1 1

1

Koefisien regresi

0 1 1 ataui i i i iY X Y X e

0

1

Keterangan:, = Konstanta = Koefisien

, = Error, simpangane

1 2 2

i i

i

X X Y Y xyxX X

0 1, Y X

10/19/2013

8

Interpretasi pada koefisienregresi• Tanda positif (+) atau negatif (-) dari nilai koefisien regresi

menyatakan arah hubungan atau lebih tegasnya menyatakanpengaruh variabel bebas X terhadap variabel terikat Y.

• β = A (b bertanda positif), artinya bila nilai variabel bebas Xnaik/bertambah/meningkat 1 unit, maka nilai variabel Y akannaik/bertambah/meningkat sebesar A unit. Sebaliknya bilanilai variabel turun/berkurang 1 unit, maka nilai variabel Yakan turun/berkurang sebesar A unit.

• β = – A (b bertanda negatif), artinya bila nilai variabel bebas Xnaik/bertambah/meningkat 1 unit, maka nilai variabel Y akanturun/berkurang sebesar A unit. Sebaliknya bila nilai variabelturun/berkurang 1 unit, maka nilai variabel Y akannaik/bertambah/meningkat sebesar A unit.

Uji hipotesis

1

1

1 1

1 1

Uji t:

( )Keterangan:

nilai koefisien X( ) = standar error koefisien

hitungbtSE b

SE

Contoh:Suatu hasil regresi ditunjukkan dengan persamaan

Y = -603909 + 98,97X1 + eSe = (60731,64) (18,11)N = 11

98,97 5,4718,11ht

10/19/2013

9

Uji hipotesis• Untuk selanjutnya nilai thitung dibandingkan dengan

nilai ttabel yang dinamakan juga dengan nilai kritis t.Nilai kritis t adalah nilai yang membedakan daerahpenerimaan dan daerah penolakan.

• Pada regresi tunggal H0 akan ditolak apabila nilaiabsolut thitung > ttabel

• Level signifikansi (biasanya dilambangkan denganα=1%, α=5%, dan α=10% menunjukkan tingkatkesalahan dari pengujian hipotesis. Pemilihan levelsignifikansi yang semakin kecil akan memperbesarTipe Kesalahan II. Sebaliknya, memperbesar levelsignifikansi akan memperbesar peluang TipeKesalahan I.

Uji hipotesis• Confident Interval atau interval kepercayaan

merupakan range suatu koefisien estimasi.• Harapan peneliti adalah estimasi koefisien akan sama

dengan koefisien yang sebenarnya E(b) = β.• Interval kepercayaan dapat ditulis: bi ± ttabel.SE(bi)• Contoh:

Y = -603909 + 98,97X1 + eSe = (60731,64) (18,11)N = 11 , α = 5%Derajad bebas = 10 N - jumlah variabelTtabel = 2,262

CI = 98,97 ± 2,262 (18,11) = 98,97 ± 40.96CI = 58,01 sd 139,93

10/19/2013

10

Uji hipotesis• Dengan Confident Interval = 58,01 sd 139,93 maka

dapat diharapkan bahwa dengan tingkat kepercayaan95%, koefisien yang tepat akan berada antara rentang58,01 sd 139,93

• Dari uraian tersebut dapat disimpulkan bahwa SEsangat mempengaruhi hasil estimasi. Semakin kecilnilai SE maka rentang koefisien akan semakin sempitsehingga estimasi tidak terlalu melebar.

110ˆˆ X

iY

iY

e

Y

X

Y

YYi

YYi ˆ

iX

Hubungan antar parameter dalam ujihipotesis

10/19/2013

11

Konsep DasarESS : Explained Sum of Square

RSS : Residual Sum of Square

22i

22

i

2 2 21 1

2

2

22

TSS y

ˆ ˆˆESS y

ˆVariasi nilai Y yang ditaksir di sekitar reratanya ,maka:

ˆˆESS

TSS ESS RSSESSTSS

ˆˆ

i

i

i

i

i

Y Y

Y Y

Y Y

Y Y x

R

Y YR

Y Y

Hubungan R2 dengan F

naikFmakanaikRJikaR1

R1kkN

F

TSSESSTSSTSS

ESS

1kkN

F

ESSTSSESS

1kkN

F

RSSESS

1-kk-N

F

k-NRSS

1-kESS

F

:sampleNdanvariabelkadaJika

2

2

2

Jika:

22 2

122 2

ˆ ˆR

i i

ii

Y Y xESSTSS yY Y

1 1

1

1 2

ˆˆ( )

d an

ˆ( )i

tS e

S ex

Bagaimanakah hubunganantara R2 dengan t?

10/19/2013

12

TSSESS2 R

2

2

ˆˆ( )( )i

i

Y YY Y

21

222

221

22 ˆ

ii

ii

yRx

xyR

221

222

112

2

21

22

2

112

2

22

112

22

2

112

2

11

2

11

21

1

11

1ˆ

ˆ

ˆ

ˆ

ˆ

ˆ

)ˆ(

)ˆ(

ˆ

i

i

i

i

i

i

i

yRt

yR

t

xt

xt

xt

x

t

xSe

Set

22111

1

22

11

1

22

11

221

222

112

ˆ)(

ˆ

1ˆ

1ˆ

i

i

i

i

yRt

yRt

yRt

yRt

2

22

1

2

221

2

2i

ˆ

ˆ

ˆ

atau

i

i

i

i

i

yx

yx

yy

22

11

221

22

2

11

21

222

2

11

122

11

122

ˆ

ˆ

ˆ

ˆ

i

i

i

i

y

tR

tyR

tyR

tyR