regresi linier sederhana -...

PowerPoint® Slides

byYana RohmanaEducation University of Indonesian

© 2007 Laboratorium Ekonomi & Koperasi Publishing Jl. Dr. Setiabudi 229 Bandung, Telp. 022 2013163 - 2523

REGRESI LINIER SEDERHANA(MASALAH ESTIMASI)

Chapter 3 Regresi Linier Sederhana : Masalahh Estimasi

Hal-hal yang akan dipelajari:

2

Metode kuadrat terkecil yang biasa (OLS)

Ukuran tingkat ketepatan suatu perkiraan

Sifat-sifat yang dimiliki pemerkira OLS dan koefisien

determinasi

Koefisien determinasi, suatu ukuran

ketepatan/kecocokan

Bentuk-bentuk fungsi model regresi

Asumsi kenormalan


Metode Kuadrat Terkecil Biasa (OLS)

3

Yi = A + BXi + εi (sebenarnya)

Yi = a + bXi + ei (perkiraan)

Untuk menghitung a dan b berdasarkan data sampel, ada berberapa

cara atau metode salah satu diantaranya ialah metode kuadarat

terkecil yang biasa (Ordinary Least Square = OLS).

Metode ini ditemukan oleh ahli matematika Jerman bernama Carl

Friedrich Gauss, sering disingkat Gauss.

Gauss membuat beberapa asumsi (asumsi Klasik) sebagai berikut.

Asumsi Dinyatakan dalam ε Dinyatakan dalam Y

1.

2.

3.

E( εi / Xi) = 0

kov (εi , εj ) = 0, i ≠ j

var (εi, Xi) = σ2

E (Yi / Xi) = A + BXi

kov (Yi, Yj) = 0, I ≠ j

var (Yi / Xi ) = σ2

i i j i2 2


Prinsip Metode Kuadrat Terkecil

4

Model regresi linear sebenarnya dari populasi yang tidak diketahuidan harus diperkirakan berdasarkan data empiris dari sampel.

Perhatikan model regresi linear dari sampel:

Yi = a + bXi + ei

= Ŷi + ei

Ŷi = a + bXi

Ŷi dibacaY topi merupakan perkiraan/ ramalan dari Y, karena

Yi = Ŷi + ei , maka

ei = Yi - Ŷi

ei = Yi - a - bXi

Metode OLS menyatakan bahwa berdasarkan nilai observasi X dan Y sebanyak n pasang akan menentukan nilai a dan b sebagai perkiraan A dan B, sehingga Σei

2 = Σ(Yi – Yi)2 = Σ (Yi – a – bXi)2

= minimum



5

( FRS )

Ŷi = a + bXi

X4X3X2X1

e1

X

Y

e3

e2

e4

.

.

..

.

.

.

.

.

Kesalahan Pengganggu Sampel



6

Apabila kita perhatikan Σei2 = f (a, b), yaitu jumlah kesalahan

pengganggu kuadarat merupakan fungsi a dan b, artinya nilainya

tergantung kepada nilai a dan b.

Untuk nilai a dan b yang berlainan , nilai Σei2 juga akan berlainan.

Dengan metode kuadrat terkecil kita peroleh a dan b yang

membuat Σei2 = minimum. Itulah sebabnya mengapa cara ini

disebut least square error.

atau

XbYa

2

i

2

i

iiii

X - Xn

YX - YXnb

2

ixb

i

i

x

y


Ukuran Tingkat Ketelitian/Ketepatan Suatu Perkiraan

7

Perkiraan a dan b akan bervariasi dari sampel ke sampel, jadi

mempunyai standar deviasi, yang disebut standard error, sebagai

ukuran tingkat ketelitian (reliability atau precision).

Standar deviasi dari suatu perkiraan yang disebut standar error

merupakan akar varian (var) dari perkiraan tersebut.

Makin kecil standar error suatu perkiraan, makin tinggi tingkat

ketelitian perkiraan tersebut.

Kesalahan baku (standard error) ialah penyimpangan baku (standard deviation)

ditribusi sampling untuk pemerkira (estimator ) dan distribusi sampling dari

suatu pemerkira, merupakan distribusi probabilitas (frekuensi) dari

pemerkira, yaitu suatu distribusi dari himpunan nilai-nilai pemerkira (set of

valuesof the estimators) yang diperoleh dari semua kemungkinan sampel

dengan jumlah elemen (n) yang sama dari suatu populasi tertentu.


Ukuran Tingkat Ketelitian/Ketepatan Suatu Perkiraan

8

Dalam praktiknya, σ2 tidak diketahui dan harus diperkirakan dengan Se2,

di mana :

Oleh karena Se2 sering dipergunakan dalam praktik, perhitungannya

sebagai berikut.

atau ;

2

ii

2

i

2

e YY2-n

1e

2-n

1S

2222

e b2-n

1S ii xy

iii yxy b2-n

1S 22

e


Sifat-sifat yang dimiliki pemerkira OLS

9

Pemerkira a dan b yang diperoleh dengan menggunakan metode kuadrat

terkecil (least square method) disebut best linear unbiased estimator, disingkat

dengan BLUE.

Suatu pemerkira, katakan (dibaca teta topi atau cap) dikatakan pemerkira

linear tanpa bias dan terkait (BLUE) dan parameter θ (teta), kalau:

1. Linear ;

2. Tak bias (unbiased)

3. Mempunyai variance terkecil di dalam kelas seluruh pemerkira tanpa

bias dari θ .


Goodness of Fit

10

Koefisien Determinasi, Suatu Ukuran Ketepatan/ Kecocokan

Kita hanya mengharapkan bahwa kesalahan pengganggu berada di sekitar

garis regresi dengan jarak sedekat-dekatnya.

Sebelum menjelaskan arti koefisien determinasi/ penentuan (coefficient of

determination), terlebih dahulu akan diterangkan arti koefisien korelasi

(coefficient correlation).

22

ii

ii

yx

yxr

2222

iiii

iiii

nn

nr


Goodness of Fit

11

Koefisien determinasi merupakan kuadrat koefisien korelasi (r2).

Nilai maksimum/ terbesar koefisien determinasi 1 terjadi kalau ei2

= 0, yaitu kalu semua nilai ei = 0.

Koefisien determinasi merupakan nilai yang dipergunakan untuk

mengukur besarnya sumbangan / andil (share) variabel X terhadap

variasi atau naik turunnya Y, kalau persamaan regresi Ŷ = a + b X.

Jika r = 0,9 ; r2 = 0,81, berarti sumbangan X terhadap naik

turunnya Y sebesar 81%, sedangkan sisanya sebesar 19%

merupakan faktor lainnya.

2

2

2ˆ

i

i

y

yr

2

2

2 1i

i

y

er


Goodness of Fit

12

Pengertian variasi (variation) dengan varian itu berbeda.

Variasi berarti jumlah deviasi kuadrat (sum of square of deviation)

suatu variabel terhadap rata-ratanya, yaitu yi2 = (Yi - Ȳ)2 = TSS,

singkatan Total Sum of Squares.

Sedangkan, varian adalah variasi dibagi dengan derajat kebebasan

yang tepat (the appropriate degrees of freedom = df).

Jadi varian = variasi / df.

Untuk keperluan analisis varian:

∑yi2 = TSS, ∑уî

2 = ESS (= explained sum of square), dan

∑e2= RSS (residual or unexplained sum of square)

∑yi2 = ∑уî

2 + ∑ei2→ TSS = ESS + RSS

untuk mengetahui hubungan antara ei, yi, dan уî lihat gambar sbb:


Goodness of Fit

13

Xi

Y

X0

Ȳ

ei = kesalahan pengganggu

.

.a + bXi

(FRS)

iY

regresikesalahan )YY( i

total)Y(Yi

Pembagian Variasi Y dalam Dua Komponen


Goodness of Fit

14

r2 yang disebut koefisien determinasi/ penentuan mempunyai dua

kegunaan yaitu sebagai berikut:

1. Sebagai ukuran ketepatan/ kecocokan suatu garis regresi yang

diterapkan terhadap suatu kelompok data hasil observsasi (a

measure of goodness of fit). Makin besar nilai r2, makun bagus

atau makin tepat/ cocok suatu garis regresi, sebaliknya, makin

kecil makin tidak tepat garis regresi tersebut untuk mewakili data

hasil observasi. Nilai r2 terletak antara 0 dan 1 (0 ≤ r2 ≤ 1)

2. Untuk mengukur besarnya proporsi (presentase) jumlah variasi Y

yang diterangkan oleh model regresi. Atau secara mudah untuk

mengukur besarnya sumbangan (share) variabel bebas X (=

explanatory/ independent variable) terhadapa variasi (naik

turunnya) Y.


Contoh

15

X = pendapatan bulanan karyawan perusahaan swasta (ribuan Rp)

Y = konsumsi bulanan (ribuan Rp)

Ditanyakan:

1. Hitung a, b, dan tulis persamaan regresi linear Ŷ = a + bX

(dengan metode kuadrat terkecil)! Apa arti b?

2. Hitung var (a), Sa !

Hitung var (b), Sb !

3. Hitung r2 ! Apa arti r2 ?

Xu 80 100 120 140 160 180 200 220 240 260

Y 70 65 90 95 110 115 120 140 155 150


Contoh

16

JAWABAN

X Y X2 Y2 XY

80

100

120

140

160

180

200

220

240

260

70

65

90

95

110

115

120

140

155

150

6400

10000

14400

19600

25600

32400

40000

48400

57600

67600

4900

4225

8100

9025

12100

13225

14400

19600

24025

22500

5600

6500

10800

13300

17600

20600

24000

30800

37200

39000

∑Xi

1700

∑Yi

1110

∑Xi2

322000

∑Yi2

132100

∑XY

205500

17010

17001 i

nX

11110

11101 i

nY


Contoh

17

Rumus Praktis:

22

iix nii

22

ny iii

222

n

yx ii

iiiiii

Maka:

3300028900032200010/1700322000 22 ix

1680018870020550010/)1110)(1700(205500 ii yx

Sehingga :

5090909,033000

168002

i

ii

x

yxb

4545,24)170(5090909,0111 XbYa


Contoh

18

a) Ŷ = a + bX = 24,4545 + 0,5091 X

b = 0,5091, artinya jika pendapatan bulanan naik Rp 1000, maka

konsumsi bulanan akan naik Rp 509,10

b)

∑yi2 = 132100 – (1110)2/10 = 132100 – 123210 = 8890

b2 ∑xi2 = (0,5090909)2 . 33000 = 8552,726952

82,)var(

22222

2

22 iii

e

i

ie

xby

n

eS

xnSa

1591,428

726952,855288902

eS

137,41)33000(10

3220001591,42)var( a


Contoh

19

c)

artinya, besarnya sumbangan pendapatan (X) terhadap variasi (naik

turunnya) konsumsi (Y) sebesar 96%, sedangkan sisanya sebesar 4%

merupakan sumbangan faktor lainnya.

4138,6)var( aS a

0013,033000/1591,42/)var( 22

ie xSb

0357,0)var( bSb

96,0293370000

282240000

889033000

168002

22

2

2

ii

ii

yx

yxr


Contoh

20

Ŷi = 24,4545 + 0,5091Xi

Xi

Ȳ

Y

X

a = 0,5091

24,4545

Garis Regresi Sampel


Single Variable Regression

21


QUIZ

22

1. ............

2. ...............

3. ................

4. ...................

5. ...................


TERIMA KASIH

23

NEXT CHAPTER :

PENGUJIAN HIPOTESIS

DALAM REGRESI SEDERHANA

regresi linier sederhana -...

Documents