analisis regresi 1 - · pdf filerataan y (nilai harapan y) jika x berubah satu satuan....

Pokok Bahasan :REGRESI LINIER

SEDERHANA

ANALISIS REGRESI 1

Itasia & Y Angraini, Dep Statistika FMIPA - IPB

Deskripsi Model


Macam-macam Model Regresi

Model Regresi

Sederhana Berganda

Linier Non Linier Linier Non Linier

1 peubah penjelas > 1 peubah penjelas

Reciprocal LogMultiplikatifPolinom Eksponensial

Presenter

Presentation Notes

This teleology is based on the number of explanatory variables & nature of relationship between X & Y.


SederhanaLinier

Hubungannya linier

Non LinierPolinom

Multiplikatif

Eksponensial

Reciprocal

Contoh : Macam-macam Model Regresi

εxββY 10 ++=

εxββY 210 ++=

ε.eβY xβ0

1= εe βY xβ

0

1

=

ε xβY β0

1 +=

εxββ1

10 ++


Model Regresi Linier Sederhana(yang hubungannya linier ordo x=1 )

Linier dalam parameterSederhana = banyaknya peubah bebas/penjelas hanya satuHubungan antara X dan Y dinyatakan dalam fungsi linier/ordo 1Perubahan Y diasumsikan karena adanya perubahan XModel populasi regresi linier sederhana yang hubungannya linier (selanjutnya cukup sebut “regresi linier sederhana”) :

Dengan : β0 dan β1 adalah parameter regresiε adalah sisaan/galat/eror (peubah acak)Y adalah peubah tak bebas (peubah acak)X adalah peubah bebas yang nilainya diketahui

dan presisinya sangat tinggi (bukan peubah acak)

εxββY 10 ++=


Dugaan dan Interpretasi Parameter Model


Asumsi Model Regresi Linier

Bentuk hubungannya linear (Y merupakan fungsi linierdari X, plus sisaan yang acak)Sisaan εi adalah peubah acak yang bebas thdp nilai xSisaan merupakan peubah acak yang menyebar Normaldengan rataan 0 dan memiliki ragam konstan, σ2

(sifat ragam yang konstan/homogen ini disebut homoscedasticity)

Sisaan εi, tidak berkorelasi satu dengan yang lainnya, sehingga atau

n), 1,(iuntuk σ]E[εdan0]E[ε 22ii K===

ji , 0]εE[ε ji ≠= ji , 0]ε,cov[ε ji ≠=


εXββY 10 ++=Komponen linier (fix)

Interpretasi Parameter Model Regresi Linier Sederhana

Xββ 10 + 2σ

Model Regresi Linier Sederhana (populasi) :Intersep Ypopulasi

Koefisien kemiringan populasi

Sisaan/ galat

Peubah tak bebas/ Peubah respon

Peubah bebas/ Peubah penjelas

Komponen acak

Y : peubah tak bebas/respon merupakan peubah acak dengan pusat/nilai harapan di dan ragam


(lanjutan)

Sisaan/galat untuk xi

Y

X

Nilai pengamatan Y

untuk Xi

Nilai harapan/rataan

Y untuk xi

εXββY 10 ++=

xi

Slope = β1

Intersep = β0

εi

Interpretasi Parameter Model Regresi Linier Sederhana

iiiy εxββ 10 ++=

ix10i ββ]x|E[Y += iii xYEy ε+= ]|[

yi

]|[ ixYE


i10i xbby +=

Dugaan persamaan garis regresi linier sederhana

Dugaan Persamaan Garis Regresi Linier Sederhana

Dugaan bagi intersep β0

Dugaan bagi kemiringan garis regresi β1

Nilai dugaan y pada pengamatan ke - i

Nilai x pada pengamatan ke - i

Galat individu ei mempunyai rataan sebesar nol

))ˆ( i10iiii xb(b-yy-ye +==


b0 adalah nilai dugaan rataan y ketika x bernilai nol (jika x = 0 dalam selang pengamatan)

b1 adalah nilai dugaan perubahan rataan y (nilai harapan Y) jika x berubah satu satuan

Interpretasi koefisien kemiringan dan intersep


Pendugaan Parameter Regresi


Menduga Persamaan Regresi

Menduga persamaan regresi linier sederhana = menduga parameter-parameter regresi β0dan β1 :

Penduga parameter yang dihasilkan harus merupakan penduga yang baik

Software statistik, seperti Minitab, SAS, SPSS, dll. banyak digunakan


Metode Kuadrat Terkecilb0 dan b1 adalah dugaan bagi parameter regresi β0dan β1 yang didapat salah satunya dengan cara meminimumkan jumlah kuadrat galat (JKG). Galat/sisaan = selisih antara y dan Metode Kuadrat Terkecil (MKT) :

2i10i

2ii

2i

)]xb(b[ymin

)y(ymin

emin JKGmin

+−=

−=

=

∑∑∑

y

Teknik kalkulus digunakan untuk mendapatkan nilai bo dan b1sedemikian hingga meminimumkan JKG

Menduga Persamaan Regresi(lanjutan)


Penduga bagi koefisien kemiringan garis β1 ialah:

Penduga bagi intersep β0 ialah:

Garis regresi selalu melalui titik x, y

X

Yxyn

1i

2i

n

1iii

1 ssr

)x(x

)y)(yx(xb ==

−

−−=

∑

∑

=

=

XX

XY

SS

xbyb 10 −=

(lanjutan)

SXY

SXX

Koefisien Korelasi Pearson

Metode Kuadrat Terkecil

Menduga Persamaan Regresi


Asumsi Metode Kuadrat Terkecil (MKT)

Agar penduga bagi parameter regresi yang didapatkan dengan menggunakan MKT merupakan penduga yang baik maka sisaan/galat harus memenuhi kondisi Gauss-Markov berikut ini :

bebas saling dan ji ,0][ 3.)ticity homoscedas (

xnilai setiapuntuk homogen sisaan ragam ]E[ 2.

nol sisaan taan harapan/ra-nilai 0][ .1

ji

22i

εεεε

σε

ε

≠=

=

==

ji

i

E

E

Kondisi Gauss - Markov

(lanjutan)Menduga Persamaan Regresi


ContohRegresi Linier Sederhana

Sebuah agen real-estate ingin mengetahui hubungan antara harga jual sebuah rumah dengan luas lantainya (diukur dalam m2)

10 buah rumah diambil secara acak sebagai contohPeubah tak bebas (Y) = harga rumah (juta rupiah)Peubah bebas (X) = luas lantai (m2)


Data contoh Harga Rumah

Harga Rumah (Rp.juta) (Y) Luas Lantai (m2) (X)

245 1400312 1600279 1700308 1875199 1100219 1550405 2350324 2450319 1425255 1700

Contoh Regresi Linier Sederhana(lanjutan)


Luas Lantai

Har

ga R

umah

260024002200200018001600140012001000

800

700

600

500

400

300

200

100

0

Scatterplot of Harga Rumah vs Luas Lantai

Tebaran Harga Rumah vs Luas Lantai


Model Regresi-nya

εββ ++= xY 10

Persamaan Garis Regresi-nya

xY 10 ββ +=

Diduga dengan :

xbbY 10ˆ +=


FILM :MEMBUAT TEBARAN

“HARGA RUMAH” vs ”LUAS LANTAI”MENGGUNAKAN MINITAB

Klik di sini


Harga Rumah (Rp.juta) (Y)

Luas Lantai (m2) (X)

245 1400312 1600279 1700308 1875199 1100219 1550405 2350324 2450319 1425255 1700



Regression Analysis: Harga Rumah versus Luas Lantai

The regression equation isHarga Rumah = 98,2 + 0,110 Luas Lantai

Predictor Coef SE Coef T PConstant 98,25 58,03 1,69 0,129Luas Lantai 0,10977 0,03297 3,33 0,010

S = 41,3303 R-Sq = 58,1% R-Sq(adj) = 52,8%


MENDUGA PARAMETER REGRESI : OUTPUT MINITAB

Dugaan Persamaan Garis Regresi-nyab

0

b1


Klik di sini


Harga Rumah (Rp.juta) (Y)


245 1400312 1600279 1700308 1875199 1100219 1550405 2350324 2450319 1425255 1700


FILM :MENDUGA GARIS REGRESIMENGGUNAKAN MINITAB


050

100150200250300350400450

0 500 1000 1500 2000 2500 3000

Luas Lantai (m2)

Har

ga J

ual R

umah

(Rp.

juta

)

Tampilan Grafik

Model Harga Rumah: scatter plot dan garis regresi

lantai) (luas 0.10977 98.24833rumah harga +=

Kemiringan= 0.10977

Intersep = 98.248



Klik di sini

Data contoh Harga RumahHarga Rumah

(Rp.juta) (Y)


245 1400312 1600279 1700308 1875199 1100219 1550405 2350324 2450319 1425255 1700

FILM :MEMBUAT TEBARAN ANTARA

“HARGA RUMAH” dengan

“LUAS LANTAI”& GARIS REGRESI-nya

MENGGUNAKAN MINITAB



Interpretasi Intersep b0

b0 adalah nilai dugaan bagi nilai rataan Y ketika X bernilai nol (jika X = 0 di dalam selang pengamatan)

Dalam hal ini tidak ada rumah yang memiliki luas lantai=0, jadi b0 = 98.24833 hanya mengindikasikan bahwa : untuk luas lantai yang berada dalam selang pengamatan, Rp 98.248.330,- adalah bagian harga rumah yang tidak diterangkan oleh luas lantai




Interpretasi koefisien kemiringan, b1

b1 mengukur dugaan perubahan rataan nilai Y jika X berubah satu satuan

Dalam hal ini b1 = .10977 menggambarkan bahwa setiap penambahan satu m2 luas lantai rataan harga rumah akan naik sebesar 0,10977 juta rupiah




Apakah b0 dan b1 yang didapat merupakan penduga yang baik ?

Pertanyaan di atas = pertanyaan bahwa: “apakah sisaan yang dihasilkan oleh dugaan persamaan garis regresi nya menghasilkan sisaan yang memenuhi kondisi Gauss-Markov?”

Untuk sementara ini kita yakini saja dulu bahwa sisaan yang dihasilkan memenuhi kondisi tersebut

Penjelasan bagaimana cara memeriksanya akan dijelaskan pada pokok bahasan “Diagnosa model melalui pemeriksaan sisaan”


PENGURAIAN KERAGAMAN TOTAL

JKRegJKsisa


Sumber Keragaman RegresiNilai pengamatan yi yang dihasilkan beragam. Keragaman ini disebabkan oleh ?


xi

y

X

yi

JKT = ∑(yi - y)2

JKG = ∑(yi - yi )2∧

JKR = ∑(yi – y )2∧_

_

_y∧

Y

y_yi∧

Sumber Keragaman RegresiNilai pengamatan yi yang dihasilkan beragam. Keragaman ini disebabkan oleh ?


Sumber Keragaman Regresi

Untuk suatu nilai xi keragaman nilai pengamatan yidisebabkan oleh :

Menyimpangnya nilai amatan yi terhadap dugaan nilai harapannya

beragam menghasilkan dugaan garis regresi yang beragam memiliki rataan

Menyimpangnya suatu dugaan garis regresi terhadap rataannya menyebabkan beragamnya data.

iiy xbb]x|[Y E ]x|[Y E 10ii +==→ )))

(lanjutan)

Y

/sisaaneror/galat karena →=− iii eyy )

10 bdan b

regresi model karena ˆˆˆ 10 →=−+=− iiii y y ,yxbbyy


Mengukur Keragaman

Total Keragaman disebabkan oleh dua bagian ini :

JKG JKR JKT +=Jumlah

Kuadrat TotalJumlah Kuadrat

RegresiJumlah Kuadrat

Galat/Sisaan

∑ −= 2i )y(yJKT ∑ −= 2

ii )y(yJKG∑ −= 2i )yy(JKR

dengan:= nilai rata-rata peubah tak bebas Y

yi = nilai pengamatan ke-i peubah tak bebas Y i = nilai dugaan y untuk suatu nilai xiy

y

= +


JKT = Jumlah Kuadrat Total

Mengukur keragaman nilai yi di sekitar nilai rataannya y

JKR = Jumlah Kuadrat Regresi

Menjelaskan keragaman karena adanya hubungan linier antara x dan y

JKS = jumlah Kuadrat Sisa

Menjelaskan keragaman yang disebabkan oleh faktor-faktor selain faktor hubungan linier x dan y

(lanjutan)

Ukuran Keragaman


Derajat Bebas Jumlah Kuadrat

Ukuran keragaman adalah ragam

Derajat bebas bagi

Derajat bebas bagi

(db) bebasderajat (JK)Kuadrat Jumlah Ragam=

2 -n JKSisaan =

1 JK0b| Regresi =


Tabel Sidik RagamSumber

KeragamanDerajat Bebas (db)

Jumlah Kuadrat

(JK)

Kuadrat Tengah

(KT)

Regresi 1

Sisaan n-2

Total (terkoreksi) n-1

( )∑=

−n

ii yy

1

2ˆ

( )∑=

−n

iii yy

1

2ˆ

( )∑=

−n

ii yy

1

2

1JK Regresi

( )2nJK sisaan

−

Pada analisis regresi ini tentunya diharapkan JK regresi lebih besar dari JK sisaan sehingga dapat dikatakan bahwa keragaman nilai y disebabkan oleh perubahan nilai x.

S2, jika modelnya pas





S = 41,3303 R-Sq = 58,1% R-Sq(adj) = 52,8%

Analysis of VarianceSource DF SS MS F PRegression 1 18935 18935 11,08 0,010Residual Error 8 13666 1708Total 9 32600

Tabel Sidik RagamOUTPUT MINITAB

db JK KTTABEL SIDIK RAGAM

(lanjutan)


Penduga bagi Ragam Sisaan/galat

Penduga bagi ragam eror/sisaan dari model populasi adalah :

Dibagi dengan n – 2 bukan dengan n – 1 karena model regresi linier sederhana menggunakan 2 penduga parameter yaitu, b0 dan b1, bukan satu.

adalah penduga simpangan baku

2n

e

2nJKSsσ

n

1i

2i

2e

2

−=

−===

∑=

sisaanKTDengan asumsi bahwa modelnya pas/cocok

2ee ss =





S = 41,3303 R-Sq = 58,1% R-Sq(adj) = 52,8%


es

Penduga bagi Ragam Sisaan/galat

OUTPUT MINITAB

Dugaan Ragam Sisaan = s2

(JIKA MODELNYA PAS)

(lanjutan)


Perbandingan Simpangan Baku

YY

X Xkecils e besars e

se mengukur keragaman penyimpangan nilai pengamatan yi terhadap garis regresi


Pengujian HipotesisTerhadap

Slope dan Intersep

0β10ββ

Diperlukan asumsi bahwa εi menyebar Normal

εi ~ N ( 0,σ2 )


Ragam Koefisien Kemiringan Garis Regresi (b1)

Ragam dari koefisien kemiringan garis regresi (b1) diduga sbb :

2x

2e

2i

2e2

1)s(ns

)x(xss

1b −=

−=∑

dengan:

= dugaan simpangan baku kemiringan garis regresi

= dugaan ragam x

= akar KTG = akar Kuadrat Tengah Galat = dugaansimpangan baku sisaan

1bs

2nJKs sisa

e −=

2xs


Membandingkan Simpangan Baku Koefisien Kemiringan Garis Regresi (b1)

Y

X

Y

Xkecil

1bS besar1bS

mengukur keragaman koefisien kemiringan garis regresi dari berbagai contoh (set data) yang mungkin.

1bS





S = 41,3303 R-Sq = 58,1% R-Sq(adj) = 52,8%


SIMPANGAN BAKU b1 : OUTPUT MINITAB

Simpangan Baku b1 = sb1


Inferensia Koefisien Kemiringan Garis Regresi (b1): Uji t

Pada model regresi linier sederhana :Uji t untuk koefisien kemiringan garis regresi populasi (β1)

Apakah ada hubungan linier antara X dan Y?Hipotesis Nol dan hipotesis tandingan

H0: β1 = 0 (tidak ada hubungan linier antara X dan Y)H1: β1 ≠ 0 (ada hubungan linier antara X dan Y)

Uji Statistik1b

11

sβbt −

=

2nd.b. −=

dengan:

b1 = koefisien kemiringan regresi

β1 = kemiringan yg dihipotesiskan

sb1 = simpangan baku kemiringan


Harga Rumah (Rp.juta)

(y)

Luas Lantai (m2) (x)

245 1400

312 1600

279 1700

308 1875

199 1100

219 1550

405 2350

324 2450

319 1425

255 1700


Dugaan persamaan garis regresi:

Koefisien kemiringan garis pada model ini adalah 0.1098

Meskipun demikian, “apakah luas lantai mempengaruhi harga jual?”

Contoh Inferensia Koefisien Kemiringan Garis (b1): Uji t


Contoh Inferensia Koefisien Kemiringan Garis (b1): uji t

H0: β1 = 0H1: β1 ≠ 0 1bsb1

3.329380.03297

00.10977sβbt

1b

11 =−

=−

=


OUTPUT MINITAB

Apakah luas lantai mempe-ngaruhi harga jual (secara linier)?

(lanjutan)



H0: β1 = 0H1: β1 ≠ 0

Statistik Uji-nya : t = 3.329

Cukup bukti untuk mengatakan bahwa luas lantai mempengaruhi harga jual

output MINITAB : 1bs tb1

Keputusan : Tolak H0

Kesimpulan :

Tolak H0Tolak H0

α/2=.025

-tn-2,α/2

Terima H0

0

α/2=.025

-2.3060 2.3060 3.329

d.b. = 10-2 = 8

t8,.025 = 2.3060

(lanjutan)

tn-2,α/2




H0: β1 = 0H1: β1 ≠ 0

Nilai peluang P = 0.01039

Cukup bukti untuk mengatakan bahwa luas lantai mempengaruhi harga rumah

P-value < α jadiTolak H0

Keputusan:

Kesimpulan:

(lanjutan)

Ini adalah uji dua arah, jadi p-valuenya adalah

output MINITAB :


P(t > 3.329)+P(t < -3.329) = 0.01039(db. 8)

thit = 3.329


Ragam Intersep Garis Regresi (b0)

Ragam dari intersep garis regresi (b0) diduga sbb :

∑∑

−= 2

i

2i

2e2

)x(xxs

s0 nb

Keterangan:

= dugaan simpangan baku intersep garis regresi

= akar KTG = akar Kuadrat Tengah Galat = dugaansimpangan baku sisaan

0bs

2nSSEse −

=


Inferensia Intersep Garis Regresi (b0): uji t

Pada model regresi linier sederhana :Uji t untuk intersep garis regresi populasi (β0)

Apakah ada nilai Y yang tidak dapat dijelaskan oleh x?Hipotesis Nol dan hipotesis tandingan

H0: β0 = 0 (semua nilai Y dapat dijelaskan oleh x)H1: β0 ≠ 0 (ada nilai Y yg tidak dapat dijelaskan oleh x)

Statistik uji0b

00

sβbt −

=

1d.b. =

dengan:

b0 = intersep garis regresi

β0 = intersep yg dihipotesiskan

sb0 = dugaan simp. baku intersep


Harga Rumah (Rp. Juta)

(y)

Luas Lantai (m2) (x)

245 1400

312 1600

279 1700

308 1875

199 1100

219 1550

405 2350

324 2450

319 1425

255 1700


Dugaan persamaan garis regresi:

Intersep garis pada model ini adalah 98.25

Apakah ada bagian harga rumah yang tidak dapat dijelaskan oleh luas lantai?

Apakah ada bagian harga rumah yang tidak dipengaruhi oleh luas lantai?

Contoh Inferensia Intersep Garis Regresi (b0): uji t


Contoh Inferensia Intersep Garis Regresi (b0): uji-t

H0: β0 = 0H1: β0 ≠ 0

0bsb0

1.6929658.03348

098.24833sβbt

0b

00 =−

=−

=

output MINITAB :


(lanjutan)

Apakah ada har-ga rumah yg tdk dpt dijelaskan (tdk dipengaruhi) oleh luas lantai


Contoh Inferensia Intersep Garis Regresi (b0): uji-t

H0: β0 = 0H1: β0 ≠ 0

Statistik uji: thit = 1.69296

Tidak cukup bukti untuk mengatakan bahwa : ada harga rumah yang tidak dapat dijelaskan oleh luas lantai

0bs tb0

Keputusan:

Kesimpulan :

Tolak H0Tolak H0

α/2=.025

-t1,α/2

Terima H0

0

α/2=.025

-12.706 12.706 1.69296

d.b. = 1

t1, .025 = 12,706

(lanjutan)

t1,α/2

output MINITAB :


Terima H0


Uji F bagi parameter regresi :Tabel Sidik Ragam

Sumber Keragaman

Derajat Bebas (db)

Jumlah Kuadrat

(JK)

Kuadrat Tengah

(KT)Regresi(b1| b0)

1

Sisaan n-2

Total (terkoreksi) n-1

( )∑=

−n

ii yy

1

2ˆ

( )∑=

−n

iii yy

1

2ˆ

( )∑=

−n

ii yy

1

2

1JK Regresi

( )2nJK sisaan

−

Statistik uji F tersebut memiliki derajat bebas db1=1 dan db2=n-2Jika Fhit <1 KTRegresi < KTSisaan Ragam Regresi < Ragam Sisaan pengaruh regresi tdk nyata pengaruh x tdk nyata b1 = 0 (tdk perlu tabel)

S2, jika mo-delnya pas

Statistik uji-nya :

Sisaan

gresRehit KT

KTF i=

Sisaan

Reg

RagamRagam

=

0:H0:H

11

10

≠=

ββ





S = 41,3303 R-Sq = 58,1% R-Sq(adj) = 52,8%


OUTPUT MINITAB

Contoh Uji F bagi parameter regresi : Tabel Sidik Ragam

(lanjutan)

db: 1,8

P-value untuk uji F

170818935 =

=sisaan

reghit KT

KTF


Statistik Uji:

Keputusan:

Kesimpulan:

Tolak H0 dg α = 0.05

Cukup bukti bahwa luas lantai mempengaruhi harga rumah0

α = .05

F.05 = 5.32Tolak H0terima

H0

11.08F ==sisaan

regresi

KTKT

Nilai kritis: Fα = 5.32

(lanjutan)

F

H0: β1 = 0H1: β1 ≠ 0

εββ ++= xY 10

α = .05db1= 1 db2 = 8

Contoh Uji F bagi parameter regresi : Tabel Sidik Ragam


Uji F bagi parameter regresi : Tabel Sidik Ragam

Jika model yang kita pilih di awal ternyata tidak pas1. Bolehkah kita menggunakan KT sisaan sebagai

penduga bagi ragam sisaan ?

2. Masih relevankah kita melakukan uji F ?

Agar uji F pada tabel Sidik Ragam dapat digunakan, maka model yang dipilih harus pas. uji lack of fit atau periksa pola sisaannya akan dibahas pada sub pokok bahasan “ Kualitas Fitted Model “ Untuk sementara anggaplah model yang kita pilih pas.

(lanjutan)


Perbandingan Tabel Sidik Ragam Terkoreksi dan Tidak TerkoreksiSumber

KeragamanDerajat

Bebas (db)Jumlah

Kuadrat (JK)Kuadrat

Tengah (KT)

Regresi(b1| b0)

1

Sisaan n - 2

Total (terkoreksi) n - 1

( )∑=

−n

ii yy

1

2ˆ

( )∑=

−n

iii yy

1

2ˆ

( )∑=

−n

ii yy

1

2

1JK Regresi

( )2nJK sisaan

−

Regresi (b0,b1) 2

Sisaan n - 2

Total n

0:H0:H

11

10

≠=

ββ

0,1j,0 satu adamin :H

0:H

1

100

=≠

==

jβ

ββ

Tidak bisa mem-berikan jawaban apkh x berpe-ngaruh/tidak

∑ 2iy

∑∑ + i0ii1 ybyxb

( )∑=

−n

iii yy

1

2ˆ 2s

Sudah diku-rangi dg faktor koreksi yn


Kualitas Fitted Model

• Apakah model regresi sudah cukup pas mewakili data?

• Apakah model regresi cukup baik untuk model peramalan?


Tebaran titik amatan / scatter plot

Mana di antara gambar–gam-bar ini yang mo-delnya cukup pas/sesuai ?

a. b.

c. d.

x

xx

x

y

yy

y

Perlu diuji apakah model-nya sudah pas atau belum uji lack of fitatau secara eksploratif plot sisaan


Tebaran titik amatan / scatter plot

Mana di antara gambar–gam-bar ini yang mo-delnya cukup baik untuk peramalan?

a. b.

c. d.

y

yy

y

x x

x x

Perlu suatu be-saran yang dapat mengukur jauh /dekatnya titik pengamatan thdp garis regresi


Koefisien Determinasi, R2

Koefisien determinasi mengukur proporsi keragaman atau variasi total di sekitar nilai tengah (Y) yang dapat dijelaskan oleh garis regresi

secara grafis mengukur jauh/dekatnya titik pengamatanthdp garis regresi

Koefisien determinasi juga disebut R-kuadrat dan dinotasikan sebagai R2

atau

1R0 2 ≤≤CATATAN:

∑∑

−−

== 2

2

Tot

Reg2

)()ˆ(

JKJK

Ryyyy

i

i

Total

Sisa

JKJKR −= 12


Koefisien Determinasi, R2(lanjutan)




S = 41,3303 R-Sq = 58,1% R-Sq(adj) = 52,8%


5808,032600189352 ==R

OUTPUT MINITAB

58.08% keragaman harga rumah dijelaskan oleh keragaman luas lantai


Analisis Korelasi

Analisis korelasi digunakan untuk mengukur kekuatan hubungan (hubungan linier) antara dua peubah

Korelasi hanya khusus untuk kekuatan hubungan

Mengukur arah hubungan

Tidak berdampak pada sebab akibat


Analisis Korelasi

Koefisien korelasi populasi dinotasikan dengan ρ(huruf Greek rho)

Koefisien korelasi contoh adalah :

yx

xyXY ss

srˆ ==ρ

1n)y)(yx(x

s iixy −

−−= ∑

Koefisien korelasi Pearson

Pada Model Regresi Linier Sederhana yg hub.nya linier : R2 = r2 rXY = (tanda b1)

2R

(lanjutan)

Pada sembarang regresi linier berlaku:Rr YY =


Untuk melakukan tes bahwa tidak ada hubungan linier, Hipotesis nol nya :

Statistik ujinya mengikuti sebaran t Student dengan derajad bebas (n – 2 )

Uji Hipotesis untuk Korelasi

0ρ:H0 =

)r(12)(nrt2−

−=

(lanjutan)


H0: ρ ≥ 0H1: ρ < 0

H0: ρ ≤ 0H1: ρ > 0

H0: ρ = 0H1: ρ ≠ 0

Kaidah Keputusan

α α/2 α/2α

-tα -tα/2tα tα/2

tolak H0 jika t < -tn-2, α Tolak H0 jika t > tn-2, α Tolak H0 jika t < -tn-2, α/2atau t > tn-2, α/2

dengan 2-n d.b ,)r(1

2)(nrt

2=

−

−=

Uji Hipotesis untuk Korelasi(lanjutan)


Correlations: Harga Rumah; Luas Lantai

Pearson correlation of Harga Rumah and Luas Lantai = 0,762

P-Value = 0,010

OUTPUT MINITAB

Uji Hipotesis untuk Korelasi

P-value < 0,025 Tolak H0 ρ ≠ 0

(lanjutan)


FILM :MENDUGA

KOEFISIEN KORELASI PEARSONdengan

MENGGUNAKAN MINITAB

Klik di sini


(Rp.juta) (Y)


245 1400312 1600279 1700308 1875199 1100219 1550405 2350324 2450319 1425255 1700

Correlations: Harga Rumah; Luas Lantai Pearson correlation of Harga Rumah and Luas Lantai = 0,762

P-Value = 0,010 rXY

APLIKASI DENGAN MINITABDUGAAN BAGI KOEFISIEN KORELASI

OUTPUT MINITAB


r2 = 1

Interpretasi beberapa nilai r2

Y

X

Y

X

r2 = 1

r2 = 1 dapat diinterpretasikan sbb. :

Adanya hubungan linier yang tepat antara X dan Y:

100% keragaman Y dijelaskan oleh keragaman X



Y

X

Y

X

0 < r2 < 1 dapat diinterpretasi-kan sbb. :

Adanya hubungan linier yang lemah antara X dan Y:

Sebagian (tidak semuanya) keragaman Y dijelaskan oleh keragaman X



Tidak ada hubungan linier antara X dan Y:

Nilai Y tidak bergantung pada nilai X. (Tidak ada keragaman Y yang dapat diterangkan oleh keragaman X)

Y

Xr2 = 0

r2 = 0 dapat diinterpretasikan sbb. :


Korelasi dan Koefisien Determinasi R2

Koefisien determinasi, R2, untuk regresi linier sederhana yang hubungannya linier (ordo X = 1) sama dengan koefisien korelasi kuadrat

Korelasi antara amatan Yi dengan nilai dugaannya untuk sembarang regresi linier dengan berapapun banyaknya peubah bebas

2/121xy )R)(b (tanda Rr ==2

xy2 rR =

^

iY

Rr ^YY=


Berbagai Kondisi yg Menggambarkan Perbedaan antara R2 dan rXY

C1

Y2

1050-5-10

100

80

60

40

20

0

Scatterplot of Y2 vs C1

C1

Y1

1086420

35

30

25

20

15

10

5

Scatterplot of Y1 vs C1

Correlations: X1; Y1 Pearson correlation of X1 and Y1 = 1,000 P-Value = *

Correlations: X2; Y2 Pearson correlation of X2 and Y2 = 0,000 P-Value = 1,000

The regression equation isY1 = 2,00 + 3,00 X1

S = 0 R-Sq = 100,0% R-Sq(adj) = 100,0%

The regression equation isY2 = 4,000 + 0,00 X2 + 1,000 X2**2

S = 0 R-Sq = 100,0% R-Sq(adj) = 100,0%

rXY

R2

R2 = 1r = 1

X2

Y2

1050-5-10

100

80

60

40

20

0

Fitted Line Plot

R2 = 1r = 0

b1 = 3 b1 = 0


Berbagai Kondisi yg Menggambarkan Perbedaan antara R2 dan rXY

X1

Y3

1086420

35

30

25

20

15

10

5

0

Scatterplot of Y3 vs X1

The regression equation isY3 = 1,27 + 3,10 X1S = 1,53396 R-Sq = 97,7% R-Sq(adj) = 97,4%

Correlations: Y3; X1 Pearson correlation of Y3 and X1 = 0,988

R2 = 97,7%r = 0,988


S = 3,44414 R-Sq = 88,7% R-Sq(adj) = 87,3%

X1

Y4

1086420

35

30

25

20

15

10

5

0


R2 = 88,7%r = 0,942


(lanjutan)

b1 = 3,1 b1 = 3,01


Berbagai Kondisi yg Menggambarkan Perbedaan antara b1 dan rXY

X1

C7

1086420

40

30

20

10

0

Scatterplot of C7 vs X1

The regression equation isC7 = 37,7 - 3,38 X1

S = 6,09048 R-Sq = 76,0% R-Sq(adj) = 73,0%

Correlations: C7; X1 Pearson correlation of C7 and X1 = -0,872


S = 0,275434 R-Sq = 64,8% R-Sq(adj) = 60,4%

X1

Y6

1086420

10

8

6

4

2

0



R2 = 76,0%r = -0,872

b1 = -3,38

R2 = 64,8%r = 0,805

b1 = 0,116


Berbagai Kondisi yg Menggambarkan Perbedaan antara b1 dan rXY (lanjutan)

X

Y

543210

17,5

15,0

12,5

10,0

7,5

5,0

Scatterplot of Y vs X

The regression equation is Y = 1,06 + 4,67 XS = 2,06491 R-Sq = 53,3% R-Sq(adj) = 52,1%Analysis of VarianceSource DF SS MS F PRegression 1 184,94 184,94 43,37 0,000Residual Error 38 162,03 4,26Total 39 346,97

X1

Y1

1086420

10

8

6

4

2

0


The regression equation is Y1 = 3,99 + 0,00914 X1S = 0,0077338 R-Sq = 93,5% R-Sq(adj) = 92,7%Analysis of VarianceSource DF SS MS F PRegression 1 0,0068911 0,00689 115,21 0,000Resd Error 8 0,0004785 0,00005Total 9 0,0073696

Pearson correlation of X1 and Y1 = 0,967

R2 = 93,5%r = 0,967

b1 = 0,00914

R2 = 53,3%r = 0,730

b1 = 4,67

Pearson correlation of X and Y = 0,730


Uji Ketidakpasan Model

Harus ada ulangan pengamatan yi pada nilai xi

yang sama. Mis. :x y

x1 y11y12

x2 y21y22y23y24

x3 y31y32y33

x4 y41y42

Untuk data contoh di samping dapat dinotasikan :

m = 4, n1=2, n2=4, n3=3, n4=2

1123421

=+++== ∑=

m

jjnn


Uji ketidakpasan model :Tabel Sidik Ragam

Sumber Keragaman

Derajat Bebas (db)

Jumlah Kuadrat

(JK)

Kuadrat Tengah

(KT)Regresi(b1| b0)

1

Sisaan n-2

Total (terkoreksi)

( )∑=

−n

ii yy

1

2ˆ

( )∑=

−n

iii yy

1

2ˆ

( )∑=

−n

ii yy

1

2

1JK Regresi

( )2nJK sisaan

−Statistik uji-nya :

GM

KMhit KT

KTF =Ketidakpasan model (KM)

Galat murni (GM)

n - 1

mnm

jj −∑

=1

2

1 1)( j

m

j

n

uju yy

j

−∑∑= =

dbsisa-dbGM JKsisa – JKGMKM

KMKM db

JKKT =

GM

GMGM db

JKKT =

H0: model pasH1: model tdk pas

F tabel : db1=dbKMdb2=dbGM


X Y X Y

1 5,135 6 67,586

1 30,846 6 47,441

1 32,977 6 32,919

2 14,142 7 78,804

2 20,785 7 78,202

2 -1,499 7 73,846

3 13,463 8 154,158

3 30,391 8 114,145

3 -21,254 8 110,077

4 31,095 9 139,573

4 6,542 9 154,735

4 35,466 9 151,428

5 -5,419 10 163,649

5 59,32 10 189,114

5 73,178 10 214,504

Contoh : Uji ketidakpasan model Tabel Sidik Ragam

Untuk data contoh di samping dapat dinotasikan :

m = 10, n1 = n2 =…..= n10 = 3

n = 30

db sisaan = n – 2 = 28

db galat murni =

= 30 – 10 = 20

db ketidakpasan model = 28 – 20= 8

mnm

jj −∑

=1


The regression equation is y = - 37,3 + 19,5 x

Predictor Coef SE Coef T PConstant -37,31 11,70 -3,19 0,003x 19,483 1,885 10,33 0,000

S = 29,6616 R-Sq = 79,2% R-Sq(adj) = 78,5%

Analysis of VarianceSource DF SS MS F P

Regression 1 93945 93945 106,78 0,000

Residual Error 28 24635 880

Lack of Fit 8 15272 1909 4,08 0,005Pure Error 20 9363 468

Total 29 118580

Phit < 0,05

KEPUTUSAN :Tolak H0

KESIMPULAN:Model tidak pas

H0: model pasH1: model tdk pas


(lanjutan)OUTPUT MINITAB


Pada contoh tersebut meskipun P-value untuk pengaruh linier x dan regresi sangat kecil (0,000…) namun kita tidak memperhatikan hal ini terlebih dahulu. Kita perhatikan uji ketidakpasan modelnya dulu,

disimpulkan bahwa model tidak pas.Selanjutnya kita periksa pola tebaran datanya.

x

y

1086420

200

150

100

50

0

Scatterplot of y vs x

Pada tebaran data-nya ter-lihat adanya pola kuadratik

model yang digunakan diubah menjadi :

εxβxββY 21110 +++=


x

y

1086420

200

150

100

50

0

Scatterplot of y vs x

The regression equation isy = 28,32 - 13,33 x + 2,983 x**2

S = 19,7555 R-Sq = 91,1% R-Sq(adj) = 90,5%

Analysis of VarianceSource DF SS MS F PRegression 2 108043 54021,3 138,42 0,00Error 27 10538 390,3Total 29 118580

Sequential Analysis of VarianceSource DF SS F PLinear 1 93945,5 106,78 0,000Quadratic 1 14097,2 36,12 0,000

x

y

1086420

200

150

100

50

0

Fitted Line Plot

Contoh : Uji ketidakpasan model Tabel Sidik Ragam(lanjutan)

• Dengan mengubah model regresi dari linier ke kuadratik, R2

meningkat dari 79,2% menjadi 91,1%

• Dari tabel Sidik Ragam didapat bhw pengaruh X kuadrat nyata dg = 0,05

OUTPUT MINITAB

α

MODEL YG DIGUNAKAN :

Y duga = 28,32 - 13,33 x + 2,983 x**2


FILM :MENGUJI

KETIDAKPASAN MODEL dengan

MENGGUNAKAN MINITAB

Klik di sini

X Y X Y

1 5,135 6 67,586

1 30,846 6 47,441

1 32,977 6 32,919

2 14,142 7 78,804

2 20,785 7 78,202

2 -1,499 7 73,846

3 13,463 8 154,158

3 30,391 8 114,145

3 -21,254 8 110,077

4 31,095 9 139,573

4 6,542 9 154,735

4 35,466 9 151,428

5 -5,419 10 163,649

5 59,32 10 189,114

5 73,178 10 214,504



Langkah-langkah Pemilihan Model yang Pas

1.Tentukan model, dapatkan dugaan persamaan garis regresinya, susun tabel Sidik Ragam, jangan dulu melakukan uji F untuk regresi keseluruhan

2.Lakukan uji ketidakpasan model. Jika tidak ada ulangan, cek secara eksploratif : plot sisaan-nya (akan dijelaskan pada pokok bahasan: Diagnosa Model). Jika nyata : lanjut ke langkah 3Jika tidak nyata : gunakan KT sisaan s2 sebagai dugaan bagi Rag(Y) = σ2 , lakukan uji F secara keseluruhan, hitung R2, perik-sa asumsi untuk MKT melalui plot sisaan (Diagnosa Model)

3.Hentikan analisis, perbaiki modelnya (lihat pola plot sisaannya).


Selang Kepercayaan bagi koefisien kemiringan b1

Selang kepercayaan bagi koefisien kemiringan adalah :

Output Excel untuk contoh kasus harga rumah:

Pada tingkat kepercayaan 95%, selang kepercayaan bagi koefisien kemiringan garis adalah (0.0337, 0.1858)

11 bα/22,n11bα/22,n1 stbβstb −− +<<−

Coefficients Standard Error t Stat P-value Lower 95% Upper 95%

Intercept 98.24833 58.03348 1.69296 0.12892 -35.57720 232.07386

Luas Lantai 0.10977 0.03297 3.32938 0.01039 0.03374 0.18580

d.b. = n - 2


Selama satuan peubah tak bebas (harga rumah) dalam juta rupiah, kita percaya 95% bahwa rata-rata pengaruh penambahan harga rumah berada antara Rp. 0,03374 juta sampai dengan Rp.0,18580 juta setiap penambahan satu m2 luas lantai

Coefficients Standard Error t Stat P-value Lower 95% Upper 95%

Intercept 98.24833 58.03348 1.69296 0.12892 -35.57720 232.07386

Luas Lantai 0.10977 0.03297 3.32938 0.01039 0.03374 0.18580

Selang kepercayaan 95% ini tidak memuat angka 0.

Kesimpulan : Ada hubungan linier yang nyata antara harga rumah dengan luas lantai dengan tingkat nyata sebesar 95%

Selang Kepercayaan bagi koefisien kemiringan b1

(lanjutan)


Peramalan

Dugaan persamaan garis regresi dapat digunakan untuk memprediksi/meramal nilai Y jika x diketahui (hati-hati hanya untuk x yang berada dalam selang pengamatan)

Untuk suatu nilai, xn+1 , nilai prediksi bagi Y adalah

1n101n xbby ++ +=ˆ


317.850)0.1098(200 98.25lantai) (luas 0.1098 98.25rumah harga

=+=+=

Berapa kira-kira harga rumah yang luas lantainya 2000 m2 ! (2000 bukan titik pengamatan, namun masih dalam selang pengamatan). interpolasi

Prediksi harga rumah dengan luas lantai 2000 m2 adalah Rp 317,85 juta

Memprediksi dengan menggunakan persamaan garis regresi


050

100150200250300350400450

0 500 1000 1500 2000 2500 3000

Luas Lantai (m2)

Har

ga R

umah

(jut

a R

p)

Selang data yang relevan

Ketika menggunakan garis regresi sebagai alat untuk memprediksi, x yang boleh digunakan adalah x yang nilainya dalam selang pengamatan

Selang yang relevan

Sangat riskan untuk melakukan ekstrapolasi X di

luar selang pengamatan


Selang kepercayaan rataan respon dan dugaan individu

Y

Xxi

yi = b0 + b1 xi

Selang kepercayaan bagi rataan Y, untuk xi

Selang kepercaya-an bagi nilai peng-amatan y, untuk xi

y∧


Selang Kepercayaan bagi nilai harapan Y, untuk suatu X

Selang kepercayaan bagidugaan nilai harapan/rataan y jika diketahui xn+1

Perhatikan bahwa rumus tersebut mengandung

Jadi beragamnya lebar selang bergantung pada jarak antara xn+1 terhadap nilai rataan, x

⎥⎥⎦

⎤

⎢⎢⎣

⎡

−−

+±∑

+−+

++

2i

21n

eα/22,n1n

1n1n

)x(x)x(x

n1sty

:)X|E(Y bagin kepercayaa Selang

21n )x(x −+


Selang Kepercayaan bagi individu Y, untuk suatu nilai x

Selang kepercayaan individu y untuk suatu nilai xn+1

⎥⎥⎦

⎤

⎢⎢⎣

⎡

−−

++±∑

+−+

+

2i

21n

eα/22,n1n

1n

)x(x)x(x

n11sty

:y bagin kepercayaa Selang


Dugaan bagi Nilai Tengah/Rataan: Contoh harga rumah

Dapatkan selang kepercayaan 95% bagi rataan harga rumah dengan luas lantai 2.000 m2

harga rumah yi = 317,85 (Rp. juta)∧

Selang kepercayaan bagi E(Yn+1|Xn+1)

37.12317.85)x(x)x(x

n1sty 2

i

21n

eα/22,-n1n ±=−−

+±∑

++

Selang kepercayaan 95% bagi rataan harga rumah adalah dari Rp 280.660.000,- sampai Rp. 354.900.000,-


Predicted Values for New Observations

NewObs Fit SE Fit 95% CI 95% PI1 317,8 16,1 (280,7; 354,9) (215,5; 420,1)

Values of Predictors for New Observations

New LuasObs Lantai1 2000

OUTPUT MINITAB

Dugaan bagi Nilai Tengah/Rataan: Contoh harga rumah

Selang Kepercayaan 95% bagi dugaan nilai tengah/Rataan untuk suatu nilai x tertentu yg tidak ada pada pengamatan, namun masih dalam selang pengamatan x = 2000

Dugaan Nilai Tengah untuk x = 2000

(lanjutan)


Dugaan bagi individu/respon: contoh harga rumah

Dapatkan selang kepercayaan 95% bagi respon individu harga rumah untuk rumah dengan luas lantai 2.000 m2

yi = 317,85 (Rp. juta)∧

Selang kepercayaan bagi individu yn+1

102.28317.85)X(X)X(X

n11sty 2

i

21n

eα/21,-n1n ±=−−

++±∑

++

Selang kepercayaan 95% bagi harga rumah dengan luas lantai 2000m2 ialah dari Rp 215.500.000,- sampai Rp 420.070.000,-.

∧


OUTPUT MINITAB

Predicted Values for New Observations

NewObs Fit SE Fit 95% CI 95% PI1 317,8 16,1 (280,7; 354,9) (215,5; 420,1)

Values of Predictors for New Observations

New LuasObs Lantai1 2000

Dugaan bagi individu/respon: contoh harga rumah

(lanjutan)

Selang Kepercayaan 95% bagi dugaan individu/respon untuk suatu nilai x tertentu yg tidak ada pada pengamatan, namun masih dalam selang pengamatan x = 2000


FILM :MENGHITUNG

SELANG KEPERCAYAAN BAGI RAMALAN NILAI TENGAH

&RAMALAN NILAI INDIVIDU

denganMENGGUNAKAN MINITAB

Klik di sini


(Rp.juta) (Y)


245 1400312 1600279 1700308 1875199 1100219 1550405 2350324 2450319 1425255 1700

analisis regresi 1 - · pdf filerataan y (nilai harapan y) jika x berubah satu satuan....

Documents