3 regresi linier sederhana (pendugaan parameter dan pengujian) minor/3... · ,wdvld < $qjudlql...
Post on 14-May-2019
240 Views
Preview:
TRANSCRIPT
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
Pendugaan Parameter Regresi
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
Menduga garis regresi
Menduga garis regresi linier sederhana = menduga parameter-parameter regresi β0dan β1 : Penduga parameter yang dihasilkan harus
merupakan penduga yang baik Software statistik, seperti Minitab, SAS, SPSS,
dll. banyak digunakan
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
Metode Kuadrat Terkecil b0 dan b1 adalah dugaan bagi parameter regresi β0dan β1 yang didapat salah satunya dengan cara
meminimumkan jumlah kuadrat galat (JKG). Galat/sisaan = selisih antara y dan Metode Kuadrat Terkecil (MKT) :
2i10i
2ii
2i
)]xb(b[ymin )y(ymin
emin JKGmin
y
Teknik kalkulus digunakan untuk mendapatkan nilai bodan b1 sedemikian hingga meminimumkan JKG
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
Penduga bagi koefisien kemiringan garis β1 ialah:
Penduga bagi intersep β0 ialah:
Garis regresi selalu melalui titik x, y
XYxyn
1i2
i
n
1iii
1 ssr
)x(x)y)(yx(x
b
XXXY
SS
xbyb 10
Metode Kuadrat Terkecil(lanjutan)
SXY
SXX
Koefisien Korelasi Pearson
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
Asumsi Metode Kuadrat Terkecil (MKT)
Agar penduga bagi parameter regresi yang didapatkan dengan menggunakan MKT merupakan penduga yang baik maka sisaan/galat harus memenuhi kondisi Gauss-Markov berikut ini :
bebas saling dan ji ,0][ 3.)ticity homoscedas (
xnilai setiapuntuk homogen sisaan ragam ]E[ 2.nol sisaan taan harapan/ra-nilai 0][ .1
ji
22i
ji
i
E
E
Kondisi Gauss - Markov
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
ContohRegresi Linier Sederhana Sebuah agen real-estate ingin mengetahui
hubungan antara harga jual sebuah rumah dengan luas lantainya (diukur dalam m2)
10 buah rumah diambil secara acak sebagai contoh Peubah tak bebas (Y) = harga rumah (juta rupiah) Peubah bebas (X) = luas lantai (m2)
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
Data contoh Harga RumahHarga Rumah (Rp.juta) (Y) Luas Lantai (m2) (X)
245 1400312 1600279 1700308 1875199 1100219 1550405 2350324 2450319 1425255 1700
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
050
100150200250300350400450
0 500 1000 1500 2000 2500 3000Luas Lantai (m2)
Harga
Jual
Ruma
h (Rp
juta)
Tampilan Grafik Model Harga Jual Rumah: scatter plot
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
FILM :MEMBUAT TEBARAN ANTARA
“HARGA RUMAH” dengan
“LUAS LANTAI”MENGGUNAKAN MINITAB
Klik di sini
Data contoh Harga RumahHarga
Rumah (Rp.juta) (Y)
Luas Lantai (m2) (X)
245 1400312 1600279 1700308 1875199 1100219 1550405 2350324 2450319 1425255 1700
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
Excel OutputRegression Statistics
Multiple R 0.76211R Square 0.58082Adjusted R Square 0.52842Standard Error 41.33032Observations 10
ANOVAdf SS MS F Significance F
Regression 1 18934.9348 18934.9348 11.0848 0.01039Residual 8 13665.5652 1708.1957Total 9 32600.5000
Coefficients Standard Error t Stat P-value Lower 95% Upper 95%Intercept 98.24833 58.03348 1.69296 0.12892 -35.57720 232.07386Luas lantai 0.10977 0.03297 3.32938 0.01039 0.03374 0.18580
Persamaan garis regresi-nya:lantai) (luas 0.10977 98.24833rumah harga
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
050
100150200250300350400450
0 500 1000 1500 2000 2500 3000Luas Lantai (m2)
Harga
Jual
Ruma
h (Rp
.juta)
Tampilan Grafik Model Harga Rumah: scatter plot dan
garis regresi
lantai) (luas 0.10977 98.24833rumah harga
Kemiringan= 0.10977
Intersep = 98.248
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
Klik di sini
Data contoh Harga RumahHarga
Rumah (Rp.juta) (Y)
Luas Lantai (m2) (X)
245 1400312 1600279 1700308 1875199 1100219 1550405 2350324 2450319 1425255 1700
FILM :MEMBUAT TEBARAN ANTARA
“HARGA RUMAH” dengan
“LUAS LANTAI”& GARIS REGRESI-nya
MENGGUNAKAN MINITAB
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
FILM :MENDUGA
PARAMETER REGRESIdengan
MENGGUNAKAN MINITAB
Klik di sini
Data contoh Harga RumahHarga Rumah
(Rp.juta) (Y)Luas Lantai
(m2) (X)245 1400312 1600279 1700308 1875199 1100219 1550405 2350324 2450319 1425255 1700
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
Interpretasi Intersep b0
b0 adalah nilai dugaan bagi nilai rataan Y ketika X bernilai nol (jika X = 0 di dalam selang pengamatan) Dalam hal ini tidak ada rumah yang memiliki luas lantai=0, jadi
b0 = 98.24833 hanya mengindikasikan bahwa : untuk luas lantai yang berada dalam selang pengamatan, Rp 98.248.330,-adalah bagian harga rumah yang tidak diterangkan oleh luas lantai
lantai) (luas 0.10977 98.24833rumah harga
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
Interpretasikoefisien kemiringan, b1
b1 mengukur dugaan perubahan rataan nilai Y jika X berubah satu satuan Dalam hal ini b1 = .10977 menggambarkan bahwa
setiap penambahan satu m2 luas lantai rataan harga rumah akan naik sebesar 0,10977 juta rupiah
lantai) (luas 0.10977 98.24833rumah harga
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
Apakah b0 dan b1 yang didapat merupakan penduga yang baik ?
Pertanyaan di atas = pertanyaan bahwa: “apakah sisaan yang dihasilkan oleh dugaan persamaan garis regresi nya menghasilkan sisaan yang memenuhi kondisi Gauss-Markov?”
Untuk sementara ini kita yakini saja dulu bahwa sisaan yang dihasilkan memenuhi kondisi tersebut
Penjelasan bagaimana cara memeriksanya akan dijelaskan pada pokok bahasan “Diagnosa model melalui pemeriksaan sisaan”
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
PENGURAIAN KERAGAMAN TOTAL
JKRegJKsisa
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
Sumber Keragaman Regresi Nilai pengamatan yi yang dihasilkan beragam.
Keragaman ini disebabkan oleh ?
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
Sumber Keragaman Regresi Untuk suatu nilai xi keragaman nilai pengamatan
disebabkan oleh : Menyimpangnya nilai amatan yi terhadap dugaan nilai
harapannya
beragam menghasilkan dugaan garis regresi yang beragam memiliki rataan Menyimpangnya suatu dugaan garis regresi terhadap rataannya menyebabkan beragamnya data.
iiy xbb]x|[Y E ]x|[Y E 10ii
(lanjutan)
Y
/sisaaneror/galat karena iii eyy 10 bdan b
regresi model karena ˆˆˆ 10 iiii y y ,yxbbyy
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
Mengukur Keragaman Total Keragaman disebabkan oleh dua bagian ini :
JKG JKR JKT Jumlah
Kuadrat TotalJumlah Kuadrat
RegresiJumlah Kuadrat
Galat/Sisaan
2i )y(yJKT 2
ii )y(yJKG 2i )yy(JKR
dengan:= nilai rata-rata peubah tak bebas Y
yi = nilai pengamatan ke-i peubah tak bebas Y i = nilai dugaan y untuk suatu nilai xiy
y
= +
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
JKT = Jumlah Kuadrat Total Mengukur keragaman nilai yi di sekitar nilai
rataannya y JKR = Jumlah Kuadrat Regresi Menjelaskan keragaman karena adanya hubungan
linier antara x dan y JKS = jumlah Kuadrat Sisa Menjelaskan keragaman yang disebabkan oleh
faktor-faktor selain faktor hubungan linier x dan y
(lanjutan)Ukuran Keragaman
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
(lanjutan)
xi
y
X
yi
JKT = (yi - y)2
JKG = (yi - yi )2
JKR = (yi – y )2 __
_y
Y
y_yi
Ukuran Keragaman
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
Derajat Bebas Jumlah Kuadrat Ukuran keragaman adalah ragam
Derajat bebas bagi
Derajat bebas bagi
(db) bebasderajat (JK)Kuadrat Jumlah Ragam
2 -n JKSisaan 1 JK Regresi
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
Tabel Sidik RagamSumber
KeragamanDerajat Bebas
(db)Jumlah Kuadrat
(JK)Kuadrat Tengah
(KT)Regresi 1Sisaan n-2Total (terkoreksi) n-1
n
ii yy
1
2ˆ n
iii yy
12ˆ
n
ii yy
1
2
1JK Regresi
2nJK sisaan
Pada analisis regresi ini tentunya diharapkan JK regresi lebih besar dari JK sisaan sehingga dapat dikatakan bahwa keragaman nilai y disebabkan oleh perubahan nilai x.
S2, jika modelnya pas
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
Penduga bagi Ragam Sisaan/galat Penduga bagi ragam eror/sisaan dari model populasi adalah :
Dibagi dengan n – 2 bukan dengan n – 1 karena model regresi linier sederhana menggunakan 2 penduga parameter yaitu, b0 dan b1, bukan satu.adalah penduga simpangan baku
2ne
2nJKSsσ
n
1i2i2
e2 sisaanKT
2ee ss
Dengan asumsi bahwa modelnya pas/cocok
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
Excel OutputRegression Statistics
Multiple R 0.76211R Square 0.58082Adjusted R Square 0.52842Standard Error 41.33032Observations 10
ANOVAdf SS MS F Significance F
Regression 1 18934.9348 18934.9348 11.0848 0.01039Residual 8 13665.5652 1708.1957Total 9 32600.5000
Coefficients Standard Error t Stat P-value Lower 95% Upper 95%Intercept 98.24833 58.03348 1.69296 0.12892 -35.57720 232.07386Luas Lantai 0.10977 0.03297 3.32938 0.01039 0.03374 0.18580
41.33032se
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
Perbandingan Galat Baku
YY
X Xkecils e besars e
se mengukur keragaman penyimpangan nilai pengamatan y terhadap garis regresi
The magnitude of se should always be judged relative to the size of the y values in the sample data
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
Pengujian HipotesisTerhadap
Slope dan Intersep0
10
Diperlukan asumsi bahwa εi menyebar Normalεi ~ N ( 0,σ2 )
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
Ragam Koefisien Kemiringan Garis Regresi (b1) Ragam dari koefisien kemiringan garis regresi
(b1) diduga sbb :
2x
2e
2i
2e2
1)s(ns
)x(xss
1b dengan:
= dugaan simpangan baku kemiringan garis regresi
= akar KTG = akar Kuadrat Tengah Galat = dugaansimpangan baku sisaan
1bs2n
SSEse
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
Membandingkan Simpangan Baku Koefisien Kemiringan Garis Regresi (b1)
Y
X
Y
Xkecil1bS besar1bS
mengukur keragaman koefisien kemiringan garis regresi dari berbagai contoh (set data) yang mungkin. 1bS
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
Excel OutputRegression Statistics
Multiple R 0.76211R Square 0.58082Adjusted R Square 0.52842Standard Error 41.33032Observations 10
ANOVAdf SS MS F Significance F
Regression 1 18934.9348 18934.9348 11.0848 0.01039Residual 8 13665.5652 1708.1957Total 9 32600.5000
Coefficients Standard Error t Stat P-value Lower 95% Upper 95%Intercept 98.24833 58.03348 1.69296 0.12892 -35.57720 232.07386Luas Lantai 0.10977 0.03297 3.32938 0.01039 0.03374 0.18580
0.03297s 1b
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
Inferensia Koefisien Kemiringan Garis Regresi (b1): t TestPada model regresi linier sederhana :Uji t untuk koefisien kemiringan garis regresi populasi (β1) Apakah ada hubungan linier antara X dan Y?
Hipotesis Nol dan hipotesis tandinganH0: β1 = 0 (tidak ada hubungan linier antara X dan Y)H1: β1 0 (ada hubungan linier antara X dan Y)
Uji Statistik1b
11s
βbt 2nd.b.
dengan:b1 = koefisien kemiringan regresiβ1 = kemiringan yg dihipotesiskansb1 = simpangan baku kemiringan
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
Harga Rumah (Rp.juta)
(y)Luas Lantai
(m2) (x)
245 1400312 1600279 1700308 1875199 1100219 1550405 2350324 2450319 1425255 1700
lantai) (luas 0.1098 98.25rumah harga Dugaan persamaan garis regresi:
Koefisien kemiringan garis pada model ini adalah 0.1098 Apakah luas lantai mempengaruhi harga jual?
Contoh Inferensia Koefisien Kemiringan Garis (b1): t Test(lanjutan)
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
Contoh Inferensia Koefisien Kemiringan Garis (b1): uji t
H0: β1 = 0H1: β1 0
Output dari Excel Coefficients Standard Error t Stat P-value
Intercept 98.24833 58.03348 1.69296 0.12892Luas lantai 0.10977 0.03297 3.32938 0.01039
1bs
t
b1
3.329380.0329700.10977
sβbt
1b11
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
Contoh Inferensia Koefisien Kemiringan Garis (b1): t Test
H0: β1 = 0H1: β1 0
Statistik Uji-nya : t = 3.329
Cukup bukti untuk mengatakan bahwa luas lantai mempengaruhi harga jual
output dari Excel : Coefficients Standard Error t Stat P-value
Intercept 98.24833 58.03348 1.69296 0.12892Luas lantai 0.10977 0.03297 3.32938 0.01039
1bs tb1
Keputusan : Tolak H0Kesimpulan :
Tolak H0Tolak H0
a/2=.025
-tn-2,α/2Terima H00
a/2=.025
-2.3060 2.3060 3.329
d.b. = 10-2 = 8t8,.025 = 2.3060
(lanjutan)
tn-2,α/2
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
Contoh Inferensia Koefisien Kemiringan Garis (b1): t Test
H0: β1 = 0H1: β1 0
Nilai peluang P = 0.01039
Cukup bukti untuk mengatakan bahwa luas lantai mempengaruhi harga rumah
Excel output:
Tolak H0
Coefficients Standard Error t Stat P-valueIntercept 98.24833 58.03348 1.69296 0.12892Luas Lantai 0.10977 0.03297 3.32938 0.01039
Keputusan: P-value < α jadiKesimpulan:
(lanjutan)
Ini adalah uji dua arah, jadi p-valuenya adalahP(t > 3.329)+P(t < -3.329) = 0.01039(db. 8)
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
Ragam Intersep Garis Regresi (b0) Ragam dari intersep garis regresi (b0) diduga
sbb :
2i
2i
2e2
)x(xxss 0 nb
Keterangan:= dugaan simpangan baku intersep garis regresi
= akar KTG = akar Kuadrat Tengah Galat = dugaansimpangan baku sisaan
0bs2n
SSEse
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
Inferensia Intersep Garis Regresi (b0): t TestPada model regresi linier sederhana :Uji t untuk intersep garis regresi populasi (β0) Apakah ada nilai Y yang tidak dapat dijelaskan oleh x?
Hipotesis Nol dan hipotesis tandinganH0: β0 = 0 (semua nilai Y dapat dijelaskan oleh x)H1: β0 0 (ada nilai Y yg tidak dapat dijelaskan oleh x)
Statistik uji0b
00s
βbt 1d.b.
dengan:b0 = intersep garis regresiβ0 = intersep yg dihipotesiskansb0 = dugaan simp. baku intersep
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
Harga Rumah (Rp. Juta)
(y)Luas Lantai
(m2) (x)
245 1400312 1600279 1700308 1875199 1100219 1550405 2350324 2450319 1425255 1700
lantai) (luas 0.1098 98.25rumah harga Dugaan persamaan garis regresi:
Intersep garis pada model ini adalah 98.25Apakah ada harga rumah yang tidak dapat dijelaskan oleh luas lantai?Apakah ada harga rumah yang tidak dipengaruhi oleh luas lantai?
Contoh Inferensia Intersep Garis Regresi (b0): t Test(lanjutan)
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
Contoh Inferensia Intersep Garis Regresi (b0): uji-t
H0: β0 = 0H1: β0 0
Excel output: Coefficients Standard Error t Stat P-value
Intercept 98.24833 58.03348 1.69296 0.12892Luas Lantai 0.10977 0.03297 3.32938 0.01039
0bs
t
b0
1.6929658.03348098.24833
sβbt
0b00
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
Contoh Inferensia Intersep Garis Regresi (b0): uji-t
H0: β0 = 0H1: β0 0
Statistik uji: t = 1.69296
Tidak cukup bukti untuk mengatakan bahwa : ada harga rumah yang tidak dapat dijelaskan oleh luas lantai
Excel output: Coefficients Standard Error t Stat P-value
Intercept 98.24833 58.03348 1.69296 0.12892Luas lantai 0.10977 0.03297 3.32938 0.01039
0bs tb0
Keputusan: Terima H0
Kesimpulan :Tolak H0Tolak H0
a/2=.025
-t1,α/2Terima H00
a/2=.025
-12.706 12.706 1.69296
d.b. = 1t1, .025 = 12,706
(lanjutan)
t1,α/2
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
Uji F bagi parameter regresi :Tabel Sidik Ragam
Sumber Keragaman
Derajat Bebas (db)
Jumlah Kuadrat
(JK)Kuadrat Tengah
(KT)Regresi(b1| b0) 1Sisaan n-2Total (terkoreksi) n-1
n
ii yy
1
2ˆ
n
iii yy
12ˆ
n
ii yy
1
2
1JK Regresi
2nJK sisaan
Statistik uji F tersebut memiliki derajat bebas db1=1 dan db2=n-2Jika Fhit <1 KTRegresi < KTSisaan Ragam Regresi < Ragam Sisaan pengaruh regresi tdk nyata pengaruh x tdk nyata b1 = 0 (tdk perlu tabel)
S2, jika model-nya pas
Statistik uji-nya :
SisaangresRe
hit KTKTF i
SisaanReg
RagamRagam
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
Uji F bagi parameter regresi : Tabel Sidik Ragam
This image cannot currently be displayed.
Jika model yang kita pilih di awal ternyata tidak pas1. Bolehkah kita menggunakan KT sisaan sebagai
penduga bagi ragam sisaan ?2. Masih relevankah kita melakukan uji F ?Agar uji F pada tabel Sidik Ragam dapat digunakan, maka model yang dipilih harus pas. uji lack of fit atau periksa pola sisaannya akan dibahas pada sub pokok bahasan “ Kualitas Fitted Model “ Untuk sementara anggaplah model yang kita pilih pas.
(lanjutan)
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
Excel OutputRegression Statistics
Multiple R 0.76211R Square 0.58082Adjusted R Square 0.52842Standard Error 41.33032Observations 10
ANOVAdf SS MS F Significance F
Regression 1 18934.9348 18934.9348 11.0848 0.01039Residual 8 13665.5652 1708.1957Total 9 32600.5000
Coefficients Standard Error t Stat P-value Lower 95% Upper 95%Intercept 98.24833 58.03348 1.69296 0.12892 -35.57720 232.07386Luas Lantai 0.10977 0.03297 3.32938 0.01039 0.03374 0.18580
11.08481708.195718934.9348
KTGKTRF
Db 1,8 P-value untuk uji-F
Contoh Uji F : data harga rumah
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
H0: β1 = 0H1: β1 ≠ 0
a = .05df1= 1 df2 = 8
Statistik Uji:
Keputusan:
Kesimpulan:Tolak H0 dg a = 0.05
Cukup bukti bahwa luas lantai mempengaruhi harga rumah0
a = .05
F.05 = 5.32 Tolak H0terima H0
11.08F KTGKTR
Nilai kritis: Fa = 5.32
Contoh Uji F : data harga rumah(lanjutan)
F
Itasia & Y Angraini, Dep Statistika FMIPA - IPB
Perbandingan Tabel Sidik Ragam Terkoreksi dan Tidak Terkoreksi
Sumber Keragaman
Derajat Bebas (db) Jumlah Kuadrat (JK)
Kuadrat Tengah (KT)Regresi(b1| b0) 1
Sisaan n - 2Total (terkoreksi) n - 1
n
ii yy
1
2ˆ
n
iii yy
12ˆ
n
ii yy
1
2
1JK Regresi
2nJK sisaan
Regresi 2
Sisaan n - 2
Total n
0:H0:H
1110
0,1j ,0 adamin :H
0:H1
100
j
Tidak bisa mem-berikan jawaban apkh x berpe-ngaruh/tidak 2
iy
i0ii1 ybyxb
n
iii yy
12ˆ 2s
Sudah diku-rangi dg fak-tor koreksi yn
top related