estimasi nonlinier
TRANSCRIPT
Non-Linear Estimation
Sanjoyo[8605000103]
April 2006
Daftar Isi
1 Pendahuluan 11.1 Latar Belakang . . . . . . . . . . . . . . . . . . . . . . . . . . 1
1.2 Perumusan Masalah . . . . . . . . . . . . . . . . . . . . . . . 2
1.3 Tujuan . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3
1.4 Metode Eksperimen . . . . . . . . . . . . . . . . . . . . . . . . 3
2 Teori Pendukung 42.1 Model Statistik Non-Linier . . . . . . . . . . . . . . . . . . . . 4
2.2 Nonlinier Least Square . . . . . . . . . . . . . . . . . . . . . . 5
2.2.1 Iterasi Gause-Newton . . . . . . . . . . . . . . . . . . . 6
2.2.2 Iterasi Newton-Rhapson . . . . . . . . . . . . . . . . . 9
2.2.3 Iterasi Marquardt-Levenberg . . . . . . . . . . . . . . . 11
2.2.4 Metoda Quadratic-Hill Climbing . . . . . . . . . . . . . 11
2.3 Non-Linear Maximum Likelihood . . . . . . . . . . . . . . . . 12
2.3.1 Irerasi Newton-Rhapson . . . . . . . . . . . . . . . . . 14
2.3.2 Metoda Scoring . . . . . . . . . . . . . . . . . . . . . . 15
2.3.3 Iterasi Berndt, Hall, Hall & Hausman (BHHH) . . . . . 16
3 Prosedur Eksperimen 18
4 Hasil dan Analisis 204.1 Input Data . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20
4.2 Hasil dan Analisis . . . . . . . . . . . . . . . . . . . . . . . . 22
4.2.1 Fungsi Produksi Cobb-Douglas . . . . . . . . . . . . . 22
i
DAFTAR ISI ii
4.2.2 Fungsi Produksi CES . . . . . . . . . . . . . . . . . . . 28
4.2.3 Model Terbaik . . . . . . . . . . . . . . . . . . . . . . . 31
5 Kesimpulan 32
Lampiran 34
Bab 1
Pendahuluan
1.1 Latar Belakang
Pada umumnya pendekatan yang digunakan untuk melakukan penaksiran su-
atu parameter dalam model ekonometrik linier adalah memfokuskan fungsi
tujuan (objective function), misalnya meminimumkan sum of squre function
atau memaksimumkan likelihood function terhadap parameter yang tidak
diketahui. Bila diberikan suatu sample data set, penaksiran parameter da-
pat dilakukan berdasarkan nilai optimal objective function. Problem optimasi
tersebut diselesaikan dengan first order condition sehingga diperoleh hasil pe-
naksiran parameter dalam model linier. Proses perhitungan tersebut memu-
dahkan bagi para econometrician untuk melakukan penaksiran parameter
model linier suatu keterkaitan hubungan funsional aspeka-spek perekono-
mian. Pendekatan model linier untuk mengambarkan hubungan variabel
ekonomi dapat diterima dengan alasan bahwa: (a) pada umumnya realitas
situasi perekonomian dapat dilakukan pendekatan secara linier; (b) banyak
model nonlinier dapat ditarnformasikan dalam bentuk linier.
Namun demikian, kondisi linieritas tidak selalu dapat diaplikasikan se-
hingga spesifikasi nonlinier tidak dapat dihindarkan. Misalkan bila kita akan
melakukan penaksikan fungsi produksi Cobb-Douglas atau CES dari suatu
data sample yang tersedia, maka tidak dapat dihindarkan dilakukan den-
gan pendekatan model nonlinier. Misalkan fungsi produksi Cobb-Douglass
1
BAB 1. PENDAHULUAN 2
(CD), Yi = β1Xβ22i X
β33i e
ui dimana Y = output, X2 = input tenaga kerja, dan
X3 = input kapital. Persamaan Cobb-Duglas dapat ditulis dalam bentuk
linier, lnYi = α + β2 lnX2i + β3 lnX3i + ui,dimana α = lnβ1. Selanjutnya
bila format CD adalah Yi = β1Xβ22i X
β33i + ui , maka bentuk tersebut tidak
memungkinkan parameternya ditransformasikan dalam bentuk linier. Con-
toh lain adalah fungsi produksi constant elasticity of substitution (CES),
Yi = A[δK−βi + (1 − α)L−βi ]
−1/β, dimana Y =output, A =skala parameter,
K =input kapital, L = input tenaga kerja, δ = parameter distribusi (0 <
δ < 1) dan β = substitusi parameter (β ≥ −1). Dalam fungsi produksi
CES tersebut, walaupun dimasukkan stochastic error term ui dalam bentuk
apapun ke dalam fungsi produksi tersebut, parameternya tetap tidak dapat
ditransformasikan ke dalam bentuk linier. Dengan perkataan lain, harus
didekati dengan non-linier model.
Selanjutanya dalam paper akan melaporkan hasil ekperimen model non-
linier untuk menaksir fungsi produksi Cobb-Douglas dan CES dengan mengu-
nakan metoda Nonlinier Least Square dan Non-Linier Maksimum Likelihood.
1.2 Perumusan Masalah
Sesuai dengan panduan tugas yang diberikan, pada ekperimen ini dapat diru-
muskan beberapa masalah sebagai berikut:
1. Data yang tersedia adalah tentang produksi suatu komoditi (Y), input
labor (L) dan kapital (L) yang berdimensi 30x3. Dengan data tersedia
tersebut bagaimana fungsi produksi yang paling sesuai antara fungsi
produksi Cobb Dauglas atau CES? untuk memilih fungsi produksi yang
paling cocok akan digunakan pertimbangan Akaike information Criteria
(AIC) dan Schwart Criteria (SC).
2. Dengan menggunakan dua metoda penaksiran parameter yaitu Non-
linier Least Square Estimation dan Maximum Likelihood Estimation,
bagaimana perbandingan hasil estimasi tersebut?
BAB 1. PENDAHULUAN 3
3. Bila dilakukan perubahan pada initial value dari parameter dalam
menentukan titik optimum, perubahan panjang step dari parameter
dan perubahan jumlah iterasi bagaimana perbandingan estimasi kedua
metoda penaksiran tersebut?
1.3 Tujuan
Tujuan eksperimen ini adalah:
1. Menentukan fungsi produksi yang sesuai dengan input data yang diberikan.
2. Membandingkan aplikasi variasi metode iterasi (Gauss-Newton Algo-
rithm dan Marquardt-levenberg) dalam menentukan titik optimum.
3. Mengamati pengaruh perubahan nilai awal parameter, panjang langkah
dan jumlah iterasi dalam proses menentukan titik optimum
4. Mengamati penerapan metode least squares rule dan maximum likeli-
hood dalam penaksiran bentuk non-linier.
1.4 Metode Eksperimen
Metode yang akan digunakan pada eksperimen ini adalah metode literatur
dengan menggunakan data-data eksperimental. Data yang diberikan adalah
berupa matriks berdimensi 30x3, yang diaplikasikan kedalam dua fungsi pro-
duksi yaitu fungsi produksi CD dan fungsi produksi CES. Adapun estimasi
non linier dilakukan melalui percobaan simulasi Montecarlo dengan program
MATLAB versi 7.0.1. dan beberapa formula model-model penaksiran dengan
variasi iterasi. Hasil eksperimen tersebut, kemudian akan dianalisa apakah
memenuhi kondisi seperti yang telah dinyatakan dalam literatur dan teori.
Bab 2
Teori Pendukung
2.1 Model Statistik Non-Linier
Walaupun pada umumnya realitas situasi perekonomian dapat dilakukan
pendekatan secara linier atau ditranformasikan dalam bentuk linier, Namun
demikian, banyak juga model non linier yang tidak bisa ditangani oleh model
linier, oleh karena itu diperlukan model non linier dalam pemecahannya.
Tidak berbeda dengan model linier, estimasi model non linier didasarkan
pada minimisasi atau maksimisasi fungsi objektif. Berdasarkan teori, terda-
pat dua jenis fungsi objektif, yaitu the sum squared errors dan the likelihood
function. Namun demikian, berbeda dengan model linier, dalam memec-
ahkan parameter model non-linier adalah merupakan tugas yang sulit. Hal
ini disebabkan banyaknya pertimbangan yang harus dilibatkan dalam proses
menentukan titik optimum secara statis (static optimization). Pertimbangan-
pertimbangan tersebut yaitu perlu atau tidaknya pembatas observasi (con-
straint) yang akan mendefinisikan letak titik optimum dan sufficient con-
ditions untuk local atau global minimum. Penaksiran terhadap parameter
model non-linear akan menghasilkan nilai yang berbeda untuk penaksir yang
sama karena error random-nya mempunyai power function. Oleh karena itu,
berbeda dengan least square rule pada model linear, penaksir atau estimator
pada least square rule yang diterapkan padamodel non-linear ditentukan den-
gan melakukan suatu prosedur atau algoritma yang dapat menjamin bahwa
4
BAB 2. TEORI PENDUKUNG 5
penaksir tersebut secara nyata memenuhi kriteria dari fungsi tujuan, yaitu
memberikan the sum of squares error pada titik yang paling minimum atau
memberikan titik maksimum pada likelihood function.
Dengan perkataan lain, dalam penentuan penaksir pada model non-linear
diperlukan pengetahuan mengenai static optimization theory. Berdasarkan
teori, untuk menentukan titik optimum yang diyakini sebagai solusi dalam
penentuan penaksir model non-linear akan digunakan operasi first dan second
derivative test. First derivative test digunakan dalam prosedur iterasi seba-
gaimana diterapkan dalam Gauss-Newton Algorithm, Marquardt-Levenberg
Iterative Model, sedangkan second derivative test digunakan dalam prose-
dur iterasi Newton-Rhapson Algorithm dan Quadratic-Hill Climbing Model.
Sementara itu, dalam penaksiran maximum likelihood akan digunakan pen-
dekatan Berndt, Hall, Hall and Hausman algorithm yang menggunakan op-
erasi second derivative test pada prosedur iterasinya.
2.2 Nonlinier Least Square
Secara umum model Nonlinier adalah sebagai berikut:
y = f(X, β) + e, (2.1)
dimana y = (y1, y2, ..., yT )0, f(X,β) = [f(x1, β), f(x2, β), ..., f(xT , β)]
0,
X = (x01, x02, ..., x
0T )0,adalah vektor dari independent variabel, dan e = (e1, e2, ..., eT )0
adalah random error (independent identical distributed serta distibusinya
tidak diketahui), maka untuk menaksir parameter yang tidak diketahui diper-
oleh melalui optimasi objective function. Dengan spesifikasi tersebut dapat
digunakan least square estimation, yaitu residual sum of squares function
adalah:
S = e0e = [y − f(X,β)]0[y − f(X,β)] (2.2)
dengan meminimumkan objective function S tersebut maka akan dikakukan
penaksiran parameter β. First order condition atau normal equation untuk
nilai minimum objective function adalah:
BAB 2. TEORI PENDUKUNG 6
∂S
∂β= −2
∙∂f(X,β)0
∂β
¸[y − f(X, β)] = 0 (2.3)
dimana ∂f(X,β)0/∂β adalah matrik derivatif (KxT) dengan (k x t) elemen
yaitu ∂f(xt, β)/∂βk. Bila fungsi f(X,β) adalah non-linier dalam arti kata
koefisiennya, maka menaksir nilai β yang meminimumkan objective function
tidak dapat diperoleh secara langsung sebagaimana dalam model yang linier.
Dengan perkataan lain, yang dimaksud dengan penaksiran β dari model non
linier adalah mencari solusi dari persamaan [2.3] yang memberikan global
minimum dari persamaan [2.2]. Seperti yang telah dijelaskan sebelumnya,
maka akan digunakan pendekatan prosedur iterasi sebagaimana diterapkan
dalamGauss-Newton Algorithm, Marquardt-Levenberg Iterative Model untuk
first derivative test. Sedangkan second derivative test digunakan dalam prose-
dur iterasi Newton-Rhapson Algorithm dan Quadratic-Hill Climbing Model.
2.2.1 Iterasi Gause-Newton
Bila kita misalkan Z(β) adalah transpose matrik ∂f(X, β)0/∂β yaitu:
Z(β) =∂f(X,β)
∂β0=
⎡⎢⎢⎣∂f(x1,β)
∂β1· · · ∂f(x1,β)
∂βK...
. . ....
∂f(xT ,β)∂β1
· · · ∂f(xT ,β)∂βK
⎤⎥⎥⎦ (2.4)
Bila matrik derivatif tersebut mengevalusi untuk nilai tertentu misalnya β1dapat ditulis dengan Z(β1). Dengan menggunakan persamaan (2.4) ,maka
first order condition untuk meminimumkan objective function dapat ditulis
sebagai berikut:
Z(β)0[y − f(X,β)] = 0 (2.5)
Salah satu metode algoritma untuk menentukan step pada penaksiran non-
linear least squares menuju titik global minimum dikembangkan oleh Gauss
dan Newton dan dikenal sebagai Gauss-Newton Algorithm atau Iteration.
Pada iterasi ini mula-mula fungsi f(xt, β) diaproksimasi dengan first order
Taylor Series disekitar initial value β(1).
BAB 2. TEORI PENDUKUNG 7
f(xt, β) = f(xt, β(1)) +
∂f(xt, β)
∂β0|β(1) (β − β(1)) (2.6)
Jika β(1) adalah initial value maka:
z(β(1)) =∂f(xt, β)
∂β0|β = β(1) (2.7)
Jadi persamaan (2.7)menjadi:
f(xt, β) = f(xt, β(1)) + z(β(1)) · β − z(β(1)) · β(1)
Sehingga;
f(xt, β) = f(xt, β(1)) + z(β(1)) · β − z(β(1)) · β(1) + e
dan menjadi:
y(β(1)) = z(β(1))β + e (2.8)
persamaan [2.8 ]adalah Pseudo Linier Model. Jika dari model tersebut
ditaksir β dengan OLS maka akan diperoleh β(2) adalah:
β(2) = [z(β(1))0z(β(1))]−1z(β(1))0y³β(1)
´maka;
β(2) = [z(β(1))0z(β(1))]−1z(β(1))0hy − f
³x, β(1)
´+ z(β(1))β(1)
i= β(1) + [z(β(1))0z(β(1))]−1z(β(1))0(yt − f(xt, β
(1))
Jika β(2) digunakan sebagai aproksimasi f (x, β) seperti di (2.6) dan akhirnya
akan didapat β(3) :
β(3) = β(2) + [z(β(2))0z(β(2))]−1z(β(2))0(yt − f(xt, β(2))
dan seterusnya, sehingga secara umum didapat sebagai berikut:
β(n+1) = β(n) + [z(β(n))0z(β(n))]−1z(β(n))0(yt − f(xt, β(n)) (2.9)
BAB 2. TEORI PENDUKUNG 8
Secara umum iterasi Gauss-Newton dapat dinyatakan dengan
β(n+1) = β(n) − 12
hZ(β(n))0Z(β(n))
i−1Ã ∂S
∂β
¯̄̄̄β(n)
!(2.10)
Bila β(n+1) = β(n) maka iterasi disebut konvergen. Maka akan diperoleh
z(β(n))0(yt − f(xt, β(n)) = 0 atau
∂f(xt, β)
∂β0|β(n) (y − f(xt, β
(n)) = 0, yang
merupakan pemenuhan persyaratan first order condition. Pada prakteknya
β(n+1) = β(n) terlalu ideal. Biasanya digunakan kriteria konvergen sebagai
berikut:
Norm(β(n+1) − β(n)) =°°°β(n+1) − β(n)
°°° < ε (2.11)
Misalnya ε = 10−9
°°°β(n+1) − β(n)°°° =r³β(n+1)1 − β
(n)1
´2+³β(n+1)2 − β
(n)2
´2+ ...+
³β(n+1)n − β(n)n
´2(2.12)
β(n+1) = β(n) − 12
∙Z³β(n)
´0Zβ(n)
¸−1Ã∂s
∂β
¯̄̄̄β(N)
!(2.13)
β(n+1) = β(n) − tn · Pγ·n (2.14)
tn = step length
P = Positive definite matrix
γn = Gradient dari objective function
Pada metode ini masih terdapat kelemahan, yaitu perubahan nilai per-
mulaan mungkin akan mengarahkan pada titik minimum tetapi tidak dapat
menjamin keyakinan sebagai lokal atau global minimum. Dengan mengubah-
ubah nilai permulaan dari parameter dan dihasilkan konvergensi pada titik
yang sama pada setiap waktu, maka dapat dikatakan bahwa kita memperoleh
kesempatan untuk mengasumsikan bahwa operasi iterasi mencapai global
BAB 2. TEORI PENDUKUNG 9
minimum. Setiap langkah (step) di mana nilai awal parameter diubah dan
menyebabkan penurunan pada the sum of squares error, S (β), disebut se-
bagai iterasi (Iteration).Namun demikian, dengan mengubah nilai awal pa-
rameter tetapi konvergensi terjadi pada titik yang berbeda, maka kita harus
memilih nilai terendah dari sekian banyak sum of squares error yang diper-
oleh dan selanjutnya kita harus mengidentifikasi nilai tersebut pada titik
yang bukan local minimum.
Permasalahan lain adalah kemungkinan tidak terjadi konvergensi
karena bentuk fungsi dari sum of squares sulit mencapai titik minimum. Pada
kondisi seperti ini, nilai permulaan harus diubah-ubah atau mencobanya den-
gan menggunakan prosedur yang lain.
2.2.2 Iterasi Newton-Rhapson
Sebagaimana model non-linier pada persamaan [2.1] dan fungsi objektif
meminimumkan persamaan [2.2], pada iterasi ini mula-mula fungsi objektif
S(β) akan diapproksimasi dengan second order Taylor series disekitar initial
value β(1).
S(β) ' S(β(1))+∂S
∂β0|β(1)(β − β(1))+
1
2(β − β(1))0
∂2S
∂β∂β0|β(1)(β − β(1)) (2.15)
Turunan pertama dari persamaan tersebut adalah sebagai berikut:
∂S(β)
∂β= 0 +
µ∂S(β)
∂β0|β(1)
¶0+
∂2S
∂β∂β0|β(1) (β − β(1)) = 0 (2.16)
Persamaan menurut β(2) secara implisit adalah:
∂S
∂β|β(1) +
∂2S
∂β∂β0|β(1) (β(2) − β(1)) = 0 (2.17)
∂2S
∂β∂β0|β(1) (β(2) − β(1)) = −∂S
∂β|β(1)
BAB 2. TEORI PENDUKUNG 10
(β(2) − β(1)) = −µ
∂2S
∂β∂β0|β(1)
¶−1∂S
∂β|β(1)
β(2) = β(1) −µ
∂2S
∂β∂β0|β(1)
¶−1∂S
∂β|β(1)
Bila pada persamaan [2.16], β(2) menggantikan β(1) maka akan diperoleh
β(3) dan seterusnya. Sehingga persamaan umumnya dapat dituliskan sebagai
berikut:
β(n+1) = β(n) −µ
∂2S
∂β∂β0|β(n)
¶−1∂S
∂β|β(n) (2.18)
Persamaan [2.18] inilah yang disebut dengan Newton-Raphson Iteration.
Jika iterasi sudah konvergen, yaitu β(n+1) = β(n) maka dari persamaan [2.18]
dapat disimpulkan∂S
∂β|β(n) = 0, dimana memenuhi persyaratan first order
condition di persamaan [2.17].
Algoritma pada Newton-Rhapson akan menuntun pada arah yang
benar (menuju ke titik minimum) dari posisi nilai permulaan parameter βnjika turunan kedua S (βn) positif. Oleh karena S (βn) akan selalu positif
pada kondisi di sekitar titik minimum, maka algoritma akan menuju pada
arah yang benar jika βn cukup dekat dengan nilai minimumnya. Namun
ada kemungkinan akan berjalan melampaui titik minimumnya, sehingga un-
tuk menghindari ini terlampau jauh, variabel panjang langkah tn digunakan
dalam algoritma. Pada setiap proses iterasi tn akan diperoleh apabila S¡βn+1
¢<
S (βn) . Sesuai dengan hal ini, apabila kita melangkah dari titik β1 yang dekat
dengan suatu titik minimum dimana pn menjadi negatif, maka tanpa mema-
sukkan variabel panjang langkah tn , akan mengarahkan pada arah yang
salah, yaitu justru pada titik maksimum.
Perhatikan pada persamaan [2.10] di Gauss Newton Iteration dan
persamaan [2.18] di Newton-Raphson Iteration akan memperoleh penaksir β
yang dapat dituliskan sebagai bentuk berikut:
β(n+1) = β(n) − t.Pnγn (2.19)
dimana t adalah skalar, Pn adalah matriks simetris dan γnadalah gradient
dari fungsi objektif.Sehingga persamaan [2.10] dari Gauss Newton Iteration
BAB 2. TEORI PENDUKUNG 11
sebagai berikut:
β(n+1) = β(n) − 12[z(β(n))0z(β(n))]−1
∂S
∂β|β(n)
tn =1
2Pn = [z(β
(n))0z(β(n))]−1
γn =∂S
∂β|β(n)
Sedangkan persamaan [2.18] dari Newton-Raphson Iteration dapat dit-
uliskan sebagai bentuk berikut:
β(n+1) = β(n) −µ
∂2S
∂β∂β0|β(n)
¶−1∂S
∂β|β(n)
tn = 1
Pn =
µ∂2S
∂β∂β0|β(n)
¶−1γn =
∂S
∂β|β(n)
2.2.3 Iterasi Marquardt-Levenberg
Metode Marquardt-Levenberg mengaplikasikan metode iterasi seperti
halnya Gauss-Newton Method, yaitu menggunakan FOC dari persamaan
Sum of Least Square Error, bedanya dengan menambahkan perkalian skalar
dan Identity Matrix,λIK , serta bebas dalam menentukan panjang langkah-
nya, tn.
βn+1 = βn − tn¡z (βn)
0 z (βn) + λnIK¢−1 dS (β)
dβ|βn
t = bebas
Pn =¡z (βn)
0 z (βn) + λnIK¢−1
γn =∂S
∂β|β(n)
2.2.4 Metoda Quadratic-Hill Climbing
Metode ini sama seperti Newton-Rhapson Iteration, yaitu menggunakan
SOC dari persamaan Sum of Least Square Error, perbedaannya terletak
pada penambahan perkalian antara skalar dan Identity Matrix, serta pan-
jang langkahnya bernilai sembarang.
BAB 2. TEORI PENDUKUNG 12
βn+1 = βn −µ∂2S (β)
∂β∂β0|βn + λnIK
¶−1dS (β)
dβ|βn
t = bebas
Pn =
µ∂2S (β)
∂β∂β0|βn + λnIK
¶−1γn =
∂S
∂β|β(n)
2.3 Non-Linear Maximum Likelihood
Model umum pada estimasi maximum likelihood adalah:
y = f (X,β) + ε (2.20)
di mana ε ∼ N (0, σ2I) . Fungsi likelihood dari model (2.20) dinyatakan se-
bagai berikut:
f¡y|xt, β, σ2
¢=
1
2πσe−12
³yt−f(xt,β)
σ
´2(2.21)
Persamaan (2.21) dapat dituliskan kembali menjadi persamaan berikut:
l¡β, σ2
¢=¡2πσ2
¢− 12 exp− 1
2σ2¡yt − f (xt − β)2
¢(2.22)
Operasi matematika selanjutnya untuk menguraikan persamaan (2.21)
dinyatakan sebagai berikut:R∞−∞ f (yt|xt, β, σ2) dyt = 1∂∂β
R∞−∞ f (yt|xt, β, σ2) dyt = 0R∞
−∞∂∂βf (yt|xt, β, σ2) = 0R∞
−∞
∂∂β
f(yt|xt,β,σ2)f(yt|xt,β,σ2) .f (yt|xt, β, σ2) dyt = 0R∞
−∞∂ ln f(yt|xt,β,σ2)
∂β.f (yt|xt, β, σ2) dyt = 0
Lt = lnLt (β, σ2) = ln f (yt|xt, β, σ2)R∞
−∞∂Lt∂β
.f (yt|xt, β, σ2) dyt = E³∂Lt∂β
´= 0
∂∂β0
hR∞−∞
∂Lt∂β
.f (yt|xt, β, σ2) dyti= 0R∞
−∞∂2Lt∂β∂β0 .f (yt|xt, β, σ2) dyt +
R∞−∞
∂Lt∂β
.∂Lt∂β0 f (yt|xt, β, σ2) dyt = 0
BAB 2. TEORI PENDUKUNG 13
Eh∂2Lt∂β∂β0
i+E
h∂Lt∂β
.∂Lt∂β0
i= 0
Eh∂2Lt∂β∂β0
i= −E
h∂Lt∂β
.∂Lt∂β0
iHasil operasi tersebut di atas akan digunakan untuk menjelaskan al-
goritma iterasi pada fungsi likelihood. Pada operasi dengan model berbentuk
matriks, persamaan (2.21) dituliskan sebagai berikut:
f¡y|β, σ2
¢=
¡2πσ2
¢−T2 exp
(− 1
2σ2
TXt=1
(yt − x0tβ)2
)(2.23)
=¡2πσ2
¢−T2 exp
½− 1
2σ2(yt − xtβ)
0 (yt − xtβ)
¾
dan log-likelihoodnya adalah:
L = log l (β, σ2|y, x)= −T2log 2π−T
2log σ2− 1
2σ2(y − xβ)0 (y − xβ)
L = log l (β, σ2|y, x)= −T2log 2π−T
2log σ2− 1
2σ2
TPt=1
(yt − x0tβ)2
disederhanakan menjadi:
L =TXt=1
Lt (2.24)
Untukmemenuhi kondisi optimum, maka fungsi log lokelihood diturunkan
terhadap variansinya, sehingga diperoleh estimator varian sebagai berikut:∂L∂σ2
= −T21σ2+ 1
21σ4
TPt=1
(yt − x0tβ)2 = 0
bσ2 = 1T
TPt=1
(yt − x0tβ)2 = 1
T(yt − xtβ)
0 (yt − xtβ)
Varian estimator disubstitusikan ke dalam persamaan (2.24), sehingga
dinyatakan kembali:
L = −T2log 2π − T
2log
∙1T
TPt=1
(yt − x0tβ)
¸− 1
2T
TPt=1
(yt−x0tβ)2
TPt=1
(yt − x0tβ)2
dan diperoleh persamaan log likelihood yang akan digunakan untuk menaksir
parameter
BAB 2. TEORI PENDUKUNG 14
L = −T2log 2π − T
2log (y − xβ)0 (y − xβ) /T − T
2(2.25)
Terlihat pada persamaan (2.25) jika dikatakan bahwa S (β) = (y − xβ)0 (y − xβ),
maximum likelihood estimator eβ yang memaksimumkan L∗ (β|y,X) ternyataidentik dengan estimator pada non-linear least square yang meminimumkan
S (β) .Tetapi kesamaan ini bukan merupakan hasil umum yang berlaku untuk
semua model non-linear. Kondisi ini hanya berlaku jika modelnya berbentuk
(2.20). Tiga algoritma yang digunakan pada penaksiran model non-linear
untuk memperoleh maximum likelihood, yaitu Newton Rhapson, Method of
Scoring dan Berndt, Hall,Hall & Hausman (BHHH).
2.3.1 Irerasi Newton-Rhapson
Pada iterasi ini fungsi objektif L(β) diapproksimasi dengan second or-
der Taylor series disekitar initial value (β(1)). Secara umum metode ini
melakukan aproksimasi dengan Taylor order kedua untuk likelihood di sekitar
nilai parameter permulaan, yaitu:
L (β)= L|β(1)+∂L
∂β0|β(1)
³β − β(1)
´+1
2
³β − β(1)
´0 ∂2L
∂β∂β0|β(1)
³β − β(1)
´(2.26)
Untukmemperoleh kondisi optimum, fungsi tersebut diturunkan terhadap
parameter β dengan operasi sebagai berikut:
∂L
∂β=
∙∂L
∂β0|β(1)
¸0+
∂2L
∂β∂β0|β(1).
³β − β(1)
´= 0 (2.27)
Dari [2.26] dan [2.27] secara implisit maka dapat ditaksir β(2)
∂L
∂β=
∙∂L
∂β0|β(1)
¸0+
∂2L
∂β∂β0|β(1) .
³β(2) − β(1)
´= 0
β(2) = β(1) −µ
∂2L
∂β∂β0|β(1)
¶−1 ∙∂L
∂β|β(1)
¸Bentuk umumnya menjadi:
BAB 2. TEORI PENDUKUNG 15
β(n+1) = β(n) −∙
∂2L
∂β∂β0|β(n)
¸−1∂L
∂β|β(n) (2.28)
β(n+1) = β(n) −∙
∂2L
∂β∂β0|β(n)
¸−1∂L
∂β|β(n)
di mana,
tn = 1
pn =
∙∂2L
∂β∂β0|β(n)
¸−1γn =
∂L
∂β|βn.
Bila iterasi sudah konvergen β(n+1) = β(n), maka dipenuhilah first order
condition.
2.3.2 Metoda Scoring
Dengan metode Newton-Rhapson, algoritma iterasi, pn dinyatakan den-
gan∂2L
∂β∂β0|βn dan panjang langkah tn = 1. Sementara pada metode scoring,
algoritma iterasi digunakan nilai ekspektasi SOC dari fungsi likelihood yang
diperoleh melalui operasi matematika sebelumnya, sehingga algoritmanya di-
nyatakan sebagai berikut:
βn+1 = βn + 1
∙E
µ∂2Lt
∂β∂β0|βn¶¸−1
∂L
∂β|βn (2.29)
βn+1 = βn + 1
∙E
µ∂2Lt
∂β∂β0|βn¶¸−1
∂L
∂β|βn
di mana,
tn = 1
pn = −E∙∂2Lt
∂β∂β0|βn¸
γn =∂L
∂β|βn.
BAB 2. TEORI PENDUKUNG 16
2.3.3 Iterasi Berndt, Hall, Hall & Hausman (BHHH)
Metode ini mengeksploitasi algoritma iterasi dari method of scoring,
namun dalam BHHH iteration ditambahkan dengan the law of large number
dan information matrix equilibrium. Diketahu pn dari method of scoring
adalah sebagai berikut:
pn =
∙−E ∂2Lt
∂β∂β0|βn¸−1
=
⎡⎢⎢⎣−E⎛⎜⎜⎝∂2
TPt=1
Lt
∂β∂β0|βn
⎞⎟⎟⎠⎤⎥⎥⎦−1
=
∙−E
µTPt=1
∂2Lt
∂β∂β0|βn¶¸−1
Selanjutnya,
pn =
∙−
TPt=1
E∂2Lt
∂β∂β0|βn¸−1
=h−T.E
³∂2Lt∂β∂β0 |βn
´i−1=
∙−T. 1
T.TPt=1
∂2Lt∂β∂β0 |βn
¸−1Akhirnya diperoleh
pn =
"−
TXt=1
∂2Lt
∂β∂β0|βn
#−1
=
"−
TXt=1
∂Lt
∂β
∂Lt
∂β0|βn
#−1
Bentuk umum dari BHHH method dinyatakan dengan menggunakan al-
goritma iterasi sebagai berikut::
βn+1 = βn + 1.
"−
TXt=1
∂Lt
∂β
∂Lt
∂β0|βn
#−1∂L
∂β|βn
BAB 2. TEORI PENDUKUNG 17
atau
βn+1 = βn +
"TXt=1
∂Lt
∂β
∂Lt
∂β0|βn
#−1∂L
∂β|βn (2.30)
= βn +£z∗ (βn)0 z∗ (βn)
¤−1 ∂L∂β|βn
Dengan menambahkan perkalian antara skalar dan matrik identitas pada
algoritma iterasinya, akan diperoleh metode yang sama dengan Quadratic-
Hill Climbing pada penaksiran non-linear least square.
βn+1 = βn +
"TXt=1
∂Lt
∂β
∂Lt
∂β0|βn + λIK
#−1∂L
∂β|βn (2.31)
Bab 3
Prosedur Eksperimen
Prosedure eksperimen yang dilakukan adalah sebagai berikut:
1. Pembahasan identifikasi non-linearity pada model dan pendekatan op-
timasi untuk menentukan kondisi optimum. Dari hasil pembahasan
ini kemudian dikembangkan ke dalam metode-metode yang digunakan
dalam penaksiran estimator pada model non-linear. Hal ini perlu untuk
mengetahui perbedaan dari metode yang digunakan dan konsekuensi
yang akan dihasilkan dari metode-metode yang berbeda.
2. Memasukkan data berupa matriks 30x3 untuk masing-masing variabel
pada kedua model produksi dalam bentuk umum matriks, y = output;
L = input tenaga kerja dan K = input kapital.
3. Membangun matriks parameter berdimensi 3x1 untuk CD dan 4x1 un-
tuk CES, serta menentukan nilai permulaan dari parameter tersebut
untuk proses iterasi.
4. Membentuk model Least Square Error dan Maximum Likelihood seba-
gai fungsi obyektif dengan menggunakan matriks variabel dan matriks
parameter. Dari sini akan diperoleh persamaan, S (β) yang akan di-
tentukan kondisi optimal dengan first order condition.
5. Membangun operasi optimasi FOC (Gauss-Newton) dengan menggu-
nakan metode Least Square Error dan Maximum Likelihood (Berndt,
18
BAB 3. PROSEDUR EKSPERIMEN 19
Hall, Hall, dan Hausman) pada model CD dan CES.
6. Membangun persamaan yang menentukan nilai parameter berikutnya,
yaitu:
βn+1 = βn − tn.pn.γn
Apabila iterasi menunjukkan kondisi konvergen, maka nilai parameter
berikutnya akan sama dengan nilai parameter sebelumnya, sehingga
dianggap sebagai kondisi optimum.
7. Menjalankan proses iterasi dengan memasukkan nilai permulaan pa-
rameter pada persamaan 6, sehingga akan diperoleh nilai parameter
berikutnya. Mengulang-ulang proses ini hingga diperoleh nilai param-
eter dari proses iterasi yang sudah konvergen.
8. Mengubah nilai permulaan βn dari parameter dan panjang langkah tn
untuk melihat apakah kondisi optimum akan berubah.
9. Memasukkan pendekatanMarquardt-Levenberg padametode Least Square
Error dan pendekatan Quadratic Hill Climbing pada metodeMaximum
Likelihood sebagai variasi. Hasil dari penggunaan kedua pendekatan
tersebut dibandingkan dengan pendekatan Gauss-Newton pada Least
Squares dan pendekatan BHHH pada Maximum Likelihood.
10. Membangun persamaanAkaike Information Criteria (AIC) dan Schwart
Criteria (SC) untuk menentukan model yang paling sesuai atau efisien
untuk masing-masing pendekatan. Perhitungan AIC dan SC akan
menggunakan rumus berikut ini:
AIC = −2 log(max imum likelihood) + 2(#parameters)
SC = −2 log(max imum likelihood) + (log(T ))(#parameters)
Bab 4
Hasil dan Analisis
4.1 Input Data
Berdasarkan panduan tugas yang telah diberikan dikelas, eksperimen
ini akan menggunakan data produksi suatu komoditi (y) dengan input yang
digunakan adalah kapital (K) dan tenaga kerja (L). Sesuai dengan teori
pendukung yang telah dijabarkan dalam Bab 2, model statistik non-linier
berbentuk: y = f(x, β) + e. Data matriks di atas akan diuji dalam fungsi
produksi Cobb Douglas (CD) dan Constant Elasticity of Substitution (CES).
Baik untuk fungsi Cobb-Dauglas maupun CES, dimana e ∼ N(0, σ2IT ).
Fungsi produksi CD adalah sebagai berikut:
y = β1Lβ2Kβ3
sedangkan untuk fungsi CES dalam bentuk berikut:
y = β1[β2Lβ3 + (1− β2)K
β3]β4/β3
Data masing-masing variabel L,K dan y diberikan dalam bentuk matriks
yang berukuran 30x3, sebagai berikut:
20
BAB 4. HASIL DAN ANALISIS 21
LKy =
⎛⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎝
5.4293 6.6871 8.1879
5.5530 5.5175 7.4104
6.7105 6.6477 8.9496
6.6425 6.2364 8.3695
6.2046 6.6307 8.5519
6.1883 6.0521 8.3299
6.5191 6.1137 8.4877
6.6174 6.7056 9.1260
6.5889 6.7393 8.7961
6.5439 6.8648 8.7941
6.1269 4.4308 6.8657
6.8886 3.0445 5.7132
6.6931 5.6870 8.1641
6.0615 5.6240 7.9482
5.4424 6.3026 8.1264
6.4983 4.8598 7.2432
6.4473 2.8332 5.2521
4.0775 6.8090 7.7220
6.6983 5.4072 8.0002
6.6307 4.9767 7.3157
3.9120 5.0814 5.9833
6.7130 1.7918 4.4132
6.1800 6.7286 8.7229
6.5250 6.2558 8.6233
4.7536 6.8352 7.8589
6.0868 6.2046 8.0981
6.1225 5.2204 7.5533
5.8348 4.5218 6.8249
5.8805 6.1841 8.2967
5.0876 6.8395 8.1922
⎞⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎠L = LKy(:, 1);
K = LKy(:, 2);
BAB 4. HASIL DAN ANALISIS 22
y = LKy(:, 3);
x = LKy(:, 1 : 2);
Data tersebut dengan replikasinya dimasukan kedalammasing-masing
fungsi produksi untuk mengestimasi β dengan menggunakan iterasi algo-
ritma. Untuk mengestimasi parameter dengan Nonlinier Least Square, rep-
likasi kedua fungsi produksi CD dan CES digunakan melalui dua metoda,
Gause-Newton dan Marquardt- Levenberg. Dalam suatu proses iterasi akan
dibuat simulasi dengan perubahan nilai awal parameter serta perubahan pan-
jang langkah. Demikian pula, untuk mengestimasi parameter dengan max-
imum likelihood dilakukan dengan proses iterasi yang sama yaitu metoda
BHHH dan Quadratic-Hill Climbing.
Selanjutnya, akan ditentukan fungsi produksi mana yang paling co-
cok dalam merepresentasikan data dengan menghitung dan membandingkan
Akaike Criteria Information dan Schwart Criteria dari masing-masing fungsi
produksi tersebut.
4.2 Hasil dan Analisis
4.2.1 Fungsi Produksi Cobb-Douglas
Non-Linear Least Square
Untuk melakukan estimasi parameter β dengan mengunakan non-linear
least square, akan digunakan proses optimisasi dengan fungsi objektifnya
adalah meminimumkan sum of square error (least square error). Untuk itu,
digunakan iterasi Gauss Newton dan Iterasi Marquandt-Levenberg, sebagai
pembanding untuk menaksir parameter yang memenuhi fungsi objektifnya.
Hasil eksperimen-eksperimen disajikan dalam tabel-tabel berikut ini:
Tabel 1. Hasil Iterasi Gauss Newton untuk Fungsi Produksi Cobb-Douglas
BAB 4. HASIL DAN ANALISIS 23
Initial Value tn Optimal Value
β1 1 1 1.4781
β2 1 1 0.3741
β3 1 1 0.5725
S (β) 0.5443
Jumlah Iterasi 9
AIC 33.8285
SC 38.0321
Tabel 1 di atas, dengan menggunakan Iterasi Gauss Newton diper-
oleh nilai optimum pada iterasi ke 9. Adapun nilai awal parameter yang
diberikan adalah β1 = 1, β2 = 1, β3 = 1. Sedangkan panjang langkah tidak
berubah atau sama dengan 1, karena konstanta pengali dari Gauss Newton
adalah 1/2. Selanjutnya akan ditunjukkan juga jika nilai awal parameter
yang diubah-ubah, yang akan disajikan pada Tabel 2.
Tabel 2. Hasil Iterasi Gauss Newton dengan Fungsi Produksi Cobb-Douglas
(perubahan initial value)Initial Value tn Optimal Value S (β) Jumlah AIC SC
β1 β2 β3 bβ1 bβ2 bβ3 Iterasi
0.5 0.5 0.5 1 1.4781 0.3741 0.5725 0.5443 8 33.8285 38.0321
0.3 0.3 0.3 1 1.4781 0.3741 0.5725 0.5443 13 33.8285 38.0321
0.7 0.7 0.7 1 1.4781 0.3741 0.5725 0.5443 7 33.8285 38.0321
0.2 0.2 0.2 1 0 -0.0148 -0.0004 1.8301 132 41.9488 46.1524
Jika kita melakukan perubahan nilai awal parameter maka jumlah
iterasi juga akan berubah (lihat Tabel 2). Nilai awal parameter yang semula
diberikan pada Tabel 1 diubah menjadi (0.5, 0.3, 0.7). Berdasarkan hasil
ekperimen terlihat juga bahwa nilai optimum yang dihasilkan tetap sama
seperti pada Tabel 1, yaitu
⎛⎜⎝1.47810.3741
0.5725
⎞⎟⎠.Khusus untuk nilai awal sebesar (0.2)
BAB 4. HASIL DAN ANALISIS 24
atau sebenarnya adalah (0.262) diperoleh nilai yang berbeda. Oleh karena
itu, tidak ada jaminan akan mencapai nilai optimum tersebut adalah global
minimum. Namun demikian, jelas kita tidak menghendaki set parameter⎛⎜⎝ 0
−0.0148−0.0004
⎞⎟⎠ ,karena β1 adalah nol sehingga menyebabkan total output nol.
Dengan demikian, model CD yang dianggap optimum menurut iterasi Gauss
Newton adalah sebagai berikut:
y = 1.4781L0.3741K0.5725
Selanjutnya bila digunakan jenis iterasi lain, yaitu iterasi Marquandt-
Levenberg. Hasil estimasi dari Marquandt-Levenberg akan ditunjukkan di
bawah ini:
Tabel 3. Hasil iterasi Marquandt-Levenberg dengan Fungsi Produksi
Cobb-DouglasInitial Value tn Optimal Value S(β) Jumlah AIC SC
β1 β2 β3 bβ1 bβ2 bβ3 Iterasi
1.0 1.0 1.0 1 1.4781 0.3741 0.5725 0.5443 86 33.8285 38.0321
0.5 0.5 0.5 1 1.4781 0.3741 0.5725 0.5443 85 33.8285 38.0321
0.3 0.3 0.3 1 1.4781 0.3741 0.5725 0.5443 88 33.8285 38.0321
0.2 0.2 0.2 1 1.4781 0.3741 0.5725 0.5443 89 33.8285 38.0321
0.5 0.5 0.5 3 1.4781 0.3741 0.5725 0.5443 31 33.8285 38.0321
0.3 0.3 0.3 3 1.4781 0.3741 0.5725 0.5443 31 33.8285 38.0321
0.2 0.2 0.2 3 1.4781 0.3741 0.5725 0.5443 34 33.8285 38.0321
0.5 0.5 0.5 6 1.4781 0.3741 0.5725 0.5443 32 33.8285 38.0321
0.3 0.3 0.3 6 1.4781 0.3741 0.5725 0.5443 29 33.8285 38.0321
0.2 0.2 0.2 6 1.4781 0.3741 0.5725 0.5443 30 33.8285 38.0321
Dengan melakukan iterasi Marquandt-Levenberg memungkinkan untuk
mengubah panjang langkah (tn). Dengan perkataan lain, selain mengubah
nilai awal parameter, panjang langkah juga dapat diubah. Panjang langkah
dan nilai awal parameter ditentukan secara bebas. Berdasarkan Tabel 3,
dapat disimpulkan beberapa hal:
BAB 4. HASIL DAN ANALISIS 25
• Jika nilai awal parameter diubah, namun panjang step yang diberikantetap, tidak akan banyak memberikan perubahan yang signifikan dalam
hal jumlah iterasi.
• Jika nilai awal parameter tetap, namun panjang step yang diberikanberubah, maka memberikan perubahan yang signifikan dalam julah it-
erasi, yaitu ada kecenderungan semakin besar tn (panjang langkah)
maka makin kecil iterasinya.
• Metoda iterasi Marquandt-Levenberg lebih baik iterasi Gauss Newtoncontohnya untuk mengestimasi nilai awal parameter masing -masing
(0.262). Dengan cara iterasi Gauss Newton diperoleh set parame-
ter
⎛⎜⎝ 0
−0.0148−0.0004
⎞⎟⎠ ,namun dengan iterasiMarquandt-Levenberg diperoleh
angka yang lebih baik yaitu
⎛⎜⎝1.47810.3741
0.5725
⎞⎟⎠ yang merupakan nilai kovergen
pada umumnya.
Nilai optimum yang dihasilkan oleh Marquandt-Levenberg bernilai sama
dengan nilai optimum yang dihasilkan oleh Iterasi Gauss Newton, sehingga
model yang dibentuk juga sama yaitu;
y = 1.4781L0.3741K0.5725
Non-Linear Maximum Likelihood
Selanjutnya, akan digunakan proses optimisasi dengan fungsi objek-
tif yaitu memaksimumkan likelihood.Tidak berbeda dengan non-linier least
square, maximum likelihood juga menentukan parameter-parameter, β0s ,
tetapi yang dapat memaksimumkan likelihood. Pada penaksiran maximum
likelihood akan digunakan iterasi Berndt, Hall,Hall dan Hausman (BHHH)
dan metode Hill Climbing sebagai pembanding untuk menaksir parameter
BAB 4. HASIL DAN ANALISIS 26
yang memenuhi fungsi objektif. Hasil iterasi BHHH dengan fungsi produksi
Cobb-Dauglas adalah:
Tabel 4. Hasil Iterasi BHHH dengan Fungsi Produksi Cobb-DouglasInitial Value tn Optimal Value S (β) Jumlah AIC SC
β1 β2 β3 bβ1 bβ2 bβ3 Iterasi
1.0 1.0 1.0 1 1.4781 0.3741 0.5725 0.0181 -13.9143 968 33.8285 38.0321
Pada awalnya, panjang langkah belum diperhitungkan, yaitu hanya
memberikan nilai sebesar 1 sebagai konstanta pengali dari persamaan al-
goritma iterasinya. Dari Tabel 4, dapat disimpulkan bahwa nilai optimum
yang dihasilkan dengan menggunakan penaksiran dengan fungsi objektif yang
meminimumkan sum of square error (least square error) dan penaksiran den-
gan fungsi objektif yang memaksimumkan maximum likelihood akan meng-
hasilkan nilai yang sama. Selanjutnya, nilai awal parameter dirubah-ubah
sesuai dengan sewaktu digunakan metoda Marquandt-Levenberg sehingga
dapat dibandingan antar metoda. Selain nilai awal parameter yang diubah,
panjang langkah juga akan mengalami perubahan. Adapun hasil perhitungan
akan disajikan dalam Tabel 5.
BAB 4. HASIL DAN ANALISIS 27
Tabel 5. Hasil Iterasi Hill Climbing dengan Fungsi Produksi Cobb-DouglasInitial Value tn Optimal Value S (β) Jumlah AIC SC
β1 β2 β3 bβ1 bβ2 bβ3 Iterasi
1.0 1.0 1.0 1 1.4781 0.3741 0.5725 0.0181 -13.9143 1096 33.8285 38.0321
0.5 0.5 0.5 1 1.4781 0.3741 0.5725 0.0181 -13.9143 1069 33.8285 38.0321
0.3 0.3 0.3 1 1.4781 0.3741 0.5725 0.0181 -13.9143 1083 33.8285 38.0321
0.2 0.2 0.2 1 1.4781 0.3741 0.5725 0.0181 -13.9143 1085 33.8285 38.0321
0.5 0.5 0.5 3 1.4781 0.3741 0.5725 0.0181 -13.9143 375 33.8285 38.0321
0.3 0.3 0.3 3 1.4781 0.3741 0.5725 0.0181 -13.9143 380 33.8285 38.0321
0.2 0.2 0.2 3 1.4781 0.3741 0.5725 0.0181 -13.9143 381 33.8285 38.0321
0.5 0.5 0.5 6 1.4781 0.3741 0.5725 0.0181 -13.9143 190 33.8285 38.0321
0.3 0.3 0.3 6 1.4781 0.3741 0.5725 0.0181 -13.9143 193 33.8285 38.0321
0.2 0.2 0.2 6 1.4781 0.3741 0.5725 0.0181 -13.9143 193 33.8285 38.0321
Berdasarkan Tabel 5, dapat disimpulkan bahwa nilai optimal adalah
sebagai berikut; (a). jika nilai awal parameter diubah, namun panjang step
yang diberikan tetap, tidak akan banyak memberikan perubahan yang sig-
nifikan dalam hal jumlah iterasi; (b). jika nilai awal parameter tetap, na-
mun panjang step yang diberikan berubah, maka memberikan perubahan
yang signifikan dalam julah iterasi, yaitu ada kecenderungan semakin besar
tn (panjang langkah) maka makin kecil iterasinya; dan (c). Bila diband-
ingkan, metoda iterasi Hill Climbing (maxsimum likelohood) memberikan
iterasi yang lebih panjang dari pada metoda iterasi Marquandt-Levenberg
(least Square).
Nilai optimum yang dihasilkan oleh iterasi Berndt, Hall,Hall dan Haus-
man (BHHH) dan metode Hill Climbing Hill bernilai sama dengan nilai opti-
mum yang dihasilkan oleh Iterasi nonlinier least square, sehingga model yang
dibentuk juga sama yaitu;
y = 1.4781L0.3741K0.5725
BAB 4. HASIL DAN ANALISIS 28
4.2.2 Fungsi Produksi CES
Non-Linear Least Square
Untuk melakukan estimasi parameter fungsi produksi CES dilakukan prose-
dur yang sama. Dengan mengunakan metoda Gause Newton diperoleh tak-
siran parameter sebagai berikut:
Tabel 6. Hasil Iterasi Gauss Newton dengan Fungsi Produksi CESInitia l Value tn Optimal Value S (β) Jum lah A IC SC
β1 β2 β3 β4 bβ1 bβ2 bβ3 bβ4 Iterasi
0 .9 0.9 0.9 0.9 1 1.3724 0.3894 0.3100 0.9869 0.5073 13 35.7580 41.3628
0.75 0.75 0.75 0.75 1 1.3724 0.3894 0.3100 0.9869 0.5073 14 35.7580 41.3628
1.0 0.5 0.8 0.8 1 1.3724 0.3894 0.3100 0.9869 0.5073 10 35.7580 41.3628
1.0 0.5 0.6 0.6 1 2000 tidak kogergen
Seperti telah diketahui bahwa parameter pada fungsi produksi CESmemi-
liki parameter yang lebih banyak dari fungsi produksi CD. Dengan menggu-
nakan panjang langkah yang tetap yaitu bernilai 1 dan nilai awal parame-
ter yang diubah-ubah, dan dicoba juga nilai parameter yang menghasilkan
tidak konvergen sampai dengan iterasi ke 2000 untuk dapat membandingkan
dengan metoda lain. Namun secara umum, diperoleh nilai optimal sebe-
sar
⎛⎜⎜⎜⎜⎝1.3724
0.3894
0.3100
0.9869
⎞⎟⎟⎟⎟⎠ . Sehingga model yang dibentuk dari hasil penaksiran dengan
fungsi CES melalui metode Iterasi Gauss Newton dapat dituliskan sebagai
berikut :
y = 1.3724(0.3894L0.3100(1− 0.3894)K0.3100)0.9869/0.3100
BAB 4. HASIL DAN ANALISIS 29
Selanjutnya, akan digunakan juga Iterasi Marquandt-Levenberg, yang
akan disajikan pada Tabel 7
Tabel 7. Hasil Estimasi Marquandt-Levenberg dengan Fungsi Produksi CESInitia l Value tn Optimal Value S (β) Jum lah A IC SC
β1 β2 β3 β4 bβ1 bβ2 bβ3 bβ4 Iterasi
0 .9 0.9 0.9 0.9 1 1.3724 0.3894 0.3100 0.9869 0.5073 452 35.7580 41.3628
0.75 0.75 0.75 0.75 1 1.3724 0.3894 0.3100 0.9869 0.5073 446 35.7580 41.3628
1.0 0.5 0.8 0.8 1 1.3724 0.3894 0.3100 0.9869 0.5073 448 35.7580 41.3628
1.0 0.5 0.6 0.6 1 1.3724 0.3894 0.3100 0.9869 0.5073 440 35.7580 41.3628
0.9 0.9 0.9 0.9 3 1.3724 0.3894 0.3100 0.9869 0.5073 55 35.7580 41.3628
0.75 0.75 0.75 0.75 3 1.3724 0.3894 0.3100 0.9869 0.5073 51 35.7580 41.3628
1.0 0.5 0.8 0.8 3 1.3724 0.3894 0.3100 0.9869 0.5073 55 35.7580 41.3628
1.0 0.5 0.6 0.6 3 1.3724 0.3894 0.3100 0.9869 0.5073 41 35.7580 41.3628
0.9 0.9 0.9 0.9 6 1.3724 0.3894 0.3100 0.9869 0.5073 57 35.7580 41.3628
0.75 0.75 0.75 0.75 6 1.3724 0.3894 0.3100 0.9869 0.5073 61 35.7580 41.3628
1.0 0.5 0.8 0.8 6 1.3724 0.3894 0.3100 0.9869 0.5073 60 35.7580 41.3628
1.0 0.5 0.6 0.6 6 1.3724 0.3894 0.3100 0.9869 0.5073 59 35.7580 41.3628
Berdasarkan Tabel 7 diatas, dengan merubah-ubah nilai awal param-
eter dan panjang langkah yang ditentukan secara bebas maka dapat disim-
pulkan bahwa; (a). perubahan nilai awal parameter dan panjang langkah
tetap, maka tidak berpengaruh yang significant terhadap jumalh iterasi; (b).
bila nilai awal tetap dan jika nilai panjang langkah makin besar, maka makin
kecil jumlah iterasinya, namun mencapai titik terrendah pada saat panjang
langkah 3 (bila diubah lebih besar maka ada kecenderungan jumlah iterasi
cenderung meningkat); (c) Metoda Marquant-Levenberg dapat menghasilkan
nilai yang konvergen yang mana dengan metoda Gause Newton tidak dapat
konvergen pada nilai parameter [1.0 0.5 0.6 0.6] (lihat tabel 6 dan tabel 7).
Non-Linear Maximum Likelihood
BAB 4. HASIL DAN ANALISIS 30
Selanjutnya prosedur yang sama dilakukan untuk estimasi fungsi produksi
CES, yang akan disajikan pada Tabel 8.
Tabel 8. Hasil Iterasi BHHH dengan Fungsi Produksi CESInitia l Value tn Optimal Value S (β) Jum lah AIC SC
β1 β2 β3 β4 bβ1 bβ2 bβ3 bβ4 Iterasi
0 .9 0.9 0.9 0.9 1 1.3724 0.3894 0.3100 0.9869 0.0169 -13.8790 686 35.7580 41.3628
Dari Tabel 8, dapat disimpulkan bahwa nilai optimum yang dihasilkan
pada fungsi produksi CES dengan menggunakan penaksiran dengan fungsi
objektif yang meminimumkan sum of square error (least square error) dan pe-
naksiran dengan fungsi objektif yang memaksimumkan maximum likelihood
akan menghasilkan nilai yang sama. Tabel 8 dilakukan tanpa memasukkan
panjang langkah sebagai konstanta pengali dari persamaan iterasi. Selanjut-
nya, akan dilakukan iterasi Hill Climbing dengan fungsi produksi CES yang
mengubah-ubah nilai awal parameter dan panjang langkah. Hasilnya akan
disajikan pada tabel di bawah ini:
Tabel 9. Hasil Estimasi Iterasi Hill Climbing dengan Fungsi Produksi CESInitia l Value tn Optimal Value S (β) Jum lah A IC SC
β1 β2 β3 β4 bβ1 bβ2 bβ3 bβ4 Iterasi
0 .9 0.9 0.9 0.9 1 1.3724 0.3894 0.3100 0.9869 0.0169 -13.8790 929 35.7580 41.3628
0.75 0.75 0.75 0.75 1 1.3724 0.3894 0.3100 0.9869 0.0169 -13.8790 931 35.7580 41.3628
1.0 0.5 0.8 0.8 1 1.3724 0.3894 0.3100 0.9869 0.0169 -13.8790 912 35.7580 41.3628
1.0 0.5 0.6 0.6 1 1.3724 0.3894 0.3100 0.9869 0.0169 -13.8790 899 35.7580 41.3628
0.9 0.9 0.9 0.9 3 1.3724 0.3894 0.3100 0.9869 0.0169 -13.8790 324 35.7580 41.3628
0.75 0.75 0.75 0.75 3 1.3724 0.3894 0.3100 0.9869 0.0169 -13.8790 325 35.7580 41.3628
1.0 0.5 0.8 0.8 3 1.3724 0.3894 0.3100 0.9869 0.0169 -13.8790 317 35.7580 41.3628
1.0 0.5 0.6 0.6 3 1.3724 0.3894 0.3100 0.9869 0.0169 -13.8790 312 35.7580 41.3628
0.9 0.9 0.9 0.9 6 1.3724 0.3894 0.3100 0.9869 0.0169 -13.8790 161 35.7580 41.3628
0.75 0.75 0.75 0.75 6 1.3724 0.3894 0.3100 0.9869 0.0169 -13.8790 167 35.7580 41.3628
1.0 0.5 0.8 0.8 6 1.3724 0.3894 0.3100 0.9869 0.0169 -13.8790 159 35.7580 41.3628
1.0 0.5 0.6 0.6 6 1.3724 0.3894 0.3100 0.9869 0.0169 -13.8790 163 35.7580 41.3628
BAB 4. HASIL DAN ANALISIS 31
Berdasarkan Tabel 9, ditunjukkan bahwa perubahan nilai awal pa-
rameter tidak mempengaruhi perubahan pada nilai optimal, sedangkan pe-
rubahan panjang langkah mempengaruhi perubahan jumlah iterasi terca-
painya kondisi konvergen. Dapat juga disimpulkan bahwa semakin besar
panjang langkah akan menghasilkan jumlah iterasi yang semakin mengecil
untuk mencapai kondisi konvergen.
4.2.3 Model Terbaik
Selanjutnya,untuk mengetahui fungsi produksi mana yang sesuai dengan
data yang diberikan, apakah fungsi produksi CES atau fungsi produksi CD,
maka akan dibandingkan nilai AIC dan SC yang dihasilkan oleh fungsi pro-
duksi CD dan CES. Berdasarkan eksperimen-eksperimen di atas ditunjukkan
bahwa dalam fungsi CDmenghasilkan nilai AIC sebesar 33.8285 dan SC sebe-
sar 38.0321. Sedangkan dalam fungsi CES menghasilkan nilai AIC sebesar
35.7580 dan SC sebesar 41.3628. Berdasarkan nilai-nilai tersebut, terlihat
bahwa fungsi CD memiliki nilai AIC dan SC yang lebih kecil, sehingga da-
pat disimpulkan bahwa, input data yang telah diberikan lebih sesuai dengan
fungsi CD. Atau dengan perkataan lain, berdasarkan data yang ada, fungsi
CD lebih efisien dengan data yang diberikan dibandingkan dengan fungsi
CES.
Jika dibandingkan denganmodel Cobb-Douglass, dapat disimpulkan bahwa
fungsi produksi CES memberikan nilai optimal yang lebih kecil, namun mem-
berikan nilai AIC dan SC yang lebih besar. Dengan perkataan lain, dengan
metode non linier maximum likelihood, input data yang digunakan dalam
eksperimen ini lebih efisien untuk fungsi produksi Cobb-Douglass diband-
ingkan dengan fungsi produksi CES karena nilai AIC dan SC dengan fungsi
produksi CD lebih kecil. Hasil melalui penaksiran maximum likelihood ini
sama dengan hasil melalui penaksiran least square.
Bab 5
Kesimpulan
Beberapa kesimpulan dapat diperoleh berdasarkan hasil perhitungan
dan analisa untuk dua fungsi produksi sebagai berikut;
1. Dengan mengubah nilai awal parameter maupun panjang langkah, di-
tunjukkan bahwa perubahan nilai awal parameter tidak terlalu berpen-
garuh pada jumlah iterasi. Sedangkan panjang langkah sangat berpen-
garuh pada jumlah iterasi pada kondisi konvergen.
2. Bila dibandingkan dari keempat metoda iterasi, Metoda Gause-Newton
mempunyai kelemahan dalam melakukan iterasi nilai parameter yang
kadang kala tidak mencapai konvergensi, namun bila digunakan metoda
lain (misalnya Marquardt-Levenberg atau Hill Climbing) dapat diper-
oleh nilai konvergensi.
3. Nilai optimum yang diperoleh oleh fungsi CD baik yang dilakukan
melalui penaksiran least square dan maximum likelihood menghasilkan
nilai yang sama, dimana nilai optimal tersebut lebih besar dari ni-
lai optimal yang dihasilkan oleh fungsi produksi CES. Tidak berbeda
dengan fungsi CD, dengan fungsi produksi CES juga menghasilkan ni-
lai optimal yang sama jika dilakukan dengan penaksiran least square
dan penaksiran maximum likelihood. Bentuk dari fungsi produksi CD
yang dihasilkan dalam eksperimen ini adalah sebagai berikut: y =
1.4781L0.3741K0.5725. Sementara itu, bentuk dari fungsi produksi CES
32
BAB 5. KESIMPULAN 33
yang dihasilkan dalam ekperimen ini adalah sebagai berikut: y =
1.3724(0.3894L0.3100(1− 0.3894)K0.3100)0.9869/0.3100.
4. Berdasarkan input data yang telah ditentukan dalam eksperimen ini,
maka fungsi produksi CD lebih sesuai atau efisien dengan data tersebut
dibandingkan dengan fungsi produksi CES. Hal ini disebabkan nilai
AIC dan SC yang dihasilkan dengan fungsi produksi CD lebih kecil
dengan nilai AIC dan SC yang dihasilkan dengan fungsi produksi CES.
Kesimpulan ini atau hasil ini sama jika dilakukan dengan penaksiran
least square maupun dengan penaksiran maximum likelihood.
Lampiran
Daftar Lampiran
1. Program dan Output MATLAB untuk Non-Linear Least Square fungsi
produksi Cobb-Douglas dengan Iterasi Gauss-Newton.
2. Program dan Output MATLAB untuk Non-Linear Least Square fungsi
produksi Cobb-Douglas dengan Iterasi Marquandt-Levenberg.
3. Program dan OutputMATLAB untukMaximumLikelihood fungsi pro-
duksi Cobb-Douglas dengan Iterasi Berndt, Hall, Hall & Haussman.
4. Program dan OutputMATLAB untukMaximumLikelihood fungsi pro-
duksi Cobb-Douglas dengan Hill Climbing.
5. Program dan Output MATLAB untuk Non-Linear Least Square fungsi
produksi CES dengan Iterasi Gauss-Newton.
6. Program dan Output MATLAB untuk Non-Linear Least Square fungsi
produksi CES dengan Iterasi Marquandt-Levenberg.
7. Program dan OutputMATLAB untukMaximumLikelihood fungsi pro-
duksi CES dengan Iterasi Berndt, Hall, Hall & Haussman.
8. Program dan OutputMATLAB untukMaximumLikelihood fungsi pro-
duksi CES dengan Iterasi Hill Climbing.
34
Daftar Pustaka
[1] Judge, George G., W.E. Griffiths, R.C. Hill, H. Lütkepohl, and T.C. Lee
(1988), "Introduction to The Theory and Practice of Econometrics", 2nd
Ed. New York, Wiley
[2] Judge, George G., W.E. Griffiths, R.C. Hill, H. Lütkepohl, and T.C. Lee
(1980), "The Theory and Practice of Econometrics", New York, Wiley
[3] Griffith, WE.,R.C. Hill., GG Judge (1993), "Learning and Practising
Econometrics", New York, Wiley.
[4] Greene, William H., (2003), Econometric Analysis", 5th Ed., New Jersey,
Prentice Hall.
[5] Syamsuddin, M., (2006), Catatan Kuliah Ekonometrika 3, Pascasarjana,
Fakultas Ekonomi, Universitas Indonesia, Depok.
35