estimasi nonlinier

Non-Linear Estimation

Sanjoyo[8605000103]

April 2006

Daftar Isi

1 Pendahuluan 11.1 Latar Belakang . . . . . . . . . . . . . . . . . . . . . . . . . . 1

1.2 Perumusan Masalah . . . . . . . . . . . . . . . . . . . . . . . 2

1.3 Tujuan . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3

1.4 Metode Eksperimen . . . . . . . . . . . . . . . . . . . . . . . . 3

2 Teori Pendukung 42.1 Model Statistik Non-Linier . . . . . . . . . . . . . . . . . . . . 4

2.2 Nonlinier Least Square . . . . . . . . . . . . . . . . . . . . . . 5

2.2.1 Iterasi Gause-Newton . . . . . . . . . . . . . . . . . . . 6

2.2.2 Iterasi Newton-Rhapson . . . . . . . . . . . . . . . . . 9

2.2.3 Iterasi Marquardt-Levenberg . . . . . . . . . . . . . . . 11

2.2.4 Metoda Quadratic-Hill Climbing . . . . . . . . . . . . . 11

2.3 Non-Linear Maximum Likelihood . . . . . . . . . . . . . . . . 12

2.3.1 Irerasi Newton-Rhapson . . . . . . . . . . . . . . . . . 14

2.3.2 Metoda Scoring . . . . . . . . . . . . . . . . . . . . . . 15

2.3.3 Iterasi Berndt, Hall, Hall & Hausman (BHHH) . . . . . 16

3 Prosedur Eksperimen 18

4 Hasil dan Analisis 204.1 Input Data . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20

4.2 Hasil dan Analisis . . . . . . . . . . . . . . . . . . . . . . . . 22

4.2.1 Fungsi Produksi Cobb-Douglas . . . . . . . . . . . . . 22

i

DAFTAR ISI ii

4.2.2 Fungsi Produksi CES . . . . . . . . . . . . . . . . . . . 28

4.2.3 Model Terbaik . . . . . . . . . . . . . . . . . . . . . . . 31

5 Kesimpulan 32

Lampiran 34

Bab 1

Pendahuluan

1.1 Latar Belakang

Pada umumnya pendekatan yang digunakan untuk melakukan penaksiran su-

atu parameter dalam model ekonometrik linier adalah memfokuskan fungsi

tujuan (objective function), misalnya meminimumkan sum of squre function

atau memaksimumkan likelihood function terhadap parameter yang tidak

diketahui. Bila diberikan suatu sample data set, penaksiran parameter da-

pat dilakukan berdasarkan nilai optimal objective function. Problem optimasi

tersebut diselesaikan dengan first order condition sehingga diperoleh hasil pe-

naksiran parameter dalam model linier. Proses perhitungan tersebut memu-

dahkan bagi para econometrician untuk melakukan penaksiran parameter

model linier suatu keterkaitan hubungan funsional aspeka-spek perekono-

mian. Pendekatan model linier untuk mengambarkan hubungan variabel

ekonomi dapat diterima dengan alasan bahwa: (a) pada umumnya realitas

situasi perekonomian dapat dilakukan pendekatan secara linier; (b) banyak

model nonlinier dapat ditarnformasikan dalam bentuk linier.

Namun demikian, kondisi linieritas tidak selalu dapat diaplikasikan se-

hingga spesifikasi nonlinier tidak dapat dihindarkan. Misalkan bila kita akan

melakukan penaksikan fungsi produksi Cobb-Douglas atau CES dari suatu

data sample yang tersedia, maka tidak dapat dihindarkan dilakukan den-

gan pendekatan model nonlinier. Misalkan fungsi produksi Cobb-Douglass

1

BAB 1. PENDAHULUAN 2

(CD), Yi = β1Xβ22i X

β33i e

ui dimana Y = output, X2 = input tenaga kerja, dan

X3 = input kapital. Persamaan Cobb-Duglas dapat ditulis dalam bentuk

linier, lnYi = α + β2 lnX2i + β3 lnX3i + ui,dimana α = lnβ1. Selanjutnya

bila format CD adalah Yi = β1Xβ22i X

β33i + ui , maka bentuk tersebut tidak

memungkinkan parameternya ditransformasikan dalam bentuk linier. Con-

toh lain adalah fungsi produksi constant elasticity of substitution (CES),

Yi = A[δK−βi + (1 − α)L−βi ]

−1/β, dimana Y =output, A =skala parameter,

K =input kapital, L = input tenaga kerja, δ = parameter distribusi (0 <

δ < 1) dan β = substitusi parameter (β ≥ −1). Dalam fungsi produksi

CES tersebut, walaupun dimasukkan stochastic error term ui dalam bentuk

apapun ke dalam fungsi produksi tersebut, parameternya tetap tidak dapat

ditransformasikan ke dalam bentuk linier. Dengan perkataan lain, harus

didekati dengan non-linier model.

Selanjutanya dalam paper akan melaporkan hasil ekperimen model non-

linier untuk menaksir fungsi produksi Cobb-Douglas dan CES dengan mengu-

nakan metoda Nonlinier Least Square dan Non-Linier Maksimum Likelihood.

1.2 Perumusan Masalah

Sesuai dengan panduan tugas yang diberikan, pada ekperimen ini dapat diru-

muskan beberapa masalah sebagai berikut:

1. Data yang tersedia adalah tentang produksi suatu komoditi (Y), input

labor (L) dan kapital (L) yang berdimensi 30x3. Dengan data tersedia

tersebut bagaimana fungsi produksi yang paling sesuai antara fungsi

produksi Cobb Dauglas atau CES? untuk memilih fungsi produksi yang

paling cocok akan digunakan pertimbangan Akaike information Criteria

(AIC) dan Schwart Criteria (SC).

2. Dengan menggunakan dua metoda penaksiran parameter yaitu Non-

linier Least Square Estimation dan Maximum Likelihood Estimation,

bagaimana perbandingan hasil estimasi tersebut?

BAB 1. PENDAHULUAN 3

3. Bila dilakukan perubahan pada initial value dari parameter dalam

menentukan titik optimum, perubahan panjang step dari parameter

dan perubahan jumlah iterasi bagaimana perbandingan estimasi kedua

metoda penaksiran tersebut?

1.3 Tujuan

Tujuan eksperimen ini adalah:

1. Menentukan fungsi produksi yang sesuai dengan input data yang diberikan.

2. Membandingkan aplikasi variasi metode iterasi (Gauss-Newton Algo-

rithm dan Marquardt-levenberg) dalam menentukan titik optimum.

3. Mengamati pengaruh perubahan nilai awal parameter, panjang langkah

dan jumlah iterasi dalam proses menentukan titik optimum

4. Mengamati penerapan metode least squares rule dan maximum likeli-

hood dalam penaksiran bentuk non-linier.

1.4 Metode Eksperimen

Metode yang akan digunakan pada eksperimen ini adalah metode literatur

dengan menggunakan data-data eksperimental. Data yang diberikan adalah

berupa matriks berdimensi 30x3, yang diaplikasikan kedalam dua fungsi pro-

duksi yaitu fungsi produksi CD dan fungsi produksi CES. Adapun estimasi

non linier dilakukan melalui percobaan simulasi Montecarlo dengan program

MATLAB versi 7.0.1. dan beberapa formula model-model penaksiran dengan

variasi iterasi. Hasil eksperimen tersebut, kemudian akan dianalisa apakah

memenuhi kondisi seperti yang telah dinyatakan dalam literatur dan teori.

Bab 2

Teori Pendukung

2.1 Model Statistik Non-Linier

Walaupun pada umumnya realitas situasi perekonomian dapat dilakukan

pendekatan secara linier atau ditranformasikan dalam bentuk linier, Namun

demikian, banyak juga model non linier yang tidak bisa ditangani oleh model

linier, oleh karena itu diperlukan model non linier dalam pemecahannya.

Tidak berbeda dengan model linier, estimasi model non linier didasarkan

pada minimisasi atau maksimisasi fungsi objektif. Berdasarkan teori, terda-

pat dua jenis fungsi objektif, yaitu the sum squared errors dan the likelihood

function. Namun demikian, berbeda dengan model linier, dalam memec-

ahkan parameter model non-linier adalah merupakan tugas yang sulit. Hal

ini disebabkan banyaknya pertimbangan yang harus dilibatkan dalam proses

menentukan titik optimum secara statis (static optimization). Pertimbangan-

pertimbangan tersebut yaitu perlu atau tidaknya pembatas observasi (con-

straint) yang akan mendefinisikan letak titik optimum dan sufficient con-

ditions untuk local atau global minimum. Penaksiran terhadap parameter

model non-linear akan menghasilkan nilai yang berbeda untuk penaksir yang

sama karena error random-nya mempunyai power function. Oleh karena itu,

berbeda dengan least square rule pada model linear, penaksir atau estimator

pada least square rule yang diterapkan padamodel non-linear ditentukan den-

gan melakukan suatu prosedur atau algoritma yang dapat menjamin bahwa

4

BAB 2. TEORI PENDUKUNG 5

penaksir tersebut secara nyata memenuhi kriteria dari fungsi tujuan, yaitu

memberikan the sum of squares error pada titik yang paling minimum atau

memberikan titik maksimum pada likelihood function.

Dengan perkataan lain, dalam penentuan penaksir pada model non-linear

diperlukan pengetahuan mengenai static optimization theory. Berdasarkan

teori, untuk menentukan titik optimum yang diyakini sebagai solusi dalam

penentuan penaksir model non-linear akan digunakan operasi first dan second

derivative test. First derivative test digunakan dalam prosedur iterasi seba-

gaimana diterapkan dalam Gauss-Newton Algorithm, Marquardt-Levenberg

Iterative Model, sedangkan second derivative test digunakan dalam prose-

dur iterasi Newton-Rhapson Algorithm dan Quadratic-Hill Climbing Model.

Sementara itu, dalam penaksiran maximum likelihood akan digunakan pen-

dekatan Berndt, Hall, Hall and Hausman algorithm yang menggunakan op-

erasi second derivative test pada prosedur iterasinya.

2.2 Nonlinier Least Square

Secara umum model Nonlinier adalah sebagai berikut:

y = f(X, β) + e, (2.1)

dimana y = (y1, y2, ..., yT )0, f(X,β) = [f(x1, β), f(x2, β), ..., f(xT , β)]

0,

X = (x01, x02, ..., x

0T )0,adalah vektor dari independent variabel, dan e = (e1, e2, ..., eT )0

adalah random error (independent identical distributed serta distibusinya

tidak diketahui), maka untuk menaksir parameter yang tidak diketahui diper-

oleh melalui optimasi objective function. Dengan spesifikasi tersebut dapat

digunakan least square estimation, yaitu residual sum of squares function

adalah:

S = e0e = [y − f(X,β)]0[y − f(X,β)] (2.2)

dengan meminimumkan objective function S tersebut maka akan dikakukan

penaksiran parameter β. First order condition atau normal equation untuk

nilai minimum objective function adalah:


∂S

∂β= −2

∙∂f(X,β)0

∂β

¸[y − f(X, β)] = 0 (2.3)

dimana ∂f(X,β)0/∂β adalah matrik derivatif (KxT) dengan (k x t) elemen

yaitu ∂f(xt, β)/∂βk. Bila fungsi f(X,β) adalah non-linier dalam arti kata

koefisiennya, maka menaksir nilai β yang meminimumkan objective function

tidak dapat diperoleh secara langsung sebagaimana dalam model yang linier.

Dengan perkataan lain, yang dimaksud dengan penaksiran β dari model non

linier adalah mencari solusi dari persamaan [2.3] yang memberikan global

minimum dari persamaan [2.2]. Seperti yang telah dijelaskan sebelumnya,

maka akan digunakan pendekatan prosedur iterasi sebagaimana diterapkan

dalamGauss-Newton Algorithm, Marquardt-Levenberg Iterative Model untuk

first derivative test. Sedangkan second derivative test digunakan dalam prose-

dur iterasi Newton-Rhapson Algorithm dan Quadratic-Hill Climbing Model.

2.2.1 Iterasi Gause-Newton

Bila kita misalkan Z(β) adalah transpose matrik ∂f(X, β)0/∂β yaitu:

Z(β) =∂f(X,β)

∂β0=

⎡⎢⎢⎣∂f(x1,β)

∂β1· · · ∂f(x1,β)

∂βK...

. . ....

∂f(xT ,β)∂β1

· · · ∂f(xT ,β)∂βK

⎤⎥⎥⎦ (2.4)

Bila matrik derivatif tersebut mengevalusi untuk nilai tertentu misalnya β1dapat ditulis dengan Z(β1). Dengan menggunakan persamaan (2.4) ,maka

first order condition untuk meminimumkan objective function dapat ditulis

sebagai berikut:

Z(β)0[y − f(X,β)] = 0 (2.5)

Salah satu metode algoritma untuk menentukan step pada penaksiran non-

linear least squares menuju titik global minimum dikembangkan oleh Gauss

dan Newton dan dikenal sebagai Gauss-Newton Algorithm atau Iteration.

Pada iterasi ini mula-mula fungsi f(xt, β) diaproksimasi dengan first order

Taylor Series disekitar initial value β(1).


f(xt, β) = f(xt, β(1)) +

∂f(xt, β)

∂β0|β(1) (β − β(1)) (2.6)

Jika β(1) adalah initial value maka:

z(β(1)) =∂f(xt, β)

∂β0|β = β(1) (2.7)

Jadi persamaan (2.7)menjadi:

f(xt, β) = f(xt, β(1)) + z(β(1)) · β − z(β(1)) · β(1)

Sehingga;

f(xt, β) = f(xt, β(1)) + z(β(1)) · β − z(β(1)) · β(1) + e

dan menjadi:

y(β(1)) = z(β(1))β + e (2.8)

persamaan [2.8 ]adalah Pseudo Linier Model. Jika dari model tersebut

ditaksir β dengan OLS maka akan diperoleh β(2) adalah:

β(2) = [z(β(1))0z(β(1))]−1z(β(1))0y³β(1)

´maka;

β(2) = [z(β(1))0z(β(1))]−1z(β(1))0hy − f

³x, β(1)

´+ z(β(1))β(1)

i= β(1) + [z(β(1))0z(β(1))]−1z(β(1))0(yt − f(xt, β

(1))

Jika β(2) digunakan sebagai aproksimasi f (x, β) seperti di (2.6) dan akhirnya

akan didapat β(3) :

β(3) = β(2) + [z(β(2))0z(β(2))]−1z(β(2))0(yt − f(xt, β(2))

dan seterusnya, sehingga secara umum didapat sebagai berikut:

β(n+1) = β(n) + [z(β(n))0z(β(n))]−1z(β(n))0(yt − f(xt, β(n)) (2.9)


Secara umum iterasi Gauss-Newton dapat dinyatakan dengan

β(n+1) = β(n) − 12

hZ(β(n))0Z(β(n))

i−1Ã ∂S

∂β

¯̄̄̄β(n)

!(2.10)

Bila β(n+1) = β(n) maka iterasi disebut konvergen. Maka akan diperoleh

z(β(n))0(yt − f(xt, β(n)) = 0 atau

∂f(xt, β)

∂β0|β(n) (y − f(xt, β

(n)) = 0, yang

merupakan pemenuhan persyaratan first order condition. Pada prakteknya

β(n+1) = β(n) terlalu ideal. Biasanya digunakan kriteria konvergen sebagai

berikut:

Norm(β(n+1) − β(n)) =°°°β(n+1) − β(n)

°°° < ε (2.11)

Misalnya ε = 10−9

°°°β(n+1) − β(n)°°° =r³β(n+1)1 − β

(n)1

´2+³β(n+1)2 − β

(n)2

´2+ ...+

³β(n+1)n − β(n)n

´2(2.12)

β(n+1) = β(n) − 12

∙Z³β(n)

´0Zβ(n)

¸−1Ã∂s

∂β

¯̄̄̄β(N)

!(2.13)

β(n+1) = β(n) − tn · Pγ·n (2.14)

tn = step length

P = Positive definite matrix

γn = Gradient dari objective function

Pada metode ini masih terdapat kelemahan, yaitu perubahan nilai per-

mulaan mungkin akan mengarahkan pada titik minimum tetapi tidak dapat

menjamin keyakinan sebagai lokal atau global minimum. Dengan mengubah-

ubah nilai permulaan dari parameter dan dihasilkan konvergensi pada titik

yang sama pada setiap waktu, maka dapat dikatakan bahwa kita memperoleh

kesempatan untuk mengasumsikan bahwa operasi iterasi mencapai global


minimum. Setiap langkah (step) di mana nilai awal parameter diubah dan

menyebabkan penurunan pada the sum of squares error, S (β), disebut se-

bagai iterasi (Iteration).Namun demikian, dengan mengubah nilai awal pa-

rameter tetapi konvergensi terjadi pada titik yang berbeda, maka kita harus

memilih nilai terendah dari sekian banyak sum of squares error yang diper-

oleh dan selanjutnya kita harus mengidentifikasi nilai tersebut pada titik

yang bukan local minimum.

Permasalahan lain adalah kemungkinan tidak terjadi konvergensi

karena bentuk fungsi dari sum of squares sulit mencapai titik minimum. Pada

kondisi seperti ini, nilai permulaan harus diubah-ubah atau mencobanya den-

gan menggunakan prosedur yang lain.

2.2.2 Iterasi Newton-Rhapson

Sebagaimana model non-linier pada persamaan [2.1] dan fungsi objektif

meminimumkan persamaan [2.2], pada iterasi ini mula-mula fungsi objektif

S(β) akan diapproksimasi dengan second order Taylor series disekitar initial

value β(1).

S(β) ' S(β(1))+∂S

∂β0|β(1)(β − β(1))+

1

2(β − β(1))0

∂2S

∂β∂β0|β(1)(β − β(1)) (2.15)

Turunan pertama dari persamaan tersebut adalah sebagai berikut:

∂S(β)

∂β= 0 +

µ∂S(β)

∂β0|β(1)

¶0+

∂2S

∂β∂β0|β(1) (β − β(1)) = 0 (2.16)

Persamaan menurut β(2) secara implisit adalah:

∂S

∂β|β(1) +

∂2S

∂β∂β0|β(1) (β(2) − β(1)) = 0 (2.17)

∂2S

∂β∂β0|β(1) (β(2) − β(1)) = −∂S

∂β|β(1)


(β(2) − β(1)) = −µ

∂2S

∂β∂β0|β(1)

¶−1∂S

∂β|β(1)

β(2) = β(1) −µ

∂2S

∂β∂β0|β(1)

¶−1∂S

∂β|β(1)

Bila pada persamaan [2.16], β(2) menggantikan β(1) maka akan diperoleh

β(3) dan seterusnya. Sehingga persamaan umumnya dapat dituliskan sebagai

berikut:

β(n+1) = β(n) −µ

∂2S

∂β∂β0|β(n)

¶−1∂S

∂β|β(n) (2.18)

Persamaan [2.18] inilah yang disebut dengan Newton-Raphson Iteration.

Jika iterasi sudah konvergen, yaitu β(n+1) = β(n) maka dari persamaan [2.18]

dapat disimpulkan∂S

∂β|β(n) = 0, dimana memenuhi persyaratan first order

condition di persamaan [2.17].

Algoritma pada Newton-Rhapson akan menuntun pada arah yang

benar (menuju ke titik minimum) dari posisi nilai permulaan parameter βnjika turunan kedua S (βn) positif. Oleh karena S (βn) akan selalu positif

pada kondisi di sekitar titik minimum, maka algoritma akan menuju pada

arah yang benar jika βn cukup dekat dengan nilai minimumnya. Namun

ada kemungkinan akan berjalan melampaui titik minimumnya, sehingga un-

tuk menghindari ini terlampau jauh, variabel panjang langkah tn digunakan

dalam algoritma. Pada setiap proses iterasi tn akan diperoleh apabila S¡βn+1

¢<

S (βn) . Sesuai dengan hal ini, apabila kita melangkah dari titik β1 yang dekat

dengan suatu titik minimum dimana pn menjadi negatif, maka tanpa mema-

sukkan variabel panjang langkah tn , akan mengarahkan pada arah yang

salah, yaitu justru pada titik maksimum.

Perhatikan pada persamaan [2.10] di Gauss Newton Iteration dan

persamaan [2.18] di Newton-Raphson Iteration akan memperoleh penaksir β

yang dapat dituliskan sebagai bentuk berikut:

β(n+1) = β(n) − t.Pnγn (2.19)

dimana t adalah skalar, Pn adalah matriks simetris dan γnadalah gradient

dari fungsi objektif.Sehingga persamaan [2.10] dari Gauss Newton Iteration


sebagai berikut:

β(n+1) = β(n) − 12[z(β(n))0z(β(n))]−1

∂S

∂β|β(n)

tn =1

2Pn = [z(β

(n))0z(β(n))]−1

γn =∂S

∂β|β(n)

Sedangkan persamaan [2.18] dari Newton-Raphson Iteration dapat dit-

uliskan sebagai bentuk berikut:

β(n+1) = β(n) −µ

∂2S

∂β∂β0|β(n)

¶−1∂S

∂β|β(n)

tn = 1

Pn =

µ∂2S

∂β∂β0|β(n)

¶−1γn =

∂S

∂β|β(n)

2.2.3 Iterasi Marquardt-Levenberg

Metode Marquardt-Levenberg mengaplikasikan metode iterasi seperti

halnya Gauss-Newton Method, yaitu menggunakan FOC dari persamaan

Sum of Least Square Error, bedanya dengan menambahkan perkalian skalar

dan Identity Matrix,λIK , serta bebas dalam menentukan panjang langkah-

nya, tn.

βn+1 = βn − tn¡z (βn)

0 z (βn) + λnIK¢−1 dS (β)

dβ|βn

t = bebas

Pn =¡z (βn)

0 z (βn) + λnIK¢−1

γn =∂S

∂β|β(n)

2.2.4 Metoda Quadratic-Hill Climbing

Metode ini sama seperti Newton-Rhapson Iteration, yaitu menggunakan

SOC dari persamaan Sum of Least Square Error, perbedaannya terletak

pada penambahan perkalian antara skalar dan Identity Matrix, serta pan-

jang langkahnya bernilai sembarang.


βn+1 = βn −µ∂2S (β)

∂β∂β0|βn + λnIK

¶−1dS (β)

dβ|βn

t = bebas

Pn =

µ∂2S (β)

∂β∂β0|βn + λnIK

¶−1γn =

∂S

∂β|β(n)

2.3 Non-Linear Maximum Likelihood

Model umum pada estimasi maximum likelihood adalah:

y = f (X,β) + ε (2.20)

di mana ε ∼ N (0, σ2I) . Fungsi likelihood dari model (2.20) dinyatakan se-

bagai berikut:

f¡y|xt, β, σ2

¢=

1

2πσe−12

³yt−f(xt,β)

σ

´2(2.21)

Persamaan (2.21) dapat dituliskan kembali menjadi persamaan berikut:

l¡β, σ2

¢=¡2πσ2

¢− 12 exp− 1

2σ2¡yt − f (xt − β)2

¢(2.22)

Operasi matematika selanjutnya untuk menguraikan persamaan (2.21)

dinyatakan sebagai berikut:R∞−∞ f (yt|xt, β, σ2) dyt = 1∂∂β

R∞−∞ f (yt|xt, β, σ2) dyt = 0R∞

−∞∂∂βf (yt|xt, β, σ2) = 0R∞

−∞

∂∂β

f(yt|xt,β,σ2)f(yt|xt,β,σ2) .f (yt|xt, β, σ2) dyt = 0R∞

−∞∂ ln f(yt|xt,β,σ2)

∂β.f (yt|xt, β, σ2) dyt = 0

Lt = lnLt (β, σ2) = ln f (yt|xt, β, σ2)R∞

−∞∂Lt∂β

.f (yt|xt, β, σ2) dyt = E³∂Lt∂β

´= 0

∂∂β0

hR∞−∞

∂Lt∂β

.f (yt|xt, β, σ2) dyti= 0R∞

−∞∂2Lt∂β∂β0 .f (yt|xt, β, σ2) dyt +

R∞−∞

∂Lt∂β

.∂Lt∂β0 f (yt|xt, β, σ2) dyt = 0


Eh∂2Lt∂β∂β0

i+E

h∂Lt∂β

.∂Lt∂β0

i= 0

Eh∂2Lt∂β∂β0

i= −E

h∂Lt∂β

.∂Lt∂β0

iHasil operasi tersebut di atas akan digunakan untuk menjelaskan al-

goritma iterasi pada fungsi likelihood. Pada operasi dengan model berbentuk

matriks, persamaan (2.21) dituliskan sebagai berikut:

f¡y|β, σ2

¢=

¡2πσ2

¢−T2 exp

(− 1

2σ2

TXt=1

(yt − x0tβ)2

)(2.23)

=¡2πσ2

¢−T2 exp

½− 1

2σ2(yt − xtβ)

0 (yt − xtβ)

¾

dan log-likelihoodnya adalah:

L = log l (β, σ2|y, x)= −T2log 2π−T

2log σ2− 1

2σ2(y − xβ)0 (y − xβ)

L = log l (β, σ2|y, x)= −T2log 2π−T

2log σ2− 1

2σ2

TPt=1

(yt − x0tβ)2

disederhanakan menjadi:

L =TXt=1

Lt (2.24)

Untukmemenuhi kondisi optimum, maka fungsi log lokelihood diturunkan

terhadap variansinya, sehingga diperoleh estimator varian sebagai berikut:∂L∂σ2

= −T21σ2+ 1

21σ4

TPt=1

(yt − x0tβ)2 = 0

bσ2 = 1T

TPt=1

(yt − x0tβ)2 = 1

T(yt − xtβ)

0 (yt − xtβ)

Varian estimator disubstitusikan ke dalam persamaan (2.24), sehingga

dinyatakan kembali:

L = −T2log 2π − T

2log

∙1T

TPt=1

(yt − x0tβ)

¸− 1

2T

TPt=1

(yt−x0tβ)2

TPt=1

(yt − x0tβ)2

dan diperoleh persamaan log likelihood yang akan digunakan untuk menaksir

parameter


L = −T2log 2π − T

2log (y − xβ)0 (y − xβ) /T − T

2(2.25)

Terlihat pada persamaan (2.25) jika dikatakan bahwa S (β) = (y − xβ)0 (y − xβ),

maximum likelihood estimator eβ yang memaksimumkan L∗ (β|y,X) ternyataidentik dengan estimator pada non-linear least square yang meminimumkan

S (β) .Tetapi kesamaan ini bukan merupakan hasil umum yang berlaku untuk

semua model non-linear. Kondisi ini hanya berlaku jika modelnya berbentuk

(2.20). Tiga algoritma yang digunakan pada penaksiran model non-linear

untuk memperoleh maximum likelihood, yaitu Newton Rhapson, Method of

Scoring dan Berndt, Hall,Hall & Hausman (BHHH).

2.3.1 Irerasi Newton-Rhapson

Pada iterasi ini fungsi objektif L(β) diapproksimasi dengan second or-

der Taylor series disekitar initial value (β(1)). Secara umum metode ini

melakukan aproksimasi dengan Taylor order kedua untuk likelihood di sekitar

nilai parameter permulaan, yaitu:

L (β)= L|β(1)+∂L

∂β0|β(1)

³β − β(1)

´+1

2

³β − β(1)

´0 ∂2L

∂β∂β0|β(1)

³β − β(1)

´(2.26)

Untukmemperoleh kondisi optimum, fungsi tersebut diturunkan terhadap

parameter β dengan operasi sebagai berikut:

∂L

∂β=

∙∂L

∂β0|β(1)

¸0+

∂2L

∂β∂β0|β(1).

³β − β(1)

´= 0 (2.27)

Dari [2.26] dan [2.27] secara implisit maka dapat ditaksir β(2)

∂L

∂β=

∙∂L

∂β0|β(1)

¸0+

∂2L

∂β∂β0|β(1) .

³β(2) − β(1)

´= 0

β(2) = β(1) −µ

∂2L

∂β∂β0|β(1)

¶−1 ∙∂L

∂β|β(1)

¸Bentuk umumnya menjadi:


β(n+1) = β(n) −∙

∂2L

∂β∂β0|β(n)

¸−1∂L

∂β|β(n) (2.28)

β(n+1) = β(n) −∙

∂2L

∂β∂β0|β(n)

¸−1∂L

∂β|β(n)

di mana,

tn = 1

pn =

∙∂2L

∂β∂β0|β(n)

¸−1γn =

∂L

∂β|βn.

Bila iterasi sudah konvergen β(n+1) = β(n), maka dipenuhilah first order

condition.

2.3.2 Metoda Scoring

Dengan metode Newton-Rhapson, algoritma iterasi, pn dinyatakan den-

gan∂2L

∂β∂β0|βn dan panjang langkah tn = 1. Sementara pada metode scoring,

algoritma iterasi digunakan nilai ekspektasi SOC dari fungsi likelihood yang

diperoleh melalui operasi matematika sebelumnya, sehingga algoritmanya di-

nyatakan sebagai berikut:

βn+1 = βn + 1

∙E

µ∂2Lt

∂β∂β0|βn¶¸−1

∂L

∂β|βn (2.29)

βn+1 = βn + 1

∙E

µ∂2Lt

∂β∂β0|βn¶¸−1

∂L

∂β|βn

di mana,

tn = 1

pn = −E∙∂2Lt

∂β∂β0|βn¸

γn =∂L

∂β|βn.


2.3.3 Iterasi Berndt, Hall, Hall & Hausman (BHHH)

Metode ini mengeksploitasi algoritma iterasi dari method of scoring,

namun dalam BHHH iteration ditambahkan dengan the law of large number

dan information matrix equilibrium. Diketahu pn dari method of scoring

adalah sebagai berikut:

pn =

∙−E ∂2Lt

∂β∂β0|βn¸−1

=

⎡⎢⎢⎣−E⎛⎜⎜⎝∂2

TPt=1

Lt

∂β∂β0|βn

⎞⎟⎟⎠⎤⎥⎥⎦−1

=

∙−E

µTPt=1

∂2Lt

∂β∂β0|βn¶¸−1

Selanjutnya,

pn =

∙−

TPt=1

E∂2Lt

∂β∂β0|βn¸−1

=h−T.E

³∂2Lt∂β∂β0 |βn

´i−1=

∙−T. 1

T.TPt=1

∂2Lt∂β∂β0 |βn

¸−1Akhirnya diperoleh

pn =

"−

TXt=1

∂2Lt

∂β∂β0|βn

#−1

=

"−

TXt=1

∂Lt

∂β

∂Lt

∂β0|βn

#−1

Bentuk umum dari BHHH method dinyatakan dengan menggunakan al-

goritma iterasi sebagai berikut::

βn+1 = βn + 1.

"−

TXt=1

∂Lt

∂β

∂Lt

∂β0|βn

#−1∂L

∂β|βn


atau

βn+1 = βn +

"TXt=1

∂Lt

∂β

∂Lt

∂β0|βn

#−1∂L

∂β|βn (2.30)

= βn +£z∗ (βn)0 z∗ (βn)

¤−1 ∂L∂β|βn

Dengan menambahkan perkalian antara skalar dan matrik identitas pada

algoritma iterasinya, akan diperoleh metode yang sama dengan Quadratic-

Hill Climbing pada penaksiran non-linear least square.

βn+1 = βn +

"TXt=1

∂Lt

∂β

∂Lt

∂β0|βn + λIK

#−1∂L

∂β|βn (2.31)

Bab 3

Prosedur Eksperimen

Prosedure eksperimen yang dilakukan adalah sebagai berikut:

1. Pembahasan identifikasi non-linearity pada model dan pendekatan op-

timasi untuk menentukan kondisi optimum. Dari hasil pembahasan

ini kemudian dikembangkan ke dalam metode-metode yang digunakan

dalam penaksiran estimator pada model non-linear. Hal ini perlu untuk

mengetahui perbedaan dari metode yang digunakan dan konsekuensi

yang akan dihasilkan dari metode-metode yang berbeda.

2. Memasukkan data berupa matriks 30x3 untuk masing-masing variabel

pada kedua model produksi dalam bentuk umum matriks, y = output;

L = input tenaga kerja dan K = input kapital.

3. Membangun matriks parameter berdimensi 3x1 untuk CD dan 4x1 un-

tuk CES, serta menentukan nilai permulaan dari parameter tersebut

untuk proses iterasi.

4. Membentuk model Least Square Error dan Maximum Likelihood seba-

gai fungsi obyektif dengan menggunakan matriks variabel dan matriks

parameter. Dari sini akan diperoleh persamaan, S (β) yang akan di-

tentukan kondisi optimal dengan first order condition.

5. Membangun operasi optimasi FOC (Gauss-Newton) dengan menggu-

nakan metode Least Square Error dan Maximum Likelihood (Berndt,

18

BAB 3. PROSEDUR EKSPERIMEN 19

Hall, Hall, dan Hausman) pada model CD dan CES.

6. Membangun persamaan yang menentukan nilai parameter berikutnya,

yaitu:

βn+1 = βn − tn.pn.γn

Apabila iterasi menunjukkan kondisi konvergen, maka nilai parameter

berikutnya akan sama dengan nilai parameter sebelumnya, sehingga

dianggap sebagai kondisi optimum.

7. Menjalankan proses iterasi dengan memasukkan nilai permulaan pa-

rameter pada persamaan 6, sehingga akan diperoleh nilai parameter

berikutnya. Mengulang-ulang proses ini hingga diperoleh nilai param-

eter dari proses iterasi yang sudah konvergen.

8. Mengubah nilai permulaan βn dari parameter dan panjang langkah tn

untuk melihat apakah kondisi optimum akan berubah.

9. Memasukkan pendekatanMarquardt-Levenberg padametode Least Square

Error dan pendekatan Quadratic Hill Climbing pada metodeMaximum

Likelihood sebagai variasi. Hasil dari penggunaan kedua pendekatan

tersebut dibandingkan dengan pendekatan Gauss-Newton pada Least

Squares dan pendekatan BHHH pada Maximum Likelihood.

10. Membangun persamaanAkaike Information Criteria (AIC) dan Schwart

Criteria (SC) untuk menentukan model yang paling sesuai atau efisien

untuk masing-masing pendekatan. Perhitungan AIC dan SC akan

menggunakan rumus berikut ini:

AIC = −2 log(max imum likelihood) + 2(#parameters)

SC = −2 log(max imum likelihood) + (log(T ))(#parameters)

Bab 4

Hasil dan Analisis

4.1 Input Data

Berdasarkan panduan tugas yang telah diberikan dikelas, eksperimen

ini akan menggunakan data produksi suatu komoditi (y) dengan input yang

digunakan adalah kapital (K) dan tenaga kerja (L). Sesuai dengan teori

pendukung yang telah dijabarkan dalam Bab 2, model statistik non-linier

berbentuk: y = f(x, β) + e. Data matriks di atas akan diuji dalam fungsi

produksi Cobb Douglas (CD) dan Constant Elasticity of Substitution (CES).

Baik untuk fungsi Cobb-Dauglas maupun CES, dimana e ∼ N(0, σ2IT ).

Fungsi produksi CD adalah sebagai berikut:

y = β1Lβ2Kβ3

sedangkan untuk fungsi CES dalam bentuk berikut:

y = β1[β2Lβ3 + (1− β2)K

β3]β4/β3

Data masing-masing variabel L,K dan y diberikan dalam bentuk matriks

yang berukuran 30x3, sebagai berikut:

20

BAB 4. HASIL DAN ANALISIS 21

LKy =

⎛⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎝

5.4293 6.6871 8.1879

5.5530 5.5175 7.4104

6.7105 6.6477 8.9496

6.6425 6.2364 8.3695

6.2046 6.6307 8.5519

6.1883 6.0521 8.3299

6.5191 6.1137 8.4877

6.6174 6.7056 9.1260

6.5889 6.7393 8.7961

6.5439 6.8648 8.7941

6.1269 4.4308 6.8657

6.8886 3.0445 5.7132

6.6931 5.6870 8.1641

6.0615 5.6240 7.9482

5.4424 6.3026 8.1264

6.4983 4.8598 7.2432

6.4473 2.8332 5.2521

4.0775 6.8090 7.7220

6.6983 5.4072 8.0002

6.6307 4.9767 7.3157

3.9120 5.0814 5.9833

6.7130 1.7918 4.4132

6.1800 6.7286 8.7229

6.5250 6.2558 8.6233

4.7536 6.8352 7.8589

6.0868 6.2046 8.0981

6.1225 5.2204 7.5533

5.8348 4.5218 6.8249

5.8805 6.1841 8.2967

5.0876 6.8395 8.1922

⎞⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎠L = LKy(:, 1);

K = LKy(:, 2);


y = LKy(:, 3);

x = LKy(:, 1 : 2);

Data tersebut dengan replikasinya dimasukan kedalammasing-masing

fungsi produksi untuk mengestimasi β dengan menggunakan iterasi algo-

ritma. Untuk mengestimasi parameter dengan Nonlinier Least Square, rep-

likasi kedua fungsi produksi CD dan CES digunakan melalui dua metoda,

Gause-Newton dan Marquardt- Levenberg. Dalam suatu proses iterasi akan

dibuat simulasi dengan perubahan nilai awal parameter serta perubahan pan-

jang langkah. Demikian pula, untuk mengestimasi parameter dengan max-

imum likelihood dilakukan dengan proses iterasi yang sama yaitu metoda

BHHH dan Quadratic-Hill Climbing.

Selanjutnya, akan ditentukan fungsi produksi mana yang paling co-

cok dalam merepresentasikan data dengan menghitung dan membandingkan

Akaike Criteria Information dan Schwart Criteria dari masing-masing fungsi

produksi tersebut.

4.2 Hasil dan Analisis

4.2.1 Fungsi Produksi Cobb-Douglas

Non-Linear Least Square

Untuk melakukan estimasi parameter β dengan mengunakan non-linear

least square, akan digunakan proses optimisasi dengan fungsi objektifnya

adalah meminimumkan sum of square error (least square error). Untuk itu,

digunakan iterasi Gauss Newton dan Iterasi Marquandt-Levenberg, sebagai

pembanding untuk menaksir parameter yang memenuhi fungsi objektifnya.

Hasil eksperimen-eksperimen disajikan dalam tabel-tabel berikut ini:

Tabel 1. Hasil Iterasi Gauss Newton untuk Fungsi Produksi Cobb-Douglas


Initial Value tn Optimal Value

β1 1 1 1.4781

β2 1 1 0.3741

β3 1 1 0.5725

S (β) 0.5443

Jumlah Iterasi 9

AIC 33.8285

SC 38.0321

Tabel 1 di atas, dengan menggunakan Iterasi Gauss Newton diper-

oleh nilai optimum pada iterasi ke 9. Adapun nilai awal parameter yang

diberikan adalah β1 = 1, β2 = 1, β3 = 1. Sedangkan panjang langkah tidak

berubah atau sama dengan 1, karena konstanta pengali dari Gauss Newton

adalah 1/2. Selanjutnya akan ditunjukkan juga jika nilai awal parameter

yang diubah-ubah, yang akan disajikan pada Tabel 2.

Tabel 2. Hasil Iterasi Gauss Newton dengan Fungsi Produksi Cobb-Douglas

(perubahan initial value)Initial Value tn Optimal Value S (β) Jumlah AIC SC

β1 β2 β3 bβ1 bβ2 bβ3 Iterasi

0.5 0.5 0.5 1 1.4781 0.3741 0.5725 0.5443 8 33.8285 38.0321

0.3 0.3 0.3 1 1.4781 0.3741 0.5725 0.5443 13 33.8285 38.0321

0.7 0.7 0.7 1 1.4781 0.3741 0.5725 0.5443 7 33.8285 38.0321

0.2 0.2 0.2 1 0 -0.0148 -0.0004 1.8301 132 41.9488 46.1524

Jika kita melakukan perubahan nilai awal parameter maka jumlah

iterasi juga akan berubah (lihat Tabel 2). Nilai awal parameter yang semula

diberikan pada Tabel 1 diubah menjadi (0.5, 0.3, 0.7). Berdasarkan hasil

ekperimen terlihat juga bahwa nilai optimum yang dihasilkan tetap sama

seperti pada Tabel 1, yaitu

⎛⎜⎝1.47810.3741

0.5725

⎞⎟⎠.Khusus untuk nilai awal sebesar (0.2)


atau sebenarnya adalah (0.262) diperoleh nilai yang berbeda. Oleh karena

itu, tidak ada jaminan akan mencapai nilai optimum tersebut adalah global

minimum. Namun demikian, jelas kita tidak menghendaki set parameter⎛⎜⎝ 0

−0.0148−0.0004

⎞⎟⎠ ,karena β1 adalah nol sehingga menyebabkan total output nol.

Dengan demikian, model CD yang dianggap optimum menurut iterasi Gauss

Newton adalah sebagai berikut:

y = 1.4781L0.3741K0.5725

Selanjutnya bila digunakan jenis iterasi lain, yaitu iterasi Marquandt-

Levenberg. Hasil estimasi dari Marquandt-Levenberg akan ditunjukkan di

bawah ini:

Tabel 3. Hasil iterasi Marquandt-Levenberg dengan Fungsi Produksi

Cobb-DouglasInitial Value tn Optimal Value S(β) Jumlah AIC SC


1.0 1.0 1.0 1 1.4781 0.3741 0.5725 0.5443 86 33.8285 38.0321

0.5 0.5 0.5 1 1.4781 0.3741 0.5725 0.5443 85 33.8285 38.0321

0.3 0.3 0.3 1 1.4781 0.3741 0.5725 0.5443 88 33.8285 38.0321

0.2 0.2 0.2 1 1.4781 0.3741 0.5725 0.5443 89 33.8285 38.0321

0.5 0.5 0.5 3 1.4781 0.3741 0.5725 0.5443 31 33.8285 38.0321

0.3 0.3 0.3 3 1.4781 0.3741 0.5725 0.5443 31 33.8285 38.0321

0.2 0.2 0.2 3 1.4781 0.3741 0.5725 0.5443 34 33.8285 38.0321

0.5 0.5 0.5 6 1.4781 0.3741 0.5725 0.5443 32 33.8285 38.0321

0.3 0.3 0.3 6 1.4781 0.3741 0.5725 0.5443 29 33.8285 38.0321

0.2 0.2 0.2 6 1.4781 0.3741 0.5725 0.5443 30 33.8285 38.0321

Dengan melakukan iterasi Marquandt-Levenberg memungkinkan untuk

mengubah panjang langkah (tn). Dengan perkataan lain, selain mengubah

nilai awal parameter, panjang langkah juga dapat diubah. Panjang langkah

dan nilai awal parameter ditentukan secara bebas. Berdasarkan Tabel 3,

dapat disimpulkan beberapa hal:


• Jika nilai awal parameter diubah, namun panjang step yang diberikantetap, tidak akan banyak memberikan perubahan yang signifikan dalam

hal jumlah iterasi.

• Jika nilai awal parameter tetap, namun panjang step yang diberikanberubah, maka memberikan perubahan yang signifikan dalam julah it-

erasi, yaitu ada kecenderungan semakin besar tn (panjang langkah)

maka makin kecil iterasinya.

• Metoda iterasi Marquandt-Levenberg lebih baik iterasi Gauss Newtoncontohnya untuk mengestimasi nilai awal parameter masing -masing

(0.262). Dengan cara iterasi Gauss Newton diperoleh set parame-

ter

⎛⎜⎝ 0

−0.0148−0.0004

⎞⎟⎠ ,namun dengan iterasiMarquandt-Levenberg diperoleh

angka yang lebih baik yaitu

⎛⎜⎝1.47810.3741

0.5725

⎞⎟⎠ yang merupakan nilai kovergen

pada umumnya.

Nilai optimum yang dihasilkan oleh Marquandt-Levenberg bernilai sama

dengan nilai optimum yang dihasilkan oleh Iterasi Gauss Newton, sehingga

model yang dibentuk juga sama yaitu;

y = 1.4781L0.3741K0.5725

Non-Linear Maximum Likelihood

Selanjutnya, akan digunakan proses optimisasi dengan fungsi objek-

tif yaitu memaksimumkan likelihood.Tidak berbeda dengan non-linier least

square, maximum likelihood juga menentukan parameter-parameter, β0s ,

tetapi yang dapat memaksimumkan likelihood. Pada penaksiran maximum

likelihood akan digunakan iterasi Berndt, Hall,Hall dan Hausman (BHHH)

dan metode Hill Climbing sebagai pembanding untuk menaksir parameter


yang memenuhi fungsi objektif. Hasil iterasi BHHH dengan fungsi produksi

Cobb-Dauglas adalah:

Tabel 4. Hasil Iterasi BHHH dengan Fungsi Produksi Cobb-DouglasInitial Value tn Optimal Value S (β) Jumlah AIC SC


1.0 1.0 1.0 1 1.4781 0.3741 0.5725 0.0181 -13.9143 968 33.8285 38.0321

Pada awalnya, panjang langkah belum diperhitungkan, yaitu hanya

memberikan nilai sebesar 1 sebagai konstanta pengali dari persamaan al-

goritma iterasinya. Dari Tabel 4, dapat disimpulkan bahwa nilai optimum

yang dihasilkan dengan menggunakan penaksiran dengan fungsi objektif yang

meminimumkan sum of square error (least square error) dan penaksiran den-

gan fungsi objektif yang memaksimumkan maximum likelihood akan meng-

hasilkan nilai yang sama. Selanjutnya, nilai awal parameter dirubah-ubah

sesuai dengan sewaktu digunakan metoda Marquandt-Levenberg sehingga

dapat dibandingan antar metoda. Selain nilai awal parameter yang diubah,

panjang langkah juga akan mengalami perubahan. Adapun hasil perhitungan

akan disajikan dalam Tabel 5.


Tabel 5. Hasil Iterasi Hill Climbing dengan Fungsi Produksi Cobb-DouglasInitial Value tn Optimal Value S (β) Jumlah AIC SC


1.0 1.0 1.0 1 1.4781 0.3741 0.5725 0.0181 -13.9143 1096 33.8285 38.0321

0.5 0.5 0.5 1 1.4781 0.3741 0.5725 0.0181 -13.9143 1069 33.8285 38.0321

0.3 0.3 0.3 1 1.4781 0.3741 0.5725 0.0181 -13.9143 1083 33.8285 38.0321

0.2 0.2 0.2 1 1.4781 0.3741 0.5725 0.0181 -13.9143 1085 33.8285 38.0321

0.5 0.5 0.5 3 1.4781 0.3741 0.5725 0.0181 -13.9143 375 33.8285 38.0321

0.3 0.3 0.3 3 1.4781 0.3741 0.5725 0.0181 -13.9143 380 33.8285 38.0321

0.2 0.2 0.2 3 1.4781 0.3741 0.5725 0.0181 -13.9143 381 33.8285 38.0321

0.5 0.5 0.5 6 1.4781 0.3741 0.5725 0.0181 -13.9143 190 33.8285 38.0321

0.3 0.3 0.3 6 1.4781 0.3741 0.5725 0.0181 -13.9143 193 33.8285 38.0321

0.2 0.2 0.2 6 1.4781 0.3741 0.5725 0.0181 -13.9143 193 33.8285 38.0321

Berdasarkan Tabel 5, dapat disimpulkan bahwa nilai optimal adalah

sebagai berikut; (a). jika nilai awal parameter diubah, namun panjang step

yang diberikan tetap, tidak akan banyak memberikan perubahan yang sig-

nifikan dalam hal jumlah iterasi; (b). jika nilai awal parameter tetap, na-

mun panjang step yang diberikan berubah, maka memberikan perubahan

yang signifikan dalam julah iterasi, yaitu ada kecenderungan semakin besar

tn (panjang langkah) maka makin kecil iterasinya; dan (c). Bila diband-

ingkan, metoda iterasi Hill Climbing (maxsimum likelohood) memberikan

iterasi yang lebih panjang dari pada metoda iterasi Marquandt-Levenberg

(least Square).

Nilai optimum yang dihasilkan oleh iterasi Berndt, Hall,Hall dan Haus-

man (BHHH) dan metode Hill Climbing Hill bernilai sama dengan nilai opti-

mum yang dihasilkan oleh Iterasi nonlinier least square, sehingga model yang

dibentuk juga sama yaitu;

y = 1.4781L0.3741K0.5725


4.2.2 Fungsi Produksi CES

Non-Linear Least Square

Untuk melakukan estimasi parameter fungsi produksi CES dilakukan prose-

dur yang sama. Dengan mengunakan metoda Gause Newton diperoleh tak-

siran parameter sebagai berikut:

Tabel 6. Hasil Iterasi Gauss Newton dengan Fungsi Produksi CESInitia l Value tn Optimal Value S (β) Jum lah A IC SC

β1 β2 β3 β4 bβ1 bβ2 bβ3 bβ4 Iterasi

0 .9 0.9 0.9 0.9 1 1.3724 0.3894 0.3100 0.9869 0.5073 13 35.7580 41.3628

0.75 0.75 0.75 0.75 1 1.3724 0.3894 0.3100 0.9869 0.5073 14 35.7580 41.3628

1.0 0.5 0.8 0.8 1 1.3724 0.3894 0.3100 0.9869 0.5073 10 35.7580 41.3628

1.0 0.5 0.6 0.6 1 2000 tidak kogergen

Seperti telah diketahui bahwa parameter pada fungsi produksi CESmemi-

liki parameter yang lebih banyak dari fungsi produksi CD. Dengan menggu-

nakan panjang langkah yang tetap yaitu bernilai 1 dan nilai awal parame-

ter yang diubah-ubah, dan dicoba juga nilai parameter yang menghasilkan

tidak konvergen sampai dengan iterasi ke 2000 untuk dapat membandingkan

dengan metoda lain. Namun secara umum, diperoleh nilai optimal sebe-

sar

⎛⎜⎜⎜⎜⎝1.3724

0.3894

0.3100

0.9869

⎞⎟⎟⎟⎟⎠ . Sehingga model yang dibentuk dari hasil penaksiran dengan

fungsi CES melalui metode Iterasi Gauss Newton dapat dituliskan sebagai

berikut :

y = 1.3724(0.3894L0.3100(1− 0.3894)K0.3100)0.9869/0.3100


Selanjutnya, akan digunakan juga Iterasi Marquandt-Levenberg, yang

akan disajikan pada Tabel 7

Tabel 7. Hasil Estimasi Marquandt-Levenberg dengan Fungsi Produksi CESInitia l Value tn Optimal Value S (β) Jum lah A IC SC


0 .9 0.9 0.9 0.9 1 1.3724 0.3894 0.3100 0.9869 0.5073 452 35.7580 41.3628

0.75 0.75 0.75 0.75 1 1.3724 0.3894 0.3100 0.9869 0.5073 446 35.7580 41.3628

1.0 0.5 0.8 0.8 1 1.3724 0.3894 0.3100 0.9869 0.5073 448 35.7580 41.3628

1.0 0.5 0.6 0.6 1 1.3724 0.3894 0.3100 0.9869 0.5073 440 35.7580 41.3628

0.9 0.9 0.9 0.9 3 1.3724 0.3894 0.3100 0.9869 0.5073 55 35.7580 41.3628

0.75 0.75 0.75 0.75 3 1.3724 0.3894 0.3100 0.9869 0.5073 51 35.7580 41.3628

1.0 0.5 0.8 0.8 3 1.3724 0.3894 0.3100 0.9869 0.5073 55 35.7580 41.3628

1.0 0.5 0.6 0.6 3 1.3724 0.3894 0.3100 0.9869 0.5073 41 35.7580 41.3628

0.9 0.9 0.9 0.9 6 1.3724 0.3894 0.3100 0.9869 0.5073 57 35.7580 41.3628

0.75 0.75 0.75 0.75 6 1.3724 0.3894 0.3100 0.9869 0.5073 61 35.7580 41.3628

1.0 0.5 0.8 0.8 6 1.3724 0.3894 0.3100 0.9869 0.5073 60 35.7580 41.3628

1.0 0.5 0.6 0.6 6 1.3724 0.3894 0.3100 0.9869 0.5073 59 35.7580 41.3628

Berdasarkan Tabel 7 diatas, dengan merubah-ubah nilai awal param-

eter dan panjang langkah yang ditentukan secara bebas maka dapat disim-

pulkan bahwa; (a). perubahan nilai awal parameter dan panjang langkah

tetap, maka tidak berpengaruh yang significant terhadap jumalh iterasi; (b).

bila nilai awal tetap dan jika nilai panjang langkah makin besar, maka makin

kecil jumlah iterasinya, namun mencapai titik terrendah pada saat panjang

langkah 3 (bila diubah lebih besar maka ada kecenderungan jumlah iterasi

cenderung meningkat); (c) Metoda Marquant-Levenberg dapat menghasilkan

nilai yang konvergen yang mana dengan metoda Gause Newton tidak dapat

konvergen pada nilai parameter [1.0 0.5 0.6 0.6] (lihat tabel 6 dan tabel 7).

Non-Linear Maximum Likelihood


Selanjutnya prosedur yang sama dilakukan untuk estimasi fungsi produksi

CES, yang akan disajikan pada Tabel 8.

Tabel 8. Hasil Iterasi BHHH dengan Fungsi Produksi CESInitia l Value tn Optimal Value S (β) Jum lah AIC SC


0 .9 0.9 0.9 0.9 1 1.3724 0.3894 0.3100 0.9869 0.0169 -13.8790 686 35.7580 41.3628

Dari Tabel 8, dapat disimpulkan bahwa nilai optimum yang dihasilkan

pada fungsi produksi CES dengan menggunakan penaksiran dengan fungsi

objektif yang meminimumkan sum of square error (least square error) dan pe-

naksiran dengan fungsi objektif yang memaksimumkan maximum likelihood

akan menghasilkan nilai yang sama. Tabel 8 dilakukan tanpa memasukkan

panjang langkah sebagai konstanta pengali dari persamaan iterasi. Selanjut-

nya, akan dilakukan iterasi Hill Climbing dengan fungsi produksi CES yang

mengubah-ubah nilai awal parameter dan panjang langkah. Hasilnya akan

disajikan pada tabel di bawah ini:

Tabel 9. Hasil Estimasi Iterasi Hill Climbing dengan Fungsi Produksi CESInitia l Value tn Optimal Value S (β) Jum lah A IC SC


0 .9 0.9 0.9 0.9 1 1.3724 0.3894 0.3100 0.9869 0.0169 -13.8790 929 35.7580 41.3628

0.75 0.75 0.75 0.75 1 1.3724 0.3894 0.3100 0.9869 0.0169 -13.8790 931 35.7580 41.3628

1.0 0.5 0.8 0.8 1 1.3724 0.3894 0.3100 0.9869 0.0169 -13.8790 912 35.7580 41.3628

1.0 0.5 0.6 0.6 1 1.3724 0.3894 0.3100 0.9869 0.0169 -13.8790 899 35.7580 41.3628

0.9 0.9 0.9 0.9 3 1.3724 0.3894 0.3100 0.9869 0.0169 -13.8790 324 35.7580 41.3628

0.75 0.75 0.75 0.75 3 1.3724 0.3894 0.3100 0.9869 0.0169 -13.8790 325 35.7580 41.3628

1.0 0.5 0.8 0.8 3 1.3724 0.3894 0.3100 0.9869 0.0169 -13.8790 317 35.7580 41.3628

1.0 0.5 0.6 0.6 3 1.3724 0.3894 0.3100 0.9869 0.0169 -13.8790 312 35.7580 41.3628

0.9 0.9 0.9 0.9 6 1.3724 0.3894 0.3100 0.9869 0.0169 -13.8790 161 35.7580 41.3628

0.75 0.75 0.75 0.75 6 1.3724 0.3894 0.3100 0.9869 0.0169 -13.8790 167 35.7580 41.3628

1.0 0.5 0.8 0.8 6 1.3724 0.3894 0.3100 0.9869 0.0169 -13.8790 159 35.7580 41.3628

1.0 0.5 0.6 0.6 6 1.3724 0.3894 0.3100 0.9869 0.0169 -13.8790 163 35.7580 41.3628


Berdasarkan Tabel 9, ditunjukkan bahwa perubahan nilai awal pa-

rameter tidak mempengaruhi perubahan pada nilai optimal, sedangkan pe-

rubahan panjang langkah mempengaruhi perubahan jumlah iterasi terca-

painya kondisi konvergen. Dapat juga disimpulkan bahwa semakin besar

panjang langkah akan menghasilkan jumlah iterasi yang semakin mengecil

untuk mencapai kondisi konvergen.

4.2.3 Model Terbaik

Selanjutnya,untuk mengetahui fungsi produksi mana yang sesuai dengan

data yang diberikan, apakah fungsi produksi CES atau fungsi produksi CD,

maka akan dibandingkan nilai AIC dan SC yang dihasilkan oleh fungsi pro-

duksi CD dan CES. Berdasarkan eksperimen-eksperimen di atas ditunjukkan

bahwa dalam fungsi CDmenghasilkan nilai AIC sebesar 33.8285 dan SC sebe-

sar 38.0321. Sedangkan dalam fungsi CES menghasilkan nilai AIC sebesar

35.7580 dan SC sebesar 41.3628. Berdasarkan nilai-nilai tersebut, terlihat

bahwa fungsi CD memiliki nilai AIC dan SC yang lebih kecil, sehingga da-

pat disimpulkan bahwa, input data yang telah diberikan lebih sesuai dengan

fungsi CD. Atau dengan perkataan lain, berdasarkan data yang ada, fungsi

CD lebih efisien dengan data yang diberikan dibandingkan dengan fungsi

CES.

Jika dibandingkan denganmodel Cobb-Douglass, dapat disimpulkan bahwa

fungsi produksi CES memberikan nilai optimal yang lebih kecil, namun mem-

berikan nilai AIC dan SC yang lebih besar. Dengan perkataan lain, dengan

metode non linier maximum likelihood, input data yang digunakan dalam

eksperimen ini lebih efisien untuk fungsi produksi Cobb-Douglass diband-

ingkan dengan fungsi produksi CES karena nilai AIC dan SC dengan fungsi

produksi CD lebih kecil. Hasil melalui penaksiran maximum likelihood ini

sama dengan hasil melalui penaksiran least square.

Bab 5

Kesimpulan

Beberapa kesimpulan dapat diperoleh berdasarkan hasil perhitungan

dan analisa untuk dua fungsi produksi sebagai berikut;

1. Dengan mengubah nilai awal parameter maupun panjang langkah, di-

tunjukkan bahwa perubahan nilai awal parameter tidak terlalu berpen-

garuh pada jumlah iterasi. Sedangkan panjang langkah sangat berpen-

garuh pada jumlah iterasi pada kondisi konvergen.

2. Bila dibandingkan dari keempat metoda iterasi, Metoda Gause-Newton

mempunyai kelemahan dalam melakukan iterasi nilai parameter yang

kadang kala tidak mencapai konvergensi, namun bila digunakan metoda

lain (misalnya Marquardt-Levenberg atau Hill Climbing) dapat diper-

oleh nilai konvergensi.

3. Nilai optimum yang diperoleh oleh fungsi CD baik yang dilakukan

melalui penaksiran least square dan maximum likelihood menghasilkan

nilai yang sama, dimana nilai optimal tersebut lebih besar dari ni-

lai optimal yang dihasilkan oleh fungsi produksi CES. Tidak berbeda

dengan fungsi CD, dengan fungsi produksi CES juga menghasilkan ni-

lai optimal yang sama jika dilakukan dengan penaksiran least square

dan penaksiran maximum likelihood. Bentuk dari fungsi produksi CD

yang dihasilkan dalam eksperimen ini adalah sebagai berikut: y =

1.4781L0.3741K0.5725. Sementara itu, bentuk dari fungsi produksi CES

32

BAB 5. KESIMPULAN 33

yang dihasilkan dalam ekperimen ini adalah sebagai berikut: y =

1.3724(0.3894L0.3100(1− 0.3894)K0.3100)0.9869/0.3100.

4. Berdasarkan input data yang telah ditentukan dalam eksperimen ini,

maka fungsi produksi CD lebih sesuai atau efisien dengan data tersebut

dibandingkan dengan fungsi produksi CES. Hal ini disebabkan nilai

AIC dan SC yang dihasilkan dengan fungsi produksi CD lebih kecil

dengan nilai AIC dan SC yang dihasilkan dengan fungsi produksi CES.

Kesimpulan ini atau hasil ini sama jika dilakukan dengan penaksiran

least square maupun dengan penaksiran maximum likelihood.

Lampiran

Daftar Lampiran

1. Program dan Output MATLAB untuk Non-Linear Least Square fungsi

produksi Cobb-Douglas dengan Iterasi Gauss-Newton.


produksi Cobb-Douglas dengan Iterasi Marquandt-Levenberg.

3. Program dan OutputMATLAB untukMaximumLikelihood fungsi pro-

duksi Cobb-Douglas dengan Iterasi Berndt, Hall, Hall & Haussman.


duksi Cobb-Douglas dengan Hill Climbing.


produksi CES dengan Iterasi Gauss-Newton.


produksi CES dengan Iterasi Marquandt-Levenberg.


duksi CES dengan Iterasi Berndt, Hall, Hall & Haussman.


duksi CES dengan Iterasi Hill Climbing.

34

Daftar Pustaka

[1] Judge, George G., W.E. Griffiths, R.C. Hill, H. Lütkepohl, and T.C. Lee

(1988), "Introduction to The Theory and Practice of Econometrics", 2nd

Ed. New York, Wiley

[2] Judge, George G., W.E. Griffiths, R.C. Hill, H. Lütkepohl, and T.C. Lee

(1980), "The Theory and Practice of Econometrics", New York, Wiley

[3] Griffith, WE.,R.C. Hill., GG Judge (1993), "Learning and Practising

Econometrics", New York, Wiley.

[4] Greene, William H., (2003), Econometric Analysis", 5th Ed., New Jersey,

Prentice Hall.

[5] Syamsuddin, M., (2006), Catatan Kuliah Ekonometrika 3, Pascasarjana,

Fakultas Ekonomi, Universitas Indonesia, Depok.

35

estimasi nonlinier

Documents

Transcript of estimasi nonlinier