Regresi Berganda

Muchdie, Ir, MS, Ph.D.FE-Uhamka

Pokok BahasanModel Regresi BergandaEstimasi OLS Thd Koefisien Regresi

BergandaInterval Estimasi Koefisien Regresi BergandaUji t Koefisien Regresi ParsialKoefisien Determinasi Yg DisesuaikanUji Hipotesis Koefisien Regresi Menyeluruh:

Uji FUji Perubahan Struktural Model Regresi : Uji

ChowPemilihan Model Fungsi RegresiLampiran-Lampiran

Model Regresi BergandaModel regresi sederhana tidak mencerminkan kondisi yang

sesungguhnya karena banyak faktor yang mempengaruhi variabel dependen

Model regresi berganda: model yang memiliki lebih dari satu variabel independen

Yi = βo + β1 X1i + β2X2i +...+ βk Xki + ei 4.1

Model regresi berganda dengan dua variabel independen

Yi = βo + β1 X1i + β2X2i + ei 4.2

• dimana: Y = Variabel dependent, X1 dan X2 adalah variabel independen dan ei adalah variabel gangguan, βo intercept, β1 dan β2 koefisien regresi parsial.

Metode OLS dan Program KomputerEstimator, βo , β1 dan β2 masih dapat dengan mudah dihitung secara

manual menggunakan metode OLS. Utk menghemat waktu digunakan menggunakan software komputer

yang umum dan mudah.Misal, analisis ekspor pakaian jadi Indonesia ke Jepang

menggunakan data 1985-2000 menggunakan model regresi berganda sebagai berikut :

Yi = βo + β1 X1t + β2X2t + et

• dimana: Y = ekspor pakaian jadi ke Jepang (ton), X1 = harga pakaian ekspor (US$/ton , X2 = kurs Rupiah thd Yen (Rp/Yen) dan t = waktu observasi

• Harga diharapkan berhubugan positif dan kurs juga berhubungan positif terhadap ekspor.

Estimasi Ekspor Pakaian Jadi ke Jepang

Variable Coefficient Std Error T-Statistic Prob

CX1X2

-4067,4967,8150371001.855

4584,4541,818575130,3073

-0,8872374,2973407,688406

0,39110,00090,0000

R-squared O,911347 Mean dependent var 37913,01

Adj R-squared 0,897709 SD dependent var 34949,41

SE of regression 11177,88 Akaike info criterion 21,64862

Sum square resd 162E+09 Schwarz criterion 21,79348

Log likelihood -170,1890 F-statistic 66,81992

Durbin-Watson 2,161663 Prob (F-statistic) 0,000000

Dependent Variable : YMethod : Least Squares

Sample : 1985 2000

Contoh lain : Produksi Padi di Indonesia

Regresi produksi padi menggunakan data cross-section dari 23 Provinsi di Indonesia Tahun 1994 dengan model regresi berganda log-liniear.

lnYi = βo + β1 ln X1i + β2 ln X2i + β3 ln X3i + ei

• dimana: Y = Rata-rata produksi (kg/ha), X1 = Rata-rata penggunaan bibit (kg/ha), X2 = Rata-rata penggunaan pestisida (kg/ha), X3 = Rata-rata penggunaan pupuk (kg/ha) dan i = lokasi observasi

Estimasi Produksi Padi di Indonesia 1985-2000

Variable Coefficient Std Error T-Statistic Prob

Clog (X1)log (X2)log (X3)

5,5840940,2259780,0489450,351872

0,4081750,1004110,0250510,044586

13,680642,2505201,9538237,892020

0,00000,03650,06560,0000

R-squared 0,862508 Mean dependent var 8,263121

Adj R-squared 0,840799 SD dependent var 0,245757

SE of regression 0,098057 Akaike info criterion -1,64977

Sum square resd 0,182688 Schwarz criterion -1,45229

Log likelihood 22,97231 F-statistic 39,72996

Durbin-Watson 2,303450 Prob (F-statistic) 0,000000

Dependent Variable : log (Y)Method : Least Squares

Sample : 1 23

Interval Estimasi Koef Regresi Berganda

Agar estimator sampel, βi, yg sedekat mungkin dgn estimator populasi βi, digunakan interval estimasi yg dihitung menggunakan distribusi t.

Untuk βo : βo ± t (n-k), α/2 Se (βo)

Untuk βi : βi ± t (n-k), α/2 Se (βi) i =1,2,...k

[βi - t (n-k), α/2 Se (βi) , βi + t (n-k), α/2 Se (βi)]

Contoh :Menggunakan data ekspor pakaian jadi ke Jepang, dengan

α = 5%, nilai t-kritis untuk α =5% dan df=13, t-tabel= 2,160, maka interval untuk masing-masing β0, β1 dan β2 adalah : βo [-4067 ± 2,16(4584,454)] β1 [7,815 ± 2,16(1,8186)] β2 [1001,855 ± 2,16(130,3073)]

Sehingga interval estimator β0, β1 dan β2 :βo terletak antara : -5057,92< β0<-3077,076β1 terletak antara : 3,8868 <β1<11,7432β2 terletak antara : 720,39 < β1<1283,32

Uji t Koefisien Regresi Parsial

Prosedur uji t utk koefisien regresi parsial : Membuat hipotesis melalui uji satu sisi atau dua sisi

Uji hipotesis positif satu sisi Ho : β1 = 0 dan Ha : β1 >0Uji hipotesis negatif satu sisi Ho : β1 = 0 dan Ha : β1<0Uji hipotesis dua sisi Ho : β1 = 0 dan Ha : β1 ≠ 0

Ulangi langkah pertama tersebut untuk β2.Menghitung nilai t hitung untuk β1 dan β2 dan mencari nilai t-

kritis dari tabel distribusi t pada α dan degree of freedom tertentu, dimana t = [(β1 –β1

*)/Se(β1)]Membandingkan nilai t hitung dengan t-kritisnya

t-hitung > t-kritis : tolak Ho atau terima Hat-hitung < t-kritis : terima Ho atau tolak Ha

Koefisien Determinasi

• Nilai R2 akan bertambah jika jumlah variabel X bertambah. Ini terjadi secara sistematis karena penggunaan metode OLS, oleh karena itu digunakan R2 yang telah disesuaikan.

• R2bar = 1 - [(∑ei2)/(n-k)/ ∑(Yi –Ybar) 2/(n-1)]

• Koefisien determinasi regresi berganda sama dengan koefisien determinasi regresi sederhana.

• R2 = ESS/TSS = 1 – (RSS/TSS)• R2 = 1 – [(∑ei

2)/ ∑yi2)]

• R2 = 1 – [(∑ei2)/ ∑(Yi –Ybar) 2]

Uji Hipotetis Koefisien Regresi Secara Menyeluruh : Uji F• Uji F adalah uji pengaruh semua variabel independen

terhadap variabel dependen, dimana Uji F dapat dijelaskan dengan menggunakan analisis varian (ANOVA)

Sumber Variasi

SS (Sum Squares)

df MSS (Mean sum of square

F

ESS ∑(Yi – Ybar)2 k-1 ESS/k-1(ESS/k-1)(RSS/n-k)RSS ∑(Yi - Yi)2 n-k RSS/n-k

TSS ∑(Yi – Ybar)2 n-1 TSS/n-1

F = [(R2/k-1)/(1-R2/n-k)] 4.36

Uji F Koefisien Regresi Menyeluruh

Prosedur uji F utk koefisien regresi menyeluruh: Membuat hipotesis nol dan hipotesisi alternatif :

Ho : β1 = β2 = ........βk = 0Ha : β1 ≠ β2 ≠........βk ≠ 0

Menghitung nilai F hitung denmgan formula 4.36 dan mencari nilai F-tabel dari tabel distribusi F pada α dan degree of freedom tertentu.

Membandingkan nilai F-hitung dengan F-tabelF-hitung > t-tabel : tolak Ho atau terima HaF-hitung < t-tabel : terima Ho atau tolak Ha

Uji Perubahan Struktural Model RegresiPenggunaan data time series menganggap tidak terjadi

perubahan struktural pada semua periode waktu penelitian.

Faktanya, semakin panjang periode waktu pengamatan memungkinkan terjadi perubahan-perubahan, baik berupa perubahan internal maupun karena faktor-faktor eksternal.

Pertanyaannya apakah perubahan-perubahan ini dapat dijelaskan oleh model regresi.

Gregory C. Chow mengembangkan suatu uji untuk mengetahui ada tidaknya perubahan struktural dalam regresi dengan menggunakan Uji F.

Uji ChowAsumsi Uji Chow :◦ Variabel gangguan e pada dua periode pengamatan mempunyai

distribusi yang normal.◦ Variabel gangguan juga mempunyai varian yang sama (homoskedastik).◦ Variabel gangguan tidak saling berhubungan.

Uji Chow :• Untuk memahami Uji Chow, gunakan kasus analisis impor Indonesia 1980-

2002. Dalam priode ini diduga ada perubahan kebijakan impor, dari substitusi impor ke promosi ekspor.

• Menggunakan model linier akan diuji apakah terjadi perubahan struktural akibat perubahan kebijakan industrialisasi di Indonesia.

• Periode penelitian dibagi dua, yaitu periode 1980-1990 dengan n1= 11 saat kebijakan substitusi impor dan periode 1991-2002 dengan n2=12, saat kebijakan promosi ekspor.

Uji ChowPersamaan pada kebijakan substitusi impor 1980-1990◦ Yt = δo + δ1X1t + δ2X2t +et 4.39Persamaan pada kebijakan promosi ekspor 1991-2002◦ Yt = λo + λ1X1t + λ2X2t +et 4.40

Uji Chow :• Jika ada perubahan struktural kemungkinan hasil dari dua

model regresi itu adalah beda dalam hal intercept atau berbeda slope. Tetapi jika tidak ada perubahan struktural maka kita dapat menggabungkan regresi n1 dan n2 menjadi persamaan : Yt = βo + β1X1t + β2X2t +et 4.38

Uji ChowProsedur Uji Chow :• Estimasi pers (4.38) dan dapatkan RSS1 (Residual Sum of Squares)

dengan df = (n1 + n2 – k), RSS1 merupakan restricted RSSR karena dianggap bahwa δo = λo ; δ1 = λ1 ; δ2 = λ2.

• Estimasi pers (4.39) dan (4.40) secara terpisah, dapatkan RSS2 dengan df=(n1-k) dan RSS3 dengan df=(n2-k). Selanjutnya, dapatkan unrestricted RSSUR dengan df=(n1 +n2 – 2k) dgn cara menambahkan RSS2 dan RSS3.

• Dengan asumsi Chow, uji perubahan struktural dapat dilakukan melalui Uji F = [(RSSR – RSSUR)/k ] dibagi dengan [(RSSUR)/(n1 + n2 - 2k ].

• Jika F-hitung > F-tabel, tolak Ho yg menyatakan tidak ada perubahan struktural atau terima Ha yang menyatakan ada perubahan struktural.

Contoh Uji Chow• Analisis kasus permintaan impor Indonesia 1980-2002. Apakah

terjadi perubahan struktural karena kebijakan industrialisasi pada periode tersebut ?

• Langkah 1 : Periode 1980-2002 Yt = -9588,023 – 83,9487 X1t + 0,1673X2t

t (-3,9831) (-3,9254) (8,9152) R2= 0,912921 RSS1=RSSR = 2,11x108 df=20

• Langkah 2 : • Periode 1980-1990 Yt = -16812,28 – 179,1829 X1t + 0,2698X2t

t (-1,0550) (-1,4125) (1,6922) R2= 0,3948 RSS2 = 71952139 df=8

Contoh Uji Chow• Langkah 2 : • Periode 1991-2002 Yt = -4608,959 – 77,1895 X1t + 0,1503X2t

t (-0,5134) (-3,0977) (5,0184) R2= 0,7367441 RSS3 = 1,19 x 108 RSSUR= 190952139 df=9

• Langkah 3: Hitung nilai F, diperoleh = 0,6650• Nilai F-tabel dng α = 5% dengan df (3,17)= 3,49• Karena F-hitung < F-tabel , terima Ho, artinya selama

periode penelitian 1980-2002 tidak ditemukan adanya perubahan struktural. Jelasnya, perubahan kebijakan industrialisasi tidak berpengaruh terhadap perilaku impor.

Pemilihan Model Fungsi Regresi