AnalisaRegresiDuaVariabel:...
Transcript of AnalisaRegresiDuaVariabel:...
Analisa Regresi Dua Variabel: Estimasi
Tjipto Juwono, Ph.D.
May 2018
TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 1 / 25
PRL vs SRL
Apa Perbedaan PRL dan SRL
Population Regression Line Diperoleh dari populasi dengan dengancara menghubungkan semua conditional mean.
Sample Regression Line Diperoleh dari sample dengan cara metodeleast squares
TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 2 / 25
PRL vs SRL
Gambar 1: Populasi terdiri dari 60 keluarga terbagi atas 10 income groups
TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 3 / 25
Mean Values Vs Fixed Values
Gambar 2: Grafik E(Y |X) vs X. Populasi terdiri dari 60 keluarga terbagiatas 10 income groups
TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 4 / 25
Sampel
Gambar 3: Sampel-1, dari data padatabel Gbr (1)
Gambar 4: Sampel-2, dari data padatabel Gbr (1)
TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 5 / 25
Sample Regression Line
Gambar 5: SRL, diperoleh dari dua sample pada Gbr. (3,4)
TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 6 / 25
PRL vs SRL
Gambar 6: Perbandingan antara PRL dan SRL
TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 7 / 25
Least Squares Principles
Ingat kembali PRF:
Yi = β1 + β2Xi + ui (1)
Apa yang terjadi jika kita tidak mempunyai data populasi, danhanya mempunyai data sampel? Artinya: PRF (Pers. (1)) tidakdiketahui.
Kita meng-estimasi PRF, dengan SRF:
Yi = β1 + β2Xi + ui
= Yi + ui (2)
Pertanyaannya adalah: Bagaimana cara memperoleh SRL?
TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 8 / 25
Least Squares Principles
Meminimalisasi penjumlahan semua ui? → Meminimalkan∑
i ui?
Gambar 7: Bagaimana memperoleh SRF
TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 9 / 25
Least Squares Principles
Bagaimana memperoleh SRF?
Meminimalisasi penjumlahan semua ui? → Meminimalkan∑
i ui?
Bukan langkah yang tepat. Walaupun sebenarnya ui mempunyai nilaiabsolut yang besar sehingga SRF jelas bukan yang terbaik, namun uiyang positip dan negatip dapat saling meniadakan sehingga diperoleh∑
i ui minimum. Walaupun SRF yang diperoleh jauh dari SRF yangterbaik.
TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 10 / 25
Least Squares Principles
Meminimalisasi penjumlahan semua u2i ? → Meminimalkan∑
i u2
i ?
TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 11 / 25
Least Squares Principles
Bagaimana memperoleh SRF?
Meminimalisasi penjumlahan semua u2i ? → Meminimalkan∑
i u2
i ?
Langkah yang tepat! Dengan mengkuadratkan ui, maka kitamemperoleh nilai yang positip semua. Meminimalisasi
∑
i u2
i akanmenghasilkan SRF yang terbaik. Proses meminimalisasi
∑
i u2
i
merupakan asal usul istilah ”least squares”. Metode ini disebut metodeleast squares
TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 12 / 25
Hasil minimalisasi∑
u2i
Yi = β1 + β2Xi (3)
β2 = rsy
sx(4)
β1 = Y − β2X (5)
Dengan sx dan sy adalah Standard Deviasi Sample:
sx =
√
∑
(X − X)2
n− 1(6)
sy =
√
∑
(Y − Y )2
n− 1(7)
Dan r adalah koefisien Korelasi:
r =
∑
(X − X)(Y − Y )
(n− 1)sxsy(8)
TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 13 / 25
OLS: Ordinary Least Squares
Untuk selanjutnya, metode yang kita gunakan akan kita sebut OLS:
Ordinary Least Squares. (Selain OLS, ada juga GLS, GeneralizedLeast Squares, yang akan kita bahas di Ekonometrika II). Beberapacatatan tentang OLS:
1 Estimator-estimator OLS dinyatakan hanya dalam observables Xdan Y . Dengan demikian estimator-estimator itu (β1 dan β2)dapat dihitung dengan mudah.
2 Estimator-estimator itu adalah point estimators. Artinya,untuk setiap sampel yang diberikan, estimator itu hanyamemberikan satu angka saja (bukan interval) untuk nilaiparameter populasi yang relevan.
3 Setelah estimator-estimator itu diperoleh (melalui OLS), makaSRL, Sample Regression Line dapat diperoleh.
TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 14 / 25
Sample Regression Line, SRL
Sifat-sifat SRL1 SRL melalui (X, Y )
β1 = Y − β2X
Y = β1 + β2X (9)
Gambar 8: SRL melalui (X, Y )TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 15 / 25
SRL
Sifat-sifat SRL
2 Harga rata-rata hasil estimasi Y sama dengan harga rata-rata dariY yang sesungguhnya.
¯Y = Y (10)
3 Harga rata-rata residual adalah nol.
¯u = 0 (11)
TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 16 / 25
PRF,SRF,SRL
Mengulang lagi: Apa bedanya PRF,SRF dan SRL? Perhatikanpersamaan-persamaan berikut.
PRF:Yi = β1 + β2Xi + ui (12)
SRF:Yi = β1 + β2Xi + ui (13)
SRL:Y = β1 + β2Xi (14)
TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 17 / 25
Bentuk Lain SRF
Persamaan SRF:Yi = β1 + β2Xi + ui (15)
Dapat ditulis:yi = β2xi + ui (16)
Dengan
yi = Yi − Y
xi = Xi − X
Pers. (16) disebut bentuk deviasi (deviation form) dari SRF. Dengancara yang sama, SRL dapat ditulis dalam bentuk deviasi.
yi = β2xi (17)
TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 18 / 25
Sifat ui
Residu ui tidak berkorelasi dengan hasil prediksi yi∑
i
yiui = 0 (18)
Residu ui tidak berkorelasi dengan Xi
∑
i
Xiui = 0 (19)
TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 19 / 25
Presisi atau Standard Error dari Estimator OLS
Nilai estimator (β1, β2) berbeda-beda untuk sample yang berbedayang diambil dari populasi yang sama. Karena itu kita perlu alat ukuruntuk menentukan apakah estimator dari sampel yang satu lebih bagusdaripada estimator dari sampel yang lain. Alat ukur itu adalah presisiatau standard error, yang rumusnya adalah:
se(β2) =σ
√
∑
(X − X)2
σ =
√
∑
(Y − Y )2
n− 2(20)
TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 20 / 25
Presisi atau Standard Error dari Estimator OLS
se(β1) =
[
√
∑
X2
i
n∑
(Xi − X)2
]
σ (21)
TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 21 / 25
BLUE
BLUE
Best Linear Unbiased Estimator
1 Linear
2 Unbiased: Nilai ekspektasi dari estimator sama dengan nilaisesungguhnya
3 Minimum variance dari estimator
TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 22 / 25
Tugas Kelas
Tugas Kelas
1 Jelaskan apa perbedaan antara PRL dan SRL!
2 Jelaskan bagaimana cara memperoleh PRL!
3 Jelaskan bagaimana cara memperoleh SRL!
4 Mengapa dalam kita perlu meminimalisasi∑
u2i (sehingga disebut”least squares”?) Mengapa kita tidak meminimalisasi
∑
ui saja?
TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 24 / 25
Tugas Kelas
5 Perhatikan tabel berikut. Untuk setiap kelompok income,ambillah satu nilai yang paling kecil selisihnya dengan conditionmean value, lalu gunakan untuk memperoleh SRF!
TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 25 / 25