AnalisaRegresiDuaVariabel:...

25
Analisa Regresi Dua Variabel: Estimasi Tjipto Juwono, Ph.D. May 2018 TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 1 / 25

Transcript of AnalisaRegresiDuaVariabel:...

Page 1: AnalisaRegresiDuaVariabel: Estimasicomplexminds.net/wp-content/uploads/2018/05/Estimasi.pdfmemberikan satu angka saja (bukan interval) untuk nilai ... Estimasi May 2018 14 / 25. SampleRegressionLine,SRL

Analisa Regresi Dua Variabel: Estimasi

Tjipto Juwono, Ph.D.

May 2018

TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 1 / 25

Page 2: AnalisaRegresiDuaVariabel: Estimasicomplexminds.net/wp-content/uploads/2018/05/Estimasi.pdfmemberikan satu angka saja (bukan interval) untuk nilai ... Estimasi May 2018 14 / 25. SampleRegressionLine,SRL

PRL vs SRL

Apa Perbedaan PRL dan SRL

Population Regression Line Diperoleh dari populasi dengan dengancara menghubungkan semua conditional mean.

Sample Regression Line Diperoleh dari sample dengan cara metodeleast squares

TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 2 / 25

Page 3: AnalisaRegresiDuaVariabel: Estimasicomplexminds.net/wp-content/uploads/2018/05/Estimasi.pdfmemberikan satu angka saja (bukan interval) untuk nilai ... Estimasi May 2018 14 / 25. SampleRegressionLine,SRL

PRL vs SRL

Gambar 1: Populasi terdiri dari 60 keluarga terbagi atas 10 income groups

TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 3 / 25

Page 4: AnalisaRegresiDuaVariabel: Estimasicomplexminds.net/wp-content/uploads/2018/05/Estimasi.pdfmemberikan satu angka saja (bukan interval) untuk nilai ... Estimasi May 2018 14 / 25. SampleRegressionLine,SRL

Mean Values Vs Fixed Values

Gambar 2: Grafik E(Y |X) vs X. Populasi terdiri dari 60 keluarga terbagiatas 10 income groups

TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 4 / 25

Page 5: AnalisaRegresiDuaVariabel: Estimasicomplexminds.net/wp-content/uploads/2018/05/Estimasi.pdfmemberikan satu angka saja (bukan interval) untuk nilai ... Estimasi May 2018 14 / 25. SampleRegressionLine,SRL

Sampel

Gambar 3: Sampel-1, dari data padatabel Gbr (1)

Gambar 4: Sampel-2, dari data padatabel Gbr (1)

TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 5 / 25

Page 6: AnalisaRegresiDuaVariabel: Estimasicomplexminds.net/wp-content/uploads/2018/05/Estimasi.pdfmemberikan satu angka saja (bukan interval) untuk nilai ... Estimasi May 2018 14 / 25. SampleRegressionLine,SRL

Sample Regression Line

Gambar 5: SRL, diperoleh dari dua sample pada Gbr. (3,4)

TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 6 / 25

Page 7: AnalisaRegresiDuaVariabel: Estimasicomplexminds.net/wp-content/uploads/2018/05/Estimasi.pdfmemberikan satu angka saja (bukan interval) untuk nilai ... Estimasi May 2018 14 / 25. SampleRegressionLine,SRL

PRL vs SRL

Gambar 6: Perbandingan antara PRL dan SRL

TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 7 / 25

Page 8: AnalisaRegresiDuaVariabel: Estimasicomplexminds.net/wp-content/uploads/2018/05/Estimasi.pdfmemberikan satu angka saja (bukan interval) untuk nilai ... Estimasi May 2018 14 / 25. SampleRegressionLine,SRL

Least Squares Principles

Ingat kembali PRF:

Yi = β1 + β2Xi + ui (1)

Apa yang terjadi jika kita tidak mempunyai data populasi, danhanya mempunyai data sampel? Artinya: PRF (Pers. (1)) tidakdiketahui.

Kita meng-estimasi PRF, dengan SRF:

Yi = β1 + β2Xi + ui

= Yi + ui (2)

Pertanyaannya adalah: Bagaimana cara memperoleh SRL?

TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 8 / 25

Page 9: AnalisaRegresiDuaVariabel: Estimasicomplexminds.net/wp-content/uploads/2018/05/Estimasi.pdfmemberikan satu angka saja (bukan interval) untuk nilai ... Estimasi May 2018 14 / 25. SampleRegressionLine,SRL

Least Squares Principles

Meminimalisasi penjumlahan semua ui? → Meminimalkan∑

i ui?

Gambar 7: Bagaimana memperoleh SRF

TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 9 / 25

Page 10: AnalisaRegresiDuaVariabel: Estimasicomplexminds.net/wp-content/uploads/2018/05/Estimasi.pdfmemberikan satu angka saja (bukan interval) untuk nilai ... Estimasi May 2018 14 / 25. SampleRegressionLine,SRL

Least Squares Principles

Bagaimana memperoleh SRF?

Meminimalisasi penjumlahan semua ui? → Meminimalkan∑

i ui?

Bukan langkah yang tepat. Walaupun sebenarnya ui mempunyai nilaiabsolut yang besar sehingga SRF jelas bukan yang terbaik, namun uiyang positip dan negatip dapat saling meniadakan sehingga diperoleh∑

i ui minimum. Walaupun SRF yang diperoleh jauh dari SRF yangterbaik.

TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 10 / 25

Page 11: AnalisaRegresiDuaVariabel: Estimasicomplexminds.net/wp-content/uploads/2018/05/Estimasi.pdfmemberikan satu angka saja (bukan interval) untuk nilai ... Estimasi May 2018 14 / 25. SampleRegressionLine,SRL

Least Squares Principles

Meminimalisasi penjumlahan semua u2i ? → Meminimalkan∑

i u2

i ?

TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 11 / 25

Page 12: AnalisaRegresiDuaVariabel: Estimasicomplexminds.net/wp-content/uploads/2018/05/Estimasi.pdfmemberikan satu angka saja (bukan interval) untuk nilai ... Estimasi May 2018 14 / 25. SampleRegressionLine,SRL

Least Squares Principles

Bagaimana memperoleh SRF?

Meminimalisasi penjumlahan semua u2i ? → Meminimalkan∑

i u2

i ?

Langkah yang tepat! Dengan mengkuadratkan ui, maka kitamemperoleh nilai yang positip semua. Meminimalisasi

i u2

i akanmenghasilkan SRF yang terbaik. Proses meminimalisasi

i u2

i

merupakan asal usul istilah ”least squares”. Metode ini disebut metodeleast squares

TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 12 / 25

Page 13: AnalisaRegresiDuaVariabel: Estimasicomplexminds.net/wp-content/uploads/2018/05/Estimasi.pdfmemberikan satu angka saja (bukan interval) untuk nilai ... Estimasi May 2018 14 / 25. SampleRegressionLine,SRL

Hasil minimalisasi∑

u2i

Yi = β1 + β2Xi (3)

β2 = rsy

sx(4)

β1 = Y − β2X (5)

Dengan sx dan sy adalah Standard Deviasi Sample:

sx =

(X − X)2

n− 1(6)

sy =

(Y − Y )2

n− 1(7)

Dan r adalah koefisien Korelasi:

r =

(X − X)(Y − Y )

(n− 1)sxsy(8)

TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 13 / 25

Page 14: AnalisaRegresiDuaVariabel: Estimasicomplexminds.net/wp-content/uploads/2018/05/Estimasi.pdfmemberikan satu angka saja (bukan interval) untuk nilai ... Estimasi May 2018 14 / 25. SampleRegressionLine,SRL

OLS: Ordinary Least Squares

Untuk selanjutnya, metode yang kita gunakan akan kita sebut OLS:

Ordinary Least Squares. (Selain OLS, ada juga GLS, GeneralizedLeast Squares, yang akan kita bahas di Ekonometrika II). Beberapacatatan tentang OLS:

1 Estimator-estimator OLS dinyatakan hanya dalam observables Xdan Y . Dengan demikian estimator-estimator itu (β1 dan β2)dapat dihitung dengan mudah.

2 Estimator-estimator itu adalah point estimators. Artinya,untuk setiap sampel yang diberikan, estimator itu hanyamemberikan satu angka saja (bukan interval) untuk nilaiparameter populasi yang relevan.

3 Setelah estimator-estimator itu diperoleh (melalui OLS), makaSRL, Sample Regression Line dapat diperoleh.

TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 14 / 25

Page 15: AnalisaRegresiDuaVariabel: Estimasicomplexminds.net/wp-content/uploads/2018/05/Estimasi.pdfmemberikan satu angka saja (bukan interval) untuk nilai ... Estimasi May 2018 14 / 25. SampleRegressionLine,SRL

Sample Regression Line, SRL

Sifat-sifat SRL1 SRL melalui (X, Y )

β1 = Y − β2X

Y = β1 + β2X (9)

Gambar 8: SRL melalui (X, Y )TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 15 / 25

Page 16: AnalisaRegresiDuaVariabel: Estimasicomplexminds.net/wp-content/uploads/2018/05/Estimasi.pdfmemberikan satu angka saja (bukan interval) untuk nilai ... Estimasi May 2018 14 / 25. SampleRegressionLine,SRL

SRL

Sifat-sifat SRL

2 Harga rata-rata hasil estimasi Y sama dengan harga rata-rata dariY yang sesungguhnya.

¯Y = Y (10)

3 Harga rata-rata residual adalah nol.

¯u = 0 (11)

TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 16 / 25

Page 17: AnalisaRegresiDuaVariabel: Estimasicomplexminds.net/wp-content/uploads/2018/05/Estimasi.pdfmemberikan satu angka saja (bukan interval) untuk nilai ... Estimasi May 2018 14 / 25. SampleRegressionLine,SRL

PRF,SRF,SRL

Mengulang lagi: Apa bedanya PRF,SRF dan SRL? Perhatikanpersamaan-persamaan berikut.

PRF:Yi = β1 + β2Xi + ui (12)

SRF:Yi = β1 + β2Xi + ui (13)

SRL:Y = β1 + β2Xi (14)

TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 17 / 25

Page 18: AnalisaRegresiDuaVariabel: Estimasicomplexminds.net/wp-content/uploads/2018/05/Estimasi.pdfmemberikan satu angka saja (bukan interval) untuk nilai ... Estimasi May 2018 14 / 25. SampleRegressionLine,SRL

Bentuk Lain SRF

Persamaan SRF:Yi = β1 + β2Xi + ui (15)

Dapat ditulis:yi = β2xi + ui (16)

Dengan

yi = Yi − Y

xi = Xi − X

Pers. (16) disebut bentuk deviasi (deviation form) dari SRF. Dengancara yang sama, SRL dapat ditulis dalam bentuk deviasi.

yi = β2xi (17)

TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 18 / 25

Page 19: AnalisaRegresiDuaVariabel: Estimasicomplexminds.net/wp-content/uploads/2018/05/Estimasi.pdfmemberikan satu angka saja (bukan interval) untuk nilai ... Estimasi May 2018 14 / 25. SampleRegressionLine,SRL

Sifat ui

Residu ui tidak berkorelasi dengan hasil prediksi yi∑

i

yiui = 0 (18)

Residu ui tidak berkorelasi dengan Xi

i

Xiui = 0 (19)

TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 19 / 25

Page 20: AnalisaRegresiDuaVariabel: Estimasicomplexminds.net/wp-content/uploads/2018/05/Estimasi.pdfmemberikan satu angka saja (bukan interval) untuk nilai ... Estimasi May 2018 14 / 25. SampleRegressionLine,SRL

Presisi atau Standard Error dari Estimator OLS

Nilai estimator (β1, β2) berbeda-beda untuk sample yang berbedayang diambil dari populasi yang sama. Karena itu kita perlu alat ukuruntuk menentukan apakah estimator dari sampel yang satu lebih bagusdaripada estimator dari sampel yang lain. Alat ukur itu adalah presisiatau standard error, yang rumusnya adalah:

se(β2) =σ

(X − X)2

σ =

(Y − Y )2

n− 2(20)

TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 20 / 25

Page 21: AnalisaRegresiDuaVariabel: Estimasicomplexminds.net/wp-content/uploads/2018/05/Estimasi.pdfmemberikan satu angka saja (bukan interval) untuk nilai ... Estimasi May 2018 14 / 25. SampleRegressionLine,SRL

Presisi atau Standard Error dari Estimator OLS

se(β1) =

[

X2

i

n∑

(Xi − X)2

]

σ (21)

TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 21 / 25

Page 22: AnalisaRegresiDuaVariabel: Estimasicomplexminds.net/wp-content/uploads/2018/05/Estimasi.pdfmemberikan satu angka saja (bukan interval) untuk nilai ... Estimasi May 2018 14 / 25. SampleRegressionLine,SRL

BLUE

BLUE

Best Linear Unbiased Estimator

1 Linear

2 Unbiased: Nilai ekspektasi dari estimator sama dengan nilaisesungguhnya

3 Minimum variance dari estimator

TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 22 / 25

Page 23: AnalisaRegresiDuaVariabel: Estimasicomplexminds.net/wp-content/uploads/2018/05/Estimasi.pdfmemberikan satu angka saja (bukan interval) untuk nilai ... Estimasi May 2018 14 / 25. SampleRegressionLine,SRL

Tugas Kelas

Page 24: AnalisaRegresiDuaVariabel: Estimasicomplexminds.net/wp-content/uploads/2018/05/Estimasi.pdfmemberikan satu angka saja (bukan interval) untuk nilai ... Estimasi May 2018 14 / 25. SampleRegressionLine,SRL

Tugas Kelas

1 Jelaskan apa perbedaan antara PRL dan SRL!

2 Jelaskan bagaimana cara memperoleh PRL!

3 Jelaskan bagaimana cara memperoleh SRL!

4 Mengapa dalam kita perlu meminimalisasi∑

u2i (sehingga disebut”least squares”?) Mengapa kita tidak meminimalisasi

ui saja?

TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 24 / 25

Page 25: AnalisaRegresiDuaVariabel: Estimasicomplexminds.net/wp-content/uploads/2018/05/Estimasi.pdfmemberikan satu angka saja (bukan interval) untuk nilai ... Estimasi May 2018 14 / 25. SampleRegressionLine,SRL

Tugas Kelas

5 Perhatikan tabel berikut. Untuk setiap kelompok income,ambillah satu nilai yang paling kecil selisihnya dengan conditionmean value, lalu gunakan untuk memperoleh SRF!

TJ (SU) Analisa Regresi Dua Variabel: Estimasi May 2018 25 / 25