1. Analisis Regresi Sederhana

Analisis Regresi Sederhana (Simple Regression Analysis) digunakan untuk

memprediksi nilai suatu variabel terikat berdasarkan nilai variabel bebas.

Analisis ini juga dapat digunakan untuk mengetahui besarnya pengaruh

satu variabel bebas atau lebih terhadap satu variabel terikat.

Model regresi sederhana dapat dinyatakan sebagai persamaan linier

berikut:

yi = β0 + β1xi + εi

Untuk mengestimasi nilai β0 dan β1 digunakan metode kuadrat terkecil

(last square method) berdasarkan persamaan:

y i = b0 + b1xi

Untuk mencari nilai minimum fungsi kuadrat:

e i2= (yi - y)2 = (yi – b0 – b1xi)2

Sebagai contoh Analisis Regresi Sederhana akan digunakan data berikut:

Sebuah perusahaan yang memproduksi jeans memperkirakan bahwa iklan

di televisi akan meningkatkan permintaan produk jeans perusahaan

tersebut. Bagian marketing dari perusahaan jeansi tersebut ingin membuat

model persamaan regresi untuk memprediksi permintaan jeans produksi

perusahaan tersebut berdasarkan biaya iklan yang pernah dianggarkan dan

digunakan selama 19 tahun terakhir seperti tercantum dalam tabel berikut:

Jumlah Permintaan Jeans (y)(dalam ribuan)

Biaya Iklan (x)(dalam puluhan juta)

94 0.47396 0.75395 0.92995 0.939

94 0.83295 0.98394 0.049104 0.178104 0.176106 0.292108 0.403110 0.499113 0.529113 0.599118 0.749115 0.746121 0.897127 0.040131 0.231

Tentukan persamaan regresi untuk data diatas. Apakah koefisien regresi yang

didapat signifikan. Gunakan α = 0,05.

Solusi:

Kita akan mencari koefisien regresi b0 dan b1 dari persamaan regresi linier

sederhana y i = b0 + b1xi dan melakukan uji hipotesis untuk mengetahui

apakah koefisien regresi yang diperoleh signifikan.

Bentuk hipotesis untuk menguji koefisien bo dan b1 adalah

H0 : β0 = 0

H0 : β0 ≠ 0

dan

H0 : β1 = 0

H0 : β1 ≠ 0

dimana β0 dan β1 adalah parameter dari model regresi yi = β0 + β1xi + εi

Prosedur SPSS Regresi Linier Sederhana

1. Pada lembar Variabel View dari SPSS Data Editor kita definisikan

variabel Jumlah Permintaan Jeans dengan nama variabel jeans dan

diberi variabel labels Jumlah Permintaan Jeans. Untuk variabel Biaya

Iklan digunakan nama Iklan dan diberi variabel labels Biaya Iklan

sebagai berikut:

2. Kemudian pada lembar Data View dari SPSS Data Editor, kita masukkan

data peringkat dari jeans dan iklan sebagai berikut:

3. Klik Analyze Regression Linear sebagai berikut:

4. Kemudian akan didapat tampilan sebagai berikut:

5. Pindahkan variabel Jumlah Permintaan Jeans ke dalam box berjudul

Dependent dan variabel Biaya Iklan ke dalam box berjudul

Independen(s) sebagai berikut:\

6. Pastikan anda memilih Method : Enter. Kemudian klik OK. Akan

didapat hasil Regresi SPSS sebagai berikut:

Interpretasi Hasil

Nilai R2 (R Square) dari tabel Model Summary menunjukkan bahwa

93,8% dari varriance ‘Jumlah Permintaan Jeans’ dapat dijelaskan oleh

perubahan dalam variabel ‘Biaya Iklan’.

Tabel ANOVA diatas mengindikasikan bahwa regresi secara statistik

sangat signifikan dengan nilai F = 259.226 untuk derajat kebebasan k = 1

dan n – k – 1 = 19 - 1 – 1 = 17 dan P value = 0,000 yang jauh lebih kecil

dari α = 0,05.

Uji F menguji secara serentak hipotesis H0 : β0 : β1 = β2 = β3 = ... = βk = 0

terhadap H1 : tidak semua β1 , i = 1,2,...,k = 0. Tetapi karena pada regresi

sederhana hanya ada satu β1 , maka kita hanya menguji H0 : β1 = 0 terhadap

H0 : β1 ≠ 0. Dari tabel ANOVA jelas sekali terlihat bahwa H0 ditolak

karena P value = 0,000 lebih kecil dari α = 0,05.

Persamaan garis regresi menggunakan metode kuadrat terkecil (least

square method) yang didapat adalah y = 74,673 + 24,280 x , dimana y =

jumlah permintaan jeans dan x = biaya iklan.

Untuk menguji signifikan masing-masing koefisien regresi digunakan uji

statistik t. Untuk menguji β1 : H0 : β1 = 0 terhadap H1 : β0 ≠ 0 dari output

SPSS didapat nilai uji-t dengan t= 16,102 dengan derajat kebebasan n – 2

= 19 – 2 = 17 dan P value = 0,000. Hal ini merupakan bukti kuat

penolakan H0 : β1 = 0, karena P value = 0,000 lebih kecil dari α = 0,05.

Rumus Regresi Linier Sederhana

Model: yi = β0 + β1xi + εi

Untuk mengestimasi nilai β0 dan β1 digunakan metode kuadrat terkecil (last

square method) berdasarkan persamaan: y i = b0 + b1xi , untuk mencari nilai

minimum fungsi kuadrat:

∑i=1

n

ei2=¿∑

i=1

n

( y i− yi)2=∑

i=1

n

( y i−b0−b1 x i)2 ¿

Persamaan normal bagi model regresi linier sederhana adalah:

∑i=1

n

yi=na+b∑i=1

n

xi

∑i=1

n

x i y i=a∑i=1

n

x i+b∑i=1

n

x i y i

Nilai dugaan bagi koefisien-koefisien regresi

b1=n∑

i=1

n

x i y i−∑i=1

n

x i∑i=1

n

y i

n∑i=1

n

x i2−(∑

i=1

n

xi)dan

b0= y−b x

Koefisien determinasi:

R2=1−n∑

i=1

n

( y i− y i )2

n∑i=1

n

( y i− y )2

Pengujian hipotesis:

Statistik uji untuk pengujian hipotesis H0 : β0 = α0

t=(b1−a0 ) s x√n(n−1)

se √∑i=1

n

x i2

Statistik uji untuk pengujian hipotesis H0 : β0 = α1

t=(b1−a1 ) sx √(n−1)

se

dimana α0 dan α1 adalah nilai acuan.

se2= 1

n−2¿

sx2=

n∑i=1

n

x i2−(∑

i=1

n

x i)2

n(n−1)

sy2=

n∑i=1

n

x i2−(∑

i=1

n

x i)2

n (n−1)

Tabel ANOVA untuk Regresi Linier Sederhana

Sumber Variasi

Jumlah Kuadrat

Derajat Kebebasan

Rata-rata kuadrat F hitung

Regresi SSR 1 s12=MSR= SSR

1

Error SSE n - 2 s12=MSE= SSR

n−2

Total SST n - 1

dimana:

SST=∑i=1

n

y i2−

(∑i=1

n

y i)2

n

SSR=b12∑ ( xi−x )2

SSE=∑i=1

n

y i2−b0∑ y i−b1∑ x1 y i

Derajat kebebasan untuk statistik uji F adalah {1; n – 2}

Analisis Regresi Linear Berganda

Analisis Regresi Linear Berganda (Multiple Linear Regressio Analysis)

merupakan pengembangan dari analisis regresi sederhana dimana terdapat lebih

dari satu variabel independen (bebas) x. Secara Umum model regresi linier

berganda :

yi = β0 + β1x1i + β2x2i + β3x3i +... + βkxki + εi

Analisis regresi berganda digunakan untuk melihat pengaruh sejumlah variabel

independen x1, x2,..., xk terhadap variabel dependen y atau juga untuk memprediksi

nilai suatu variabel dependen y berdasarkan nilai variabel-variabel independen x1,

x2,..., xk .

Untuk mengestimasi nilai β0,β1,β2,..., βk digunakan metode kuadrat terkecil (least

square method) berdasarkan persamaan:

y i=b0+b1 x1i+b2 x2 i+b3 x3 i+…+bk xki ,

dan mencari nilai minimum fungsi kuadrat:

∑i=1

n

ei2=∑

i=1

n

( y i− y i)2=∑

i=1

n

( y i−b0−b1 x1 i−b2 x2i−b3 x3 i−…−bk xki)2

Sebagai contoh Analisis Regresi Berganda akan digunakan data berikut:

Suatu perusahaan di bidang industri memiliki data usia, income sales person dan

pengalaman kerja sebagai sales. Perusahaan itu ingin membuat model regresi

berganda untuk memprediksi income berdasarkan usia dan pengalaman kerja.