Ringkasan Rumus Analisis Regresi Hdestina

5/13/2018 Ringkasan Rumus Analisis Regresi Hdestina - slidepdf.com

http://slidepdf.com/reader/full/ringkasan-rumus-analisis-regresi-hdestina 1/3

Henny Destina (M’03-05)RINGKASAN RUMUS ANALISIS REGRESI

Analisis Regresi merupakan salah satu metode statistika yang banyak digunakan, terutama untuk menjelaskan hubunganfungsional (relatin ship) antara variable tak bebas (dependent,

response variable) dan satu atau beberapa variable bebas(independent, predictor, explanatory variable)

Variabel tak bebas : y (tergantung pada x)

Variabel bebas : x

Model regresi sederhana ;

nidengan y i xio ,..3,2,1,1 =++= ε β β

Dimana :

1β β dano : koefisien regresi yang merupakan 2 parameer

yang akan ditaksir harganya berdasarkan data

sample.

ε : Galat, yang bersifat acak, penyimpangan model dari

keadaan sesungguhnya.

Metode Kuadrat Terkecil

(Last Square Method)

Digunakan untuk menaksir harga parameter garis regresi

nidengan y i xio ,..3,2,1,1 =++= ε β β

Sehingga diperoleh model dugaannya, yaitu :

ii xbb y 10 += , dengan bo dan b1 berturut-turut sebagai

harga taksiran ( dugaaan parameter 10 β β dan

Galat adalah selisih antara harga y1 dengan harga taksiran 1 y

,

dan bisa bernilai positif atupun negative.

Galat : )( 1 ii y y

−=ε

JKG : ( )2

∑ iε b1 : koefisien regresi

b1 :

( )

( )∑ ∑∑ ∑ ∑

−

−

n x x

n y x y x

ii

iiii

/

/22

b1 :

xx

xy

S

S

dengan( ) ( )

∑

∑−=

−−=

2)( x xS

y y x xS

i xx

ii xy

bo : xb y 1−

Contoh bentuk table :

No (yi) (xi) (xi) (yi) (xi)2

1.

.n

Jumlah ∑ y ∑ i x ∑ ()( ii y x ∑2)( i x

reratai y i x )()( ii y x 2)( i x

Tabel juga dapat berbentuk :

No (yi) (xi) )(( y x x ii − ( x xi −

1.

.n

Jumlah ∑ y ∑ i x ∑ )()( ii y x ∑ )( i x

reratai y i

x )()( ii y x 2)( i x

Asumsi Model Regresi sederhana :1. iε merupakan variable acak dengan nilai tengah nol dan

variansi 2σ (yang umumnya tidak diketahui nilainya).

2)(0)( σ ε ε == ii V dan E

2. iε merupakan suatu variable acak berdistribusi normal dengan

nilai tengah (rata-rata ) nol dan variansi 2σ , atau

),0(,,2σ η α ε

3. jidan ε ε tidak berkorelasi untuk i≠ j sehingga Cov (

ji ε ε , ) = 0

Ada tidaknya otokorelasi dapat diteksi antara lain dengan DurbinWatson (DW) yang dapat dinyatakan dengan rumus :

( )

∑∑ −−

=2

2

1

i

ii

e

eed

KECOCOKAN MODEL

Simpangan baku galat (standard Error of Estimate)

dinotasikan dengan Se. digunakan untuk mengukur sebaran data

atau penyimpangan harga i y disekitar rerata untuk harga x

tertentu.

2

)ˆ(2

1

−−= ∑

n y ySe , dimana el y mod=

Makin kecil nilai standard error of estimate Se, maka sebaran data

makin mendekati garis regresi atau model regresi makin baik.

Simpangan untuk variable x

( )

1−

−=

∑n

x xS

i atau

)1(

)(2

1

2

1

−

−=

∑ ∑

nn

x xnS

Simpangan untuk variable y

( )

1−

−=

∑n

y yS

i

Koefisien korelasi dan Koefisien regresi

rxy = ryx

( ) ( )∑∑

∑

−−

−−=

22

)()(

y y x x

y y x xr

ii

ii

xy

Koefisien Determinasi ;

( )( ) JKT

JKR y y y y R

i

=−−=

∑∑ 2

12

Digunakan untuk menilai kecocokan model dengan data sample.

- 1 -



Henny Destina (M’03-05)

JKT = ( )2

∑ − y yi disebut jumlah kuadrat toatal atau

jumlah variansi total yang menyatakan jumlah penyimpangan yi

disektar nilai reratanya y .

JKR = ( )∑ −2

ˆ y yi , disebut jumlah kuadrat regresi yang

menyatakan variable respon disekitar nilai reratanya y .

JKG =2)(∑ − ii y y , disebut jumlah kuadrat galat yang

menyatakan galat dari variable total yang tidak dapat dijelaskan

oleh variable x atau merupakam bagian yang sifatnya acak.

JKT = JKR + JKG

Nilai JKR adalah 0 ≤ JKR ≤ JKT dan karena itu nilai R 2 adalah 0

≤ R 2≤ 1

R 2 = 0, jika JKR = 0 atau JKG = JKT berarti berapapun nilai x i

yang diberikan, nilai taksiran untuk y i, yaitu i y akan selalu sama

dengan y . Dengan kata lain y tidak berpengaruh oleh x i.

R 2 = 1 jika jkg = 0 atau JKR = JKT. JKG =0, jika ii y y ˆ=

∨ I yang berarti bahwa setiap titik darta hasil pengamatan tepatterletak pada garis regresi. Dan kecocokan data dengan model

makin baik, dan sebaliknya jika R 2 = 0, berarti kecocokan datadengan model makin tidak baik.

R 2 biasanya dinyatakan dalam angka presentase.

Jika nilai R 2 mendekati angka 1, maka kecocokan data dengangaris regresi akan menjadi baik, dan sebaliknya jika mendekati

angka 0.

TABEL ANOVA

Digunakan untuk menilai keberartian (signifikansi atau pengaruh) variable bebas secara bersama sama atau simultanterhadap variable bebas.

Bentuk umum Anova Regresi Sederhana :

sumber Jumlah kuadrat Derajat

bebas

Rataan

kuadr at

F

regresi (∑= y JKR 1 RKR =

JKR/1

Fhit=RKR/RK

G

Galat = ( JKG (n-1)-1

RKG=

JKG/n-2

Total

terkoreksi(= JKT

n-1

Faktor koreksi

2 yn1

Total belum

terkoreksi

∑ 2i y

Derajat bebas (degree of freedom), yaitu bilangan yang

menujukkan berapa banyak informasi yang bebas diantara n amatany1, y2, y3,…,yn yang dibutuhkan untuk mendapatkan jumlah

kuadrat itu.

Hipotesis dengan F hitung ;

k iuntuk H

H

,3,2,1,0:

0:0

11

1

=≠

=

β

β

Apabila Fhit>Ftabel = F(1,n-2) maka 0:0 1 =β H ditolak, dan

sebaliknya.Ftabel diperoleh dari table distribusi f.

Hipotesis : Ho : β 1 > 0 atau H0 : β 1 < 0

H1 : β 1 < 0: H1 : β 1 > 0

t2(n-2) = F(1,n-2)

ttabel = t(n-2;1-α /2)

apabila nilai harga mutlak thitung lebih besar daripada ttabel (ditulis

t > ttabel, yang berarti ada pengaruh variable bebas x secaraindividu terhadap variable tak bebas y, dan juga sebaliknya.

Selang kepercayaan β 1 dan β 0

Variansi b1 =( ) xx

ee

S x xbv

2

21

1

2

)(σ σ

=−

=

∑

Simpangan baku : xx

e

S b s

σ =)( 1

Dengan Sedengandigantieσ

Selang kepercayaan (confident interval) bagi β 1 adalah :

( ) ( )11 2/1,2 bS nt b α −−±atau

/1,2()()2/1,2( 1111 nt bbS nt b α β α −−+≤≤−−−

Simpangan baku untuk bo :

∑

∑

−

=2

2

)(

)(

x xn

xSeboS

i

i

Selang kepercayaan (confident interval) bagi β o adalah :

( ) ( )02/1,2 bS nt bo α −−±Atau

( ) ( )000 2/1,2)2/1,2( nt bbS nt bo α β α −−+≤≤−−−

Uji Hipotesis β 1 dan β 0

Bentuk uji hipotesis terhadap β 1 dinyatakan sebagai berikut :

Ho : β 1 = β 10

Hi : β 1≠ β 10

β 10 bisa berharga nol atau bilangan tertentu.

Jika β 10 = 0, sehingga bentuk uji hipotesis :

Ho : β 1 = 0

Hi : β 1≠ 0

thitung =SxxS

bt atau

bS

bhit

/)(

101

1

101 β β −=

−

karenaSxxS

bt maka hitung

/,0

110 ==β

SELANG KEPERCAYAAN

bila 01 =β berada diluar selang kepercayaan β 1, berarti

hipotesis Ho ditolak, dan bila 01 =β berada di dalam selang

kepercayaan β 1 , berarti hipotesis Ho diterima.

- 2 -



Henny Destina (M’03-05)

Contoh : 2,869 < β 1 < 4,912 dan

74,836 < β o , 149,209

β 1 = 0 berada diluar interval, berarti Ho : β 1 = 0 ditolak, artinya berpengaruh.

Bentuk uji terhadap 0β

Ho : β 0 = β 00

H1 : β 0≠ β 00

Dimana, β 00 bisa berharga nol atau bilangan tertentu. Misalkna

harga β 0 = 0, sehingga bentuk uji hipotesis menjadi : Ho : β 0 =

β 00

H1 : β 0 = 0

H1 : β 0≠ 0

( )∑

∑

−

=−

−=

2

2

000

)(

000

x xn

xS

bt ataut

i

i

hitung

boS hitung

β β β

Jika tabel t t > , mka hipotesis Ho ditolak.

Selang kepercayaan = b1

Adjusted R Square

( ))1()2(

)1(/

2/1 −−

−

−−= ndanndengan

n JKT

n JKG

Masing masing derajat kebebasan dari JKG dan JKT. Fungsinyasama dengan R2 dan dianjurkan untukdigunakan pada analisis

regresi ganda yang memiliki lebih dari 2 variabel bebas.

Selang Kepercayaan Variabel Respon ( ) y

Variansi : ( )( )

( )∑ −

−+=

2

220

2

0 x x

Se x x

n

Se yV

i

Simpangan baku : ( )( )

( )

−

−+=

∑ 2

201

ˆ x x

x x

nSe yS

i

Selang kepercayaan untuk ( )0ˆ x y E adalah :

( ) ( )( ) ( ) nt y x y E yS nt yatau yS nt y (ˆˆˆ)2/1,2(ˆ

ˆ2/1,2ˆ0α

α +<<−−−

−−±

( )00ˆ y y − menyatakan galat ramalan dari rata-ratanya yang

merupakan nilai dari suatu variable acak. Dengan demilian, nilai

ramalan untuk suatu amatan individual x = x0 tetap diberikan oleh y

= 0ˆ y , tetapi dengan variansi yang lebih besar, yaitu :

( )( )

( )

( )( )

( )

−

−++=−

−

−

−++=−

∑

∑

2

20

00

00

2

202

0

11ˆ

;

)(11ˆ

x x

x x

nSe y yS

adalah y ybaku simpangan

x x

x x

nSe y yV

i

i

o

Selang kepercayaan untuk nilai ramalan tunggal yo untuk x = x0

adalah :

( )

( )

( ) )ˆ(2/1,2ˆ

ˆ)2/1,2(ˆ

ˆ)2/1,2(ˆ

000

0000

000

y yS nt y

y y yS nt y

atau y yS nt y

−−−+

<<−−−−

−−−±

α

α

α

ANALISIS REGRESI BERGANDA

Bentuk Umum :

ε β β β β +++++= k k oi x x x y ...2211

Model diatas merupakan model linier, berkaitan dengan variable bebas dan parameternya, yaitu apabila diamati secara visual melalui

plot data, maka pencaran datanya cenderung meiliki trend/ polalinier. Disebut berganda karena variable bebas yang diamati ada dua

atau lebih.

Contoh table data hasil pengamatan :

var

terikat(y)

variabel bebas

x1 x2 x3 … xk

y1 x11 x21 x31 … xk1

y2 x12 x22 x32 … xk2

: : : : … :

yn x1n x2n x3n … xkn

Jika pengamatan mengamsusikan bahwa variable bebas x

menjelaskan variable terikat y secara linier , maka model regresilinier yang dapat digunakan itu adalah :

ε β β β β +++++= k k o x x x y ...2211

Dengan

yi = variable terikat pengamatan ke-i , i = 1,2,3,4,…,n ;

1+≥

k nn = banyaknya pengamatan / jumlah sampel.

xk i = variable variable bebas ke k untuk pengamatan ke –i

iε = galat dari model, yang diamsusikan bersifat bebas

berdistribusi normal dengan rataan 0 dan varians

homogen 2σ , atau ditulis dengan N(0, 2σ )

Asumsi model yang diperlukan untuk pendugaan parameter

dengan metode kuadrat terkecil adalah bahwa komponen galat bersifat bebas, antar pengamatan tidak berkorelasi, memiliki

distribusi normal, dan memiliki ragam homogen(homoskedastistas). Selain itu xki merupakan nilai-nilai yang fix/

diketahui (ditetapkan terlebih dahulu).

- 3 -

Ringkasan Rumus Analisis Regresi Hdestina

Documents

Transcript of Ringkasan Rumus Analisis Regresi Hdestina