Regresi Linear SederhanaRegresi Linear Sederhanadan Korelasi

1. Model Regresi Linear 2. Penaksir Kuadrat Terkecil3. Prediksi Nilai Respons4. Inferensi Untuk Parameter-parameter Regresi5 Kecocokan Model Regresi5. Kecocokan Model Regresi6. Korelasi

Utriweni MukhaiyarUtriweni MukhaiyarMA 2081 Statistika Dasar

23 April 2012

TujuanTujuan

1. Menentukan/menaksir parameter-parameter yang terlibat dalam suatu model matematik yang linear terhadap parameter-parameter tersebut.terhadap parameter parameter tersebut.

2. Melakukan prediksi terhadap nilai suatu variabel, misalkan Y, berdasarkan nilai variabel yang lain , misalkan X, dengan menggunakan model regresi linier (interpolasi). ( te po as ).

2

f(x)ILUSTRASI

f(x)

Suhu (X)Gula yang

Dihasilkan (Y)

X menentukan YX menentukan Y

prediktor respons

bukan

peubahacak Memiliki

distribusi

3

bukanpeubah acak

distribusi

Observasi 1 2 3 … n

X X X X XX X1 X2 X3 … Xn

Y Y1 Y2 Y3 … Yn

Variabel yang nilainya mempengaruhivariabel yang lainnya.

11

Mana yang merupakan

Variabel yang kejadiannya lebih dahuluterjadi.

22

prediktor ??

Variabel yang variansinya terkecil

te jad

33

4

MODEL REGRESI LINEAR SEDERHANAMODEL REGRESI LINEAR SEDERHANA

0 1i i iY X e

- 1 dan 0 merupakan parameter-parameter model yang akan ditaksiry g

- ei adalah galat pada observasi ke-i (acak)

5

Sumber GalatSumber Galat

1. Ketidakmampuan model regresi dalam memodelkanhubungan prediktor dan respons dengan tepatu u ga p e to a espo s e ga tepat

2. Ketidakmampuan peneliti dalam melakukan pengukuran dengan tepat

3. Ketidakmampuan model untuk melibatkan semuavariabel prediktor

6

Penaksir Kuadrat TerkecilPenaksir Kuadrat Terkecil

- 1 dan 0 ditaksir dengan metode kuadrat terkecil1 0 g(least square)

- Asumsi-asumsi :

1. Ada pengaruh X terhadap Y

2 0 1 untuk 1,2,...,i i iY X e i n 2.

3. Nilai harapan dari ei adalah 0, atau E[ ei ] = 0

4 V i i d i t k i 1 2

0 1 untuk 1,2,...,i i iY X e i n

4. Variansi dari ei, sama untuk semua i = 1, 2,…, n

5. ei berdistribusi normal untuk semua i = 1, 2,…, n

7

6. e1,e2,...,en saling bebas (independen)

Misalkan b adalah taksiran bagi dan b adalahMisalkan b1 adalah taksiran bagi 1 dan b0 adalahtaksiran bagi 0. Maka taksiran bagi model regresi adalah

0 1 i iY b b X

Kriteria penaksiran kuadrat terkecil adalahmeminimumkan

n2

1 ii

e

terhadap b0 dan b1, dengan 0 1 i i i i ie Y Y Y b b X

88

Diperolehp

1

n

i iiXY

X X Y YJKb

1

12

1

iXYn

XXi

i

bJK X X

S d k t k i t k i i l t k d l h

0 1 b Y b X

Sedangkan taksiran untuk variansi galat acak adalah

22 2 1

ˆˆ

i iG YY XYy yJK JK b JK 2 2 1

2 2 2

i iG YY XYy y

sn n n

9

Suhu (X) 1 1 1 1 2 1 3 1 4 1 5 1 6 1 7 1 8 1 9 2Suhu (X) 1 1.1 1.2 1.3 1.4 1.5 1.6 1.7 1.8 1.9 2

Gula yg dihasilkan (Y) 8.1 7.8 8.5 9.8 9.5 8.9 8.6 10.2 9.3 9.2 10.5Sumber: Walpole and Myers, 1989

ei

10

n = 11111 111

1

1 1,5

ii

X Xn 1

1 9,13

ii

Y Yn

11

11 11 2

1,8091

i ii

X X Y Yb

11 2

1

ii

X X

0 1 6, 4136 b Y b X

11116,4136 1,8091 i iY X

Model persamaan regresi1111, ,i i

Prediksi Nilai ResponsPrediksi Nilai ResponsPrediksi model Suhu (xi) Gula yg dihasilkan (yi) ˆ i i ie y yˆiy

1 8.1 8.22 -0.121.1 7.8 8.40 -0.601.2 8.5 8.58 -0.081.3 9.8 8.77 1.031.4 9.5 8.95 0.551.5 8.9 9.13 -0.231.6 8.6 9.31 -0.711.7 10.2 9.49 0.711.8 9.3 9.67 -0.371.9 9.2 9.85 -0.652 10.5 10.03 0.47

2ˆy yJK

12

Taksiran variansi galat acak 2 0, 4

2 9

i iG y yJKs

n

Prediksi Nilai Respons

Mi lk h (X) d l h h

Prediksi Nilai Respons

Misalkan suhu proses (X) adalah 1.55 satuan suhu.

Maka prediksi banyaknya gula yang dihasilkan padah t b t d l hsuhu tersebut adalah

6 4136 1 8091 Y X

6,4136 1,80916,4136 1,8091 1,55

Y X

9,2177

13

ASUMSI KENORMALAN

11•Asumsi ei berdistribusi normal

untuk semua i = 1, 2,…, n

•Yi beristribusi normal untuk i 1 2 22 semua i = 1, 2,…, n

33•b0 dan b1 berdistribusi normal

14

INFERENSI UNTUK PARAMETER 0

0 00

2

n

bTs x nJK

berdistribusi t dengan derajat kebebasan n-2.

1 i XXi

s x nJK

Selang kepercayaan (1-α) untuk 0 :

2 20 0 0, 2 , 21 12 2

n n

i XX i XXn ni ib t s x nJK b t s x nJK

15

t/2;n-2 adalah nilai distribusi t dengan derajat kebebasan n-2

INFERENSI UNTUK PARAMETER 1

1 11

XX

bTs JK

berdistribusi t dengan derajat kebebasan n-2.

XX

Selang kepercayaan (1-α) untuk 1 :

t s t s2; 2 2; 21 1 1

n n

XX XX

t s t sb b

JK JK

16t/2 ; n-2 adalah nilai distribusi t dengan derajat kebebasan n-2

PENGUJIAN PARAMETER REGRESI

Tujuan : menentukan apakah parameter-parameter t b t d t di b ik t tid k

PENGUJIAN PARAMETER REGRESI

tersebut dapat diabaikan atau tidak.

Rumusan HipotesisRumusan Hipotesis

H0 : β0 = 0

H β ≠ 0

H0 : β1 = 0

H β ≠ 0 bH1 : β0 ≠ 0 H1 : β1 ≠ 0 00 n

2i

i 1

btx

ˆ nJK

11

XX

bt ˆJK

XXnJK XX

17

SELANG PREDIKSISELANG PREDIKSI

Misalkan nilai respons Y untuk X = X0 adalah Y0,

ˆ

p 0 0,dan misalkan adalah prediksi model regresibagi Y0. Maka

0 02

0 XX

Y -YTˆ 1+(1/n)+[(x x) / JK ]

b di ib i d d j k b bberdistribusi t dengan derajat kebebasan n-2.

Selang prediksi (1 – α) bagi y0 adalah

2 20 0

0 / 2 0 0 / 2XX XX

(x x) (x x)1 1ˆ ˆ ˆ ˆy t 1+ + y y t 1+ +n JK n JK

XX XX

18

CONTOH 1 SELANG KEPERCAYAAN 1 CONTOH 1 SELANG KEPERCAYAAN 1-

1(2.26)(0.4) (2.26)(0.4)1.8091 1.8091

1.1 1.1 TINJAU CONTOH SEBELUMNYA

Selang kepercayaan95% untuk β1 :

b1=1,8091 b0=6,4136 Selang kepercayaan95% untuk β0 :

19 025.85 25.856.4136 (2.26)(0.4) 6.4136 (2.26)(0.4)

(11)(1.1) (11)(1.1)

derajat kebebasanCONTOH 2 UJI HIPOTESIS

derajat kebebasann – 2 = 9,

nilai kritis 2 26

H0 : β0 = 0

H1 : β0 ≠ 0

t0.025 = 2.26

t > t &t0 > t0.025 &t1 > t0.025

maka masing-masing H ditolakmasing H0 ditolak

K i lH0 : β1 = 0

H1 : β1 ≠ 0

Kesimpulan

β0 dan β1 tidakdapat diabaikan

20

Kecocokan Model RegresiS l h l k k lih k h d l Salah satu alat ukur untuk melihat apakah model regresi yang diperoleh sudah memadai adalahkoefisien determinasi yaitukoefisien determinasi yaitu

2

2 21

ˆd 0 1

n

i iiR

y yJKR R

2 21

2

1

, dengan 0 1

iRn

Ti i

i

R RJK y y

Besaran R2 menunjukkan proporsi variasi total dalamrespons Y yang diterangkan oleh model regresi yang diperoleh

21

diperoleh

H M d l i di l h id k d i

UJI KEBAIKAN MODEL

H0 : Model regresi yang diperoleh tidak memadai

H1 : Model memadai

Statistik uji

2ˆ n

i iy y 1 i iiR

y yJKf

s sTolak H0 pada tingkat keberartian α jika f > f,(1,n-2), dimana f,(1,n-2) adalah nilai distribusi F denganderajat kebebasan 1 dan n – 2. derajat kebebasan 1 dan n 2.

22

CONTOH 3

Untuk contoh sebelumnya diperoleh R2 = 0,499.

Artinya proporsi variasi total dalam respons Y y p p pyang diterangkan oleh model regresi yang diperoleh adalah 49.9%Uji kebaikan model

11

2

1

ˆ i iiR

y yJK

Untuk α = 5%, titik kritis f0 05 (1 9) = 5,12

1 8,99 iRJKfs s

, f0.05,(1,9) ,

f > f0.05,(1,9), model memadai.23

Korelasi

Mengukur hubungan linear dua peubah acak

Misalkan X danY adalah dua peubah acak, makakorelasi antara X danY dinyatakan dengan

E X Y C X Y

2 2

,

X YXY

X YX Y

E X Y Cov X Y

E X E Y

24

Jika nilai korelasi mendekati 1 makahubungan kedua peubah “sangat erat” dansearah sedangkan jika nilai korelasimendekati 1 maka hubungan keduamendekati –1 maka hubungan keduapeubah “sangat erat” dan berlawanan arah.

Jika nilai korelasi sama dengan nol berartitidak terdapat hubungan linear antarakedua peubah acak.

25

Gambar 1 Korelasi positif Gambar 2 Korelasi negatif

Gambar 3 Korelasi nol Gambar 4 Korelasi nol26

KORELASI SAMPEL

Korelasi dapat ditaksir dengan koefisien korelasi sampel, yaitu

JK XY

XX YY

n

JKrJK JK

1

n

i ii

n n

X X Y Y

2 2

1 1

n n

i ii i

X X Y Y

27

CONTOH 4Data berikut menggambarkan nilai kimia 12 mahasiswa tingkat pertama yang diambil secara acak di suatu universitas bersama nilai intelegensi yang dikur sewaktu mereka di SMA

CONTOH 4

bersama nilai intelegensi yang dikur sewaktu mereka di SMA.

Mahasiswa Nilai Intelegensi (x) Nilai Kimia (y)1 65 852 50 743 55 764 65 905 55 855 55 856 70 877 65 948 70 989 55 81

10 70 9111 50 7612 55 74

Rata-rata nilai intelegensi = 60,42 , Rata-rata nilai kimia = 84,2528

12 55 74

100

110

80

90

100

Kim

ia

60

70

Nil

ai K

40

50

40 45 50 55 60 65 70 75

Nilai Intelegensig

12

i iX X Y Y

1

12 122 20,863

i iiXY

XX YYi i

JKrJK JK

X X Y Y

29

1 1 i ii i

ReferensiReferensi

Pasaribu, U.S., 2007, Catatan Kuliah Biostatistika. Walpole, Ronald E. Dan Myers, Raymond H., Ilmu

Peluang dan Statistika untuk Insinyur dan Peluang dan Statistika untuk Insinyur dan Ilmuwan, Edisi 4, Bandung: Penerbit ITB, 1995.

Walpole, Ronald E., et.al, Statistic for Scientist and p fEngineering, 8th Ed., 2007.

30