dan Korelasi 1. Model Regresi Linear 2. Penaksir Kuadrat Terkecil 3. Prediksi Nilai Respons 4. Inferensi Untuk Parameter-parameter Regresi 6.

Regresi Linear Sederhana

Regresi Linear Sederhana

dan Korelasi

1. Model Regresi Linear

2. Penaksir Kuadrat Terkecil 3. Prediksi Nilai Respons

4. Inferensi Untuk Parameter-parameter Regresi 5 Kecocokan Model Regresi

5. Kecocokan Model Regresi 6. Korelasi

Utriweni Mukhaiyar Utriweni Mukhaiyar MA 2081 Statistika Dasar 23 April 2012

Tujuan

Tujuan

1.

Menentukan/menaksir parameter-parameter yang

terlibat dalam suatu model matematik yang linear

terhadap parameter-parameter tersebut.

terhadap parameter parameter tersebut.

2. Melakukan prediksi terhadap nilai suatu variabel,

misalkan Y, berdasarkan nilai variabel yang lain ,

misalkan X, dengan menggunakan model regresi

linier (

(

interpolasi

te po as

).

).

f(x)

ILUSTRASI

f(x)

Suhu (X) Dihasilkan (Gula yang Y)

X menentukan Y X menentukan Y prediktor respons bukan peubah acak _Memiliki distribusi 3 bukan peubah acak distribusi

Observasi 1 2 3 … n

X X X X X

X X₁ X₂ X₃ … X_n

Y Y₁ Y₂ Y₃ … Y_n

Variabel yang nilainya mempengaruhi variabel yang lainnya.

11

Mana yang

merupakan Variabel yang kejadiannya lebih dahulu_terjadi. 22

prediktor ??

Variabel yang variansinya terkecil te jad

33

M

ODEL

R

EGRESI

L

INEAR

S

EDERHANA

M

ODEL

R

EGRESI

L

INEAR

S

EDERHANA

0 1

i i i

Y









X



e

-



₁ dan



₀ merupakan parameter-parameter model yang akan ditaksiry g

- e_i adalah galat pada observasi ke-i (acak)

Sumber Galat

Sumber Galat

1.

Ketidakmampuan model regresi dalam memodelkan

hubungan prediktor dan respons dengan tepat

u u ga p e to a espo s e ga tepat

2.

Ketidakmampuan peneliti dalam melakukan pengukuran

dengan tepat

3.

Ketidakmampuan model untuk melibatkan semua

variabel prediktor

Penaksir Kuadrat Terkecil

Penaksir Kuadrat Terkecil

-





₁₁ dan





₀₀ ditaksir dengan metode kuadrat terkecilg (least square)

- Asumsi-asumsi :

1. Ada pengaruh X terhadap Y

2

Y

_i





₀





₁

X

_i



e

_i

untuk

i



1,2,...,

n

2.

3. Nilai harapan dari e_i adalah 0, atau E[ e_i ] = 0

4 V i i d i t k i 1 2

0 1

untuk

1,2,...,

i i i

Y







X



e

i

n

4. Variansi dari e_i, sama untuk semua i = 1, 2,…, n 5. e_i berdistribusi normal untuk semua i = 1, 2,…, n

7

Misalkan b adalah taksiran bagi



dan b adalah Misalkan b₁ adalah taksiran bagi



₁ dan b₀ adalah taksiran bagi



₀. Maka taksiran bagi model

regresi adalah 0 1

 



i i

Y

b

b X

Kriteria penaksiran kuadrat terkecil adalah meminimumkan n 2 1 



i i

e



terhadap b₀ dan b₁, dengan

e

_i

    

Y

_i

Y

_i

Y

_i

b

₀

b X

_{1 i}

8 8

Diperolehp







1 







n i i i XY

X

X

Y

Y

JK

b





1 1 2 1  









i XY n XX i i

b

JK

X

X

S d k t k i t k i i l t k d l h 0

 

1

b

Y

b X

Sedangkan taksiran untuk variansi galat acak adalah





2 2 2

ˆ

₁

ˆ

2 2

JK

_G



y

i



y

i



JK

_YY



b JK

_{1 XY}

2

2

2

















i i G

y

y

YY XY

s

n

n

n

9

Suhu (X) 1 1 1 1 2 1 3 1 4 1 5 1 6 1 7 1 8 1 9 2

Suhu (X) 1 1.1 1.2 1.3 1.4 1.5 1.6 1.7 1.8 1.9 2

Gula yg dihasilkan (Y) 8.1 7.8 8.5 9.8 9.5 8.9 8.6 10.2 9.3 9.2 10.5

Sumber: Walpole and Myers, 1989

e_i

n = 11 11 1 ₁ 11 1 1 1,5  



_i  i X X n ₁ 1 9,13  



_i  i Y Y n







11 1 1 11 ₂ 1,8091    



i i i  X X Y Y b





11 ₂ 1  



i i X X 0

 

1



6, 4136

b

Y

b X

11 11

6, 4136 1,8091







i i

Y

X

Model persamaan regresi

11 11

,

,

Prediksi Nilai Respons

Prediksi Nilai Respons

Prediksi model

Suhu (x_i) Gula yg dihasilkan (y_i)   ˆ

i i i e y y ˆ_i y 1 8.1 8.22 -0.12 1.1 7.8 8.40 -0.60 1.2 8.5 8.58 -0.08 1.3 9.8 8.77 1.03 1.4 9.5 8.95 0.55 1.5 8.9 9.13 -0.23 1.6 8.6 9.31 -0.71 1.7 10.2 9.49 0.71 1.8 9.3 9.67 -0.37 1.9 9.2 9.85 -0.65 2 10.5 10.03 0.47





2 ˆ  y y JK 12

Taksiran variansi galat acak 2





0, 4

2 9     i i G y y JK s n

Prediksi Nilai Respons

Mi lk h (X) d l h h

Prediksi Nilai Respons

Misalkan suhu proses (X) adalah 1.55 satuan suhu. Maka prediksi banyaknya gula yang dihasilkan pada

h t b t d l h suhu tersebut adalah

6 4136 1 8091







Y

X





6, 4136 1,8091

6, 4136 1,8091 1,55









Y

X

9, 2177



13

A

SUMSI

K

ENORMALAN

11

•Asumsi e_i berdistribusi normal untuk semua i = 1, 2,…, n

•Y_i beristribusi normal untuk

i 1 2

22

semua i = 1, 2,…, n

33

•b0 dan b1 berdistribusi normal

I

NFERENSI UNTUK

P

ARAMETER



₀ 0 0 0 2









n

b

T

s

x

nJK

berdistribusi t dengan derajat kebebasan n-2.

1





i XX

i

s

x

nJK

Selang kepercayaan (1-α) untuk ₀ :

2 2 0 0 0 , 2 ₁ , 2 ₁ 2 2  _



 _  





n _{i XX}



 



n _{i XX} n n i i

b

t

s

x

nJK

b

t

s

x

nJK

15

I

NFERENSI UNTUK

P

ARAMETER



₁ 1 1 1







XX

b

T

s

JK

berdistribusi t dengan derajat kebebasan n-2.

XX

Selang kepercayaan (1-α) untuk ₁ :

t

_{2; 2}

s

t

_{2; 2}

s

1 1 1  

_

 



n



 

n XX XX

t

s

t

s

b

b

JK

JK

16

P

ENGUJIAN

P

ARAMETER

R

EGRESI

Tujuan : menentukan apakah parameter-parameter

t b t d t di b ik t tid k

P

ENGUJIAN

P

ARAMETER

R

EGRESI

tersebut dapat diabaikan atau tidak.

Rumusan Hipotesis Rumusan Hipotesis H₀ : β₀ = 0 H β ≠ 0 H₀ : β₁ = 0 H β ≠ 0 b H₁ : β₀ ≠ 0 H₁ : β₁ ≠ 0 0 0 _n 2 i i 1 b t x ˆ  _nJK  



1 1 XX b t ˆ JK   XX nJK XX 17

S

ELANG

P

REDIKSI

S

ELANG

P

REDIKSI

Misalkan nilai respons Y untuk X = X₀ adalah Y₀,

ˆ

p _{0 0},

dan misalkan adalah prediksi model regresi bagi Y₀. Maka 0 0 2 0 XX ˆY -Y T ˆ 1+(1/n)+[(x x) / JK ]     b di ib i d d j k b b

berdistribusi t dengan derajat kebebasan n-2. Selang prediksi (1 – α) bagi y₀ adalah

2 2 0 0 0 / 2 0 0 / 2 XX XX (x x) (x x) 1 1 ˆ ˆ ˆ ˆ y t 1+ + y y t 1+ + n JK n JK           XX XX 18

C

ONTOH

1

SELANG KEPERCAYAAN 1 

C

ONTOH

1

SELANG KEPERCAYAAN 1-

1

(2.26)(0.4) (2.26)(0.4)

1.8091 1.8091

1.1 1.1

    

TINJAU CONTOH SEBELUMNYA

Selang kepercayaan 95% untuk β₁ :

b

₁

=1,8091

b

₀

=6,4136

Selang kepercayaan95% untuk β₀ :

19 0

25.85 25.85

6.4136 (2.26)(0.4) 6.4136 (2.26)(0.4)

(11)(1.1) (11)(1.1)

derajat kebebasan

C

ONTOH

2

UJI HIPOTESIS derajat kebebasan n – 2 = 9, nilai kritis 2 26 H₀ : β₀ = 0 H₁ : β₀ ≠ 0 t_0.025 = 2.26 t > t & t₀ > t_0.025 & t₁ > t_0.025 maka masing-masing H ditolak masing H₀ ditolak K i l H₀ : β₁ = 0 H₁ : β₁ ≠ 0 Kesimpulan β₀ dan β₁ tidak dapat diabaikan 20

Kecocokan Model Regresi

S l h l k k lih k h d l

Salah satu alat ukur untuk melihat apakah model regresi yang diperoleh sudah memadai adalah

koefisien determinasi yaitu koefisien determinasi yaitu





2 2 1 2 ˆ d 0 1    



n i i i R y y JK R R





2 1 2 2 1 , dengan 0 1       



i R n T i i i R R JK y y

Besaran R2 _{menunjukkan proporsi variasi total dalam}

respons Y yang diterangkan oleh model regresi yang diperoleh

21

H M d l i di l h id k d i

U

JI

K

EBAIKAN

M

ODEL

H₀ : Model regresi yang diperoleh tidak memadai H₁ : Model memadai Statistik uji





2

ˆ





n



y

i

y

i



1 



R





i i i

y

y

JK

f

s

s

Tolak H₀ pada tingkat keberartian α jika f > f_,(1,n-2), dimana f_,(1,n-2) adalah nilai distribusi F dengan

derajat kebebasan 1 dan n – 2. derajat kebebasan 1 dan n 2.

C

ONTOH

3

Untuk contoh sebelumnya diperoleh R2 _{= 0,499.}

Artinya proporsi variasi total dalam respons Y y p p p yang diterangkan oleh model regresi yang

diperoleh adalah 49.9% Uji kebaikan model





11 2 1

ˆ





i i i R

y

y

JK

Untuk α = 5%, titik kritis f_{0 05 (1 9)} = 5,12

1

_8,99





JK

R



i



f

s

s

, f_0.05,(1,9) , f > f_0.05,(1,9), model memadai. 23

Korelasi



Mengukur hubungan linear dua peubah acak



Misalkan X danY adalah dua peubah acak, maka

korelasi antara X danY dinyatakan dengan







_

_









E



X



Y



_C

_{X Y}













2 2

,







 























_

 

_





 



X Y XY X Y X Y

E

X

Y

_{Cov X Y}

E

_

X

_{ }

E

Y

_

24

Jika nilai korelasi mendekati 1 maka

hubungan kedua peubah “sangat erat” dan

searah sedangkan jika nilai korelasi

mendekati 1 maka hubungan kedua

mendekati –1 maka hubungan kedua

peubah “sangat erat” dan berlawanan arah.

Jika nilai korelasi sama dengan nol berarti

tidak terdapat hubungan linear antara

kedua peubah acak.

25

Gambar 1 Korelasi positif Gambar 2 Korelasi negatif

Gambar 3 Korelasi nol Gambar 4 Korelasi nol

K

ORELASI

S

AMPEL

Korelasi dapat ditaksir dengan koefisien korelasi sampel, yaitu

JK



XY XX YY n

JK

r

JK

JK







1 















n i i i n n

X

X

Y

Y





2





2 1 1  



_



_



















n n i i i i

X

X

Y

Y

27

C

ONTOH

4

Data berikut menggambarkan nilai kimia 12 mahasiswa

tingkat pertama yang diambil secara acak di suatu universitas bersama nilai intelegensi yang dikur sewaktu mereka di SMA

C

ONTOH

4

bersama nilai intelegensi yang dikur sewaktu mereka di SMA.

Mahasiswa Nilai Intelegensi (x) Nilai Kimia (y)

1 65 85 2 50 74 3 55 76 4 65 90 5 55 85 5 55 85 6 70 87 7 65 94 8 70 98 9 55 81 10 70 91 11 50 76 12 55 74

Rata-rata nilai intelegensi = 60,42 , Rata-rata nilai kimia = 84,25

28

100 110 80 90 100 K imia 60 70 Nilai K 40 50 40 45 50 55 60 65 70 75 Nilai Intelegensig







12









X

i

X



Y

i

Y





 



1 12 ₂ 12 ₂

0,863



















i i i XY XX YY i i

JK

r

JK

JK

X

X

Y

Y

29



 



1 1  



i



i i i

Referensi

Referensi

 Pasaribu, U.S., 2007, Catatan Kuliah Biostatistika.  Walpole, Ronald E. Dan Myers, Raymond H., Ilmu

Peluang dan Statistika untuk Insinyur dan Peluang dan Statistika untuk Insinyur dan

Ilmuwan, Edisi 4, Bandung: Penerbit ITB, 1995.  Walpole, Ronald E., et.al, p Statistic for Scientist and f

Engineering, 8th Ed., 2007.