ANALISIS MULTIVARIAT. Pengantar Analisis Multivariat Lanjutan. Irlandia Ginanjar M.Si

(1)

ANALISIS MULTIVARIAT

Pengantar Analisis Multivariat Lanjutan

g

j

Irlandia Ginanjar M.Si

Jurusan Statistika FMIPA Unpad Jurusan Statistika‐FMIPA Unpad

(2)

Notasi untuk variabel‐variabel berskala

l

interval atau rasio

k b l k

• Vektor variabel acak:

⎥ ⎥ ⎥ ⎥ ⎤ ⎢ ⎢ ⎢ ⎢ ⎡ = p X X X ... 2 1 1

• Nilai harapan vektor

⎥ ⎥ ⎦ ⎢ ⎢ ⎣Xp

• Nilai harapan vektor variabel acak ( ) ( ) ( ) μ μ μ = ⎥ ⎥ ⎥ ⎤ ⎢ ⎢ ⎢ ⎡ = ⎥ ⎥ ⎥ ⎤ ⎢ ⎢ ⎢ ⎡ = E X X E X E 2 1 2 1 1 ( ) ( ) μ μ = ⎥ ⎥ ⎥ ⎦ ⎢ ⎢ ⎢ ⎣ = ⎥ ⎥ ⎥ ⎦ ⎢ ⎢ ⎢ ⎣ = p p p X E X E ... ... 1

(3)

Matriks Ragam-peragam (Variance Covariance Matrix) ⎥ ⎤ ⎢ ⎡ ⎥ ⎤ ⎢

⎡ var(x1) cov(x1,x2) L cov(x1,xp) σ11 σ12 L σ1p

Matriks Ragam peragam (Variance Covariance Matrix)

⎥ ⎥ ⎥ ⎥ ⎥ ⎦ ⎢ ⎢ ⎢ ⎢ ⎢ ⎣ = ⎥ ⎥ ⎥ ⎥ ⎥ ⎦ ⎢ ⎢ ⎢ ⎢ ⎢ ⎣ = ∑ = p p p p p p x x x x x x x x x x X Cov σ σ σ σ σ σ M O M M L M O M M L 2 21 22 2 2 1 2 ) var( ) cov( ) cov( ) , cov( ) var( ) , cov( ) ( ⎥⎦ ⎢⎣ ⎥⎦

⎢⎣cov(xp,x1) cov(xp,x2) L var(xp) σp1 σp2 L σpp

dimana:

(

)

(

( )

)

(

( )

)

) , ( ) ( ) ( ) , ( 2 2 j j i i ij j i i i i ii i i i X E X X E X E X X Cov X E X E X Var X X Cov − − = = − = = = = σ σ σ

(4)

M t ik k l i b k ⎡ 1 ρ ρ ⎤ • Matriks korelasi berukuran pxp ⎥ ⎥ ⎥ ⎥ ⎥ ⎦ ⎤ ⎢ ⎢ ⎢ ⎢ ⎢ ⎣ ⎡ = 1 ... 1 1 2 1 2 21 1 12 p p p p p pR ρ ρ ρ ρ ρ ρ • Hubungan matriks ragam peragam dengan matriks korelasi ⎟⎟ ⎠ ⎞ ⎜⎜ ⎝ ⎛ ∑ ⎟⎟ ⎠ ⎞ ⎜⎜ ⎝ ⎛ = i i p pR D σ D σ 1 1 korelasi • Matriks D, matriks diagonal berukuruan pxp ⎢⎡1 0 0 ⎥⎤ berukuruan pxp ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎤ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎡ = ⎟⎟ ⎠ ⎞ ⎜⎜ ⎝ ⎛ i D σ σ σ 1 0 0 ... ... ... ... 0 ... 1 0 0 ... 0 1 2 1 ⎥ ⎥ ⎦ ⎢ ⎢ ⎣ σp ... 0 0

(5)

Beberapa notasi untuk data sampel

k b k ⎡ n ⎤ • Vektor rataan berukuran px1, merupakan penduga bagi vektor μ 1 μˆ 2 1 1 2 1 1 = ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎤ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎡ = ⎥ ⎥ ⎥ ⎤ ⎢ ⎢ ⎢ ⎡ = ∑ ∑ = = x n x x x x n i i n i i p e to μ ... ... 1 _⎥⎥ ⎥ ⎥ ⎥ ⎦ ⎢ ⎢ ⎢ ⎢ ⎢ ⎣ ⎥ ⎥ ⎥ ⎦ ⎢ ⎢ ⎢ ⎣ ∑ = n x n x _n i pi p • Matriks ragam peragam berukuran pxp, merupakan d b i t ik Σ ˆ ... ... 2 1 2 22 21 1 12 11 ∑ = ⎥ ⎥ ⎥ ⎥ ⎥ ⎦ ⎤ ⎢ ⎢ ⎢ ⎢ ⎢ ⎣ ⎡ = s s s s s s s s s S n pp p p p p p p penduga bagi matriks Σ ( ) ( )( ) 1 1 1 1 2 2 − − = − − = = ∑ ∑ = = n x x x x s n x x s s n k j jk i ik ij n j i ij i ii 1 − n

(6)

k k l • Matriks korelasi berukuran pxp, merupakan penduga = ⎥ ⎥ ⎥ ⎥ ⎥ ⎦ ⎤ ⎢ ⎢ ⎢ ⎢ ⎢ ⎣ ⎡ = p p p p p p r r r r r r R 2 1 2 21 1 12 ˆ 1 ... ... ... ... ... ... 1 ... 1 ρ p p g bagi matriks ρ ₍ ₎₍ ₎ ( ) _∑( ) ∑ ∑ = − − − − = = ⎦ ⎣ n j jk n i ik n k j jk i ik ij ii x x x x x x x x r r 2 2 1 1 ( ) _∑( ) ∑ = = k j jk k i ik x x x x 1 1

(7)

Konsep Jarak

k k • Jarak pengamatan ke titik pusat • Jarak antar (x x) (x x) d_i = _i − ' _i − Jarak antar pengamatan (i,j) – Jarak Euclidean di.j = (xi − xj)(' xi −xj) – Jarak Mahalanobis – Jarak Minkowski (City Block) ( i j) ( i j) j i x x S x x d_. = − ' −1 − ( )(' ), 2,3,4,.... . = x − x x −x k = d k j i j i j i )

(8)

¾ Definisi Matriks ¾ Definisi Matriks Susunan angka‐angka di dalam kotak yang dibagi ke dalam baris dan kolom. Misalkan terdiri dari n baris dan p kolom, maka matriks tersebut berdimensi n x p. contoh : ⎥ ⎤ ⎢ ⎡3 4 5 ⎥ ⎥ ⎥ ⎥ ⎦ ⎢ ⎢ ⎢ ⎢ ⎣5 5 10 7 0 12 2 9 1 ⎦ ⎣5 5 10

(9)

¾ k ¾ Matriks Putaran Diperoleh dengan cara menukar baris dan kolomnya, di t ik d A’ dinotasikan dengan A’. contoh : ⎤ ⎡1 2 ⎥ ⎦ ⎤ ⎢ ⎣ ⎡ = 6 4 2 5 3 1 ' A ⎥ ⎥ ⎥ ⎦ ⎤ ⎢ ⎢ ⎢ ⎣ ⎡ = 6 5 4 3 2 1 A ⎥⎦ ⎢⎣ 65 ¾ Matriks Simetrik

Jika A = A’ maka A adalah matriks simetrik

⎥ ⎤ ⎢ ⎡1 2 5 ⎥ ⎥ ⎥ ⎦ ⎢ ⎢ ⎢ ⎣ 5 9 0 9 7 2

(10)

¾ Matriks Diagonal Jika matriks n x n yang semua unsur nondiagonalnya bernilai nol, disebut matriks diagonal. ⎥ ⎤ ⎢ ⎡5 0 0 ⎥ ⎥ ⎥ ⎦ ⎢ ⎢ ⎢ ⎣0 0 7 0 0 0 ¾ M t ik Kh ¾ Matriks Khusus - matriks identitas k l - matriks nol - matriks segitiga

(11)

¾ Kebebasan Linier Sekumpulan vektor kolom atau baris tak nol dikatakan bebas linier jika tidak ada satupun yang bisa dituliskan b i k bi i li i d i kt l i sebagai kombinasi linier dari vektor lainnya. ⎥ ⎥ ⎤ ⎢ ⎢ ⎡ 4 9 3 1 ⎥ ⎥ ⎦ ⎢ ⎢ ⎣10 11 ¾ Pangkat Matriks ¾ Pangkat Matriks

Banyaknya baris atau kolom pada

matriks itu yang bersifat bebas linier.

(12)

¾ Matriks Singular dan Nonsingular ¾ Matriks Singular dan Nonsingular

Matriks A n x n dikatakan singular jika semua baris

atau kolomnya saling bebas linier.y g

¾ Kebalikan Matriks

Untuk matriks persegi A, jika berlaku Untuk matriks persegi A, jika berlaku

AB = BA= I, maka B adalah matriks kebalikan dari A,

dinotasikan A‐1

.

dinotasikan A

.

⎤ ⎡1 3 ⎡ 4 3 ⎤ ⎥ ⎦ ⎤ ⎢ ⎣ ⎡ = 4 9 3 1 A ⎥ ⎥ ⎥ ⎦ ⎤ ⎢ ⎢ ⎢ ⎣ ⎡ − − = − 23 1 23 9 23 23 1 A ⎦ ⎣ 23 23

(13)

¾ Normal Vektor Euclidian

Sebuah vektor a berukuran n x 1 memiliki panjang Sebuah vektor a berukuran n x 1 memiliki panjang yang didefinisikan sebagai :

a a' a a

Dan vektor normal dari a =a/√a’a

memiliki norma √22₊₁2₊₂2 ₃ memiliki norma √22₊₁2₊₂2 ₌₃ ⎥ ⎤ ⎢ ⎡ 2 ⎥ ⎥ ⎥ ⎦ ⎤ ⎢ ⎢ ⎢ ⎣ ⎡ = 2 1 2 a ⎥ ⎥ ⎥ ⎥ ⎢ ⎢ ⎢ ⎢ = ⎥ ⎥ ⎥ ⎦ ⎤ ⎢ ⎢ ⎢ ⎣ ⎡ = 3 1 3 2 1 2 3 1 b ⎥⎦ ⎢⎣2 ⎥ ⎥ ⎥ ⎦ ⎢ ⎢ ⎢ ⎣ ⎥⎦ ⎢⎣ 3 2 2

(14)

¾ Jarak Euclid antar Dua Vektor

Jika dua buah vektor a dan b berukuran n x 1 maka Jika dua buah vektor a dan b berukuran n x 1 maka jarak euclid: ) ( )' ( ) , (a b a b a b d = − − ⎥ ⎥ ⎥ ⎦ ⎤ ⎢ ⎢ ⎢ ⎣ ⎡ = 2 3 5 a ⎥ ⎥ ⎤ ⎢ ⎢ ⎡ = ⎥⎦ ⎢⎣ 1 6 2 b 3 ) 4 2 ( ) 1 3 ( ) 6 5 ( ) , (a b = − 2 + − 2 + − 2 = d ⎥ ⎥ ⎦ ⎢ ⎢ ⎣ = 4 1 b

(15)

¾ Vektor dan Matriks Ortogonal Dua buah vektor berukuran n x 1 dikatakan ortogonal g satu sama lain jika a’b=0. ⎤ ⎡5 _⎡−1_⎤ ⎥ ⎥ ⎥ ⎦ ⎤ ⎢ ⎢ ⎢ ⎣ ⎡ = 5 9 a ⎥ ⎥ ⎥ ⎦ ⎤ ⎢ ⎢ ⎢ ⎣ ⎡ = 1 0 1 b ⎦ ⎣

Sebuah matriks A berukuran n x n adalah matriks ortogonal jika A’A=AA’=I.

⎥ ⎤ ⎢ ⎡ 1 1 ₋ 1 ⎥ ⎥ ⎥ ⎥ ⎥ ⎢ ⎢ ⎢ ⎢ ⎢ − − = 6 1 2 1 3 1 6 2 3 A ⎥ ⎥ ⎦ ⎢ ⎢ ⎣ 6 2 0 3 1

(16)

¾Akar Ciri dan Vektor Ciri

Untuk matriks A berukuran n x n maka

pasangan‐pasangan (λ

₁

,x

₁

),…,(λ

_n

,x

_n

) dikatakan

pasa ga pasa ga (λ

₁

,

₁

), ,(λ

_n

,

_n

) d ata a

sebagai pasangan akar ciri dan vektor ciri yang

ortonormal jika berlaku:

j

Ax

₁

= λ

₁

x

₁

:

Ax

_n

= λ

_n

x

_n

(17)

¾ Penguraian Spektral dari Sebuah Matriks Simetrik

A=PΛP’

A=PΛP

dengan A adalah matriks simetrik n x n, P adalah suatu matriks

ortogonal dan Λ adalah matriks diagonal. P=(x₁|x₂|…|x_n) dan

λ λ ) Λ=diag(λ₁,…, λ_n) ¾ Determinan Matriks ¾ Determinan Matriks yaitu perkalian dari seluruh akar ciri dari matriks persegi n x n A, |A|= λ₁x….x λ_n ¾ Teras Matriks

teras dari matriks A n x n, tr(A) adalah penjumlahan semua teras dari matriks A n x n, tr(A) adalah penjumlahan semua akar cirinya.

tr(A)= λ₁+ ….+λ_n ,yang sebanding dengan jumlah dari semua

unsur diagonal utamanya unsur diagonal utamanya.

(18)

¾ Bentuk Kuadratik Mi l A d l h ik b k d d l h Misal A adalah matrik berukuran n x n dan x adalah vektor peubah berukuran n x 1 maka: n n

∑∑

= = = n i n j j i ijx x a Ax x 1 1 ' 2 2 ) ( ) ( _n _n _n _n _n _n n nnx a a x x a a x x a x a₁₁ ₁2 +...+ 2 +( ₁₂ + ₂₁) ₁ ₂ +...+ ( ₋₁_, + _, ₋₁) ₋₁ =

Bentuk itu adalah bentuk kuadratik dari x. Contoh: ⎥ ⎤ ⎢ ⎡1 2 3 ⎥ ⎤ ⎢ ⎡ 1x ⎥ ⎥ ⎥ ⎦ ⎢ ⎢ ⎢ ⎣ = 1 1 1 1 2 4 A ⎥ ⎥ ⎥ ⎦ ⎢ ⎢ ⎢ ⎣ = 3 2 x x x maka 3 2 3 1 2 1 2 3 2 2 2 1 2 6 4 2 ' Ax x x x x x x x x x x maka + + + + + =

(19)

¾ Matriks Definit dan Semidefinit Positif ik i ik b k b if Matriks simetrik berukuran n x n bersifat: ‐definit positif jika x’Ax > 0 untuk sembarang vektor x ≠ 0 ‐semidefinit positif jika x’Ax ≥ 0 untuk sembarang vektor x ≠ 0

(20)

¾Akar Kuadratik Matrik Semidefinit Positif

A=matrik semidefinit positif, diperoleh matriks

∆ atas U sehingga

A=U’U

(penguraian Cholesky)

Akar kuadrat dari matrik simetrik:

A=PΛP’=(PΛ

₍

1/2

_P’)(PΛ

₎₍

1/2

_P’)=A

₎

1/2

_A

1/2

dimana P matrik ortogonal dan Λ matriks

diagonal.

(21)

¾Perkalian Kronecker

Perkalian Kronecker C denganD dinotasikan

D

C

⊗ D

C

⊗

Yaitu dengan mengalikan setiap unsur

matriks C dengan matriks D, dan

kemudian membuat matriks

gabungannya.

h

⎡ 1 0 3 4 ⎤ ⎥ ⎤ ⎢ ⎡ 1 1 4 0 4 3 0 1 C

contoh:

⎥ ⎥ ⎤ ⎢ ⎢ ⎡ = 3 1 D ⎥⎥ ⎥ ⎥ ⎥ ⎥ ⎤ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎡ − = ⊗ 0 12 3 3 1 1 4 0 28 21 0 7 12 9 0 3 D C ⎥ ⎥ ⎥ ⎦ ⎢ ⎢ ⎢ ⎣ − − = 2 3 1 1 1 1 4 0 C ⎥ ⎥ ⎦ ⎢ ⎢ ⎣ = 7 3 D ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ − − − − = ⊗ 6 9 3 3 2 3 1 1 7 7 28 0 3 3 12 0 D C ⎥ ⎦ ⎢ ⎣ 7 7 − 21 14

(22)

Partisi Matriks Partisi Matriks ⎥ ⎤ ⎢ ⎡ x₁ ⎥ ⎤ ⎢ ⎡ s₁₁ ... s₁_q | s₁_,_q₊₁ ... s₁_p ⎥ ⎥ ⎥ ⎤ ⎢ ⎢ ⎢ ⎡ − − − = ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ − − − = ) 1 ( ) 1 ( : x x x q px ⎥ ⎥ ⎥ ⎥ ⎥ ⎢ ⎢ ⎢ ⎢ ⎢ + qp q q qq q s s s s S ... | ... : ... : | : ... : 1 , 1 ⎥ ⎥ ⎦ ⎢ ⎢ ⎣ ⎥ ⎥ ⎥ ⎥ ⎦ ⎢ ⎢ ⎢ ⎢ ⎣ +1 (2) ) 1 ( : x x x p q px ⎥ ⎥ ⎥ ⎥ ⎥ ⎢ ⎢ ⎢ ⎢ ⎢₋₋ ₋₋ ₋₋ ₋ ₋₋ ₋₋ ₋₋ = + + + + + q q q q q p q pxp n s s s s S : : | : : ... | ... ₁_, ₁_, ₁ ₁_, 1 , 1 ) ( ⎦ ⎣ p ⎥ ⎥ ⎦ ⎢ ⎢ ⎣ sp ... spq | spq+ ... spp : ... : | : ... : 1 , 1 q p−q ⎥ ⎥ ⎤ ⎢ ⎢ ⎡ − − − − 12 11 | | s s q q q p− = ⎥ ⎥ ⎦ ⎢ ⎢ ⎣s21 | s22 q p−

(23)