ベクトルの内積とその応

ベクトルの内積とその応

戸瀬　信之

， 年 月 日（平成最後の講義）

戸瀬　信之 ベクトルの内積とその応 ， 年 月 日（平成最後の講義）

MSF ⁰53

着 義

Part ⁰ 1 ^.

ベクトル

~ = 0 BB B@

1 CC

CA, ~ = 0 BB B@

1 CC CA2

2 に対して

~+~ = 0 BB B@

+ + +

1 CC

CA, ~ ~ = 0 BB B@

1 CC

CA, ~ = 0 BB B@

1 CC CA

1

が

ぐ _の

場合

エルミート 内

悟

.

が

行ベクトル

次元行ベクトル

= ( · · · )

（転置）

( · · · ) =

0 BB B@

1 CC CA,

0 BB B@

1 CC

CA= ( · · · )

戸瀬　信之 ベクトルの内積とその応 ， 年 月 日（平成最後の講義）

つく

、 81 _, ⁹¹

,

Hi

^{-一 行 べstu. Convention}

~

行っ てい ^{ない →} 行 trans

position

-_-

ベクトルと行ベクトルの積

= ( · · · ), ~ =

0 BB B@

1 CC CA

~ = + +· · ·+

後に ⇥ 行 と ⇥ 行 の積となる。

e

が

E (¹が

や

ベクトルの内積

~,~ 2 に対して

(~,~) =~ ·~ =X

=

= + +· · ·+

統計学に関 することを 強するときは公式

~~ = ( · · · )

0 BB B@

1 CC

CA= (~,~)

が である。

戸瀬　信之 ベクトルの内積とその応 ， 年 月 日（平成最後の講義）

[

/

^{dot mode}

driven

/

T

tで

志田 知 学

^。

統計

。

ベクトルのノルム

~ 2 に対して

||~|| = (~,~) =X

=

||~||

||~||= ,~ =~

horm

二 つく

、^一か

、^七

一-t コくい^ーつ(_n

_ ⁼

が

+ ^{- . -} t

が

二 o

か、

た

.int I

か、^{二 - . -} =かf^0.

as ^{.. .}, au 3 ^{0 のとき} 、

9t-a.io#a.=..=a~fTETRhTgg 璗災

^内法で

内積の基 公式

~,~,~ 2 と 2 に対して

(~+~,~) = (~,~) + (~,~) (~,~+~) = (~,~) + (~,~) ( ~,~) = (~, ~) = (~,~)

(~,~) = (~,~)

戸瀬　信之 ベクトルの内積とその応 ， 年 月 日（平成最後の講義）

はい^の 線型

うなり

^の糸泉型

と生(

しい

」

u h

n t i Icaitei

) ⁼ I ^aet

Et

_i

E⁼1 E=i

と

言い

^{ai ) =n}

Z

^a

に_「

た、

内積の な公式

||~ ±~|| =||~|| ± (~,~) +||~||

証明

||~+~|| = (~ +~,~+~) ( ^から)

= (~,~+~) + (~,~ +~) ( ^から)

= (~,~) + (~,~) + (~,~) + (~,~) ( ^から)

= (~,~) + (~,~) + (~,~) + (~,~) ( ^から)

= ||~|| + (~,~) +||~|| ( ^から)

1¹で_い²

い

(ii) te s o

FLO

^{( 2)}

n e

/ヽ ^{~ e n ~}

C 3)

1

^{~ 一}

%

₍₂₎

の

場合

^は

各自 考える

^。

題

~ 6=~であるとき

||~ ~||

を最小にする 2 ^{を求める。}

||~ ~|| = ||~|| (~,~) + ||~||

= ||~|| (~,~)

||~||

!

+||~|| (~,~)

||~||

戸瀬　信之 ベクトルの内積とその応 ， 年 月 日（平成最後の講義）

1が 1に は1^{. 11}で₁₁

で も

^{E 1で1 h= 2, 3}

○ l

で

って

^が

11 11>0

( Et ^で ) ^{= o}

= ハで い^て-2 ( t も )

tllier-O.no

_。

厭

t ^に 内 ^に2平方

完成

。 小

解答

= = (~,~)

||~||

~ = ~ = ^(~,_||~^~_||⁾~ は~ _の~ 向の正射影

(~ ~,~) = (~,~) (~,~)

= (~,~) (~,~)

||~|| · ||~|| = (~ ~)?~

凝っ 「

砭 )

ら

^{(E -}

もる

^{で) =}

CET

^{)で い}

て

^た。

-に

Tii

^o

データ解析と ベクトル

のデータを考えます。

~ = ^p 0 BB B@

¯

¯

¯ 1 CC

CA ~ = ^p 0 BB B@

¯

¯

¯ 1 CC

CA ^分

散・共分散

||~|| = X

=

( ¯) = ( ) ( ^の分散)

(~,~) = X

=

( ¯)( ¯) = ( ^{と の共分散})

戸瀬　信之 ベクトルの内積とその応 ， 年 月 日（平成最後の講義）

別^の

ピエ

データ解析と ベクトル（その２）

新たな = + , は定数

= + ( = , ,· · · , )

このとき¯ = ¯ + ¯

~ = p (( + ) ( ¯ + ¯))

=

✓ ¯ p

◆ +

✓ ¯ p

◆

= ~+ ~ の分散は

( ) = ||~|| =|| ~+ ~||

= ||~|| + (~,~) + ||~||

= ( ) + + ( )

の不等式

定 　~, ~ 2 とすると

|(~,~)|||~|| · ||~||

証明　すべての 2 ^に対して

 || ~ ~|| = ||~|| (~,~) +||~||

~ =~のとき「不等式」は らかに成 。

~ 6=~_{のとき、従って}||~||> ^のとき

(~,~) ||~|| · ||~||  注意　 > のとき、

+ + ( 2 ), 

戸瀬　信之 ベクトルの内積とその応 ， 年 月 日（平成最後の講義）

TENal

-

い、y_、^{t.it で}いるn)

と ^はし_、²titの²)

_

。

_

_しお

t.it

な )

nnn

Thurn ^{Thor ne}

lc^で、お)に

1

¹

門

)

に

^o

0

t. ⁼¹1で_い r

い

かい

^{= o}

'

re 吟

が

^続いてい

が

T)

^t

※

^F

~ Three ^{n r}

1

⁽

もも ) に 心 で

い

ない

、

h ⁼ 2

, 3 ^.

zf で

^も

。 his

終に ば いい が

^{い ws 0 .}

⑦ 0

^{5 0}

1

^{= 1 F)} = o

、 下 に)

で いる

。

mero

di

ou

i

⁼

で

の

場合

^.

等 で 成立 寺 に いる

^。

が 心

、

各自 考える

○

の不等式の応

相関係数

⇢ = p

( )p

( ) = (~,~)

||~|| · ||~||

定 　

⇢ 

注意　|⇢ |! ^のとき、 平 上、データはより直線に近く分布す る。（これについては次回）

戸瀬　信之 ベクトルの内積とその応 ， 年 月 日（平成最後の講義）

ー

題

~,~ 2 ^が

~ ,~ を たすときに ~ 2 に対して

||~ ~ ~||

を最小化する , 2 ^{を求める．}

58

選 で 最 髕 : : 鼠 な ( 城 計

𥫱

まず ~ ? ~ のとき

~ ?~ の場合を考える．

||~ ~ ~|| =||~|| (~, ~+ ~) +|| ~+ ~||

= ||~|| + ||~|| (~,~) (~,~) +||~||

=||~||

✓ (~,~)

||~||

◆

+||~|| (~,~)

||~||

!

+||~|| (~,~)

||~||

(~,~)

||~||

から

= (~,~)

||~|| , = (~,~)

||~||

のとき最小となる。この意 は？

戸瀬　信之 ベクトルの内積とその応 ， 年 月 日（平成最後の講義）

f

-_-

では"

も こなし +5

^い

だ

。

^_

いたが₎ ^-

一 一 -

ご recent

た な

がない

。

E. 𨏍 嶽

で

_の

も 方向

^{へ の 一}

(

もの で 方向

^への

直交的 影

颸 で 感心

1¹

Et Et で バ

= 1¹

で は

+

いも に

_t

心 は

7

_{t 2 (}

る も )

^{t 2 (}

か ? )

^{t 2 (}

で )

ら 自 べく だ 」

グラム・シュミットの直交化

~ =⇣ ⌘

, ~ =⇣ ⌘

に対して~の~ 向の直交射影は

~ = (~,~)

||~|| ~ = ~

~ ~ =⇣ ⌘ ⇣ ⌘

= ⇣ ⌘

ここで

~ =

||~||~ = p ⇣ ⌘

, ~ =

||~ ~||(~ ~) = p ⇣ ⌘

は||~||=||~||= , (~,~) = ^{を たし}

:={ ~+ ~; , 2 } の正規直交基底と呼びます．

どこも したが r

、E)^{= 0}

~L で

- も

※

ぼっ き た

^。

だが

、

1 .ee で

25^t 16 t l= 4 2.

÷

_ v

| 戯 瀚

グラム・シュミットの直交化

(~ ~) =⇣

~ ~⌘0

@^||~||

(~,~)

||~ ~||·||~||

||~ ~||

1 A から

~+ ~ =⇠~ +⌘~ ,

✓ ◆

= 0

@^||~||

(~,~)

||~ ~||·||~||

||~ ~||

1 A

✓⇠

⌘

◆

となりますから

={⇠~ +⌘~; ⇠,⌘2 } であることが分かります．

戸瀬　信之 ベクトルの内積とその応 ， 年 月 日（平成最後の講義）

i iii. が 雑 で

^一

誌 iib

韔

^の

変換

、

ifeng.es *

座標 変換

_。

つく

が

y も

₌

で EU へ で

も

( な ) I

弊 親 が

0.l.li 爾 、 ・

側 と 遡る に 𦥯 ほ ) 俊 に ほ )

H で

^{の とき} に

、

t

y

、

E

^{= が}

、

tyt

a

t

⁼

心 が

₎

( 金 )

心 で は )

いいっ いで

⁺

は

、

一

y で も 「

^'

t t

つ

くに

^つ

に

、

Y

^に

Y

_て

- fnlvggnhl し T.mn E

⁼

が ty V が

いで

^ー

で は ( で

_e

VJ 意 的

^に

書ける

こと

Sdty で d

グラム・シュミットの直交化

このとき⇣ ⌘ のとき

||~ ⇠~ ⌘~|| = (⇠ (~,~)) + (⌘ (~,~)) +||~|| (~,~) (~,~) から最小になるのは

⇠ = (~,~) = p , ⌘= (~,~) = p であることが分かります．

問以上の計算から||~ ~ ~|| ^{を最小化する} , 2 ^{を求めましょう．}

y

^VE

{

^ら

が いう 5.IE

^は

}

cs ^同じ、

いかに^に_い

ない

⁼1

--

きせ かい

)

r 的 良則

w.

○

グラム・シュミットの直交化

~ = (~,~)~ + (~,~)~と定めると

(~ ~ ,~) = (~,~) (~,~)||~|| (~,~)(~,~)

= (~,~) (~,~) =

(~ ~ ,~) = (~,~) (~,~)(~,~) (~,~)||~||

= (~,~) (~,~) = から

~ ~ ?

が分かります．~ ^を~の への直交射影と呼びます．

戸瀬　信之 ベクトルの内積とその応 ， 年 月 日（平成最後の講義）

c ^E

= での

時 前

^に

Ren

_」

cm 主

に は 問 地 で .is

+ i

-

iii. 蝱

⁼

が た

遼

。

(VEEU ) V

いで

_{= らが}

心

^{に くる}

か

⁺

で

、

E ^- ₎

NET

I

^{= ち く}

かさ

^ー

かい そく 8,8

^で)

i n to

グラム・シュミットの直交化

~ = (~,~)~ + (~,~)~と定めると

(~ ~ ,~) = (~,~) (~,~)||~|| (~,~)(~,~)

= (~,~) (~,~) =

(~ ~ ,~) = (~,~) (~,~)(~,~) (~,~)||~||

= (~,~) (~,~) = から

~ ~ ?

が分かります．~ ^を~の への直交射影と呼びます．