6. خطی ترکیب(linear combination)
میباش خطی ،ترکیب اساسی های مولفه تحلیل و تجزیه مبانی از یکید.
6
11 1
22 2
, ,
i
i
i
ipP P
aX Y
aX Y
X a Y
aX Y
/
1 1 11 1 12 2 1
/
2 2 21 1 22 2 2
/
1 2 2 2
... p P
P P
p p p p pp P
y a X a X a X a X
y a X a X a X a X
y a X a X a X a X
متغیره چند های شاخص معرفی
8. اساسی های مولفه واریانس ی محاسبه
داریم متغیر دو تنها کنیم می فرض(n=2)
1 11 1 12 2 1 11 1 12 2 11 1 12 2( ) ( )y a X a X E y E a X a X a a
1
2
11 12
21 22
2
1 11 1 12 2 11 1 11 1 12 2 12 2
2 2 2 2
11 1 1 12 2 2 11 12 1 1 2 2
2 2
1 12 2 12 1 211 11
2 2
11 12 22 12 1211 11
var( ) var( ) [( ) ( )]
[( ( ) ( ) 2 ( )( )]
var( ) var( ) 2 cov( , )
2 ( )
y a X a X E a X a a X a
E a X a X a a X X
a X a X a a X X
a a a a
2
var( ) (( ) )xx E x
Show picture
9.
2 2
1 11 12 22 12 1211 11
11 21 11 2 2
11 12 11 12 22 12 1211 11
12 22 21
var( ) 2 ( )
2 ( )
y a a a a
a
a a a a a a
a
1 1 1var( )y a a
اساسی ی مولفه اولین واریانس باید ،اساسی های مولفه اهداف اساس بر(y1)حداکثر
شود.
مشکل:بردار طول به بستگی امر اینa1دارد.
10. :1a.
(1y)/
1a X
/
1var( )a X/
1 1 1a a .
12 2 /
1 2 1 1 2 2 1 2
2
x
x
l x x x x x x x x x x
x
/
1 1 1a a 1a.
.
(2y)/
2a X
/
2var( )a X/
2 2 1a a / /
1 2cov( , ) 0a X a X .
PCA(.
/ /
1 2 1 2cov( , ) cov( , ) 0a X a X Y Y
.)
.
10
متغیره چند های شاخص معرفی
12. ویژه مقادیر و ها بردار بر گذری
*n nAnn.
*p p
:
( , )
1,2,...,
i ie
i p
1
2
i
i
i
ip
e
e
e
e
:
/
1i ie e .
12
متغیره چند های شاخص معرفی
13. (:(singular value decomposition
:
/
* * * *m k m m m k k kA U S V
UV.S( , ) ii i
.
*m mU
/
* *m k k mA A
11 21 1
12 22 2
*
1 2
m
m
m m
m m mm
u u u
u u u
U
u u u
13
متغیره چند های شاخص معرفی
14. *k kV
/
* *k m m kA A
S:
1
2
*
0 0
0 0
0 0 0
m kS
11 21 1
12 22 2
*
1 2
k
k
k k
k k kk
v v v
v v v
V
v v v
14
متغیره چند های شاخص معرفی
29. تکمیلی نکات
الگوریتم درPCAزیر باپارامترهای نرمال توزیع دارای ها داده مجموعه میکنیم فرض
میباشد.
است شده توزیع زیر مختصات با شکل بیضی صورت به ها داده مجموعه چگالی.
متغییره تک برای
متغییره چند برای
29
11 12
( , )
( ) var( )
X
i
X
trace pp x
2
2 1
( )( ) ( )X
X X X
X
x
x x
/ 1 2
( ) ( )X XX X C
متغیره چند های شاخص معرفی
30. تکمیلی نکات
می بدست اولیه محورهای دوران از اساسی های مولفه نظرهندسی از
ایند.
باال دستگاه درXiو اصلی مختصات سیستم در بردار ،Yiسیستم در بردار ،
باشدمی یافته دوران.محورهای و اصلی محورهای بین جهت کسینوس
با را یافته دورانlijدهندمی نشان.اندیسiو جدید سیستم به مربوط
اندیسjقدیم سیستم به مربوطاست.
30
,Y RX R rotationmatrix
1 11 1 12 2 13 3
2 21 1 22 2 23 3
3 31 1 32 2 33 3
Y l X l X l X
Y l X l X l X
Y l X l X l X
متغیره چند های شاخص معرفی