APG Pertemuan 7 : Manova (2)

Multivariate
Analysis Of
Variance (Manova)
Penyusun: Aditya H, Deviana P, Indrianto, Ovilia Vebi A, Siti Fatimatul M
Dosen Pembimbing : Rani Nooraeni, S.ST., M.Stat.

Review Univariat Anova
1. Sampel dari populasi diambil secara acak
dan independen
2. Populasi berdistribusi normal
3. Populasi memiliki varians yang sama
Jika sampel pengamatan n dan populasi normal k,
maka
Model
𝑦_𝑖𝑗=µ+α_𝑖+ε_𝑖𝑗
i= 1, 2, … , k
J= 1, 2, … , n
3
Sampel 1 Sampel 2 ……… Sampel k
𝑦11 𝑦21 … 𝑦 𝑘1
𝑦12 𝑦22 … 𝑦 𝑘2
…. …. ….
𝑦1𝑛 𝑦2𝑛 … 𝑦 𝑘𝑛
𝑦1. 𝑦2. … 𝑦 𝑘.
ȳ1. ȳ2.. …. ȳ 𝑘.
𝑠1
2
𝑠2
2
… 𝑠 𝑘
2
Total
Mean
Varians

Dari tabel tersebut dapat diperoleh model
yij = µ + αi + εij
Jika ditulis dalam matriks maka m x n, maka
matriks . observations = [ȳ] + [ȳi. - ȳ] + [yij- ȳi.] 4
Rata-Rata
Keseluruhan
ȳ
Treatment Effect
ȳi. - ȳ
Residual / Error
yij- ȳi.

Contoh (from Johnson and Wichern 6th edition,
pages : 298 )
Example 6.7 ( The Sum of Squares
decomposition for univariate anova)
Populasi 1 = 9, 6, 9
Populasi 2 = 0, 2
Populasi 3 = 3, 1, 2
Jika dittulis dalam matriks maka
5
Rata-Rata Keseluruhan ȳ=
9+6+9..+2
8
= 4
9 6 9
0 2 .
3 1 2
=
4 4 4
4 4 .
4 4 4
+
4 4 4
−3 −3 .
−2 −2 −2
+
1 −2 1
−1 1 .
1 −1 0
Observasi Rata-rata overall Treatment Effect Error

Uji Hipotesis Univariate Anova
Jika semua yij berasal dari populasi yang sama, maka kita dapat mengestimasi σ2, dengan 2
cara
1. Berdasarkan sampel varians s1
2, s2
2,……, sk
2
Se2 =
1
𝑘 𝑖=1
𝑘
𝑠𝑖
2 =
𝑖=1
𝑘
. 𝑗=1
𝑛
(𝑦 𝑖𝑗−ȳ 𝒊.)^𝟐
𝑘(𝑛−1)
=
𝑖𝑗 𝑦 𝑖𝑗
2− 𝑖
𝑦 𝑖
2
𝑛
𝑘(𝑛−1)
2. Berdasarkan rata-rata sampel y1, y2,……, yk
Sy2= 𝑖=1
𝑘
(ȳ 𝑖.−ȳ..)2
𝑘−1
,
Jika gagal tolak Ho , maka sy
2 σy
2 = σ2/n, dan n E(n𝑠ȳ
2
) = n (σ2/n)= σ2
Jika tolak Ho maka E(n𝑠ȳ
2
) = σ2 + n 𝑖
𝛼 𝑖
2
𝑘−1
kj
6
E(𝑠 𝑒
2
) = σ2

7
Jika nsy
2 dan se
2 adalah estimasi σ2 yang independen, maka F Statistiknya
F =
𝑛𝑠 𝑦
2
𝑠 𝑒
2 =
( 𝑖 𝑦 𝑖.
2
𝑛
−
𝑦..
2
𝑘𝑛
)/𝑘𝑛
( 𝑖𝑗 𝑦 𝑖𝑗
2− 𝑖 𝑦 𝑖
2
𝑛
)/[𝑘 𝑛−1 ]
=
𝑆𝑆𝐻
(𝑘−1)
𝑆𝑆𝐸
[𝑘 𝑛−1 ]
=
𝑀𝑆𝐻
𝑀𝑆𝐸
, Tolak Ho saat F > Fk-1,k(n-1)
…….
Tabel. Anova untuk membandingkan rata-rata populasi
Sumber Varians Jumlah Kuadrat Derajat Kebebasan
Treatment
(between)
SSH = 𝑖
𝑦 𝑖.
2
𝑛
−
𝑦..
2
𝑘𝑛
SSH = 𝑖(
𝑦 𝑖.
2
𝑛 𝑖
)-
𝑦 𝑖.
2
𝑁
k-1
Residual (Within) SSE = 𝑖𝑗 𝑦𝑖𝑗
2
- 𝑖
𝑦 𝑖.
2
𝑛
SSE = 𝑖𝑗(𝑦𝑖𝑗
2
)- 𝑖(
𝑦 𝑖.
2
𝑛 𝑖
)
k(n-1) atau 𝑖(𝑛𝑖 − 1)
Total SST = 𝑖𝑗(𝑦𝑖𝑗 − ȳ𝑖)

8
Menggunakan data contoh 6.7 (pages 298)
𝐻 𝑜: µ1 = µ2 = µ3
Statistik Hitung
F=
𝑆𝑆𝐻
(𝑘−1)
𝑆𝑆𝐸
[𝑘 𝑛−1 ]
=
78
2
10
5
= 19.5
Keputusan : 𝐹2.5(0.01) = 13.27, karena F=19.5 maka keputusannya Tolak Ho
karena F>𝐹2.5(0.01)
Kesimpulan: Dengan tingkat signifikansi 1%, dapat disimpulkan bahwa tidak
terdapat cukup bukti untuk mengtakan rata-rata dari ketiga populasi tersebut
sama.
Sumber Varians Jumlah Kuadrat Derajat Kebebasan
Treatment SSH = 78 3-1 = 2
Residual SSE = 10 (3+2+3)-3 = 5
Total SST = 88 8-1 = 7
Contoh (from Johnson and Wichern 6th edition, pages : 301)

2. MULTIVARIATE ONE-
WAY MANOVA (BALANCED)

MULTIVARIATE ONE-WAY
MANOVA (BALANCED)
MANOVA adalah pengembangan
dari ANOVA, jumlah variable
respon atau dependennya yang
berjumlah lebih dari satu.
▪ Untuk mengukur pengaruh
variabel independen terhadap
beberapa variabel dependen
secara simultan atau sekaligus.
▪ Digunakan untuk membandingkan
g vector rata-rata populasi
10

11
𝑋𝑙𝑗 = 𝜇 + 𝜏𝑙 + 𝑒𝑙𝑗 , 𝑗 = 1, 2, … , 𝑛𝑙 𝑑𝑎𝑛 𝑙 = 1, 2, … , 𝑔
𝑒𝑙𝑗 variable independen 𝑁 𝑃(0, )
Vektor 𝜇 parameter adalah rata-rata keseluruhan
𝜏𝑙 adalah efek perlakuan 𝑙=1
𝑔
𝑛𝑙 𝜏𝑙 = 0
𝑥𝑙𝑗 = 𝑥 + 𝑥𝑙 − 𝑥 + 𝑥𝑙𝑗 − 𝑥𝑙
𝑜𝑏𝑠𝑒𝑟𝑣𝑎𝑡𝑖𝑜𝑛 𝑜𝑣𝑒𝑟𝑎𝑙𝑙 𝑠𝑎𝑚𝑝𝑙𝑒 𝑚𝑒𝑎𝑛 𝜇 𝑒𝑠𝑡𝑖𝑚𝑎𝑡𝑒𝑑 𝑡𝑟𝑒𝑎𝑡𝑚𝑒𝑛𝑡 𝑒𝑓𝑓𝑒𝑐𝑡 𝜏𝑙 (𝑟𝑒𝑠𝑖𝑑𝑢𝑎𝑙 𝑒𝑙𝑗)

12
Hipotesis:
𝐻0 = 𝜏1 = 𝜏2 = . . . = 𝜏 𝑔 = 0
Diuji dengan mempertimbangkan ukuran relatif dari
perlakuan dan jumlah residual kuadrat dan lintas produk
ekuivalen, kita dapat mempertimbangkan ukuran relatif
dari jumlah residu dan total kuadrat dan produk silang.

MANOVA Table for Comparing
Population Mean Vectors
13
Source of Variation Matrix of Sum of Sqquares and Cross
Product (SSP)
Degrees of
Freedom (df)
Treatment
𝐵 =
𝑙=1
𝑔
𝑛𝑙 𝑥𝑙 − 𝑥 ( 𝑥𝑙 − 𝑥)′
𝑔 − 1
Residual (Error)
𝑊 =
𝑙=1
𝑔
𝑗=1
𝑛 𝑙
𝑥𝑙𝑗 − 𝑥𝑙 𝑥𝑙𝑗 − 𝑥𝑙 ′
𝑙=1
𝑔
𝑛𝑙 − 𝑔
Total (Corrected for the
mean) 𝐵 + 𝑊 =
𝑙=1
𝑔
𝑗=1
𝑛 𝑙
𝑥𝑙𝑗 − 𝑥 𝑥𝑙𝑗 − 𝑥 ′
𝑙=1
𝑔
𝑛𝑙 − 1

“ Wilks’ Test Statistic
14
Ʌ∗
=
𝑊
𝐵 + 𝑊
=
𝑙=1
𝑔
𝑗=1
𝑛 𝑙
𝑥𝑙𝑗 − 𝑥𝑙 𝑥𝑙𝑗 − 𝑥𝑙 ′
𝑙=1
𝑔
𝑗=1
𝑛 𝑙
𝑥𝑙𝑗 − 𝑥 𝑥𝑙𝑗 − 𝑥 ′

Distribusi Wilk’s Lambda
15
No. of Variable No. of Group
Sampling distribution for Multivariate Normal
Data
𝑝 = 1 𝑔 ≥ 2 𝑛𝑙 − 𝑔
𝑔 − 1
1 − Ʌ∗
Ʌ∗
~ 𝐹𝑔−1, 𝑛 𝑙−𝑔
𝑝 = 2 𝑔 ≥ 2 𝑛𝑙 − 𝑔 − 1
𝑔 − 1
1 − Ʌ∗
Ʌ∗
~ 𝐹2(𝑔−1), 2( 𝑛 𝑙−𝑔−1)
𝑝 ≥ 1 𝑔 = 2 𝑛𝑙 − 𝑝 − 1
𝑝
1 − Ʌ∗
Ʌ∗
~ 𝐹𝑝, 𝑛 𝑙−𝑝−1
𝑝 ≥ 1 𝑔 = 3 𝑛𝑙 − 𝑝 − 1
𝑝
1 − Ʌ
∗
Ʌ∗
~ 𝐹2𝑝, 2( 𝑛 𝑙−𝑝−2)

3. Testing for Equality of
Covariance Matrices

Asumsi MANOVA
1. Independen antar
populasi
2. Matriks Covarian sama
3. Multivariate Normal
17Referensi : Applied Multivariate
Statistical Analysis, Richard A Johnson

Uji Box’s M Untuk Kesamaan Matriks Covarians
Populasi diasumsikan multivariate normal, maka likelihood rasio untuk uji statistic adalah :
Ʌ =
𝑙
𝑆𝑙
𝑆 𝑝𝑜𝑜𝑙𝑒𝑑
𝑛 𝑙−1 /2
𝑛𝑙 = ukuran sampel ntuk kelompok ke-𝑙
𝑆𝑙 = matriks kovarian sampel kelompok ke-𝑙
𝑆 𝑝𝑜𝑜𝑙𝑒𝑑 =
1
𝑙(𝑛𝑙 − 1)
𝑛1 − 1 𝑆1 + 𝑛2 − 1 𝑆2 + ⋯ + 𝑛 𝑔 − 1 𝑆 𝑔
Jika -2ln Ʌ = M, maka :
𝑀 = 𝑙 𝑛𝑙 − 1 ln 𝑆 𝑝𝑜𝑜𝑙𝑒𝑑 − 𝑙 𝑛𝑙 − 1 ln 𝑆𝑙  Statistik Uji Box’s M
∑ merupakan matriks covarians
∑l merupakan matriks covarians dari populasi ke 𝑙
𝑙=1,2,…,g,
18
Referensi : Applied Multivariate

Jika 𝑢 = 𝑙
1
𝑛 𝑙−1
−
1
𝑙 𝑛 𝑙−1
2𝑝2+3𝑝−1
6 𝑝+1 𝑔−1
dimana 𝑝 menyatakan variabel dan 𝑔 menyatakan kelompok, maka :
𝑐 = 1 − 𝑢 𝑀 = 1 − 𝑢
𝑙
𝑛𝑙 − 1 ln 𝑆 𝑝𝑜𝑜𝑙𝑒𝑑 −
𝑙
𝑛𝑙 − 1 ln 𝑆𝑙
Mendekati distribusi Chi Square dengan derajat bebas
𝑣 = 𝑔
1
2
𝑝 𝑝 − 1 −
1
2
𝑝 𝑝 + 1 =
1
2
𝑝 𝑝 + 1 𝑔 − 1
Pada tingkat signifikansi α, tolak tolak H0 jika C > χ2p (p +) (g-1) / 2 (α)
Syarat menggunakan distribusi Chi Square :
▪ masing-masing nl > 20
▪ p dan g ≤ 5.
19

Uji Kesamaan Covarians
1. Hipotesis
H0 : ∑1 = ∑2 = … = ∑g =
∑
H1 : setidaknya dua
matriks covarians
tidak sama
2. Tingkat Signifikansi :
α
20
3. Statistik Uji
𝑐 = 1 − 𝑢 𝑀
4. Wilayah Kritis
Tolak tolak H0 jika
C > χ2 p (p +) (g-1) /
2 (α)
= 1 − 𝑢
𝑙
𝑛𝑙 − 1 ln 𝑆 𝑝𝑜𝑜𝑙𝑒𝑑 −
𝑙
𝑛𝑙 − 1 ln 𝑆𝑙

Jika gagal tolak Ho :
1. tidak terdapat perbedaan
yang signifikan antar matriks
kovarian
2. Ʌ mendekati 1
3. statistik M Box relatif kecil
Jika tolak Ho:
1. terdapat perbedaan yang
signifikan antara matriks kovarian
2. Ʌ menjadi kecil
3. Statistik M Box relatif besar
21Referensi : Applied Multivariate

“ ▪ Uji Box’s M Untuk
Kesamaan Matriks
Covarians
22
M-test sensitif terhadap beberapa bentuk non-
normalitas.
Uji teori normal pada kovarian dipengaruhi oleh
kurtosis populasi.
M-test dapat menolak H0 dalam beberapa kasus yang
tidak normal dimana tidak mempengaruhi tes
MANOVA.
Sehingga, kita dapat memutuskan untuk melanjutkan
dengan tes MANOVA meskipun uji-M mengarah
pada penolakan H0.
Referensi : Applied Multivariate Statistical
Analysis, Richard A Johnson

“
Unbalanced One-Way
MANOVA
24
Model :
𝑦𝑖𝑗 = 𝜇 + 𝛼𝑖 + 𝜀𝑖𝑗 = 𝜇𝑖 + 𝜀𝑖𝑗 , untuk 𝑖 = 1,2, … , 𝑘 ; 𝑗 =
1,2 … , 𝑛𝑖 ;
Total Rata-Rata…
𝑦𝑖. =
𝑗=1
𝑛 𝑖
𝑦𝑖𝑗
𝑛𝑖
𝑦𝑖.. =
𝑖=1
𝑘
𝑗=1
𝑛 𝑖
𝑦𝑖𝑗
𝑁
Total Vektor…
𝑦𝑖. =
𝑗=1
𝑛 𝑖
𝑦𝑖𝑗
𝑦𝑖.. =
𝑖𝑗
𝑦𝑖𝑗

“
25
Matriks H dan E didefinisikan sebagai :
𝑯 =
𝑖=1
𝑘
𝑛𝑖 𝑦𝑖. − 𝑦𝑖.. 𝑦𝑖. − 𝑦𝑖.. ′ =
𝑖=1
𝑘
1
𝑛𝑖
𝑦𝑖 𝑦𝑖
′
−
1
𝑁
𝑦… 𝑦…
′
𝑬 =
𝑖=1
𝑘
𝑗=1
𝑛 𝑖
𝑦𝑖𝑗 − 𝑦𝑖. 𝑦𝑖𝑗 − 𝑦𝑖. ′
=
𝑖=1
𝑘
𝑗=1
𝑛 𝑖
𝑦𝑖𝑗 𝑦𝑖𝑗
′
−
𝑖=1
𝑘
1
𝑛𝑖
𝑦𝑖. 𝑦𝑖.
′

“ ▪ Wilks’ Λ for
Unbalanced MANOVA
26
Wilks’ Λ untuk Unbalanced MANOVA sama halnya dengan
di balanced MANOVA, memiliki bentuk yang sama,
menggunakan H dan E.
Λ =
𝑬
𝑬 + 𝑯
𝑣 𝐻 = 𝑘 − 1, 𝑣 𝐸 = 𝑁 − 𝑘 =
𝑖=1
𝑘
𝑛𝑖 − 𝑘

Contoh Soal
Multivariate Statistics Made Simple : A Practical
Approach_ halaman 88

▪ The following data refers to selected parameters
observed in an anthropometric study. For each
subject (person) the Physical Activity (PA), Body Mass
Index (BMI), Heart Rate (HR), Total Count (TC) of WBC
per cubic mm of blood and High Density Lipoproteins
(HDL) md/dl have been measured. The data also
contains information on age and gender of each
person. A sample of 22 records is given below.
▪ Find the covariance matrix of the profile BMI, HR, TC,
HDC.
▪ Perform MANOVA and examine the effect of physical
activity on the health profile in terms of the 4
variables BMI, HR, TC, HDC.
▪ How would the results change if age is included as a
covariate and only gender as a factor?
28

“ 𝐻0 ∶ 𝝉 𝟏 = 𝝉 𝟐
𝐻1 ∶ 𝑀𝑖𝑛𝑖𝑚𝑎𝑙 𝑎𝑑𝑎 𝑠𝑒𝑝𝑎𝑠𝑎𝑛𝑔 𝜏 𝑔 𝑦𝑎𝑛𝑔 𝑡𝑖𝑑𝑎𝑘 𝑠𝑎𝑚𝑎
Level of Significance = 0,05
Statistik Uji :
𝚲 =
𝑾
𝑩 + 𝑾
Daerah Penolakan :
𝑇𝑜𝑙𝑎𝑘 𝐻0 𝑗𝑖𝑘𝑎 Λ ≤ Λ 𝑝 , 𝑛 𝑙−𝑝−1
29

Tabel MANOVA
30
Source of
Variation
Matrix of Sum of Square and Cross
Product
Degrees of Freedom
Treatment
(Between) 2.89
−8.64
−30.29
7.37
−8.64
26.18
0.00
−22.32
−30.29
0.00
321.95
−78.26
7.37
−22.32
−78.26
18.90
2 − 1 = 1
Residual
(Within) 37.25
−35.33
197.50
−21.80
−35.33
257.27
−364.65
−64.19
197.50
−364.65
6429.85
−45.12
−21.80
−64.19
−45.12
107.87
22 − 2 = 20
Total
(Corrected) 40.14 −43.97 167.20 −14.43
−43.97 283.45 −364.65 −86.52
167.20 −364.65 6751.80 −123.38
−14.43 −86.52 −123.38 126.77
22 − 1 = 21

𝚲 =
𝑾
𝑩 + 𝑾
=
2749758179
4115021144
= 0.668
Berdasarkan tabel 6.3 buku johnson, untuk 𝑝 ≥ 1 dan 𝑔 = 2 maka menggunakan
persamaan di bawah ini :
𝑛 𝑙−𝑝−1
𝑝
1−𝚲
𝚲
~ 𝐹 𝛼 ;𝑝 , 𝑛 𝑙−𝑝−1
𝑛 𝑙−𝑝−1
𝑝
1−𝚲
𝚲
=
22−4−1
4
1−0.668
0.668
= 2.110
𝐹 𝛼 ;𝑝 , 𝑛 𝑙−𝑝−1 = 𝐹0,05 ;4,17 = 2.96
Keputusan :
Karena hasil dari Wilk’s Lambda < 𝐹0,05 ;4,17 maka keputusannya adalah gagal tolak 𝑯 𝟎
Kesimpulan :
Dengan tingkat signifikansi sebesar 5% belum ada cukup bukti yang menunjukan
perbedaan rata-rata antar kategori Physical Activity (PA) terhadap Body Mass Index (BMI),
Heart Rate (HR), Total Count (TC) of WBC per cubic mm of blood dan High Density
Lipoproteins (HDL) md/dl
Karena gagal tolak 𝐻0 sehingga tidak dilanjutkan dengan uji perbandingan
berganda (multiple comparison).
31

APG Pertemuan 7 : Manova (2)

Recommended

Recommended

More Related Content

What's hot

What's hot (20)

Similar to APG Pertemuan 7 : Manova (2)

Similar to APG Pertemuan 7 : Manova (2) (20)

More from Rani Nooraeni

More from Rani Nooraeni (10)

Recently uploaded

Recently uploaded (12)

APG Pertemuan 7 : Manova (2)