Multivariate Analysis
Irlandia Ginanjar
Jurusan Statistika

Unpad
p
Analisis Multivariat
Analisis multivariat adalah suatu studi tentang
beberapa variabel random dependent secara
b b
i b l
d
d
d
simultan.
simultan.
Analisis ini merupakan pengembangan dari
analisis univariat.
univariat.
Untuk mendapatkan hasil analisis yang tepat
akan diperlukan asumsi-asumsi distribusional.
p
asumsidistribusional.
framework matematis relatif lebih complex jika
dibandingkan dengan analisis univariat.
univariat.
Analisis ini telah digunakan sering digunakan di
dunia nyata.
nyata.
Beberapa Distribusi Multivariat
Distribusi Normal Multivariat
Pengembangan dari Distribusi Normal

Distribusi Wishart
Di ib i Wi h
Pengembangan dari Distribusi Chi–Square
g
g
Chi– q

Statistik dan distribusi Hotelling’s T2
Penembangan dari
b
d i
Student’s–
Student’s–t kuadrat

statistik
i ik

dan
d

distribusi
di ib i

Statistik Willk’s Lambda
Pengembangan dari rasio dari dua statistik Chi–
Chi–
Square
Beberapa Ukuran Multivariat
Vektor Rata-rata
RataKoleksi rata-rata dari variabel-variabel yang
ratavariabeldikaji

Matriks Kovarians
Koleksi Varians dan Kovarians dari variabelvariabelvariabel yang dikaji

Matriks Korelasi
Koleksi koefisien korelasi dari variabel-variabel
variabelyang dikaji

The Generalized Variance
Determinan dari Matriks Varians
i
d i
ik
i
Beberapa Tes Signifikansi
Multivariat
M l i
i
Tes Signifikansi vektor rata-rata tunggal
rataTes kesamaan dari dua vektor rata-rata
rataTes kesamaan dari beberapa vektor rata-rata
rataTes Signifikansi matriks kovarians tunggal
Tes kesamaan dari dua matriks kovarians
Tes kesamaan dari beberapa matriks kovarians
Tes independensi dari beberapa set variat
Tes independensi dari variat
T i d
d
id i
i t
Beberapa Teknik Multivariat
The Hotelling’s – T2 Statistic
g
The Multivariate Analysis of Variance and
Covariance
The Multivariate Experimental Designs
The Multivariate Profile Analysis
Th M lti i t P fil A l i
The Multivariate Regression Analysis
The Generalized Multivariate Analysis of Variance
The Principal Component Analysis
The Factor Analysis
Beberapa teknik Multivariate
Techniques
h i
The Canonical Correlation Analysis
y
The Discriminatory Analysis
The Cluster Analysis
The Multidimensional Scaling
The Correspondence Analysis
The Classification Trees
The Path Analysis
The Structural Equations Models
The Seemingly Unrelated Regression Models
Jenis Data Dasar
Terdapat dua jenis data dasar :
1.

Non M i (Qualitative)
N Metric (Q li i )
–

–

Data non metrik bisa berupa atribut, atau sifat kategorik yang
tribut,
j
gg
byek.
y
menunjukkan atau menggambarkan suatu obyek.
Variabel yang diukur menggunakan skala nominal dan ordinal
umumnya merupakan variabel non metric

2. Metric (Quantitative)
–

–

Pengukuran dilakukan sehingga suatu obyek dapat diketahui
perbedaannya dalam jumlah atau derajat.
derajat.
Variabel yang diukur mengunakan skala Interval dan Ratio
merupakan variabel metric

8
Klasifikasi metode data analitis
Klasifikasi metode d
l ifik i
d
data analitis d
li i dapat dib i
dibagi
menjadi :
1.

Dependence Method
•

2.

Dapat didefinisikan sebagai suatu metode di mana suatu
variabel atau kumpulan variabel yang diketahui sebagai
variabel dependen diprediksi atau dijelaskan oleh variabelvariabelvariabel yang l i yang di b sebagai variabel i d
i b l
lain
disebut b
i
i b l independen.
independen.
d

Interdependence Method
•

Adalah suatu
Ad l h s t metode di
t d dimana tid k ada s t atau s k l
tidak d satu t sekelompok
k
variabel yang didefinisikan sebagai independen ataupun
variabel dependen .
9
Classification of Multivariate Techniques
(Dependence Method)
Dependent Variable (s)
One

Independent
Variale(s)
One
Metric

Non Metric
More
than One
Metric

Non Metric

More than One

Metric

Non Metric

Metric

• Simple
Regression

• Discriminan analysis
• Logistic regression

• Canonical
Correlation

• t-test

• Discrete Discriminan
Analysis

• Manova

• Multiple
regression

• Discriminan analysis
• Logistic regression

• Canonical
Correlation

• Anova

• Discrete Discriminan
Analysis
A l i
• Conjoint Analysis

• Manova

Non Metrik

• Multiple group
discriminan
analysis (MDA)

• Multiple group
discriminan
analysis (MDA)

10
Klasifikasi of Multivariate Techniques
(Interdependence

Method)
Type of Data

Number of variable
Metric

Two

More than two

Non Metric

• Simple Corelation

• Two way contingency
table

• Principal Componen
Analysis
• Factor Analysis

Multiway
• M lti
Contingency table
• Loglinear model
• Corespondence
Analysis

11
Some U f l M t i
S
Useful Matrices
Diagonal Matrices
Identity Matrices
Symmetric Matrices
Idempotent Matrices
Orthogonal Matrices
Diagonal Matrices
A diagonal matrix is a square matrix
g
that has values on the diagonal with all
off-diagonal entities being zero.
⎡a11
⎢0
⎢0
⎢0
⎣

0
a22
0
0

0
0
a33
0

0 ⎤
0 ⎥
0 ⎥
a44 ⎥
⎦
Identity Matrices
A diagonal matrix where
di
l
i
h
• the diagonal elements all equal 1.
g
q
• All other elements equal 0.
IA = AI = A
⎡1
I = ⎢0
⎢0
⎢0
⎣

0
1
0
0

0
0
1
0

0⎤
0⎥
0⎥
1⎥
⎦
Idempotent Matrices
Any matrix A such that A2 = A is said to
be of idempotent.

Orthogonal Matrices
Any square matrix A with rows that are
mutually perpendicular and have unit lengths
is said to be orthogonal, i.e.,
1
A’A = I or A-1 = A’
A’.
Eigenvalues and Eigenvectors
For a square matrix A the scalars, λ
A,
scalars λ,
satisfying the polynomial equation
|A - λI| = 0 are called the eigenvalues of
ll d th i
l
f
A.
A square matrix A is said to have
eigenvectors e such that for every λ the
equation Ae = λe.
Usually e is normailized, e’e = 1.
Thank You

Pengantar analisis-multivariat

  • 1.
  • 2.
    Analisis Multivariat Analisis multivariatadalah suatu studi tentang beberapa variabel random dependent secara b b i b l d d d simultan. simultan. Analisis ini merupakan pengembangan dari analisis univariat. univariat. Untuk mendapatkan hasil analisis yang tepat akan diperlukan asumsi-asumsi distribusional. p asumsidistribusional. framework matematis relatif lebih complex jika dibandingkan dengan analisis univariat. univariat. Analisis ini telah digunakan sering digunakan di dunia nyata. nyata.
  • 3.
    Beberapa Distribusi Multivariat DistribusiNormal Multivariat Pengembangan dari Distribusi Normal Distribusi Wishart Di ib i Wi h Pengembangan dari Distribusi Chi–Square g g Chi– q Statistik dan distribusi Hotelling’s T2 Penembangan dari b d i Student’s– Student’s–t kuadrat statistik i ik dan d distribusi di ib i Statistik Willk’s Lambda Pengembangan dari rasio dari dua statistik Chi– Chi– Square
  • 4.
    Beberapa Ukuran Multivariat VektorRata-rata RataKoleksi rata-rata dari variabel-variabel yang ratavariabeldikaji Matriks Kovarians Koleksi Varians dan Kovarians dari variabelvariabelvariabel yang dikaji Matriks Korelasi Koleksi koefisien korelasi dari variabel-variabel variabelyang dikaji The Generalized Variance Determinan dari Matriks Varians i d i ik i
  • 5.
    Beberapa Tes Signifikansi Multivariat Ml i i Tes Signifikansi vektor rata-rata tunggal rataTes kesamaan dari dua vektor rata-rata rataTes kesamaan dari beberapa vektor rata-rata rataTes Signifikansi matriks kovarians tunggal Tes kesamaan dari dua matriks kovarians Tes kesamaan dari beberapa matriks kovarians Tes independensi dari beberapa set variat Tes independensi dari variat T i d d id i i t
  • 6.
    Beberapa Teknik Multivariat TheHotelling’s – T2 Statistic g The Multivariate Analysis of Variance and Covariance The Multivariate Experimental Designs The Multivariate Profile Analysis Th M lti i t P fil A l i The Multivariate Regression Analysis The Generalized Multivariate Analysis of Variance The Principal Component Analysis The Factor Analysis
  • 7.
    Beberapa teknik Multivariate Techniques hi The Canonical Correlation Analysis y The Discriminatory Analysis The Cluster Analysis The Multidimensional Scaling The Correspondence Analysis The Classification Trees The Path Analysis The Structural Equations Models The Seemingly Unrelated Regression Models
  • 8.
    Jenis Data Dasar Terdapatdua jenis data dasar : 1. Non M i (Qualitative) N Metric (Q li i ) – – Data non metrik bisa berupa atribut, atau sifat kategorik yang tribut, j gg byek. y menunjukkan atau menggambarkan suatu obyek. Variabel yang diukur menggunakan skala nominal dan ordinal umumnya merupakan variabel non metric 2. Metric (Quantitative) – – Pengukuran dilakukan sehingga suatu obyek dapat diketahui perbedaannya dalam jumlah atau derajat. derajat. Variabel yang diukur mengunakan skala Interval dan Ratio merupakan variabel metric 8
  • 9.
    Klasifikasi metode dataanalitis Klasifikasi metode d l ifik i d data analitis d li i dapat dib i dibagi menjadi : 1. Dependence Method • 2. Dapat didefinisikan sebagai suatu metode di mana suatu variabel atau kumpulan variabel yang diketahui sebagai variabel dependen diprediksi atau dijelaskan oleh variabelvariabelvariabel yang l i yang di b sebagai variabel i d i b l lain disebut b i i b l independen. independen. d Interdependence Method • Adalah suatu Ad l h s t metode di t d dimana tid k ada s t atau s k l tidak d satu t sekelompok k variabel yang didefinisikan sebagai independen ataupun variabel dependen . 9
  • 10.
    Classification of MultivariateTechniques (Dependence Method) Dependent Variable (s) One Independent Variale(s) One Metric Non Metric More than One Metric Non Metric More than One Metric Non Metric Metric • Simple Regression • Discriminan analysis • Logistic regression • Canonical Correlation • t-test • Discrete Discriminan Analysis • Manova • Multiple regression • Discriminan analysis • Logistic regression • Canonical Correlation • Anova • Discrete Discriminan Analysis A l i • Conjoint Analysis • Manova Non Metrik • Multiple group discriminan analysis (MDA) • Multiple group discriminan analysis (MDA) 10
  • 11.
    Klasifikasi of MultivariateTechniques (Interdependence Method) Type of Data Number of variable Metric Two More than two Non Metric • Simple Corelation • Two way contingency table • Principal Componen Analysis • Factor Analysis Multiway • M lti Contingency table • Loglinear model • Corespondence Analysis 11
  • 12.
    Some U fl M t i S Useful Matrices Diagonal Matrices Identity Matrices Symmetric Matrices Idempotent Matrices Orthogonal Matrices
  • 13.
    Diagonal Matrices A diagonalmatrix is a square matrix g that has values on the diagonal with all off-diagonal entities being zero. ⎡a11 ⎢0 ⎢0 ⎢0 ⎣ 0 a22 0 0 0 0 a33 0 0 ⎤ 0 ⎥ 0 ⎥ a44 ⎥ ⎦
  • 14.
    Identity Matrices A diagonalmatrix where di l i h • the diagonal elements all equal 1. g q • All other elements equal 0. IA = AI = A ⎡1 I = ⎢0 ⎢0 ⎢0 ⎣ 0 1 0 0 0 0 1 0 0⎤ 0⎥ 0⎥ 1⎥ ⎦
  • 15.
    Idempotent Matrices Any matrixA such that A2 = A is said to be of idempotent. Orthogonal Matrices Any square matrix A with rows that are mutually perpendicular and have unit lengths is said to be orthogonal, i.e., 1 A’A = I or A-1 = A’ A’.
  • 16.
    Eigenvalues and Eigenvectors Fora square matrix A the scalars, λ A, scalars λ, satisfying the polynomial equation |A - λI| = 0 are called the eigenvalues of ll d th i l f A. A square matrix A is said to have eigenvectors e such that for every λ the equation Ae = λe. Usually e is normailized, e’e = 1.
  • 17.