Deep Generative Learning for All - The Gen AI Hype (Spring 2024)
Multiparametric Wavelet Transforms Structure
1. Multiparametric Wavelet Transforms
E.Ostheimer2, V.G. Labunets1, D.E.Komarov1,
Yekaterinburg , AIST-2016
1Ural Federal University, pr. Mira, 19, Yekaterinburg,
620002, Russian Federation
2Capricat LLC 1340 S. Ocean Blvd., Suite 209 Pompano
Beach 33062 Florida USA
2. WDT is characterized by two sets of coefficients
0 1 1
2
0 1 1
, ,...,
, where L=2D
, ,...,
n
L
L
h h h
g g g
WDT
Structure of WDT
Relations between g- and h-coefficients:
0 1 1
2
0 1 1
, ,...,
, ,...,
n
L
L
h h h
g g g
WDT
0 1 2 2 1
1 2 1 1 0
...
|| || || ... || ||
...
L L
L L L
g g g g g
h h h h h
0 1 1
0 1 2 12 2
0 1 1
, ,...,
, ,...,
, ,...,
n n
L
D
L
h h h
h h h
g g g
WDT WDT
3. 0 1 1 0 1 12 2
, , , , , ,n nL Dh h h
WDT WDTK K
Multiparametric Wavelet transform:
0 1 12
, , ,n D
WDT K
Let be the smallest positive integer such that 2
log 2m D 1
2 2 2
m m
D
1 1
1
0 1 1 0 1 12 2 21
2 , ,..., [ , ,..., ] IL Ln n r n n r
r n m
h h h h h h
WDT AWT
Arbitrary cyclic wavelet transform, written in stairs-like form:
Structure of WDT
4. 1 3
2 3 1
0 1 2 3 0 1
0 2
0
0 1 2 3
0 1 2 3
0 1 2 3
2 3 0
2 3
2 3 0 1 0 1 2 3
0 1 2 3
2
1
13 0
g g g g
g g g g
g g g g
g g g g
g g
h h h h h h h h
h h h h h h h h
h h h h
h h h h
g g
g g g g
1
1
1
1
1 1
1 1
1 1
1 1
1 1
1 1
1 1
1 1
=
0 1 2 3
0 1 2 3
0 1 2 3
0 1 2 3
0 1 2 3
0 1 2 3
2 3 0 1
0 1 2 3
0 1 2 3
0 1 2 3
0 1 2 3
0 1 2 3
0 1 2 3
0 1 2 3
2 3 0 1
0 1 2 3
h h h h
h h h h
h h h h
h h h h
h h h h
h h h h
h h h h
g g g g
g g g g
g g g g
g g g g
g g g g
g g g g
g g g g
g g
h h
g
h
g
h
=
16 0 1 2 3WDT h , h , h , h =
Stairs-Like Structure of WDT16(4)
step
step
step
Two Spans:
H-span and g-span
Two Spans:
H-span and g-span
Two Spans:
H-span and g-span
5.
3
0 1 2 3
0 1 2 3
0 1 2 3
0 1 2 3 0 1 2 3
2 3 0 1 2 3 0 1
0 1 2 3 0 1 2 3
2 3 0 1 0 1 2 3
0 1 2
2 3 0 1
12 8
h h h h
h h h h
h h h h
h h h h h h h h
h h h h h h h h
g g g g g g g g
g g g g g g g g
g g g g
g g g g
I I=
0 1 2 3
0 1 2 3
0 1 2 3
0 1 2 3
0 1 2 3
0 1 2 3
2 3 0 1
0 1 2 3
0 1 2 3
0 1 2 3
0 1 2 3
0 1 2 3
0 1 2 3
0 1 2 3
2 3 0 1
h h h h
h h h h
h h h h
h h h h
h h h h
h h h h
h h h h
g g g g
g g g g
g g g g
g g g g
g g g g
g g g g
g g g g
g g g g
=
Stairs-Like Structure of WDT16(4)
4 12 8 8 16
I IAWT AWT AWT
6. ,
( ) ( )
0 0 0 0 0 0 0 0 0
0 0 0 0 0 0 0 0 0
0 0 0 0 0 0 0 0 0
0 0 0 0 0 0 0 0
0 0 0 0 0 0 0 0 0
( )
0 0 0 0 0 0 0 0 0
0 0 0 0 0 0 0 0
0 0 0 0 0 0 0 0 0
0 0 0 0 0 0 0 0 0
0 0 0 0 0 0 0 0
( ) ( )
0
i j
cos sin
si
1
1
1
1
1
1
1
1
n cos
i j
i
CS
j
L L L
L L L
M M O M M M M M M M M
L L L
L L L
L L L
M M M M M O M M M M M
L L L
L L L
L L L
M M M M M M M M O M M
L L L
L L L
.
Jacobi-Givens Rotations
1 1 0 0, , 1 , 0 0 1 12
( ) ( ) ( ) , , ,n
k ki j k i j i j Lh h h
CS CS CS AWTK K
7. Multiparametric presentation
of AWT8(6)
0 1 2 3 4 5
0 1 2 3 4 5
4 5 0 1 2 3
2 3 4 5 0 1
8 0 1 2 3 4 5
5 4 3 2 1 0
5 4 3 2 1 0
1 0 5 4 3 2
3 2 1 0 5 4
, , , , ,
h h h h h h
h h h h h h
h h h h h h
h h h h h h
h h h h h h
h h h h h h
h h h h h h
h h h h h h
h h h h h h
AWT
0,4 0 8 0 1 2 3 4 5
0 0 0 1 2 3 4 5
0 1 2 3 4 5
4 5 0 1 2 3
2 3 4 5 0 1
0 0 5 4 3 2 1 0
5 4 3 2 1 0
1 0 5 4 3 2
3 2 1 0 5 4
( ) , , , , ,
1
1
1
1
1
1
h h h h h h
c s h h h h
h h h h h h
h h h h h h
h h h h h h
s c h h h h
h h h h h h
h h h h h h
h h h h h h
CS AWT
h h
h h
0 1 2 3
0 1 2 3 4 5
4 5 0 1 2 3
2 3 4 5 0 1
3 2 1 0
5 4 3 2 1 0
1 0 5 4 3 2
3 2 1 0 5 4
h h h h
h h h h h h
h h h h h h
h h h h h h
h h h h
h h h h h h
h h h h h h
h h h h h h
0 0
0 0
0 0cosc 0 0sins
0 5 0 0 0c h s h
0 0 0 5 0s h c h
8. 3,7 0 2,6 0 1,5 0 0,4 0 8 0 1 2 3 4 5( ) ( ) ( ) ( ) , , , , ,h h h h h h CS CS CS CS AWT
0 0 0 1 2 3 4 5
0 0 0 1 2 3 4 5
0 0 4 5 0 1 2 3
0 0 2 3 4 5 0 1
0 0 5 4 3 2 1 0
0 0 5 4 3 2 1 0
0 0 1 0 5 4 3 2
0 0 3 2 1 0 5 4
c s h h h h
c s h h h h
c s h h h h
c s h h h h
s c h h h h
s c h h h h
s c h h h h
s c h h h h
h h
h h
h h
h h
h h
h h
h h
h h
0 1 2 3
0 1 2 3
0 1 2 3
2 3 0 1
8 0 1 2 3
3 2 1 0
3 2 1 0
1 0 3 2
3 2 1 0
, , ,
h h h h
h h h h
h h h h
h h h h
h h h h
h h h h
h h h h
h h h h
h h h h
AWT
Multiparametric presentation
of AWT8(6)
0,7 1 3,6 1 2,5 1 1,4 1 8 0 1 2 3 8 0 1( ) ( ) ( ) ( ) , , , ,h h h h h h CS CS CS CS AWT AWT
1,7 2 0,6 2 3,5 2 2,4 2 8 0 1 8( ) ( ) ( ) ( ) ,h h CS CS CS CS PAWT
10. Indexes of rotation matrices
0, 4
1, 5
2, 6
3, 7
4k k
Z ^
4
1, 4
2, 5
3, 6
0, 7
1 4k k
Z ^
4
2, 4
3, 5
0, 6
1, 7
2 4k k
Z ^
0
8 0 3,7 0 2,6 0 1,5 0 0,4 0( ) ( ) ( ) ( ) T CS CS CS CS
1
8 1 0,7 1 3,6 1 2,5 1 1,4 1( ) ( ) ( ) ( ) T CS CS CS CS
2
8 2 1,7 2 0,6 2 3,5 2 2,4 2( ) ( ) ( ) ( ) T CS CS CS CS
General rule: 2
, 2n r
n r
k i k
r – number of iteration within atomic function in
multiparametric presentation
i – number of matrices 2n
i
iT
11. Multiparametric presentation
of atomic matrix
0
0 1 2 12 2
1
, , ,r r
i
i D
i D
h h hP T
AWT K
1
0 1 2 1 2 2
0
, , , r r
D
i
D i
i
h h h T P
AWT K
16 0 1 2 3 4 12 8 8 16, , ,h h h h I IWDT AWT AWT AWT
0 1 0 1 0 1
4 4 0 4 1 4 8 8 0 8 1 8 16 16 0 16 1 16, , T T P T T P T T PAWT AWT AWT
0 1 0 1 0 1
16 0 1 4 0 4 1 4 12 8 0 8 1 8 8 16 0 16 1 16, T T P I T T P I T T PWDT
1 1 1
4 4 12 8 8 8 16 16
0 0 0
( ) ( ) ( )i i i
i i i
i i i
T P I T P I T P
2
1 1 1
1 0 1 2 1
1 1
0 1 12 2 2 2 2
log 1 0
[ , ,..., ]
2
[ , ,..., ] ( )n n r n r n n r
n r D
D
i
D i
r n L i
h h h
T P I
AWT
WDT
1 4 4 44 2 4 4 4 43
2
1 1
2
1 1 0
1, 2 2 2 2
log 1 0 2 1
( )
n r
n r n r n n r
n r
D
D ik i k
r n L i k
CS P I
Multiparametric presentation of WDT
Generalization:
12. Multiparametric presentation
of wavelet packets
2
1
0 1 2 1 1 0 1 2 1 12 2 2 2
log 1
[ , ,..., ] [ , ,..., ]n D n r D n n r
r n L
h h h h h h I
WDT AWT
16 0 1 2 3WDT h , h , h , h =
1 3
2 3 1
0 1 2 3 0 1
0 2
0
0 1 2 3
0 1
2 3
2 3 0 1 0 1 2 3
0 1 2 3
2 3 0
2 3
0 1 2 3
2 3
1
0 1
h h h h h h h h
h h h h h
g g g g
g g g g
h
g g g g
g g g g
g g g g
g g g
h h
h h h h
h h h h
g
1
1
1
1
1 1
1 1
1 1
1 1
1 1
1 1
1 1
1 1
=
0 1 2 3
0 1 2 3
0 1 2 3
0 1 2 3
0 1 2 3
0 1 2 3
2 3 0 1
0 1 2 3
0 1 2 3
0 1 2 3
0 1 2 3
0 1 2 3
0 1 2 3
0 1 2 3
2
0
3 0 1
1 2 3
h h h h
h h h h
h h h h
h h h h
h h h h
h h h h
h h h h
g g g g
g g g g
g g g g
g g g g
g g g g
g g g g
g g g g
h h h
g g g
h
g
13. Multiparametric presentation
of wavelet packets
16 0 1 2 3WDT h , h , h , h =
1 3
2 3 1
1 3
2 3 1
0 1 2 3 0 1 2 3
2 3 0 1 0 1 2 3
0 1 20 2
0
0 1 2 3
0 1 2 3
0 1 2 3
2 3 0 1
3
2 3 0
0 1 2 3
2 3 0 1
2
0
1
0
g g g g
g g g g
g g g g
g g g g
g g
h h h h h h h h
h h h
g g
g g g g
g g g g
g g g
h h h h h
h h h h
h h h h
h h
h h h h
g
h h
1
1
1
1
1
1
1
1
1 1
1 1
1 1
1 1
=
0 1 2 3
0 1 2 3
0 1 2 3
0 1 2 3
0 1 2 3
0 1
0 1 2 3
2 3
2 3 0 1
0 1 2 3
0 1 2 3
0 1 2 3
0 1 2 3
0 1 2 3
0 1 2 3
0 1 2 3
2 3 0 1
h h h h
h h h h
h h h h
h h h h
h h h h
h h h h
h h h h
g g g g
g g g g
g g g g
g
h h h h
g g g
g g g g
g g g g
g g g g
g g g g
2
1
0 1 2 1 1 0 1 2 1 12 2 2 2
log 1
[ , ,..., ] [ , ,..., ]n D n r D n n r
r n L
h h h h h h I
WDT AWT
14. Multiparametric presentation
of wavelet packets
16 0 1 2 3WDT h , h , h , h =
1 3
2 3 1
1 3
2 3 1
1 3
2 3 1
0 2
0
0 1 2 3
0 1 2
0 2
0
0
0 1 2
1
2
3 0 1 2 3
2 3 0 1 0 1 2 3
0 1 2 3
2 3 0
0 1 2 3
2 3 0 1
0 1 2 3
3
0
2 0 1
g g g g
g g g g
g g g g
g g g g
g g g g
g g g g
g g g g
g
h h h h h h h h
h h h h h h h h
h h h h
h h h h
h h h h
h h h h
h h h h
h h h h
g g g
1
1
1
1
=
3
0 1 2 3
2 3 0 1
0 1 2 3
0 1 2 3
0 1 2 3
2 3
0 1 2 3
0 1
0 1 2 3
0 1 2 3
0 1 2 3
0 1 2
2 3
0 1 2 3
0 1 2 3
2
3
0 1 2 3
0 1 2 3
2 3
3 0 1
0 1
0 1
0
h h h h
h h h h
h h h h
h h h h
h h
g g g g
g g g g
g g g g
g g g g
g g g g
g g
h
h h
h h h h
h h h h
g
h h h
h h h h
h h h h
h h h h
h h h h
g
g
g
1 2 3
0 1 2 3
0 1 2 3
0 1 2 3
0 1 2 3
0 1 2 3
0 1 2 3
2 3 0 1
g g
g g g g
g g g g
g g g g
g g g g
g g g g
g g g g
g g g g
2
1
0 1 2 1 1 0 1 2 1 12 2 2 2
log 1
[ , ,..., ] [ , ,..., ]n D n r D n n r
r n L
h h h h h h I
WDT AWT
15. 1 2 12
( , ,..., ,..., )r r r r r
t rs s s s s
1
1
2
2
12
, 1,
, 0.
n r
n r
r
t
r
t
r
t
n r
s s
I s
AWT
AWT
11 2
1 1 1 1
1
1
2 2 2 2 2
2
2
...
rr rrr rt
n n r n r n r n r
r
t
ss sss
AWP AWT AWT AWT AWT
1 1
0 1 2 1
1 1
1
1
1 2 1
1
11 2
1 1 1
1
1
, ,...,
2 22
2 2 2
2
2
[ , ,..., ]
...
D
r n m r n m
r n m
rn m r
t
n n r
rr r
r
n r n r n r
n
r
t
s
ss s
h h hs s s s
WDP AWP AWT
AWT AWT AWT 1 1
1 ,ss
2 2 2
1 2, ,s ss
3 3 3 3 3
1 2 3 4, , , ,s s s ss
1 2 2
, ,..., .n m n m n m n m
n ms s ss
Multiparametric presentation
of wavelet packets
Packet of atomic matrices:
1
0
1 1 12 2 2
( )
D
i
i
r
t
n r n r n r
r
tr
t si
s
s
T P
AWT
1 1
0 1 2 1
1 0
1 2 1
1 11
1
, ,...,
2 2 2
2
, ,..., ( )
D
D i
r n m i
rn m
t
n n r n r
rr t
si
t
s
h h h φs s s
T P
WDP
16. The inverse multiparametric
wavelet transform
2
1 1
1
2 2 2 2
log 1
n n r n n r
r n L
I
WDT AWT
2
1 1
2
log1
2 2 2 2 2 2 2
log 1
n n r n n r r n r
t
L
t t
r n L r n
I I
WDT AWT AWT
1
2 2 2
0
( )
D
i
r r i r
i
T P
AWT
( ) ( )
t
T T
0
2 2 2
1
( )t t i
r r r i
i D
P T
AWT
0
2 , 2
2 1 2
( ) ( )i
r i n r ik i k
n r n rk
T CS
12 1
12 , 2
0 12
( ) ( )r
r
i
i r ik i k
k r
T CS
2
1log 0 2 1
1
0 1 1 1 2 22 2 , 2
1 0 12
[ , ,..., ] ( ) n r
rL
t
n D r r ik i k
r n i D k r
P CS I
WDT
1
2
1 2 1
1
1
2
2log 2 10
, ,..., 1
0 1 12 2 i, 21
1 0
[ , ,..., ] ( )
r
r
t
n m
r
n r r
n r s
L
t
D ik kt
r n i D k
s s s
P CS
WDP
1r n r
17. Another form of multiparametric WDT
0 1 2 3 4 5
0 1 2 3 4 5
0 1 2 3 4 5
0 1 2 3 4 5
8 0 1 5
4 5 0 1 2 3
4 5 0 1 2 3
2 3 4 5 0 1
2 3 4 5 0 1
, , ,
h h h h h h
g g g g g g
h h h h h h
g g g g g g
h h h
h h h h h h
g g g g g g
h h h h h h
g g g g g g
CAT K
8 0 1 5[ , ,..., ]
||
h h h
+ + + +
+ + + + + +
+ + + + + +
+ + + + + +
+ + + +
+ +
+ + + + + +
+ + + + + +
+ + + +
+
+ +
+
AWT 8 0 1 5[ , ,..., ]
||
h h h
é ù
ê ú
ê ú
ê ú
ê ú
ê ú
ê ú
ê ú
ê ú
ê ú
ê ú
ê ú
ê ú
ê ú
ê ú
ê ú
ë û
+ + + + + +
+ + + + + +
+ +
+ + + + + +
+ + + + + +
+ + + + + +
+ + + + + +
+ + + +
+ +
C
+ + + +
AT
1 1 1
0 1 2 3 4 2 2 2 1
0 2 1 2 1 2 2 1 2 1
r r
r r r r
L
L
The rule of permutation:
0 1 5 8 8 0 1 5, , , , , ,h h h h h hP 8AWT CATK K
18. Sparse rotation matrix with
reflection
, ( )
1 0 0 0
0 0
0 0
0 0 0 1
R
i j
i j
i
j
c s
s c
CS
L L L
M O M M M
L L L
M M O M M
L L L
M M M O M
L L L
0 1 2 12
, , ,n Dh h h CAT K
0 1 2 32
, , ,n Dh h h
CAT K
01 0 23 0 2 2,2 1 0, , ,R R R
D D CS CS CSK
67 0 45 0 23 0 01 0 8 0 1 5
0 1 2 3
2 3 4 5
0 1 2 3
2 3 4 5
0 1 2 3
4 5 2 3
2 3 0 1
2 3 4 5
, , ,R R R R
h h h
c s h h h h
s c g g g g
c s h h h h
s c g g g g
c s h h h h
s c g g g g
c s h h h h
s c g g g g
CS CS CS CS KCAT
4 5
0 1
4 5
0 1
4 5
0 1
4 5
0 1
h h
g g
h h
g g
h h
g g
h h
g g
0 1 2 3
0 1 2 3
0 1 2 3
0 1 2 3
0 1 2 3
2 3 0 1
2 3 0 1
0 1 2 3
8 0 1 2 3, , ,
g g g g
h h h h
g g g g
h h h h
g g g g
h h h h
g g g g
h h h h
h h h h
CAT
19. Multiparametric presentation
of CAT
70 1 56 1 34 1 12 1 8 0 1 2 3
2 3
0 1
2 3
0 1
2 3
2 3 0 1
2 3 0
0 1 2 3
, , ,R R R R
h h h h
c s g g
c s h h
s c g g
c s h h
s c g g
c s h h
s c g g
s c h h
CS CS CS CS CAT
0 1
2 3
0 1
2 3
0 1
2 3
0 1
2 3
g g
h h
g g
h h
g g
h h
g g
h h
0 1
0 1
0 1
0 1
0 1
0 1
0 1
0 1
8 0 1,
h h
g g
h h
g g
h h
g g
h h
g g
h h
CAT
01 2 67 2 45 2 23 2 8 0 1
0 1
0 1
0 1
0 1
0 1
0 1
0 1
0 1
,
1
1
1
1
1
1
1
1
R R R R
h h
c s h h
s c g g
c s h h
s c g g
c s h h
s c g g
c s h h
s c g g
CS CS CS CS
CAT
2
8C
20. Multiparametric presentation
of CAT
12 12
12 12
12 12
12 12
12 12
12 12
12 12
12 12
c s
s c
c s
s c
c s
s c
c s
s c
-
-
-
-
g
+ + + +
+ + + +
+ + + +
+ +
+ +
+ +
+ +
+ +
+
+ + + +
+
+
+ +
+ +
+ +
+ + +
+ + + +
+ +
+ + + +
+ + + +
+ + + +
+ + + +
+ +
+ + + +
+ + + +
+ +
+
+ +
+ + + +
+
12 12
12 12
12 12
12 12
12 12
12 12
12 12
12 12
c s
c s
s c
c s
s c
c s
s c
s c
-
-
-
-
g
+ +
+ +
+ +
+
+ +
+ +
+ +
+ +
+
+ +
+ +
+ +
+ +
+ +
+ +
+ +
+ +
+
+ +
+ +
+ +
+ +
+
+ +
+ +
+ +
12 12
12 12
12 12
12 12
12 12
12 12
12 12
12 12
c s
s c
c s
s c
c s
s c
c s
s c
-
-
-
-
g
+
+
+
+
+
+
+
+
+
+
+
+
+
+ +
+
1
1
1
1
1
1
1
1
-
-
-
-
-
-
-
-
2 1 0 2
8 2 8 1 8 0 8 0 1 5 8, , ,h h h T T T CCAT K
2
8 2 01 2 67 2 45 2 23 2
1
8 1 70 1 56 1 34 1 12 1
0
8 0 67 0 45 0 23 0 01 0
,
,
.
R R R R
R R R R
R R R R
T CS CS CS CS
T CS CS CS CS
T CS CS CS CS
2 2
1
n n
i i
i i
T T
8 0 1 5 8 0 1 2
0 1 2 2
8 0 8 1 8 2 8
, , , , ,
1
h h h
T T T C
CAT CATK
8 0 1 5 8 0 1 2
0 1 2 2
8 8 0 8 1 8 2 8
, , , , ,
1
h h h
P T T T C
AWT AWTK
21.
16 0 1 5 8 0 1 5 8 16 0 1 5
0 1 2 2 0 1 2 2
8 8 0 8 1 8 2 8 8 16 16 0 16 1 16 2 16
, , , , , , , , ,
1 1
h h h h h h h h hI
P T T T C I P T T T C
WDT AWT AWTK K K
Flowchart of WDT16
22.
1 2 2
0 1 2 1 0 1 12 2
1 1 0
1 1
2 , 2 12 2 2 2 2
0 0 2 1
, , , , , ,
1 1 ,
n n
n n n n n
n nn
D D
D D
i D R D
i ii k i k
i i k
h h h
P T C P CS C
AWT AWTK K
1 1 1
1 1
1
0 1 1 12 2 22 2 2
1 0
[ , ,..., ] 1 n r n r n r
D
i D
n D i n n r
r n m i
P T C I
WDT
1 1
1 12 2
1 1 0
1 1
12 , 2 12 2 2 2
1 0 2 1
1 ,n r n r
n r n rn r
D
n m R D
i n n ri k i k
r n m i k
P CS C I
1 2 1
1 1 1
1 1
1 12 2
2
1 1
, ,..., 1
0 1 1 2 2 22 1
1 0
2
1 0
1
2 , 2 12 21
0 2 1
[ , ,..., ] 1
1
t
r
n m
n r n r n r
n r n r
n r n rn r
n
r s
D
i D
D i
t
r n m i
r
D
n m R D
ii k i k
t
i k
s s s
P T C
P CS C
WDP
1
1
1
.
t
rs
r n m
Multiparametric presentation of WT
Multiparametric presentation
of atomic matrix
23. The inverse multiparametric
wavelet transform
1 1
1
0 1 1 0 1 12 2
1 1 1
1 1
12 2 2 2 2 2 2 2 2
0 0 0
, , , , , ,
1 1 1
n n
n n n n n n n n n
D D i
t
D D
t tD D D
t t ti D i t D t
i i D i
i i i
P T C C T P C T P
AWT AWTK K
11
1 12 2n n
D i
tD i
D i D iT T
2
2 2
1
log 1
11 1
0 1 1 12 2 2 2 22
0
1 2 1
1 1
11 2 , 1 2 12 2 2 2
0 0
[ , ,..., ] 1
1
r r r n r
n r
r r n r
r r
D i
L D
tn m D t
n D D i
r n i
D
tn m D R t
D iD i k D i k
r n i k
C T P I
C CS P I
WDT
2log L
1 2 1
2
2 2
, ,..., 1
0 1 12
2log 1 2 1
1 1
11 2 , 1 2 12 21
0 0
[ , ,..., ]
1
n m
t
rn r
r r
r r
n D
n r s
L D
tn m D R t
D iD i k D i k
t
r n i k
s s s
C CS P
WDP
1
1
1
0 1 1 12 2 2 2
0
, , , 1 .n n n n
D i
D
tt D t
D D i
i
C T P
AWT K
Тема презентации: «Многопараметрические Вейвлет преобразования». Мои соавторы Лабунец Валерий Григорьевич из уральского федерального университета и
Екатерина Остхаймер из радиолокационной корпорации “Capricat”, США.
Широкий класс ортогональных вейвлет-преобразований характеризуется двумя наборами коэффициентов h и g, где L=2D – чётное число. Обычно второе множество коэффициентов выбирается так , как показано на слайде. Коэффициенты h переписываются в обратном порядке и те из них, которые имеют четные номера, берутся с противоположным знаком. Поэтому, вейвлет-преобразование характеризуется только одним набором коэффициентов h. В дальнейшем будем обозначать вейвлет-преобразование так , как показано внизу слайда, указывая только h коэффициенты.
Величины h0, h1, …, h2D-1, называемые коэффициентами, являются зависимыми, и поэтому незначительное изменение любой из них требует синхронного изменения всех остальных, если требуется, чтобы полученное при этом преобразование оставалось в классе ортогональных вейвлет-преобразований. Поэтому коэффициенты не являются параметрами. Под параметрами будем подразумевать такие величины, которые можно менять независимо друг от друга и при этом оставаться в классе ортогональных вейвлет-преобразований. Мы доказываем, что такое многопараметрическое представление существует, а любое ортогональное вейвлет-преобразование WT зависит от D углов-параметров фи0,фи1,..,фиD-1. Рассмотрим конкретный пример.
Вейвлет преобразование Добеши-4, его можно записать в виде произведения трех слабо заполненных атомарных матриц. Каждую из этих матриц можно представить в виде прямой суммы матриц.
Таким образом получено представление преобразования Добеши-4 в лестничной форме.
Для нахождения многопараметрического представления вейвлет преобразований будем пользоваться методом вращения Якоби-Гивенса. Для этого введём матрицу вращения на угол фи в плоскости, натянутой на i-ый и j-ый орты. Будем последовательно перемножать атомарную матрицу вейвлет-преобразования с матрицами вращения и выбирать значения углов фи таким образом, чтобы произведение внизу слайда превратилось в единичную или перестановочную матрицу. Рассмотрим конкретный пример, возьмем атомарную 8*8 матрицу Добеши-6.
Умножим эту матрицу слева на матрицу вращения и выберем угол фи0 так, чтобы обнулился элемент h5 в нулевой и четвертой строках. Это можно сделать взяв фи0=arctg(h5/h0). Оказывается, что в этом случае автоматически обнуляется и элемент h4, стоящий рядом, т.е. элементы обнуляются парами.
Последовательное умножение исходной матрицы на указанные матрицы вращения приведет к обнулению выделенных коэффициентов. Как результат получается атомарная матрица с четырьмя, а не с шестью, новыми коэффициентами. Повторяя вышеизложенную процедуру с новой матрицей, получаем следующую матрицу с двумя коэффициентами. Повторяем с ней все выше описанные преобразования и получаем квазиперестановочную матрицу (в каждой строке и каждом столбце которой стоит либо 1 либо -1).
В качестве искомого результата получаем выражение, записанная вверху слайда, откуда можем выразить атомарную матрицу вейвлет преобразования. Каждая матрица Т является произведением соответствующих матриц вращения.
Выясним закономерность в последовательностях двойных индексов у матриц вращения. На основе приведенного примера получаем закон формирования парных индексов, где r – число итераций при представлении атомарной функции в лестничной форме (r=n-m+1), a i – номер итерации по матрицам T, а к – номер матрицы вращения.
Полученный результат носит общий характер и верен для любой атомарной матрицы. Перейдем к многопараметрическому представлению вейвлет-преобразований и вейвлет-пакетов. Рассмотрим пример вейвлет преобразования Добеши 4 (его представление уже показано в начале презентации и повторно приведено на слайде). Каждая из атомарных матриц AWT может быть представлена в параметрической форме. Полученный результат представляет собой двухпараметрическую форму представления преобразования Добюши - 4. Результат можно обобщить и получить общую формулу для многопараметрического представления Вейвлет-преобразования, где - сложение по модулю 2^(n-r). Все атомарные матрицы во многопарметрическом представлении характеризуются одним и тем же набором углов. Все они имеют одинаковые значения во всех атомарных матрицах и должны меняться синхронно. Конечно, можно сделать углы в разных атомарных матрицах разными и менять их не синхронно. В этом случае, получающиеся вейвлет-преобразования будут неоднородными в том смысле, что, переходя с одного уровня разрешения на другой, будут получаться различные вейвлет функции, в то время как в первом случае, преобразование будет однородным, и при переходе с одного уровня разрешения на другой вейвлет функции будут иметь ту же самую форму.
Классическое вейвлет-преобразование с коэффициентами h1,h2, h2D-1 строится из атомарных вейвлет преобразований в соответствии со следующим выражением. На слайде приведен пример. Здесь в каждой итерации атомарное преобразование появляется один раз. В действительности, его можно повторить несколько раз в виде прямой суммы.
Введем вектор локатор sr, где si принимает значение 0 или 1. Соответственно sr можно считать бинарным числом с r-1 разрядом. Тогда каждый бит такого числа управляет соответствующей позицией. Таким образом можно сформировать пакет атомарных матриц. Таким образом, можно записать вейвлет пакет с дискретными двоичными параметрами. С учетом многопараметрического представления атомарной матрицы получаем многопараметрическое представления вейвлет пакетов. Многопараметрические вейвлет-пакеты представляют собой обобщение ортогональных вейвлет-разложений и составляют целое семейство разложений. Выбор лучшего базиса может быть очень эффективно реализован с помощью многопараметрических вейвлет-пакетов.
Прямое МПВП имеет уже известную нам форму вверху слайда.
Эта матрица ортогональна, поэтому ее обратная совпадает с транспонированной. Транспонирование правой и левой частей дает выражение для обратной матрицы. Найдем выражение для транспонированной атомарной матрицы. В прямом вейвлет-преобразовании каждая матрица T является произведением матриц вращения, поэтому поэтому при транспонировании меняется знак параметра. Подставляя, получаем выражение для транспонированной атомарной матрицы окончательное выражение для обратного вейвлет преобразования. Аналогичными действиями получаем результат для обратного вейвлет-пакета.
Рассмотренные выше атомарные матрицы были записаны с «нормальным» упорядочиванием строк: сначала шли усредняющие h-строки, потом «дифференцирующие» g-строки. Другую форму многопараметрического преобразования можно получить, используя циклическое представление (как показано на слайде). Где P- перестановочная матрица идеального диадического перемешивания, переставляющая строки атомарной матрицы AWT лестничного типа по закону, приведенному на слайде.
Для получения многопараметрической формы вейвлет-преобразований, определим матрицу вращения на угол фи с отражением в плоскости, натянутой на i-й и j-й орты. Будем последовательно перемножать циклическую атомарную матрицу с матрицами вращения и выбирать угол фи0, таким образом, чтобы получилась новая матрица CAT` с новым набором коэффициентов, число которых на два меньше, чем в исходной матрице. В качестве примера возьмем рассмотренное ранее атомарное преобразование, записанное в циклическом представлении. Будем умножать на матрицы вращения с отражением, выбирая угол фи так, чтобы обнулялись выделенные коэффициенты.
Теперь повторим вышеизложенную процедуру с новой атомарной матрицей, тем самым уменьшив количество коэффициентов еще на 2. Получилась блочно-перестановочная матрица с ортогональными 2*2-блоками. Используя соответствующие матрицы вращения, можно превратить эту матрицу в перестановочную, где С82- матрица циклического сдвига по модулю 8 на две позиции.
Графическая иллюстрация проделанного примера. Таким образом, мы можем написать произведение, равное перестановочной матрице, где Ti- ортогональные матрицы, полученные в результате перемножения матриц вращения с отражением CS. Так как матрицы T являются симметричными и ортогональными, то обратная матрица совпадает с прямой. А атомарная матрица может быть получена из циклической САТ умножением на перестановочную матрицу. На основе этого свойства получили новую запись для атомарной матрицы (внизу слайда).
Построим параметрическую форму представления вейвлет-преобразования на 16 точек с 6 параметрами WT16[h0,…,h5] на основе полученного на предыдущем слайде представления атомарной матрицы. Ниже приведена блок-схема алгоритма рассмотренного вейвлет-преобразования.
Полученный результат верен для любой матрицы и может быть обобщен в выражение в верху слайда. Учитывая запись классического вейвлет-преобразования, получаем следующее многопараметрическое представление циклического вейвлет-преобразования. Аналогично, подставляя полученное представления матрицы в выражение для вейвлет-пакета, получаем новое многопараметрическое представление для вейвлет-пакета.
Для того, чтобы получить выражение для обратного многопараметрического атомарного вейвлет-преобразования, транспонируем левую и правую части равенства, полученного на предыдущем слайде. Так как T- произведение симметричных ортогональных матриц вращения с отражением CS, то транспонированная и прямая матрицы совпадают. Подставляя выражение для обратной атомарной матрицы в выражение для обратного классического вейвлет-преобразования получим искомое выражение. Аналогично получаем результат для обратного вейвлет-пакета.
Для оценки компрессионных характеристик многопараметрических ортогональных вейвлет-преобразований были поставлены эксперименты, направленные на выявление зависимости энтропии коэффициентов спектра от числа и значений параметров преобразования. В качестве критерия использовалось значение энтропии квантованных до целого значения коэффициентов вейвлет-разложения. Вид зависимости для случая двухпараметрических вейвлет-преобразований приведен на Рис. 2, из которого видно, что эта зависимость имеет локальные и глобальные минимумы, которым соответствуют наилучшие с точки зрения сжатия вейвлет-преобразования.