SlideShare a Scribd company logo
1 
ウェーブレット変換の基礎と応用事例 
― 連続ウェーブレット変換を中心に― 
橘亮輔 
2007.3.1
2 
目次 
概要 
 ウェーブレット変換の基本的なアイディア 
 時間-周波数解析 
 2次元(画像)のウェーブレット変換 
連続ウェーブレット変換 
 歴史 
 変換と逆変換 
 具体例 
フーリエ変換との比較 
 畳み込み・相互相関・内積と周波数特性 
 窓付きフーリエ変換とウェーブレット変換 
連続ウェーブレット変換の応用事例 
離散ウェーブレット変換の概要 
 冗長性の排除と直交変換 
 多重解像度解析 
まとめと展望
3 
概要
4 
ウェーブレット変換とは 
ウェーブレット変換は信号の特性を解析する手段のひとつ 
フーリエ変換(FT) 
 正弦波の足し合わせ 
 基本的に無限であることを仮定 
 定常的な信号を解析するのには有用だが,非定常なものには良 
くない 
短時間(窓付き)フーリエ変換(STFT) 
 逆変換が存在しない 
ウェーブレット変換(WT) 
 ウェーブレット(wavelet; 局在波)の足し合わせ 
 逆変換が存在する 
 「時間―周波数」解析 
 不規則,間欠的,非定常な信号の解析 
ウェーブレットの例
5 
ウェーブレット変換の基本的なアイディア 
周波数 
フーリエ変換ウェーブレット変換 
スケール 
元信号 
シフト
6 
2つの操作:シフトとスケーリング 
元のウェーブレット(マザーウェーブレット) 
に対して,2種類の操作を行う。 
 平行移動(シフト,トランスレーション) 
 拡大縮小(スケーリング,ダイレーション) 
様々な幅,様々な時間位置のウェーブレッ 
ト群をつくる 
 幅が広いウェーブレットはゆっくりと変化す 
る成分(低周波数)。 
 幅が狭いウェーブレットは微細な変動成分 
(高周波数)。 
平行移動(shift, 
translation) 
拡大縮小(scaling, dilation) 
マザーウェーブレット
7 
ウェーブレット変換の計算 
スケールa,シフトbのウェーブレットと元 
信号の類似をみる 
 相関が高ければ変換係数は高い値に 
 様々なa, bについて行う 
連続ウェーブレット変換(CWT) 
 a, bが連続値 
離散ウェーブレット変換(DWT) 
 a, bが離散値(主に2のべき乗) 
フーリエ変換とフーリエ級数の関係と同 
じ 
逆変換可能 
 変換係数を各ウェーブレットに掛けて足 
し合わせる 
x(t) 
t 
信号
8 
時間ー周波数解析 
変換された係数はa,b二次元平面上にマッピングされる 
スカログラム(scalogram = scale + gram) 
スケール(周波数) 
シフト(時間) 
a2 
a1 
b1 b2
9 
時間解像度と周波数解像度 
各スケールにおいて時間分解能と周波数分解能の大きさがトレードオフ 
高い周波数ほど: 時間分解能↑ / 周波数分解能↓ 
 詳細は後ほど,フーリエ変換と比較しながら説明 
時間 
周波数 
窓付きフーリエ変換 
窓幅:小 
(wideband) 
窓幅:大 
(narrowband) 
ウェーブレット変換 
窓幅はスケールに 
よって異なる
10 
スカログラムの例 
「あい」 
スケール(周波数) 
シフト(時間) 
スペクトログラム 
wideband 
narrowband 
CWT(複素モルレー)の絶対値振幅
11 
2次元ウェーブレット変換(画像) 
変換は3次元になる. 
 2つのシフトパラメタ 
 1つのスケールパラメタ 
 「場所-周波数解析」 
 局所的な空間周波数が分 
かる 
スケール 
シフトx シフトy
12 
ここまでのまとめ 
ウェーブレット(局在波)の足し合わせに分解する 
 スケーリング(拡大縮小)とシフト(平行移動) 
パラメタが連続的なものをCWT,離散的なものをDWT 
 フーリエ変換とフーリエ級数の関係と同じ 
時間-周波数解析 
 時間と周波数の両方に「無理なく」分解.スカログラム 
 スケールによって時間-周波数分解能が異なる 
 高い周波数ほど,時間Good,周波数Bad 
画像の場合は「場所-周波数解析」 
 3次元の変換
13 
本発表のゴール 
道具として利用するための,はじめの一歩 
 数学的基礎の紹介 
 利点と制約 
 勘を掴む 
 応用事例の紹介 
数学的・工学的な視点を広げる 
 フーリエ変換とは異なる視点を持つこと 
 時間―周波数解析の展望 
 生体モデルとしての可能性
14 
参考文献 
図説ウェーブレット変換ハンドブック/朝倉書店/新他訳/2005,Addison, 2002 
 広く浅く偏りなく。CWTについてもしっかり取り上げている。前半を理論,後半を応用事例を大量に 
集めてきて紹介。 
ウェーブレット入門―数学的道具の物語―/BBハバード著 
 物語としてのウェーブレット。本文は読み物として進むが,補足は数学的に充実させている。 
Introduction to Wavelets and Wavelet Transforms / Prentice-Hall / Burrus, 1998 
 DWTの数学の基本を体系的に説明。2次元はあまり扱わない。DWTの理論は主にMallatと 
Doubeciesの体系による。 
ウェーブレットによる信号処理と画像処理/共立出版/中野他/1999 
 理論は浅く。Cプログラム掲載。比較的新しい応用も。意味不明な比喩が気になる。 
最新ウェーブレット実践講座入門と応用/ソフトバンク/戸田/2005 
 Cプログラムリストを中心に進めていく。ほとんどがプログラム
15 
連続ウェーブレット変換
16 
目次 
概要 
 ウェーブレット変換の基本的なアイディア 
 時間-周波数解析 
 2次元(画像)のウェーブレット変換 
連続ウェーブレット変換 
 歴史 
 変換と逆変換 
 具体例 
フーリエ変換との比較 
 畳み込み・相互相関・内積と周波数特性 
 窓付きフーリエ変換とウェーブレット変換 
連続ウェーブレット変換の応用事例 
離散ウェーブレット変換の概要 
 冗長性の排除と直交変換 
 多重解像度解析 
まとめと展望
17 
歴史 
ウェーブレット変換に似たアイディアはもともと数多くあった。 
1980年代中ごろ,現在の手法。ただし広まらず。 
1990年代初頭から,理論体系と実践。 
様々なルーツが考えうるが,ジャン・モルレーMorletはよく引き合いに出される。 
 仏大手石油会社勤務の地球物理学者。地中の石油を見つける探査業務のために 
独自にウェーブレットを作り出した。 
 はじめは窓付きフーリエを使っていたが,窓幅決定が手間であった。そこで,周波 
数に応じて窓幅を変えるというWTを提唱した。CWT。1981年ごろ. 
その後,理論的に整備。ステファン・マラーMallatが画像処理や信号処理の分 
野と結び付け,2進DWTに理論的な体系を与えた。1986年ごろ 
 現在ではDWTが良い体系を持っている。数学的に強固な体系が構築された。 
 画像圧縮(JPEG2000), 
数学的に体系だっているのはDWT。圧縮,通信。解説書はDWTが多い。 
実環境の信号解析ではCWTのほうが有効である場合が多い。実践的。
18 
マザーウェーブレットのscalingとshift 
マザーウェーブレット: 
スケールa,シフトbのウェーブレット: 
スケーリングに対してエネルギー 
を一定にするための補正 
大 
小 
a 
• aを大きくすればマザーウェーブレットは引き伸ばされる。したがってより大まか変 
動を解析するのに適したウェーブレットとなる 
• bを大きくすれば,時間が正の方向に平行移動する(遅延する)。
19 
連続ウェーブレット変換(CWT) 
連続ウェーブレット変換の式 
 x(t) : 元信号 
 Wψ[ . ]:ウェーブレットψに基づいたウェーブレット変換 
 T(a, b) : ウェーブレット変換係数 
 a : スケールパラメータ 
 b : シフトパラメータ 
 ψa,b : スケールa, シフトbのウェーブレット 
 * は複素共役を表す 
a, bが連続的な実数
20 
逆連続ウェーブレット変換(ICWT) 
 aとbについての二重積分 
 T(a, b) : 変換係数 
CWTの結果ウェーブレット 
 Cψ : マザーウェーブレットの種類によって変わる定数(後で説明) 
ウェーブレット変換逆変換
21 
具体的に… 
マザーウェーブレットの種類は色々ある 
 メキシカンハット(mexican hat) 
 複素モルレー(complex Morlet) 
 ハール(Haar) 
 メイエ-ルマリエ 
・・・
22 
例) メキシカンハットウェーブレット 
マザーウェーブレットψ(t)がメキシカンハット 
 ガウス関数の二階微分 
 実数関数なので複素共役は考えない。 
マザーウェーブレット 
ウェーブレット 
ウェーブレット変換
23 
メキシカンハットCWT 
シフトb 
スケールa
24 
メキシカンハットICWTとフィルタリング 
T(a, b) ICWT x(t)
25 
例) 複素モルレーウェーブレット 
包絡がガウス曲線で,キャリアが複素サイン 
包 
絡 
実 
部 
虚部 
ガウス曲線複素サイン 
 σ : 包絡線の幅(1がよく使われる) 
 ω0 : 複素サインの角周波数(5, 6, πなどが使われる)
26 
複素モルレーCWT 
実部 
虚部 
絶対値 
(振幅) 
位相 
complex Morlet (σ =1, ω0=π) 
元信号
27 
複素モルレー,Matlab GUI demo
28 
ウェーブレットの条件 
元信号は自乗可積分 
アドミッシブル条件: 逆変換が存在する条件 
マザーウェーブレッ 
トのフーリエ変換 
マザーウェーブレットは不連続点を持っていてもよい
29 
CWTのまとめ 
ウェーブレット変換の体系が明確になったのは80年代以降である 
CWT,ICWTに必要な数学的表記 
マザーウェーブレットは色々提案されている 
 メキシカンハットと複素モルレーの例 
 目的に応じて使えばよい 
ウェーブレット変換が可能な条件
30 
フーリエ変換との比較 
理論背景
31 
目次 
概要 
 ウェーブレット変換の基本的なアイディア 
 時間-周波数解析 
 2次元(画像)のウェーブレット変換 
連続ウェーブレット変換 
 歴史 
 変換と逆変換 
 具体例 
フーリエ変換との比較 
 畳み込み・相互相関・内積と周波数特性 
 窓付きフーリエ変換とウェーブレット変換 
連続ウェーブレット変換の応用事例 
離散ウェーブレット変換の概要 
 冗長性の排除と直交変換 
 多重解像度解析 
まとめと展望
32 
フーリエ変換とウェーブレット変換 
ウェーブレット 
フーリエ 
内積 
どちらも積分変換=変換核を軸にパラメタを変換する 
 ウェーブレット変換: ψa,b ウェーブレット 
 フーリエ変換: eiwt (= coswt + isinwt) 複素サイン波 
元信号と「変換核」との内積
33 
相互相関,畳込み 
ウェーブレット変換を相互相関や畳込みとしても考えることができる 
相互相関関数 
畳込み積分
スケールaのウェーブレット 
をψaとする 
34 
CWTを畳み込みで考える 
(相互相関) 
(畳み込み) 
→元信号とスケールaのウェーブレットψaとの相互相関関数 
→ψaの複素共役の左右反転したものを畳み込んでいる.
35 
インパルス応答としてのウェーブレット 
ウェーブレットをFIRフィルタのインパル 
ス応答としてみる。 
 ウェーブレットが偶関数(左右対称)の 
場合は,畳込み積分とまったく同じ。 
constant-Qバンドパスフィルタバンクで 
ある。 
 スケールaが連続値=中心周波数が 
連続的に変化する。
36 
短時間フーリエ変換との比較 
複素モルレーウェーブレット変換 
 ω0を固定して,全体のスケールを変える 
包絡キャリア 
ガウス窓付き短時間フーリエ変換 
 時間窓長を固定して,周波数ωを変える 
窓変換核
37 
CWTの冗長性 
CWTは冗長な表現である 
 隣り合ったスケールに同じ情報が入る=通過帯域が重なっている 
 そもそも変換後に次元数が増える 
サイン波の線 
スペクトル周波数 
中心周波数が連続 
的に変化するBPF 
真実 
CWT 
見え方 
冗長な表現 
周波数 
時間
38 
CWTの冗長性と隆線抽出法 
CWTはスケールとシフトの両面で冗長で 
ある。 
 1つのウェーブレットで符号化された情報の 
大部分が隣のウェーブレットによってまた 
符号化される,という風に互いに部分的に 
重なり合っている。 
 本質的な情報のみを残して単純化しても再 
構成可能であることが多い。 
隆線(ridge)抽出法 
 スケルトン化とも言う。 
冗長な表現 
隆線抽出 
ICWT
39 
隆線抽出の例-Matlab Demo
40 
フーリエ変換との比較のまとめ 
WTは積分変換である 
 元信号と変換核との内積 
 フーリエ変換は複素サイン波を変換核 
 ウェーブレット変換はウェーブレットを変換核 
WTは相互相関,あるいは畳み込みと見なすことも可能 
 ウェーブレットをインパルス応答としてみる 
 Q値一定の中心周波数が異なるバンドパスフィルタ 
ガウス窓付き短時間フーリエ変換との比較 
 STFTは窓長固定 
 WTは相似性を固定 
CWTは冗長な表現である 
 隆線抽出法
41 
連続ウェーブレット変換の応用事例
42 
目次 
概要 
 ウェーブレット変換の基本的なアイディア 
 時間-周波数解析 
 2次元(画像)のウェーブレット変換 
連続ウェーブレット変換 
 歴史 
 変換と逆変換 
 具体例 
フーリエ変換との比較 
 畳み込み・相互相関・内積と周波数特性 
 窓付きフーリエ変換とウェーブレット変換 
連続ウェーブレット変換の応用事例 
離散ウェーブレット変換の概要 
 冗長性の排除と直交変換 
 多重解像度解析 
まとめと展望
43 
応用事例(1) ー心電
44 
応用事例(2) ー建材の共振特性
45 
応用事例(3) ー耳音響放射 
Cochlear maturation and otoacoustic emissions in preterm infants: a time-frequency approach 
Tognola G et al. (2005). Hearing Res. 199: 71-80
46 
応用事例(4) ー聴覚末梢モデル 
初期聴覚はフーリエ分析器とみなすよりも,ウェーブレット分析器と見 
なしたほうが自然である 
 PattersonのGammatoneモデル 
 IrinoのGammachirpモデル
47 
離散ウェーブレット変換の概要
48 
目次 
概要 
 ウェーブレット変換の基本的なアイディア 
 時間-周波数解析 
 2次元(画像)のウェーブレット変換 
連続ウェーブレット変換 
 歴史 
 変換と逆変換 
 具体例 
フーリエ変換との比較 
 畳み込み・相互相関・内積と周波数特性 
 窓付きフーリエ変換とウェーブレット変換 
連続ウェーブレット変換の応用事例 
離散ウェーブレット変換の概要 
 冗長性の排除とウェーブレットの離散化 
 直交変換 
まとめと展望
49 
冗長性の排除とDWT 
CWTは冗長であった 
 変換パラメタ(スケールとシフト)が連続値 
 スケールおよびシフトの両面でウェーブレットの特性が重なり合っていた。 
 変換パラメタが離散値,対象の信号は連続時間(≒フーリエ級数展開) 
離散ウェーブレット変換(DWT)へ 
 冗長性が低く(あるいは無く)効率的な符号化が可能 
 伝送,圧縮,画像処理などに頻出 
実用的なDWTを実現する三つのトピック 
 重なりを減らすには? → 2進離散ウェーブレット 
 パラメタを離散化しつつ,情報を完全に保存するには? → 直交変換
50 
2進離散ウェーブレットの導入 
パラメタを離散化 
2のべき乗でスケールが変わ 
るウェーブレット 
 マザーウェーブレットψ(t) 
 スケールパラメタ: j 
 シフトパラメタ: k 
 共に整数 
 jが大→縮まる 
 kが大→遅延する 
, t t k j j 
j k     
( ) 2 (2 ) /2 
 
 
t b 
  
1 
t a b   
 
 
a 
a 
( ) , 
k 
b j   2 
j a   2 k 
a
51 
離散ウェーブレット変換 
変換パラメタは離散だが,扱う信号は連続である. 
 あえて「連続時間ウェーブレット級数展開」というべきかも知れない
52 
直交変換 
パラメタを離散化しつつ,情報を完全に保存するには,どんなウェーブ 
レットがよいのか?→直交変換(展開)を導入 
直交変換とは… 
 変換の過程での冗長性を排除し,また完全な再構成を可能にする。 
 すなわち,信号の情報全体は繰り返されず一回ずつ符号化される。 
 変換する基底(basis)が直交している(orthogonal)。 
 さらに基底のノルムが1だと正規直交基底(orthonomal basis) 
x 
y 
ey 
ex 
(2, 3) 
p 
q 
ey 
ex 
(1, 2) 
eq ep
53 
直交ウェーブレットである条件 
正規直交であるための条件 
1 
 
j l k m 
j k l m   
, , , j l k m 
 
 
(  ,  
) 
(  ,  
) 
  
0 
L2(R)上の任意の関数f(t)に対して展開するdj,kが存在する 
そんなウェーブレットはあるのか? 
 ハールウェーブレットは直交ウェーブレットであるになる 
 直交でかつ滑らかウェーブレットは「奇跡的に偶然的に」発見された(Mayer) 
 後に多重解像度解析理論によって,数学的に整備され,任意に作れるように 
なった。 
 実践的には誰かが考えたものを利用すればいい。
54 
例)直交ハールウェーブレット 
直交符号(Walsh code) 
ウォルシュ・アダマール変換
55 
直交ハールウェーブレットによるDWT
56 
JPEGとウェーブレット 
現行のJPEGは離散コサイ 
ン変換(DCT) 
JPEG-2000では離散ウェー 
ブレット変換(DWT) 
現行のJPEGは圧縮率を高 
めた際にブロック歪が発生し 
やすい。これは,画像を複数 
のブロック(現行JPEGは 
8×8ピクセル)に分けて 
DCTを行うため 
ウェーブレット変換はブロッ 
ク単位ではなく画面全体に 
対して処理.ブロック歪は生 
じない。 
現行JPEG JPEG-2000
57 
DWTのまとめ 
CWTは冗長性が高いため離散化 
 パラメタの離散化 
 直交変換の導入 
直交ウェーブレット 
 構成方法は本発表では明らかにしていない 
 ハールウェーブレットは直交ウェーブレットであった 
DWTは通常,2進離散直交ウェーブレット変換のことを指す 
紹介していないが非常に重要な事柄 
 スケーリング関数 
 多重解像度解析と 
 サブバンド符号化とマラーの高速アルゴリズム 
 シフト不変性とマッチング追跡 
 画像の圧縮
58 
まとめと展望
59 
まとめと展望 
CWTを中心に,WTを紹介した 
WTは自然な表現である 
 周波数とは繰り返しを記述する尺度である 
 繰り返すためには長さが必要=周期.「瞬時周波数」は矛盾する言葉 
 高い周波数では周期が短くてすむし,低い周波数は長くなる 
 WTは周波数によって時間窓長が変わる→自然 
WTは柔軟な表現である 
 解析対象とする信号の形状に合わせてマザーウェーブレットを選択 
 局在波なので,一部を変えると他が変わる,といったことはない 
CWTは信号を「観察する」道具である 
 冗長な分,少しの違いにロバストな表現.観察に適している. 
DWTは信号を「簡潔にする」道具である

More Related Content

What's hot

【DL輪読会】ViT + Self Supervised Learningまとめ
【DL輪読会】ViT + Self Supervised Learningまとめ【DL輪読会】ViT + Self Supervised Learningまとめ
【DL輪読会】ViT + Self Supervised Learningまとめ
Deep Learning JP
 
大規模な組合せ最適化問題に対する発見的解法
大規模な組合せ最適化問題に対する発見的解法大規模な組合せ最適化問題に対する発見的解法
大規模な組合せ最適化問題に対する発見的解法
Shunji Umetani
 
パターン認識と機械学習入門
パターン認識と機械学習入門パターン認識と機械学習入門
パターン認識と機械学習入門Momoko Hayamizu
 
z変換をやさしく教えて下さい (音響学入門ペディア)
z変換をやさしく教えて下さい (音響学入門ペディア)z変換をやさしく教えて下さい (音響学入門ペディア)
z変換をやさしく教えて下さい (音響学入門ペディア)
Shinnosuke Takamichi
 
スパースモデリング、スパースコーディングとその数理(第11回WBA若手の会)
スパースモデリング、スパースコーディングとその数理(第11回WBA若手の会)スパースモデリング、スパースコーディングとその数理(第11回WBA若手の会)
スパースモデリング、スパースコーディングとその数理(第11回WBA若手の会)
narumikanno0918
 
SSII2021 [OS2-01] 転移学習の基礎:異なるタスクの知識を利用するための機械学習の方法
SSII2021 [OS2-01] 転移学習の基礎:異なるタスクの知識を利用するための機械学習の方法SSII2021 [OS2-01] 転移学習の基礎:異なるタスクの知識を利用するための機械学習の方法
SSII2021 [OS2-01] 転移学習の基礎:異なるタスクの知識を利用するための機械学習の方法
SSII
 
【メタサーベイ】数式ドリブン教師あり学習
【メタサーベイ】数式ドリブン教師あり学習【メタサーベイ】数式ドリブン教師あり学習
【メタサーベイ】数式ドリブン教師あり学習
cvpaper. challenge
 
【メタサーベイ】Neural Fields
【メタサーベイ】Neural Fields【メタサーベイ】Neural Fields
【メタサーベイ】Neural Fields
cvpaper. challenge
 
【DL輪読会】High-Resolution Image Synthesis with Latent Diffusion Models
【DL輪読会】High-Resolution Image Synthesis with Latent Diffusion Models【DL輪読会】High-Resolution Image Synthesis with Latent Diffusion Models
【DL輪読会】High-Resolution Image Synthesis with Latent Diffusion Models
Deep Learning JP
 
状態空間モデルの考え方・使い方 - TokyoR #38
状態空間モデルの考え方・使い方 - TokyoR #38状態空間モデルの考え方・使い方 - TokyoR #38
状態空間モデルの考え方・使い方 - TokyoR #38horihorio
 
[DL輪読会]相互情報量最大化による表現学習
[DL輪読会]相互情報量最大化による表現学習[DL輪読会]相互情報量最大化による表現学習
[DL輪読会]相互情報量最大化による表現学習
Deep Learning JP
 
12. Diffusion Model の数学的基礎.pdf
12. Diffusion Model の数学的基礎.pdf12. Diffusion Model の数学的基礎.pdf
12. Diffusion Model の数学的基礎.pdf
幸太朗 岩澤
 
[DL輪読会]GQNと関連研究,世界モデルとの関係について
[DL輪読会]GQNと関連研究,世界モデルとの関係について[DL輪読会]GQNと関連研究,世界モデルとの関係について
[DL輪読会]GQNと関連研究,世界モデルとの関係について
Deep Learning JP
 
最適輸送の解き方
最適輸送の解き方最適輸送の解き方
最適輸送の解き方
joisino
 
[DL輪読会]Flow-based Deep Generative Models
[DL輪読会]Flow-based Deep Generative Models[DL輪読会]Flow-based Deep Generative Models
[DL輪読会]Flow-based Deep Generative Models
Deep Learning JP
 
やさしく音声分析法を学ぶ: ケプストラム分析とLPC分析
やさしく音声分析法を学ぶ: ケプストラム分析とLPC分析やさしく音声分析法を学ぶ: ケプストラム分析とLPC分析
やさしく音声分析法を学ぶ: ケプストラム分析とLPC分析
Shinnosuke Takamichi
 
全力解説!Transformer
全力解説!Transformer全力解説!Transformer
全力解説!Transformer
Arithmer Inc.
 
深層生成モデルと世界モデル, 深層生成モデルライブラリPixyzについて
深層生成モデルと世界モデル,深層生成モデルライブラリPixyzについて深層生成モデルと世界モデル,深層生成モデルライブラリPixyzについて
深層生成モデルと世界モデル, 深層生成モデルライブラリPixyzについて
Masahiro Suzuki
 
【DL輪読会】時系列予測 Transfomers の精度向上手法
【DL輪読会】時系列予測 Transfomers の精度向上手法【DL輪読会】時系列予測 Transfomers の精度向上手法
【DL輪読会】時系列予測 Transfomers の精度向上手法
Deep Learning JP
 
最適輸送入門
最適輸送入門最適輸送入門
最適輸送入門
joisino
 

What's hot (20)

【DL輪読会】ViT + Self Supervised Learningまとめ
【DL輪読会】ViT + Self Supervised Learningまとめ【DL輪読会】ViT + Self Supervised Learningまとめ
【DL輪読会】ViT + Self Supervised Learningまとめ
 
大規模な組合せ最適化問題に対する発見的解法
大規模な組合せ最適化問題に対する発見的解法大規模な組合せ最適化問題に対する発見的解法
大規模な組合せ最適化問題に対する発見的解法
 
パターン認識と機械学習入門
パターン認識と機械学習入門パターン認識と機械学習入門
パターン認識と機械学習入門
 
z変換をやさしく教えて下さい (音響学入門ペディア)
z変換をやさしく教えて下さい (音響学入門ペディア)z変換をやさしく教えて下さい (音響学入門ペディア)
z変換をやさしく教えて下さい (音響学入門ペディア)
 
スパースモデリング、スパースコーディングとその数理(第11回WBA若手の会)
スパースモデリング、スパースコーディングとその数理(第11回WBA若手の会)スパースモデリング、スパースコーディングとその数理(第11回WBA若手の会)
スパースモデリング、スパースコーディングとその数理(第11回WBA若手の会)
 
SSII2021 [OS2-01] 転移学習の基礎:異なるタスクの知識を利用するための機械学習の方法
SSII2021 [OS2-01] 転移学習の基礎:異なるタスクの知識を利用するための機械学習の方法SSII2021 [OS2-01] 転移学習の基礎:異なるタスクの知識を利用するための機械学習の方法
SSII2021 [OS2-01] 転移学習の基礎:異なるタスクの知識を利用するための機械学習の方法
 
【メタサーベイ】数式ドリブン教師あり学習
【メタサーベイ】数式ドリブン教師あり学習【メタサーベイ】数式ドリブン教師あり学習
【メタサーベイ】数式ドリブン教師あり学習
 
【メタサーベイ】Neural Fields
【メタサーベイ】Neural Fields【メタサーベイ】Neural Fields
【メタサーベイ】Neural Fields
 
【DL輪読会】High-Resolution Image Synthesis with Latent Diffusion Models
【DL輪読会】High-Resolution Image Synthesis with Latent Diffusion Models【DL輪読会】High-Resolution Image Synthesis with Latent Diffusion Models
【DL輪読会】High-Resolution Image Synthesis with Latent Diffusion Models
 
状態空間モデルの考え方・使い方 - TokyoR #38
状態空間モデルの考え方・使い方 - TokyoR #38状態空間モデルの考え方・使い方 - TokyoR #38
状態空間モデルの考え方・使い方 - TokyoR #38
 
[DL輪読会]相互情報量最大化による表現学習
[DL輪読会]相互情報量最大化による表現学習[DL輪読会]相互情報量最大化による表現学習
[DL輪読会]相互情報量最大化による表現学習
 
12. Diffusion Model の数学的基礎.pdf
12. Diffusion Model の数学的基礎.pdf12. Diffusion Model の数学的基礎.pdf
12. Diffusion Model の数学的基礎.pdf
 
[DL輪読会]GQNと関連研究,世界モデルとの関係について
[DL輪読会]GQNと関連研究,世界モデルとの関係について[DL輪読会]GQNと関連研究,世界モデルとの関係について
[DL輪読会]GQNと関連研究,世界モデルとの関係について
 
最適輸送の解き方
最適輸送の解き方最適輸送の解き方
最適輸送の解き方
 
[DL輪読会]Flow-based Deep Generative Models
[DL輪読会]Flow-based Deep Generative Models[DL輪読会]Flow-based Deep Generative Models
[DL輪読会]Flow-based Deep Generative Models
 
やさしく音声分析法を学ぶ: ケプストラム分析とLPC分析
やさしく音声分析法を学ぶ: ケプストラム分析とLPC分析やさしく音声分析法を学ぶ: ケプストラム分析とLPC分析
やさしく音声分析法を学ぶ: ケプストラム分析とLPC分析
 
全力解説!Transformer
全力解説!Transformer全力解説!Transformer
全力解説!Transformer
 
深層生成モデルと世界モデル, 深層生成モデルライブラリPixyzについて
深層生成モデルと世界モデル,深層生成モデルライブラリPixyzについて深層生成モデルと世界モデル,深層生成モデルライブラリPixyzについて
深層生成モデルと世界モデル, 深層生成モデルライブラリPixyzについて
 
【DL輪読会】時系列予測 Transfomers の精度向上手法
【DL輪読会】時系列予測 Transfomers の精度向上手法【DL輪読会】時系列予測 Transfomers の精度向上手法
【DL輪読会】時系列予測 Transfomers の精度向上手法
 
最適輸送入門
最適輸送入門最適輸送入門
最適輸送入門
 

ウェーブレット変換の基礎と応用事例:連続ウェーブレット変換を中心に

  • 1. 1 ウェーブレット変換の基礎と応用事例 ― 連続ウェーブレット変換を中心に― 橘亮輔 2007.3.1
  • 2. 2 目次 概要  ウェーブレット変換の基本的なアイディア  時間-周波数解析  2次元(画像)のウェーブレット変換 連続ウェーブレット変換  歴史  変換と逆変換  具体例 フーリエ変換との比較  畳み込み・相互相関・内積と周波数特性  窓付きフーリエ変換とウェーブレット変換 連続ウェーブレット変換の応用事例 離散ウェーブレット変換の概要  冗長性の排除と直交変換  多重解像度解析 まとめと展望
  • 4. 4 ウェーブレット変換とは ウェーブレット変換は信号の特性を解析する手段のひとつ フーリエ変換(FT)  正弦波の足し合わせ  基本的に無限であることを仮定  定常的な信号を解析するのには有用だが,非定常なものには良 くない 短時間(窓付き)フーリエ変換(STFT)  逆変換が存在しない ウェーブレット変換(WT)  ウェーブレット(wavelet; 局在波)の足し合わせ  逆変換が存在する  「時間―周波数」解析  不規則,間欠的,非定常な信号の解析 ウェーブレットの例
  • 5. 5 ウェーブレット変換の基本的なアイディア 周波数 フーリエ変換ウェーブレット変換 スケール 元信号 シフト
  • 6. 6 2つの操作:シフトとスケーリング 元のウェーブレット(マザーウェーブレット) に対して,2種類の操作を行う。  平行移動(シフト,トランスレーション)  拡大縮小(スケーリング,ダイレーション) 様々な幅,様々な時間位置のウェーブレッ ト群をつくる  幅が広いウェーブレットはゆっくりと変化す る成分(低周波数)。  幅が狭いウェーブレットは微細な変動成分 (高周波数)。 平行移動(shift, translation) 拡大縮小(scaling, dilation) マザーウェーブレット
  • 7. 7 ウェーブレット変換の計算 スケールa,シフトbのウェーブレットと元 信号の類似をみる  相関が高ければ変換係数は高い値に  様々なa, bについて行う 連続ウェーブレット変換(CWT)  a, bが連続値 離散ウェーブレット変換(DWT)  a, bが離散値(主に2のべき乗) フーリエ変換とフーリエ級数の関係と同 じ 逆変換可能  変換係数を各ウェーブレットに掛けて足 し合わせる x(t) t 信号
  • 8. 8 時間ー周波数解析 変換された係数はa,b二次元平面上にマッピングされる スカログラム(scalogram = scale + gram) スケール(周波数) シフト(時間) a2 a1 b1 b2
  • 9. 9 時間解像度と周波数解像度 各スケールにおいて時間分解能と周波数分解能の大きさがトレードオフ 高い周波数ほど: 時間分解能↑ / 周波数分解能↓  詳細は後ほど,フーリエ変換と比較しながら説明 時間 周波数 窓付きフーリエ変換 窓幅:小 (wideband) 窓幅:大 (narrowband) ウェーブレット変換 窓幅はスケールに よって異なる
  • 10. 10 スカログラムの例 「あい」 スケール(周波数) シフト(時間) スペクトログラム wideband narrowband CWT(複素モルレー)の絶対値振幅
  • 11. 11 2次元ウェーブレット変換(画像) 変換は3次元になる.  2つのシフトパラメタ  1つのスケールパラメタ  「場所-周波数解析」  局所的な空間周波数が分 かる スケール シフトx シフトy
  • 12. 12 ここまでのまとめ ウェーブレット(局在波)の足し合わせに分解する  スケーリング(拡大縮小)とシフト(平行移動) パラメタが連続的なものをCWT,離散的なものをDWT  フーリエ変換とフーリエ級数の関係と同じ 時間-周波数解析  時間と周波数の両方に「無理なく」分解.スカログラム  スケールによって時間-周波数分解能が異なる  高い周波数ほど,時間Good,周波数Bad 画像の場合は「場所-周波数解析」  3次元の変換
  • 13. 13 本発表のゴール 道具として利用するための,はじめの一歩  数学的基礎の紹介  利点と制約  勘を掴む  応用事例の紹介 数学的・工学的な視点を広げる  フーリエ変換とは異なる視点を持つこと  時間―周波数解析の展望  生体モデルとしての可能性
  • 14. 14 参考文献 図説ウェーブレット変換ハンドブック/朝倉書店/新他訳/2005,Addison, 2002  広く浅く偏りなく。CWTについてもしっかり取り上げている。前半を理論,後半を応用事例を大量に 集めてきて紹介。 ウェーブレット入門―数学的道具の物語―/BBハバード著  物語としてのウェーブレット。本文は読み物として進むが,補足は数学的に充実させている。 Introduction to Wavelets and Wavelet Transforms / Prentice-Hall / Burrus, 1998  DWTの数学の基本を体系的に説明。2次元はあまり扱わない。DWTの理論は主にMallatと Doubeciesの体系による。 ウェーブレットによる信号処理と画像処理/共立出版/中野他/1999  理論は浅く。Cプログラム掲載。比較的新しい応用も。意味不明な比喩が気になる。 最新ウェーブレット実践講座入門と応用/ソフトバンク/戸田/2005  Cプログラムリストを中心に進めていく。ほとんどがプログラム
  • 16. 16 目次 概要  ウェーブレット変換の基本的なアイディア  時間-周波数解析  2次元(画像)のウェーブレット変換 連続ウェーブレット変換  歴史  変換と逆変換  具体例 フーリエ変換との比較  畳み込み・相互相関・内積と周波数特性  窓付きフーリエ変換とウェーブレット変換 連続ウェーブレット変換の応用事例 離散ウェーブレット変換の概要  冗長性の排除と直交変換  多重解像度解析 まとめと展望
  • 17. 17 歴史 ウェーブレット変換に似たアイディアはもともと数多くあった。 1980年代中ごろ,現在の手法。ただし広まらず。 1990年代初頭から,理論体系と実践。 様々なルーツが考えうるが,ジャン・モルレーMorletはよく引き合いに出される。  仏大手石油会社勤務の地球物理学者。地中の石油を見つける探査業務のために 独自にウェーブレットを作り出した。  はじめは窓付きフーリエを使っていたが,窓幅決定が手間であった。そこで,周波 数に応じて窓幅を変えるというWTを提唱した。CWT。1981年ごろ. その後,理論的に整備。ステファン・マラーMallatが画像処理や信号処理の分 野と結び付け,2進DWTに理論的な体系を与えた。1986年ごろ  現在ではDWTが良い体系を持っている。数学的に強固な体系が構築された。  画像圧縮(JPEG2000), 数学的に体系だっているのはDWT。圧縮,通信。解説書はDWTが多い。 実環境の信号解析ではCWTのほうが有効である場合が多い。実践的。
  • 18. 18 マザーウェーブレットのscalingとshift マザーウェーブレット: スケールa,シフトbのウェーブレット: スケーリングに対してエネルギー を一定にするための補正 大 小 a • aを大きくすればマザーウェーブレットは引き伸ばされる。したがってより大まか変 動を解析するのに適したウェーブレットとなる • bを大きくすれば,時間が正の方向に平行移動する(遅延する)。
  • 19. 19 連続ウェーブレット変換(CWT) 連続ウェーブレット変換の式  x(t) : 元信号  Wψ[ . ]:ウェーブレットψに基づいたウェーブレット変換  T(a, b) : ウェーブレット変換係数  a : スケールパラメータ  b : シフトパラメータ  ψa,b : スケールa, シフトbのウェーブレット  * は複素共役を表す a, bが連続的な実数
  • 20. 20 逆連続ウェーブレット変換(ICWT)  aとbについての二重積分  T(a, b) : 変換係数 CWTの結果ウェーブレット  Cψ : マザーウェーブレットの種類によって変わる定数(後で説明) ウェーブレット変換逆変換
  • 21. 21 具体的に… マザーウェーブレットの種類は色々ある  メキシカンハット(mexican hat)  複素モルレー(complex Morlet)  ハール(Haar)  メイエ-ルマリエ ・・・
  • 22. 22 例) メキシカンハットウェーブレット マザーウェーブレットψ(t)がメキシカンハット  ガウス関数の二階微分  実数関数なので複素共役は考えない。 マザーウェーブレット ウェーブレット ウェーブレット変換
  • 25. 25 例) 複素モルレーウェーブレット 包絡がガウス曲線で,キャリアが複素サイン 包 絡 実 部 虚部 ガウス曲線複素サイン  σ : 包絡線の幅(1がよく使われる)  ω0 : 複素サインの角周波数(5, 6, πなどが使われる)
  • 26. 26 複素モルレーCWT 実部 虚部 絶対値 (振幅) 位相 complex Morlet (σ =1, ω0=π) 元信号
  • 28. 28 ウェーブレットの条件 元信号は自乗可積分 アドミッシブル条件: 逆変換が存在する条件 マザーウェーブレッ トのフーリエ変換 マザーウェーブレットは不連続点を持っていてもよい
  • 29. 29 CWTのまとめ ウェーブレット変換の体系が明確になったのは80年代以降である CWT,ICWTに必要な数学的表記 マザーウェーブレットは色々提案されている  メキシカンハットと複素モルレーの例  目的に応じて使えばよい ウェーブレット変換が可能な条件
  • 31. 31 目次 概要  ウェーブレット変換の基本的なアイディア  時間-周波数解析  2次元(画像)のウェーブレット変換 連続ウェーブレット変換  歴史  変換と逆変換  具体例 フーリエ変換との比較  畳み込み・相互相関・内積と周波数特性  窓付きフーリエ変換とウェーブレット変換 連続ウェーブレット変換の応用事例 離散ウェーブレット変換の概要  冗長性の排除と直交変換  多重解像度解析 まとめと展望
  • 32. 32 フーリエ変換とウェーブレット変換 ウェーブレット フーリエ 内積 どちらも積分変換=変換核を軸にパラメタを変換する  ウェーブレット変換: ψa,b ウェーブレット  フーリエ変換: eiwt (= coswt + isinwt) 複素サイン波 元信号と「変換核」との内積
  • 34. スケールaのウェーブレット をψaとする 34 CWTを畳み込みで考える (相互相関) (畳み込み) →元信号とスケールaのウェーブレットψaとの相互相関関数 →ψaの複素共役の左右反転したものを畳み込んでいる.
  • 35. 35 インパルス応答としてのウェーブレット ウェーブレットをFIRフィルタのインパル ス応答としてみる。  ウェーブレットが偶関数(左右対称)の 場合は,畳込み積分とまったく同じ。 constant-Qバンドパスフィルタバンクで ある。  スケールaが連続値=中心周波数が 連続的に変化する。
  • 36. 36 短時間フーリエ変換との比較 複素モルレーウェーブレット変換  ω0を固定して,全体のスケールを変える 包絡キャリア ガウス窓付き短時間フーリエ変換  時間窓長を固定して,周波数ωを変える 窓変換核
  • 37. 37 CWTの冗長性 CWTは冗長な表現である  隣り合ったスケールに同じ情報が入る=通過帯域が重なっている  そもそも変換後に次元数が増える サイン波の線 スペクトル周波数 中心周波数が連続 的に変化するBPF 真実 CWT 見え方 冗長な表現 周波数 時間
  • 38. 38 CWTの冗長性と隆線抽出法 CWTはスケールとシフトの両面で冗長で ある。  1つのウェーブレットで符号化された情報の 大部分が隣のウェーブレットによってまた 符号化される,という風に互いに部分的に 重なり合っている。  本質的な情報のみを残して単純化しても再 構成可能であることが多い。 隆線(ridge)抽出法  スケルトン化とも言う。 冗長な表現 隆線抽出 ICWT
  • 40. 40 フーリエ変換との比較のまとめ WTは積分変換である  元信号と変換核との内積  フーリエ変換は複素サイン波を変換核  ウェーブレット変換はウェーブレットを変換核 WTは相互相関,あるいは畳み込みと見なすことも可能  ウェーブレットをインパルス応答としてみる  Q値一定の中心周波数が異なるバンドパスフィルタ ガウス窓付き短時間フーリエ変換との比較  STFTは窓長固定  WTは相似性を固定 CWTは冗長な表現である  隆線抽出法
  • 42. 42 目次 概要  ウェーブレット変換の基本的なアイディア  時間-周波数解析  2次元(画像)のウェーブレット変換 連続ウェーブレット変換  歴史  変換と逆変換  具体例 フーリエ変換との比較  畳み込み・相互相関・内積と周波数特性  窓付きフーリエ変換とウェーブレット変換 連続ウェーブレット変換の応用事例 離散ウェーブレット変換の概要  冗長性の排除と直交変換  多重解像度解析 まとめと展望
  • 45. 45 応用事例(3) ー耳音響放射 Cochlear maturation and otoacoustic emissions in preterm infants: a time-frequency approach Tognola G et al. (2005). Hearing Res. 199: 71-80
  • 46. 46 応用事例(4) ー聴覚末梢モデル 初期聴覚はフーリエ分析器とみなすよりも,ウェーブレット分析器と見 なしたほうが自然である  PattersonのGammatoneモデル  IrinoのGammachirpモデル
  • 48. 48 目次 概要  ウェーブレット変換の基本的なアイディア  時間-周波数解析  2次元(画像)のウェーブレット変換 連続ウェーブレット変換  歴史  変換と逆変換  具体例 フーリエ変換との比較  畳み込み・相互相関・内積と周波数特性  窓付きフーリエ変換とウェーブレット変換 連続ウェーブレット変換の応用事例 離散ウェーブレット変換の概要  冗長性の排除とウェーブレットの離散化  直交変換 まとめと展望
  • 49. 49 冗長性の排除とDWT CWTは冗長であった  変換パラメタ(スケールとシフト)が連続値  スケールおよびシフトの両面でウェーブレットの特性が重なり合っていた。  変換パラメタが離散値,対象の信号は連続時間(≒フーリエ級数展開) 離散ウェーブレット変換(DWT)へ  冗長性が低く(あるいは無く)効率的な符号化が可能  伝送,圧縮,画像処理などに頻出 実用的なDWTを実現する三つのトピック  重なりを減らすには? → 2進離散ウェーブレット  パラメタを離散化しつつ,情報を完全に保存するには? → 直交変換
  • 50. 50 2進離散ウェーブレットの導入 パラメタを離散化 2のべき乗でスケールが変わ るウェーブレット  マザーウェーブレットψ(t)  スケールパラメタ: j  シフトパラメタ: k  共に整数  jが大→縮まる  kが大→遅延する , t t k j j j k     ( ) 2 (2 ) /2   t b   1 t a b     a a ( ) , k b j   2 j a   2 k a
  • 51. 51 離散ウェーブレット変換 変換パラメタは離散だが,扱う信号は連続である.  あえて「連続時間ウェーブレット級数展開」というべきかも知れない
  • 52. 52 直交変換 パラメタを離散化しつつ,情報を完全に保存するには,どんなウェーブ レットがよいのか?→直交変換(展開)を導入 直交変換とは…  変換の過程での冗長性を排除し,また完全な再構成を可能にする。  すなわち,信号の情報全体は繰り返されず一回ずつ符号化される。  変換する基底(basis)が直交している(orthogonal)。  さらに基底のノルムが1だと正規直交基底(orthonomal basis) x y ey ex (2, 3) p q ey ex (1, 2) eq ep
  • 53. 53 直交ウェーブレットである条件 正規直交であるための条件 1  j l k m j k l m   , , , j l k m   (  ,  ) (  ,  )   0 L2(R)上の任意の関数f(t)に対して展開するdj,kが存在する そんなウェーブレットはあるのか?  ハールウェーブレットは直交ウェーブレットであるになる  直交でかつ滑らかウェーブレットは「奇跡的に偶然的に」発見された(Mayer)  後に多重解像度解析理論によって,数学的に整備され,任意に作れるように なった。  実践的には誰かが考えたものを利用すればいい。
  • 54. 54 例)直交ハールウェーブレット 直交符号(Walsh code) ウォルシュ・アダマール変換
  • 56. 56 JPEGとウェーブレット 現行のJPEGは離散コサイ ン変換(DCT) JPEG-2000では離散ウェー ブレット変換(DWT) 現行のJPEGは圧縮率を高 めた際にブロック歪が発生し やすい。これは,画像を複数 のブロック(現行JPEGは 8×8ピクセル)に分けて DCTを行うため ウェーブレット変換はブロッ ク単位ではなく画面全体に 対して処理.ブロック歪は生 じない。 現行JPEG JPEG-2000
  • 57. 57 DWTのまとめ CWTは冗長性が高いため離散化  パラメタの離散化  直交変換の導入 直交ウェーブレット  構成方法は本発表では明らかにしていない  ハールウェーブレットは直交ウェーブレットであった DWTは通常,2進離散直交ウェーブレット変換のことを指す 紹介していないが非常に重要な事柄  スケーリング関数  多重解像度解析と  サブバンド符号化とマラーの高速アルゴリズム  シフト不変性とマッチング追跡  画像の圧縮
  • 59. 59 まとめと展望 CWTを中心に,WTを紹介した WTは自然な表現である  周波数とは繰り返しを記述する尺度である  繰り返すためには長さが必要=周期.「瞬時周波数」は矛盾する言葉  高い周波数では周期が短くてすむし,低い周波数は長くなる  WTは周波数によって時間窓長が変わる→自然 WTは柔軟な表現である  解析対象とする信号の形状に合わせてマザーウェーブレットを選択  局在波なので,一部を変えると他が変わる,といったことはない CWTは信号を「観察する」道具である  冗長な分,少しの違いにロバストな表現.観察に適している. DWTは信号を「簡潔にする」道具である