畳み込みネットワークによる高次元信号復元と異分野融合への展開

［特別講演］畳み込みネッ
トワークによる高次元信号
復元と異分野融合への展開
～スパースモデリングと畳み込み辞書学習～
新潟大学自然科学系（工学部）
電子情報通信プログラム
村松正吾
http://msiplab.eng.niigata-u.ac.jp/

自己紹介
◼ 専門分野
 画像情報処理
 信号処理
 自然災害科学・防災学
◼ 所属学会
 映像情報メディア学会（正会員）
 電子情報通信学会（シニア会員）
 IEEE (Senior Member)
 アジア太平洋信号情報処理学会（正会員）
◼ 著書・雑誌記事
 「マルチメディア技術の基礎DCT入門」（CQ出版, 1997）
 「MATLABによる画像&映像信号処理」（CQ出版, 2007）
 「カメラ×センサ！ラズベリー・パイ製作全集」（CQ出版，2019）
2020/5/28 IST/ME/SIP/IE/MI/BioX合同研究会 2

研究プロジェクト
車載ミリ波レーダ
皮膚薬疹
診断支援
聴覚メカニズム
の解明
医療応用生命科学
防災観測運転支援
水面からの
河床状態推定
理論
アルゴリズム実装
信号の分析と合成で貢献
2020/5/28 IST/ME/SIP/IE/MI/BioX合同研究会
‥‥
3

講演内容

信号復元とスパースモデリング
IST/ME/SIP/IE/MI/BioX合同研究会 52020/5/28

方程式の数＜未知数の数
◼ 二つの未知数、一つの方程式
𝑦 =
2
3
𝑥1 +
1
3
𝑥2
◼ 𝑦 =
1
2
のとき、𝑥1, 𝑥2は？
 答え
𝑥2 = −2𝑥1 +
3
2
IST/ME/SIP/IE/MI/BioX合同研究会2020/5/28
平面
平面
直線
無数の解（不良設定問題）
6

事前知識を利用しよう
◼ 𝑥1, 𝑥2は？
൞
𝑦 =
2
3
𝑥1 +
1
3
𝑥2
𝑦 =
1
2
◼ 事前知識の例:
𝑥1 + 𝑥2 は小さい
 答え
𝑥1 =
3
4
, 𝑥2 = 0
唯一の解
（実はスパースモデリング）
7

ベクトル空間
◼ 複数の数字をまとめるとベクトルになる
和とスケーリングが定義される
𝐯 =
1
1
𝐮 =
2
−2
𝐮 + 𝐯 =
3
−1
−2𝐯 =
−2
−2
２次元空間
ℝ2
画像データもベクトルとみなせる
8

信号復元の問題
◼ 𝐱の𝑇 ⋅ を通した観測
𝐲 = 𝑇 𝐱
◼ 観測過程 𝑇 ⋅ が連立方程式（行列）で表現できるとき
𝐲 = 𝐀𝐱
◼ 連立方程式が解けるとき
𝐱 = 𝐀−1
𝐲
観測データ
観測行列
未知データ
𝑇 ⋅ 𝐱𝐲
未知データ 𝐱 が観測データ 𝐲から復元できる
9

ノイズ除去の問題
◼ 観測過程𝐀に加えてノイズ𝐰がある場合
𝐯 = 𝐀𝐱 + 𝐰
◼ 逆行列𝐀−1
があっても，連立方程式を解けない
ො𝐱 = 𝐀−1
𝐯 = 𝐱 + 𝐀−1
𝐰
𝐀−1がなければ観測データ 𝐯からの復元は困難
10

スパースモデリングの例
◼ 事前知識を利用した問題設定
ො𝐱 = arg min
𝒙
1
2
𝐲 − 𝐀𝒙 2
2
+ 𝜆 𝒙 1
絶対値和
𝑥1 + 𝑥2 + ⋯
自乗誤差和
正則化項忠実項（分離度）
11

信号の分析と合成

移動平均と移動差分
◼ 局所的な内積の繰り返し（畳み込み）
0-1 1
-1 1
-1 -1
1 1
水平差分
垂直差分
抽出
𝐟,⋅
𝐟 ∈ ℝ2×2
¼ ¼
¼ ¼
入力
2 2
1 1
1.5平均
出力
内積出力
？
２×２局所配列𝐟 ∈ ℝ2×2
線形 ∵ 𝑇 𝐮 + 𝐯 = 𝑇 𝐮 + 𝑇 𝐯
かつ 𝑇 𝑎𝐮 = 𝑎𝑇 𝐮
-2
13

縮小処理と拡大処理
◼ 間引き処理
◼ 縮小処理
◼ 零値挿入処理
◼ 拡大処理
𝐮
2 4 6 8
0 2 4 6
8 2 2 4
6 8 0 2
𝐯
2 6
8 2
↓ 𝐌
𝐮
𝐯
2 6
8 2
↑ 𝐌
2 0 6 0
0 0 0 0
8 0 2 0
0 0 0 0
𝐮
2 4 6 8
0 2 4 6
8 2 2 4
6 8 0 2
𝐬
2 6
6 2
↓ 𝐌
𝐬
𝐯
2 6
6 2
2 2 6 6
2 2 6 6
6 6 2 2
6 6 2 2
¼ ¼
¼ ¼
↑ 𝐌
1 1
1 1
½×½ 倍 2×2 倍
畳み込み畳み込み
14
線形
ストライド

分析処理と合成処理
↓ 𝐌 ↑ 𝐌入力
𝐮
再構成
𝐯
𝐬 = 𝐓𝐮 𝐯 = 𝐃𝐬
-¼ ¼
-¼ ¼
¼ -¼
-½ ¼
1 1
-1 -1
¼ ¼
¼ ¼
1 -1
1 -1
-¼ -¼
¼ ¼
1 1
1 1
1 -1
-1 1
↓ 𝐌
↓ 𝐌
↓ 𝐌
↑ 𝐌
↑ 𝐌
↑ 𝐌
＋
＋
＋
𝐯 = 𝐃𝐬 = 𝐃𝐓𝐮 = 𝐮 ∵ 𝐃𝐓 = 𝐓𝐃 = 𝐈完全再構成条件
恒等変換
𝐬特徴畳み込み畳み込み
15
線形

移動平均成分を繰り返し分析
分析器
合成器
3段ツリー構造の例
𝐮 𝐯
多重解像度表現（よりスパースに）
16
線形

画像変換の効果
◼ ３段ハールウェーブレット変換
𝐓
𝐃
デンス（密）な表現 ⇄ スパース（疎）な表現
絶対値.
𝐬𝐮
17

フィルタバンク
（線形畳み込みネットワーク）
ℎ0 𝒏
ℎ1 𝒏
ℎ 𝑃−1 𝒏
𝑓0 𝒏
𝑓1 𝒏
𝑓𝑃−1 𝒏↓ 𝐌 𝑃−1
↓ 𝐌0
↓ 𝐌1
↑ 𝐌0
↑ 𝐌1
↑ 𝐌 𝑃−1
＋
＋
配列
𝑢 𝒏 𝒏
配列
𝑣 𝒏 𝒏
係数
𝑠0 𝒏 𝒏
𝑠1 𝒏 𝒏
𝑠 𝑃−1 𝒏 𝒏
𝐮 ∈ 𝕂 𝑁 𝐯 ∈ 𝕂 𝑁𝐬 ∈ 𝕂 𝐿𝐓 ∈ 𝕂 𝐿×𝑁
𝐃 ∈ 𝕂 𝑁×𝐿
𝐬 = 𝐓𝐮 𝐯 = 𝐃𝐬
分析FB 合成FB
18
線形 ⇔ 行列表現

信号復元アルゴリズム

ノイズと信号変換
𝐓
𝐃
𝐓
𝐃
デンス
スパース
20

確率的モデル
◼ 観測の分布 𝐯 (AWGN)
𝐯 ∼ 𝑝 𝐯 𝐬 = 𝑁 𝐯 𝐮 = 𝐃𝐬, 𝜎 𝑤
2 𝐈 ∝ exp −
𝐯−𝐃𝐬 2
2
2𝜎 𝑤
2
◼ 係数の分布 𝐬 (事前分布から事後分布へ)
𝐬 ∼ 𝑝 𝐬 𝐯 ∝ 𝑝 𝐯 𝐬 𝑝 𝐬
𝑝 𝐯 𝐬
事前分布 𝑝 𝐬 事後分布 𝑝 𝐬 𝐯
尤度関数
（条件 𝐬 が変数）
係数𝐬に関する
事前知識
観測𝐯による
分布の更新
観測 𝐯
𝐃 =
2
3
1
3
𝜎 𝑤
2
= 0.001
条件
21
生成過程モデル
ベイズの定理

画像データについての事前知識
◼ 特徴（縮小画像群）𝐬 のヒストグラム
分析FB
𝐓 ：
入力
𝐬
𝐮
移動差分縮小画像
移動平均縮小画像
零値に集中（スパース）
22

ℓ1 -ノルム正則化
◼ 係数𝐬にラプラス分布(i.i.d.)を仮定
𝑝 𝐬 = 𝐿 𝐯 𝛍 = 𝟎, 𝑏 ∝ exp −
𝐬 − 𝛍 1
𝑏
∴ log 𝑝 𝐬 = −
𝐬 1
𝑏
+ const.
◼ Lasso回帰
ො𝐬 = arg min
𝐬
1
2
𝐯 − 𝐃𝐬 2
2
+ 𝜆 𝐬 1
𝜆 =
𝜎 𝑤
2
𝑏
正則化項忠実項
軸上
ラプラス分布
23
生成過程モデル
係数 𝐬の最大事後確率（MAP）推定
ො𝐬 = arg max
𝐬
𝑝 𝐬 𝐯
= arg min
𝐬
− log 𝑝 𝐯 𝐬 𝑝 𝐬
= arg min
𝐬
1
2𝜎 𝑤
2 𝐯 − 𝐃𝐬 2
2
− log 𝑝 𝐬

観測過程を含む画像復元モデル
𝐯
観測画像
𝐮
未知画像
𝐏 +
𝐰観測過程
AWGN
𝐃
𝐬⋆
𝐃
ො𝐬特徴（係数）
合成辞書（生成過程）
ෝ𝐮
復元画像
復元
𝐯 = 𝐏𝐮 + 𝐰
𝐮 = 𝐃𝐬⋆
𝐬⋆
はスパース
仮定
ො𝐬 = argmin
𝒔
1
2
𝐯 − 𝐏𝐃𝒔 2
2
+ 𝜆𝜌 𝒔
ෝ𝐮 = 𝐃ො𝐬 正則化項
問題設定
忠実項
合成FB
＋制約
24
合成FB

◼ 近接勾配法
ෝ𝒙 = arg min
𝒙∈𝑉
𝑓 𝒙 + 𝑔 𝒙
 𝑓 ⋅ : 微分可能，𝑔 ⋅ : 連続
 アルゴリズム（初期化：𝒙 0
, 𝑡 ← 0）
𝒙 𝑡+1
← prox 𝛾𝑔 𝒙 𝑡
− 𝛾𝛻𝒙 𝑓 𝒙 𝑡
𝑡 ← 𝑡 + 1
◼ 近接写像の定義（𝛾 > 0）
𝒙 𝑖+1
← prox 𝛾𝑔 𝒙 𝑖
≔ arg min
𝒚
𝑔 𝒚 +
1
2𝛾
𝒚 − 𝒙 𝑖
2
2
近接写像
求解アルゴリズム
25
凸関数𝑔 𝒙 近接写像prox 𝛾𝑔 𝒙
自乗誤差
1
2
𝒙 − 𝐯 2
2
加重平均 𝒜 𝐯,𝛾 𝒙 =
1
1+𝛾
𝒙 + 1 −
1
1+𝛾
𝐯
ℓ1ノルム 𝒙 1 ソフト閾値 𝒯𝛾 𝒙 = sgn 𝒙 ⨀ abs 𝒙 − 𝛾𝟏 +
指示関数 𝚤 𝐶 𝒙 = ቊ
0 𝒙 ∈ 𝐶
∞ 𝒙 ∉ 𝐶
距離射影 𝒫𝐶 𝒙 = arg min
𝒚∈𝐶
𝒚 − 𝒙 2
2
勾配降下
近接写像
微分可能
微分不可

畳み込み辞書学習

繰り返し縮退／閾値処理
アルゴリズム (ISTA)
◼ 正則化項：𝜌 𝒔 = 𝒔 1
𝒯𝜆
𝛾
⋅
𝐯
観測
𝐏 𝑇 𝐃 𝑇
𝐏 𝐃 ො𝒔(𝑡−1)
+ + 𝐃
ො𝒔(𝑡)
ෝ𝐮(𝑡)
復元− 1/𝛾
ෝ𝐮(𝑡−1)
合成FB
分析FB
観測過程
合成FB観測過程の随伴
ソフト閾値処理
27
𝐀 = 𝐁 𝑇
𝐁 = 𝐀 𝑇
最大特異値𝜎1 ⋅
（循環）畳み込み ℎ 𝒏 𝒏 （循環）畳み込み ℎ −𝒏 𝒏
max
𝒌
𝐻 𝒌
間引き処理（↓ 𝐌）零値挿入処理（↑ 𝐌） 1
分析FB ℎ 𝑝 𝒏 𝒏
, ↓ 𝐌 𝑝
𝑝
合成FB ↑ 𝐌 𝑝, ℎ 𝑝 −𝒏 𝒏 𝑝
𝐁𝐀 = 𝐈 ⇒1
𝛾の設定に利用

合成辞書𝐃（生成過程モデル）
8 × 8 離散コサイン変換
(DCT)
3段9/7離散ウェーブレット変換
(DWT)
JPEG JPEG2000
28

𝜃00 𝜃01
𝜃10 𝜃11
𝜃00 𝜃01
𝜃10 𝜃11
畳み込み辞書学習
◼ スパース近似（辞書𝐃෡𝛉 を固定）
ො𝐱 𝑛 = arg min
𝒙
1
2
𝐲 𝑛 − 𝐃෡𝛉 𝒙 2
2
+ 𝑔 𝒙
𝑛 ∈ 1,2, ⋯ , 𝑆
◼ 辞書更新（係数 ො𝐱 𝑛 𝑛を固定）
෡𝛉 = arg min
𝜽
1
2𝑆
෍
𝑛=1
𝑆
𝐲 𝑛 − 𝐃 𝜽 ො𝐱 𝑛 2
2
スパース近似
辞書更新
収束?
true
false
𝐲 𝑛 𝑛
𝐃෡𝜽
教師
データ
学習辞書スパース性を促進する合成FB 𝐃 𝜽 を設計
𝑆: 事例数
𝜃00 𝜃01
𝜃10 𝜃11
正則化項
29

辞書更新ステップ
◼ 𝑛-番目サンプルの最小自乗誤差:
𝐸 𝑛 𝜽 =
1
2
𝐲 𝑛 − 𝐃 𝜽 ො𝐱 𝑛 2
2
=
1
2
𝒓 𝑛 𝜽 2
2
 𝑛-番目サンプルの勾配の𝑞-番目要素:
𝛻𝜽 𝐸 𝑛 𝜽 𝑞 =
𝜕
𝜕𝜃 𝑞
𝐸 𝑛 𝜽 = − 𝒓 𝑛 𝜽 ,
𝜕
𝜕𝜃 𝑞
𝐃 𝜽 ො𝐱 𝑛
 もし 𝐃 𝜽 = 𝐅𝐼 𝐅𝐼−1 ⋯ 𝐅1
⇒ 𝛻𝜽 𝐸 𝑛 𝜽 𝑞𝑖,𝑘
= − 𝐅𝑖+1
𝑇
⋯ 𝐅𝐼−1
𝑇
𝐅𝐼
𝑇
𝒓 𝑛 𝜽 ,
𝜕
𝜕𝜃 𝑞 𝑖,𝑘
𝐅𝑖 𝐅𝑖−1 ⋯ 𝐅1 ො𝐱 𝑛
𝜃 𝑞 𝑖,𝑘
は𝐅𝑖のパラメータ
誤差逆伝播
縦続接続構成FB
誤差と
微係数
の内積
∵ 𝐲, 𝐀𝐱 = 𝐀 𝑇
𝐲, 𝐱
30

辞書パラメータの最適化
◼ 勾配降下法
（一般に，𝐸 𝑛 𝜽 は非凸→局所最小解）
𝜽 𝑡+1 ← 𝜽 𝑡 − 𝜂 𝑡
1
𝑆
෍
𝑛=1
𝑆
𝛻𝜽 𝐸 𝑛 𝜽
◼ 確率的勾配降下法（SGD）
𝜽 𝑡+1
← 𝜽 𝑡
− 𝜂 𝑡 𝛻𝜽 𝐸 𝑛 𝑡
𝜽
全サンプルの平均
一部の勾配計算コストの削減
局所最小解の脱出
31

構造化畳み込み辞書学習の例
◼ Lenaによる合成辞書（合成FB）の設計例
(NSOLT [Muramatsu+, IEEE TSP2017] etc.)
 冗長，タイト，対称，階層構造
教師画像学習した要素画像群
32

異分野融合への展開

ボケ除去の例
原画像
観測画像
PSNR: 23.84 dB
近接勾配法
PSNR: 27.21 dB
34
※NSOLT+ISTA

超解像の例
原画像観測画像
近接勾配法
PSNR: 27.61 dB
バイキュービック
PSNR: 23.92 dB
※NSOLT+ISTA
35

画像修復の例
原画像
観測
PSNR: 12.56 dB
近接勾配法
PSNR: 32.76 dB
※NSOLT+ISTA
36

主-双対近接分離(PDS)法
◼ 問題設定
ෝ𝒙 = arg min
𝒙∈𝑉
𝑓 𝒙 + 𝑔 𝒙 + ℎ 𝐋𝒙
 𝑓 ⋅ ：微分可能
 𝑔 ⋅ , ℎ ⋅ ：連続
◼ アルゴリズム（初期値：𝒙 0 , 𝒚 0 , 𝑡 ← 0）
𝒙 𝑡+1
← prox 𝛾1 𝑔 𝒙 𝑡
− 𝛾1 ∇ 𝒙 𝑓 𝒙 𝑡
+ 𝐋𝑇
𝒚 𝑡
𝒚 𝑡+1
← prox 𝛾2ℎ∗ 𝒚 𝑡
+ 𝛾2 𝐋 2𝒙 𝑡+1
− 𝒙 𝑡
𝑡 ← 𝑡 + 1
◼ 【例】正則化𝜌 ⋅ = ⋅ 1と制約𝐮 ∈ 𝐶による信号復元
𝑓 𝒔 = (1/2) 𝐯 − 𝐏𝐃𝒔 2
2
, 𝑔 𝒔 = 𝜆 𝒔 1, ℎ 𝐋𝒔 = 𝜄 𝐶 𝐋𝒔 , 𝐋 = 𝐃
ここで，∇ 𝒔 𝑓 𝒔 = 𝐃 𝑇 𝐏 𝑇 𝐏𝐃𝒔 − 𝐯 , prox 𝛾𝜆 ⋅ 1
𝒔 = 𝒯𝛾𝜆 𝒔
逆行列不要で
高次元信号に
有利
ℎ ⋅ の凸共役の近接写像
𝐃 =
2
3
1
3
𝐯 =
1
2
𝐶: −
1
2
≤ 𝐃𝐬 ≤ 0
37
制約を加えられる

畳み込み辞書の応用事例その１
◼ 感覚上皮帯の多周波全視野光干渉断層撮像
MS en-face OCT
観測復元
モルモット
の感覚上皮帯
[Fujii+, IEEE ICIP2019]
屈折率分布
反射率分布
観測
256×256×2000

畳み込み辞書の応用事例その２
◼ 河川防災のための河床状態推定
畳み込みスパース符号化動的モード分解
水面
河床
ストリームトモグラフィ
推定
訓練
計測.
[Kaneko+, IEEE ICASSP2019]

モデル・学習ハイブリッド構造

信号復元モデルの構造
◼ 事前知識を利用した問題設定
 Lasso回帰
ො𝐱 = arg min
𝒙
1
2
𝐲 − 𝐏𝐃𝒙 2
2
+ 𝜆 𝒙 1
 モデルと学習のハイブリッド問題設定
ො𝐱 = arg min
𝒙
ℱ 𝐲, 𝒫 ∘ 𝒢(𝒙) + ℛ 𝒙 , s. t. 𝒙 ∈ 𝒞
分離度観測過程生成過程正則化制約
何が未知？何が既知？
第一原理が使えるか？事例学習は使えるか？

非線形辞書学習
◼ 𝑛-番目サンプルの最小自乗誤差:
𝐸 𝑛 𝜽 =
1
2
𝐲 𝑛 − 𝒈 𝜽(ො𝐱 𝑛) 2
2
=
1
2
𝒓 𝑛 𝜽 2
2
 𝑛-番目サンプルの勾配の𝑞-番目要素:
𝛻𝜽 𝐸 𝑛 𝜽 𝑞 =
𝜕
𝜕𝜃 𝑞
𝐸 𝑛 𝜽 = − 𝒓 𝑛 𝜽 ,
𝜕
𝜕𝜃 𝑞
𝒈 𝜽(ො𝐱 𝑛)
 もし， 𝒈 𝜽(⋅) = 𝒇𝐼 ∘ 𝒇𝐼−1 ∘ ⋯ ∘ 𝒇1 ⋅ かつ（劣）微分可能なら
⇒ 𝛻𝜽 𝐸 𝑛 𝜽 𝑞𝑖,𝑘
= −
𝜕𝒇𝑖+1
𝜕𝒇𝑖
𝑇
⋯
𝜕𝒇𝐼−1
𝜕𝒇𝐼−2
𝑇
𝜕𝒇𝐼
𝜕𝒇𝐼−1
𝑇
𝒓 𝑛 𝜽 ,
𝜕
𝜕𝜃 𝑞 𝑖,𝑘
𝒇𝑖 ∘ 𝒇𝑖−1 ∘ ⋯ ∘ 𝒇1 ො𝐱 𝑛
非線形辞書（生成過程モデル）
𝒈 𝜽: ℝ 𝐿
→ ℝ 𝑁
ヤコビ行列
𝜃 𝑞 𝑖,𝑘
は因子𝒇𝑖(⋅)の
パラメータ
誤差逆伝播 ∵ 𝐲, 𝐀𝐱 = 𝐀 𝑇 𝐲, 𝐱
42
[Kobayashi+, ICCE-ASIA2020]

関連研究：
ループ展開
◼ 学習ISTA(LISTA) [Gregor+,ICML2010]
もし，𝑾 = 𝐈 − 𝛾𝐃 𝑇 𝐃 ⇒ISTA𝒯𝛾𝜆(⋅)
𝑻
𝑾 + ++
𝐲
𝑾 𝑾
𝐱 0
𝐱 1
𝐱 T−1 FP
もし， 𝑻 = 𝛾𝐃 𝑇 ⇒ISTA
𝛿𝐱 T
= 𝐱⋆
− ො𝐱
FPFP
BPBPBP𝛿𝑾, 𝛿𝑻, 𝛿𝜆 𝛿𝐱 T−1
𝛿𝐱 1
𝛿𝐱 0
スパース近似
パラメータ更新
ො𝐱 = 𝐱 T
出力
入力
43
観測過程 & 生成過程を混在したまま訓練

関連研究：
CNNベースの画像復元
◼ 残差 U-net [Jin+,TIP2017]
畳み込みニューラルネットワーク (CNN)
+
スキップコ・ネクション
𝐯 ෝ𝐮
観測過程 & 生成過程を
混在したまま訓練
改善策
Deep Image Prior
• 観測と生成の分離
• 観測画像による学習
[D. Ulyanov+,CVPR2018]
44

まとめと参考文献

まとめ
◼ 信号復元とスパースモデリング
◼ 信号の分析と合成
◼ 最適化アルゴリズム
◼ 畳み込み辞書学習
◼ 異分野融合への展開
◼ モデル・学習ハイブリッド構造
謝辞本研究はJSPS 科研費JP16H03164, J17H03251, JP19H04135,
19K22026，AMED-CRESTの助成を受けたものです．
＃研究テーマ＞
#{観測過程}×#{生成過程}×#{分離度}×#{正則化}×#{制約}×…

業績リストと共同研究者
◼ S. Muramatsu, "Structured dictionary learning with 2-D non-separable oversampled lapped
transform," in Proc. of IEEE ICASSP 2014, pp. 2624-2628 (2014/5).
◼ S. Muramatsu, M. Ishii and Z. Chen, "Efficient parameter optimization for example-based design of
nonseparable oversampled lapped transform,“in Proc. of IEEE ICIP 2016, pp. 3618-3622 (2016/9).
◼ S. Muramatsu, K. Furuya and N. Yuki, “Multidimensional nonseparable oversampled lapped
transforms: theory and design,” in IEEE Trans. on Signal Process., vol. 65, no. 5, pp. 1251-1264
(2017/3).
◼ Y. Kaneko, S. Muramatsu, H. Yasuda, K. Hayasaka, Y. Otake, S. Ono and M. Yukawa, “Convolutional-
Sparse-Coded Dynamic Mode Decomposition and Its Application to River State Estimation,” in Proc.
of IEEE ICASSP2019 , pp.1872-1876 (2019/5)
◼ G. Fujii, Y. Yoshida, S. Muramatsu, S. Ono, S. Choi, T. Ota, F. Nin and H. Hibino, “OCT Volumetric
Data Restoration with Latent Distribution of Refractive Index,” in Proc. of IEEE ICIP 2019,
pp.764-768, (2019/9)
◼ R. Kobayashi and S. Muramatsu “Convolutional Nonlinear Dictionary with Cascaded Structure Filter
Banks, “ in Proc. of IEEE/IEIE ICCE-Asia 2020, to appear (2020/11)
共同研究者（あいうえお順）
太田岳（新潟大学，医歯学系），大竹雄（東北大学，工学研究科），小野峻佑（東京工業大学，情報理工
学院），崔森悦（新潟大学，自然科学系），任書晃（新潟大学，医歯学系），早坂圭司（新潟大学, 自然
科学系），日比野浩（新潟大学，医歯学系），安田浩保（新潟大学，災害・復興科学研究所），山田寛喜
（新潟大学，自然科学系），湯川正裕（慶應義塾大学，理工学部）

参考文献
◼ 村松正吾，「MATLABによる画像＆映像信号処理」，CQ出版 (2007/5)
◼ 鈴木大慈，「確率的最適化」，講談社 (2015/8)
◼ 冨岡亮太，「スパース性に基づく機械学習」，講談社 (2015/12)
◼ 金森敬文，鈴木大慈，竹内一郎，佐藤一誠，「機械学習のための連続最適化」，講談社 (2016/12)
◼ 永原正章，「スパースモデリング～基礎から動的システムへの応用～」，コロナ社 (2017/10)
◼ Michael Elad（著），玉木徹（訳），「スパースモデリング：ℓ1/ℓ0ノルム最小化の基礎理論と画像処理への応用」，共立出版
(2016/4)
◼ 小野峻佑，”コンピュータビジョンにおける凸最適化”，米谷竜，斎藤英雄（編），「コンピュータビジョンー広がる要素技術と応
用ー」, pp.121-140, 共立出版 (2018/6)
◼ 田中聡久，「信号・データ処理のための行列とベクトル- 複素数,線形代数,統計学の基礎 -」，コロナ社 (2019/7)
◼ 寒野善博，駒木文保，「最適化手法入門」，講談社(2019/8)
◼ K. Gregor and Y. LeCun, “Learning fast approximations of sparse coding,” in Proc. 27th Int. Conf. Machine Learning, pp. 399–406
(2010/6).
◼ L. Condat, "A Primal-Dual Splitting Method for Convex Optimization Involving Lipschitzian, Proximable and Linear Composite
Terms", in Journal of Optimization Theory and Applications, vol. 158, no.2, pp.460-479 (2013/8).
◼ N. Komodakis and J. Pesquet, "Playing with Duality: An overview of recent primal-dual approaches for solving large-scale
optimization problems," IEEE Signal Processing Magazine, vol. 32, no. 6, pp. 31-54 (2015/11).
◼ K. H. Jin, M. T. McCann, E. Froustey and M. Unser, "Deep Convolutional Neural Network for Inverse Problems in Imaging," in IEEE
Transactions on Image Processing, vol. 26, no. 9, pp. 4509-4522 (2017/9).
◼ M. T. McCann, K. H. Jin and M. Unser, "Convolutional Neural Networks for Inverse Problems in Imaging: A Review," in IEEE Signal
Processing Magazine, vol. 34, no. 6, pp. 85-95 (2017/11).
◼ A. Lucas, M. Iliadis, R. Molina and A. K. Katsaggelos, "Using Deep Neural Networks for Inverse Problems in Imaging: Beyond
Analytical Methods," in IEEE Signal Processing Magazine, vol. 35, no. 1, pp. 20-36 (2018/1).
◼ J. Sulam, V. Papyan, Y. Romano and M. Elad, "Multilayer Convolutional Sparse Modeling: Pursuit and Dictionary Learning," in IEEE
Transactions on Signal Processing, vol. 66, no. 15, pp. 4090-4104 (2018/8).
◼ D. Ulyanov, A. Vedaldi, V. Lempitsky, “Deep Image Prior,” in Proc. of IEEE Conference on Computer Vision and Pattern Recognition
(CVPR) 2018, pp. 9446-9454 (2018/6)

畳み込みネットワークによる高次元信号復元と異分野融合への展開

More Related Content

What's hot

Similar to 畳み込みネットワークによる高次元信号復元と異分野融合への展開

More from Shogo Muramatsu

畳み込みネットワークによる高次元信号復元と異分野融合への展開