圧縮センシングと
ネットワーク化制御




             永原正章
            (京都大学)
もくじ
 連立方程式の復習
  最小ノルム解
  最小二乗近似解
  正則化最小二乗法
 Sparse Land での正則化最小二乗法
  圧縮センシングの基礎
 ネットワーク化制御への応用
 まとめ
もくじ
 連立方程式の復習
  最小ノルム解
  最小二乗近似解
  正則化最小二乗法
 Sparse Land での正則化最小二乗法
  圧縮センシングの基礎
 ネットワーク化制御への応用
 まとめ
連立方程式

連立方程式
 変数の数>方程式の数 → 解は無数に存在
 犯罪捜査に例えると...
  方程式の解=真犯人
  方程式=証拠
 証拠が少ないと,犯人を特定することはできない.
連立方程式

連立方程式

最小二乗解

最小ノルム解

最小ノルム解
 MATLAB, SCILABなどを用いれば簡単に求まる.
カーブフィッティング
 抵抗値の測定




      1    2   …   18   19
      2    4   …   36   38
カーブフィッティング

カーブフィッティング

カーブフィッティング

カーブフィッティング1   2   …   18   19
         2   4   …   36   38
カーブフィッティング
カーブフィッティング
 誤差を10倍してみると...
カーブフィッティング
 データ点を必ず通るので,正確??
  明らかに間違った結果である
 何が起きているのか?
カーブフィッティング
オーバーフィッティング
 誤差(ノイズ)に敏感に反応
 原因として考えられること
  多項式の次数が大きすぎる
  係数の要素が大きすぎる
正しいモデルを使う

最小二乗近似

最小二乗近似
最小二乗近似
最小二乗近似(2次多項式)
最小二乗近似(4次多項式)
最小二乗近似(6次多項式)
最小二乗近似(8次多項式)
最小二乗近似(10次多項式=補
間)
最小二乗近似
 上の例題では 6 ~ 8 次の多項式近似が比較的良
  い結果を与える.
 データから自動的に多項式の次数を決めることは
  できないか?
     10次多項式の係数   6次多項式の係数




                 単純に係数の「大きさ」を小さくすれば
                 良くなりそう...
正則化最小二乗法





    誤差を小さくする
正則化最小二乗法
正則化最小二乗法
これまでのまとめ





           最小ノルム解



           最小2乗近似解
例題をもう一つ




データ点は11点
多項式の係数のほとんどは0(スパース)
多項式近似
 次数80の多項式の係数を求めるためには,81
点のデータが必要.
  しかし,データ数は11.証拠が少なすぎる.
 もとの多項式は「スパースである」という事実を
使ってみる.
最小二乗法による近似
「スパース」という情報を入れた場
合




  Welcome to Sparse Land!
もくじ
 連立方程式の復習
  最小ノルム解
  最小二乗近似解
  正則化最小二乗法
 Sparse Land での正則化最小二乗法
  圧縮センシングの基礎
 ネットワーク化制御への応用
 まとめ
Sparse Land
 Sparse Land=スパースな信号の属する集合
 圧縮センシング,圧縮サンプリング,スパース表
  現など,最近話題のトピックの基礎となる.
 ここでは,Sparse Land とは何かを簡単に説明す
  る.
Sparse Land
 スパースの国に属するベクトル



  0の数が多い


 “省エネの国”に属するベクトル



  エネルギー(L2ノルム)が小さい
Sparse vector
                スパースの国で最適化したベクトル
Small-energy vector
              省エネの国で最適化したベクトル
線形方程式

線形方程式



原子組成 (atomic composition)

スパースさの指標

逆問題:原子分解



原子組成
(atomic composition)
逆問題:原子分解



原子組成
(atomic composition)
逆問題:原子分解



原子組成
(atomic composition)
逆問題:原子分解



原子組成
(atomic composition)


「省エネの国」の原子分解(正則化最小二乗法):
逆問題:原子分解



原子組成
(atomic composition)


    「スパースの国」の原子分解:
逆問題:原子分解



原子組成
(atomic composition)


    「スパースの国」の原子分解:




                       組み合わせ最適化
                       辞書のサイズが大きいとき,解を求めるのは非常に困難.
逆問題:原子分解



原子組成
(atomic composition)


    「スパースの国」の原子分解:
 高速解法(Iterative Shrinkage)
もくじ
 連立方程式の復習
  最小ノルム解
  最小二乗近似解
  正則化最小二乗法
 Sparse Land での正則化最小二乗法
  圧縮センシングの基礎
 ネットワーク化制御への応用
 まとめ
ネットワーク化制御系

   制御対象




   コントローラ
ネットワーク化制御系

      制御対象




     コントローラ

制御対象とコントローラとの間の通信には制約が
          ある
ネットワーク化制御の例
ネットワーク化制御
 通信路制約のもとで,いかにうまく制御対象を
  制御できるか?
 通信路制約
   ビットレート制約
   通信遅れ
   パケットロス
   etc
 制御性能をなるべく崩さずに(少しは犠牲にし
  て),送信信号を効率よく圧縮したい.
       →スパースの国 (Sparse Land) へ!
ネットワーク化制御





ネットワーク化制御





ネットワーク化制御





ネットワーク化制御





制御信号




 Fourier 級数展開
制御信号

制御問題

評価関数の離散化
 ランダムサンプリング
評価関数の離散化
 ランダムサンプリング
評価関数の離散化
 ランダムサンプリング




    高速アルゴリズム
数値例題

正則化パラメータ
正則化パラメータ
制御性能の比較
まとめ


圧縮センシングとネットワーク化制御