文献紹介：Efficient Multi-Domain Learning by Covariance Normalization
•
0 likes•6 views
Yunsheng Li, Nuno Vasconcelos; Efficient Multi-Domain Learning by Covariance Normalization, Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR), 2019, pp. 5424-5433 https://openaccess.thecvf.com/content_CVPR_2019/html/Li_Efficient_Multi-Domain_Learning_by_Covariance_Normalization_CVPR_2019_paper.html
Recommended
More Related Content
More from Toru Tamaki
More from Toru Tamaki (20)
Recently uploaded
Recently uploaded (7)
文献紹介：Efficient Multi-Domain Learning by Covariance Normalization
- 1. Efficient Multi-Domain Learning by Covariance Normalization Yunsheng Li, Nuno Vasconcelos, La Jolla CVPR2019 大見一樹（名工大玉木研） 論文紹介2021/11/5
- 2. 概要 ◼マルチドメイン学習とは • 複数ドメインに有効な単一モデルの学習 • 通常の学習はドメイン毎にモデルが必要 ◼マルチドメイン学習モデル • ドメイン非依存パラメータ • 割合が大きい • ドメイン依存パラメータ（アダプタ） • 割合が小さい • 少量のパラメータで追加ドメインに対応 ◼提案手法 • Covariance Normalization (CovNorm) • 最適かつ小容量なアダプタの提案 ドメイン間で 共通のパラメータ ドメイン依存 パラメータ
- 3. 関連研究 ◼series residual adapter (Rebuffi+, NIPS2017) • アダプタを直列に追加 • スキップ構造でオーバーフィッティング防止 • アダプタがモデルの10% ◼parallel residual adapter (Rebuffi+, CVPR2018) • アダプタを並列に追加 • SVD分解を用いた次元削減と近似 • あらかじめ次元の圧縮率を指定 • アダプタがモデルの5% ◼提案手法 • 主成分分析で最適な次元削減 • アダプタがモデルの0.51% series adapter parallel adapter
- 4. 提案手法の考え方 ◼アダプタの目的 • 固有のドメインで学習したモデル（ドメイン特化型）と同じ特徴量の抽出 • ドメイン特化型モデルはそのドメインにおいて最適な特徴量と考えられるため ◼ ソースドメイン（大規模データセット）で学習 • ドメイン非依存パラメータとする ◼ ターゲットドメインで学習 • 最も最適な特徴量と考えられる • しかしドメインごとにパラメータの保持が必要 ◼ アダプタを追加 • 最適な特徴量に近づける • 𝑦′′を𝑦′に近づける ドメイン非依存パラメータ 最適な特徴量 ソース ドメイン ターゲット ドメイン ターゲット ドメイン 最適な特徴量 とは言えない アダプタで 最適な特徴量に近づける
- 5. CovNormの概要 ID ID ドメインS train train 1. ソースでドメイン非依存パラメータを学習 A ドメインT x y train train train 2. アダプタを追加しターゲットで全パラメータを学習 ID ID Anew ドメインT fix fix train 5. アダプタのみを小さな学習率で学習 whitening matrix coloring matrix 3. 中間特徴量を主成分分析 4. アダプタ作成 • 次元削減 • アダプタ近似
- 6. 中間特徴量の主成分分析 1. 特徴量を主成分分析 2. 次元削減 累積寄与率を用いて次元削減 3. パラメータ近似 次元の 不一致を調整 whitening matrix coloring matrix カラーリング ホワイトニング
- 7. 実験結果 ◼デカスロンによる実験（下） • 画像を72x72にリサイズ ◼7つのデータセットによる実験（右） • 画像をリサイズしない ◼結果 • 既存手法より高性能 • 既存手法より低容量 7つのデータセットによる性能 デカスロンによる性能
- 8. まとめ ◼CovNorm • 主成分分析を用いたマルチドメイン学習 • 累積寄与率を用いた次元削減 • 特異値分解より効果的 • 既存手法より高性能 • アダプタが既存手法より低容量