More Related Content
Similar to 多目的強凸最適化のパレート集合のトポロジー (18)
More from KLab Inc. / Tech (20)
多目的強凸最適化のパレート集合のトポロジー
- 2. 2
2010/4 ~ 2013/3 東京工業大学 博士(工学)
2013/4 ~ 2020/6 (株) 富士通研究所 研究員
2020/7 ~ 現在 KLab (株) リサーチエンジニア
2017/4 ~ 現在 理化学研究所 客員研究員
濱田 直希
リサーチエンジニア 客員研究員
エンジニアリング本部 理研AIP-富士通連携センター
KLab株式会社 理化学研究所
経歴
最適化,機械学習,位相幾何
Webプログラミング,ゲームプログラミング
専門
- 6. 6
多目的最適化とは
複数の目的関数を同時に最適化する問題
例:minimize
𝑓1 𝑥1, 𝑥2 = 𝑥1 + 1 2
+ 𝑥2 + 1 2
𝑓2 𝑥1, 𝑥2 = 𝑥1 − 1 2 + 𝑥2 − 1 2
subject to − 2 ≤ 𝑥𝑖 ≤ 2 𝑖 = 1,2
目標:1点の最適解ではなく,パレート解の集合を探す
[定義] 制約充足点 𝑥 がパレート解であるとは,
以下を満たす制約充足点 𝑦 が存在しないことをいう:
● 𝑓𝑖 𝑦 ≤ 𝑓𝑖 𝑥 for all 𝑖,
● 𝑓𝑗 𝑦 < 𝑓𝑗 𝑥 for some 𝑗.
パレート集合
パレートフロント
優
劣
- 23. 23
1970年代:大域解析による最適化理論の始まり
S. Smale
© G. Bergman 2008, GFDL 1.2
高次元Poincare予想を
解決しフィールズ賞受賞.
そこで駆使したモース理
論を拡張し,経済学にお
ける多目的最適化問題の
解集合の構造を議論した.
純粋交換経済:𝑚 人の消費者と 𝑙 種類の商品がある市場.
消費者 𝑖 は自身の効用関数 𝑢𝑖 を最大化するよう商品を交換.
パレート集合は市場の均衡状態を表す.
上記の問題のパレート集合は𝑚 − 1次元単体と同相
上記の命題は[Hamada+ 2019]より.この命題の初出は[Smale 1973]だが,発表者の知るかぎり今まで証明はされていない.
- 35. 35
観察された性質をちゃんと定義してみた
条件1 条件2
𝑓 = 𝑓1, … , 𝑓𝑚 : ℝ 𝑛 → ℝ 𝑚, 𝑀 = 1, … , 𝑚 とする.それぞれの𝐼 = 𝑖1, … , 𝑖 𝑘 ⊆
𝑀について𝑓𝐼 = 𝑓𝑖1
, … , 𝑓𝑖 𝑘
とする.ある𝐶 𝑟-写像 0 ≤ 𝑟 ≤ ∞ Φ: Δ 𝑚−1 → 𝑋∗ 𝑓
が存在してΦ Δ 𝐼
𝑚−1: Δ𝐼
𝑚−1
→ 𝑋∗ 𝑓𝐼 と𝑓 𝑋∗ 𝑓 𝐼
: 𝑋∗ 𝑓𝐼 → 𝑓𝑋∗ 𝑓𝐼 がともに全射な
𝐶 𝑟-写像ならば,𝑓 を最小化する問題は𝐶 𝑟-弱単体的であるという.さらに
Φ Δ 𝐼
𝑚−1: Δ𝐼
𝑚−1
→ 𝑋∗ 𝑓𝐼 と𝑓 𝑋∗ 𝑓 𝐼
: 𝑋∗ 𝑓𝐼 → 𝑓𝑋∗ 𝑓𝐼 がともに𝐶 𝑟-微分同相写像な
らば,問題は𝐶 𝑟
-単体的であるという.
定義:(弱)単体的な問題
[Hamada+ 2020] Topology of Pareto sets of strongly convex problems. SIOPT, 30(3), 2659-2686.
- 38. 38
強凸問題
𝑋 ⊆ ℝ 𝑛を凸集合とする.関数𝑓: 𝑋 → ℝが以下を満たすとき凸関数という:
𝑓 𝑡𝑥 + 1 − 𝑡 𝑦 ≤ 𝑡𝑓 𝑥 + 1 − 𝑡 𝑓 𝑦 ∀𝑥, 𝑦 ∈ 𝑋, 𝑡 ∈ 0,1 .
関数𝑓: 𝑋 → ℝが以下を満たすとき強凸関数という:ある𝛼 > 0が存在して
𝑓 𝑡𝑥 + 1 − 𝑡 𝑦 ≤ 𝑡𝑓 𝑥 + 1 − 𝑡 𝑓 𝑦 −
1
2
𝛼𝑡 1 − 𝑡 𝑥 − 𝑦 2 ∀𝑥, 𝑦 ∈ 𝑋, 𝑡 ∈ 0,1 .
定義:(強)凸関数
𝑋 ⊆ ℝ 𝑛を凸集合とする.写像𝑓 = 𝑓1, … , 𝑓𝑚 : 𝑋 → ℝ 𝑚を最適化する問題は,すべ
ての関数𝑓𝑖: 𝑋 → ℝが(強)関数であるとき,(強)凸最適化問題という.
定義:(強)凸最適化問題
- 39. 39
強凸問題は(弱)単体的
𝑓: ℝ 𝑛
→ ℝ 𝑚
を 𝐶 𝑟
-強凸写像 2 ≤ 𝑟 ≤ ∞ とする.このとき,𝑓 を最小化す
る問題は𝐶 𝑟−1
-弱単体的である.さらに,任意のパレート解 𝑥 について
corank 𝑑𝑓𝑥 = 1 ならば, 𝑓 を最小化する問題は𝐶 𝑟−1-単体的である.
定理:強凸問題が単体的である条件
[Hamada+ 2020] Topology of Pareto sets of strongly convex problems. SIOPT, 30(3), 2659-2686.
定理の直感的な意味:
corank 𝑑𝑓𝑥 = 2 の点で
パレート集合がピンチ
されるため,単体とは
同相でなくなる.
このような点が存在
しなければ,パレート
集合は単体と同相.
- 40. 40
強凸問題はジェネリックな線形摂動で単体的に
𝐿 ℝ 𝑛, ℝ 𝑚 をℝ 𝑛からℝ 𝑚への線形写像全体の空間とし,ユークリッド空間
ℝ 𝑛 𝑚と同一視する.𝑓: ℝ 𝑛 → ℝ 𝑚 を 𝐶 𝑟-強凸写像 2 ≤ 𝑟 ≤ ∞, 𝑛 ≥ 𝑚 とす
る.もし𝑛 − 2𝑚 + 4 > 0 ならば,ルベーグ測度0集合Σ ⊂ 𝐿 ℝ 𝑛
, ℝ 𝑚
が存在し,
任意の𝜋 ∈ 𝐿 ℝ 𝑛
, ℝ 𝑚
− Σについて写像𝑓 + 𝜋は任意のパレート解𝑥 ∈
𝑋∗ 𝑓 + 𝜋 においてcorank 𝑑 𝑓 + 𝜋 𝑥 = 1 である.つまり, 𝑓 + 𝜋を最小化す
る問題は𝐶 𝑟−1
-単体的である.
定理:強凸問題が摂動で単体的になる条件
[Hamada+ 2020] Topology of Pareto sets of strongly convex problems. SIOPT, 30(3), 2659-2686.
- 46. 46
実験結果
問題例 手法
精度
(真のフロントから推定面への距離)
再現度
(推定面から真のフロントへの距離)
平均値 標準偏差 平均値 標準偏差
MED.3D 応答曲面法 1.34E+00 1.04E-01 6.57E-02 3.55E-03
一斉推定 1.51E+00 3.92E+00 1.01E-01 7.70E-02
帰納的骨格推定 4.84E-01 1.18E+00 6.09E-02 2.17E-02
Viennet2 応答曲面法 3.00E+00 1.76E+00 6.12E-02 9.15E-03
一斉推定 8.69E+06 2.36E+07 2.17E-01 4.48E-02
帰納的骨格推定 2.34E+00 3.68E+00 6.39E-02 6.45E-03
MED.5D 応答曲面法 5.04E+00 6.77E-01 1.01E-01 5.12E-03
一斉推定 7.68E+00 1.68E+01 1.82E-01 4.91E-02
帰納的骨格推定 3.70E-01 4.08E-01 8.32E-02 1.62E-02
S3TD 応答曲面法 7.53E-01 2.17E-01 1.00E-01 5.65E-03
一斉推定 2.44E-01 1.33E-01 2.64E-01 1.45E-01
帰納的骨格推定 1.97E-01 2.45E-02 1.38E-01 1.20E-02
- 52. 52
● 条件1a: 𝑋∗ 𝑓𝐼 ≃ Δ 𝐼 −1 ∀𝐼
● 条件1b: int 𝑋∗ 𝑓𝐼 ∩ int 𝑋∗ 𝑓𝐽 = ∅ ∀𝐼, 𝐽 s. t. 𝐼 ≠ 𝐽
条件1を簡単化しよう(条件1 ⇔ 条件1a & 1b)
[Hamada 2017] Simple problems: The simplicial gluing structure of Pareto sets and Pareto fronts. In GECCO 2017, pp. 315-316.
- 59. 59
余談
●仮定「𝑀 と 𝜕𝑀 がともに単連結」は本当に緩いの?
数学的には緩くないが,実用的には物理現象から推測可能
● 𝑛 = 2 の ℎ-同境定理はポアンカレ予想と同値
予想が解けたおかげで,すべての次元で証明できた
●滑らかなカテゴリーでの 𝑛 = 3 の ℎ-同境定理は未解決
滑らかなカテゴリーでの4次元ポアンカレ予想と同値
ポアンカレ予想は応用数学