Bayesian Optimization of Combinatorial Structuresを輪読したときの資料です。

1. TAKERU ABE, 2022/10/1
組み合わせ構造に対するベイズ最適化
Ricardo Baptista, Matthias Poloczek.
Bayesian Optimization of Combinatorial Structures.
2018.

2. イントロダクション
• ベイズの枠組みを用いてブラックボックス最適化を行う手法をベイズ最適化と呼ぶ。
• 代理関数(Surrogate Function)を用いてブラックボックス関数を近似する。
• 獲得関数(Activation Function)を用いて次の探索点を決める。

3. イントロダクション
• 組み合わせ最適化問題において、
• 変数の数は一般的に多い。
• 解はスパースになる傾向にある。
• これらの事前知識を代理関数と獲得関数に取り入れる。
一般的なBO BOCS
代理関数 GP, Random Forestなど
Sparse Bayesian
Linear Regression
獲得関数 UCP, PI, EIなど
Simulated Annealing,
Semi-de
fi
nite Programing

4. 代理関数
2つ変数の組み合わせまでが出力に影響を与えると仮定した線形回帰を行う。
f(x) = α0 +
∑
i
αixi +
∑
i,j
αi,jxixj
= α0 + α1x1 + ⋯ + αdxd
+α1,2x1x2 + ⋯ + αd−1,dxd−1xd
回帰係数の数
p = 1 + d + dC2
定数項 1次の項 2次の項
線形回帰モデル
組み合わせる変数の数と
回帰係数の数
1次まで 2次まで 3次まで 4次まで
11 56 176 386

5. 代理関数
ブラックボックス関数の変数の数が5個のとき
回帰係数の数
線形回帰モデル
f(x) = α0 + α1x1 + α2x2 + α3x3 + α4x4 + α5x5
+α1,2x1x2 + α1,3x1x3 + α1,4x1x4 + α1,5x1x5+
α2,3x2x3 + α2,4x2x4 + α2,5x2x5 + α3,4x3x4+
α3,5x3x5 + α4,5x4x5
p = 1 + 5 + 5C2 = 16

6. 代理関数
組み合わせ最適化問題の解がスパースになる傾向にあるという事前知識を、回帰係数の事前分布
に対して馬蹄分布を設定することで表現する。
線形回帰モデル
f(x) = α0 + α1x1 + ⋯ + αdxd
+α1,2x1x2 + ⋯ + αd−1,dxd−1xd
y = f(x) + ϵ
ϵ ∼ ℕ(0, σ2
I)
観測に対して
ガウシアンノイズを仮定
y|X, α, σ2
∼ ℕ(Xα, σ2
I)
αk |β2
k , τ2
, σ2
∼ ℕ(0,β2
k τ2
σ2
)
τ, βk ∼ C+
(0,1)
馬蹄事前分布
P(σ2
) = σ−2

7. 馬蹄分布
半コーシー分布
馬蹄分布
βi |λi, τ ∼ ℕ(0,λ2
i τ2
)
λi ∼ C+
(0,1)
p(λi) =
2
π
1
1 + λ2
i

8. 馬蹄分布
βi |λi, τ ∼ ℕ(0,λ2
i τ2
)
λi ∼ C+
(0,1)
k =
1
1 + τ2λ2
i
: 縮小係数(Shrinkage factor)
k
: 大域的縮小係数(Global shrinkage factor)
τ
: 局所的縮小係数(Local shrinkage factor)
λi

9. 馬蹄分布
f(x) =
2
π(1 + x2)
g(x) =
1
1 + τ2x2
f(y) = f(g−1
(y))|
d
dy
g−1
(y)|
=
2
π
1
1 +
1 − y
τ2y
1
τ
1
2y2
1 − y
y
=
τ
π
1
1 − (1 − τ2)y
(1 − y)−1
2 y−1
2
p(k) =
τ
π
1
1 − (1 − τ2)k
(1 − k)− 1
2 k− 1
2
p(k) =
1
π
(1 − k)− 1
2 k− 1
2 = Beta(
1
2
,
1
2
)
τ=1のとき
一般のτについて
確率変数の変数変換

10. 馬蹄分布
は観測されたシグナル を原点方向にどの程度縮小するかをコントロールしている変数である。
k y
yi = βi + ϵ
ϵ ∼ ℕ(0,1)
yi |βi, ϵ ∼ ℕ(βi,1)
βi ∼ ℕ(0,λ2
i )
λi ∼ C+
(0,1)
𝔼
(βi |yi, λi) =
∫
βip(β|yi, λi)dβi
= (
λ2
i
1 + λ2
i
)yi + (
1
1 + λ2
i
)0
= (1 − ki)yi
ki =
1
1 + λ2
i
ノイズ除去のモデル 馬蹄事前分布 の期待値
β

11. 馬蹄分布と線形回帰
y = Xβ + ϵ
ϵ ∼ ℕ(0, σ2
I)
βi |λ2
i , τ2
, σ2
∼ ℕ(0,λ2
i τ2
σ2
)
β ∈ ℝp
線形回帰モデル
β| ⋅ ∼ ℕ(A−1
X⊤
y, σ2
A−1
), A = (X⊤
X−1
+ Λ*
−1
), Λ* = τ2
Λ
Λ = diag(λ2
1, …, λ2
p)
σ2
| ⋅ ∼ IG(
(n + p)
2
,
(y − Xβ)⊤
(y − Xβ)
2
+
β⊤
Λ−1
* β
2
)
λ2
i | ⋅ ∼ IG(1,
1
νi
+
β2
i
2τ2σ2
)
τ2
i | ⋅ ∼ IG(
p + 1
2
,
1
ξ
+
1
2σ2
p
∑
i=1
β2
i
λ2
i
)
νi | ⋅ ∼ IG(1,1 +
1
λ2
i
) ξ| ⋅ ∼ IG(1,1 +
1
τ2
)
各変数の条件付き事後分布

12. 高速化Gaussian Sampler
の計算に かかる
A−1
o(p3
)
から
でサンプリングできる
ℕp(ΣΦ⊤
α, (Σ⊤
Σ + D−1
)−1
)
o(n2
p)
β| ⋅ ∼ ℕ(A−1
X⊤
y, σ2
A−1
)
A = (X⊤
X−1
+ Λ*
−1
)
A ∈ ℝp×p
y ∈ ℝn
X ∈ ℝn×p
D = σ2
Λ*
Φ =
X
σ
α =
y
σ

13. 獲得関数
• シミュレーテッド・アニーリングは探索空間が
広大な問題に対して良い近似解を与えるアルゴ
リズムである。
• 金属を高温の状態にし、徐々に温度を下げて、
最小エネルギー状態を保持した秩序ある状態を
作り出す焼きなまし技術から着想を得たアルゴ
リズムである。

14. 獲得関数
U(0,1) > exp(−
ΔE
T
)
ΔE = f(xnew) − f(xcurr)
メトロポリス法により採択
T ← rT
r = 0.9
: Cooling rate
r
Cooling scheduleの例
一定確率で探索結果を改悪する方向にも受容することで、局所解にトラップされるのを防ぐ。
探索回数を増やすごとに改悪する方向の受容率を下げていく。

15. 獲得関数
Cooling scheduleが のときの、温度の下がり方は次図のようになる。
T ← rT

16. 獲得関数

17. BOCS
全体の時間計算量
o(N2
p)
p = 1 + d + dC2
回帰係数のサンプリング
シミュレーテッド・アニーリング
o(p2
+ N2
p)
o(p2
)
論文だと o(p)
通常の実装だと

18. Binary Quadratic Problem
Q ∈ ℝd×d
K ∈ ℝd×d
argmax
x
x⊤
Qx − λ∥x∥1
Ki,j = exp(−
(i − j)2
L2
c
)
Q ← KQ
Qi,j ∼ ℕ(0,1)

19. Sparcification of Ising Model
argmin
x
DKL(p||qx) + λ∥x∥1
p(z) =
1
Zp
exp(z⊤
Jp
z) q(z) =
1
Zq
exp(z⊤
Jq
z)
DKL(p||qx) =
∑
(i,j)∈ϵp
(Jp
i,j
− Jq
i,j
)Ep[zizj] + log(
Zq
Zp
)
Jq
i,j
= xi,jJp
i,j
z ∈ {−1,1}n
x ∈ {0,1}|ϵp
|
: なら
G = ([n], ϵp
) Jp
i,j
≠ 0 (i, j) ∈ ϵp

20. 参考文献
1. Ricardo Baptista, Matthias Poloczek. Bayesian Optimization of Combinatorial
Structures. 2018.
2. CARLOS M. CARVALHO, O, NICHOLAS G. POLSON. The horseshoe estimator for
sparse signal. 2010.
3. Carlos M. Carvalho, Nicholas G. Polson, James G. Scott. Handling Sparsity via
the Horseshoe. 2009.
4. Enes Makalic, Daniel F. Schmidt. A simple sampler for the horseshoe estimator.
2015.
5. Anirban Bhattacharya, Antik Chakraborty, Bani K. Mallick. Fast sampling with
Gaussian scale-mixture priors in high-dimensional regression. 2016.
6. William M. Spears. Simulated Annealing for Hard Satis
fi
ability Problems. 1993.