JOIseminor 2008 Presentation by quolc

814 views

Published on

情オリセミナー発表会で行った局所探索法についてのプレゼン。

Published in: Technology, Business
0 Comments
0 Likes
Statistics
Notes
  • Be the first to comment

  • Be the first to like this

No Downloads
Views
Total views
814
On SlideShare
0
From Embeds
0
Number of Embeds
10
Actions
Shares
0
Downloads
3
Comments
0
Likes
0
Embeds 0
No embeds

No notes for slide

JOIseminor 2008 Presentation by quolc

  1. 2. <ul><li>局所探索とは </li></ul><ul><li>  解の部分的変更の繰り返しによる最適化 </li></ul><ul><li>  ⇒ 「 反復法 」と呼ばれることもある  </li></ul><ul><li>「少しでも良い解」を追求するアプローチ </li></ul><ul><li>  ⇒ 最適解は必ずしも求められない </li></ul>
  2. 3. <ul><li>  ・物理システム </li></ul><ul><li>  ボールの落下、化学反応、熱現象、 etc </li></ul><ul><li>    ⇒ 自由エネルギー G を低くする方向に働く </li></ul><ul><li>  ・局所探索 </li></ul><ul><li>  近傍解の探索および入れ替え </li></ul><ul><li>    ⇒ f(S) を低くする方向に働く </li></ul><ul><li>※ ある問題の解 S に対して、最適解との最適度における差を示す評価関数を f(S) と定義する 。 </li></ul><ul><li>  </li></ul>
  3. 4. <ul><li>単純な漏斗構造の場合。 </li></ul><ul><li>坂をボールが転がるようにより低い近傍解が求まっていき、 </li></ul><ul><li>最終的には最適解へと辿り着く。 </li></ul>ボール 現在の解 最適解 坂終端 近傍
  4. 5. <ul><li>解が多重漏斗状に分布している例。多くの問題が当てはまる。 </li></ul><ul><li>ボールが途中の穴にはまって坂を転げ落ちるのをやめてしまうように、 </li></ul><ul><li>局所探索の方法によっては局所最小解に陥ってストップしてしまう。 </li></ul>近傍 大域最適解 局所最小解
  5. 6. <ul><li>近傍解選択のルール </li></ul><ul><li>近傍の定義 </li></ul>Ⅱ Ⅰ
  6. 7. <ul><li>問題概要 </li></ul><ul><li>グラフ G=(V,E) ( V は頂点、 E は辺)が与えられたとき、全辺 e について </li></ul><ul><li>少なくとも一方の端点が V’ に含まれるような V の部分集合 V’ のうち、 </li></ul><ul><li>出来るだけ小さい物を見つけるという問題。 </li></ul>sizeof(V’) = 2 sizeof(V’) = 3
  7. 8. <ul><li>方針 </li></ul><ul><li>① 初期解を V’= V として探索を開始する。 </li></ul><ul><li>② V’ からいずれかの1頂点を選び、除去しても </li></ul><ul><li> 点カバーが維持されるならば、除去する。 </li></ul><ul><li>③ 除去できる点が一つもなくなるまで②を繰り返す </li></ul><ul><li>④ 除去できる点がなくなったら終了する。 </li></ul>
  8. 9. <ul><li>局所最小解に極めて陥り易い </li></ul><ul><li>∵ 「坂」を登らないから </li></ul>
  9. 10. <ul><li>物理システムを再現する </li></ul><ul><li> 自由エネルギーの比喩を思い出してみると、物理システムではエネルギー E の状態に </li></ul><ul><li>いる確率はギブス・ボルツマン関数      に比例する。 </li></ul><ul><li> この物理システムを再現することで、再急降下法にはなかった「坂を登る」アクション </li></ul><ul><li>がある程度の確率で許される事になり、局所最小解で手詰まりになる事がなくなる。 </li></ul><ul><li>【シミュレーション】 </li></ul><ul><li>現在のエネルギーを E(S) , ある近傍のエネルギーを E(S’), E(S’) - E(S) ≡ ΔE と置く。 </li></ul><ul><li>もし  Δ E < 0   ならば、状態を更新する。 </li></ul><ul><li>そうでなくても、 の確率で状態を更新する。 </li></ul>
  10. 11. <ul><li>長所:局所最小解に陥りにくい </li></ul><ul><ul><li>坂を登る動作が常にある確率で存在するため、 </li></ul></ul><ul><ul><li>穴にはまらない。 </li></ul></ul><ul><li>短所:最適解に辿りつきにくい </li></ul><ul><ul><li>最適解に近づいても登坂運動を繰り返してしまうので、 </li></ul></ul><ul><ul><li>単純漏斗的な、最適解が出しやすい問題でも最適解に </li></ul></ul><ul><ul><li>辿りつくまでに無駄に長く時間がかかってしまう。 </li></ul></ul>
  11. 12. <ul><li>Metropolis algorithm の改良 </li></ul><ul><ul><li>シミュレーテッドアニーリング ともいう。 </li></ul></ul><ul><ul><li>ボルツマン関数における温度( T )項を調節することで、 </li></ul></ul><ul><ul><li>登坂運動により浮動する確率を制御する。 </li></ul></ul><ul><ul><li>最適解に近づくほどに T の値を低くしていき、運動を </li></ul></ul><ul><ul><li>最急降下法に近似していくことで問題点を克服する。 </li></ul></ul>
  12. 13. <ul><li>問題概要 </li></ul><ul><li>グラフ G=(V,E) ( V は頂点、 E は辺)が与えられ、各辺には整数の重み w e </li></ul><ul><li>が定義され、各頂点はフリップ出来る True/False の状態値を持っている。 </li></ul><ul><li>辺の重みが負のとき、その端点同士の状態値が同じであるとその辺は </li></ul><ul><li>Good と評価され、逆に辺の重みが正の時は、端点同士の状態値が </li></ul><ul><li>相異なると Good され、全ての辺が Good である事を、安定状態という。 </li></ul><ul><li> また、接続する Good 辺の | 重み | の和が Bad 辺の | 重み | の和よりも大きく </li></ul><ul><li>なっている頂点を、満たされた頂点と表現する。 </li></ul><ul><li> できるだけ重みの強い辺の要求を満たすような状態を求めよ。 </li></ul>
  13. 14. <ul><li>方針 </li></ul><ul><ul><li>0. 良い辺の重みの絶対値の総和を Φ(S) と表現する </li></ul></ul><ul><ul><li>1. 満たされていない1頂点 u を選ぶ </li></ul></ul><ul><ul><li>2. フリップすると Φ(S) が増加する場合、フリップする </li></ul></ul><ul><ul><li>3. ネットワークがまだ安定していない場合1に戻る </li></ul></ul>
  14. 15. <ul><li>近傍の定義 </li></ul><ul><li> 現在の状態から、1つの頂点をフリップした状態 </li></ul><ul><li>  = 最近傍探索 </li></ul><ul><li>線形性 </li></ul><ul><ul><li>必ずフリップする度に Φ(S) の値が最低で 1 増え、また </li></ul></ul><ul><ul><li>Φ(S) は全辺の重みの総和 W を上回る事はない </li></ul></ul><ul><ul><li>-> 計算時間は n と W の多項式時間で表現できる </li></ul></ul><ul><ul><ul><li>擬多項式時間なので計算時間は莫大になる </li></ul></ul></ul>
  15. 16. <ul><li>問題概要 </li></ul><ul><ul><li>無向グラフ G=(V,E) と各辺 e に整数の重み w e が与えられる。 </li></ul></ul><ul><ul><li>点集合 V の分割 (A, B) に対し、一方の端点が A, 他方が B に </li></ul></ul><ul><ul><li>含まれる辺の重みの総和を w(A, B) と書くことにする。 </li></ul></ul><ul><ul><li>w(A, B) が最大になる分割 (A, B) を求めよ。 </li></ul></ul>
  16. 17. <ul><li>方針 </li></ul><ul><ul><li>① 分割 (A, B) のどちらか一方に含まれる点 u を選ぶ。 </li></ul></ul><ul><ul><li>② u と接続する u が含まれる集合に含まれる点と u を結ぶ辺の重みの </li></ul></ul><ul><ul><li> 総和と、含まれない点と u を結ぶ辺の重みの総和を比較し、 </li></ul></ul><ul><ul><li> 後者の方が大きい時 u を分割の別の集合に移す。 </li></ul></ul><ul><ul><li>③ 繰り返す </li></ul></ul><ul><ul><li>-> 近傍の定義が狭い </li></ul></ul>
  17. 18. <ul><li>方針 </li></ul><ul><li> 基本方針は最近傍探索と同様。 </li></ul><ul><li> 同時にフリップ対象とする頂点の数を自然数 k とする。 </li></ul><ul><li> 近傍が広がるため、より悪い局所最適解に陥りにくい。 </li></ul><ul><li>  k の値が大きすぎる場合、必要計算量が莫大になり、 </li></ul><ul><li> 計算効率が落ち得るため調節が必要となる。 </li></ul>

×