異常検知がテーマの論文共有会で発表した資料です。

1. 「Time-Series Anomaly Detection
Service at Microsoft」
2020.5.27 論文共有会
mukai

2. はじめに
¨ IoT のシステム開発
¤ 高精度 GNSS(=GPS) による地盤の動態監視
¤ 時系列データの異常検知
n ○○ mm/day,week

3. 本日共有する論文
¨ 「Time-Series Anomaly Detection Service at Microsoft」
¤ Hansheng Ren et.al.
¤ KDD2019
¤ a full-time intern at Microsoft, Beijing, China

4. Summary
¨ 時系列データに対する異常検知
¨ Saliency（顕著性）≒Anomaly（異常）
¨ 原信号→Saliency Map(Spectral Residual)→1D-CNN

7. Anomaly Detector API
https://azure.microsoft.com/ja-jp/services/cognitive-services/anomaly-detector/

8. Anomaly Detector API

10. 時系列データの異常検知
¨ スライド窓 ＊
¤ 窓の幅より昔は忘れる
¨ 状態空間モデル
¤ 状態を逐次更新することで過去を引き継ぐ
¨ etc.
¨ 距離ベース
¤ 過去データとの最短距離
¨ 周波数ベース ＊
¤ 高周波は異常
¨ 予測ベース
¤ 過去からの予測（自己回帰）との差異
¨ 変化点検知
¤ ある時点を境にした過去と未来の類似度比較
¨ etc.
時間方向の扱い方 異常の捉え方
＊ 今回の論文の位置付け （個人的解釈）

11. Methodology
¨ 問題設定（入力と出力）

12. Methodology
¨ アプローチ

13. SR（Spectral Residual）
¨ 「Saliency Detection: A Spectral Residual Approach」
¤ Xiaodi Hou et.al.
¤ CVPR2007
論文著者：自動運転トラックのスタートアップ「TuSimple」の Co-founder

14. SR（Spectral Residual）
自然画像の周波数成分（全方向平均）を対数で見ると
どの画像も傾向が似ている。

15. SR（Spectral Residual）
i
平滑化
差分
log(FFT)
周波数成分の対数値を平滑化したものを背景成分とみなす（近似）。
それとの差分を取ったものが注目オブジェクト成分。

16. SR（Spectral Residual）
log spectrum の高域成分を抽出しているだけの
シンプルな処理

17. １次元の SR を時系列データに適用
単純な閾値処理で異常が検出ができるようになる。
シンプルな処理のため高速に実行できる（＝同時に多数のリクエストを処理できる）。
図（再掲）

18. SR-CNN
閾値処理はナイーブ。１次元の CNN で置き換える。 図（再掲）
w
スライド窓で処理

19. SR-CNN
¨ 学習
¤ SR 変換した時系列データに対して、ランダムに点を
選んで異常値で置き換えた人工データを生成し学習
n Microsoft にある実データ（production time-series）
n 65 million points for training
n Cross entropy for loss function、SGD optimizer

20. Experiments
KPI: Data Competition（AIOPS）のもの。１分１点のデータ。
Yahoo: Yahoo Lab によるオープンデータ。１時間１点のデータ。
Microsoft: Microsoft の社内データ。１日１点のデータ。

21. Experiments
FFT, Twitter-AD, Luminol はいずれも additional data が不要。
データを全てテストデータとして使用（cold-start）。
Twitter-AD: Twitter Anomaly Detection https://github.com/twitter/AnomalyDetection
Luminol: LinkedIn Anomaly Detection https://github.com/linkedin/luminol

22. Experiments
SPOT, DSPOT, DONUT はいずれも additional data で事前に
学習が必要。データを半分にわけて学習とテストに用いた。

23. Experiments

24. SR + DNN
¨ DNN
¤ Dense Layer (≠Conv.）
¤ Data Competition AIOPS の Champion model
CNN を DNN に置き換えたもう一つの検討

25. SR + DNN
¨ SR を１特徴量として、他の特徴量と併せて入力
¤ （SR+CNNでは、SRしか入力として使えなかった）

26. SR+DNN
SR 特徴量の付加により 1.6 % の性能向上

27. Conclusion and Future Work

28. 感想
¨ Saliency ≒ Anomaly という発想は面白い
¨ Saliency 処理が思った以上にシンプル
¤ （本当に!?という気もするが…）テクニックとしては使えそう
¤ Vanilla CNN と CNN+SR の差を知りたい
¨ 精度は 5〜7 割ではまだまだな気が…
¤ 狼少年なところもあると思うが正式サービスとして公開されているのが
すごい。性能よりもアピールが大事なのかも。
¨ 基本的には周波数ベース
¤ じわじわ進行するタイプの異常の検知は難しそう
¨ スライド窓の幅や平滑化強度などハイパーパラメータも微妙にある

29. 補足