Copyright © NHN Techorus Corp.
NHNテコラス株式会社
データホテル事業本部 プロダクト開発室
松井 大輔
Ceilometer苦労話
Page 2
Ceilometerとは
• OpenStackのメータリングサービス
• Havanaから正式プロジェクト化
• リソース使用状況を確認
– 課金のための情報に使用
– オートスケールに使用(アラーム機能も使用)
Page 3
社内OpenStack環境
社内でのCeilometerの構成
Ceilometer
mongodb
mongodb
MongoDB misc
swift
データストアに
mongodbを利用
Dailyでdumpを取
得
dumpファイルを
圧縮してアップロー
ド
Page 4
Ceilometerでの苦労話
• MongoDBの容量が肥大化
– 2~3ヶ月分のデータでmongodumpの容量が100GB程度
– Dailyのdumpを行なうだけで容量不足のアラートが出る
– MongoDBサーバのディスクが溢れる
• object数は1.2億程
Page 5
MongoDBの
容量肥大化への対応
Page 6
MongoDBの容量肥大化への対応 その1
• アプローチ1: mongodumpの仕方を変更
dump -> 圧縮 -> 元ファイル削除
一時ファイルを作らず、dump結果を圧縮ファイルとして保存
Page 7
MongoDBの容量肥大化への対応 その1
• アプローチ1: mongodumpの仕方を変更
dump -> 圧縮 -> 元ファイル削除
一時ファイルを作らず、dump結果を圧縮ファイルとして保存
処理が1日で終わらなかった(ボツ)
Page 8
MongoDBの容量肥大化への対応 その2
• アプローチ2:古いデータを消す
– Daily dumpのスクリプトに削除処理を追加
1億件以上のデータがあるせいか
削除が終わらないまま処理がタイムアウトする
Page 9
Ceilometer側で対策
Page 10
Ceilometer側での対策案
• データ収集の間隔を調整
• 古いデータを削除する(ceilometer-expire)
• データストアをMongoDBからgnocchiに変更する
Page 11
Gnocchiとは?
• Metric as a Service
– ニョッキと発音
– http://gnocchi.xyz/
– https://wiki.openstack.org/wiki/Gnocchi
• Ceilometerのデータストアとして利用可能
• バックエンドを複数持つことで
速度向上 & スケールしやすくなる
– IndexをRDBに格納
– 時系列データをSwiftやCephに格納
Page 12
Mitakaアップグレード
後に
検証予定

Ceilometer苦労話