自作サーバ運用 アメーバピグ編 株式会社サイバーエージェント 桑野 章弘
自己紹介
自己紹介 桑野 章弘 株式会社サイバーエージェント インフラエンジニア サーバインフラの設計・構築・運用など
アジェンダ 自作サーバの導入状況 アメーバピグについて サーバについて メリット・デメリット まとめ
自作サーバの導入状況
の前に、、、導入の目的 コストダウン DCの使用効率の向上(消費電力の削減、ラック集積度向上) HW情報収集
自作サーバの用途 ストレージサーバ 低コストで安定したストレージサーバ 高密度サーバ スケールアウト前提のサーバ AtomモデルとCore2Quadモデルを用途毎に使い分け
自作サーバの例[ストレージサーバ]
自作サーバの例[ストレージサーバ]
自作サーバの例[高密度サーバ]
自作サーバの例[高密度サーバ]
自作サーバ台数 200台前後 2009/11現在 8割以上がアメーバピグで使用 ->と、言うわけなので今回はアメーバピグでの使用状況についてしゃべります。
アメーバピグについて
アメーバピグとは Amebaで提供しているアバターサービス 2009年2月 オープン 2009年11月現在 150万ユーザ
 
サーバについて
サーバについて サーバ仕様 サーバスペック
サーバ仕様 M/BはMini-ITX 縦置きするにはMicro-ATXでは厳しい
サーバ仕様
サーバ仕様 サーバ筐体はM/Bを固定するアクリル板
アクリル板
アクリル板
HDD 2.5InchSATA * 2 マウンタは 2.5InchHDD を 2 つマウントできるタイプ
HDD 2.5InchSATA * 2 マウンタは 2.5InchHDD を 2 つマウントできるタイプ
サーバ仕様 固定方法 ネジ止め
サーバ仕様 固定方法 両面テープ
サーバ仕様 ラッキング 電源で安定を取って縦置き 簡易ブレード的な、、、
サーバ仕様 ラッキング 16 台 1 組( 6U ) サーバ 8 台を前後から縦置き 合計 16 台を 1 セット
サーバ仕様 ラッキング 1 ラック最大 96 台( 16 台  * 5 セット)搭載可能 もちろん消費電力の兼ね合いがあります
サーバの使い分け 2種類のサーバを用途毎に使い分け AtomはCPUは使わない用途 Core2QuadはCPUも使う用途
サーバスペック Core2Quad モデル Intel Core2Quad Q8400S CPU 2.5Inch 160GB 7200rpm HDD * 1 台 HDD ATX 200W  変換効率 75% 電源 DDR2 667 2GB * 2 枚 Memory Dynatron T195 CPUFAN Intel DG41MJ M/B
サーバスペック Atom モデル 2.5Inch 160GB 7200rpm HDD * 1 台 HDD ATX 200W  変換効率 75% 電源 DDR2 667 2GB * 1 枚 Memory Intel Atom 330 CPU Intel D945GCLF2 M/B
アメーバピグでの使い分け例 Core2Quadモデル Web、APサーバ等のロードバランサ等で負荷分散される用途
アメーバピグでの使い分け例 Atomモデル 分散KVS MySQL 分散 KeyValue ノード 自作サーバ マスタデータの入っている DB ベンダーサーバ 分散 KeyValue マスタ 定期的にデータを再分配する ベンダーサーバ MySQL MySQL
サーバ構築 サーバ構築は社員 1台の組み立てに20分前後 100台の構築~インストール、サーバ設定まで7hour程度 インストールはPXE+自作スクリプト
構築の様子
構築の様子
メリット・デメリット
メリット 直ぐに構成改善できる 電源容量がすくなくてすむ コストパフォーマンス
メリット 直ぐに構成改善できる 一番最初のバージョンは電源ユニットを別出しにしていたが、取り回しが悪かったので変更。
最初のバージョン
メリット 消費電力がすくなくてすむ よっぽどの高負荷でない限りは一般的な1Uサーバの6割くらいの消費電源
メリット 消費電力[Core2Quadモデル] アイドル時 0.4~0.5 A 最大負荷時 0.9~1.0 A
メリット 消費電力[Atomモデル] アイドル時 0.3~0.4 A 最大負荷時 0.4~0.5 A
メリット コストパフォーマンス Atomサーバは安価
デメリット 安定性 機材の確保 個人の力量が問われる 温度 耐震
デメリット 安定性 言うほど悪くないよ 故障率は9ヶ月で4/200 ただし、初期不良は結構あります
デメリット 機材の確保 常に同じ機材が入手できず無駄が出る 特にHDDとか、100台とかそろいづらいので代理店さん経由で購入 在庫を持つ必要があるかもしれません
デメリット 個人の力量が問われる マニュアルは陳腐化する可能性が高い 作業工数削減(組み上げまで5~10分が理想と考えます)
デメリット サーバの取り回し サーバのラック間移動をしたくない 用途から台数が多い
デメリット サーバの取り回し 独自サーバシリアル付番 Tagged-VLAN導入
デメリット 耐震 今後の課題
デメリット ラック内空調 サーバ背面から 排気されホットスポット 発生 サーバ前面 より吸気
デメリット ラック内空調改善 排気ユニットで ラック側面から排気 する サーバ前面 より吸気
ラック内空調ユニット
まとめ
まとめ 考えないといけない事はたくさんある ベンダーさんのサーバと比べちゃだめ、適材適所 適所に合わせて作れる点が一番のメリット 全幅の信頼という訳にはいきませんw
今後の構想 1U4Wayサーバ 省スペースと高集積を両立 自作エンクロージャ
1U4Wayサーバのイメージ
ご清聴ありがとうございました。

アメーバピグにおける自作サーバ運用

Editor's Notes

  • #5 アメーバピグについて スペック 実際の運用 発生した問題と解決方法 自作サーバの導入状況・目的 アメーバピグについて スペック 実際の運用 発生した問題と解決方法
  • #7 実際に試さないとわからないこともある、生の情報を! いろいろ言っていますが、結局の所はやりたかっただけです。 自作サーバを作ってます、という際にコストダウンはよく言われますが、現在の自作サーバではコスト自体画期的というわけではないので(もちろん安いですが) この中で優先度が高いのはDCの使用効率の向上ということになります。
  • #13 1U サーバははてなさんや、 cerevo さんと重複する部分も多いので
  • #18 ボリュームディスカウントが効くので。半額以下。
  • #19 ボリュームディスカウントが効くので。半額以下。 MicroATX   24x24 MiniITX 17x17
  • #21 以前は出来合いの板を買っていた 現在はアクリル業者に設計図を渡して製作 ボリュームディスカウントが効くので。半額以下。
  • #24 HDD + SSDが可能。
  • #25 HDD + SSDが可能。
  • #26 基本的にはネジ ネジ穴がある部分はネジで固定 ねじ穴がない部分の固定に使用 大人でも取れないくらい強力  運用しはじめて半年経っているが全く取れる気配はありませんw
  • #27 基本的にはネジ ネジ穴がある部分はネジで固定 ねじ穴がない部分の固定に使用 大人でも取れないくらい強力  運用しはじめて半年経っているが全く取れる気配はありませんw
  • #28 ボリュームディスカウントが効くので。半額以下。
  • #30 が、実績 80 台は実際に搭載できています。
  • #32 Intel DG45FC と悩み Intel Core2Quad WESTERN DIGITAL WD1600BEKT Trancend TS256MLQ64V6U PC2-5300 ATX 200W 変換効率 75% ニプロン PC12U-200P-X2SH
  • #33 Intel D945GCLF2 Intel Atom 330 WESTERN DIGITAL WD1600BEKT Trancend TS256MLQ64V6U PC2-5300 ATX 200W 変換効率 75% ニプロン PC12U-200P-X2SH
  • #34 通常の用途 Web Ap
  • #35 KVSに入っている
  • #36 (10人前後)
  • #40 U数を稼ぐため 熱源の隔離
  • #41 U数を稼ぐため 熱源の隔離
  • #44 現在の平均は1台当たり0.52Aというところ。 1ラック33A / 4 / 16 ちなみにほぼ同構成での一般的な1Uサーバでの結果は、 アイドル時 0.8~0.9 A 最大負荷時 1.0~1.2 A
  • #45 ほとんどアイドル時と負荷掛けた時で電力は変わらない
  • #46 正直めちゃくちゃ安いといわれると疑問だが Atom モデル 40,000 円前後 Core2Quad モデル 70,000 円前後
  • #47 U数を稼ぐため 熱源の隔離
  • #48 DB には使う勇気がないですw 適材適所 事前に初期不良の際にどうするかは業者さんにいっときましょう。
  • #49 導入時期でできるだけ合わせていく方向で考えている 今はCore2Quadだが、次期はH57チップセットのMini-ITXがでたら検証して切り替えていこうと思っています。
  • #50 いけてる(ryがいなくても作れるのが理想かもしれない マジックテープとかもいいと思う ねじ止めをどれだけなくせるかだと思います。
  • #51 ケーブリングとかも一苦労
  • #52 ケーブリングとかも一苦労 独自サーバシリアル付番 スペック・サーバ種類と hostname がわかる 検索性の向上 Tagged-VLAN導入 ラック間移動がなくなる ラックが効率的に使用できる ただしバックボーンの NW は高速な必要がある
  • #53 現状はスケールできる部分にしか使っていないので保留 サーバに引っ掛ける部品を作ろうか検討中
  • #55 3度前後ではあるが改善
  • #58 捨てる所はばっさり捨てる方がいい。 だけど場所があった時の効果は絶大
  • #59 現在1Uサーバが入っている部分に徐々に入れていくという用途で使える
  • #60 設計はCAD(これはQCADですが)を使ってやっています