1. vSphere環境での自動化とテスト
富士通クラウドテクノロジーズ株式会社
伊藤 将行
VMware DevOps Meetup #2 (2019/7/5)

2. 私とVMwareと自動化
私のお仕事: パブリッククラウド仮想化基盤運用
• NIFCLOUD:
VMware基盤のIaaSや, その上で稼働するPaaSを提供
• サービスは2010年からやっている
（自分が参加したのは2016年）
基盤運用は色々なところを自動化している
• pyVmomi, PowerCLI, nsxramlclient, nsxansible, …

3. 運用自動化の運用
自動化で書いたコードをメンテナンスする必要性
• コードを修正したかったり,
基盤等のバージョンを更新したいことはよくある
• 変更を通して動き続けているか
（リグレッションがないこと）が大事
• 最初に書いた人が異動等で離れてしまっても,
できないといけない
• 触れないコードは腐っていく

4. そうだテストを書こう
ちゃんとソフトウェアテストを書いて
持続可能な自動化を実現したい
• リグレッションテストができる
• 多くの人が修正をしやすくなる
• レビュワーの負担も軽減される
→ 持続可能な自動化！DevOps！
✌('ω'✌ )三✌('ω')✌三( ✌'ω')✌

5. テストつらい

6. なぜつらいのか
すぐ取り組めるなら最初からやっている
• ユニットテストや入出力を模擬したテストは
比較的取り組みやすい
実際のvSphereやNSXと連携させるテストが厄介
• E2Eテスト, システムテストに分類されるようなもの
• 毎回ではないにせよ, ある程度の頻度では
実物と連携したテストもしたくなる

7. テスト環境準備つらい
安定したテストを実現できる環境がない
• 共有の検証用の環境は汚れがち
• うっかり加えた検証環境への変更がテストを壊す
• テストごとに必要な設定を入れたり消したりするのも
結構しんどい

8. テスト環境作成も自動化
テスト向けのキレイなvSphere, NSX環境を
立てたり壊したりを気楽に実行したい
• 仮想化環境を仮想化できれば…
＿人人人人人人人＿
＞ Nested ESXi ＜
￣Y^Y^Y^Y^Y^￣

9. Nested ESXi
VMにESXiを
インストールして利用
VMなので当然
vSphere APIで
操作可能
• Cloneとかも出来る
• 早さを求めると
Linked cloneが良い
物理サーバー
ESXi
VM
ESXi
VM
VM
Nested ESXi
API
API

10. Nested ESXi の難点
適当にNested ESXiをCloneすると
MACアドレスやIPアドレスの重複がおこりがち
• 気をつける点はこのへん
https://www.virtuallyghetto.com/2013/12/how-to-properly-clone-nested-esxi-vm.html
Nested ESXiを使ったテスト環境を複数同時に
動かしたいときに問題になってくる
ネットワークを分離できると気にせずに済む

11. vSwitchでネットワークの分離
SV
ESXi
NIC NIC
vSwitch
VM
vNIC
vCenter Server
VM
vNIC
ESXi
vSwitch
VM
vNIC
uplink
portgroup
VM
vNIC
VM
vNIC
ESXi
vSwitch
VM
vNIC
uplink
portgroup
VM
vNIC
uplink uplink
vSwitch
uplink uplink
portgroup portgroup portgroup
VM
vNIC
Linux
(Docker Host)
VM
vNIC vNIC
Linux
proxy DNS
Uplinkが無く
別環境と競合しない
外からは踏み台
経由でアクセス

12. テストに利用する流れ
Nested
ESXi
Linked clone
tool
vCenter
Nested
ESXi
Nested
ESXi
vCenter
vSwitch
Nested
ESXiNested
ESXiNested
ESXi
Docker
host
踏み台
Docker
host
踏み台
Linked cloneと
vSwitch作成

13. テストに利用する流れ
Nested
ESXi
Linked clone
vCenter
Nested
ESXi
Nested
ESXi
vCenter
vSwitch
Nested
ESXiNested
ESXiNested
ESXi
Docker
host
踏み台
Docker
host
踏み台
test
環境内で
testを実行

14. テストに利用する流れ
Nested
ESXi
tool
vCenter
Nested
ESXi
Nested
ESXi
Docker
host
踏み台
使用済み環境は
消すだけ

15. 大変そう？
大事なポイントはいくつか
動作を確かめるテスト環境は常にきれいにする
テスト用に汚してはきれいにする
vSphere環境にはNested ESXiがおすすめ
Linked Clone(またはSnapshot)を使って高速化
複数並行で動かす場合はネットワークの分離にも
気を使いたい

16. 活用例

17. vcr
運用ツールのテスト
vCenter NSX
tool test
変更操作など
cassette
入出力を模擬した
テスト用のデータ
変更の反映を
確認

18. Ansibleのテスト環境にも
vCenter ESXi
ansible
ESXi
VM VM VM
エラーに
ならないか確認
まっさらな状態も
作りやすい

19. DHCPサーバーの動作検証
vCenter ESXi ESXi
VM VM VM VM
test
割当アドレスが
想定通りか確認

20. まとめ
自動化を持続的に推進するならテストが欲しい
動作するvSphere環境を使うようなテストは
きれいなテスト環境を用意するが大変
Nested ESXi (+ネットワークの隔離）を使うと
楽できる
vSphereのテストにとどまらず, インフラ関連の
テスト環境として活用できる

21. Copyright 2019 FUJITSU CLOUD TECHNOLOGIES LIMITED