NTTデータ流Infrastructure as Code～大規模プロジェクトを通して考え抜いた基盤自動化の新たな姿～（NTTデータテクノロジーカンファレンス 2019 講演資料、2019/09/05）

© 2019 NTT DATA Corporation 1 © 2019 NTT DATA Corporation
NTTデータテクノロジーカンファレンス 2019
NTTデータ流 Infrastructure as Code
～大規模プロジェクトを通して考え抜いた基盤自動化の新たな姿～
2019年9月5日
株式会社NTTデータ技術革新統括本部佐々木優太朗
高井昭人

© 2019 NTT DATA Corporation 2
本日のアジェンダ
1. 自己紹介
2. パラメータシートとは？
3. IaCとは？
4. 今までのパラメータシート×IaC
5. 新方式のパラメータシート×IaC
6. デモ
7. 特徴
8. まとめ

自己紹介 (佐々木優太朗)
佐々木優太朗
Sasaki, Yutaro
• 所属
株式会社NTTデータ技術革新統括本部システム技術本部
生産技術部クラウド技術センタ課長代理
• 技術領域
サーバ仮想化、基盤自動化(Puppet,
Chef, Ansible, Serverspec, Terraform)
• 最近の活動(社外)
PuppetConf 2015/2016 参加
Puppet［設定＆管理］活用ガイド出版
JJUG CCC 2017 Fall 講演

自己紹介（高井昭人）
高井昭人
Takai, Akihito
• 所属
株式会社NTTデータ技術革新統括本部システム技術本部
生産技術部クラウド技術センタ主任
• 経歴
2014年にNTTデータ社に入社。OSSを用いたミッションクリティカルなストレージシステムの運用・保守に従事。2019年から
社内クラウドの基盤構築に携わり今に至る。
• 現在の業務内容
社内自動化ソリューションの開発
社内クラウドへ自動化ソリューションの適用

本講演のスコープ
IaaS
OS
ミドルウェア
アプリケーション
基盤（IaaS, OS, ミドルウェア）領域

基盤の開発で欠かせないものは？
パラメータシート
（略してパラシ）

パラメータシートってどんなもの？

パラメータシートってどんなもの？(詳細)
パラメータ
サーバ毎の
設定値
設定する
対象サーバ
パラメータの
設定方針
パラメータの
意味

パラメータシートの大切な役割①
① "実機の状態"を示す
唯一のドキュメント

"実機の状態"は
実機を見れば一番正確なのでは？

セキュリティ上の理由から
実機は簡単に触れない (ことが多い)
何週間も前から申請が必要
(ルールですから(キリッ))
手順書通りの作業のみ実施可能
(予定外の作業は許しません)

台数が多いと確認が大変
サーバ間で比較するのも大変
ssh…ssh…ssh…
diff…diff…diff…

パラメータシートの大切な役割②
② "設計根拠"を辿る道標
① 実機の状態を示す唯一のドキュメント

設定値があれば構築できる
"設計根拠"なんているの？

"設計根拠"がないと
設定理由・変更要否が分からない
そもそもこの設定変えていいのか
な？過去の何度も変更されている
けど経緯が全く分からない・・・
(秘伝のタレ状態)
なぜこの設定になっているんだろ？
初期メンバーはもういないし・・・サービス開始から数年後、
急遽、パラメータ変更が
必要になったが・・・

パラメータシートの大切な役割③
③ コミュニケーションツール
② 設計根拠をたどる道標

パラメータシートの大切な役割③
開発者と運用者を繋ぐ
ドキュメント
開発者「監視項目
の一覧はこちらに
なります」
運用者「非常に具体
的。解釈の余地が無
くて助かります！」

パラメータシートの大切な役割
まとめ

パラメータシートの大切な役割
パラシは非常に大事！
ポイントは三つ
② 設計根拠を辿る道標
③ コミュニケーションツール

パラメータシートの課題
その一方で …

パラメータシートの現実
パラシは厳密さが求められる
運用フェーズでの変更が多い
基本設計書
詳細設計書
パラメータシート

パラメータシートの課題
変更履歴の管理が大変
これは本来バージョン管理で解決すべきもの
→ バージョン管理できるようテキスト化したい
(テキスト化するとIaCと相性が良いはず！)

Infrastructure as Codeとは
そもそも
Infrastructure as Code(IaC)って？

コード
リポジトリ自動化管理
サーバ
格納
配置
実行
設定
試験
構築
実行
実行

コード
サーバ
格納
配置
実行
設定
試験
構築
実行
実行
基盤(インフラストラクチャ)をコード化し

コード
サーバ
格納
配置
実行
設定
試験
構築
実行
実行
バージョン管理しながら

コード
サーバ
格納
配置
実行
設定
試験
構築
実行
実行
自動化ツールで自動構築・自動試験
いつ・誰が・どのように実行しても同じ結果

Infrastructure as Codeのメリット
IaCのメリットをまとめると

Infrastructure as Codeのメリット
Q. オペミスのリスク低減
C. 管理コストの削減
D. 迅速な構築・試験

パラシとIaCを連携したい！
さて話は戻りますが

本テーマ
本取組みの重要なポイント
• パラシは大事
• パラシとIaCを連携したい
現状のパラシ×IaCはどうか？

現状のパラシ×IaC
コード
リポジトリ
パラシ

現状のパラシ×IaC
コード
リポジトリ
パラシとコードで
パラメータを二重管理
→ 整合性の維持が大変
パラシ

素朴な改善アイディア
コード
リポジトリ
二重管理が問題なら
パラシから自動で転記
すればいいのでは？
パラシ

パラシ
実際にやってみました
コード
リポジトリ
パラシの統一フォーマットを決め
パラシからコードの変換ツールを
作成したが…
統一フォーマット(Excel)

パラシ
新たな課題が出てきた
コード
リポジトリ
課題データとビューが一体化しており
パラメータ抽出処理・変換処理が複雑
バージョン管理した際、ビューの
変更も変更履歴の対象になる
統一フォーマット(Excel)
データ要素ビュー要素

既存パラシに固執する必要はない
データとビューを分離しよう
そこで新たなアイディア

パラシ
そこで新たなアイディア
コード
リポジトリ既存のパラシから
データ要素とビュー要素を分離すると ...
データ要素ビュー要素
分離

新方式のパラシ×IaC
コード
リポジトリ
データ
テキスト
リポジトリ
一次情報を
リポジトリ管理
動的に生成
シンプルなデータ変換
一次情報をシンプルにしたことで連携が容易
一次情報
ビュー
(パラシ)

パラシ×IaC
以下の違いをまとめます
• 今までのパラシ×IaC
• 新方式のパラシ×IaC

今までのパラシ×IaC
今までのパラシ × IaC

今までのパラシ×IaC
手動 or
自動
コード
サーバ
格納
配置
実行
設定
試験
構築
パラシ

新方式のパラシ × IaC

自動化管理
サーバ
リポジトリ
データ
データ
テキスト
コード
コード
コード +
+
+
データ
格納
配置
変換+実行
一次情報
動的に生成
次にシナリオベースのデモをお見せします
設定
試験
構築
変換+実行
変換+実行
ビュー
(パラシ)

デモ

デモシナリオ
構築済みのサーバの変更要件が来たぞ
新規パッケージ（httpd）を
インストールする必要があるな

デモのシステム構成
構築対象サーバ
(RHEL)
自動化管理サーバ
(RHEL)
作業者サーバ
(Windows)
パラメータファイル編集ツール
リポジトリ
git
※パラメータファイルをもとに
Ansibleを用いて
サーバ構築済み
構築対象サーバの初期構築は完了している状態
Ansible用
Ansible
Playbook
リポジトリ
gitマスタ
パラメータ
ファイル
text
パラメータ
ファイル
text
VBA

設定反映までの流れ【1 / 3】
(RHEL)
(RHEL)
作業者サーバ
(Windows)
パラメータファイルを編集
Playbook
手動でパラメータファイルにパッケージ情報
を追加し、リポジトリに登録
リポジトリ
git
リポジトリ
gitマスタ
パラメータ
ファイル
text
パラメータ
ファイル
text
VBA

(RHEL)
(RHEL)
作業者サーバ
(Windows)
Playbook
パラメータファイル編集ツール Ansible
登録をトリガに自動的に対象サーバを変更
Ansible用
データ変換ツール
（Ansible用）
リポジトリ
git
リポジトリ
gitマスタ
パラメータ
ファイル
text
パラメータ
ファイル
text
自動でYAMLに変換され
VBA

(RHEL)
(RHEL)
作業者サーバ
(Windows)
Playbook
登録をトリガに自動的に対象サーバを変更
Ansible用
データ変換ツール
（Ansible用）
Ansible
+
自動でAnsibleを実行
リポジトリ
git
リポジトリ
gitマスタ
パラメータ
ファイル
text
パラメータ
ファイル
text
VBA

作業者
サーバ
自動化管理
サーバ
構築対象
サーバ
git git
デモ① パラメータファイルのオープン
作業者サーバ上で実行
gitリポジトリ内のパラメータファイルを
専用ツールでオープン
ダブルクリック
★主なポイント
従来のパラメータシートのように
各種パラメータを確認できる

作業者
サーバ
自動化管理
サーバ
構築対象
サーバ
git git
デモ② パラメータファイルの編集
インストールパッケージ情報の箇所に
「httpd」パッケージ情報を追加
従来の操作感でパラメータを追
加できる

作業者
サーバ
自動化管理
サーバ
構築対象
サーバ
git git
デモ③ パラメータファイルの保存
ctrl + s でパラメータファイルを保存
変更内容の保存も従来の操作感で
可能

作業者
サーバ
自動化管理
サーバ
構築対象
サーバ
git git
デモ④ 変更差分の確認
git diff コマンドで差分を表示
$ git diff
diff --git a/RHEL74.sdf b/RHEL74.sdf
index 414e98f..274cb53 100644
--- a/RHEL74.sdf
+++ b/RHEL74.sdf
@@ -1340,6 +1340,7 @@ System1,Env1,base,node1,RHEL7,-,packages(YUM),Properties::strace-4.12-4.el7.x86_
System1,Env1,base,node1,RHEL7,-,packages(YUM),Properties::traceroute-2.0.22-2.el7.x86_64,setting_value,[Yes]
System1,Env1,base,node1,RHEL7,-,packages(YUM),Properties::tcpdump-4.9.0-5.el7.x86_64,setting_value,[Yes]
System1,Env1,base,node1,RHEL7,-,packages(YUM),Properties::sos-3.4-5.el7.noarch,setting_value,[Yes]
+System1,Env1,base,node1,RHEL7,-,packages(YUM),Properties::httpd-2.4.6-67.el7.x86_64,setting_value,[Yes]
System1,Env1,base,node2,RHEL7,-,packages(YUM),Properties::wireshark-1.10.14-14.el7.x86_64,setting_value,[Yes]
System1,Env1,base,node2,RHEL7,-,packages(YUM),Properties::nmap-6.40-7.el7.x86_64,setting_value,[Yes]
System1,Env1,base,node2,RHEL7,-,packages(YUM),Properties::net-snmp-5.7.2-28.el7.x86_64,setting_value,[Yes]
-,-,-,-,RHEL7,-,packages(YUM),Properties::wireshark-1.10.14-14.el7.x86_64,data_type,Boolean(Meta)
-,-,-,-,RHEL7,-,packages(YUM),Properties::nmap-6.40-7.el7.x86_64,data_type,Boolean(Meta)
-,-,-,-,RHEL7,-,packages(YUM),Properties::net-snmp-5.7.2-28.el7.x86_64,data_type,Boolean(Meta)
@@ -1373,6 +1376,7 @@ System1,Env1,base,node3,RHEL7,-,packages(YUM),Properties::sos-3.4-5.el7.noarch,s
-,-,-,-,RHEL7,-,packages(YUM),Properties::traceroute-2.0.22-2.el7.x86_64,data_type,Boolean(Meta)
-,-,-,-,RHEL7,-,packages(YUM),Properties::tcpdump-4.9.0-5.el7.x86_64,data_type,Boolean(Meta)
-,-,-,-,RHEL7,-,packages(YUM),Properties::sos-3.4-5.el7.noarch,data_type,Boolean(Meta)
+-,-,-,-,RHEL7,-,packages(YUM),Properties::httpd-2.4.6-67.el7.x86_64,data_type,Boolean(Meta)
-,-,-,-,RHEL7,-,packages(YUM),Properties::wireshark-1.10.14-14.el7.x86_64,parameter_descripton,パッケージ情報
-,-,-,-,RHEL7,-,packages(YUM),Properties::nmap-6.40-7.el7.x86_64,parameter_descripton,パッケージ情報
-,-,-,-,RHEL7,-,packages(YUM),Properties::net-snmp-5.7.2-28.el7.x86_64,parameter_descripton,パッケージ情報
…
変更箇所を機械的に確認できる。
git log を見ることで変更履歴を確認可能

作業者
サーバ
自動化管理
サーバ
構築対象
サーバ
git git
デモ⑤ 変更内容をマージ
自動化管理サーバのリポジトリへ変更内容を
マージ
$ git commit -a -m "add httpd package"
[develop 58fea27] add httpd package
1 file changed, 9 insertions(+)
$ git push origin develop
Enumerating objects: 5, done.
Counting objects: 100% (5/5), done.
…
* [new branch] develop -> develop
$ git merge develop
Updating 7154d94..58fea27
Fast-forward
RHEL74.sdf | 9 +++++++++
自動化管理サーバ上で実行

作業者
サーバ
自動化管理
サーバ
構築対象
サーバ
git git
デモ⑥ マージをフックに自動反映
自動化管理サーバのリポジトリへ変更内容を
マージ
$ git commit -a -m "add httpd package"
[develop 58fea27] add httpd package
$ git push origin develop
Enumerating objects: 5, done.
Counting objects: 100% (5/5), done.
…
* [new branch] develop -> develop
$ git merge develop
Updating 7154d94..58fea27
Fast-forward
RHEL74.sdf | 9 +++++++++
自動化管理サーバ上で実行
$ rpm -qa | grep httpd
httpd-2.4.6-67.el7.x86_64
構築対象サーバでは、httpd パッ
ケージがインストールされている

特徴

特徴
• パラメータファイルは従来と同様の操作感で確認・編集可能！
• パラメータの変更箇所は機械的に確認できる！
パラメータ
ファイル
テキスト
$ git diff
diff --git a/RHEL74.sdf b/RHEL74.sdf
index 414e98f..274cb53 100644
--- a/RHEL74.sdf
+++ b/RHEL74.sdf
機械的に差分を残せるため維持管理のコスト減
テキストを感じさせない従来と同様の操作感
もちろんパラシの役割として活用も可能

特徴（その他）
• 一次情報からコードへ変換する難易度が下がった
パラメータ
ファイル
パラメータ
情報
YAML形式
Ansibleが使用
パラメータ
情報
パラメータ
情報
Key=Value
試験自動化
構築自動化(IaaS層)
YAML形式
Serverspecが使用
Key-Value形式
Terraformが使用
text
構築自動化(OS・ミドル層)
テキストファイルから各種形式への変換ツール
出力形式のフォーマットが決まっていれ
ば、論理的にはどんな形式でも自動変
換することが可能。
Ansible用データ変換ツール
Serverspec用データ変換ツール
Terraform用データ変換ツール

まとめ

まとめ
 パラメータシートは重要
• 実機の状態を示す唯一のドキュメント
• 設計根拠をたどる道標
• コミュニケーションツール
 パラメータシート×IaCの新たな姿を開発
• パラメータシートをデータとビューに分割
 一次情報(データ)から一気通貫の基盤自動化を実現

NTTデータ流Infrastructure as Code～大規模プロジェクトを通して考え抜いた基盤自動化の新たな姿～（NTTデータテクノロジーカンファレンス 2019 講演資料、2019/09/05）

Recommended

Recommended

More Related Content

What's hot

What's hot (20)

Similar to NTTデータ流Infrastructure as Code～大規模プロジェクトを通して考え抜いた基盤自動化の新たな姿～（NTTデータテクノロジーカンファレンス 2019 講演資料、2019/09/05）

Similar to NTTデータ流Infrastructure as Code～大規模プロジェクトを通して考え抜いた基盤自動化の新たな姿～（NTTデータテクノロジーカンファレンス 2019 講演資料、2019/09/05） (20)

More from NTT DATA Technology & Innovation

More from NTT DATA Technology & Innovation (20)

Recently uploaded

Recently uploaded (9)