Recommended
More Related Content
What's hot
What's hot (20)
Similar to Asakusaソースコードリーディング #4 – Asakusa Test Driver
Similar to Asakusaソースコードリーディング #4 – Asakusa Test Driver (20)
Asakusaソースコードリーディング #4 – Asakusa Test Driver
- 1. Asakusaソースコードリーディング #4 – Asakusa Test Driver 2011/08/26 川⼝口 章 (@apirakun)
- 2. Asakusaソースコードリーディング#4 2 本⽇日の内容 l A Brief History of Asaksa Test Driver l TestDriverが誕⽣生するまで (〜～ver 0.1) l TestDriverのリアーキテクト (〜～ver 0.2) l TestDriverのこれから l Asakusa CI on AWS l Source Code Reading l TestDriver ver 0.2 API 2
- 3. Asakusaソースコードリーディング#4 3 ⾃自⼰己紹介 l 川⼝口 章 (@apirakun) l Asakusa Frameworkの活動 n Asakusa Test Driverの設計/実装 n CI環境のメンテナンス (Jenkins) n ソースリポジトリ管理理 (GitHub) n ビルド・リリース管理理 (Maven) n ドキュメントの公開 (Sphinx) n 開発環境・デプロイ周り (misc.) l 普段の仕事 n SI:Web系の⾃自動テストツール開発 n 流流通ミドルウェアの技術サポート
- 4. Asakusaソースコードリーディング#4 4 リソース l Source Code (branch:0.2-develop) l https://github.com/asakusafw/asakusafw/ tree/0.2-develop n asakusa-test-driver n asakusa-test-modelator n asakusa-test-data-provider n asakusa-thundergate-test-modelator l Documents (アプリケーションのテスト) l http://asakusafw.s3.amazonaws.com/ documents/0.2/release/ja/html/testing/ index.html 4
- 6. Asakusaソースコードリーディング#4 6 Asakusa Frameworkの構成 l 各種DSLを起点とした構成 6 データモデル 定義 データモデル Javaクラス Asakusa DSL バッチ構造 データフロー プロセス ワークフロー 定義 外部連携 プログラム Map Reduce プログラム DSL コンパイラ DMDL コンパイラ Review
- 7. Asakusaソースコードリーディング#4 7 Batch Dataflow ProcessDataflow Part 各種DSLの構造 l 層ごとに書くべきことが異異なる 7 UoW #1 UoW #2 UoW #3 UoW #4 1. …………… 1.1. ……… 1.2. ……… 2. …………… 2.1. ……… 2.2. ……… 2.a. ……… 3. ………… 4. ………… Batch DSL Flow DSL Operator DSL Review
- 13. Asakusaソースコードリーディング#4 13 テスタビリティの追求 <1/5> l テストが⾃自動化出来る l CIに乗せることを前提とした⽅方式検討 l 必要な機能はなにか – 何を⾃自動化するのか n テストデータの⽣生成・セットアップ n バッチコンパイル・デプロイ n ThunderGate・HadoopJobの実⾏行行 n CI Serverとの連携⽅方式 l 過剰な機能はなにか – 何を⾃自動化しないのか n 迅速なフィードバックとテストの価値を天秤に かける
- 14. Asakusaソースコードリーディング#4 14 テスタビリティの追求 <2/5> l 同じ⽅方法でテスト出来る l 各種DSLの仕組みの違いを出来るだけ隠蔽 l FlowPartとJobFlow のデータ⼊入出⼒力力 n SequencFile/DB上のテーブル l JobFlowとBatch のテスト対象の実⾏行行⽅方法 n hadoopコマンド/experimental.sh
- 15. Asakusaソースコードリーディング#4 15 テスタビリティの追求 <3/5> l テスト実装を迷わせない l テスト⽤用APIの設計 n シンプルなAPI n 強い制約 n ある程度度の汎⽤用性は犠牲に
- 18. Asakusaソースコードリーディング#4 18 Asakusa Test Driver (0.1) l TestDriver(0.1)が提供するもの l testdriver.XXXTestDriver n FlowPart-/JobFlow-/Batch- l 特徴 l Ashigel Compiler/HadoopJob/ThunderGateの実⾏行行 を隠蔽 l ModelGeneratorから緻密なテストデータ定義が可 能なテストデータのTemplate(Excel)を⽣生成 l 各種DSLで同じようにテスト出来るシンプルなAPI l テストが⾃自動化出来る l スタンドアロンモードで動作 本資料料ではパッケージ名の com.asakusafw は省省略略
- 21. Asakusaソースコードリーディング#4 21 Asakusa Test Driver (0.2) l NewAPIの提供 l testdriver.XXXTester n FlowPart-/JobFlow-/Batch- l 特徴 l ThunderGate以外の外部連携に対応 n ファイルインターフェース l Excel以外のテストデータ⼊入出⼒力力に対応 n デフォルトはJSONとExcelを提供 n Excelフォーマットも0.1細かく改善(Calcも使える) l SPIで拡張可能 n Ashigel Compilerに似た拡張戦略略
- 24. Asakusaソースコードリーディング#4 24 Test Data TestDriver(0.2)のアーキテクチャ概要 Import Tgt Batch App Import Export Export Tgt M/R Job M/R Job M/R Job Input Resource Expected Resource Verify Resource TestDriver Preparator Inspector Executor Compiler Batch Compile Execute Import Resource Export Resource Asakusa DSL
- 26. Asakusaソースコードリーディング#4 26 テストを短時間で終了了させる l Distributed Testing l 複数のマシンでテストを並列列実⾏行行させてテス トを短時間で終了了させる l Cloud Testing l AWSと連携
- 27. Asakusaソースコードリーディング#4 27 検証機能の強化 l Define the relationship between input and output l データの移動が発⽣生するだけの項⽬目は「こ の項⽬目は⼊入⼒力力モデルのこれと等しい」とい うように定義したい n MOVE⽂文のテスト l テストデータの定義から仕様(テストの観点 )を追いやすくする
- 29. Asakusaソースコードリーディング#4 29 Asakusa CI on AWS Asakusa Framework の CI環境 29
- 31. Asakusaソースコードリーディング#4 31 Amazon S3Amazon EC2 Asakusa CI環境の構成 Jenkins Master GitHub Development Environment git push <Service Hooks> Post Receive URLs Jenkins Slave <Amazon EC2 Plugin> distributed build Maven Repository Documents deploy copy tweet Maven Archetype Catalog Twitter
- 32. Asakusaソースコードリーディング#4 32 MasterとSlave l Jenkins Master l マイクロインスタンスを常に稼働させておく l JenkinsのWebフロントエンドとしてのみ使⽤用 l Jenkins Slave l 主要なビルド処理理はすべてここで実⾏行行 l High-CPUミディアムインスタンスを実⾏行行時に起動 n スモールインスタンスのほぼ半分の時間でビルドが完了了 l Amazon EC2 Plugin l JenkinsスレーブをEC2のAMIとして起動する l Idleが30分続くと⾃自動的に停⽌止 l CIサーバのランニングコスト:⽉月々1,000円〜～2,000円
- 33. Asakusaソースコードリーディング#4 33 Jenkins Amazon EC2 Plugin l Jenkins Slaveとして起動するAMIを指定
- 34. Asakusaソースコードリーディング#4 34 GitHubとJenkinsの連携 l GitHubからJenkinsへpush通知 l GitHubの「Post Receive URLs」を利利⽤用 n git pushを受けると即時にJenkinsに対してget l git pushしたブランチだけをビルドする n Post Receive URLs はRequest URLが固定 n 特定のJenkins Jobを起動することしか出来ない n 窓⼝口⽤用のJobで受けて、下流流のJobにビルドする 可能性があるブランチを定義したJobをすべて紐紐 付け n これで⼀一応出来るが、ムダなビルドが多数発⽣生 n Jenkinsの「Downstream-Ext Plugin」を利利⽤用 n リポジトリに変更更がない場合ビルドを中⽌止出来る
- 35. Asakusaソースコードリーディング#4 35 Build Pipeline l ビルドからリリースまで の処理理を多段のジョブで 実⾏行行 push-hook build- kicker build-main archetype build- report examples deploy GitHub get request Jenkins Master Jenkins Slave
- 37. Asakusaソースコードリーディング#4 37 Asakusa Test Driver Source Code Reading 拡張ポイントを中⼼心に 37
- 38. Asakusaソースコードリーディング#4 38 Test Data TestDriver(0.2)のアーキテクチャ概要(再掲) Import Tgt Batch App Import Export Export Tgt M/R Job M/R Job M/R Job Input Resource Expected Resource Verify Resource TestDriver Preparator Inspector Executor Compiler Batch Compile Execute Import Resource Export Resource Asakusa DSL
- 39. Asakusaソースコードリーディング#4 39 Compilerを詳しく l テスト対象のDSLをバッチコンパイル l Ashigel Compilerの呼出 n DirectFlowCompiler n DirectBatchCompiler n Asakusaソースコードリーディング#1 を参照 l TestDriverでは簡易易実⾏行行計画を扱う n ステージの実⾏行行計画をトポロジカルソート n 逐次実⾏行行
- 40. Asakusaソースコードリーディング#4 40 Preparatorを詳しく DataModel Source ModelOutput Importer Preparator Source Provider Model (Reflection) DataModel Source ModelOutput Source Provider DataModel Source Model Output Asakusa DSL Importer Description Import Tgt Import Resource Test Data Input Resource Objectの⽣生成 TestDataの流流れ SPI
- 43. Asakusaソースコードリーディング#4 43 ThunderGate/Excelデータの場合 DataModel Source ModelOutput BulkloaderImpor terPreparator Source Provider Model (Reflection) DataModel Source ModelOutput ExcelSheetSou rceProvider ExcelSheetDat aModelSource Table Output Asakusa DSL BulkloaderImpor terDescription Import Tgt MySQL Test Data Exeel Sheet Objectの⽣生成 TestDataの流流れ SPI
- 45. Asakusaソースコードリーディング#4 45 Inspectorを詳しく DataModel Source Exporter Retriever Source Provider DataModel Source Source Provider DataModel Source DataModel Source Asakusa DSL Exporter Description Export Tgt Export Resource Test Data Expected Resource Verify Resource VerifyRule Provider DataModel Source DataModel Source Verify Rule Model (Reflection) Model (Reflection) Objectの⽣生成 TestDataの流流れ SPI
- 49. Asakusaソースコードリーディング#4 49 SourceProviderを追加 DataModel Source Exporter Retriever Source Provider DataModel Source Source Provider DataModel Source DataModel Source Asakusa DSL Exporter Description Export Tgt Export Resource Test Data DataBase Table Excel Sheet VerifyRule Provider DataModel Source DataModel Source Verify Rule Model (Reflection) Model (Reflection) Objectの⽣生成 TestDataの流流れ SPI DBのTableを扱う SourceProviderを 追加する
- 50. Asakusaソースコードリーディング#4 50 実はあります l Issue#64:Enable to input expect data from database table. l https://github.com/asakusafw/asakusafw/issues/64 l 修正内容 l TableSourceProviderを追加 n testdriver.bulkloader.TableSourceProvider l SPIの定義ファイルを追加 n src/main/resources/META-INF/services/ com.asakusafw.testdriver.core.SourceProvider l 使い⽅方 l URIに以下の⽂文字列列を指定 n “bulkloader:<target_name>:<table_name>” n 例例:”bulkloader:asakusa:ORDER”