SlideShare a Scribd company logo
1 of 13
Download to read offline
Developers Summit 2011
(C) 2011 Microsoft Corporation   2
Web サーバ        ビジネスロジック




ロードバランサ

                                           RDB サーバ




          (C) 2011 Microsoft Corporation             3
http://www.perfdynamics.com/Manifesto/USLscalability.html




               (C) 2011 Microsoft Corporation          4
(C) 2011 Microsoft Corporation   5
(C) 2011 Microsoft Corporation   6
マスター データ


                     参照系
 参照
                     データ

AP1

                 トランザクション            バッチ処理や
AP2                データ               非同期処理

                    更新系
AP3
                 トランザクション                     AP: データベースの
AP4                データ                        アプリケーション
       挿入                                     (SOA のサービス)

             (C) 2011 Microsoft Corporation                 7
リアルタイムの操作が実行され                    システムの実運用に必要となる
          新たな情報が生成される部分                     情報の事前準備の部分



非定型プロセス ロング      ACID                      漸次変更処理     バッチ処理
        トランザクション トランザクション

フロー      フロー、ストック ストック                     ストック       ストック

                       RDB、KVS、カラム指                   KVS、カラム
                       向(参照)、分散キャッ         OLAP、グラフ
ドキュメント   SOA                                          指向、
                       シュ、ストリーム            データ
                                                      MapReduce


                                                  新たな発展が見られる分野




               (C) 2011 Microsoft Corporation                     8
更新系
(OLTP)
                        キュー
            画面
                                   サービス           行指向
          (サービス)
                    Command


                                          データ更新の伝播
参照系
(分析)
                        キュー
            画面
                                   サービス           列指向
          (サービス)
                       Query


         Web フロントエンド                   ロジック、バックエンド
         レイテンシー                        スループット


                 (C) 2011 Microsoft Corporation         9
構造                           振る舞い
          (アーキテクチャ―スタイル)                   (アルゴリズム)


                     アルゴリズム戦略


                               実装戦略


                           並列実行機構
www.upcrc.illinois.edu   (C) 2011 Microsoft Corporation   10
(C) 2011 Microsoft Corporation   11
データ分割による競合防止                    メモリ上の効率利用
 分類→分割→配置→集約                         index データ構造アクセス
 ホットスポットの回避                          遅延永続化
 データ偏在の解決




        転送効率化
             Co-location、転送プロトコル
             簡易検査、圧縮などデータ量の削減




負荷分散
 非同期による時間差
                                  並列可能箇所の並列実行
                                       時間順序保証の上



             (C) 2011 Microsoft Corporation            12
(C) 2011 Microsoft Corporation   13

More Related Content

Similar to 【17-C-1】 Big Data を扱うアーキテクチャーの原則

Ml.NET
Ml.NETMl.NET
Ml.NETru pic
 
RWC2012(松江市&テクノプロジェクト)
RWC2012(松江市&テクノプロジェクト)RWC2012(松江市&テクノプロジェクト)
RWC2012(松江市&テクノプロジェクト)Techno Project Co., Ltd.
 
MapReduceによる大規模データを利用した機械学習
MapReduceによる大規模データを利用した機械学習MapReduceによる大規模データを利用した機械学習
MapReduceによる大規模データを利用した機械学習Preferred Networks
 
Fiorano SOA Platfrorm 紹介
Fiorano SOA Platfrorm 紹介Fiorano SOA Platfrorm 紹介
Fiorano SOA Platfrorm 紹介Shigeru Aoshima
 
ビッグデータ活用支援フォーラム
ビッグデータ活用支援フォーラムビッグデータ活用支援フォーラム
ビッグデータ活用支援フォーラムRecruit Technologies
 
レガシーに埋もれたデータをリアルタイムでクラウドへ [ATTUNITY & インサイトテクノロジー IoT / Big Data フォーラム 2018]
レガシーに埋もれたデータをリアルタイムでクラウドへ [ATTUNITY & インサイトテクノロジー IoT / Big Data フォーラム 2018]レガシーに埋もれたデータをリアルタイムでクラウドへ [ATTUNITY & インサイトテクノロジー IoT / Big Data フォーラム 2018]
レガシーに埋もれたデータをリアルタイムでクラウドへ [ATTUNITY & インサイトテクノロジー IoT / Big Data フォーラム 2018]Insight Technology, Inc.
 
WindowsAzureの長所を活かすクラウド アプリ開発(PDF版)
WindowsAzureの長所を活かすクラウド アプリ開発(PDF版)WindowsAzureの長所を活かすクラウド アプリ開発(PDF版)
WindowsAzureの長所を活かすクラウド アプリ開発(PDF版)Shinichiro Isago
 
[INSIGHT OUT 2011] C27 今こそBCPを考える ~コスト・要件に応じたデータベースのディザスタ・リカバリを提案しよう!~(kishida)
[INSIGHT OUT 2011] C27 今こそBCPを考える ~コスト・要件に応じたデータベースのディザスタ・リカバリを提案しよう!~(kishida)[INSIGHT OUT 2011] C27 今こそBCPを考える ~コスト・要件に応じたデータベースのディザスタ・リカバリを提案しよう!~(kishida)
[INSIGHT OUT 2011] C27 今こそBCPを考える ~コスト・要件に応じたデータベースのディザスタ・リカバリを提案しよう!~(kishida)Insight Technology, Inc.
 
オブジェクトストレージの適用領域とCloudianの位置づけ (Cloudian Summit 2012)
オブジェクトストレージの適用領域とCloudianの位置づけ (Cloudian Summit 2012)オブジェクトストレージの適用領域とCloudianの位置づけ (Cloudian Summit 2012)
オブジェクトストレージの適用領域とCloudianの位置づけ (Cloudian Summit 2012)CLOUDIAN KK
 
【17-A-5】ウェブアーキテクチャの歴史と未来
【17-A-5】ウェブアーキテクチャの歴史と未来【17-A-5】ウェブアーキテクチャの歴史と未来
【17-A-5】ウェブアーキテクチャの歴史と未来Developers Summit
 
20170413_データレプリケーション技術を適用したデータベース移行と分析基盤の構築 by 株式会社インサイトテクノロジー 森田俊哉
20170413_データレプリケーション技術を適用したデータベース移行と分析基盤の構築 by 株式会社インサイトテクノロジー 森田俊哉20170413_データレプリケーション技術を適用したデータベース移行と分析基盤の構築 by 株式会社インサイトテクノロジー 森田俊哉
20170413_データレプリケーション技術を適用したデータベース移行と分析基盤の構築 by 株式会社インサイトテクノロジー 森田俊哉Insight Technology, Inc.
 
db tech showcase_2014_A14_Actian Vectorで得られる、BIにおける真のパフォーマンスとは
db tech showcase_2014_A14_Actian Vectorで得られる、BIにおける真のパフォーマンスとはdb tech showcase_2014_A14_Actian Vectorで得られる、BIにおける真のパフォーマンスとは
db tech showcase_2014_A14_Actian Vectorで得られる、BIにおける真のパフォーマンスとはKoji Shinkubo
 
Azure Cosmos DB を使った高速分散アプリケーションの設計パターン
Azure Cosmos DB を使った高速分散アプリケーションの設計パターンAzure Cosmos DB を使った高速分散アプリケーションの設計パターン
Azure Cosmos DB を使った高速分散アプリケーションの設計パターンKazuyuki Miyake
 
ゲームだけじゃないHTML5
ゲームだけじゃないHTML5ゲームだけじゃないHTML5
ゲームだけじゃないHTML5Osamu Shimoda
 
これまでのアーキテクチャの変遷と今後の技術戦略
これまでのアーキテクチャの変遷と今後の技術戦略これまでのアーキテクチャの変遷と今後の技術戦略
これまでのアーキテクチャの変遷と今後の技術戦略Kazuyuki Nomura
 
RWC2012(ワコムアイティ&テクノプロジェクト)
RWC2012(ワコムアイティ&テクノプロジェクト)RWC2012(ワコムアイティ&テクノプロジェクト)
RWC2012(ワコムアイティ&テクノプロジェクト)Techno Project Co., Ltd.
 
1000人規模で使う分析基盤構築 〜redshiftを活用したeuc
1000人規模で使う分析基盤構築  〜redshiftを活用したeuc1000人規模で使う分析基盤構築  〜redshiftを活用したeuc
1000人規模で使う分析基盤構築 〜redshiftを活用したeucKazuhiro Miyajima
 
Open棟梁機能紹介 v02-00
Open棟梁機能紹介 v02-00Open棟梁機能紹介 v02-00
Open棟梁機能紹介 v02-00Daisuke Nishino
 
[MW11] OSS on Azure で構築する ウェブアプリケーション
[MW11] OSS on Azure で構築する ウェブアプリケーション[MW11] OSS on Azure で構築する ウェブアプリケーション
[MW11] OSS on Azure で構築する ウェブアプリケーションde:code 2017
 

Similar to 【17-C-1】 Big Data を扱うアーキテクチャーの原則 (20)

Ml.NET
Ml.NETMl.NET
Ml.NET
 
RWC2012(松江市&テクノプロジェクト)
RWC2012(松江市&テクノプロジェクト)RWC2012(松江市&テクノプロジェクト)
RWC2012(松江市&テクノプロジェクト)
 
MapReduceによる大規模データを利用した機械学習
MapReduceによる大規模データを利用した機械学習MapReduceによる大規模データを利用した機械学習
MapReduceによる大規模データを利用した機械学習
 
Fiorano SOA Platfrorm 紹介
Fiorano SOA Platfrorm 紹介Fiorano SOA Platfrorm 紹介
Fiorano SOA Platfrorm 紹介
 
ビッグデータ活用支援フォーラム
ビッグデータ活用支援フォーラムビッグデータ活用支援フォーラム
ビッグデータ活用支援フォーラム
 
レガシーに埋もれたデータをリアルタイムでクラウドへ [ATTUNITY & インサイトテクノロジー IoT / Big Data フォーラム 2018]
レガシーに埋もれたデータをリアルタイムでクラウドへ [ATTUNITY & インサイトテクノロジー IoT / Big Data フォーラム 2018]レガシーに埋もれたデータをリアルタイムでクラウドへ [ATTUNITY & インサイトテクノロジー IoT / Big Data フォーラム 2018]
レガシーに埋もれたデータをリアルタイムでクラウドへ [ATTUNITY & インサイトテクノロジー IoT / Big Data フォーラム 2018]
 
WindowsAzureの長所を活かすクラウド アプリ開発(PDF版)
WindowsAzureの長所を活かすクラウド アプリ開発(PDF版)WindowsAzureの長所を活かすクラウド アプリ開発(PDF版)
WindowsAzureの長所を活かすクラウド アプリ開発(PDF版)
 
Ajn24
Ajn24Ajn24
Ajn24
 
[INSIGHT OUT 2011] C27 今こそBCPを考える ~コスト・要件に応じたデータベースのディザスタ・リカバリを提案しよう!~(kishida)
[INSIGHT OUT 2011] C27 今こそBCPを考える ~コスト・要件に応じたデータベースのディザスタ・リカバリを提案しよう!~(kishida)[INSIGHT OUT 2011] C27 今こそBCPを考える ~コスト・要件に応じたデータベースのディザスタ・リカバリを提案しよう!~(kishida)
[INSIGHT OUT 2011] C27 今こそBCPを考える ~コスト・要件に応じたデータベースのディザスタ・リカバリを提案しよう!~(kishida)
 
オブジェクトストレージの適用領域とCloudianの位置づけ (Cloudian Summit 2012)
オブジェクトストレージの適用領域とCloudianの位置づけ (Cloudian Summit 2012)オブジェクトストレージの適用領域とCloudianの位置づけ (Cloudian Summit 2012)
オブジェクトストレージの適用領域とCloudianの位置づけ (Cloudian Summit 2012)
 
【17-A-5】ウェブアーキテクチャの歴史と未来
【17-A-5】ウェブアーキテクチャの歴史と未来【17-A-5】ウェブアーキテクチャの歴史と未来
【17-A-5】ウェブアーキテクチャの歴史と未来
 
20170413_データレプリケーション技術を適用したデータベース移行と分析基盤の構築 by 株式会社インサイトテクノロジー 森田俊哉
20170413_データレプリケーション技術を適用したデータベース移行と分析基盤の構築 by 株式会社インサイトテクノロジー 森田俊哉20170413_データレプリケーション技術を適用したデータベース移行と分析基盤の構築 by 株式会社インサイトテクノロジー 森田俊哉
20170413_データレプリケーション技術を適用したデータベース移行と分析基盤の構築 by 株式会社インサイトテクノロジー 森田俊哉
 
db tech showcase_2014_A14_Actian Vectorで得られる、BIにおける真のパフォーマンスとは
db tech showcase_2014_A14_Actian Vectorで得られる、BIにおける真のパフォーマンスとはdb tech showcase_2014_A14_Actian Vectorで得られる、BIにおける真のパフォーマンスとは
db tech showcase_2014_A14_Actian Vectorで得られる、BIにおける真のパフォーマンスとは
 
Azure Cosmos DB を使った高速分散アプリケーションの設計パターン
Azure Cosmos DB を使った高速分散アプリケーションの設計パターンAzure Cosmos DB を使った高速分散アプリケーションの設計パターン
Azure Cosmos DB を使った高速分散アプリケーションの設計パターン
 
ゲームだけじゃないHTML5
ゲームだけじゃないHTML5ゲームだけじゃないHTML5
ゲームだけじゃないHTML5
 
これまでのアーキテクチャの変遷と今後の技術戦略
これまでのアーキテクチャの変遷と今後の技術戦略これまでのアーキテクチャの変遷と今後の技術戦略
これまでのアーキテクチャの変遷と今後の技術戦略
 
RWC2012(ワコムアイティ&テクノプロジェクト)
RWC2012(ワコムアイティ&テクノプロジェクト)RWC2012(ワコムアイティ&テクノプロジェクト)
RWC2012(ワコムアイティ&テクノプロジェクト)
 
1000人規模で使う分析基盤構築 〜redshiftを活用したeuc
1000人規模で使う分析基盤構築  〜redshiftを活用したeuc1000人規模で使う分析基盤構築  〜redshiftを活用したeuc
1000人規模で使う分析基盤構築 〜redshiftを活用したeuc
 
Open棟梁機能紹介 v02-00
Open棟梁機能紹介 v02-00Open棟梁機能紹介 v02-00
Open棟梁機能紹介 v02-00
 
[MW11] OSS on Azure で構築する ウェブアプリケーション
[MW11] OSS on Azure で構築する ウェブアプリケーション[MW11] OSS on Azure で構築する ウェブアプリケーション
[MW11] OSS on Azure で構築する ウェブアプリケーション
 

【17-C-1】 Big Data を扱うアーキテクチャーの原則

  • 2. (C) 2011 Microsoft Corporation 2
  • 3. Web サーバ ビジネスロジック ロードバランサ RDB サーバ (C) 2011 Microsoft Corporation 3
  • 5. (C) 2011 Microsoft Corporation 5
  • 6. (C) 2011 Microsoft Corporation 6
  • 7. マスター データ 参照系 参照 データ AP1 トランザクション バッチ処理や AP2 データ 非同期処理 更新系 AP3 トランザクション AP: データベースの AP4 データ アプリケーション 挿入 (SOA のサービス) (C) 2011 Microsoft Corporation 7
  • 8. リアルタイムの操作が実行され システムの実運用に必要となる 新たな情報が生成される部分 情報の事前準備の部分 非定型プロセス ロング ACID 漸次変更処理 バッチ処理 トランザクション トランザクション フロー フロー、ストック ストック ストック ストック RDB、KVS、カラム指 KVS、カラム 向(参照)、分散キャッ OLAP、グラフ ドキュメント SOA 指向、 シュ、ストリーム データ MapReduce 新たな発展が見られる分野 (C) 2011 Microsoft Corporation 8
  • 9. 更新系 (OLTP) キュー 画面 サービス 行指向 (サービス) Command データ更新の伝播 参照系 (分析) キュー 画面 サービス 列指向 (サービス) Query Web フロントエンド ロジック、バックエンド レイテンシー スループット (C) 2011 Microsoft Corporation 9
  • 10. 構造 振る舞い (アーキテクチャ―スタイル) (アルゴリズム) アルゴリズム戦略 実装戦略 並列実行機構 www.upcrc.illinois.edu (C) 2011 Microsoft Corporation 10
  • 11. (C) 2011 Microsoft Corporation 11
  • 12. データ分割による競合防止 メモリ上の効率利用 分類→分割→配置→集約 index データ構造アクセス ホットスポットの回避 遅延永続化 データ偏在の解決 転送効率化 Co-location、転送プロトコル 簡易検査、圧縮などデータ量の削減 負荷分散 非同期による時間差 並列可能箇所の並列実行 時間順序保証の上 (C) 2011 Microsoft Corporation 12
  • 13. (C) 2011 Microsoft Corporation 13