自律連合型基盤システムの構築

  • 282 views
Uploaded on

JST CREST「情報社会を支える新しい高性能情報処理技術」研究領域 …

JST CREST「情報社会を支える新しい高性能情報処理技術」研究領域
第5回 領域シンポジウム
2008年10月10日

More in: Software
  • Full Name Full Name Comment goes here.
    Are you sure you want to
    Your message goes here
    Be the first to comment
    Be the first to like this
No Downloads

Views

Total Views
282
On Slideshare
0
From Embeds
0
Number of Embeds
3

Actions

Shares
Downloads
0
Comments
0
Likes
0

Embeds 0

No embeds

Report content

Flagged as inappropriate Flag as inappropriate
Flag as inappropriate

Select your reason for flagging this presentation as inappropriate.

Cancel
    No notes for slide

Transcript

  • 1. 「情報社会を支える新しい高性能情報処理技術」研究領域 第5回 領域シンポジウム ! ! 自律連合型基盤システムの構築 ! 代表 加藤和彦 
 筑波大学大学院システム情報工学研究科 2008年10月10日 1
  • 2. インターネット環境 ネットワークの自律連合体 It is a "network of networks" that consists of millions of private and public, academic, business, and government networks of local to global scope that are linked by copper wires, fiber-optic cables, wireless connections, and other technologies. (Wikipedia) Halsall, Computer networking and the Internet, Addison-Wesley, 2005.
  • 3. オープンなネットワーク インターネットの特質 • 自律したネットワークの連合体 • 広域ネットワーク • 中央管理者のいないネットワーク • 成長するネットワーク 3 http://upload.wikimedia.org/wikipedia/commons/d/d2/Internet_map_1024.jpg http://en.wikipedia.org/wiki/Image:WorldWideWebAroundWikipedia.png
  • 4. クローズ/オープン システム 4 •完全性,ディペンダビリティが求められる,ク ローズ空間に構築されるシステム ( 「装置」)
 例)「緑の窓口」システム,銀行オンラインシステ ム,組み込みシステム •拡張性,柔軟性が重視される,オープンな空 間に構築されるシステム
 例)自動車道路網,Webサービス,アドホック ネットワーク,ユビキタスシステム 情報 サービスシステム Google, Amazon, Yahoo Web 2.0 SaaS Mash up Web-based systems Cloud computing ●[小特集] 情報処理で社会を守る ● ATCP ATCP ATCP ATCP ATCP ATCP 新ICS 新ICS 新ICS ICS ICS ICS 国内旅客系 ホスト コンピュータ 国内線・国際線システムの概要 ICS (ゲートウェイ) ATCPとホストコンピュータを接 続する通信ネットワーク用コン ピュータシステム 原因① 原因② 原因③ ICS: Inter Computer System A系スイッチ B系スイッチ 【対策3】 ICSゲートウェイ 自己復旧プログラム導入 岡田,土井:航空運送事業における情報システムの重要性とシステムが 担うべきディペンダビリティについて,情報処理,2008年4月. クローズシステム オープンシステム
  • 5. Availability • Internet availability: 93.2-99.6% ✓ Internet paths : 98.1-99.3% (Paxson 97) ✓ Web server: 93.2-99.6% (Dahlin 03) • Other dependable systems: 99.99% ✓ 911 emergency telephone: 99.994% ✓ Normal telephone: 99.99% ✓ Airlines (2002): 1 in 161,000 accidents; 99.9993% 5 (調査:中尾彰宏)
  • 6. 情報システムに期待される性質 6 •  Reliability(信頼性):故障しにくいこと. •  Availability(可⽤用性):⾼高い稼働率率率を維持 できること. •  Serviceability(保守性):障害が発⽣生した 場合に迅速に復復旧できること. •  Integrity(⼀一貫性):データが⽭矛盾を起こ さずに⼀一貫性を保っていること. •  Security(安全性):機密性が⾼高く、不不正ア クセスがなされにくいこと. RASIS RASIS+S http://www.sophia-it.com/content/RASIS •  Reliability(信頼性) •  Availability(可⽤用性)
 •  Serviceability(保守性)
 •  Integrity(⼀一貫性)
 •  Security(安全性)
 •  Scalability(スケーラビリティ)
  • 7. 情報システム進化の方向性 7 ネットワーク前提の度合いが増加 遠隔手続き呼び出し Sun RPC/ONC, HP NCS OSF DCE 分散オブジェクト OMG CORBA Microsoft DCOM Webページ,XML SOA, SaaS, マッシュアップ HTML, XML, SOAP, WSDL, UDDI 手続き指向 オブジェクト指向 サービス指向 クライアント/ サーバ マルチティア サービス連携・連合 mash-up C S C S S S C S S S LAN LAN, Internet LAN, Internet 1980s 1990s 2000s 2004∼ Webサービス
  • 8. サービス連携・連合: マッシュアップ,SOA,SaaS 8 「サービス」を中心としたシステム構築が加速 自律組織によって運営される サービスを連合させて一つの サービスを構成 ビジネスプロセスとリン クした,自律性を有する サービスの連合により サービス(ソフトウェア 機能)を構成 ソフトウェアをプロバイダ側で稼働.一般にマル チテナント(同一サーバー群(多数)を複数サー ビス,複数ユーザで共有) C S S S S C S S S S C C S S S SaaS, PaaS, クラウドコンピューティングSOAマッシュアップ サーバー:高度,高生産性なサービス構築環境の充実:J2EE, LAMP, Ruby on Rails, MS Servers, etc. クライアント:JavaScript, AJAX, Flash, リッチクライアント(AIR, Silverlight)等の発 達により,プラットフォーム独立でありながら高度な操作環境を提供. 背景技術
  • 9. 本研究の概要(2003年∼2008) 9 • 広域分散環境( インターネット)を前提とした基盤 システムの開発 • 自律したサーバ/サービスが連合して,自律したサー ビスを構成していくための基盤システム技術の開発 • 仮想計算環境技術(仮想計算機,仮想ネットワーク 等)の開発と活用
  • 10. 自律連合環境を前提とした 基盤システムの開発 10 連合サイト間のデータ交換検証 連合型データの アクセス制御 サステーナブル
 ストリーム処理 連合型データ
 処理 サービス基盤システム:サステーナブルシステム 仮想計算機 サステーナブルネットワーク 仮想ネットワーク プログラミング言語検証 データ インターオペラビリティ OS&ミドルウェア ネットワーク 4階層の総合的研究
  • 11. OS&ミドルウェア層 サービス基盤システム ! 加藤和彦,阿部洋丈,リチャード・ポッター, 杉木章義, 品川高廣, 新城靖,板野肯三(筑波大/JST) 大山恵弘(電通大),米澤明憲(東大) 須崎有康(産総研)
  • 12. サステーナブルシステム ! 加藤和彦,阿部洋丈,リチャード・ポッター, 杉木章義,品川高廣(筑波大/JST) !
  • 13. “Sustainable” • COBUILD English Dictionary! 1.You use sustainable to describe the use of natural resources when this use is kept at a steady level that is not likely to damage the environment. 2.A sustainable plan, method, or system is designed to continue at the same rate or level of activity without any problems. ✦ The creation of an efficient and sustainable transport system is critical to the long-term future of London. 13
  • 14. サステーナブル 1.自然資源を使用する際,環境を冒すことなく,一 定のレベルで使用できること. 2.計画,方法,システムが,同じ割合,レベルで, 問題が生じることなく継続するよう設計されている こと. ✦ 例)効率的でサステーナブルな交通システムは,ロン ドンの長期的将来において重要である. 14 COBUILD英語辞典
  • 15. 提案:オープンなサービスシステムは 「サステーナブル」であるべき •装置・システムという観点よりも「サービス」 が重要 ✓ 抽象度を上げて考える. • アナロジー:プロシージャよりもオブジェクト,オブ ジェクトよりもサービス(いわゆるSOA) ✓ サービス(インタフェース)を変えずに,実装(イン プリメンテーション)を変えられるように. ✓ 信頼性向上のための装置層/システム層の冗長化は仮 想化により隠蔽. • アナロジー「仮想記憶」:ユーザから見て物理メモリ にとらわれないメモリ管理,メモリ量.
 (OSはいたるところ仮想化) 15
  • 16. 自律連合型基盤システム としてのサステーナブルシステム 16 サービス データベース サービス サービス サービス サービス レガシー ソフト ウェア ホスト ホスト ホスト ホスト ネットワーク層 VM層 サービス層 VM VM VM VM VM VM VM VM VM クライアント クライアント クライアント クライアント
  • 17. サステーナブルサービス・ フレームワーク • = 仮想機械 + 複製制御 + 一貫性制御 ✓ 仮想機械技術により,汎用化,配備 (deployment)を容易化. ✓ インターネット上の複製制御と一貫性制御に より自律連合化 ✓ 不具合(ハードウェア,ソフトウェア,ネット ワーク等)を自律的に発見し,一貫性制御. 17
  • 18. 18 SSF1の基本動作 Master site Site Site Site Shared state in VM image Site Site 1. 配布(スナップショット,複製,分解) Master site Site Site Site Site Master site 2 Shared state in VM image 3. 集約&回復(結合) Master site Site Site Site Shared state in VM image Site Site 2. 障害検出 4. 合流 Master site Site Site Site Site Master site 2 Shared state in VM image Merge
  • 19. SSF1の実現 19 実装の概要とデモ環境の説明 Windows PC Windows PC Windows PC Windows PC Windows PC Windows PC PacketixVPN による仮想広域ネットワーク サーバー ソフトウェア (apache httpd) Microsoft Virtual Server Microsoft Virtual Server Microsoft Virtual Server Microsoft Virtual Server Microsoft Virtual Server Microsoft Virtual Server linux linux linux linux linux linux linux linux linux linux linux linux サステーナブルシステム sbuml sbuml sbuml sbuml sbuml sbuml sbuml sbuml sbuml sbuml sbuml sbuml 1000Base-T Ethernet デモ機材仮想インターネット提案システム クライアントと通信 現在の実装では,システムソフト ウェアの作成には Java を利用 し,サービスを実行するための仮 想 計 算 機 モ ニ タ に は S B U M L (Scrap Book for User Mode Linux) を利用しています. 各 PC には Microsoft Win- dows Server 2003 R2 がインス トールされ,1000Base-T で相互 接続されています.その上に, Packetix VPN と Microsoft Vir- tual Server 2005 R2 を用いた仮 想インターネット環境(後述)を 構築しています.各 PC 上には複 数の仮想計算機が作成され,それ ぞれに Linux がインストールされ ています.それぞれの Linux 上で はサステーナブルシステムソフト ウェアが動作し,必要に応じて SBUML も起動されます. Packetix VPN と仮想計算機 システム構成 仮想インターネット Windows PC Windows PC Windows PC Windows PC Windows PC Windows PC PacketixVPN による仮想広域ネットワーク Microsoft Virtual Server Microsoft Virtual Server Microsoft Virtual Server Microsoft Virtual Server Microsoft Virtual Server Microsoft Virtual Server linux linux linux linux linux linux linux linux linux linux linux linux サステーナブルシステム 1000Base-T Ethernet デモ機材仮想インターネット クライアントと通信 dows Server 2003 R2 がインス トールされ,1000Base-T で相互 接続されています.その上に, Packetix VPN と Microsoft Vir- tual Server 2005 R2 を用いた仮 想インターネット環境(後述)を 構築しています.各 PC 上には複 数の仮想計算機が作成され,それ ぞれに Linux がインストールされ ています.それぞれの Linux 上で はサステーナブルシステムソフト ウェアが動作し,必要に応じて SBUML も起動されます. Packetix VPN と仮想計算機 による仮想インターネット環境 本提案システムはインターネットで利用されることが想定され ていますが,実際のインターネットを利用して大規模なテストや 実験を行うことは容易ではありません.そこで我々は,クラスタ 型並列計算機の上に仮想的なインターネットを構築してテストや 実験を行う方法についても研究を進めています.我々の方法は, 各計算機に仮想計算機を複数作成し,それらを Packetix VPN で作成された仮想的な広域ネットワークに接続するという方法で す.計算機やスイッチ,ルータの接続状況を専用の GUI ソフト ウェア(右図)を用いて入力すると,それに応じて自動的に Packetix VPN や仮想計算機の設定が行われ,容易に仮想イン ターネット環境を構築・利用することができます. 本研究は,独立行政法人 科学技術振興機構の支援を受けている研究プロジェクト「自律連合型基 盤システムの構築」(研究代表者 加藤和彦)の研究成果の一部です.本プロジェクトに関する詳しい情報は 下記ウェブページをご覧下さい. http://www.osss.cs.tsukuba.ac.jp/ kato/wiki/kato/index.php?CREST サステーナブルシステム 筑波大学 加藤和彦
  • 20. SSF 1デモ 20 システム全景 ブート サービス開始 (23 ∼) 障害A(36 ∼) 障害検出 サービス再開(53 ∼) 障害B(1 04 ∼) 検出、収集 サービス再開(1 22∼) 障害B回復(1 38∼) マージ 障害A回復(1 58∼) マージ ! ! 6ノード,12CPU,30仮想マシン
  • 21. SSF1の課題 • スケーラビリティ – 単一VMインスタンスのみが一次に動作 • 資源効率 – 高い可用性を実現する半面,単一サービスに対して多数の 計算機を消費 • マージ処理 – スクリプト言語でマージ処理を記述するためのアプリケー ションに対する深い理解が必要 21 4. 合流 Master site Site Site Site Site Master site 2 Shared state in VM image Merge
  • 22. Sustainable Service Framework 2 • 複数サービスに対応した協調プラットフォーム – 計算機プロバイダが計算機資源を提供 – サービス提供者がサービスをVMの形で自由にインストール – 想定 • 多拠点のデータセンターの連合環境 • 小規模サーバ同士のPeer-to-Peer連携 • サステーナブルサービスフレームワーク VM VM VM VM VM VM VM VM VM VM VM VM VM VM VM VM VM VM VM VM VM VMVM VM VM 22
  • 23. サービスモデル 複数のサービスモデルを用意 (b) スケーラブルモデル(a) レガシーモデル VM VM VM VM VM VM VM VM スケーラビリティ 耐故障性 サービスの変更 レガシーモデル ○(ホスト障害) (ほとんど)不要 スケーラブルモデル ○ ◎(ネットワーク分断) 要 VMの状態を丸ごと,定期的に複製 処理を行う. VMインスタンスはstateless. 状態は分散ストレージ層で保持. ネットワーク分断された領域でそれぞれ
 複数のインスタンスを起動可能. プライマリ計算機 バックアップ計算機 VM VM 同一基盤上で両者を混在可能
  • 24. VMM OSOS DomU1 Dom0 複製プロトコル サービス配置 メンバシップ システム構成 nHighly-­‐pluggable  Architecture   pMessage-­‐passing  方式で内部を細分割・マルチコア対応   p抽象化   n分散アルゴリズムを”ビュー”として抽象化   p現在の分散アルゴリズムは既存の成果を利用   nトップダウンアプローチ(時間的制約による) VMM OS OS OS DomU1 DomU2 Dom0 複製プロトコル サービス配置 メンバシップ
  • 25. メンバシップ管理 n 物理計算機を管理し,統一的な資源ビューを提供する   n 階層型Gossipプロトコル  [Renesse  et  al.  Middleware98]  を実装   p定期的に既知のホストのリストをランダムに選択したホストに送信   pVMレベルでの死活情報を追跡するよう改良   pInformaHon  Plane  の役割も一部実装予定   n CPU使用率,メモリ使用量なども,ヒントとして伝搬 VM VM VM VM VM VM VM Host  A:  {VM1,  VM2}   Host  B:  {VM1,  VM3}   Host  C:  {VM3}  … VM
  • 26. サービス配置 n サービスごとに配置を自律管理   pプライマリ計算機をサービスごとに投票により選出   pプライマリ計算機がサービスの配置を決定   p障害発生時には,プライマリ計算機を代替   n ポリシーとメカニズムの分離 VM VM VM VM VM VM VM VMVM VM VM VM VM VM メンバシップ サービスBサービスA サービスBの プライマリ計算機 サービスAの プライマリ計算機 VM
  • 27. 実装 n Javaで25,000行 + 若干のスクリプト p高速化 nSEDA[Welsh et al. SOSP 01] 型イベント駆動処理 nスナップショットを sendfile で転送 n 複数VMに対応 pSBUML n 標準的なLinuxであれば,どの環境でも稼働 n ユーザ・レベルでOSのエミュレーションを行うため,性能に限界 n ディスク差分スナップショットをサポート pXen n Xen対応のカーネルが必要 n 比較的高速に動作 n blktapの機能を利用し,ディスクの差分スナップショット機構を実装
  • 28. !"!"#$%&'()! !"#$%! &'(! *+! )*+,! *+! )*+,! ,-(./0(12345#"$%! &'(&! )*(&! +,)(-! +)(&! 6678./09:;<=>?! *1('! )*(1! -2'('! +)(*! 6678@A,B?! *1(+! 3(-! '3('! 3(2! ,-(./0(1CDEF5#456%! -(1'! ,(+*! ,(,&! -)(12! GHIJEF5#456%! -(+3! -(*3! '(&1! &(1,! -./0'! !"#$%! &'(! .+1! 23(4! 256! 78596:! **2(,)! )'('2;+(,+<=! -*1('1;22(,&<=! -,(2+;'()1<=! +2(23>;,(&'<=! ?8596:! '*(32! &(-*>;)*(2<=! 2*(+*>;1*(1<=! 2*(-,>;1*(,<=! 2*(*)>;1*(2<=! (1)VM!"#KLMNOP! (2)5,-(./0(1QRS$%&'()! >> XenSTUVWXYZ![! >> SBUMLSTU]^S_`9a=b234cCDdIJ!ee#EFfghb!
  • 29. 応用:Peer-­‐to-­‐Peer  サーバ複製 n 単一インスタンス・複数サービス   pレガシーモデル   n 計算機資源を持ち寄ることで,少ない参加コストで高信頼化 A B B B B A A A 本来のサーバ B 本来のサーバ A サービス(VM)とホストを160bit SHAキーで管理 ! 仮想的なリング型オーバーレイを構成 ! サービスのキーを起動時のホストと同一とすることで 元のサーバに近いサーバでサービスを開始 ! 障害発生時に他計算機が代替 元の計算機が復帰すると,
 サービスも元のサーバへと戻る
  • 30. 0  1  2  3  4  0  60  120  180  240  300  0  1  2  3  4  0  60  120  180  240  300  CPULoadAverage Elapsed Time[s] Service2 Dom0 Host A Host B Host C Host D Became primary 0  1  2  3  4  0  60  120  180  240  300  0  1  2  3  4  0  60  120  180  240  300  Stopped by injected failure Became primary Stopped by injected failure Service1 Primary hosts were automatically changed 実験結果 30
  • 31. 一貫性制御の課題とアプローチ • 課題:VM内アプリケーション内データ間の一貫性制御の自動化は 一般に困難 – 巨大・複雑なVMイメージの中から本質部分を抽出し,一貫性制御を行う必要がある. – SSFv1では,プログラマに用意してもらうマージスクリプトがこれを行っていた. • アプローチ:分散永続オブジェクトのレイヤで解決 – 一貫性制御を取り扱う基本操作を含むオブジェクトフレームワークを提供 – Web上のサービスアプリケーションを対象として設計 領域1 ! 領域2 時間軸 ネットワーク分断 分断回復 VMレベル ? A領域1 ! 領域2 分散永続
 オブジェクト A A,  B A,  C A,  B A,  C A,  B,  C A,  B,  C 01000001 01000001 010000010 1000010 010000010 1000011 一貫性回復の手順を定義 010000010 1000010 010000010 1000011
  • 32. 分散永続オブジェクト・クラスライブラリ • Webサービス記述に適したフレームワークとして提供 – Counter, Map, Directory などの汎用データ構造を用意 – 各データ構造はサステーナビリティをサポートするモデルを持つ. モデル フレームワーク Webサービス Mergeable Mergeable Set Mergeable Integer Counter Balance Unmergeable Map List Bounded Mergeable Integer メール 掲⽰示板 Social  Network   Service オークション 商取引 Immutable Eventual Bounded Mergeable Set Bounded Eventual ServerDirectory UserInfo Content UserDirectory
  • 33. 関連研究 (1/2) n VM の複製 pSecondSite [Cully and Warfield HotDep06] n 第2の拠点にVMの状態を広域複製.ポジションペーパのみ公開 pRemus [Cully et al. NSDI07] n LAN環境で高い頻度(20回/秒程度)でXenの複製をおこなう pVM-FIT [Reiser and Kapitza SRDS07], 
 Xen VLS [Stodden et al. Xen Summit Spring 07] n Xenのアクティブ/セミアクティブ複製 pHypervisor-based FT [Bressoud and Schneider TOCS96]… n VMのHA複製の古典的な研究.LAN内で複製 n VM の広域サービス基盤 pVirtuoso [Sundararaj et al. HPDC05], vMatrix [Awadallah and Rosenblum FTDCS04] n VM間のオーバレイの構築,CDNに特化
  • 34. 関連研究 (2/2) n 商用 VM サービス基盤 pAmazon EC2 [Amazon.com], Blue Cloud [IBM] … n LAN 内 VM サービス基盤 pVMware Infrastructure [VMware], Eucalyptus [UCSB], Enomalism [Enomaly] … n サービス基盤 pIntrigger [科研特定]… n LAN内の自律システム pFAB [Saito et al. ASPLOS04], Porcupine [Saito et al. SOSP99] n Peer-to-Peer システム pCooperative storage [Haeberlen et al. NSDI05], 
 Cooperative proxy [Wolman et al. SOSP99]
  • 35. 関連技術との比較 Scalability Openness Xen  Live  migraHon   VMware  Infrastructure PlanetLab IBM  Blue  Cloud  (2008-­‐) Grid  CompuHng Sustainable  Service  PlaYorm(目標) クラスタ環境に特化 少数拠点の多数の計算機の連合 多拠点の少数計算機   Princeton大で集中管理 Peer-­‐to-­‐Peer seH@home クラウドコンピューティング Amazon  EC2/S3  (2007-­‐) 35
  • 36. ネットワーク層 仮想ネットワーク技術 ! 中尾彰宏(東京大学) 登大遊(ソフトイーサ社) 廣津登志夫(豊橋技術科学大学)
  • 37. Wide-Area Sustainable Networking 中尾彰宏 東京大学 情報学環
  • 38. Wide-Area Network Sustainability, in a general sense, is the capacity to maintain a certain process or state indefinitely. (wikipedia) Sustainability in WAN? Robustness against Attacks Availability (Resilience) against Failures
  • 39. 39 Problem1: Robustness against DDoS server client client client attacker slave attacker zombie zombie zombie zombie アタッカーは狡賢くなり水面下で分散DoS攻撃を行う. 分散DoSは非常に発見しにくく、対処しにくい. router server DoS:Denial of Service
  • 40. (1)耐攻撃性を向上する要素技術 • サーバを複製するのではなく, ✓仮想ネットワーク上にサーバを配置し, ✓仮想ネットワークへのゲートウェイを複数配置. • 仮想ネットワークゲートウェイへのアクセスをDNSを用いて制御する ことにより,攻撃者を検知し攻撃を防ぐ. プロジェクト:Burrows/Overfort Blue Server (b.com) Red Server (r.com) Gateway with Virtual Links Replicated Gateway DNSはb.comに対しgatewayの うちの1つのアドレスを返す DNSリクエストをしたユーザと gatewayの対応を記録することで 攻撃者を迅速に検知する
  • 41. Overfort  Overview 41 Internet OFG A OFG B LDNS A LDNS B OFG Monitor Auth DNS OFG A: - OFG B: - ProtectedServer.com Attacker
  • 42. LDNS B Overfort  Overview  (Cont.) 42 Internet OFG A OFG B LDNS A LDNS B Auth DNS OFG Monitor OFG A: - OFG B: - LDNS A Attacker
  • 43. Accuracy  of  Overfort  in  Bad  LDNS  IdenHficaHon 43 Accuracy at 100% - No false positives or negatives
  • 44. Number  of  Virtual  Links  Required  for  SegregaHon 44 500 0.97 50 R=0.5, physical links required = 500/20 = 25 Virtual links per physical link = 20 R=0.97, physical links required = 50/20 = 2.5 Physical links << NLDNS (100)
  • 45. (2)耐障害性を向上する要素技術 •インターネット上のネットワーク障害時に,経路制御の収束を待つ ことなく,One-Hop Indirectionと呼ばれるオーバーレイルーティン グの手法を用いて迅速な障害回避を実現する プロジェクト:AIRONE 迂回路 Indirection Router 障害 ホップ数の少ない迂回路を効率的に探索する 8割強の障害を回避可能と期待される ORACLE
  • 46. AIRONE:  One-­‐hop  IndirecHon Two  Approaches   End-­‐System  One-­‐Hop  IndirecHon  (SOSR)   Router  One-­‐Hop  IndirecHon  (AIRONE) Core Network Regional Network Regional Network Access Networks Regional Networks Core Network
  • 47. 0 0.2 0.4 0.6 0.8 1 0 0.2 0.4 0.6 0.8 1 percentofpathswithlinkfailuresmasked normalized location of link failure in path oracle=1 0 0.2 0.4 0.6 0.8 1 0 0.2 0.4 0.6 0.8 1 percentofpathswithlinkfailuresmasked normalized location of link failure in path oracle=2 0 0.2 0.4 0.6 0.8 1 0 0.2 0.4 0.6 0.8 1 percentofpathswithlinkfailuresmasked normalized location of link failure in path oracle=3 0 0.2 0.4 0.6 0.8 1 0 0.2 0.4 0.6 0.8 1 percentofpathswithlinkfailuresmasked normalized location of link failure in path oracle=4 AIRONE:  The  more  oracles,  the  beger… Source Destination
  • 48. 0 0.2 0.4 0.6 0.8 1 0 0.2 0.4 0.6 0.8 1 percentofpathswithlinkfailuresmasked normalized location of link failure in path sosr4 0 0.2 0.4 0.6 0.8 1 0 0.2 0.4 0.6 0.8 1 percentofpathswithlinkfailuresmasked normalized location of link failure in path sosr12 0 0.2 0.4 0.6 0.8 1 0 0.2 0.4 0.6 0.8 1 percentofpathswithlinkfailuresmasked normalized location of link failure in path airone24 0 0.2 0.4 0.6 0.8 1 0 0.2 0.4 0.6 0.8 1 percentofpathswithlinkfailuresmasked normalized location of link failure in path airone212 AIRONE:  Router  IndirecHon  is  beger… Router Approach End System Approach Source Destination
  • 49. 49 仮想インターネット実験システムと
 サステーナブルなストリーム中継システム 登 大遊 ソフトイーサ株式会社 筑波大学大学院システム情報工学研究科
  • 50. 50 仮想インターネット実験システムと
 サステーナブルなストリーム中継システム 登 大遊 ソフトイーサ株式会社 筑波大学大学院システム情報工学研究科
  • 51. テキスト http://www.softether.co.jp
  • 52. 52 二つの研究内容 仮想インターネット
 実験システム サステーナブルな
 ストリーム中継システム
  • 53. 53 実際にインターネット用ソフトウェア を開発する際の問題点 LAN内で動作する通信ソフトウェアの開発は容易で ある。 ‒ 通常、LAN に属するホスト数は数十∼数百ホスト。 ‒ 構成するハードウェアは安価で購入が容易。 インターネット上で安定・効率的に動作する通信ソ フトウェア の開発は難しい。 ‒ 大量の IP ネットワークが相互接続された巨大なトポロジ。 ✦ インターネット上での平均ホップ数 (経由ルータ数) は 8 。 ‒ 遅延・ジッタ・パケットロスもある。
  • 54. 54 インターネットのような
 多ホップ・高遅延の IP ネットワークを
 実験室で構築できるようにする 従来の方法 仮想インターネット実験システム 多数のルータとスイッチを机上に用意し て設定・物理的に接続して実験する必要 がある。 また、机上の機器では遅延が少ないた め、実際のインターネットに接続する必 要がある。 1 台~数台のコンピュータ上に数十~数 千台のルータやスイッチを格納してエミュ レーションすることを可能にする。
  • 55. 55 システム概要 仮想IPネットワークエンジン ‒レイヤ2セグメントを構成する「仮想HUB」 ‒レイヤ2セグメント同士を接続して
 レイヤ3でルーティングする「仮想ルータ」 ‒仮想ルータ上でのスループット制限、パケットロス・遅 延の発生 トポロジ作成支援ツール ‒ネットワークエンジンに投入するトポロジデータの作成 ‒GUI (Windows) およびテキスト形式で入力可能
  • 56. 56 仮想IPネットワークエンジン 仮想 HUB ‒Ethernet フレーム (MAC フレーム) をスイッチングするレイ ヤ 2 のパケット交換機をソフトウェア的に実装したもの。 仮想ルータ ‒IP パケットをルーティングするレイヤ 3 のパケット交換機をソ フトウェア的に実装したもの。 スループット制限 (Traffic Shaping): bps単位で設定 パケットロス: パケットロス率 (%単位) で設定 遅延: ミリ秒単位で設定 (1msec単位) ジッタ: 遅延のゆらぎ率を設定 (最大・最小、%単位)
  • 57. 57 大規模なネットワークを
 1台のサーバー上で構築
  • 58. 58 トポロジをエリア分割し
 複数台のサーバーに分散
  • 59. 59 実装・動作環境 仮想IPネットワークエンジン ‒Windows, Linux, Solaris, FreeBSD, Mac OS X アプリケーションノード (仮想NIC) ‒Windows, Linux GUIネットワークトポロジ作成ツール ‒Windows (.NET Framework 2.0) ! 仮想ネットワークはPacketiX VPNを拡張して実装
  • 60. 60 関連研究 StarBED ‒複数のレイヤ3スイッチ(ハードウェア)による大規模 インターネットシミュレータ ‒本研究では複数の仮想レイヤ3スイッチ(ソフト ウェア)を1台~数台のサーバー上で動作可能 NIST Net ‒通信遅延・パケットロスを発生させるシミュレータ ‒本研究では同様の機能を仮想ルータに組み込む
  • 61. 61 サステーナブルな
 ストリーム中継システム 概要 ‒ NAT、プロキシ、FWが多数あるインターネット上にお ける透過性の高いソケット通信の実現。
  • 62. サステーナブルな
 ストリーム中継システム
  • 63. 63 サステーナブルな
 ストリーム中継システムの概要 NAT、プロキシ、FWが多数あるインターネット上における透過性の高い ソケット通信の実現。 全通信内容が中央ゲートウェイシステムを経由することが現在のインター ネットのバックボーンやハードウェアであれば実現可能であることを立証。 ゲートウェイシステムの論理的・物理的分散によるサステイナビリティの 実現。
  • 64. 6453 Desktop VPN ソフトウェア 2007.1.16 ~ http://www.softether.com/jp/desktop/
 からベータ版配布 2007.9.18 ~
 日本 SGI 株式会社から SaaS サービスとして有償版を提供
  • 65. 6556
  • 66. 6657 ユーザ数 (サーバ台数) 11,444 台
  • 67. 6759 接続サーバセッション数 (負荷分散)
  • 68. 6862 GATE1 停止直後
  • 69. 6963 GATE1 停止前後 4 時間
  • 70. 7064 まとめ インターネットで利用できる新しい通信システム を実現 –スケーラビリティ –コネクション志向、双方向ストリーム –全通信が中継ゲートウェイシステム経由 通信実験 –遅延は少ない –スループットが 10 % ~ 20 % 低下 実用アプリケーション配布による実証実験 –負荷分散の挙動やアベイラビリティを確認
  • 71. 71 商用のサービスへの組み込み 本研究成果についてサステイナビリティが確認できたの で、商用サービス化。 Desktop VPN 商用サービス (2007.9 ~) 950円/月 ‒ ソフトイーサ株式会社、日本SGI株式会社、メディアエクスチェンジ株 式会社が合同で実施。 ‒ 2008.6現在 約10,000セッション。 Desktop VPN を利用した他社のサービス (2008.5~) ‒ NEC BIGLOBE: FirstVPNサービス ‒ ソフトバンク BB: 法人向け Desktop VPN サービス 稼動から 1 年近く経過、ゲートウェイ側のトラブル無し
  • 72. 72 ソフトウェア公開 仮想インターネットシステム 2008年度中に以下でフリーウェアとして公開 http://www.utvpn.tsukuba.ac.jp/
 (「University of Tsukuba VPN Project」 の一部として公開予定) サステーナブルなストリーム中継システム 2008年度中に Web サイトで公開予定 クライアント / サーバー側
 .NET 用アセンブリ (DLL) として配布。 中継ゲートウェイ側
 未定
  • 73. プログラム言語検証層 文字列解析による
 Webプログラムの検証 ! 南出靖彦,井田哲雄(筑波大学)
  • 74. 74 背景 l サーバサイドプログラミング:Web環境の基盤とな る技術 l 動的にWebページを生成 l ユーザに入力に応じてページを生成 l ユーザごとにページをカスタマイズ l 問題点 l 動的に生成されるページの安全性などの性質の検査、検証 は困難 l Webページ(サーバサイドプログラム)の脆弱性 l 動的に生成されるページが文法的に正しいHTMLか?
  • 75. 75 PHP文字列解析器 文字列解析器 PHPプログラム 入力仕様 正規表現 文脈自由文法 プログラムの文字列
 出力の近似 文脈自由文法 が表す集合 プログラムが出力する
 可能性がある文字列 近似の意味
  • 76. 76 文字列解析器の利用例 PHP プログラム <?php for ($i = 0; $i < $n; $i++) $x = '0'.$x.'1'; echo $x; ?> 入力仕様(正規表現) $n : int $x : /abc|xyz/ 整数 文字列 “abc” or “xyz” !"#$%& PHP '()*+ ,-./ 0123 !456!7 '()*+8!"# 9-8:;
  • 77. 77 例:解析結果 ({$$30, $$34, $x25}, {0, 1, a, b, c, x, y, z}, {$$30 -> $x25, $$34 -> abc | xyz, $x25 -> $$34 | 0$x251}, $$30) 開始記号 { 0nabc1n } [ { 0nxyz1n } 文法が表す集合: プログラムの文字列出力を正確に表している これは一種の抽象解釈.このようなことが可能であることは 以前から理論的には知られているが,実際の実用言語へ の適用は非常に少ない. 変数 文字 生成規則
  • 78. 78 文字列操作関数 <?php for ($i = 0; $i < $n; $i++) $x = '0'.$x.'1'; echo str_replace(“00”,”0”,$x); ?> 解析結果 プログラムの文字列出力を正確に表している { abc, 0abc1, 0abc11, 00abc111,… } [
 { xyz, 0xyz1, 0xyz11, 00xyz111,… } 文字列操作関数呼出し
  • 79. 新技術:トランスデューサによる 文字列操作関数の取扱い l str_replace(“00”,”0”,$x)のような文字列操作関数呼び出 しをトランスデューサ(出力付きオートマトン)に変換. l 先の文脈自由文法による近似技術とトランスデューサ技術を統合 することによって,実用スクリプト言語(PHP)の静的近似に成功. l 実装:OCaml言語にて約2万行. 79 CFG1 Transa CFG2 Transb ......
  • 80. 80 実験:フリーソフトウェアの解析 [WWW 05] 文法が巨大になることがある(tagit).
  • 81. プログラムの出力の近似   正しいXHTML 81 XHTML妥当性検証     文脈自由文法文脈自由文法 問題点:CFG CFG? は決定不能問題 プログラムの出力が文法的に正しいXHTMLかの検査 l アプローチ l XHTMLの仕様は(XML)DTDで与えられている. l (XML)DTDは制限された形の文脈自由文法と考えることがで きる. l この制限を利用して,CFG XML文法を判定するアルゴ リズムを開発.
  • 82. 82 XML文法: DTDのモデル、文脈自由文法のサブクラス 妥当性検査:判定アルゴリズム 判定アルゴリズム1: CFG XML文法
 (計算量: 指数関数時間) 判定アルゴリズム2: CFG 正則生垣文法
 (計算量: 二重指数関数時間) 正則生垣文法: 木オートマトンと同等、Relax NGのモデル  XHTML妥当検査が可能となる XML文法は、正則生垣文法のサブクラス 両方のアルゴリズムをPHP文字列解析器に実装済み.
  • 83. 83 実験:妥当性検証 発見したバグ l 開始タグと終了タグが一致して出力されない l <ul> タグの直下に <a> タグが現れる l 誤<input …> ⇒ 正 <input … /> XHTMLを生成するPHPプログラムの検査 
 WebCalendarの開発者に報告し,開発者によって修正され た.
  • 84. 研究開発の流れと外部への波及 2006年4月
 PHP文字列解析 器v1の公開 クロスサイトス クリプティング 脆弱性の検査 PHP文字列解析 器v2の公開予定 基本設計及びPHP文 字列解析器の実装
 (WWW 2005) 文字列解析によるXML 文書の妥当性検査
 (APLAS 2006) 妥当性検査アルゴリズ ムの計算量分析
 (FOSSACS 2007) 文字列解析による HTMLの妥当性検査
 (CIAA 2008) CREST
 研究 ウィーン工科大学に おけるPHPの情報 流解析Pixy: IBM T.J. Watson Libraries for Analysis (WALA) Wassermann & Su
 文字列解析と情報流 解析の融合:SQL Injection問題
 (PLDI 2007)
  • 85. デモンストレーション の内容 85
  • 86. サステーナブルサービス基盤 (加藤グループ) n サステーナブルサービス基盤を実際に稼働 p筑波大のブレードサーバ50台 p移動用クラスタ7台 n サービスモデルの異なる複数のサービスを稼働 p異なるインスタンス数,複製方式 n ネットワーク分断に対しては分散オブジェクトを用意 pオークションベンチマークRUBiSでデモを行う
  • 87. デモの内容 • 1台の Windows XP PC 上で数十 個の仮想ルータ (L3) を動作。 • 仮想ルータ間の接続の様子を GUI によるトポロジ設計ツールで 表示。 • 別の2台目のPCをネットワークに 参加させて、pingやtracerouteに よる通信を実施。 • 稼働中に遅延・パケットロス・ジッ タの発生のパラメータを動的に投 入し適用。
  • 88. Internet Boot技術(須崎@産総研) Internet仮想ディスク • ハードディスクをキャッシュとして使う • 必要なディスクイメージはサーバからオンデ マンドで取得 • CAS: Contents Addressable Storageの技 術でキャッシュを管理 – SHA-1による改ざん防止 • 実計算機・仮想計算機でOS起動可能 Virtual Disk デモの内容 • HTTPからキャッシュをダウンロードし てOS(Ubuntu, Debian)が仮想計算 機で起動 • USBメモリにキャッシュしたイメージか らOS起動
  • 89. デモ(大山@電通大) • プロセスレベル仮想化技術によるテストベッド上 での分散システムの実行の実演   –ノートPC上に数十~数百の仮想環境を構築   –仮想network上で実際のP2Pソフトウェアを実行   –デバッグ支援ツールや可視化ツールと連携
  • 90. まとめ 90 連合サイト間のデータ交換検証 連合型データの アクセス制御 サステーナブル
 ストリーム処理 連合型データ
 処理 サービス基盤システム:サステーナブルシステム 仮想計算機 サステーナブルネットワーク 仮想ネットワーク プログラミング言語検証 データ インターオペラビリティ OS&ミドルウェア ネットワーク 4階層の総合的研究
  • 91. 今後の課題 • 実サービスに適用可能であることの実証. ✓ 実サービス提供者と協議中 ✓ 国産クラウドコンピューティング/SaaS基盤 • インターネット環境以外の新しい環境への 適用 ✓ アドホックネットワーク,ユビキタス環境 • グリーンITへの適用 91
  • 92. SSF2の活用 92 サービス開発者/事業者とプラットフォーム提供者を分離可能 サービス サービス開発環境のペース イメージ (3)Webサービスを サブミット(アップロード) ベースイメージとの差分(デルタ)を計算 し,デルタのみを転送. (1)開発環境を ダウンロード (2)サービスを開発 サービス開発者 プラットフォーム提供者 Ruby MySQL Rails 仮想環境 サービス開発環境 Ruby MySQL Rails 仮想環境 サービス開発環境 Ruby MySQL Rails 仮想環境 サービス開発環境 サービス サービス (4) 整合性検査 サステーナブルな実行環境 サービス サービス (6) リモートメインテナンス (5) デプロイメント サービス基盤システム  運用
  • 93. 成果公表活動 • イノベーションジャパン ✓ 2005, 2006, 2007, 2008年に6件のブース展示. • 公開シンポジウム ✓ 自律連合型基盤システムに関するシンポジウム, 2006年6月9日,秋葉原コンベンションホール,参 加者81名. ✓ CRESTシンポジウム:自律・連合・仮想化時代の インターネット基盤技術2008年9月8日,富士ソフ ト アキバプラザ,参加者85名. 93
  • 94. 発表論文 • 査読付き ✓ 雑誌論文 19件(掲載予定を含む) ✓ レター誌 9件 ✓ 国際会議論文 51件 ✓ 国内会議論文 38件 • 査読なし ✓ 国内会議論文 70件 94
  • 95. 公開ソフトウェア 5. 池嶋 俊 他: サステーナブルサービス・フレームワーク1.0. 6. 杉木 章義 他: サステーナブルサービス・フレームワーク2.0. 7. 渡辺 陽介 他: StreamSpinner. 8. 登 大遊 他: 仮想インターネットシステム. 9. 登 大遊 他: サステーナブルなストリーム中継システム. 95 公開済み 1. Richard Potter: Scrapbook User-Mode Linux.    http://sbuml.sourceforge.net/ 2. 金田 憲二: 並列仮想機械モニタ.    http://web.yl.is.s.u-tokyo.ac.jp/ kaneda/vmp/ 3. 榮楽 英樹: 軽量仮想機械モニタ.
    http://lilyvm.sourceforge.net/ 4. 南出 靖彦: PHP String Analyzer.    http://www.score.is.tsukuba.ac.jp/ minamide/phpsa/ 公開予定(年内を予定)
  • 96. 受賞 1.阿部,情報処理学会 山下記念研究賞,平成16年12月 2.阿部 他, 情報処理学会 平成16年度論文賞,平成17年5月. 3.町田, 夏のデータベースワークショップ(DBWS2005)学生研究発表奨励賞. 4.K. Sophoin, 夏のデータベースワークショップ(DBWS2005)学生研究発表奨励賞. 5.榮樂,情報処理学会第17回コンピュータシステム・シンポジウム OpenSolaris Challenge 最優秀発表賞,平成17年11月. 6.金田, 情報処理学会第17回コンピュータシステム・シンポジウム 若手/学生論文賞,平成17 年11月. 7.金田, 情報処理学会 平成18年度山下記念研究賞,平成17年11月. 8.榮楽,情報処理学会 システムソフトウェアとオペレーティングシステム研究会 最優秀学生発 表賞,平成19年1月. 9.榮楽,情報処理学会 コンピュータサイエンス領域奨励賞,平成19年11月. 10.西川 他,FIT2007論文賞,第6回情報科学技術フォーラム (FIT 2007),平成19年9月. 11.石川 他,電子情報通信学会平成19年度論文賞,平成19年2月. 12.吉野,情報処理学会第70回全国大会学生奨励賞,平成20年3月. 13.石橋,情報処理学会第70回全国大会学生奨励賞,平成20年3月. 14.登,情報処理学会第70回全国大会大会奨励賞,平成20年7月. 15.杉木, 広域分散環境のための仮想機械を利用したサービス協調複製基盤 , 情報処理学 会第20回コンピュータシステム・シンポジウム 若手論文賞,平成20年11月(受賞予定). 96 論文誌論文賞2件 その他13件
  • 97. 招待講演(加藤分) 1.加藤和彦, 第3期科学技術基本計画に関する講演会: 科学の発展と絶えざるイノベーショ ンの創出 ,主催:内閣府・筑波大学,パネルディスカッションパネラー,2006年7月14日. 2.Kazuhiko Kato, Modeling and Virtualization for Secure Computing Environments , 20th Annual Asian Computing Science Conference (ASIAN 2007), Doha, Qatar, December 11, 2007. 3.加藤 和彦, サステナブル社会構築には何が必要か ,日本セキュリティ・マネジメント 学会 第22回大会パネル,工学院大学 新宿キャンパス,2008年6月22日. 4.加藤 和彦, 情報処理で社会を守る ,情報処理学会&電子情報通信学会FIT2008 公開 パネル討論,慶應義塾大学湘南藤沢キャンパス,2008年9月3日. 5.加藤 和彦, サステーナブルシステム:自律・連合・仮想化の時代へ向けて ,ビジネス グリッド推進コンソーシアムセミナー:ビジネスグリッドからクラウドコンピューティング へ,富士通本社,2008年10月27日. 6.Kazuhiko Kato, Green IT, its trends and problems , ISO/IEC JTC1 Technology Watch Workshop, Invited Talk, 奈良県新公会堂,2008年11月13日. 7.加藤 和彦, 自律・連合・仮想化時代のシステムソフトウェア研究 ,第20回情報処理 学会コンピュータシステムシンポジウム,キャンパス・イノベーションセンター東京, 2008年11月13日. 8.加藤 和彦, 仮想化ソフトウェア技術の動向(仮題) ,日本ソフトウェア科学会 ディ ペンダブルシステム研究会 第5回システム検証の科学技術シンポジウム,筑波大学 大学会館 国際会議室,2008年11月19日. 97