appengine java night #3

appengine java night #3 実際に作ってわかった App Engine の困ったところ source: http://www.flickr.com/photos/katemonkey/122489910/

自己紹介はてなID:bluerabbit twitterID:bluerabbit777jp

内容「雨の日め〜る」というサービスを作りました。実際にApp Engineで作るにあたって困ったことをどのように回避したかをお話します。

雨の日め〜るとは会社帰りに・・・「あれっ。今日って雨だったの？」と傘を忘れた経験がある。そんなあなたのためのサービスです。　傘忘れを防止する為に作りました。

仕組み「雨の日め〜る」は天気が雨の場合に天気予報メールを送信する。実現するための機能は下記３つ。天気予報を取得する天気予報をメールするユーザ登録

天気予報を取得する天気予報をUrlFetch APIを用いて取得天気予報は朝（6:00)に取得利用者のお住まいの地域は142用意 142の地域の天気予報をDatastoreに保存ユーザの指定した時間にメールするこれらをバッチ処理で行う。

しかし

立ちはだかる App Eengineの制約

制約その１ 1 リクエストは30秒以内に処理すべし HardDeadlineExceededError http://code.google.com/intl/ja/appengine/docs/whatisgoogleappengine.html

App Engineではバッチ処理も30秒以内天気予報を取得するために次のようにした。 Cronで1分毎に実行各地域の天気予報を取得取得済みの地域はスキップ天気予報をDatastoreへ保存 ※当時はTaskQueueがリリースされていなかった。

処理イメージ

処理時間30分orz...

TaskQueueで高速化 TaskQueueを使って並列処理 1地域毎に1タスク、142のTaskで実行する Cronは指定時間にQueueを追加するだけ for (Location location : Location.getAll()) { 　　　QueueFactory.getDefaultQueue(). add(TaskOptions.Builder .url("/crawler") .param("locationID",location.getId())); }

処理イメージ

処理時間3分

App Engineでのバッチ処理バッチ処理でも30秒以内に処理結果的にTaskQueueを使う必要ありキューを使うことで非同期、並列処理となる非同期、並列処理の知識と経験が必要既存プログラムをApp Engineに移行する場合にバッチ処理は処理方式を変更する必要に迫られる

こんなバッチの場合はどうする？ 1Taskが30秒以内に終わらないバッチが終わったことを知りたい

1Taskが30秒以内に終わらない機能を分割する。1機能を30秒以内に分割当該アプリの例だと1Taskの機能は下記 Fetch Parse Insert 機能別にTaskを実行するようにする

TaskQueueをチェインする Fetch処理の最後にParseのキューを追加 Parse処理の最後にInsertのキューを追加 Insert処理を実行してDatastoreに登録する

処理イメージ

バッチが終わったことを知りたい処理件数で把握する複数リクエスト(TaskQueue)間で連番を作成する連番の処理件数がキューを追加した件数と同じだったらバッチ終了と判断する

カウンター Sharding Counter 書き込みが集中しないように複数のエンティティに分散して書き込みし集計する Memcache Counter Memcacheを用いた簡易カウンター Memcache Counterを紹介

Memcache Counter MemcacheのLow Level API MemcacheService#incrementはアトミックに実行される TaskQueueなどで複数のスレッドが同時にアクセスしても連番が補償される MemcacheServiceのjava doc

APIの使用例 MemcacheService s = MemcacheServiceFactory.getMemcacheService(); if (!s.contains("MemcacheCounter")) { s.put("MemcacheCounter", 1); // 初期化は1 } else { // 2回目以降は値に+1する s.increment("MemcacheCounter", 1); } // 実行のたびに1,2,3,4,5になる System.out.println(s.get("MemcacheCounter")); http://d.hatena.ne.jp/bluerabbit/20091008/1255007854

天気予報をメールする天気予報が雨かを判断する。特定の時間になったらメールする。これらをバッチ処理で行う。しかし、ここにも制約が存在する。

制約その２ MailAPI の呼出回数は24時間あたり 7000件(1分間に32件)までにすべし http://code.google.com/intl/ja/appengine/docs/quotas.html#Mail

Mailの回数を制御するメール送信はDatastoreを用いた自作Queue を使用する。メール送信する場合はMailQueueのKind （テーブル）にEntity（データ）を保存する。 MailQueueの送信はCronにて1分毎に MailQueueに未送信があればメールするようにする。

処理イメージ

この処理には２つの誤りがある１.ユーザ数が増加した場合に　　＿＿＿＿＿しない。スケール２.エラーが発生した場合に　　＿＿＿＿＿＿＿＿の危険性があるメール二重送信

制約その３ Datastore は定期的にエラーが出ることを許容すべし DatastoreTimeoutException ApiProxy$UnknownException CapabilityDisabledException

ユーザ登録下記のユーザ情報を登録する受信するメールアドレス受信する時間受信する曜日お住まいの地域メールでユーザ登録の確認をする MailQueueを作成する上記の２つのEntityを登録する

制約その４トランザクションは設計する必要がある RDB のように使えないことを許容すべし

(案１) EntityGroup ユーザとメールキューをEntityGroup関係にする ※説明のため、意図的にJDOのイメージで記載しています。 App Engine のEntityGroupを理解しよう

(案２) 非正規化 1リクエストで複数のEntityを登録しない。 1つのEntityですべて処理する

(案３) TaskQueue 1リクエストで複数のEntityを登録しない。 1リクエストは1Entityのみ登録する。 MailQueueはTaskQueueで登録する。

(案４) 考慮しないエラーがたまに出ることを前提とする一時的に不整合になることを許容する偶発的に起こる事象に対して柔軟に対応できるように備えるエラー、不整合を早急に発見する方法を作りこむ

(案５) 補償ﾄﾗﾝｻﾞｸｼｮﾝトランザクションをプログラムで補償する Insert時 Userの登録は正常終了 MailQueueが異常終了異常を検知してUserをロールバックする（Userを削除する） Update時 Userを更新する前にバックアップを作成する(Userをシリアライズして保存) 失敗した場合はバックアップから戻す ※30秒制限があるため実装は困難です。しかし、タスクキューを使えば出来なくもありません。

どれが最適な案？決め手はなに？案１）EntityGroup 案２）非正規化案３）TaskQueue 案４）考慮しない案５）補償トランザクション

Entity Groupって何？全てのEntityはEntity Groupに所属 Entity Group内ではトランザクションをサポート全ての操作が成功か失敗かになる Entityを作成するときに、別のEntityを新しいEntity の「親」に指定することができる新しいEntityに対して親を指定することで、その新しいEntityは親Entityと同じEntity Groupに入る親を持たないEntityはルートエンティティとなる Entityの親はEntityの作成時に定義され、後で変更することはできない Entity Group全体に対してトランザクションの排他処理は実行される

ルートエンティティ String kind = "User"; Key userKey = KeyFactory.createKey(kind, 1); Entity user = new Entity(userKey); DatastoreService ds = DatastoreServiceFactory. getDatastoreService(); ds.put(user); KEY Kind User(1) User

UserにMailQueueを追加 String kind = "MailQueue"; Key mailKey = KeyFactory.createKey(userKey, kind, 1); Entity mail = new Entity(mailKey); DatastoreService.put(mail); KEY Kind User(1) User User(1)/MailQueue(1) MailQueue

EntityGroupはKeyで構成 KEY Kind User(1) User User(1)/MailQueue(1) MailQueue User(1)/MailQueue(2) MailQueue User(1)/Book(8) Book ※ルートエンティティが子エンティティを保持している訳ではない

同一Kindでも構成可能 KEY Kind Bank(1) Bank Bank(1)/Bank(2) Bank Bank(1)/Bank(3) Bank Bank(1)/Bank(4) Bank ※注意：排他はEntityGroup全体

EntityGroupの排他 tx = ds.beginTransaction() ; 　口座A　-1000円　口座B　+1000円 tx = ds.beginTransaction() ; 口座C = ds.get(tx, keyC); tx.commit(); 　口座C　-2000 　口座D　+2000 // ConcurrentModificationException tx.commit(); ※口座A、B、C、DはEntityGroupです。

トランザクション内の分離レベルは SERIALIZABLE tx = ds.beginTransaction() ; 口座A = ds.get(tx, keyA); 　口座A　残高照会　1000円 tx = ds.beginTransaction() ; 　口座A　-1000円　口座B　+1000円 tx.commit(); 口座B = ds.get(tx, keyB); 　口座B　残高照会　0円 ※リクエスト前は口座Bの残高は0円です。

その他困ったこと

制約その５ App Engine のDatastoreにはユニークキー制約がつけられない

ユニークキー制約がないのでこんなミス TaskQueueで以下の登録処理を実行した 1. パラメータでEntityの登録値を取得 2. Datastoreに新規登録 3. 終了処理　2.の処理後にエラーが出たらリトライされて2重登録された

対応策 TaskQueueで登録処理する場合は事前にキーを作成する TaskQueueの追加処理 1. キューで登録するキーを作成する 2. キーをTaskのパラメータに設定する登録処理 1. キーのパラメータを取得してキーが登録されているかを確認する 2. 存在しない場合は登録処理をする

処理イメージ（１） // キーを作成する。 DatastoreService service = DatastoreServiceFactory.getDatastoreService(); KeyRange keys = service.allocateIds("Kind", 1); String key = KeyFactory.keyToString(keys.getStart()); ); // キューのパラメータにキーを設定する QueueFactory.getDefaultQueue(). add(TaskOptions.Builder.url("/insert"). param("key", key)); DatastoreServiceのjava doc

処理イメージ（２） // DatastoreService#get(Key)で登録有無をチェック String keyString = (String) request.getAttribute("key"); Key key = KeyFactory.stringToKey(keyString); try { DatastoreService service = DatastoreServiceFactory.getDatastoreService(); Entity e = service.get(key); // 登録済み } catch (EntityNotFoundException e) { // 未登録 // → 登録処理を行う }

対応策（２） Keyにユニークな名前をつける TaskQueueの追加処理特に処理なし登録処理 1. ユニークになるようにcreateKeyする例えば、当アプリはLocationIdと日付 2. キーが既に登録されているかを確認する 3. 存在しない場合は登録処理をする

処理イメージ // Keyを作成 String keyName = "001" + "20091204"; Key key = KeyFactory.createKey("Kind", keyName); DatastoreService ds = DatastoreServiceFactory.getDatastoreService(); try { ds.get(key); } catch (EntityNotFoundException e) { Entity entity = new Entity(key); // 作成キーで登録 ds.put(entity)；　// 存在しないときにのみ登録 } KeyFactoryのjava doc

まとめ制約,エラーを寛大な心で受け入れる制約ではなくルールルールを守りながらプログラムするゲームこのゲームは必ず開発者を成長させる

Let's Enjoy Cloud Programming!!

ご清聴ありがとうございました

Questions?

http://d.hatena.ne.jp	386
http://www.slideshare.net	14
http://74.125.153.132	2
http://k.hatena.ne.jp	1
http://webcache.googleusercontent.com	1

appengine java night #3

by bluerabbit777jp on Dec 04, 2009

Accessibility

Categories

Tags

Upload Details

Usage Rights

5 Embeds 404

Statistics

appengine java night #3 — Presentation Transcript