Spring 5に備えるリアクティブプログラミング入門

2. 2Copyright©2016 NTT corp. All Rights Reserved. • 名前：岩塚卓弥 • 所属：NTT ソフトウェアイノベーションセンタ • NTTの研究所のうちソフトウェアを専門に扱う • 自部署ではソフトウェア工学を研究 • Springベースのグループ共通フレームワークの整備を担当 • Spring関連： • Spring I/O, SpringOne それぞれ2015，2016に参加 • 改訂新版 Spring入門，Spring徹底入門レビュアー • JSUG幹事 Introduction

3. 3Copyright©2016 NTT corp. All Rights Reserved. • 名前：堅田淳也 • 所属：NTT ソフトウェアイノベーションセンタ • NTTの研究所のうちソフトウェアを専門に扱う • 自部署ではソフトウェア工学を研究 • Springベースのグループ共通フレームワークの整備を担当 • Spring経験： • 元SIerで、プロジェクトへのSpring適用支援などを担当 • 使ったことのあるバージョン：Spring 1, 3, 4, (5) Introduction

4. 4Copyright©2016 NTT corp. All Rights Reserved. Spring Framework 5.0 M1 M2 M3 M4 GA 2016/6 2016/9 2016/12 2017 1Q • ベースラインのアップグレード • JDK 8+, Servlet 3.1+, JMS 2.0+, JPA 2.1+, JUnit 5 • コアコンテナのオーバーホール • 柔軟でプログラマティックなBean登録と解決 • 効率的なウェブアプリケーション • Reactive Streamsベースのwebコントローラ • ラムダ式によるHTTPルーティングと処理 2016/11

6. 6Copyright©2016 NTT corp. All Rights Reserved. What is reactive program Transformational program 始めに与えられた入力値を使って結果を出力 Interactive program 必要なタイミングでユーザや他のプログラムとやりとり Reactive program 入力タイミングをコントロールできないソースに対応して動作 [G. Berry 1989] による分類 Program入力出力 Program 入力A 次は入力Bをくれ入力B Program ソースA ソースB ソースの変化に対応して変化出力出力

10. 10Copyright©2016 NTT corp. All Rights Reserved. Invading namespace : Reactive System The Reactive Manifesto* におけるリアクティブシステム従来リアクティブシステムと呼ばれてきたものとは別物名前の乗っ取りは良くない！ * http://www.reactivemanifesto.org/

11. 11Copyright©2016 NTT corp. All Rights Reserved. Classification of language for reactive programming (Synchronous / Data flow) programming • (本来の意味での)リアクティブシステムを記述する言語 • 実時間の制約を持つ • 入力の頻度や入出力のレスポンス時間に関する制約 Functional reactive programming(FRP) • 実時間の制約は無い • BehaviorとEvent，Switching combinatorがプリミティブとして提供される(後述) Cousins of reactive programming • 実時間の制約もBehaviorも無い • 値の変更の伝播など，その他のRPの特徴のみを持つ • Reactive Streamsはここに分類される [E. Bainomugisha et al. 2013] による分類

12. 12Copyright©2016 NTT corp. All Rights Reserved. • 「関数型言語の上で実装されたRP=FRP」ではない • Javaで実装されたFRPもある • Frappé [A. Courtney 2001] • Eventだけを扱うRP(≠FRP)が昨今の流行り • イベントドリブンなアーキテクチャを実現するためのRP Behavior，Event，Switching combinator Behavior Event Switching combinator 時間で連続変化する値例：マウスポジション Behavior mouseX Behavior mouseY 値変化の(無限)列データフローを動的に切り替えるための連結子例：キー入力 a b c Event keyStream 例：マウスクリックで描画色の切替え right left Behavior color = switching( rc -> blue, lc -> red) * 文法は適当

13. 13Copyright©2016 NTT corp. All Rights Reserved. Observer Pattern Subject Observer observe notify Q. イベントドリブンで値の変更の伝搬とかObserver パターンで実現できるのでは． A. できます．非常に雑に言うとObserverパターンの強いやつが昨今の流行りです． * http://reactivex.io *

14. 14Copyright©2016 NTT corp. All Rights Reserved. Push based / Pull based reactive programming Producer Consumer Producer Consumer PushベースのRP PullベースのRP 新しい値を片っ端から送信頑張って処理必要なときに欲しい分だけ要求 Consumerの要求に従って送信 ✔ Producerで値が生成されてからConsumerが反応するまでのレイテンシが短い ✘ Consumerの処理能力を超えて値が送信されてくる可能性がある ✔ 必要なとき(Consumerが処理可能な場合)にだけ新しい値を取得できる ✘ Producerで値が生成されてからConsumerが反応するまで時間がかかる

15. 15Copyright©2016 NTT corp. All Rights Reserved. Reactive Streams • 非同期ストリーム処理 • ノンブロッキングなバックプレッシャ • バックプレッシャ：受信側による送信制御を行う仕組み* • 標準を提供 • 最低限のメソッドを備えたインタフェースと，仕様のみを提供 • Publisher, Subscriber, Subscription, Processor • 実用上必要なメソッドは各実装(Reactor他)が提供 * 元々はネットワーク用語．本来の用法から拡大されて使用されている．http://moccosblue.blogspot.jp/2015/05/translatebackpressure.html ノンブロッキングなバックプレッシャを備えた非同期ストリーム処理の標準を提供するための提案 (直訳) c.f. パルスのファルシのルシがコクーンでパージ Producer Consumer この間のやりとりをノンブロッキングにそれぞれ非同期に処理できる

16. 16Copyright©2016 NTT corp. All Rights Reserved. Publisher, Subscriber, Subscription Subscription Subscriber<T> request(long n) Publisher<T> onSubscribe(Subscription s) onNext(T t) × (0 〜 n) onComplete() / onError(Throwable e) … subscribe(Subscriber<? super T> s) • 各メソッドの戻り値の型はすべてvoid • Subscriberは送られてきたシグナルに対応して動作 • PushベースRP / PullベースRP の両方を実現可能 • request(Long.MAX_VALUE) とするとPushベースRPになる • Processor = Publisher ∧ Subscriber

18. 18Copyright©2016 NTT corp. All Rights Reserved. Project Reactor Reactor Core Reactor IPC Reactor Add-ons ・Reactor Core ・Reactor Core .Net ・Reactor Core JS ・Reactor Netty ・Reactor Kafka ・Reactor Aeron ・Reactor Adapter ・Reactor Test ・Reactor Logback Reactive Streamsの実装 JDK9のFlowとの変換エンコード / デコード通信(UDP / TCP / HTTP) 他実装との変換その他便利系 Reactor Coreを中心とした一連のプロジェクト群

19. 19Copyright©2016 NTT corp. All Rights Reserved. Mono, Flux Publisher<T> Mono<T> Flux<T> 0個または1個の値を発行 0個以上の値を発行 • Reactor Coreで提供されるPublisherの実装 • 発行され得る値の数によって使い分ける • subscribe以外にストリーム処理用の様々なメソッドを提供 • filter, map, take, skip, …

20. 20Copyright©2016 NTT corp. All Rights Reserved. Flux.range(0, 10) .delayMillis(1000) .filter(n -> n%2 == 0) .map(n -> n*2); Example (Flux) 9876543210 0123456789 86420 1612840 delayMillis(1000) filter(n -> n%2 == 0) filter(n -> n*2)

21. 21Copyright©2016 NTT corp. All Rights Reserved. Implementation detail Fluxのサブクラスのインスタンスが作成される．クラスはパッケージプライベートなので普通は意識しないで良い． FluxRange FluxFilter FluxMap source source Flux.range(..).filter(..).map(..);

23. 23Copyright©2016 NTT corp. All Rights Reserved. Implementation detail FluxRange FluxFilter FluxMap Flux.range(..).filter(..).map(..).subscribe(..); source source actual actual Subscriber subscribe new FluxFilter .FilterSubscriber FluxMap .MapSubscriber

24. 24Copyright©2016 NTT corp. All Rights Reserved. Implementation detail FluxRange FluxFilter FluxMap Flux.range(..).filter(..).map(..).subscribe(..); source source actual actual Subscriber subscribe new FluxFilter .FilterSubscriber FluxMap .MapSubscriber FluxRange .RangeSubscription actual actual onSubscribe s s s

25. 25Copyright©2016 NTT corp. All Rights Reserved. Implementation detail FluxRange FluxFilter FluxMap Flux.range(..).filter(..).map(..).subscribe(..); source source actual actual Subscriber subscribe new FluxFilter .FilterSubscriber FluxMap .MapSubscriber FluxRange .RangeSubscription actual actual onSubscribe s s s request

26. 26Copyright©2016 NTT corp. All Rights Reserved. Implementation detail FluxRange FluxFilter FluxMap Flux.range(..).filter(..).map(..).subscribe(..); source source actual actual Subscriber subscribe new FluxFilter .FilterSubscriber FluxMap .MapSubscriber FluxRange .RangeSubscription actual actual onSubscribe s s s request onNext

27. 27Copyright©2016 NTT corp. All Rights Reserved. Don‘t return void public void nonsense(Flux<Integer> s){ s.map(n -> n*n); } public Flux<Integer> ok(Flux<Integer> s){ return s.map(n -> n*n); } ダメな例修正「subscribeされない = 何も起こらない」新しいFluxが生成されて捨てられるだけ戻り値がどこかでsubscribeされればOK

28. 28Copyright©2016 NTT corp. All Rights Reserved. Subscriber for Reactive Web @Controller public Flux<Hoge> getHoges(){ … return resultFlux; } 誰がsubscribeしている？ Servlet 3.1利用の場合 ServletHttpHandlerAdapter#service …

29. 29Copyright©2016 NTT corp. All Rights Reserved. Comparison from other types CompletableFuture Stream Optional ✔ 非同期，ノンブロッキング ✔ 処理の合成 ✘ Pushにしか対応できない ✘ ストリーム処理に対応できない ✔ ストリーム処理 ✔ 処理の合成 ✘ 非同期処理のためのAPIがない ✔ 0個または1個の値を扱う(ReactorのMonoと同様) ✔ 処理の合成 ✘ 非同期処理のためのAPIがない

30. 30Copyright©2016 NTT corp. All Rights Reserved. • Reactorの祖先はReactive Extensions(Rx) • Rxが最初に導入されたのは .NET • 当時Microsoftに在籍していたErik Meijer氏らが設計 • Erik Meijer氏は関数型言語(主にHaskell)の研究者としても知られている • 関数型のプログラミングスタイルとは • 副作用を極力避けるプログラミングスタイル • そもそも実は「関数型言語」には明確な定義がない* Functional programming style Rxは関数型のプログラミングスタイルが活きるよう設計されている * 東北大学住井先生によるQiitaエントリ http://qiita.com/esumii/items/ec589d138e72e22ea97e

31. 31Copyright©2016 NTT corp. All Rights Reserved. • 副作用を使用しない(＝参照透明である)メリット • バグを作り込みにくくなる • 正しさを検証しやすくなる • 関数の独立性が高くなる Referential Transparency 「状態」を持たないことによる複雑性と依存性の排除いつどこで実行されるか分からない処理では参照透明性は特に重要 Reactive Streamsにおいては… ・実際の計算はsubscribeされるまで遅延される → どのタイミングで実行されるか分からない・非同期的に実行される可能性がある → どのスレッドで実行されるか分からない

32. 32Copyright©2016 NTT corp. All Rights Reserved. • ラムダ式 • 関数型インタフェースの実装を記述する構文(from Java 8) • 名前をつけるまでもない小さな関数・述語等の記述に利用 • メソッド参照 • 関数型インタフェースの実装として既存のメソッドを渡すための構文(from Java 8) • 既存のメソッドを高階関数に渡す際に利用 • 高階関数 • 関数を引数や戻り値とする関数 (map, filter, …) • 関数を組み合わせて処理を記述するために利用 • タプル • 順序を持った値の組 • 複数の値を返したい関数の定義等に利用 Tools for functional programming Java Reactor

33. 33Copyright©2016 NTT corp. All Rights Reserved. • 関数型言語で多く用いられている一種のデザインパターン • 関数をチェーンさせて，順番に値に適用させていくことができる • Mono / Flux はMonadになっている • StreamやOptional, CompletableFutureもMonad Monad map (a.k.a fmap) just (a.k.a unit, pure) flatMap (a.k.a bind) Monad が備える関数 Monad則，Functor，Applicative等との関係等，細かい諸々は省略 → 全部同じような考え方で取り扱える

34. 34Copyright©2016 NTT corp. All Rights Reserved. Example public Flux<Item> findItems(int idxA, int idxB){ return Mono.when(serviceA.findOne(idxA), serviceB.findOne(idxB)) .flatMap(p -> findItemsByXAndY( p.getT1.getX(), p.getT2.getY())); } public Mono<long> getTotal(int idxA, int idxB){ return findItems(idxA, idxB) .map(Item::calculateScore) .reduce((a, b) -> a+b); }

35. 35Copyright©2016 NTT corp. All Rights Reserved. Example public Flux<Item> findItems(int idxA, int idxB){ return Mono.when(serviceA.findOne(idxA), serviceB.findOne(idxB)) .flatMap(p -> findItemsByXAndY( p.getT1.getX(), p.getT2.getY())); } public Mono<long> getTotal(int idxA, int idxB){ return findItems(idxA, idxB) .map(Item::calculateScore) .reduce(0, (a, b) -> a+b); } ２つのMonoから，Monoのタプルを作る

36. 36Copyright©2016 NTT corp. All Rights Reserved. Example public Flux<Item> findItems(int idxA, int idxB){ return Mono.when(serviceA.findOne(idxA), serviceB.findOne(idxB)) .flatMap(p -> findItemsByXAndY( p.getT1.getX(), p.getT2.getY())); } public Mono<long> getTotal(int idxA, int idxB){ return findItems(idxA, idxB) .map(Item::calculateScore) .reduce((a, b) -> a+b); } ラムダ式タプルからの値の取り出し高階関数

37. 37Copyright©2016 NTT corp. All Rights Reserved. Example public Flux<Item> findItems(int idxA, int idxB){ return Mono.when(serviceA.findOne(idxA), serviceB.findOne(idxB)) .flatMap(p -> findItemsByXAndY( p.getT1.getX(), p.getT2.getY())); } public Mono<long> getTotal(int idxA, int idxB){ return findItems(idxA, idxB) .map(Item::calculateScore) .reduce((a, b) -> a+b); } 高階関数メソッド参照

38. 38Copyright©2016 NTT corp. All Rights Reserved. Example public Flux<Item> findItems(int idxA, int idxB){ return Mono.when(serviceA.findOne(idxA), serviceB.findOne(idxB)) .flatMap(p -> findItemsByXAndY( p.getT1.getX(), p.getT2.getY())); } public Mono<long> getTotal(int idxA, int idxB){ return findItems(idxA, idxB) .map(Item::calculateScore) .reduce((a, b) -> a+b); } ラムダ式そこまでの関数の適用結果と次の要素を繰り返し関数に適用していく高階関数 (畳み込み)

39. 39Copyright©2016 NTT corp. All Rights Reserved. • Reactorでは，特に指定しない限りsubscribeを呼びだしたスレッドでシグナルを処理する • 多くの場合それが一番パフォーマンスが良い • 必要ならば明示的にバックグラウンド実行させる • Reactor Coreに含まれるSchedulerを利用する Parallel processing Flux.just(“red”, “blue”, “green”) .map(String::toUpperCase) .subscribeOn(Schedullers.parallel()) .subscribe(); 内部的に保持している複数のスレッドから一つを選んでタスクを実行

40. 40Copyright©2016 NTT corp. All Rights Reserved. • すべての要素を並列実行させるには，すべての要素を別々のPublisherに分配させる Parallel processing Flux.range(0, 100) .flatMap(n -> Mono.just(n*2) .subscribeOn(Scheduler.parallel()) ) .subscribe(); 別々のPublisherに分配別のスレッドで実行 [2, 10, 18, 26, 34, 42, 50, …] [0, 8, 6, 14, 22, 30, 38, …] flatMap： concatMap： • 実行順序は非決定的になる • flatMapの代わりにconcatMapを使えば順序が担保される [0, 2, 4, 6, 8, 10, 12, …] 毎回結果が異なる

41. 41Copyright©2016 NTT corp. All Rights Reserved. • 非同期プログラミングはそもそも非常に複雑で難しい • Rxは上手くデザインされているが，非同期プログラミングの複雑さがすべて解消するわけではない • 非決定性に起因する再現性の低いバグ • デバッグが難しい • テストが難しい • 設計が難しい • etc… Complexity gain → 不必要にRPを導入することはデメリットの方が大きい

42. 42Copyright©2016 NTT corp. All Rights Reserved. Glitch 値の変更の伝搬の過程で一時的に不整合な状態になることがある Flux<Integer> a = Flux.range(0,10); Flux<Integer> b = a.map(n -> n*2); Flux<Integer> c = Flux.combineLatest( b, a, (n, m) -> n+m); a 0 1 2 3 4 5 6 7 8 9 b 0 2 4 6 8 10 12 14 16 18 c 0 3 6 9 12 15 18 21 24 27 理想現実 a 0 1 1 2 2 3 3 4 4 … b 0 2 2 4 4 6 6 8 8 … c 0 2 3 5 6 8 9 11 12 … bの変更がaの変更より先にcに伝搬される

43. 43Copyright©2016 NTT corp. All Rights Reserved. • ICSE’16でRPのデバッグに関する研究が発表されている • 対象はScala • EclipseプラグインとしてRP用デバッガを実装 • この領域はまだ他にも解決すべき課題は色々ありそう Research effort 依存関係を可視化ブレークポイントの設定 [G. Salvaneschi, M. Mezini 2016]

45. 45Copyright©2016 NTT corp. All Rights Reserved. Spring Framework 5.0 Web MVC vs Web Reactive @Controller, @RequestMapping Spring MVC Servlet API Servlet Container Spring Web Reactive Reactive HTTP Servlet 3.1, Netty, Undertow

46. 46Copyright©2016 NTT corp. All Rights Reserved. Spring Framework 5.0 Web MVC vs Web Reactive @Controller, @RequestMapping Spring MVC Servlet API Servlet Container Spring Web Reactive Reactive HTTP Servlet 3.1, Netty, Undertow spring-web-reactive.jarが新規追加 Servlet 3.1 で追加されたNon-blocking I/O を利用 Servlet以外の環境にも対応従来のMVCと同様のアノテーションが使える

47. 47Copyright©2016 NTT corp. All Rights Reserved. • Spring Web MVC とは独立した存在 • しかし、多くのアルゴリズムはMVCと共通 • プログラミングモデルもMVCと変わらない • @Controller, @RequestMapping, @RequestBody, etc… • Reactive HTTP request/responseを処理 • リクエスト/レスポンスの読み書きをNon-Blockingで処理 • 少ないスレッド数でスケール • 現在の実装状況など • Spring Framework 5.0 M3 が 2016/11/8 にリリース • まずはRESTにフォーカスして実装してきた • HTMLレンダリング系も徐々に実装されてきている Spring Web Reactive Framework

49. 49Copyright©2016 NTT corp. All Rights Reserved. pom.xml <dependencies> <dependency> <groupId>org.springframework.boot.experimental</groupId> <artifactId>spring-boot-starter-web-reactive</artifactId> </dependency>  </dependencies> <dependencyManagement> <dependencies> <dependency> <groupId>org.springframework.boot.experimental</groupId> <artifactId>spring-boot-dependencies-web-reactive</artifactId> <version>0.1.0.BUILD-SNAPSHOT</version> <type>pom</type> <scope>import</scope> </dependency> </dependencies> </dependencyManagement>

50. 50Copyright©2016 NTT corp. All Rights Reserved. • ControllerからFluxやMonoが返せる • Flux/Mono の subscribe は呼ばない • subscribe するのは Spring Reactive Web Controller @RestController public class UserController { @Autowired UserRepository userRepository; @GetMapping("/find") public Mono<User> find(@RequestParam("id") long id) { return userRepository.findById(id); } @GetMapping("/listAdult") public Flux<User> listAdult() { // 20歳以上のユーザを返す return userRepository.findAll() .filter(u -> u.getAge() >= 20); } } public interface UserRepository { Mono<User> findById(long id); Flux<User> findAll(); Mono<Void> save(User user); } /listAdult の結果

51. 51Copyright©2016 NTT corp. All Rights Reserved. • @ResponseBody(@RestController)メソッドの戻り値として返せる型 Reactive Web Controller ※ “User”は任意のJavaBeanを表す • Reactor • Mono<User> • Mono<Void> • Flux<User> • Flux<ServerSentEvent> • RxJava • Single<User> • Observable<User> • Flowable<User> • Not reactive types • User • void

52. 52Copyright©2016 NTT corp. All Rights Reserved. • ダメな例 • スレッドをブロックするメソッドを使ってFlux/Monoから値を取り出す Reactive Web Controller @GetMapping("/findBlocking") public User findBlocking(@RequestParam("id") long id) { return userRepository.findById(id).block(); } @GetMapping("/listAdultBlocking") public List<User> listAdult() { List<User> list = new ArrayList<>(); // 20歳以上のユーザを返す userRepository.findAll() .filter(u -> u.getAge() >= 20) .toIterable() .forEach(list::add); return list; } Userが返ってくるまでブロック! FluxをIterableに変換 IterableからUserを取得するときにブロック!

53. 53Copyright©2016 NTT corp. All Rights Reserved. • Controllerの引数 • @RequestBody を付与することで、JSON(Jackson)や XML(JAXB)を受け取れる • 引数の型にはFlux/Mono が指定可能 • Monoを使わずに単体のBeanで受けることもできる • @PathVariableや@RequestParam も使える Reactive Web Controller @RequestMapping("/helloMono") public Mono<String> hello(@RequestBody Mono<User> user) { return user.map(u -> "Hello " + u.getName() + "!!"); } @RequestMapping("/hello") public Mono<String> hello(@RequestBody User user) { return Mono.just("Hello " + user.getName() + "!!"); } Mono<User>じゃなくてもブロッキングにはならない

54. 54Copyright©2016 NTT corp. All Rights Reserved. • @RequestBody が付与された引数に指定可能な型 Reactive Web Controller ※ “User”は任意のJavaBeanを表す • Reactor • Mono<User> • Flux<User> • RxJava • Single<User> • Observable<User> • Not reactive type • User

55. 55Copyright©2016 NTT corp. All Rights Reserved. • @ModelAttribute 引数への対応 • 従来通り@ModelAttributeの省略も可能 Reactive Web Controller @RequestMapping("/helloAnnotation") public Mono<String> helloAnnotation(@ModelAttribute("user") Mono<User> user) { return user.map(u -> "Hello " + u.getName()); } @RequestMapping("/hello") public Mono<String> hello(Mono<User> user) { return user.map(u -> "Hello " + u.getName()); } Spring 5.0 M3 から POST /form/hello HTTP/1.1 Host: localhost:8080 Content-Type: application/x-www-form-urlencoded id=10&name=taro&age=25 HTTPリクエスト id= 10 name= “taro” age= 25 :User

56. 56Copyright©2016 NTT corp. All Rights Reserved. • Bean Validation も使える • 従来通り@Validatedによる検証が可能 • pom.xmlにstarterの追加が必要 Reactive Web Controller Bean Validation <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-validation</artifactId> </dependency>

57. 57Copyright©2016 NTT corp. All Rights Reserved. • Monoに対して@Validatedを付与した場合は、検証失敗時に例外が流れてくる Reactive Web Controller Bean Validation @RequestMapping("/validate") public Mono<String> formValidate(@Validated User user, BindingResult bindingResult) { if (bindingResult.hasErrors()) { return Mono.just("Error!"); } } @RequestMapping("/validateMono") public Mono<String> formValidate(@Validated Mono<User> user) { return user .map(u -> "Hello " + u.getName()) .otherwise(WebExchangeBindException.class, e -> Mono.just("Error!")); } 検証失敗時はWebExchangeBindExceptionが発生

58. 58Copyright©2016 NTT corp. All Rights Reserved. • ちなみに・・・ • Monoの引数に対してBindingResultの引数を追加すると IllegalArgumentException発生 Reactive Web Controller Bean Validation // Not work! @RequestMapping("/validateMonoWithBindingResult") public Mono<String> form(@Validated Mono<User> user, BindingResult bindingResult) { if (bindingResult.hasErrors()) { ・・・ Caused by: java.lang.IllegalArgumentException: Errors/BindingResult cannot be used with an async model attribute. Either declare the model attribute without the async wrapper type or handle WebExchangeBindException through the async type. at org.springframework.util.Assert.isNull(Assert.java:126) ~[spring-core-5.0.0.BUILD- SNAPSHOT.jar:5.0.0.BUILD-SNAPSHOT] … 例外メッセージ

59. 59Copyright©2016 NTT corp. All Rights Reserved. • HTML5のサーバプッシュ技術 • Springでは4.2から対応している Reactive Web Controller Server-Sent Events @GetMapping("/connect") public SseEmitter connect() { SseEmitter sseEmitter = new SseEmitter(); sseEmitters.add(sseEmitter); sseEmitter.onCompletion(() -> sseEmitters.remove(sseEmitter)); return sseEmitter; } @PostMapping("/send") public void send(@RequestBody Message message) { for (SseEmitter sseEmitter : this.sseEmitters) { try { sseEmitter.send(message, MediaType.APPLICATION_JSON); } catch (Exception e) { e.printStackTrace(); } } } Controllerメソッドから SseEmitterを返す Spring 4.3

60. 60Copyright©2016 NTT corp. All Rights Reserved. • Spring Web Reactive では • ControllerからFluxを返すだけでServer-Sent Eventsに対応 • リトライ間隔などを細かく制御する場合は、 Flux<ServerSentEvent>を返す Reactive Web Controller Server-Sent Events private FluxProcessor<Message, Message> processor = ReplayProcessor.<Message> create().serialize(); @GetMapping("/connect") public Flux<String> connect() { return processor.connect().map(m -> formatMessage(m)); } @PostMapping("/send") public Mono<Void> send(@RequestBody Mono<Message> message) { return message.doOnNext(m -> processor.onNext(m)).then(); } Fluxを返すだけでOK Spring 5 Web Reactive

61. 61Copyright©2016 NTT corp. All Rights Reserved. • Servletベースでの起動の場合は・・・ • Servlet3.1から入ったNon-blocking I/O を使ってノンブロッキングを実現している How to realize non-blocking ControllerからFluxやMonoを返せばいいのは分かったが、中はどうなっているのか？

62. 62Copyright©2016 NTT corp. All Rights Reserved. • Servlet 3.0 から入った非同期処理サポートと組み合わせて使う • ネットワークの待ち時間からスレッドを解放 • リクエストの受信待ち • レスポンスの送信待ち • 主要なインターフェース • AsyncContext • ReadListener • WriteListener Servlet 3.1 – Non-blocking I/O

63. 63Copyright©2016 NTT corp. All Rights Reserved. Servlet 3.1 – Non-blocking I/O Servlet ReadListener WriteListener レスポンスが書き込めるようになったので、書き込み処理開始リクエストが読み込めるようになったので処理開始 ReadListener, WriteListenerを登録したら、Servletの処理は終了

64. 64Copyright©2016 NTT corp. All Rights Reserved. • Servletの実装例 Servlet 3.1 – Non-blocking I/O @WebServlet(urlPatterns = "/nonblocking", asyncSupported = true) public class MyNonBlockingServlet extends HttpServlet { @Override protected void service(HttpServletRequest req, HttpServletResponse resp) throws ServletException, IOException { AsyncContext asyncContext = req.startAsync(req, resp); ServletInputStream input = req.getInputStream(); ReadListener readListener = new ReadListenerImpl(input, resp, asyncContext); input.setReadListener(readListener); } //omit } Servletの非同期サポートを有効化 AsyncContextの取得 ReadListenerインターフェースを実装したクラスを作成し、リスナとして登録

65. 65Copyright©2016 NTT corp. All Rights Reserved. • ReadListenerの実装例 Servlet 3.1 – Non-blocking I/O public class ReadListenerImpl implements ReadListener { @Override // データ読み込み可能になるとコールバックされる public void onDataAvailable() throws IOException { int len; byte[] b = new byte[1024]; while (input.isReady() && !input.isFinished() && (len = input.read(b)) != -1) { sb.append(new String(b, 0, len)); } } @Override // 全データを読み終わるとコールバックされる public void onAllDataRead() throws IOException { ServletOutputStream output = resp.getOutputStream(); WriteListener writeListener = new WriteListenerImpl(output, asyncContext, sb.toString()); output.setWriteListener(writeListener); } @Override // エラー時にコールバックされる public void onError(Throwable throwable) {・・・} 同様にWriteListenerインターフェースを実装したクラスを作成し、リスナとして登録

66. 66Copyright©2016 NTT corp. All Rights Reserved. • WriteListenerの実装例 Servlet 3.1 – Non-blocking I/O public class WriteListenerImpl implements WriteListener { @Override // データ書き込み可能になるとコールバックされる public void onWritePossible() throws IOException { output.print("<body>" + result + "</body>"); output.flush(); asyncContext.complete(); } @Override // エラー時にコールバックされる public void onError(Throwable throwable) {・・・} } 非同期処理の完了

67. 67Copyright©2016 NTT corp. All Rights Reserved. • ServletHttpHandlerAdapter • Servlet 3.1 の Non-blocking I/O を利用する Servletの実装クラス • Spring MVC の DispatcherServlet で行っていたような処理は、このServletではなく DispatcherHandler に委譲 Spring Web Reactive + Servlet 3.1 Servlet API <<Servlet>> Dispatcher Servlet Servlet API <<Servlet>> ServletHttp HandlerAdapter Dispatcher Handler Spring MVC Spring Web Reactive

68. 68Copyright©2016 NTT corp. All Rights Reserved. • ServletHttpHandlerAdapter Spring Web Reactive + Servlet 3.1 @WebServlet(asyncSupported = true) @SuppressWarnings("serial") public class ServletHttpHandlerAdapter extends HttpHandlerAdapterSupport implements Servlet { // omit @Override public void service(ServletRequest servletRequest, ServletResponse servletResponse) throws IOException { // Start async before Read/WriteListener registration AsyncContext asyncContext = servletRequest.startAsync(); // omit HandlerResultSubscriber resultSubscriber = new HandlerResultSubscriber(asyncContext); getHttpHandler().handle(request, response) .subscribe(resultSubscriber); } ここでsubscribeメソッドが呼ばれている Servletの非同期サポートを有効化 AsyncContextの取得

69. 69Copyright©2016 NTT corp. All Rights Reserved. Spring Web Reactive + Servlet 3.1 ReadListener private class RequestBodyReadListener implements ReadListener { @Override public void onDataAvailable() throws IOException { RequestBodyPublisher.this.onDataAvailable(); } @Override public void onAllDataRead() throws IOException { RequestBodyPublisher.this.onAllDataRead(); } @Override public void onError(Throwable throwable) { RequestBodyPublisher.this.onError(throwable); } } ServletServerHttpRequest$ RequestBodyPublisher$ RequestBodyReadListener

70. 70Copyright©2016 NTT corp. All Rights Reserved. Spring Web Reactive + Servlet 3.1 ReadListener RequestBody ReadListener RequestBody Publisher <<State>> DEMAND リクエストのInputStreamからデータを読み込む Subscriber onDataAvailable() onDataAvailable() onDataAvailable() readAndPublish() onNext() 読み込んだデータをSubscriberへリクエストデータの読み込みを要求している状態を表すオブジェクト

71. 71Copyright©2016 NTT corp. All Rights Reserved. Spring Web Reactive + Servlet 3.1 WriteListener private class ResponseBodyWriteListener implements WriteListener { @Override public void onWritePossible() throws IOException { if (bodyProcessor != null) { bodyProcessor.onWritePossible(); } } @Override public void onError(Throwable ex) { if (bodyProcessor != null) { bodyProcessor.cancel(); bodyProcessor.onError(ex); } } } ServletServerHttpResponse$ ResponseBodyWriteListener

72. 72Copyright©2016 NTT corp. All Rights Reserved. Spring Web Reactive + Servlet 3.1 WriteListener ResponseBody WriteListener ResponseBody Processor <<State>> RECEIVED レスポンスの OutputStreamへ出力 Subscription onWritePossible() onWritePossible() onWritePossible() write() request(1) (出力が完了していなければ) 次のデータを1つ要求出力可能なデータを受け取っている状態を表すオブジェクト

73. 73Copyright©2016 NTT corp. All Rights Reserved. • Controllerメソッドの起動タイミング • 引数がFlux/Monoかどうかでタイミングが違う Spring Web Reactive + Servlet 3.1 @RequestMapping("/helloMono") public Mono<String> hello(@RequestBody Mono<User> user) { return user.map(u -> "Hello " + u.getName() + "!!"); } @RequestMapping("/hello") public Mono<String> hello(@RequestBody User user) { return Mono.just("Hello " + user.getName() + "!!"); } メソッド起動の前にはUser(=リクエストデータ)が必要 → ReadListenerのonAllDataRead()後に起動される Mono<User>なので、User(リクエストデータ)はまだ不要 → ReadListenerを待たずに、Servletの実行スレッドから起動される

75. 75Copyright©2016 NTT corp. All Rights Reserved. • 状況 • REST対応にフォーカスして開発が進められてきたため、HTML レンダリングなどの画面遷移系の対応は少し遅れぎみ • テンプレートエンジン • Freemarker • Springとの統合モジュールはSpring側が提供 • spring-web-reactive にサポートクラスがすでに存在する • 基本的なHTMLレンダリングは可能 • 一応動きました • Thymeleaf • Thymeleaf自体にReactiveを意識した改善がすでに入っている • Springとの統合モジュールはThymelaf側が提供 • 統合モジュールはまだ実験段階 • 一応動いてました HTML rendering

76. 76Copyright©2016 NTT corp. All Rights Reserved. • 2016年5月にリリース済み • 2016/9/28に3.0.2をリリース • Reactive フレームワークを意識した改善 • Servlet API から独立 • Engine throttling の導入 • Engine throttling • 出力チャネルからのバックプレッシャー要求に応じて、テンプレート処理結果を小分けで出力 • 上記の出力処理を単一スレッドで実行 • data-driven モードで動作させれば、Publisher から流れてくるデータに応じて、少しずつ処理結果を出力 Thymeleaf 3.0

77. 77Copyright©2016 NTT corp. All Rights Reserved. • ThymeleafとSpringを統合するためのモジュール • メインリポジトリ上での Spring 5 対応はまだ • Thymeleaf Sandbox: Spring + Spring Reactive • Spring Web Reactive 対応の実験用リポジトリ • https://github.com/thymeleaf/thymeleafsandbox- springreactive • ThymeleafView や ThymeleafViewResolver の Reactive対応版の実装が含まれている • 3つのテンプレート処理モード 1. NORMAL 2. BUFFERED 3. DATA-DRIVEN thymeleaf-spring ※ テンプレート処理モードについては ThymeleafView#renderFragmentInternal メソッド内のコメントが参考になる

78. 78Copyright©2016 NTT corp. All Rights Reserved. • Mode: DATA-DRIVEN • Model に格納された Publisher (Flux/Mono) の onNext(X) に反応してレンダリングを実行していく • Non-blocking !! Thymeleaf Sandbox Template processing mode: DATA-DRIVEN @RequestMapping("/biglist-buffered.thymeleaf") public String bigListBufferedThymeleaf(final Model model) { final Publisher<PlaylistEntry> playlistFlow = this.playlistEntryRepository.findLargeCollectionPlaylistEntries(); // No need to fully resolve the Publisher! We will just let it drive model.addAttribute("dataSource", playlistFlow); return "thymeleaf/biglist-buffered"; } Controllerの実装例 PublisherをModelに格納できる! Flux/MonoでもOK (data-drivenで処理するデータのModel Attribute名を別途設定しておく必要あり)

79. 79Copyright©2016 NTT corp. All Rights Reserved. • Mode: DATA-DRIVEN • Model に格納された Publisher (Flux/Mono) の onNext(X) に反応してレンダリングを実行していく • Non-blocking !! Thymeleaf Sandbox Template processing mode: DATA-DRIVEN @RequestMapping("/biglist-buffered.thymeleaf") public String bigListBufferedThymeleaf(final Model model) { final Publisher<PlaylistEntry> playlistFlow = this.playlistEntryRepository.findLargeCollectionPlaylistEntries(); // No need to fully resolve the Publisher! We will just let it drive model.addAttribute("dataSource", playlistFlow); return "thymeleaf/biglist-buffered"; } Controllerの実装例 PublisherをModelに格納できる! Flux/MonoでもOK Spring Framework 5.0 M3 で動かなくなりました

80. 80Copyright©2016 NTT corp. All Rights Reserved. • Spring 5.0 M3 では… • レンダリング前にModel内のPublisher(Flux/Mono)が解決されるようになった • ThymeleafがModelからオブジェクトを取り出すときには、 Publisher(Flux/Mono)ではなくなっている… Thymeleaf Sandbox Template processing mode: DATA-DRIVEN @RequestMapping("/biglist-buffered.thymeleaf") public String bigListBufferedThymeleaf(final Model model) { final Publisher<PlaylistEntry> playlistFlow = this.playlistEntryRepository.findLargeCollectionPlaylistEntries(); // No need to fully resolve the Publisher! We will just let it drive model.addAttribute("dataSource", playlistFlow); return "thymeleaf/biglist-buffered"; } Controllerの実装例 Publisherを入れてるが、ThymeleafView が取り出すときにはPublisherではなくなっている

82. 82Copyright©2016 NTT corp. All Rights Reserved. • NoSQL • MongoDB • Reactive Streams driver • Couchbase • RxJava driver • Redis • lettuce • RDB • JDBCにNon-Blockingな仕組みがない • PostgreSQL と MySQL の async-driver というものが GitHub上に見つかるが・・・ • PostgreSQL / MySQL • https://github.com/mauricio/postgresql-async • PostgreSQL • https://github.com/alaisi/postgres-async-driver Database Spring Data 2.0 で対応予定

83. 83Copyright©2016 NTT corp. All Rights Reserved. MongoDB - Reactive Streams driver @Repository public class MongoRepository { private final ObjectMapper mapper; private final MongoCollection<Document> col; @Autowired public MongoRepository(MongoDatabase db, ObjectMapper mapper) { this.mapper = mapper; this.col = db.getCollection("user"); } public Mono<Void> insert(Mono<User> user) { return user.flatMap(u -> col.insertOne(Document.parse(toJson(u)))).then(); } <dependency> <groupId>org.mongodb</groupId> <artifactId>mongodb-driver- reactivestreams</artifactId> <version>1.2.0</version> </dependency> pom.xml Repository Publisherを返してくる @Bean MongoDatabase mongoDatabase() { return MongoClients.create().getDatabase("demo"); } MongoConfig

84. 84Copyright©2016 NTT corp. All Rights Reserved. • JavaOne 2016 (9/18-22)にて Non-blocking JDBC に関するセッションがあった • セッション名: • “JDBC Next – A new non-blocking API for connecting to a database” • 発表者はOracleの人で、JDBC Expert Group メンバ • 内容 • 現行JDBCの拡張や置き換えではなく、現行JDBCと選択するものになる(らしい) • Oracle が Oracle DB のドライバとしてプロトタイプを実装した(らしい) • 今後はJDBC Expert Group に開発が引き継がれる(らしい) • Java10? (まだまだ未定っぽい) Non-Blocking JDBC API ? ※ https://static.rainfocus.com/oracle/oow16/sess/1461693351182001EmRq/ppt/CONF1578%2020160916.pdf

86. 86Copyright©2016 NTT corp. All Rights Reserved. • M4で対応? (予定は未定) • [SPR-14527] Reactive WebSocket adapter layer • WebSocketHandlerのリアクティブ版 • [SPR-14546] Reactive multipart request support • Multipartリクエストへの対応 • [SPR-14534] Reactive HTTP response based RedirectView • “redirect:”プリフィクスによるリダイレクトに対応 • [SPR-14535] Reactive request and response in SpEL expression within @MVC annotations • Controllerメソッド等に使用するアノテーションのSpEL内で、 requestやresponseを参照できるようにする • @PathVariable, @RequestParam, @RequestHeader, etc • など… Future

88. 88Copyright©2016 NTT corp. All Rights Reserved. • Spring Framework Reference Documentation 5.0.0 M3 - 23. Web Reactive Framework • http://docs .s pri n g .io/s pri n g -fram ework / docs /5 .0 .0 . M 3/ sprin g -fram ewor k -r efer ence/ ht ml/ web -r eacti v e.html • The Spring Blog • Notes on Reactive Programming Part I: The Reactive Landscape • h t t p s :// s p r i n g .i o / b l o g / 2 0 1 6 / 0 6 / 0 7 / n o t e s - o n - r e a c t i v e - p r o g r a m m i n g - p a r t - i - t h e - r e a c t i v e - l a n d s c a p e • Notes on Reactive Programming Part II: Writing Some Code • h t t p s :// s p r i n g .i o / b l o g / 2 0 1 6 / 0 6 / 1 3 / n o t e s - o n - r e a c t i v e - p r o g r a m m i n g - p a r t - i i - w r i t i n g - s o m e - c o d e • Notes on Reactive Programming Part III: A Simple HTTP Server Application • h t t p s :// s p r i n g .i o / b l o g / 2 0 1 6 / 0 7 / 2 0 / n o t e s - o n - r e a c t i v e - p r o g r a m m i n g - p a r t - i i i - a - s i m p l e - h t t p - s e r v e r - a p p l i c a t i o n • Understandi n g Reactive types • h t t p s :// s p r i n g .i o / b l o g / 2 0 1 6 / 0 4 / 1 9 / u n d e r s t a n d i n g - r e a c t i v e - t y p e s • thymeleafsandbox-springreactive • https://gith u b.com/t h ym el eaf/t hy m elea fsan dbox -sprin g reactiv e • MongoDB Reactive Streams Java Driver • https://mong odb.gi th u b.i o/ mon g o -java -driv er -rea ctiv estr eams / • Database async driver • Postgres-as yn c -dri ver • h t t p s :// g i t h u b . c o m /a l a i s i / p o s t g r e s - a s y n c - d r i v e r • PostgreSQL and MySQL async driver • h t t p s :// g i t h u b . c o m /m a u r i c i o / p o s t g r e s q l - a s y n c • サンプルコード • Spring-r eacti ve -pla yg rou n d (Spring Web Reactive と Mongo/ Cou ch ebas e/Post gr eSql のサンプル) • h t t p s :// g i t h u b . c o m /s d e l e u z e / s p r i n g - r e a c t i v e - p l a y g r o u n d • スライド • Imperative to Reactive Web Applications • h t t p ://w w w .s l i d e s h a r e . n e t / S p r i n g C e n t r a l /i m p e r a t i v e - t o - r e a c t i v e - w e b - a p p l i c a t i o n s • Reactive Webアプリケーション - そしてSprin g 5へ • h t t p :// w w w .s l i d e s h a r e . n e t / m a k i n g x / r e a c t i v e - w e b - s p r i n g - 5 - j j u g c c c - c c c e f 3 • Servlet 3.1 Async I/O • h t t p :// w w w .s l i d e s h a r e . n e t / S i m o n e B o r d e t / s e r v l e t - 3 1 - a s y n c - i o • JDBC Next – A new non-blocki n g API for connectin g to a database • h t t p s :// s t a t i c . r a i n f o c u s . c o m /o r a c l e / o o w 1 6 / s e s s / 1 4 6 1 6 9 3 3 5 1 1 8 2 0 0 1 E m R q /p p t /C O N F 1 5 7 8 % 2 0 2 0 1 6 0 9 1 6 .p d f • 書籍 • パーフェクトJava EE • h t t p:// g i h y o . j p /b o o k / 2 0 1 6 / 9 7 8 - 4 - 7 7 4 1 - 8 3 1 6 - 9 • Spring徹底入門 Spring Framework による Javaアプリケーション開発 • h t t p:// w w w .s h o e i s h a . c o . j p / b o o k / d e t a i l /9 7 8 4 7 9 8 1 4 2 4 7 0 • 論文 • Guido Salvaneschi , Mira Mezini. 2016. Debuggin g reactive programming with reactive inspector . • Engineer Bainomugisha , Andoni Lombide Carreton , Tom Van Cutsem, Stijn Mostinckx , Wolfgang De Meuter. 2013. A survey on reactive programming . • Gérard Berry. 1989. Real Time Programming: Special Purpose or General Purpose Languages. • Antony Courtney . 2001.Frappé : Functional Reactive Programming in Java . 参考文献