Serverless時代のJavaについて

© 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Serverless時代の
Javaについて
AWS Presents, Battle against Massive Load
using Your Super Sonic Lambda Function!
1
@_kensh
Kensuke Shimokawa
Amazon Web Services Japan

Who?
2
•Name
• 下川賢介
• Kensuke Shimokawa
•Company
• Amazon Web Services Japan
•Role
• Serverless Specialist
Solutions Architect
@_kensh

agenda
3
•Serverless って何ですか?
•Serverless Java チューニング
•まとめ

© 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved. 4
Serverless って何ですか?

Amazon では、、、
モノリス
2001 2002
マイクロサービス
+ 2 ピザルール

役割の違い
モノリス
(全てを担当)
マイクロサービス
(単一機能を担当)

マイクロサービスアーキテクチャの例
7

マイクロサービスの特徴

モノリスのデリバリーパイプライン
9
開発者サービス
デリバリーパイプライン

マイクロサービスのデリバリーパイプライン
10
開発者サービスデリバリーパイプライン

モノリスのスケール
11

マイクロサービスのスケール
12

Javaでマイクロサービスというと
SpringBoot ですよね?

起動に時間がかかる？（本日の主題でもある）
14
• コンテナやServerlessは素早くスケールさせたい。
• ポイントは適度に⼩さい単位への分割
• → よりライトウエイトに、よりロジックだけに
• → プレーンなJavaに
• → 定型機能は特化型フレームワークで
AWS Lambda + Java
という選択肢はどうですか?

© 2019, Amazon Web Services, Inc. or its affiliates. All rights reserved.© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. 15
HTTPS event
Amazon API Gateway AWS Lambda
Serverlessにするとマイクロサービスが作りやすい

サービスで考慮すること

サービス運用者の気持ち
17
インフラを
管理したくない
サービスを
スケールさせたい
コスト効率を上げたい
高可用性や
セキュリティ要件
を満たしたい

AWS Lambdaについて

AWS Lambda
19

（注意）Java Lambda Expressionのことではありません！
20
() -> System.out.println("Zero parameter lambda");

AWS Lambda
21
インフラの
プロビジョニング不要
自動でスケール
使った分だけの
お支払い
高可用性かつ安全

WEBサーバー
アプリケーション
サーバー
HTTPS HTTP
これまでの環境

HTTPS event
Serverlessにすると
ロジック
ロジック
ロジック

動作の仕組み
24
f(x) = {…}
呼び出し元処理対象
例・API呼び出し
・データ変更イベント
・ファイル配置イベント…
例・DBアクセス
・ファイル出力
・別の処理を呼び出し…
負荷に応じて
処理を多重化
リソース管理リトライログ出力
g(x) = {…}
h(x) = {…}

Sample Code
25
package example;
import example.Event;
import example.Response;
import com.amazonaws.services.lambda.runtime.Context;
public class Handler {
public Response myHandler(Event event, Context context) {
Response response = new Response();
String json = getJsonResponse(event);
response.setBody(json);
response.setStatusCode(200);
return response;
}
}
完全修飾クラス名::メソッド名

Sample Code
26
この関数を呼び
出すサービス
Runtime言語の指定
Java 11 も選択可能
完全修飾クラス名::メソッド名

実はJava以外のRuntimeも利用できます。
27

ColdStart について

ColdStart と WarmStart
① ① ①
ColdStart
② ②
②
ColdStart

ColdStart と WarmStart
③ ③ ③
WarmStart
② ②
②
ColdStart
3 requests, 2 concurrency

でも、ColdStartってJavaだけ？

ColdStartを強制的に発生させる
32
for i in {1..100}
do
serverless deploy -f hello --force > /dev/null
curl -s -o /dev/null ¥
-w "%{time_starttransfer}¥n” <API URL>
done

Serverless Java チューニング

Lambda の Life Cycle
34
Warm StartCold Start
コンテナ
生成
パッケージ
ロード
パッケージ
展開
ランタイム
起動
初期化
関数・メソッド
起動
デプロイ

Lambda の Life Cycle
35
コンテナ
生成
パッケージ
ロード
パッケージ
展開
ランタイム
起動
初期化
起動
デプロイ
Zipサイズ最小化
遅延ロード
依存最小化

不要ライブラリを依存から排除
（Zipサイズ最小化+依存最小化）
36
dependencies {
runtimeOnly group: 'org.springframework’,
name: 'spring-core', version: '2.5'
runtimeOnly 'org.springframework:spring-core:2.5',
'org.springframework:spring-aop:2.5'
runtimeOnly(
[group: 'org.springframework', name: 'spring-core', version: '2.5'],
[group: 'org.springframework', name: 'spring-aop', version: '2.5']
)
runtimeOnly('org.hibernate:hibernate:3.0.5') {
transitive = true
}
runtimeOnly group: 'org.hibernate', name: 'hibernate', version: '3.0.5’,
transitive: true
runtimeOnly(group: 'org.hibernate', name: 'hibernate', version: '3.0.5') {
transitive = true
}
(snip)
少なくする

プレーンJavaで書く（さらに、Zipサイズ最小化）
37
public class Handler {
public Response myHandler(Map<String, Object> event,
Context context) {
Response response = new Response();
String json = getJsonResponse(event);
response.setBody(json);
response.setStatusCode(200);
return response;
}
}

AWS Lambdaのベストプラクティス
38
https://docs.aws.amazon.com/ja_jp/lambda/latest/dg/best-practices.html

プレーンJavaでは機能横断的な
要件を満たせないのでは？

機能横断的要件（あるいは非機能要件）

機能横断的要件（あるいは非機能要件） by Spring Boot
41
Spring Boot Actuator
ログ
Spring Security
認証認可
Layer7攻撃対策
パスワードポリシーメトリクス
トレース
FAT jar

FAT jarでLambdaを動かそうとすると
FAT jar
FAT jar
FAT jar
ColdStart Latencyが増大

Jarを痩せ細らせたい
43
FAT jar
Skinny jar
アプリケーションロジック
依存ライブラリ
アプリケーションサーバー

機能横断的要件（あるいは非機能要件） by AWS Lambda
44
ログ認証認可
Layer7攻撃対策
パスワードポリシーメトリクス
トレース
Skinny jar
AWS X-Ray AWS WAFAWS Lambda
Amazon CloudWatch Amazon Cognito
Amazon
API Gateway
ロジック

You aren't gonna need it
最初から機能追加すべきではない。
Martin Fowler
YAGNI

機能横断的要件（あるいは非機能要件） by AWS Lambda
46
ログ
メトリクス
AWS Lambda
Amazon CloudWatch
必要最低限から構築できる。

Skinny jarでLambdaを動かすと
ColdStartが抑制される
Skinny jar
Skinny ja
Skinny

それでもFrameworkを使いたい。

まずはプリミティブな構成から考えていく
49
AWS SDK for Java
最小構成
https://docs.aws.amazon.com/ja_jp/sdk-for-java/v2/developer-guide

アイデアとしては、
50
AWS SDK for Java
最小構成 + compile-time DI
https://dagger.dev/
Dagger は完全に静的な,
compile-time
dependency injection
framework

run-time dependency injection
51
コンテナ
生成
パッケージ
ロード
パッケージ
展開
ランタイム
起動
初期化
起動
デプロイ
run-time
通常のDI
o constructor
o static field
o handler

compile-time dependency injection
52
コンテナ
生成
パッケージ
ロード
パッケージ
展開
ランタイム
起動
初期化
起動
デプロイ
compile-time

これで満足？

最近のFrameworkの規模感
54
出典 https://dmitrykornilov.net/2018/09/07/helidon-takes-flight/
やっぱり手慣れた
Spring Bootで開発したい！

Spring Boot を Lambdaにのせる

FAT jar
Skinny jar
AWS SDK for Java

Thin jar

Thin jar ＝ロジック +
− アプリケーションサーバー

aws-serverless-java-container

60
https://github.com/awslabs/aws-serverless-java-container
コ
ー
ドは
こ
ち
ら

https://aws.amazon.com/blogs/opensource/java-apis-aws-lambda
導
入
方
法
は
こ
ち
ら

アプリデプロイ（抜粋）
62
git clone
mvn package
sam package
sam deploy
AWS SAM

63
Amazon
API Gateway
AWS Lambda
クライアント
Request
Response
Event
HttpServletRequest
HttpServletResponse
Return Value
Thin jar No App Server

置き換え可能
対応Framework
64
AWS Lambda
Thin jar No App Server

マイクロフレームワークで高速化

最近のFrameworkの規模感（再掲）
66
出典 https://dmitrykornilov.net/2018/09/07/helidon-takes-flight/
マイクロフレームワーク

compile-time
dependency injection
と AOP
GraalVM
に対応
宣言的
リアクティブ

GraalVMについて

GraalVMの簡単な紹介
69
• Oracle が開発している新たな JVM。JDK8 の代⽤として利⽤できる。
• Java 以外の⾔語も取り扱える Polyglot な JVM で、⾔語間通信ができる。
• ネイティブコードをバイナリとして⽣成できる。
-> Lambda で利⽤することで、Java のコールドスタートの軽減が⾒込まれる。
• ※AWS Lambdaのカスタムランタイムを利⽤したランタイム実装はAWSサ
ポート対象外
• マイクロサービス向けの Java フレームワーク (Micronaut, Quarkus 等) と相
性が良い。
-> メモリのフットプリントを抑えることができる。
• ※Micronaut, QuarkusはAWSサポート対象外
• 2019/05/09 に GA し Twitter が本番環境で採⽤。Community Edition と
Enterprise Edition がある。
• Community Edition のライセンスはクラスパス例外付きの GPL v2.0。
-> OpenJDK 等と同様に、利⽤のみであれば GPL は適⽤されない。
• ※GraalVMはOracle製品であり、AWSサポート対象外

GraalVMの簡単な紹介
70
実行可能な環境
提供する言語
https://www.graalvm.org/docs/

GraalVMの仕組み
71
LLVM言語
インタプリタ言語

HotSpot VM - これまでの標準的な JVM 実装
72
HotSpot VM
C1 C2
Java Source Code
AOT Compile
Java Byte Code
JIT Compile
(パフォーマンスに影響する部分を動的コンパイル)
Interpreter 実⾏
Native Code
javac
・C1 :
素早い起動が求められる GUI アプリ向けの
JIT コンパイラ (クライアントアプリ向け)
・C2 :
⻑時間実⾏されるサーバーサイド向けの
JIT コンパイラ

GraalVM 全体図
73
HotSpot VM
C1 JVMCI
Java Source Code
AOT Compile
Java Byte Code
Interpreter 実⾏
javac
Graal
Source Code
(インタプリタ⾔語)
Source Code
(LLVM 対応⾔語)
Sulong
AST Compile
LLVM Compile Truffle AST
Truffle 互換
Compiler
JIT Compile
Substrate VM
静的コンパイル
Native Code

GraalVM 全体図
74
HotSpot VM
C1 JVMCI
Java Source Code
AOT Compile
Java Byte Code
Interpreter 実⾏
javac
Graal
Source Code
Source Code
(LLVM 対応⾔語)
Sulong
AST Compile
Truffle 互換
Compiler
JIT Compile
Substrate VM
Native Code
・Truffle :
Graal がインタプリタ⾔語を解釈するために満
たすべき要件をまとめたフレームワーク。
・Truffle AST :
Graal が解釈可能なインタプリタ⾔語の構造化
形式。
・Sulong :
LLVM の Bitcode を Truffle AST に変換する
プログラム。

GraalVM 全体図
75
HotSpot VM
C1 JVMCI
Java Source Code
AOT Compile
Java Byte Code
Interpreter 実⾏
javac
Graal
Source Code
Source Code
(LLVM 対応⾔語)
Sulong
AST Compile
Truffle 互換
Compiler
JIT Compile
Substrate VM
Native Code
・Graal :
JVMCI 経由で JIT コンパイルを⾏う Java ベースの
プログラム。
・JVMCI (JVM Compiler Interface) :
HotSpot VM の JIT コンパイル関連リソースにアク
セスするためのインタフェース。

GraalVM 全体図
76
HotSpot VM
C1 JVMCI
Java Source Code
AOT Compile
Java Byte Code
Interpreter 実⾏
javac
Graal
Source Code
Source Code
(LLVM 対応⾔語)
Sulong
AST Compile
Truffle 互換
Compiler
JIT Compile
Substrate VM
Native Code
・Substrate VM :
実⾏可能なネイティブコードにコンパイルすることがで
きる。そのため、事前に Java のバイトコードをバイナ
リ化することができる。

GraalVM ✖ Micronaut を取り込む
77
コンテナ
生成
パッケージ
ロード
パッケージ
展開
ランタイム
起動
初期化
起動
デプロイ
compile-time

JVM起動不要なNativeカスタムランタイム
78
AWS Lambda
Native
Modules
ランタイムでは
や、ビジネス固有
のロジックは、
Nativeとして
実行される。

GraalVM ✖ Micronaut のデプロイ（抜粋）
79
git clone
gradle compile
docker build
sam package
sam deploy
AWS SAM
https://github.com/awslabs/aws-serverless-java-container/tree/master/samples/micronaut/pet-store
javac GraalVM

GraalVM ✖ SpringBoot はできないの？
80
コンテナ
生成
パッケージ
ロード
パッケージ
展開
ランタイム
起動
初期化
起動
デプロイ
compile-time
GraalVMの制約により現在は困難。

GraalVMの制約
81
項目サポート
Dynamic Class Loading / Unloading Not supported
Reflection Requires Configuration
Dynamic Proxy Requires Configuration
InvokeDynamic Bytecode and Method
Handles
Not supported
Finalizers Not supported
Security Manager Not supported
https://github.com/oracle/graal/blob/master/substratevm/LIMITATIONS.md

まとめ

Javaでサービスを作る場合
83
モノリスマイクロサービス
• 開発サイクルを高速にまわしたい
• バックエンドリソースを効率よく使いたい

Javaでマイクロサービスを作る場合
84
SpringBoot FAT jar AWS Lambda
• サーバーを管理したくない。
• スケールを管理したくない。

AWS Lambda のランタイムをJavaにする場合
85
FAT jar Skinny jar
• ColdStartを抑制したい。
• ロジックにフォーカスしたい。

AWS Lambdaでフレームワークを使う場合
86
Docker Container
aws-serverless-
java-container
• 既存のSpringBoot資産を活かしたい。
• エンジニアはSpringBootでの開発に慣れている。

aws-serverless-java-containerを使う場合
87
javacで
バイトコードに
GraalVMで
Nativeに
• ColdStartの遅延を解消したい。
• 開発コードに手を入れたくない

AWS Lambdaで GraalVM を使う場合
88
SpringBoot Micronaut
• GraalVM対応フレームワークにしたい。
• DI / AOPも対応したい。

AWS Lambda + JAVA で Serverless開発しましょう！！
89

Thank you!
AWS Presents, Battle against Massive Load
using Your Super Sonic Lambda Function!
90
@_kensh

Serverless時代のJavaについて

More Related Content

What's hot

Similar to Serverless時代のJavaについて

More from Amazon Web Services Japan

Recently uploaded

Serverless時代のJavaについて