那些大家常忽略的 Cache-Control

那些大家常忽略的 Cache-Control
Kewang

Who I am
● 王慕羣 Kewang
● Java / PHP / Node.js / AngularJS
● HBase / SQL-like
● Git / DevOps
●
熱愛開源
GitHubGitHub kewangkewang
LinkedinLinkedin kewangtwkewangtw
SlideShareSlideShare kewangkewang
GmailGmail cpckewangcpckewang
FacebookFacebook Kewang 的資訊進化論Kewang 的資訊進化論
modernwebmodernweb '18'18
devopsday taipeidevopsday taipei '17'17
jcconfjcconf '16 '17'16 '17
hadoopconhadoopcon '14 '15'14 '15
mopconmopcon '14'14

Funliday
●
最棒的旅遊規劃 App

Funliday
●
●
輕鬆拖拉規劃完整路徑

Funliday
●
●
●
行程共同編輯

Funliday
●
●
●
行程共同編輯
●
旅遊社群

12
Agenda
● HTTP Cache-Control

13
Agenda
● Guava Cache

14
Agenda
● Guava Cache
● Web Server

15
Agenda
● Guava Cache
● Web Server
● ZooKeeper

17
不會提到
● In-memory database (Redis, Memcached...)

18
不會提到
● In-memory database (Redis, Memcached...)
● How to tuning JVM

19
Live DEMO
https://github.com/kewang/cache-control-boilerplate

22
各種 Header - 1
● Cache-Control

23
各種 Header - 1
● Cache-Control
– no-cache ：先與 server 確認資料是否已變更，再決定
是否用 cache

24
各種 Header - 1
● Cache-Control
是否用 cache
– no-store ：完全不使用 cache

25
各種 Header - 1
● Cache-Control
是否用 cache
– public ：資料可以儲存在公開 cache ，如 CDN

26
各種 Header - 1
● Cache-Control
是否用 cache
– private ：資料僅能儲存在私有 cache ，如瀏覽器

27
各種 Header - 1
● Cache-Control
是否用 cache
– private ：資料僅能儲存在私有 cache ，如瀏覽器
– max-age ：資料新鮮度，可使用的時間長度 ( 秒 )

29
各種 Header - 2
● Last-Modified

30
各種 Header - 2
● Last-Modified
– 資料最後一次的修改時間

31
各種 Header - 2
● Last-Modified
– server 回傳給 client 的 response

32
各種 Header - 2
● Last-Modified
– 與 If-Modified-Since 搭配使用

33
各種 Header - 2
● Last-Modified
● If-Modified-Since

34
各種 Header - 2
● Last-Modified
– client 送給 server 詢問這個時間後是否有做修改

35
各種 Header - 2
● Last-Modified
– 如果有修改，則回傳新資料 (200) 給 client

36
各種 Header - 2
● Last-Modified
– 如果沒修改，則僅回傳沒有變更 (304) 給 client

39
各種 Header - 3
● ETag
– 此次資料的 hash 值

40
各種 Header - 3
● ETag
● inode+ 檔案大小 + 最後修改時間

41
各種 Header - 3
● ETag
●
檔案內容

42
各種 Header - 3
● ETag
●
檔案內容
●
其他方式

43
各種 Header - 3
● ETag
●
檔案內容
●
其他方式

44
各種 Header - 3
● ETag
●
檔案內容
●
其他方式
– 與 If-None-Match 搭配使用

45
各種 Header - 3
● ETag
●
檔案內容
●
其他方式
● If-None-Match

46
各種 Header - 3
● ETag
●
檔案內容
●
其他方式
● If-None-Match
– client 送給 server 詢問資料內容是否有做修改

47
各種 Header - 3
● ETag
●
inode+ 檔案大小 + 最後修改時間
●
檔案內容
●
其他方式
● If-None-Match

48
各種 Header - 3
● ETag
●
inode+ 檔案大小 + 最後修改時間
●
檔案內容
●
其他方式
● If-None-Match
– 如果沒修改，則僅回傳沒有變更 (304) 給 client

52
流程圖 - 1
## 回傳給瀏覽器
* 快取有效時間為 120 秒
* 驗證值為 x234dff

56
流程圖 - 2
## 再次跟伺服器送出請求
* 如果驗證值與 x234dff 不相符，則回傳新資料

57
流程圖 - 2

58
流程圖 - 2
## 回傳給瀏覽器
* 如果驗證值與 x234dff 相符，則僅回傳 304 Not Modified

60
Population 1
LoadingCache<Integer, String> cache = CacheBuilder.newBuilder()
.build(new CacheLoader<Integer, String>() {
@Override
public String load(Integer integer) {
return "item" + integer;
}
});
int key = scanner.nextInt();
String value = cache.get(key);
System.out.println("cache item: " + value);

61
Population 2
Cache<Integer, String> cache = CacheBuilder.newBuilder().build();
int key = scanner.nextInt();
String value = cache.get(key, new Callable<String>() {
@Override
public String call() {
return "item" + key;
}
});
System.out.println("cache item: " + value);

63
Eviction - Size-based
● maximumSize(long)

64
Eviction - Size-based
● maximumSize(long)
● weigher(Weigher) & maximumWeight(long)

66
Eviction - Timed
● expireAfterAccess(long,TimeUnit)

67
Eviction - Timed
● expireAfterAccess(long,TimeUnit)
● expireAfterWrite(long,TimeUnit)

68
Eviction - Explicit Removals

69
● invalidate(Object)

70
● invalidateAll(Iterable<?>)

71
● invalidateAll()

72
● invalidateAll()
● removalListener(RemovalListener)

74
Eviction - Others
● weakKeys()

75
Eviction - Others
● weakKeys()
● weakValues()

76
Eviction - Others
● weakKeys()
● weakValues()
● softValues()

78
Other features
● recordStats()

79
Other features
● recordStats()
● asMap()

80
Live DEMO
https://github.com/kewang/cache-control-sample

82
Web Server
開始大量程式碼

83
Start Server - 1
public static void main(String[] args) {
HttpServer server = startServer();
ETagCacheManager.init();
System.out.println("Started at " + BASE_URI));
String ret = "";
Scanner scanner = new Scanner(System.in);
while (!ret.equalsIgnoreCase("stop")) {
ret = scanner.next();
}
server.stop();
}

84
Start Server - 1
String ret = "";
}
server.stop();
}

85
Start Server - 1
String ret = "";
}
server.stop();
}
## ZooKeeper 連線初始化

86
Start Server - 2
ResourceConfig rc = new ResourceConfig().packages("tw.kewang");
rc.register(UserInfoFilter.class);
rc.register(CacheFilterFactory.class);
return GrizzlyHttpServerFactory.createHttpServer(BASE_URI, rc);

87
Start Server - 2

88
Start Server - 2
## 運作 Cache-Control 機制的 filter

89
Register CacheFilterFactory - 1
MaxAge maxAge = method.annotation(MaxAge.class);
if (maxAge != null) {
register(new MaxAgeFilter(maxAge.value(), maxAge.unit()));
}
CacheControl cc = method.annotation(CacheControl.class);
if (cc != null) {
register(new ETagFilter(cc));
}

90
}
if (cc != null) {
}

91
}
if (cc != null) {
}
## 判斷 request ETag 的 filter

92
Register MaxAge filter - 1
@Retention(RetentionPolicy.RUNTIME)
@Target(ElementType.METHOD)
public @interface MaxAge {
long value();
TimeUnit unit() default TimeUnit.SECONDS;
}

93
Register CacheControl filter - 1
public @interface CacheControl {
Class<? extends ETagCache> cacheType();
/**
* order USER_ID, HEADER, PATH_PARAMETER, QUERY_PARAMETER
*/
KeyType[] keyType();
String[] headers() default "";
String[] pathParameters() default "";
String[] queryParameters() default "";
KeyType extraType() default KeyType.UNDEFINED;
String extraValue() default "";
}

94
/**
*/
}

95
/**
*/
}
## 確定要用哪種 ETagCache

96
/**
*/
}

97
/**
*/
}
## ETag key 的組成方式

98
Cache cache = (Cache) cacheType.newInstance().getCache();
if (cache == null) {
return;
}
ETag etagObj = retrieveETagObj(requestContext, cache);
if (etagObj == null) {
return;
}

99
return;
}
return;
}

100
return;
}
return;
}
## 若 cacheType 無法對應
* 回原 service 執行流程

101
return;
}
return;
}

102
return;
}
return;
}
## 若無法從對應 key 取回資料

103
String etagKey = etagObj.getETagKey();
String ifNoneMatch = context.getHeaderString(IF_NONE_MATCH);
if (StringUtils.isEmpty(ifNoneMatch)) {
context.abort(ResUtils.ok(etagObj.getETagValue(), etagKey));
} else if (etagKey.equals(ifNoneMatch)) {
context.abort(ResUtils.notModified(ifNoneMatch));
}
printCacheStats(cache);

104
}

105
}
## 若 If-None-Match 為空
* 回傳 200 及 cache 內的資料

106
}
* 回傳 200 及 cache 內的資料

107
}
* 回傳 200 及 cache 內的資料 ## 若 If-None-Match 與 key 相同
* 僅回傳 304

108
Register resource - 1
@GET
@MaxAge(3)
@CacheControl(cache = GetCache.class, key = Type.USER_ID)
Response getArticles(HttpHeaders httpHeaders, int size) {
GetArticleRequest request = new GetArticleRequest();
request.size = size;
GetArticleService service = new GetArticleService();
GetArticleResponse response = service.execute(request);
return ResponseUtils.ok(response);
}

109
@GET
@MaxAge(3)
}

110
@GET
@MaxAge(3)
}
## GET /articles 的 filter
* response => max-age: 3
* request => 註冊正確的 cache 及 key 的產生方式

111
public static Response ok(BasicResponse response) {
String json = response.toJson();
ResponseBuilder builder = Response.ok(json);
ETagCache etagCache = response.getETagCache();
if (etagCache != null) {
return builder.tag(etagCache.toHash()).build();
} else {
return builder.build();
}
}

112
} else {
}
}

113
} else {
}
}
## 在 response 加上 ETag 後回傳至 client

114
Implement service - 1
public class GetArticleService
extends Service<GetRequest, GetResponse>
implements Cacheable<GetCache> {
}

115
}

116
}
## 執行 service 時確認可以被 cache

117
@Override
public BasicResponse processing(GetRequest request) {
GetResponse response = retrieveFromDatabase(request);
setCacheKey(UserInfoHolder.getUserInfo().userId);
setCacheValue(response.toJson());
return response;
}

118
@Override
return response;
}

119
@Override
return response;
}
## 儲存到 cache 的方式
* cacheKey ：常用各種 ID 儲存，必須與 @CacheControl 對應
* cacheValue ：常用 response 儲存

121
ZooKeeper server architecture

122
ZooKeeper server architecture

126
Features
●
最終一致性

127
Features
●
最終一致性
●
可靠性

128
Features
●
最終一致性
●
可靠性
●
即時性

130
Scenarios
●
設定檔管理

131
Scenarios
●
設定檔管理
● Dynamic DNS

132
Scenarios
●
設定檔管理
● Dynamic DNS
● Message Queue

133
Scenarios
●
設定檔管理
● Dynamic DNS
● Message Queue
● Heartbeat detection

134
Scenarios
●
設定檔管理
● Dynamic DNS
● Message Queue
● Heartbeat detection
● Master election

136
用途
將所有 web 的 cache 都 invalidate

138
1. Init
/
ns
caches
invalidation

139
1. Init
/
ns
caches
invalidation

140
1. Init
/
ns
caches
invalidation
## ETagCacheManager.init()
* 監聽 /caches/invalidation 是否產生變化

142
2. Invalidate
/
ns
caches
invalidation
/d6ba5233-ea17-4fbb-a331-9fefb230fd78/caches/GetArticlesETagCache/kewang

143
2. Invalidate
/
ns
caches
invalidation

144
2. Invalidate
/
ns
caches
invalidation
## 當 cache 要 invalidate 時
* 新增 znode ，並寫入資料

146
3. Notify node
/
ns
caches
invalidation
/d6..78/caches/GetArticlesETagCache/kewang GetArticlesETagCache
kewang

147
3. Notify node
/
ns
caches
invalidation
kewang

148
3. Notify node
/
ns
caches
invalidation
kewang
## 使用 Leader Election 機制
* 選出 leader ， leader 將 cache invalidate
* leader 退出此次 election ，讓給其他 follower

149
References
● HTTP caching (MDN)
●
HTTP 快取 (Google Web Fundamentals)
●
循序漸進理解 HTTP Cache 機制
●
從Paxos到Zookeeper分散式一致性原理與實例

那些大家常忽略的 Cache-Control

Recommended

Recommended

More Related Content

What's hot

What's hot (19)

Similar to 那些大家常忽略的 Cache-Control

Similar to 那些大家常忽略的 Cache-Control (20)

More from Mu Chun Wang

More from Mu Chun Wang (18)

那些大家常忽略的 Cache-Control