Serverless Computing 101 Serverless로 만드는 CEK Serverless 프레임워크로 익스텐션 운영하기

1. Serverless로 만드는
쉽고 효율적인 Clova Extension
NAVER PaaS
오승현

2. 발표자 소개
오승현
NAVER PaaS
사내 Serverless 플랫폼 개발 중
Apache Openwhisk 코드 기여
Serverless를 활용한 클로바 CEK로 사내 엔지니어링 데이 참가

3. Contents 1
2
3
Serverless Computing 101
서버리스로 만드는 클로바 익스텐션 (클로바로 잃어버린 내 폰 찾기 )
서버리스 프레임워크로 익스텐션 운영하기

4. 1 Serverless Computing 101
Runtimes, Function as a Service

5. 1. Serverless Computing 101

6. 1. Serverless Computing 101

7. 1. Serverless Computing 101
Serverless
서버가 없는 건가요?

8. 1. Serverless Computing 101
추상화된
서버
함수 단위
동작
사용한만큼
지불
유연하고 빠른
확장성

9. 1. Serverless Computing 101
* Event Driven
Cloud Computing Service

10. 1. Serverless Computing 101
클로바에게
불을 켜달라고 한다
Event
불을 켠다
Action

11. 1. Serverless Computing 101
불을 켜줘!
API Server
9AM 9PM12AM
전통적인 방식에서의 사용자 이벤트 처리
이벤트(request) 대기

12. 1. Serverless Computing 101
불을 켜줘!
API Server
9AM 9PM12AM
사용하지 않아도 비용 지불

13. 1. Serverless Computing 101
불을 켜줘!
API Server
9AM 9PM12AM
장애 대응에 대한 운영 이슈

14. 1. Serverless Computing 101
HA, LB, Active-Active, Active-Passive …
Failover
Auto scaling, Scale Up, Scale Out
Monitoring (Health Check)
서버가 늘어날 때마다 늦어지는 퇴근시간

15. 1. Serverless Computing 101
Serverless
서버리스에서의 이벤트 처리

16. 자원 할당
1. Serverless Computing 101
이벤트 발생
Stateless
코드 실행
자원 회수

17. 1. Serverless Computing 101
Resource
서버의 자원을 시간 축으로 공유
이벤트 발생시에만 자원 할당 및 요금 지불
불을 켜줘!
10ms
불을 켜줘!
10ms
불을 켜줘!
10ms

18. 1. Serverless Computing 101
서버의 자원을 시간 축으로 공유
이벤트 발생시에만 자원 할당 및 요금 지불
10ms 10ms 10ms
= 30ms

19. 1. Serverless Computing 101
Resource
유연한 확장성 (Scalability)
불을 켜줘!
Resource
Resource
Resource
불을 켜줘! 불을 켜줘!
Scale Out

20. 1. Serverless Computing 101
$ 33.97
(Cloud Computing Service)
+ extra cost for Autoscaling / LB
t2.medium 2Core, 4GB
1000만 건 요청 처리 비용 비교 (A사)
$ 1.80
(Cloud Function Service)
Memory 256Mb

21. 1. Serverless Computing 101
서버 자원을 프로비저닝 하거나 관리할 필요 없음
오로지 비지니스로직(Code) 에만 집중
이벤트(Event)에 의해 알아서 실행 및 확장

22. 1. Serverless Computing 101
사용자 호출에 따른
이벤트(Event) 기반으로 동작하는 와 아주 잘 맞음!

23. 1. Serverless Computing 101

24. 2 서버리스로 만드는 Clova Extension
클로바로 잃어버린 내폰 찾기

25. 2. 서버리스로 만드는 Clova Extension

26. 2. 서버리스로 만드는 Clova Extension

27. 24/ 30
2. 서버리스로 만드는 CEK<데모영상, 아이폰찾기>

28. 1. Interaction 모델
Clova에서 interaction 모델이란, 음성으로부터 인식된 사용자의 요청을
extension에 전달하기 위해 정형화된 포맷(JSON)으로 바꿔주는 규칙을 명
세한 것입니다.
2. Extension 서버 (HTTPS)
Extension이 실행되는 웹 서버입니다. Clova가 사용자의 발화를 분석한 결과나 기
본적으로 제공하는 의도를 전달했을 때 extension 서버는 이를 처리하여 알맞은 응
답을 반환합니다.
2. 서버리스로 만드는 Clova Extension

29. 2. 서버리스로 만드는 Clova Extension
Slot (정보) Intent (의도)Extension 이름
내폰찾기로 아이폰 찾아줘

30. 2. 서버리스로 만드는 Clova Extension
Find My iPhone
Extension
API Server
Find My Phone Service
ClovaAPI Service
24/7 Operation
(HA/Scales/Failover)
내폰찾기 Extension 운영에 필요한 시스템 아키텍쳐
JSON
(Slot, Intent)
Request

31. 2. 서버리스로 만드는 Clova Extension
Find My iPhone
Extension
Function
Find My Phone Service
ClovaAPI Service
24/7 Operation
(HA/Scales/Failover)
서버리스로 웹 API 서버 추상화 & 함수만 작성

32. 2. 서버리스로 만드는 CEK
Microservice on Serverless
- UI에서 바로 작성하고 서비스를 배포하는 것이 가능
- 웹 액션으로 만들고 API Gateway를통해 end-point 설정 및 CEK 연동

33. 2. 서버리스로 만드는 CEK
Microservice on Serverless
- UI에서 바로 작성하고 서비스를 배포하는 것이 가능
- 웹 액션으로 만들고 API Gateway를통해 end-point 설정 및 CEK 연동

34. 2. 서버리스로 만드는 CEK
Microservice on Serverless
- 대부분 클라우드 업체에서 API Gateway를통한 HTTPS 프로토콜 기본 제공
- 별도의 SSL 인증서 구축 필요 없음

35. 24/ 30
2. 서버리스로 만드는 CEK<데모영상, 갤럭시찾기>

36. 2. 서버리스로 만드는 CEK
Microservice on Serverless
- 신속하게 새로운 서비스 연동 및 기능 추가 가능
Find My iPhone
Extension
Function
Find My Phone Service
ClovaAPI Service
VoIP Call
IFTTT VoIP Service
ICloud
Function
IFTTT
Function
새로운 서비스 연동 / 스펙 변경

37. 2. 서버리스로 만드는 CEK
Microservice on Serverless
- 신속하게 새로운 서비스 연동 및 기능 추가 가능
Find My iPhone
Extension
Function
Find My Phone Service
ClovaAPI Service
VoIP Call
IFTTT VoIP Service
ICloud
Function
IFTTT
Function
BUILD / TEST / DEPLOY ?

38. 2. 서버리스로 만드는 CEK
Microservice on Serverless
- 신속하게 새로운 서비스 연동 및 기능 추가 가능
Find My iPhone
Extension
Function
Find My Phone Service
ClovaAPI Service
VoIP Call
IFTTT VoIP Service
ICloud
Function
IFTTT
Function
BUILD / TEST / DEPLOY / PRAY

39. 2. 서버리스로 만드는 CEK
Microservice on Serverless
- 신속하게 새로운 서비스 연동 및 기능 추가 가능
Find My iPhone
Extension
Function
Find My Phone Service
ClovaAPI Service
VoIP Call
IFTTT VoIP Service
ICloud
Function
IFTTT
Function
함수 단위로 테스트 및 신속한 서비스 배포 가능

40. 2. 서버리스로 만드는 CEK
마이크로 서비스에서 더 작은 함수 단위로 쪼개는 것이 가능
함수가 너무 많아지고 복잡해지는데.. => 함수 단위 서비스 관리(배포/빌드/테스트)의 필요!
복잡도
모노리스 마이크로서비스 서버리스
부하 분산
비용 절감
PaaS

41. 3 서버리스 프레임워크

42. 3. 서버리스 프레임워크 소개

43. 3. 서버리스 프레임워크 소개

44. 3. 서버리스 프레임워크 소개
4 / 30
풍부한 커뮤니티 지원

45. 3. 서버리스 프레임워크 소개
$ npm install serverless ­g
$ serverless create --template hello-world
Serverless Framework 시작하기

46. 3. 서버리스 프레임워크 소개
Credentials 설정
(클라우드 컴퓨팅 업체별로 별도 설정 필요,공식 문서 참조)
$ serverless config credentials --provider PROVIDER --key KEY –secret SECRET

47. 3. 서버리스 프레임워크 소개
Infrastructure as a codeFunction code

48. 3. 서버리스 프레임워크 소개
4 / 30
서비스 이름
메모리 / 시간제한
사용 언어 (NodeJS/ Python ..)
함수이름
API Gateway 설정 (이벤트)

49. 3. 서버리스 프레임워크 소개
Function Code, Infrastructure 형상 관리
CI (Continuous Integration) 를 통한 테스트 / 빌드 / 배포

50. 3. 서버리스 프레임워크 소개
마이크로 서비스를 운영하는데 필요한 파일 크기 6kb

51. 3. 서버리스 프레임워크 소개
배포에 필요한 시간 1초
$ serverless deploy

52. 3. 서버리스 프레임워크 소개
시스템 운영보다 사용자에게 더 나은 서비스를 제공하기 위한 고민
서비스 고민 함수 작성 서비스 공개

53. 3시간
내폰 찾기 서비스를 고민하고 CEK 연동까지 걸린 시간
3. 서버리스 프레임워크 소개

54. 클로바가 언제나 핸드폰을 찾아준다는 믿음
지난 한달 간 서비스를 운영/관리하지 않았습니다..
3. 서버리스 프레임워크 소개

55. Thank you.
designed by Seonghyun from Flaticon