SW Architecture 과제

1. 131039 신동찬
Server io 작업 처리 성능 분석
proactor / reactor 서버 io thread 작업 처리 결과

2. 실험 목표
proactor / reactor 서버 접속 개수 변경에 따라 서버 처리 속도 변화 확인
실험 방법
• 두 가지 방식에 대해 동일한 실험 진행
(512byte, 3Kb, 200Kb, 2Mb, 20Mb 스트림 저장)
• 접속 요청 개수 조절을 통한 서버 반응 확인
(1, 3, 5, 20, 50, 100 개로 확인)
기타 세부 조정
• 기본적으로 1접속 당 100번씩 요청하는 것으로 함
(동시 접속 3개 * 100 = 300회)
• 2Mb, 20Mb 경우에는 간략한 실험으로 진행
(접속 1개 당 10회 요청으로 축소)

3. Proactor

4. 512byte(0x9001) 요청시 처리 결과
접속 : 1개
latency : 0 ms
Throughput : 917.4/sec

5. 512byte(0x9001) 요청시 처리 결과
latency : 0 ms
Throughput : 393.7/sec
접속 : 3개

6. 512byte(0x9001) 요청시 처리 결과
접속 : 5개
latency : 0 ms
Throughput : 568.8/sec

7. 512byte(0x9001) 요청시 처리 결과
접속 : 20개
latency : 0 ms
Throughput : 1858.7/sec

8. 512byte(0x9001) 요청시 처리 결과
접속 : 50개
latency : 4 ms
Throughput : 2893.5/sec

9. 512byte(0x9001) 요청시 처리 결과
접속 : 100개
latency : 16 ms
Throughput : 2527.8/sec

10. 512 byte 정리
접속 개수 50개 부터 latency가 발생하기 시작했음

11. 3Kbyte(0x9002) 요청시 처리 결과
접속 : 1개
latency : 0 ms
Throughput : 1087.0/sec

12. 3Kbyte(0x9002) 요청시 처리 결과
접속 : 3개
latency : 0 ms
Throughput : 393.2/sec

13. 3Kbyte(0x9002) 요청시 처리 결과
접속 : 5개
latency : 0 ms
Throughput : 573.4/sec

14. 3Kbyte(0x9002) 요청시 처리 결과
접속 : 20개
latency : 0 ms
Throughput : 1857.0/sec

15. 3Kbyte(0x9002) 요청시 처리 결과
접속 : 50개
latency : 4 ms
Throughput : 2612.3/sec

16. 3Kbyte(0x9002) 요청시 처리 결과
접속 : 100개
latency : 16 ms
Throughput : 2419.0/sec

17. 3Kbyte 정리
역시 접속 개수 50개 부터 latency가 발생 시작

18. 200Kbyte(0x9003) 요청시 처리 결과
접속 : 1개
latency : 2 ms
Throughput : 381.7/sec

19. 200Kbyte(0x9003) 요청시 처리 결과
접속 : 3개
latency : 2 ms
Throughput : 337.8/sec

20. 200Kbyte(0x9003) 요청시 처리 결과
접속 : 5개
latency : 3 ms
Throughput : 410.2/sec

21. 200Kbyte(0x9003) 요청시 처리 결과
접속 : 20개
latency : 25 ms
Throughput : 479.6/sec

22. 200Kbyte(0x9003) 요청시 처리 결과
접속 : 50개
latency : 113 ms
Throughput : 369.9/sec

23. 200Kbyte(0x9003) 요청시 처리 결과
접속 : 100개
latency : 246 ms
Throughput : 375.0/sec

24. 200Kbyte 정리
처음부터 약간의 latency가 발생 시작
접속 20개에서 조금 증가
접속 50개 이후 폭발적인 증가

25. 2Mbyte(0x9004) 요청시 처리 결과
접속 : 1개
latency : 30 ms
Throughput : 32.9/sec

26. 접속 : 3개
latency : 72 ms
Throughput : 37.7/sec
2Mbyte(0x9004) 요청시 처리 결과

27. 접속 : 5개
latency : 135 ms
Throughput : 34.0/sec
2Mbyte(0x9004) 요청시 처리 결과

28. 접속 : 20개
latency : 563 ms
Throughput : 33.1/sec
2Mbyte(0x9004) 요청시 처리 결과

29. 접속 : 50개
latency : 1685 ms
Throughput : 28.7/sec
2Mbyte(0x9004) 요청시 처리 결과

30. 접속 : 100개
latency : 3254 ms
Throughput : 27.3/sec
2Mbyte(0x9004) 요청시 처리 결과

31. 2Mbyte 정리
latency가 이미 감당하지 못 할 정도
Reactor 결과를 보고 비교해 봐야 유의미 할 것 같음

32. 20Mbyte(0x9005) 요청시 처리 결과
접속 : 1개
latency : 246 ms
Throughput : 4.1/sec

33. 접속 : 3개
latency : 959 ms
Throughput : 3.1/sec
20Mbyte(0x9005) 요청시 처리 결과

34. 접속 : 5개
latency : 1532 ms
Throughput : 2.9/sec
20Mbyte(0x9005) 요청시 처리 결과

35. 접속 : 20개
latency : 6613 ms
Throughput : 2.8/sec
20Mbyte(0x9005) 요청시 처리 결과

36. 접속 : 50개
latency : 16132 ms
Throughput : 2.9/sec
20Mbyte(0x9005) 요청시 처리 결과

37. 접속 : 100개
latency : 32580 ms
Throughput : 2.9/sec
20Mbyte(0x9005) 요청시 처리 결과

38. 20Mbyte 정리
latency가 지켜보기 힘들 정도
역시 Reactor와의 비교로 확인할 수 밖에 없음

39. Reactor

40. 512byte(0x9001) 요청시 처리 결과
접속 : 1개
latency : 5 ms
Throughput : 110.3/sec

41. 512byte(0x9001) 요청시 처리 결과
latency : 5 ms
Throughput : 102.1/sec
접속 : 3개

42. 512byte(0x9001) 요청시 처리 결과
접속 : 5개
latency : 1 ms
Throughput : 296.6/sec

43. 512byte(0x9001) 요청시 처리 결과
접속 : 20개
latency : 11 ms
Throughput : 596.3/sec

44. 512byte(0x9001) 요청시 처리 결과
접속 : 50개
latency : 26 ms
Throughput : 737.8/sec

45. 512byte(0x9001) 요청시 처리 결과
접속 : 100개
latency : 92 ms
Throughput : 694.0/sec

46. 512 byte 정리
조건에서 뭔가 문제가 있을 수 있어 보임
(1개, 3개에서 5개보다 더 높은 latency)
동일 조건 Proactor보다 상대적으로 높음

47. 3Kbyte(0x9002) 요청시 처리 결과
접속 : 1개
latency : 1 ms
Throughput : 515.5/sec

48. 3Kbyte(0x9002) 요청시 처리 결과
접속 : 3개
latency : 0 ms
Throughput : 388.6/sec

49. 3Kbyte(0x9002) 요청시 처리 결과
접속 : 5개
latency : 0 ms
Throughput : 542.9/sec

50. 3Kbyte(0x9002) 요청시 처리 결과
접속 : 20개
latency : 4 ms
Throughput : 1207.0/sec

51. 3Kbyte(0x9002) 요청시 처리 결과
접속 : 50개
latency : 13 ms
Throughput : 905.3/sec

52. 3Kbyte(0x9002) 요청시 처리 결과
접속 : 100개
latency : 40 ms
Throughput : 1359.6/sec

53. 3Kbyte 정리
50개부터 latency가 높아지고 있음
동일 조건 Proactor보다 상대적으로 높음

54. 200Kbyte(0x9003) 요청시 처리 결과
접속 : 1개
latency : 3 ms
Throughput : 253.8/sec

55. 200Kbyte(0x9003) 요청시 처리 결과
접속 : 3개
latency : 2 ms
Throughput : 328.9/sec

56. 200Kbyte(0x9003) 요청시 처리 결과
접속 : 5개
latency : 2 ms
Throughput : 483.1/sec

57. 200Kbyte(0x9003) 요청시 처리 결과
접속 : 20개
latency : 59 ms
Throughput : 253.3/sec

58. 200Kbyte(0x9003) 요청시 처리 결과
접속 : 50개
latency : 144 ms
Throughput : 296.6/sec

59. 200Kbyte(0x9003) 요청시 처리 결과
접속 : 100개
latency : 483 ms
Throughput : 191.6/sec

60. 200Kbyte 정리
20개부터 latency가 높아지고 있으며,
50개부터 급격히 높아지고 있음
동일 조건 Proactor보다 상대적으로 높음
(약 2배)

61. 2Mbyte(0x9004) 요청시 처리 결과
접속 : 1개
latency : 27 ms
Throughput : 36.3/sec

62. 접속 : 3개
latency : 51 ms
Throughput : 46.1/sec
2Mbyte(0x9004) 요청시 처리 결과

63. 접속 : 5개
latency : 132 ms
Throughput : 34.8/sec
2Mbyte(0x9004) 요청시 처리 결과

64. 접속 : 20개
latency : 547 ms
Throughput : 34.1/sec
2Mbyte(0x9004) 요청시 처리 결과

65. 접속 : 50개
latency : 1625 ms
Throughput : 29.5/sec
2Mbyte(0x9004) 요청시 처리 결과

66. 접속 : 100개
latency : 3546 ms
Throughput : 27.2/sec
2Mbyte(0x9004) 요청시 처리 결과

67. 2Mbyte 정리
20개부터 latency가 높아지고 있으며,
50개부터 급격히 높아지고 있음
동일 조건 Proactor와 거의 차이가 없음
하지만 실제 실험 시간이 훨씬 오래 걸림
(데이터 상으로 표시는 안 됨)

68. 20Mbyte(0x9005) 요청시 처리 결과
접속 : 1개
latency : 385 ms
Throughput : 2.6/sec

69. 접속 : 3개
latency : 1093 ms
Throughput : 2.7/sec
20Mbyte(0x9005) 요청시 처리 결과

70. 접속 : 5개
latency : 1791 ms
Throughput : 2.5/sec
20Mbyte(0x9005) 요청시 처리 결과

71. 접속 : 20개
latency : 9403 ms
Throughput : 2.1/sec
20Mbyte(0x9005) 요청시 처리 결과

72. 접속 : 50개
latency : 19888 ms
Throughput : 2.5/sec
20Mbyte(0x9005) 요청시 처리 결과

73. 접속 : 100개
latency : 35306 ms
Throughput : 2.6/sec
20Mbyte(0x9005) 요청시 처리 결과

74. 20Mbyte 정리
20개부터 latency가 높아지고 있으며,
50개부터 급격히 높아지고 있음
동일 조건 Proactor 보다 latency가 3000ms 높음
하지만 실제 실험 시간이 훨씬 오래 걸림
(데이터 상으로 표시는 안 됨)

75. 정리하기
20개까지는 괜찮은데, 50개 부터는 어떠한 문제가 발생하는가?
• 평균적으로 50개 부터 latency가 급격히 증가하는 상황이 발생
• latency가 증가하며 동시간 처리량이 떨어지기 시작
• 용량 처리가 커지면 커질 수록 20개까지도 그 영향이 미침(뒤쪽 프로토콜)
그 원인은 무엇인가?
• Proactor의 경우에는 Thread가 직접 처리하지 않지만, NIO(커널에서 처리하는)에서 처리하는 한계에 도달하는 지점이 20~50개 이기 때문이라 생각한다
• Reactor는 동기식으로 Thread가 일일이 처리하기 때문에 대기 시간이 발생하기 때문이라 생각한다.
그 외에도...
• Reactor 고용량 실험이 Proactor보다 더 오래 걸리는 이유?
Thread가 일일이 받아 처리하기 때문에 모든 업무가 줄을 서서 대기하는 상태가 됨
게다가 파일을 쓰는 것은 커널을 거쳐서 진행하는 것이기 때문에 IO가 일어나게 하는 동안 중간 동작이 개입 될 수 있다 생각
반면 Proactor는 실제 처리는 커널이 하고 요청을 받고 결과를 돌려주는 것만 Thread가 하기 때문에 대기 상태가 최소가 됨
또한 커널에서 처리하는 상태에서 바로 디스크 IO로 전이 되는 과정에서 중간 동작이 없음

76. 한계점
Jmeter 사용과 본 PPT에서의 수치에 대한 이야기
사실 모든 데이터를 Jmeter에서 보내야 정확한 Throughput이 나온다
(보낸 데이터량 / latency)
하지만 본 실험에서 사용한 코드는 서버내 버퍼에서 각 용량을 생성해
파일에 입력하는 형태로 실제 Throughput이라 할 수 없다.
(단, 계획된 값으로 계산은 가능하다)

77. Q & A