VietOpenInfra Tecnical Meetup #21 - Đánh giá tải với Gatling

1. Đánh giá tải với Gatling
Người trình bày: Nguyễn Bá Thành

2. About me
● Công Ty Nhân Hòa
● github.com/lacoski
● thanh.nguyenba0611@gmail.com

3. Cấu trúc
1. Performance Testing
2. Tổng quan về Gatling
3. Ước lượng tải với Gatling
4. Distributed Gatling
5. Demo

5. Performance tests - tổng quan
Kỹ thuật nhằm đánh giá hiệu năng hệ thống (Performance Testing)
Kỹ thuật kiểm thử nhằm xác định băng thông, khả năng xử lý, khả năng
mở rộng dưới một khối lượng truy cập, khối được công việc xác định -
Theo wiki

6. Performance tests - mục tiêu
Đánh giá hiệu năng, hiệu suất sản phẩm
Đánh giá hạ tầng, mô hình triển khai
Tìm ra các vấn đề ảnh hưởng tới hiệu năng sản phẩm
Hỗ trợ điều chỉnh hệ thống

7. Mô phỏng môi trường (càng giống production càng tốt):
- Hardware - Phần cứng:
- Cpu, Ram, Storage v.v
- Ảo hóa hoặc Vật lý
- Software - Phần mềm:
- OS, Proxy, LB, DB, Web Server (Version v.v)
- Data - Dữ liệu:
- Dữ liệu mẫu phục vụ tests
Performance tests - cần gì?

8. Performance tests - cần gì?
Thu thập thông tin:
- Giám sát (monitoring):
- Hardware: CPU, RAM, Bandwidth, IOPS v.v
- Software: Database, Web Server, v.v
- Thu thập (collecting):
- Logging:
- OS
- Application (Access, Error log, Slow query log) v.v

9. Performance tests - cần gì?
Để cải thiện hiệu năng:
1. Thu thập dữ liệu(logging, monitoring, reports)
2. Tìm điểm gây nghẽn (bottleneck)
3. Giải quyết
4. Thu thập dữ liệu và kiểm chứng sự thay đổi
5. Quay lại bước 1

10. Performance tests - vấn đề?
Hạ tầng
- Triển khai môi trường phục vụ việc đánh giá
Dữ liệu mô phỏng
- Dữ liệu phục vụ việc đánh giá

11. Performance tests - vấn đề?
Test hoặc bài tests?
- Kịch bản
- Viết và maintenance

13. Gatling - Tổng quan
Công cụ kiểm tra tải thông minh, cao cấp, dễ sử dụng.
Phát triển từ ngôn ngữ Scala (tùy chỉnh, tạo bài test linh hoạt).
Hỗ trợ tốt giao thức HTTP, Hỗ trợ nhiều giao thức khác (WebSockets,
JMS, MQTT, …).

14. Tại sao dùng Gatling
- Dễ tiếp cận, sử dụng
- Report:
- Gatling cung cấp Report rõ ràng, chi tiết, dễ đọc (biểu thị dưới dạng biểu đồ).
- Continuous integration (CI):
- Gatling scripts phong phú thêm các bài test khi áp dụng CI (Jenkins plugins)
- Tạo tải tốt:
- Có thể tạo tải tối đa tới 20K user cùng một thời điểm (Từ 1 node duy nhất)
- Sử dụng ít CPU, RAM, tương thích cao với nhiều OS

15. Hiệu năng
- Tạo tải với một thread duy nhất, sử dụng ít tài nguyên
- Tool truyền thống 1 user = 1 thread => 1000 user = 1000 thread => Khi thread chờ
phản hồi, chúng sẽ đặt vào trạng thái sleep => Dùng nhiều CPU, RAM, giảm hiệu
năng test
- Sử dụng kiến trúc non-blocking, asynchronous stack (scala, akka,
netty)
- Mô hình actors
- Xử lý kịch bản dưới dạng message bất đồng bộ.
- Sử dụng akka library, netty, scala

16. Usability, Maintainability
- Hỗ trợ Proxy Recorder
- Cho phép sinh các script scala động. Không cần tự viết
- Sử dụng ngôn ngữ Scala
- Tạo ra đa dạng các bài test dựa trên ngôn ngữ lập trình Scala.
- Dễ đọc, dễ hiểu hiểu, dễ chỉnh sửa nâng cấp kịch bản

17. Plugins
Có thể tích hợp với nhiều phần mềm thứ 3
- Jenkins, Maven, JMS, v.v

18. Cách sử dụng Gatling
- Bước 1: Tạo kịch bản (Gatling Recorder)
- Bước 2: Chạy kịch bản (Gatling Test)
- Bước 3: Phân tích report (Gatling Report)
- Vẫn cần monitor dịch vụ
- Bước 4: Đánh giá, thay đổi tải, trở lại bước 2
- Bước 5: Kết luận

19. Các tham số cần lưu ý
Phía Gatling:
- Phản hồi - Response time
- Băng thông, thông lượng - Throughput, Req/s, CCU
Phía dịch vụ:
- Tài nguyên sử dụng - Cpu, Ram, Bandwidth, Disk IO, Conn

20. Distributed Gatling

21. Distributed Gatling
Để triển khai mô hình
- Gatling Frontline (trả phí)
- Gatling InfluxDB Grafana

22. Distributed Gatling
Write metricRead data

23. Distributed Gatling

24. Gatling + Influxdb + Grafana

25. Demo
Tạo kịch bản
Chạy kịch bản
Distributed Gatling