SlideShare a Scribd company logo
 Một trong những Broker (công ty môi giới) chính trên
thị trường VN
 Số tài khoản khách hàng: ~100.000
 Thị phần môi giới: Đứng thứ 4 trên HSX, thứ 2 trên
HNX (số liệu quý 1 năm 2016)
 Số lệnh đặt trong ngày: ~20.000 lệnh. Cao điểm khi thị
trường nóng có thể vượt 30.000 lệnh
 Hệ thống core: phát triển bởi FSS, một đơn vị phát triển
core chứng khoán có tiếng trên thị trường Việt Nam
 Một số phần trong hệ thống được phát triển hoặc nâng
cấp bởi VNDS
 Hệ thống hỗ trợ nhiều kênh đặt lệnh: Online, ATD/BD,
BO, Bloomberg (via FIX 4.2 protocol) …
 Hệ thống hoạt động không thật sự ổn định
 Các vấn đề gặp phải: dead locking database (nhiều lúc
phải restart Oracle DB của Back Office)
 Gửi lặp lệnh vào sở(xảy ra vào ngày 27-08-2014 khi
VNDS gửi nhiều hơn 20.000 lệnh lặp vào sàn HNX)
 Khả năng xử lý của hệ thống đạt max ~10 lệnh/s, độ trễ
~4s
 Hệ thống có khả năng xử lý ổn định 5000-10000 lệnh/s
 Độ trễ hệ thống < 4ms (không tính độ trễ sinh ra do
đường truyền kết nối đến sở, khoảng 70 ms đối với sở
HSX)
-> Mục tiêu nâng hiệu năng của hệ thống lên 1000 lần
 Tách hoàn toàn phần xử lý lệnh khỏi BO, xây dựng một
hệ thống chuyên biệt mới hoàn toàn xử lý việc này:
ORS/OMS (Orders routing and management system)
 Hệ thống ORS sẽ thực hiện load toàn bộ dữ liệu cần
thiết từ BO vào đầu ngày giao dịch (BOD) và thực hiện
xóa toàn bộ dữ liệu (reset) vào cuối ngày giao dịch
(EOD)
 Dữ liệu cần đồng bộ trong ngày (rút tiền, nộp tiền, mở
tài khoản mới … ) sẽ được thực hiện qua hoặc web
service hoặc messages push
 Ngôn ngữ: C/C++ và Java
• 90% hệ thống phát triển bằng Java (plain java, không
sử dụng bất cứ framework nào)
• 10% hệ thống (các modules xử lý dữ liệu thị trường và
Gateways) phát triển bằng C/C++
• 100% C: May be the next version!
 OS: Linux/UNIX: Lựa chọn hiển nhiên ở server side
 Messages queues: ActiveMQ, ZeroMQ
• Apache ActiveMQ: Open source về messages broker được sử dụng rộng rãi nhất hiện nay
• ZeroMQ: Giải pháp opensource về messaging nhanh nhất hiện tại. Hỗ trợ Inproc, IPC, TCP, reliable
multicast (PGM) …
 FIX engines: QuickFiX CPP, QuickfixJ
 Databases: PostgresQL
 Web server: Jetty
 Cần một tool đủ tốt để theo dõi hệ thống chạy trên môi trường production, theo thời gian thực
 Cost để benchmark ~0 (hoặc vài magnitude thấp hơn cost xử lý orders của hệ thống)
• Observer effect: “Measurements of certain systems cannot be made without affecting the systems”
-> Tự phát triển
 Performance Statistics 23:06:35
 Tag Avg(us) Min Max Std Dev Count
 INSERT into forward VALUES(DEFAU 97.79 62 42186 328.64 18740
 Update Complex Accounts 0.20 0 1351 11.31 18761
 QFJ-01 214.26 60 20778 546.56 18761
 DOrder 507.66 163 53537 1011.87 18762
 Performance Statistics 23:07:05
 Tag Avg(us) Min Max Std Dev Count
 INSERT into forward VALUES(DEFAU 82.35 66 132 13.07 1360
 Update Complex Accounts 0.07 0 35 1.00 1339
 QFJ-01 169.18 59 4196 374.89 1339
 DOrder 366.78 162 8208 526.34 1338
 Log4J: Quá phức tạp, quá chậm
-> Chuyển sang sử dụng phiên bản customize của
logback. Thực hiện tuning/test và chỉ để lại những
options đảm bảo performance.
 OpenJDK, Sun JDK: Chậm, độ ổn định về performance
kém
-> Chuyển sang dùng jrockit và sử dụng các options để
tuning garbage collector
 Hệ thống hoạt động 100% (hay gần như 100%) theo cơ
chế asynchronous
• No hazelcast, redis hay bất cứ giải pháp in memory
data-grid nào
• Hệ thống cache dữ liệu trên memory bất cứ khi nào có
thể. Databases chỉ được dùng chủ yếu cho việc backup
và recovery khi xảy ra sự cố cần restart hệ thống
• Việc trao đổi thông tin đi và về chủ yếu được thực hiện
qua các messages queues
 Một vài con số cơ bản về communication cost (round-
trip latency)
• In-process (inter-threads): ~10 us
• Inter-process (IPC): ~15 us
• TCP/UDP on local host: ~50us
• TCP/UDP on different servers: ~300 us
 Yêu cầu bắt buộc: phải hỗ trợ chuẩn FIX (Financial
Information Exchange) do đây là chuẩn giao tiếp chung
của tất cả các hệ thống tài chính hiện đại
 Ưu điểm của chuẩn FIX: Dễ đọc, có thể tùy ý mở rộng
hoặc bổ sung thêm nghiệp vụ. Có sẵn các open source
để sử dụng (QuickFIX hay QuickFixJ)
 Nhược điểm: Cồng kềnh, cost để parsing messages cao
 Viết tắt của Financial Information Exchange
 Được đưa vào sử dụng từ 1992, hiện FIX
protocol đã trở thành chuẩn giao tiếp chung
của thế giới cho giao dịch chứng khoán điện
tử
 FIX protocol bao gồm: communication
protocol, messages specification và business
guide line
 http://www.fixtradingcommunity.org/FIXimat
e/FIXimate3.0/
FIX message sample:
8=FIX.4.4 9=221 35=D 34=33 449=ORS_1_ACTIVE 52=20151023-03:56:04.321 56=HSX_GATEWAY 57=1 11=50000018
38=10 40=2 44=73.5 54=2 55=MSN 59=0 60=20151023-03:56:04.321 453=3 448=021 447=C 452=1 448=0211 447=D 452=12
448=021C686899 447=D 452=3 10=187
HSX message sample (AutoT protocol):
A!1I021021150000018021C686899MSN S10 10 73.500M C
FIX message dài khoảng 200 bytes trong khi AutoT
message tương ứng dài khoảng 70 bytes.
 Các modules GWIN tiếp nhận lệnh theo FIX protocol
 Các modules GWIN hoàn toàn stateless, hoạt động như
các switches. Có thể dễ dàng load balancing tùy ý
 Sau khi parsing message và kiểm tra các giá trị truyền
vào hợp lệ, GWIN sẽ gửi các message này vào OMS
 Asynchronous (gần như 100%)
 Toàn bộ các tài khoản do OMS quản lý được cache trên
memory
 Chỉ một số orders gần nhất được cache trên memory
(giá trị có thể tùy chỉnh)
 Orders và các thay đổi liên quan đến tài khoản sau khi
update trên memory được đẩy vào các queues để thực
hiện ghi bất đồng bộ xuống DB
 Tự xây dựng dựa trên array thuần túy
 Thuật toán và implementation phần orders caching
được thiết kế để không phải sử dụng bất cứ cơ chế
locking nào
 1 single thread sẽ quản lý việc đưa objects mới lên
cache và remove objects cũ ra khỏi cache. 1 thread
khác quản lý việc cập nhật các objects nằm trên cache
Code sample:
 Code unsafe:
public OrderBase getOrderFromCache(int seq, OrderBase newInfo) {
if (orders[seq] == null) return null;
orders[seq].setField(OrderBase.CUM_QTY, newInfo.getField(OrderBase.CUM_QTY));
orders[seq].setField(OrderBase.LAST_QTY, newInfo.getField(OrderBase.LAST_QTY));
orders[seq].setField(OrderBase.LAST_PX, newInfo.getField(OrderBase.LAST_PX));
return orders[seq];
}
 Code safe:
public OrderBase getOrderFromCache(int seq, OrderBase newInfo) {
OrderBase order = orders[seq];
if (order == null) return null;
order.setField(OrderBase.CUM_QTY, newInfo.getField(OrderBase.CUM_QTY));
order.setField(OrderBase.LAST_QTY, newInfo.getField(OrderBase.LAST_QTY));
order.setField(OrderBase.LAST_PX, newInfo.getField(OrderBase.LAST_PX));
return order;
}
 Cache 100% số tài khoản (có thể sharding theo OMSs)
 Tự xây dựng dựa trên array thuần túy
 Thuật toán và implement phần cache tài khoản được
thiết kế để giảm thiểu sử dụng locking
• Thread nhận lệnh đặt/hủy/sửa và thread cập nhật trạng
thái lệnh từ sở không lock lẫn nhau
 Code unsafe
class Account {
private long balance;
public Account(long balance) {
this.balance = balance;
}
public boolean hold (long amount) {
if (balance >= amount) {
balance -= amount;
return true;
}
return false;
}
public void unhold(long amount) {
balance += amount;
}
public long getBalance() {
return balance;
}
}
 Tài khoản ban đầu có 10.000.000 VND. Thread 1 gọi
hold 1.000.000 VND, Thread 2 gọi unhold 1.000.000
VND, vậy tài khoản cuối cùng có bao nhiêu VND?
• 9.000.000
• 10.000.000
• 11.000.000
• 1 trong các khả năng trên
 Code safe?
class Account {
private long balance;
public Account(long balance) {
this.balance = balance;
}
public synchronized boolean hold (long amount) {
if (balance >= amount) {
balance -= amount;
return true;
}
return false;
}
public synchronized void unhold(long amount) {
balance += amount;
}
public long getBalance() {
return balance;
}
}
 Code safe (như sách dạy)
class Account {
private volatile long balance;
public Account(long balance) {
this.balance = balance;
}
public synchronized boolean hold (long amount) {
if (balance >= amount) {
balance -= amount;
return true;
}
return false;
}
public synchronized void unhold(long amount) {
balance += amount;
}
public long getBalance() {
return balance;
}
}
-> Safe but awfully slow
 Code safe
class Account {
private long initBalance;
private long hold;
private long unhold;
public Account(long balance) {
initBalance = balance;
hold = 0;
unhold = 0;
}
public boolean hold (long amount) {
if (initBalance - hold + unhold >= amount) {
hold += amount;
return true;
}
return false;
}
public void unhold(long amount) {
unhold += amount;
}
public long getBalance() {
return initBalance - hold + unhold;
}
}
 Trong thế giới thiết kế đa luồng, unitest có thể không
hữu ích như bạn nghĩ
 Xác suất xảy ra conflict giữa các threads lớn hay nhỏ?
Định luật Murphy: “Anything that can possibly go
wrong, does”
 Hệ thống đã được thử load test tới khoảng 1500 lệnh/s
đối với 1 OMS chạy trên 1 Linux server 4 cores.
 End to end latency đo được: ~71 ms (~67 ms ping time
vào sở HSX)
10:56:04.321 INFO - GWIN<--: 35=D555=11=000168689966=092815-FIXIN02-1309494=021111=092815-FIXIN02-1309-0-OrderServerATD01-
ATDORS467230214461781838=1040=244=7350054=255=MSN59=060=20151023-03:56:26.10578=179=000168689980=10467=0100=150=dunguyen
10:56:04.321 INFO - Hold balance MSN, 021C686899, -10. Current balance -10
10:56:04.321 INFO - -->GW: 8=FIX.4.49=22135=D34=33449=ORS_1_ACTIVE52=20151023-
03:56:04.32156=HSX_GATEWAY57=111=5000001838=1040=244=73.554=255=MSN59=060=20151023-
03:56:04.321453=3448=021447=C452=1448=0211447=D452=12448=021C686899447=D452=310=187
10:56:04.391 INFO - <--GW: 8=FIX.4.49=32235=834=35549=HSX_GATEWAY52=20151023-03:56:04.38756=ORS_1_ACTIVE212=49213=2I21 932
231050000018231010 73.5 19104 6=011=5000001814=1017=19104 31=73.532=1037=5000001838=1039=241=5000001844=73.554=255=MSN58=2I60=20151023-
03:56:04150=3151=0453=2448=21 447=B452=1448=021C686899447=B452=310=106
10:56:04.391 INFO - Unhold balance MSN, 021C686899, -10. Current balance 0
10:56:04.392 INFO - -->GWIN FIXIN02: 35=81=00016868996=73500.011=092815-FIXIN02-1309-0-OrderServerATD01-
ATDORS467230214461781814=1017=102315105604-HSX_GATEWAY-38-ORS_1_ACTIVE-
1910431=73500.032=1037=5000001838=1039=240=244=7350054=255=MSN59=060=20151023-
03:56:26.105150=F151=078=179=000168689980=10467=1100=150=dunguyen
(10:56:04.319) QFIX <- 8=FIX.4.49=22135=D34=33449=ORS_1_ACTIVE52=20151023-
03:56:04.32156=HSX_GATEWAY57=111=5000001838=1040=244=73.554=255=MSN59=060=20151023-
03:56:04.321453=3448=021447=C452=1448=0211447=D452=12448=021C686899447=D452=310=187
(10:56:04.319) AutoT Send DT(3996,5382) A!1I021021150000018021C686899MSN S10 10 73.500M C
(10:56:04.386) AutoT Recv DT(5382,3997) A!2I21 932 231050000018231010 73.5 19104
(10:56:04.386) QFIX -> 8=FIX.4.49=33735=834=697249=HSX_GATEWAY52=20151023-03:56:04.38756=GW_INTEGRATION_ACTIVE212=49213=2I21
932 231050000018231010 73.5 19104 6=011=932 14=171017=19104 31=73.532=1037=932 38=1039=241=932 44=73.554=155=MSN58=2I60=20151023-
03:56:04150=3151=8290453=2448=21 447=B452=1448=021C057269447=B452=310=113
 Thank you!
 Any questions?
Thảm khảo thêm : http://bit.ly/itlchn-stockcore-event

More Related Content

Similar to vndscasestudy1-160513170651.pdf

Server chuc nang.pptx
Server chuc nang.pptxServer chuc nang.pptx
Server chuc nang.pptx
son2483
 
Server chuc nang.pptx
Server chuc nang.pptxServer chuc nang.pptx
Server chuc nang.pptx
son2483
 
Bai bao cao 3
Bai bao cao 3Bai bao cao 3
Bai bao cao 3
tuankiet123
 
Chuan viet code va thiet ke giao dien trong C#
Chuan viet code va thiet ke giao dien trong C#Chuan viet code va thiet ke giao dien trong C#
Chuan viet code va thiet ke giao dien trong C#Kuli An
 
Đề tài: Dòng PLC hoạt động vô cùng hiệu quả công việc, HOT
Đề tài: Dòng PLC hoạt động vô cùng hiệu quả công việc, HOTĐề tài: Dòng PLC hoạt động vô cùng hiệu quả công việc, HOT
Đề tài: Dòng PLC hoạt động vô cùng hiệu quả công việc, HOT
Dịch vụ viết bài trọn gói ZALO 0917193864
 
Cấu trúc hệ điều hành
Cấu trúc hệ điều hànhCấu trúc hệ điều hành
Cấu trúc hệ điều hành
PhamTuanKhiem
 
Báo cáo tuần 1 nguyen phuong nhung
Báo cáo tuần 1 nguyen phuong nhungBáo cáo tuần 1 nguyen phuong nhung
Báo cáo tuần 1 nguyen phuong nhungNhung Nguyễn
 
php với oracle database
php với oracle databasephp với oracle database
php với oracle databaseNgo Trung
 
De-cuong-on-tap-NNMTPC.pdf
De-cuong-on-tap-NNMTPC.pdfDe-cuong-on-tap-NNMTPC.pdf
De-cuong-on-tap-NNMTPC.pdf
AnhTVit1
 
Storedprocedure 140411073406-phpapp02
Storedprocedure 140411073406-phpapp02Storedprocedure 140411073406-phpapp02
Storedprocedure 140411073406-phpapp02
huynhtrong774129
 
Cấu hình và bảo mật cho Ubuntu Server
Cấu hình và bảo mật cho Ubuntu Server Cấu hình và bảo mật cho Ubuntu Server
Cấu hình và bảo mật cho Ubuntu Server
Ho Quang Thanh
 
Trần Anh Khoa - Kautilya và Powershell trong kỹ thuật tấn công tiếp cận
Trần Anh Khoa - Kautilya và Powershelltrong kỹ thuật tấn công tiếp cậnTrần Anh Khoa - Kautilya và Powershelltrong kỹ thuật tấn công tiếp cận
Trần Anh Khoa - Kautilya và Powershell trong kỹ thuật tấn công tiếp cận
Security Bootcamp
 
Technical note playframework_documentation_working with play - java_vn
Technical note playframework_documentation_working with play - java_vnTechnical note playframework_documentation_working with play - java_vn
Technical note playframework_documentation_working with play - java_vn
Asahina Infotech
 
HƯỚNG DẪN SỬ DỤNG PHẦN MỀM SUBVERSION (SVN) TOÀN TẬP
HƯỚNG DẪN SỬ DỤNG PHẦN MỀM SUBVERSION (SVN) TOÀN TẬPHƯỚNG DẪN SỬ DỤNG PHẦN MỀM SUBVERSION (SVN) TOÀN TẬP
HƯỚNG DẪN SỬ DỤNG PHẦN MỀM SUBVERSION (SVN) TOÀN TẬP
dvms
 
Linux+04
Linux+04Linux+04
Linux+04
Duong Hieu
 
Giới thiệu chung về plc s7 1200
Giới thiệu chung về plc s7 1200Giới thiệu chung về plc s7 1200
Giới thiệu chung về plc s7 1200
Công ty công nghệ tự động hóa Hoàng Gia
 
Phalcon căn bản
Phalcon căn bảnPhalcon căn bản
Phalcon căn bản
TechMaster Vietnam
 
Giải mã hệ thống quản trị bằng công nghệ của thế giới di động - P2
Giải mã hệ thống quản trị bằng công nghệ của thế giới di động - P2Giải mã hệ thống quản trị bằng công nghệ của thế giới di động - P2
Giải mã hệ thống quản trị bằng công nghệ của thế giới di động - P2
ThuThuat Vip
 

Similar to vndscasestudy1-160513170651.pdf (20)

Server chuc nang.pptx
Server chuc nang.pptxServer chuc nang.pptx
Server chuc nang.pptx
 
Server chuc nang.pptx
Server chuc nang.pptxServer chuc nang.pptx
Server chuc nang.pptx
 
Bai bao cao 3
Bai bao cao 3Bai bao cao 3
Bai bao cao 3
 
Chuan viet code va thiet ke giao dien trong C#
Chuan viet code va thiet ke giao dien trong C#Chuan viet code va thiet ke giao dien trong C#
Chuan viet code va thiet ke giao dien trong C#
 
Đề tài: Dòng PLC hoạt động vô cùng hiệu quả công việc, HOT
Đề tài: Dòng PLC hoạt động vô cùng hiệu quả công việc, HOTĐề tài: Dòng PLC hoạt động vô cùng hiệu quả công việc, HOT
Đề tài: Dòng PLC hoạt động vô cùng hiệu quả công việc, HOT
 
Cấu trúc hệ điều hành
Cấu trúc hệ điều hànhCấu trúc hệ điều hành
Cấu trúc hệ điều hành
 
Báo cáo tuần 1 nguyen phuong nhung
Báo cáo tuần 1 nguyen phuong nhungBáo cáo tuần 1 nguyen phuong nhung
Báo cáo tuần 1 nguyen phuong nhung
 
php với oracle database
php với oracle databasephp với oracle database
php với oracle database
 
De-cuong-on-tap-NNMTPC.pdf
De-cuong-on-tap-NNMTPC.pdfDe-cuong-on-tap-NNMTPC.pdf
De-cuong-on-tap-NNMTPC.pdf
 
Stored procedure
Stored procedureStored procedure
Stored procedure
 
Storedprocedure 140411073406-phpapp02
Storedprocedure 140411073406-phpapp02Storedprocedure 140411073406-phpapp02
Storedprocedure 140411073406-phpapp02
 
Cấu hình và bảo mật cho Ubuntu Server
Cấu hình và bảo mật cho Ubuntu Server Cấu hình và bảo mật cho Ubuntu Server
Cấu hình và bảo mật cho Ubuntu Server
 
--De cuong on tap hdh
 --De cuong on tap hdh --De cuong on tap hdh
--De cuong on tap hdh
 
Trần Anh Khoa - Kautilya và Powershell trong kỹ thuật tấn công tiếp cận
Trần Anh Khoa - Kautilya và Powershelltrong kỹ thuật tấn công tiếp cậnTrần Anh Khoa - Kautilya và Powershelltrong kỹ thuật tấn công tiếp cận
Trần Anh Khoa - Kautilya và Powershell trong kỹ thuật tấn công tiếp cận
 
Technical note playframework_documentation_working with play - java_vn
Technical note playframework_documentation_working with play - java_vnTechnical note playframework_documentation_working with play - java_vn
Technical note playframework_documentation_working with play - java_vn
 
HƯỚNG DẪN SỬ DỤNG PHẦN MỀM SUBVERSION (SVN) TOÀN TẬP
HƯỚNG DẪN SỬ DỤNG PHẦN MỀM SUBVERSION (SVN) TOÀN TẬPHƯỚNG DẪN SỬ DỤNG PHẦN MỀM SUBVERSION (SVN) TOÀN TẬP
HƯỚNG DẪN SỬ DỤNG PHẦN MỀM SUBVERSION (SVN) TOÀN TẬP
 
Linux+04
Linux+04Linux+04
Linux+04
 
Giới thiệu chung về plc s7 1200
Giới thiệu chung về plc s7 1200Giới thiệu chung về plc s7 1200
Giới thiệu chung về plc s7 1200
 
Phalcon căn bản
Phalcon căn bảnPhalcon căn bản
Phalcon căn bản
 
Giải mã hệ thống quản trị bằng công nghệ của thế giới di động - P2
Giải mã hệ thống quản trị bằng công nghệ của thế giới di động - P2Giải mã hệ thống quản trị bằng công nghệ của thế giới di động - P2
Giải mã hệ thống quản trị bằng công nghệ của thế giới di động - P2
 

vndscasestudy1-160513170651.pdf

  • 1.  Một trong những Broker (công ty môi giới) chính trên thị trường VN  Số tài khoản khách hàng: ~100.000  Thị phần môi giới: Đứng thứ 4 trên HSX, thứ 2 trên HNX (số liệu quý 1 năm 2016)  Số lệnh đặt trong ngày: ~20.000 lệnh. Cao điểm khi thị trường nóng có thể vượt 30.000 lệnh
  • 2.  Hệ thống core: phát triển bởi FSS, một đơn vị phát triển core chứng khoán có tiếng trên thị trường Việt Nam  Một số phần trong hệ thống được phát triển hoặc nâng cấp bởi VNDS  Hệ thống hỗ trợ nhiều kênh đặt lệnh: Online, ATD/BD, BO, Bloomberg (via FIX 4.2 protocol) …
  • 3.  Hệ thống hoạt động không thật sự ổn định  Các vấn đề gặp phải: dead locking database (nhiều lúc phải restart Oracle DB của Back Office)  Gửi lặp lệnh vào sở(xảy ra vào ngày 27-08-2014 khi VNDS gửi nhiều hơn 20.000 lệnh lặp vào sàn HNX)  Khả năng xử lý của hệ thống đạt max ~10 lệnh/s, độ trễ ~4s
  • 4.  Hệ thống có khả năng xử lý ổn định 5000-10000 lệnh/s  Độ trễ hệ thống < 4ms (không tính độ trễ sinh ra do đường truyền kết nối đến sở, khoảng 70 ms đối với sở HSX) -> Mục tiêu nâng hiệu năng của hệ thống lên 1000 lần
  • 5.  Tách hoàn toàn phần xử lý lệnh khỏi BO, xây dựng một hệ thống chuyên biệt mới hoàn toàn xử lý việc này: ORS/OMS (Orders routing and management system)  Hệ thống ORS sẽ thực hiện load toàn bộ dữ liệu cần thiết từ BO vào đầu ngày giao dịch (BOD) và thực hiện xóa toàn bộ dữ liệu (reset) vào cuối ngày giao dịch (EOD)  Dữ liệu cần đồng bộ trong ngày (rút tiền, nộp tiền, mở tài khoản mới … ) sẽ được thực hiện qua hoặc web service hoặc messages push
  • 6.  Ngôn ngữ: C/C++ và Java • 90% hệ thống phát triển bằng Java (plain java, không sử dụng bất cứ framework nào) • 10% hệ thống (các modules xử lý dữ liệu thị trường và Gateways) phát triển bằng C/C++ • 100% C: May be the next version!  OS: Linux/UNIX: Lựa chọn hiển nhiên ở server side
  • 7.  Messages queues: ActiveMQ, ZeroMQ • Apache ActiveMQ: Open source về messages broker được sử dụng rộng rãi nhất hiện nay • ZeroMQ: Giải pháp opensource về messaging nhanh nhất hiện tại. Hỗ trợ Inproc, IPC, TCP, reliable multicast (PGM) …  FIX engines: QuickFiX CPP, QuickfixJ  Databases: PostgresQL  Web server: Jetty
  • 8.  Cần một tool đủ tốt để theo dõi hệ thống chạy trên môi trường production, theo thời gian thực  Cost để benchmark ~0 (hoặc vài magnitude thấp hơn cost xử lý orders của hệ thống) • Observer effect: “Measurements of certain systems cannot be made without affecting the systems” -> Tự phát triển  Performance Statistics 23:06:35  Tag Avg(us) Min Max Std Dev Count  INSERT into forward VALUES(DEFAU 97.79 62 42186 328.64 18740  Update Complex Accounts 0.20 0 1351 11.31 18761  QFJ-01 214.26 60 20778 546.56 18761  DOrder 507.66 163 53537 1011.87 18762  Performance Statistics 23:07:05  Tag Avg(us) Min Max Std Dev Count  INSERT into forward VALUES(DEFAU 82.35 66 132 13.07 1360  Update Complex Accounts 0.07 0 35 1.00 1339  QFJ-01 169.18 59 4196 374.89 1339  DOrder 366.78 162 8208 526.34 1338
  • 9.  Log4J: Quá phức tạp, quá chậm -> Chuyển sang sử dụng phiên bản customize của logback. Thực hiện tuning/test và chỉ để lại những options đảm bảo performance.  OpenJDK, Sun JDK: Chậm, độ ổn định về performance kém -> Chuyển sang dùng jrockit và sử dụng các options để tuning garbage collector
  • 10.  Hệ thống hoạt động 100% (hay gần như 100%) theo cơ chế asynchronous • No hazelcast, redis hay bất cứ giải pháp in memory data-grid nào • Hệ thống cache dữ liệu trên memory bất cứ khi nào có thể. Databases chỉ được dùng chủ yếu cho việc backup và recovery khi xảy ra sự cố cần restart hệ thống • Việc trao đổi thông tin đi và về chủ yếu được thực hiện qua các messages queues
  • 11.  Một vài con số cơ bản về communication cost (round- trip latency) • In-process (inter-threads): ~10 us • Inter-process (IPC): ~15 us • TCP/UDP on local host: ~50us • TCP/UDP on different servers: ~300 us
  • 12.  Yêu cầu bắt buộc: phải hỗ trợ chuẩn FIX (Financial Information Exchange) do đây là chuẩn giao tiếp chung của tất cả các hệ thống tài chính hiện đại  Ưu điểm của chuẩn FIX: Dễ đọc, có thể tùy ý mở rộng hoặc bổ sung thêm nghiệp vụ. Có sẵn các open source để sử dụng (QuickFIX hay QuickFixJ)  Nhược điểm: Cồng kềnh, cost để parsing messages cao
  • 13.  Viết tắt của Financial Information Exchange  Được đưa vào sử dụng từ 1992, hiện FIX protocol đã trở thành chuẩn giao tiếp chung của thế giới cho giao dịch chứng khoán điện tử  FIX protocol bao gồm: communication protocol, messages specification và business guide line
  • 14.  http://www.fixtradingcommunity.org/FIXimat e/FIXimate3.0/ FIX message sample: 8=FIX.4.4 9=221 35=D 34=33 449=ORS_1_ACTIVE 52=20151023-03:56:04.321 56=HSX_GATEWAY 57=1 11=50000018 38=10 40=2 44=73.5 54=2 55=MSN 59=0 60=20151023-03:56:04.321 453=3 448=021 447=C 452=1 448=0211 447=D 452=12 448=021C686899 447=D 452=3 10=187 HSX message sample (AutoT protocol): A!1I021021150000018021C686899MSN S10 10 73.500M C FIX message dài khoảng 200 bytes trong khi AutoT message tương ứng dài khoảng 70 bytes.
  • 15.  Các modules GWIN tiếp nhận lệnh theo FIX protocol  Các modules GWIN hoàn toàn stateless, hoạt động như các switches. Có thể dễ dàng load balancing tùy ý  Sau khi parsing message và kiểm tra các giá trị truyền vào hợp lệ, GWIN sẽ gửi các message này vào OMS
  • 16.
  • 17.  Asynchronous (gần như 100%)  Toàn bộ các tài khoản do OMS quản lý được cache trên memory  Chỉ một số orders gần nhất được cache trên memory (giá trị có thể tùy chỉnh)  Orders và các thay đổi liên quan đến tài khoản sau khi update trên memory được đẩy vào các queues để thực hiện ghi bất đồng bộ xuống DB
  • 18.  Tự xây dựng dựa trên array thuần túy  Thuật toán và implementation phần orders caching được thiết kế để không phải sử dụng bất cứ cơ chế locking nào  1 single thread sẽ quản lý việc đưa objects mới lên cache và remove objects cũ ra khỏi cache. 1 thread khác quản lý việc cập nhật các objects nằm trên cache
  • 19. Code sample:  Code unsafe: public OrderBase getOrderFromCache(int seq, OrderBase newInfo) { if (orders[seq] == null) return null; orders[seq].setField(OrderBase.CUM_QTY, newInfo.getField(OrderBase.CUM_QTY)); orders[seq].setField(OrderBase.LAST_QTY, newInfo.getField(OrderBase.LAST_QTY)); orders[seq].setField(OrderBase.LAST_PX, newInfo.getField(OrderBase.LAST_PX)); return orders[seq]; }  Code safe: public OrderBase getOrderFromCache(int seq, OrderBase newInfo) { OrderBase order = orders[seq]; if (order == null) return null; order.setField(OrderBase.CUM_QTY, newInfo.getField(OrderBase.CUM_QTY)); order.setField(OrderBase.LAST_QTY, newInfo.getField(OrderBase.LAST_QTY)); order.setField(OrderBase.LAST_PX, newInfo.getField(OrderBase.LAST_PX)); return order; }
  • 20.  Cache 100% số tài khoản (có thể sharding theo OMSs)  Tự xây dựng dựa trên array thuần túy  Thuật toán và implement phần cache tài khoản được thiết kế để giảm thiểu sử dụng locking • Thread nhận lệnh đặt/hủy/sửa và thread cập nhật trạng thái lệnh từ sở không lock lẫn nhau
  • 21.  Code unsafe class Account { private long balance; public Account(long balance) { this.balance = balance; } public boolean hold (long amount) { if (balance >= amount) { balance -= amount; return true; } return false; } public void unhold(long amount) { balance += amount; } public long getBalance() { return balance; } }
  • 22.  Tài khoản ban đầu có 10.000.000 VND. Thread 1 gọi hold 1.000.000 VND, Thread 2 gọi unhold 1.000.000 VND, vậy tài khoản cuối cùng có bao nhiêu VND? • 9.000.000 • 10.000.000 • 11.000.000 • 1 trong các khả năng trên
  • 23.  Code safe? class Account { private long balance; public Account(long balance) { this.balance = balance; } public synchronized boolean hold (long amount) { if (balance >= amount) { balance -= amount; return true; } return false; } public synchronized void unhold(long amount) { balance += amount; } public long getBalance() { return balance; } }
  • 24.
  • 25.  Code safe (như sách dạy) class Account { private volatile long balance; public Account(long balance) { this.balance = balance; } public synchronized boolean hold (long amount) { if (balance >= amount) { balance -= amount; return true; } return false; } public synchronized void unhold(long amount) { balance += amount; } public long getBalance() { return balance; } } -> Safe but awfully slow
  • 26.  Code safe class Account { private long initBalance; private long hold; private long unhold; public Account(long balance) { initBalance = balance; hold = 0; unhold = 0; } public boolean hold (long amount) { if (initBalance - hold + unhold >= amount) { hold += amount; return true; } return false; } public void unhold(long amount) { unhold += amount; } public long getBalance() { return initBalance - hold + unhold; } }
  • 27.  Trong thế giới thiết kế đa luồng, unitest có thể không hữu ích như bạn nghĩ  Xác suất xảy ra conflict giữa các threads lớn hay nhỏ? Định luật Murphy: “Anything that can possibly go wrong, does”
  • 28.  Hệ thống đã được thử load test tới khoảng 1500 lệnh/s đối với 1 OMS chạy trên 1 Linux server 4 cores.  End to end latency đo được: ~71 ms (~67 ms ping time vào sở HSX) 10:56:04.321 INFO - GWIN<--: 35=D555=11=000168689966=092815-FIXIN02-1309494=021111=092815-FIXIN02-1309-0-OrderServerATD01- ATDORS467230214461781838=1040=244=7350054=255=MSN59=060=20151023-03:56:26.10578=179=000168689980=10467=0100=150=dunguyen 10:56:04.321 INFO - Hold balance MSN, 021C686899, -10. Current balance -10 10:56:04.321 INFO - -->GW: 8=FIX.4.49=22135=D34=33449=ORS_1_ACTIVE52=20151023- 03:56:04.32156=HSX_GATEWAY57=111=5000001838=1040=244=73.554=255=MSN59=060=20151023- 03:56:04.321453=3448=021447=C452=1448=0211447=D452=12448=021C686899447=D452=310=187 10:56:04.391 INFO - <--GW: 8=FIX.4.49=32235=834=35549=HSX_GATEWAY52=20151023-03:56:04.38756=ORS_1_ACTIVE212=49213=2I21 932 231050000018231010 73.5 19104 6=011=5000001814=1017=19104 31=73.532=1037=5000001838=1039=241=5000001844=73.554=255=MSN58=2I60=20151023- 03:56:04150=3151=0453=2448=21 447=B452=1448=021C686899447=B452=310=106 10:56:04.391 INFO - Unhold balance MSN, 021C686899, -10. Current balance 0 10:56:04.392 INFO - -->GWIN FIXIN02: 35=81=00016868996=73500.011=092815-FIXIN02-1309-0-OrderServerATD01- ATDORS467230214461781814=1017=102315105604-HSX_GATEWAY-38-ORS_1_ACTIVE- 1910431=73500.032=1037=5000001838=1039=240=244=7350054=255=MSN59=060=20151023- 03:56:26.105150=F151=078=179=000168689980=10467=1100=150=dunguyen (10:56:04.319) QFIX <- 8=FIX.4.49=22135=D34=33449=ORS_1_ACTIVE52=20151023- 03:56:04.32156=HSX_GATEWAY57=111=5000001838=1040=244=73.554=255=MSN59=060=20151023- 03:56:04.321453=3448=021447=C452=1448=0211447=D452=12448=021C686899447=D452=310=187 (10:56:04.319) AutoT Send DT(3996,5382) A!1I021021150000018021C686899MSN S10 10 73.500M C (10:56:04.386) AutoT Recv DT(5382,3997) A!2I21 932 231050000018231010 73.5 19104 (10:56:04.386) QFIX -> 8=FIX.4.49=33735=834=697249=HSX_GATEWAY52=20151023-03:56:04.38756=GW_INTEGRATION_ACTIVE212=49213=2I21 932 231050000018231010 73.5 19104 6=011=932 14=171017=19104 31=73.532=1037=932 38=1039=241=932 44=73.554=155=MSN58=2I60=20151023- 03:56:04150=3151=8290453=2448=21 447=B452=1448=021C057269447=B452=310=113
  • 29.  Thank you!  Any questions? Thảm khảo thêm : http://bit.ly/itlchn-stockcore-event