Trình bày về những bài toán xử lý ngôn ngữ tự nhiên trong phát triển hệ thống chatbot theo mô hình truy xuất thông tin. Ngoài ra mô hình sinh hội thoại sử dụng mạng Neural cũng được đề cập (neural chatbot)
Nhận viết luận văn Đại học , thạc sĩ - Zalo: 0917.193.864
Tham khảo bảng giá dịch vụ viết bài tại: vietbaocaothuctap.net
Download luận văn tóm tắt ngành kĩ thuật phần mềm với đề tài: Nhận dạng và phân loại hoa quả trong ảnh màu, cho các bạn làm luận văn tham khảo
Về kỹ thuật Attention trong mô hình sequence-to-sequence tại hội nghị ACL 2017Minh Pham
Trình bày về kỹ thuật attention trong mô hình sequence-to-sequence và ứng dụng trong các nghiên cứu NLP tại ACL 2017. Ngoài ra chúng tôi cũng tóm tắt một số các nghiên cứu thú vị khác tại hội nghị.
Nhận viết luận văn Đại học , thạc sĩ - Zalo: 0917.193.864
Tham khảo bảng giá dịch vụ viết bài tại: vietbaocaothuctap.net
Download luận văn đồ án tốt nghiệp với đề tài: Xây dựng hệ thống Chatbots tự động, cho các bạn làm luận văn tham khảo
Nhận viết luận văn Đại học , thạc sĩ - Zalo: 0917.193.864
Tham khảo bảng giá dịch vụ viết bài tại: vietbaocaothuctap.net
Download luận văn tóm tắt ngành kĩ thuật phần mềm với đề tài: Nhận dạng và phân loại hoa quả trong ảnh màu, cho các bạn làm luận văn tham khảo
Về kỹ thuật Attention trong mô hình sequence-to-sequence tại hội nghị ACL 2017Minh Pham
Trình bày về kỹ thuật attention trong mô hình sequence-to-sequence và ứng dụng trong các nghiên cứu NLP tại ACL 2017. Ngoài ra chúng tôi cũng tóm tắt một số các nghiên cứu thú vị khác tại hội nghị.
Nhận viết luận văn Đại học , thạc sĩ - Zalo: 0917.193.864
Tham khảo bảng giá dịch vụ viết bài tại: vietbaocaothuctap.net
Download luận văn đồ án tốt nghiệp với đề tài: Xây dựng hệ thống Chatbots tự động, cho các bạn làm luận văn tham khảo
Nghiên cứu quý 3 của công ty GMO-Z.com VietnamLab.
Chủ đề: Ứng dụng NLP vào việc xác định ý muốn người dùng (Intent Detection) và sửa lỗi chính tả trong tiếng Việt (Spell Correction)
Nhận viết luận văn Đại học , thạc sĩ - Zalo: 0917.193.864
Tham khảo bảng giá dịch vụ viết bài tại: vietbaocaothuctap.net
Download luận án tiến sĩ ngành công nghệ thông tin với đề tài: Quản lý cửa hàng vật liệu xây dựng, cho các bạn có thể làm luận văn tham khảo
Đồ án tốt nghiệp đại học về quản lý điểm trường trung học phổ thông.
Để có bản full thì các bạn hãy liên hệ với mình nhé
yahoo: phamtoan1804
facebook: https://www.facebook.com/phamtoan1804
Nhận viết luận văn Đại học , thạc sĩ - Zalo: 0917.193.864
Tham khảo bảng giá dịch vụ viết bài tại: vietbaocaothuctap.net
Download luận văn đồ án tốt nghiệp ngành công nghệ thông tin với đề tài: Kỹ thuật đối sánh hình dạng sử dụng đặc trưng dựa trên đường bao đối tượng, cho các bạn tham khảo
Nhận viết luận văn Đại học , thạc sĩ - Zalo: 0917.193.864
Tham khảo bảng giá dịch vụ viết bài tại: vietbaocaothuctap.net
Download luận văn thạc sĩ ngành hệ thống thông tin với đề tài: Xây dựng hệ thống tìm kiếm âm thanh theo nội dung dựa trên các đặc trưng miền tần số, cho các bạn tham khảo
How to Become a Thought Leader in Your NicheLeslie Samuel
Are bloggers thought leaders? Here are some tips on how you can become one. Provide great value, put awesome content out there on a regular basis, and help others.
Nghiên cứu quý 3 của công ty GMO-Z.com VietnamLab.
Chủ đề: Ứng dụng NLP vào việc xác định ý muốn người dùng (Intent Detection) và sửa lỗi chính tả trong tiếng Việt (Spell Correction)
Nhận viết luận văn Đại học , thạc sĩ - Zalo: 0917.193.864
Tham khảo bảng giá dịch vụ viết bài tại: vietbaocaothuctap.net
Download luận án tiến sĩ ngành công nghệ thông tin với đề tài: Quản lý cửa hàng vật liệu xây dựng, cho các bạn có thể làm luận văn tham khảo
Đồ án tốt nghiệp đại học về quản lý điểm trường trung học phổ thông.
Để có bản full thì các bạn hãy liên hệ với mình nhé
yahoo: phamtoan1804
facebook: https://www.facebook.com/phamtoan1804
Nhận viết luận văn Đại học , thạc sĩ - Zalo: 0917.193.864
Tham khảo bảng giá dịch vụ viết bài tại: vietbaocaothuctap.net
Download luận văn đồ án tốt nghiệp ngành công nghệ thông tin với đề tài: Kỹ thuật đối sánh hình dạng sử dụng đặc trưng dựa trên đường bao đối tượng, cho các bạn tham khảo
Nhận viết luận văn Đại học , thạc sĩ - Zalo: 0917.193.864
Tham khảo bảng giá dịch vụ viết bài tại: vietbaocaothuctap.net
Download luận văn thạc sĩ ngành hệ thống thông tin với đề tài: Xây dựng hệ thống tìm kiếm âm thanh theo nội dung dựa trên các đặc trưng miền tần số, cho các bạn tham khảo
How to Become a Thought Leader in Your NicheLeslie Samuel
Are bloggers thought leaders? Here are some tips on how you can become one. Provide great value, put awesome content out there on a regular basis, and help others.
NLP is the branch of computer science focused on developing systems that allow computers to communicate with people using everyday language. Also called Computational Linguistics – Also concerns how computational methods can aid the understanding of human language
Artificial intelligence (AI) is everywhere, promising self-driving cars, medical breakthroughs, and new ways of working. But how do you separate hype from reality? How can your company apply AI to solve real business problems?
Here’s what AI learnings your business should keep in mind for 2017.
An immersive workshop at General Assembly, SF. I typically teach this workshop at General Assembly, San Francisco. To see a list of my upcoming classes, visit https://generalassemb.ly/instructors/seth-familian/4813
I also teach this workshop as a private lunch-and-learn or half-day immersive session for corporate clients. To learn more about pricing and availability, please contact me at http://familian1.com
3 Things Every Sales Team Needs to Be Thinking About in 2017Drift
Thinking about your sales team's goals for 2017? Drift's VP of Sales shares 3 things you can do to improve conversion rates and drive more revenue.
Read the full story on the Drift blog here: http://blog.drift.com/sales-team-tips
Programer C++
Training C/C++, Java
Game Mobile (Android - iOS - Winphone)
Info: https://www.facebook.com/hoclaptrinh.it
+ Quy trình làm game
+ Làm game đa nền tảng
+ Tìm hiểu Engine Cocos2d-x
Laravel 5 framework
The Laravel framework has a few system requirements. Of course, all of these requirements are satisfied by the Laravel Homestead virtual machine, so it's highly recommended that you use Homestead as your local Laravel development environment.
Chuẩn bị môi trường
- Server web (XAMPP, WAMSERVER, …)
- Larabel 5
Download: https://github.com/laravel/laravel
- Composer
Download: https://getcomposer.org/
- Thêm biến môi trường php
Thêm vào biến path thư mục php trong web server.
With the tremendous growth of social networks, there has been a growth in the amount of new data that is being created every minute on these networking sites. The notion of community in this social networking world has caught lots of attention. Studying Twitter is useful for understanding how people use new communication technologies to form social connections and maintain existing ones. We analysed how geo-tagged tweets in Twitter can be used to identify useful user features and behavior as well as identify landmarks/places of interests. We also analysed several clustering algorithms and proposed different similarity measures to detect communities.
To view recording of this webinar please use below URL:
http://wso2.com/library/webinars/2015/09/event-driven-architecture/
Enterprise systems today are moving towards being dynamic where change has become the norm rather than the exception. Such systems need to be loosely coupled, autonomous, versatile and adaptive. There arises the need to model such systems, and event driven architecture (EDA) is how such systems can be modelled and explained.
This webinar will discuss
The basics of EDA
How it can benefit your enterprise
How the WSO2 product stack complements this architectural pattern
Bí Quyết nhắm đối tượng khi Quảng cáo Bất Động Sản - by Phạm Phước Nguyên.Pham Phuoc Nguyen
Bí quyết mà mọi sale hay nhân viên marketing ngành Bất động sản nên biết khi chạy Digital Marketing. Giúp bạn hiểu tổng quan và chính xác hơn. Nội dung được thực hiện trong chuỗi workshop kết hợp cùng Muabannhadat.
Ever wondered if what you do on a daily basis is important? This gentle presentation for managers and Board members will discuss how everything you do has some effect on someone or something, and how your decisions matter to more people than you are aware.
A brief slideshow on the Butterfly effect and its sister theories , the Chaos theory and The Catastrophe theory and how they affect the real world and its outcomes. Meant for beginners.
Prompt Engineering Tutorial: Cách viết prompt hiệu quả với ChatGPTMinh Pham
Bài giảng về cách sử dụng prompt engineering hiệu quả với ChatGPT. Sau khi học xong bài giảng, người dùng hiểu về cấu trúc cơ bản của prompt, biết cách thiết kế prompt một cách hiệu quả, tiết kiệm
Presentation skill Rèn luyện kỹ năng thuyết trình và nói trước đám đôngthanhnguyendinh
Rèn luyện kỹ năng nói trước công chúng và chuẩn bị cho một bài thuyết trình thành công.
Đọc bài ngắn tại đây:
http://nguyendinhthanh.com/9-buoc-de-co-mot-bai-thuyet-trinh-thanh-cong.html
69 câu hỏi phỏng vấn kỹ sư Công nghệ Thông tinVu Hung Nguyen
Bộ 69 câu hỏi phỏng vấn giành cho kỹ sư công nghệ thông tin.
Đối tượng hưởng lợi:
- Người đi phỏng vấn: Biết được những câu hay bị hỏi
- Người phỏng vấn: Có một bộ câu hỏi phỏng vấn cơ bản làm cơ sở
AimeLaw at ALQAC 2021: Enriching Neural Network Models with Legal-Domain Know...Minh Pham
Our presentation slide at the 13th IEEE International Conference on Knowledge and Systems Engineering (KSE 2021).
In this paper, we present our participated systems for three Vietnamese legal text processing tasks at Automated Legal Question Answering Competition (ALQAC 2021). In our systems, we leverage the strength of traditional information retrieval methods (BM25), pre-trained masked language models (BERT), and legal domain knowledge. Our proposed methods help to overcome the shortage of training data. Especially, in the legal textual entailment task, we propose a novel data augmentation
method that is based on legal domain knowledge. Evaluation
results show the effectiveness of our proposed methods.
Research methods for engineering students (v.2020)Minh Pham
Beginning students who start doing research may face to many difficulties from choosing a good research topic to start, how to develop new ideas to how to implement models to test their ideas and write papers. Research skill is a craft skill. You only learn it by doing. However, it is good to learn know-how in doing research. In this lecture, I share information of how-to-do research for engineering students with the hope that it will help students to save time at the beginning state of doing research.
Tài liệu giới thiệu kiến thức cơ bản về AIML và cách sử dụng khi phát triển chatbot. Để áp dụng được tốt hơn, độc giả cần tìm hiểu các tài liệu chi tiết hơn.
Mạng neural nhân tạo và ứng dụng trong xử lý ngôn ngữ tự nhiênMinh Pham
Slide bài thuyết trình tại sự kiện của của công ty rubikAI. Nội dung của bài trình bày là kiến thức cơ bản về mạng neural và ứng dụng trong xử lý ngôn ngữ tự nhiên.
Slide của bài trình bày tại al+ AI Seminar số 4 về báo bài báo được giải thưởng best paper award tại hội nghị NAACL 2018
Peters et al., 2018. Deep Contextualized Word Representations. In NAACL.
Bài báo gốc: http://aclweb.org/anthology/N18-1202
Mô hình ELMo là mô hình biểu diễn từ phụ thuộc ngữ cảnh học từ mô hình ngôn ngữ hai chiều. ELMo được áp dụng cho nhiều bài toán khác nhau và đạt kết quả tốt nhất trên nhiều tập dữ liệu.
Research Methods in Natural Language Processing (2018 version)Minh Pham
Updated version of my lecture slide about "Research Methods in Natural Language Processing" for the course RAW-501 in Master program of FPT University.
A Feature-Based Model for Nested Named-Entity Recognition at VLSP-2018 NER Ev...Minh Pham
The presentation of a feature-based model for nested named-entity recognition at VLSP 2018. Our system obtained the first rank among participant systems. There is still a gap between the accuracy on the development set and the test set.
Các bài toán xử lý ngôn ngữ tự nhiên trong phát triển hệ thống chatbot
1. Các bài toán x lý ngôn ng t nhiên
trong phát tri n h th ng chatbot
Ph m Quang Nh t Minh
Vi n nghiên c u công ngh FPT (FTRI)
minhpqn2@fe.edu.vn
Ngày 30 tháng 3 năm 2017
2. M t s h th ng giao ti p t đ ng
Hình: Chatbot Symptomate1
cho ch n đoán b nh và tr lý o Cortana
1
https://www.facebook.com/Symptomate
Ph m Quang Nh t Minh Các v n đ NLP trong chatbot 2/37
3. Vì sao nhu c u s d ng chatbot ngày càng tăng?
Chatbot h u ích trong các h th ng tr c tuy n v i s lư ng
l n ngư i dùng:
H tr ho c thay th ngư i trong m t s tác v : chăm sóc
khách hàng, h tr đ t hàng, tr l i câu h i, giáo d c,. . .
R t nhi u các n n t ng h tr trò chuy n tr c tuy n:
Facebook messenger, Slack, Skype, Telegram,...
S lư ng ngư i dùng đi n tho i thông minh ngày càng nhi u
Nh ng bư c ti n m i trong ngành AI:
X lý ngôn ng t nhiên
X lý ti ng nói
H c máy
Ngày càng nhi u platform h tr t o chatbot
Ph m Quang Nh t Minh Các v n đ NLP trong chatbot 3/37
4. N n t ng h tr phát tri n chatbot
M t s n n t ng h tr phát tri n chatbot:
Watson Conversation Service
Microsoft’s LUIS
Google Natural Language API
Wit.ai
Api.ai
Amazon Lex
Ph m Quang Nh t Minh Các v n đ NLP trong chatbot 4/37
5. Ki n trúc cơ b n c a m t h th ng tr l i t đ ng
Hình: Ki n trúc cơ b n c a m t h th ng tr l i t đ ng2
2
nh l y t cu n sách c a Daniel Jurafsky và James Martin
Ph m Quang Nh t Minh Các v n đ NLP trong chatbot 5/37
6. Hình: Ví d v c u trúc h i tho i c a chatbot. (Ngu n: stanfy.com:
http://tinyurl.com/mdfsa6h)
Ph m Quang Nh t Minh Các v n đ NLP trong chatbot 6/37
7. N i dung trình bày
1 Bài toán xác đ nh ý đ nh ngư i dùng (intent detection)
2 Bài toán trích xu t thông tin (named entity extraction)
3 Qu n lý h i tho i (dialogue management)
4 Mô hình sinh h i tho i cho chatbot
Ph m Quang Nh t Minh Các v n đ NLP trong chatbot 7/37
8. N i dung trình bày
1 Bài toán xác đ nh ý đ nh ngư i dùng (intent detection)
2 Bài toán trích xu t thông tin (named entity extraction)
3 Qu n lý h i tho i (dialogue management)
4 Mô hình sinh h i tho i cho chatbot
Ph m Quang Nh t Minh Các v n đ NLP trong chatbot 8/37
9. Ý đ nh (intent) là gì?
Intent: Đi u ngư i dùng mong mu n chatbot th c hi n (h
tr ) khi đưa ra câu h i tho i
Ví d , khi ngư i dùng mu n chatbot đưa ra thông tin v th i
ti t hôm nay
Th i ti t hôm nay th nào ad?
Hà N i hôm nay có mưa không v y?
Tr i hôm nay th nào b n?
Ph m Quang Nh t Minh Các v n đ NLP trong chatbot 9/37
10. T i sao xác đ nh intent quan tr ng?
Intent đư c xác đ nh s quy t đ nh c u trúc (frame) và k ch
b n (script) c a đo n h i tho i ti p theo.
N u chatbot xác đ nh sai intent:
Ph n h i không thích h p → Ngư i dùng không hài lòng →
R i b h th ng
Ph m Quang Nh t Minh Các v n đ NLP trong chatbot 10/37
11. Các v n đ trong bài toán xác đ nh intent (1)
Làm sao đ nh n bi t nh ng cách di n đ t khác nhau cho cùng
m t intent?
Ví d , t “lag“ và “ch m“ trong 2 câu sau mang cùng ng
nghĩa
Ad ơi, sao m ng nhà em d o này ch m th ?
M ng lag l m, dùng r t c ch .
Ngư i dùng có th dùng câu h i, câu c u khi n hay câu than
phi n khi đưa ra yêu c u h tr
Ph m Quang Nh t Minh Các v n đ NLP trong chatbot 11/37
12. Các v n đ trong bài toán xác đ nh intent (2)
X lý v n đ sai chính t
Ví d : “Ad ơi, m ng chaamj l m“
Trong ti ng Vi t, chúng ta có th ph i x lý v n đ ti ng Vi t
không d u và mix gi a có d u và không d u.
X lý các t vi t t t, ngôn ng chat
Ph m Quang Nh t Minh Các v n đ NLP trong chatbot 12/37
13. Cách ti p c n h c máy cho bài toán xác đ nh intent
Trong nh ng nh ng mi n ng d ng đóng (closed domain)
S lư ng intent là h u h n
Mô hình phân l p văn b n (text classification)
Hu n luy n mô hình phân l p intent t m t t p d li u hu n
luy n
intent text
order.pizza i want a small pizza with tomatos
order.pizza i want a pizza with bbq souce
order.pizza pizza delivery
greeting Hi
greeting Hello
...
B ng: Ví d v d li u hu n luy n cho chatbot ph c v order pizza
(Api.ai)
Ph m Quang Nh t Minh Các v n đ NLP trong chatbot 13/37
14. Mô hình phân l p intent
Hình: Ki n trúc h th ng phân l p intent
Ph m Quang Nh t Minh Các v n đ NLP trong chatbot 14/37
15. Ti n x lý d li u
Tách t (word segmentation)
X lý t gõ sai chính t (ví d m ng chaamj)
X lý t vi t t t (ví d : gõ ip thay vì iphone)
POS Tagging
Ph m Quang Nh t Minh Các v n đ NLP trong chatbot 15/37
16. Trích xu t đ c trưng
Bag-of-words
Hi n t i intent detection t i FPT.AI đang s d ng bag-of-word
features
tf-idf features
...
Ph m Quang Nh t Minh Các v n đ NLP trong chatbot 16/37
17. Thu t toán hu n luy n mô hình phân l p
Thu t toán phân l p ph bi n:
Support Vector Machines (SVM)
Random Forest
Quora đang s d ng đ phát hi n câu h i trùng l p
Neural Networks
FPT.AI s d ng mô hình m ng Neural Feed Forward v i m t
t ng n
S d ng thư vi n keras v i Theano backed end.
Ph m Quang Nh t Minh Các v n đ NLP trong chatbot 17/37
18. Đánh giá đ chính xác c a h th ng phân l p intent
Mô hình đánh giá 5-fold cross validation
Phân chia t p d li u thành 5 t p con
M i l n s d ng 4 t p con cho hu n luy n mô hình và test
trên t p còn l i
Đ đo: accuracy trên t p test
Tính trung bình cho 5 l n ch y
Engine Đ chính xác
Fpt.ai 0.85424
Wit.ai 0.83419
B ng: Đ chính xác trên t p d li u FTel
Ph m Quang Nh t Minh Các v n đ NLP trong chatbot 18/37
19. N i dung trình bày
1 Bài toán xác đ nh ý đ nh ngư i dùng (intent detection)
2 Bài toán trích xu t thông tin (named entity extraction)
3 Qu n lý h i tho i (dialogue management)
4 Mô hình sinh h i tho i cho chatbot
Ph m Quang Nh t Minh Các v n đ NLP trong chatbot 19/37
20. Hình: Ví d v c u trúc h i tho i c a chatbot. (Ngu n: stanfy.com:
http://tinyurl.com/mdfsa6h)
Ph m Quang Nh t Minh Các v n đ NLP trong chatbot 20/37
21. Các lo i th c th mà NLU thư ng h tr
V trí (Location)
Th i gian (Datetime)
S (Number)
Đ a ch liên l c (Contact)
Kho ng cách (Distance)
Kho ng th i gian (Duration)
Ph m Quang Nh t Minh Các v n đ NLP trong chatbot 21/37
22. Ví d đ u vào & đ u ra c a module trích xu t thông tin
Tôi mu n đ t vé máy bay đi Phú Qu c t sân bay N i Bài lúc 8
gi t i ngày mai.
Tôi mu n đ t vé máy bay đi <ENTITY TYPE="LOCATION">
Phú Qu c </ENTITY> t sân bay <ENTITY
TYPE="LOCATION"> N i Bài </ENTITY> lúc <ENTITY
TYPE="TIME"> 8 gi t i ngày mai </ENTITY>.
Ph m Quang Nh t Minh Các v n đ NLP trong chatbot 22/37
23. Mô hình gán nhãn chu i - sequence labeling
Sequence labeling là mô hình hay đư c s d ng cho bài toán
trích xu t thông tin.
Chúng ta có m t t p d li u bao g m các câu đư c gán nhãn
cho t ng t trong câu
Tôi/O mu n/O đ t/O vé/O máy/O bay/O đi/O
Phú_Qu c/B-LOCATION t /NA sân/NA bay/NA
N i_Bài/B-LOCATION lúc/NA 8/B-TIME gi /I-TIME
t i/I-TIME ngày/I-TIME mai/I-TIME.
Mô hình gán nhãn B-I-O
B: Beginning, I: Inside, O: Outside
Bài toán: Hu n luy n m t mô hình gán nhãn cho m t câu m i
Ph m Quang Nh t Minh Các v n đ NLP trong chatbot 23/37
24. Mô hình Conditional Random Fields (CRF)
Ý tư ng chính: Mô hình hoá xác su t đi u ki n c a m t chu i các
nhãn v i m t dãy các t cho trư c.
Mô hình hoá P(Y |X) t d li u.
V i m t câu X cho trư c, dãy các nhãn đư c ch n sao cho giá tr
P(Y |X) đ t giá tr c c đ i.
Công c : CRFsuite3, CRF++4, Mallet5,etc
3
http://www.chokkan.org/software/crfsuite/
4
https://taku910.github.io/crfpp/
5
http://mallet.cs.umass.edu/
Ph m Quang Nh t Minh Các v n đ NLP trong chatbot 24/37
25. N i dung trình bày
1 Bài toán xác đ nh ý đ nh ngư i dùng (intent detection)
2 Bài toán trích xu t thông tin (named entity extraction)
3 Qu n lý h i tho i (dialogue management)
4 Mô hình sinh h i tho i cho chatbot
Ph m Quang Nh t Minh Các v n đ NLP trong chatbot 25/37
26. Vai trò c a qu n lý h i tho i (Dialogue Manager)
Nh n đ u vào t thành ph n NLU
Qu n lý các tr ng thái h i tho i (dialogue state)
Qu n lý ng c nh h i tho i (dialogue context)
Truy n đ u ra cho thành ph n sinh ngôn ng
Ph m Quang Nh t Minh Các v n đ NLP trong chatbot 26/37
27. Các mô hình qu n lý h i tho i ph bi n
Mô hình d a trên máy tr ng thái h u h n (Finite State
Automata - FSA)
Mô hình d a trên frame (frame-based hay form-based)
K t h p gi a hai mô hình trên
Ph m Quang Nh t Minh Các v n đ NLP trong chatbot 27/37
28. Mô hình FSA
Ph m Quang Nh t Minh Các v n đ NLP trong chatbot 28/37
29. Mô hình qu n lý dialogue d a trên Frame
Gi i quy t như c đi m c a FSA khi ngư i dùng đưa cùng lúc
nhi u thông tin
T i m i tr ng thái, FSA ch nh n 1 câu tr l i cho 1 câu h i
D a trên các frame đ nh s n đ đ nh hư ng cu c h i tho i
M i Frame s bao g m các thông tin (slot) c n đi n và các
câu h i tương ng
Dialogue Manager s h i cho đ n khi các slot đư c đi n h t
Slot Câu h i
H tên Xin quý khách cho bi t h tên
S đi n tho i S đi n tho i c a quý khách là gì ?
Tên gói Internet Gói Internet mà quý khách đang dùng là
gì ?
T c đ Internet th c t T c đ vào Internet c a quý khách
hi n th i là bao nhiêu ?
Ph m Quang Nh t Minh Các v n đ NLP trong chatbot 29/37
30. Mô hình qu n lý dialogue d a trên Frame
Trong m t h i tho i có th có nhi u hơn 1 frame
Ví d : khách hàng có th v a h i v v n đ m ng ch m, v a
mu n đ i gói Internet
Dialogue manager c n bi t khi nào thì c n chuy n sang frame
khác
Đ nh nghĩa các lu t (production rule) đ chuy n gi a các frame
Ph m Quang Nh t Minh Các v n đ NLP trong chatbot 30/37
31. N i dung trình bày
1 Bài toán xác đ nh ý đ nh ngư i dùng (intent detection)
2 Bài toán trích xu t thông tin (named entity extraction)
3 Qu n lý h i tho i (dialogue management)
4 Mô hình sinh h i tho i cho chatbot
Ph m Quang Nh t Minh Các v n đ NLP trong chatbot 31/37
32. Ý tư ng chính c a mô hình sinh h i tho i (1)
Như c đi m c a mô hình truy xu t thông tin (phát hi n
intent và tr l i d a trên các m u có s n)
T n công xây d ng d li u hu n luy n và các m u tr l i
Không t n d ng đư c các h i tho i đã có
Ví d : gi a các nhân viên chăm sóc khách hàng và ngư i dùng
Ý tư ng: T n d ng các h i tho i đã có đ t đ ng sinh h i
tho i
Chatbot h c theo cách tr l i c a con ngư i trong các đo n
h i tho i trong quá kh
Ph m Quang Nh t Minh Các v n đ NLP trong chatbot 32/37
33. Ý tư ng chính c a mô hình sinh h i tho i (2)
Ví d v đo n h i tho i trong d li u IT Helpdesk [Vinyals
and Le 2015]6
Describe your problem: i am having issues accessing vpn
Machine: could you please let me know what are the operating
systems you are using ?
Human: i am using linux
Machine: ok it was in the ssl vpn on which you stated it was
broken
Machine: please check if you are logged in to corp network
Machine: what is the error that you are running please
Human: i am seeing an error related to vpn
Machine: what is the error message that you are getting when
connecting to vpn using network connect ?
Human: connection refused or something like that
Machine: may i know the version of network connect you
connect ?
6
https://arxiv.org/abs/1506.05869
Ph m Quang Nh t Minh Các v n đ NLP trong chatbot 33/37
34. Ý tư ng chính c a mô hình sinh h i tho i (3)
Chatbot theo mô hình sinh b t chư c các t ng trong câu
h i tho i c a nhân viên h tr
....
Machine: try this
Machine: goto <URL> page and enter your name and
password
Human: done
Machine: try logging in with <NAME> and check if its
working fine now
Human: yes , now it works !
Machine: great
(The <URL> indeed contains information about vpn access.)
Ph m Quang Nh t Minh Các v n đ NLP trong chatbot 34/37
35. Mô hình sinh h i tho i s d ng Deep Learning
Mô hình "sequence to sequence"
Gi i thi u trong bài báo "Sequence to Sequence Learning with
Neural Networks"7
Hình: Minh ho mô hình sequence-to-sequence8
7
http://tinyurl.com/kr57pde
8
https://github.com/farizrahman4u/seq2seq
Ph m Quang Nh t Minh Các v n đ NLP trong chatbot 35/37
36. Đ c đi m c a mô hình sinh h i tho i (neural chatbot)
Không c n d li u gán nhãn ho c c n lư ng d li u gán nhãn
ít hơn r t nhi u so v i mô hình chatbot truy n th ng
M t mô hình duy nh t h c tr c ti p t d li u h i tho i
C n d li u h i tho i l n
Mô hình không th c s ph n nh b n ch t c a h i tho i gi a
ngư i v i ngư i
Ch t lư ng h i tho i sinh ra ph thu c l n vào d li u h i
tho i
Chatbot Tay AI c a Microsoft phân bi t ch ng t c do b ngư i
dùng "hu n luy n"
Ph m Quang Nh t Minh Các v n đ NLP trong chatbot 36/37
37. Tóm t t n i dung đã trình bày
Các bài toán NLP cơ b n trong cách ti p c n truy n th ng
trong phát tri n chatbot
Xác đ nh intent
Trích xu t thông tin
Qu n lý h i tho i
Cách ti p c n truy n th ng
Là mô hình chatbot ph bi n trong các s n ph m chatbot
th c t
Theo mô hình truy xu t thông tin
C n nhi u d li u hu n luy n và lu t chu n b b ng tay
Thích h p cho mi n ng d ng đóng
Neural chatbot: cách ti p c n m i trong phát tri n chatbot
H c t d li u h i tho i theo mô hình “sequence to sequence“
trong Deep learning.
Ph m Quang Nh t Minh Các v n đ NLP trong chatbot 37/37