"GPT-4: Hổ thêm cánh" tiết lộ vũ khí bí mật có thể giúp GPT-4 trở thành "vua của các AI". Đó là bộ nhớ liên kết ngoài. Cuốn sách này cung cấp tài liệu tham khảo cho sinh viên các nhà nghiên cứu và chuyên gia làm việc trong các lĩnh vực trí tuệ nhân tạo, học máy, xử lý ngôn ngữ tự nhiên và khoa học máy tính. https://www.facebook.com/cung.AI.VN

1. 1
Hoàng Tuấn Dũng
GPT-4: HỔ THÊM CÁNH
1
Bước cùng AI

2. Mục lục
1 Lời nói đầu
2 Chương 1: Giới thiệu các
mô hình ngôn ngữ lớn
3 Chương 2: Mạng nơ-ron
với bộ nhớ mở rộng
4 Chương 3: Cơ chế hoạt
động của bộ nhớ liên kết
5 Chương 4: Triển khai Bộ
nhớ liên kết ngoài trong
LLMs
6 Chương 5: Ứng dụng của
các mô hình LLMs mở
rộng
7 Chương 6: Đánh giá và
chỉ số hiệu suất
8 Chương 7: Thách thức và
hạn chế của LLMs mở
rộng
9 Chương 8: Hướng phát
triển và nghiên cứu trong
tương lai
10 Thuật ngữ
2

3. 5
Mục đích chính của cuốn sách "GPT-4: Hổ
thêm cánh" là giới thiệu tổng quan về khái
niệm bộ nhớ liên kết ngoài và ứng dụng khái
niệm này trong việc mở rộng năng lực của các
mô hình ngôn ngữ lớn (LLMs).
Cuốn sách này cung cấp một nguồn tài liệu
tham khảo cho sinh viên các nhà nghiên cứu
và chuyên gia làm việc trong các lĩnh vực trí
tuệ nhân tạo, học máy, xử lý ngôn ngữ tự nhiên
và khoa học máy tính.
Lời nói đầu
Đối tượng của cuốn sách này bao gồm sinh
viên đại học và sau đại học có hiểu biết cơ
bản về học máy và mạng thần kinh.
Ngoài ra, cuốn sách này có thể hữu ích cho
các nhà nghiên cứu và chuyên gia muốn
nâng cao kiến thức và hiểu biết về các
mạng thần kinh được tăng cường bộ nhớ
(MANNs), các mô hình ngôn ngữ lớn và vai
trò của bộ nhớ liên kết ngoài trong các mô
hình này.
3

4. Cuốn sách này có tám chương, mỗi chương
tập trung vào một khía cạnh khác nhau của
các mô hình ngôn ngữ lớn và bộ nhớ liên
kết ngoài. Các chương được thiết kế để
cung cấp kiến thức mạch lạc và có hệ thống
về chủ đề, bắt đầu từ cơ bản và dần chuyển
sang các khái niệm và ứng dụng nâng cao
hơn.
Tổng quan về các chương:
Chương 1: Tổng qua về các mô hình ngôn
ngữ lớn
Chương này giới thiệu về khái niệm các mô
hình ngôn ngữ lớn, mục đích và các ứng
dụng của các mô hình này trong các lĩnh
vực khác nhau. Chương này cũng thảo luận
về các thách thức của LLMs và đề cập đến
sự cần thiết nâng cao sức mạnh cúa các
mô hình này bằng bộ nhớ liên kết ngoài.
Chương 2: Mạng thần kinh tăng cường bộ
nhớ
Chương này trình bày tổng quan về các
mạng thần kinh được tăng cường bộ nhớ,
các thành phần và kiến trúc, giải thích cách
áp dụng các MANNs trong LLMs để cải
thiện hiệu suất và khả năng của các mô
hình này.
Chương 3: Các cơ chế hoạt động của bộ
nhớ liên kết
Chương này tập trung vào các cơ chế khác
nhau được sử dụng trong bộ nhớ liên kết
ngoài, chẳng hạn như cơ chế chú ý và tìm
kiếm thông tin dựa trên nội dung, so sánh
sự tương đồng giữa bộ nhớ con người và bộ
nhớ liên kết ngoài trong các mô hình LLMs.
Chương 4: Áp dụng bộ nhớ liên kết ngoài
vào các mô hình LLMs
Chương này đi sâu vào quá trình tích hợp
bộ nhớ liên kết ngoài vào các mô hình ngôn
ngữ lớn. Nội dung bao gồm các sửa đổi
kiến trúc cần thiết, học thông qua liên kết và
huấn luyện và điều chỉnh các LLMs đã được
tăng cường.
Các nội dung chính
Chương 5: Các cách ứng dụng LLMs được
tăng cường
Chương này thảo luận về các ứng dụng rộng
rãi của các mô hình ngôn ngữ lớn được tăng
cường, bao gồm các hệ thống hỏi đáp, khả
năng hiểu ngôn ngữ tự nhiên được nâng cao,
xử lý liên kết ngữ nghĩa giữa các từ ở các vị
trí xa nhau trong văn bản trong các tác vụ
sequence-to-sequence và các mô hình ngôn
ngữ cho các lĩnh vực cụ thể.
Chương 6: Đánh giá và chỉ số hiệu suất
Chương này xem xét các phương pháp và chỉ
số đánh giá hiệu quả của bộ nhớ liên kết
ngoài trong các mô hình ngôn ngữ lớn và so
sánh ác LLMs truyền thống và các LLMs
được tăng cường.
Chương 7: Thách thức và Giới hạn của các
LLMs được tăng cường
Chương này trình bày các thách thức và giới
hạn của việc tích hợp bộ nhớ liên kết ngoài
vào các mô hình LLMs (khả năng mở rộng,
tài nguyên tính toán, các yếu tố đạo đức và
cân bằng hiệu suất với độ phức tạp).
Chương 8: Hướng đi và Nghiên cứu tương lai
Chương này khám phá các hướng đi tiềm
năng và lĩnh vực nghiên cứu trong lĩnh vực bộ
nhớ liên kết ngoài và các mô hình LLMs. Nội
dung chương thảo luận về các cơ chế mới về
mã hóa và truy cập dữ liệu, kết hợp với các kỹ
thuật tăng cường bộ nhớ khác và khám phá
các ứng dụng và lĩnh vực mới. Ngoài các
chương, cuốn sách còn bao gồm một từ điển
thuật ngữ cung cấp cho người đọc các nguồn
tài nguyên và thông tin bổ sung về chủ đề. Hy
vọng cuốn sách giáo này sẽ trở thành một
nguồn tài nguyên có giá trị và truyền cảm
hứng cho người đọc tìm hiểu và nghiên cứu
về lĩnh vực các mô hình ngôn ngữ lớn và bộ
nhớ liên kết ngoài.
4

5. CHƯƠNG 01
Tổng quan về các mô
hình ngôn ngữ lớn
5

6. 5
Mô hình Ngôn ngữ Lớn (LLMs) là một nhóm
các mô hình trí tuệ nhân tạo chuyên về hiểu,
tạo và thao sử dụng ngôn ngữ con người. Các
mô hình này được huấn luyện trên lượng lớn
dữ liệu văn bản để học các mẫu, cấu trúc và
mối quan hệ cơ bản trong các ngôn ngữ của
con người.
Nhờ đó, chúng có khả năng xử lý một loạt các
nhiệm vụ xử lý ngôn ngữ tự nhiên (NLP), chẳng
hạn như dịch máy, phân tích cảm xúc, trả lời
câu hỏi, tóm tắt và…
Mục đích chính của LLMs là giúp con người và
máy tính tương tác nhờ khả năng hiểu và tạo
ra ngôn ngữ giống con người của máy tính.
Khả năng này có thể được áp dụng trong nhiều
lĩnh vực, bao gồm dịch vụ khách hàng, tạo nội
dung và khám phá tri thức.
1.1 Định nghĩa và Mục đích của
Mô hình Ngôn ngữ Lớn
Mục tiêu cuối cùng của LLMs là tạo ra các
tương tác nhuần nhuyễn giữa con người và
máy tính giúp giao tiếp và hợp tác hiệu quả
hơn. LLMs sử dụng các kỹ thuật học sâu,
chẳng hạn như mạng nơ-ron hồi quy
(RNNs), transformers và cơ chế attention,
để học và sử dụng thành thạo ngôn ngữ
con người.
Các mô hình này được huấn luyện dựa trên
các dữ liệu văn bản đa dạng, bao gồm sách,
bài viết, trang web và các nguồn văn bản
khác. Nhờ đó, chúng có kiến thức rộng về
ngôn ngữ và có thể hỏi đáp mạch lạc và
phù hợp với ngữ cảnh.
6

7. 5
Có nhiều dạng mô hình ngôn ngữ lớn được
phát triển trong những năm gần đây, mỗi loại
có kiến trúc và ưu điểm riêng.
Một số LLMs nổi bật nhất là:
a. Các LLMs dựa trên Mạng nơ-ron hồi quy
(RNN): RNNs là một nhóm các mạng nơ-ron
được thiết kế để xử lý dữ liệu tuần tự, giúp
chúng phù hợp với các nhiệm vụ xử lý ngôn
ngữ tự nhiên. Các LLMs dựa trên RNNs, chẳng
hạn như mạng LSTM (Long Short-Term
Memory) và Gated Recurrent Units (GRUs), có
khả năng lập mô hình các mối quan hệ ngữ
nghĩa ở khoảng cách xa trong dữ liệu văn bản,
cho phép chúng tạo ra các phản hồi mạch lạc
và phù hợp về ngữ cảnh. Các mô hình này đã
được áp dụng cho các công việc như lập mô
hình ngôn ngữ, tạo văn bản và phân tích cảm
xúc.
1.2 Các loại LLMs và Ứng dụng
b. Các LLMs dựa trên transformer:
Transformer là một tiến bộ mới trong lĩnh
vực NLP và đã nhanh chóng trở nên phổ
biến nhờ khả năng mô hình các mối quan
hệ ngữ nghĩa ở khoảng cách xa hiệu quả
hơn so với RNNs.
Các LLMs dựa trên transformer, chẳng hạn
như GPT (Generative Pre-trained
Transformer) của OpenAI và BERT
(Bidirectional Encoder Representations
from Transformers) của Google, tận dụng
cơ chế tự chú ý (self-attention) để xử lý dữ
liệu đầu vào song song, dẫn đến việc huấn
luyện nhanh hơn và cải thiện hiệu suất của
các nhiệm vụ NLP khác nhau. Các mô hình
này đã được áp dụng cho nhiều ứng dụng,
như dịch máy, trả lời câu hỏi và tóm tắt văn
bản.
7

8. 5
c. Các LLMs được bổ sung bộ nhớ: Mạng nơ-
ron được bổ sung bộ nhớ (MANNs) là một loại
LLMs tích hợp bộ nhớ ngoài để lưu trữ và truy
xuất các thông tin không bao gồm thông tin về
trạng thái nội bộ của mô hình.
Bộ nhớ ngoài này cho phép mô hình duy trì và
truy cập thông tin từ các đầu vào trước đó, cho
phép nó xử lý các nhiệm vụ với các mối quan
hệ ngữ nghĩa ở khoảng cách xa hiệu quả hơn.
Các LLMs được bổ sung bộ nhớ đã được áp
dụng cho các tác vụ như lập luận, one shot
learning và các nhiệm vụ liên quan đến thuật
toán.
Một số ứng dụng của LLMs bao gồm:
1. Dịch máy: LLMs có thể được sử dụng để
dịch văn bản giữa các ngôn ngữ khác nhau với
độ chính xác cao, cho phép giao tiếp thời gian
thực giữa những người nói các ngôn ngữ khác
nhau và giúp vượt qua rào cản ngôn ngữ.
1.2 Các loại LLMs và Ứng dụng
2. Phân tích cảm xúc: Bằng cách hiểu các
sắc thái của ngôn ngữ con người, LLMs có
thể xác định cảm xúc được thể hiện trong
một đoạn văn bản, chẳng hạn như tích cực,
tiêu cực hoặc trung lập. Khả năng này có
thể được sử dụng trong các ứng dụng khác
nhau, chẳng hạn như giám sát phản hồi của
khách hàng, phân tích xu hướng trên mạng
xã hội và nghiên cứu dư luận về các chủ đề
khác nhau.
3. Trả lời câu hỏi: LLMs có thể được sử
dụng để phát triển các hệ thống trả lời câu
hỏi có mức độ phức tạp cao nhờ khả năng
trích xuất thông tin phù hợp từ lượng lớn dữ
liệu văn bản. Các hệ thống này có thể được
ứng dụng cho hỗ trợ khách hàng, khám phá
tri thức và trợ lý ảo.
8

9. 5
4. Tóm tắt văn bản: Các mô hình ngôn ngữ lớn
có thể tự động tóm tắt các văn bản dài thành
các bản tóm tắt ngắn gọn và mạch lạc, cho
phép người dùng nhanh chóng nắm bắt các
nội dung chính. Điều này đặc biệt hữu ích cho
việc tiếp nhận các tin tức, nghiên cứu và các
văn bản khác lớn.
5. Tạo nội dung: LLMs có thể được sử dụng để
tạo ra văn bản giống con người, như quảng
cáo, nội dung truyền thông xã hội, viết văn
sáng tạo và thơ ca. Nhờ khả năng hiểu ngữ
cảnh và cấu trúc của ngôn ngữ, các mô hình
này có thể tạo ra nội dung mạch lạc và hấp
dẫn trong các lĩnh vực khác nhau.
1.2 Các loại LLMs và Ứng dụng
6. Chatbot và Trợ lý ảo: Nhờ kết hợp khả
năng hiểu ngôn ngữ với kiến thức về một
lĩnh vực cụ thể, LLMs có thể được sử dụng
để phát triển các chatbot và trợ lý ảo thông
minh có thể hiểu các truy vấn của người
dùng và cung cấp các thông tin phản hồi và
thực hiện hành động phù hợp.
9

10. 5
Mặc dù khả năng của các LLMs rất ấn tượng,
vẫn còn một số thách thức cần được giải
quyết để tận dụng tối đa tiềm năng của chúng:
a. Tài nguyên về máy tính: Huấn luyện và triển
khai LLMs đòi hỏi tài nguyên về máy tính rất
lớn, bao gồm GPU mạnh và dung lượng bộ nhớ
lớn. Điều này có thể là cản trở đối với các nhà
nghiên cứu và tổ chức có tài nguyên hạn chế
và cũng có thể dẫn đến gia tăng tiêu thụ năng
lượng và tác động đến môi trường.
b. Dữ liệu bị thiên kiến: LLMs được huấn luyện
dựa trên lượng lớn dữ liệu văn bản, thường có
tính thiên kiến và thiếu chính xác. Do đó, các
mô hình có thể vô tình học và truyền bá các
thiên kiến này trong các thông tin đầu ra, dẫn
mất công bằng hoặc gây hại cho xã hội. Giảm
thiểu thiên kiến về dữ liệu và đảm bảo việc sử
dụng LLMs phù hợp với đạo đức là một thách
thức lâu dài trong lĩnh vực này.
1.3 Các thách thức đối với các mô
hình LLMs
c. Công khai và minh bạch: Do kiến trúc
phức tạp và kích thước lớn, LLMs đôi khi có
thể hoạt động giống như một chiếc "hộp
đen", khiến mọi người không hiểu các mô
hình này làm thế nào để tạo ra kết quả đầu
ra. Cần xây dựng các phương pháp cải thiện
tính công khai và minh bạch của các LLMs
để xây dựng niềm tin và đảm bảo việc các
LLMs được sử dụng một cách có trách
nhiệm.
d. Các mối quan hệ ngữ nghĩa ở khoảng
cách xa: Mặc dù LLMs, đặc biệt là các mô
hình dựa trên transformer, đã đạt được tiến
bộ đáng kể trong việc mô hình hóa các mối
quan hệ ngữ nghĩa ở khoảng cách xa trong
văn bản, nhưng vẫn còn nhiều điểm có thể
cải thiện. Nếu các mối quan hệ ngữ nghĩa ở
khoảng cách xa được xử lý một cách hiệu
quả hơn, LLMs sẽ có thể hiểu và tạo ra
ngôn ngữ mạch lạc và phù hợp hơn với ngữ
cảnh.
10

11. 5
e. Khả năng mở rộng: Khi LLMs được mở rộng
để chứa nhiều kiến thức hơn và cải thiện hiệu
suất, khả năng mở rộng trở thành một thách
thức đáng kể. Cần xây dựng các kỹ thuật mở
rộng LLMs một cách hiệu quả nhưng không
làm giảm hiệu suất hoặc đòi hỏi chi phí cấu
hình máy tính quá tốn. Đây là một lĩnh vực
nghiên cứu còn chưa được phát triển.
f. Tích hợp với Bộ nhớ Bên Ngoài: LLMs khi
được bổ sung bộ nhớ tỏ ra có tiềm năng trong
việc cải thiện khả năng của mô hình trong việc
lưu trữ và truy xuất thông tin. Tuy nhiên việc
tích hợp bộ nhớ ngoài một cách hiệu quả vẫn
còn là một thách thức. Các nhà nghiên cứu
cần tập trung xây dựng các kỹ thuật và kiến
trúc mới để cải thiện việc tích hợp bộ nhớ
ngoài với LLMs.
1.3 Các thách thức đối với các mô
hình LLMs
Kết luận, các mô hình ngôn ngữ lớn đã đạt
được tiến bộ đáng kể trong việc hiểu và tạo
ra ngôn ngữ giống như con người, mở
đường cho nhiều ứng dụng khác nhau trong
các lĩnh vực. Tuy nhiên, cần giải quyết nhiều
thách thức để khai thác triệt để tiềm năng
của chúng. Kiến thức về các dạng mô hình
LLMs, các ứng dụng và thách thức trong
việc triển khai LLMs sẽ giúp các nhà nghiên
cứu và chuyên gia phát triển các mô hình
ngôn ngữ hiệu quả và phù hợp với đạo đức
hơn.
11

12. 7
Các LLMs và ứng dụng
Nguồn: https://baincapitalventures.com
12

13. 8
Sự gia tăng quy mô của các mô hình LLMs
Sự phát triển về quy mô
của các LLMs
Nguồn: https://baincapitalventures.com
13

14. 14

15. CHƯƠNG 02
Mạng nơ-ron với bộ
nhớ mở rộng
15

16. 5
(Memory-augmented neural networks) là một
loại mô hình mạng nơ-ron được thiết kế để tích
hợp bộ nhớ ngoài để lưu trữ và truy xuất thông
tin không bao gồm các thông tin về trạng thái
nội tại của mô hình.
Các mô hình mạng nơ-ron truyền thống, chẳng
hạn như mạng feedforward và mạng phản hồi
quy (recurrent), phụ thuộc hoàn toàn vào trạng
thái nội tại của chúng để lưu trữ và xử lý thông
tin. Mặc dù các mô hình này đã chứng tỏ được
sự thành công đáng kể trong nhiều tác vụ,
nhưng khả năng xử lý các vấn đề liêt kết ngữ
nghĩa ở khoảng cách xa (long-term
dependencies) và lập luận phức tạp bị giới hạn
do các mạng này phụ thuộc vào bộ nhớ trong.
MANNs giải quyết hạn chế này bằng cách đưa
vào một ma trận bộ nhớ ngoài, có thể được coi
là bộ nhớ liên kết có khả năng học mà mô hình
có thể sử dụng để tăng cường cho trạng thái
nội bộ.
2.1 Tổng quan về các mạng
MANNs MANNs
Bộ nhớ bên ngoài này cho phép mô hình
duy trì và truy cập thông tin từ đầu vào
trong quá khứ, giúp nó xử lý các vấn đề liêt
kết ngữ nghĩa ở khoảng cách xa hiệu quả
hơn. Hơn nữa, kiến trúc được bổ sung bộ
nhớ có thể học để lưu trữ và truy xuất thông
tin phù hợp, do đó cải thiện hiệu suất tổng
thể của mô hình trên một loạt các tác vụ.
Ý tưởng về các MANNs có nguồn gốc từ
các mô hình mạng nơ-ron giai đoạn đầu
như mạng Hopfield và máy Boltzmann, đã
tích hợp các thành phần giống như bộ nhớ
trong kiến trúc của chúng. Tuy nhiên,
MANNs hiện đại đã phát triển đáng kể và
hiện sử dụng các cơ chế tiên tiến như chú ý
(attention) và truy xuất dựa trên nội dung để
tương tác với bộ nhớ bên ngoài hiệu quả
hơn.
16

17. 5
MANNs bao gồm một số thành phần hoạt
động cùng nhau để lưu trữ, truy xuất và điều
khiển thông tin trong bộ nhớ ngoài. Các thành
phần chính của MANNs bao gồm:
a. Bộ điều khiển Mạng nơ-ron: Bộ điều khiển
mạng nơ-ron có trách nhiệm xử lý dữ liệu đầu
vào, tạo ra các hoạt động đọc và ghi cho bộ
nhớ bên ngoài và tạo đầu ra. Bộ điều khiển có
thể là một mạng nơ-ron truyền thẳng, mạng
nơ-ron hồi quy hoặc thậm chí là một mô hình
dựa trên transformer. Vai trò chính của nó là
học cách tương tác với bộ nhớ bên ngoài một
cách hiệu quả, dựa trên nhiệm vụ cần thực
hiện.
2.2 Các thành phần và kiến trúc
của MANNs
b. Ma trận Bộ nhớ ngoài: Ma trận bộ nhớ
ngoài là một ma trận NxM, trong đó N đại
diện cho số lượng vị trí bộ nhớ và M đại
diện cho kích thước của mỗi khe nhớ. Ma
trận này hoạt động giống như kho lưu trữ
liên kết có khả năng học dành cho MANN.
Mỗi hàng trong ma trận tương ứng với một
khe nhớ có thể lưu trữ một vector có kích
thước cố định (M). Ma trận bộ nhớ được
khởi tạo với các giá trị ngẫu nhiên nhỏ và
được cập nhật trong quá trình huấn luyện
dựa trên các hoạt động đọc và ghi được tạo
ra bởi bộ điều khiển.
c. Đầu đọc và Đầu ghi: Đầu đọc và Đầu ghi
có trách nhiệm tương tác với ma trận bộ
nhớ bên ngoài bằng cách thực hiện các
hoạt động đọc và ghi. Bộ điều khiển mạng
nơ-ron tạo ra các hoạt động đọc và ghi dựa
trên dữ liệu đầu vào và trạng thái bộ nhớ
hiện tại. Đầu đọc truy xuất thông tin từ bộ
nhớ, trong khi Đầu ghi cập nhật bộ nhớ với
thông tin mới.
17

18. 5
d. Cơ chế truy xuất: Cơ chế truy xuất là một
thành phần quan trọng của MANNs, có trách
nhiệm xác định các vị trí bộ nhớ để đọc hoặc
ghi. Hai loại cơ chế truy xuất chính được sử
dụng trong MANNs: truy xuất dựa trên nội
dung và truy xuất dựa trên vị trí.
Truy xuất dựa trên nội dung tập trung vào tìm
kiếm các vị trí bộ nhớ có nội dung tương tự với
vector truy vấn, trong khi truy xuất dựa trên vị
trí phụ thuộc vào vị trí của các khe nhớ. Thông
thường, sự kết hợp của hai cơ chế này được sử
dụng để truy cập bộ nhớ một cách linh hoạt và
đáng tin cậy hơn.
Kiến trúc của MANNs có thể thay đổi tùy thuộc
vào mô hình và nhiệm vụ cụ thể. Tuy nhiên,
một MANN điển hình bao gồm các bước sau:
2.2 Các thành phần và kiến trúc
của MANNs
1. Dữ liệu đầu vào được xử lý bởi bộ điều
khiển mạng nơ-ron, tạo ra một vector truy
vấn dựa trên đầu vào hiện tại và trạng thái
nội bộ của mô hình.
2. Cơ chế truy xuất sử dụng vector truy vấn
để xác định các vị trí bộ nhớ để đọc hoặc
ghi.
3. Đầu đọc truy xuất thông tin từ ma trận bộ
nhớ dựa trên đầu ra của cơ chế truy xuất.
4. Bộ điều khiển mạng nơ-ron xử lý thông tin
được truy xuất.
18

19. 5
Mạng nơ-ron được bổ sung bộ nhớ (MANN) là
một dạng mạng nơ-ron nhân tạo, được thiết kế
để cải thiện khả năng xử lý thông tin của mô
hình thông qua việc tích hợp bộ nhớ ngoài.
MANN được sử dụng để xử lý các nội dung có
quan hệ ngữ nghĩa ở khoảng cách xa trong văn
bản hoặc các lập luận phức tạp.
Các ứng dụng của MANN trong mô hình ngôn
ngữ lớn (LLMs) đã được chứng minh là có
tiềm năng trong việc cải thiện hiệu suất và
năng lực của các mô hình này. Bên dưới là một
số ứng dụng của MANN trong các mô hình
LLMs.
Hệ thống Hỏi-Đáp: MANNs đã được sử dụng
để phát triển các hệ thống hỏi-đáp tiên tiến có
khả năng xử lý các tác vụ tư duy phức tạp. Nhờ
kết nối với bộ nhớ ngoài, các mô hình này có
thể lưu trữ và truy xuất thông tin phù hợp một
cách hiệu quả, cho phép chúng trả lời các câu
hỏi đòi hỏi tư duy đa bước hoặc các nội dung
có quan hệ ngữ nghĩa ở khoảng cách xa trong
văn bản.
2.3 Ứng dụng của MANN trong các
mô hình LLMs
Mô hình Ngôn ngữ: MANNs đã được áp
dụng vào các tác vụ mô hình ngôn ngữ mà
mục tiêu là dự đoán từ tiếp theo trong một
chuỗi các từ trong một ngữ cảnh cụ thể.
Nhờ tích hợp bộ nhớ ngoài, các mô hình này
có thể bao quát được ngữ cảnh lớn hơn và
xử lý tốt hơn các quan hệ ngữ nghĩa ở
khoảng cách xa trong văn bản, dẫn đến hiệu
suất mô hình ngôn ngữ được cải thiện.
Dịch Máy: Neural network tăng cường bộ
nhớ đã được sử dụng trong các tác vụ dịch
máy để cải thiện việc xử lý các quan hệ ngữ
nghĩa ở khoảng cách xa trong văn bản và
bản dịch trung thành với ngữ cảnh. Nhờ
được tích hợp bộ nhớ ngoài, các mô hình
này có thể lưu trữ và truy xuất thông tin về
các từ và cụm từ đã được dịch trước đó,
giúp các bản dịch chính xác và mạch lạc
hơn.
19

20. 5
Học một lần (one shot learning): Một trong
những điểm mạnh của MANNs là khả năng
thực hiện học một lần, trong đó mô hình có thể
học thông tin mới từ một ví dụ duy nhất. Khả
năng này đã được áp dụng trong LLMs để
nhanh chóng thích ứng với các tác vụ, lĩnh vực
hoặc ngôn ngữ mới, giảm nhu cầu fine-tuning
hoặc đào tạo lại.
Tóm tắt Văn bản: MANNs đã được sử dụng
trong các tác vụ tóm tắt văn bản để tạo ra các
bản tóm tắt các tài liệu văn dài thành các văn
bản ngắn gọn và mạch lạc. Bộ nhớ ngoài cho
phép mô hình nhớ nhiều thông ngữ cảnh của
văn bản đầu vào hơn, cho phép tóm tắt chính
xác và phù hợp về ngữ cảnh.
Tác vụ Thuật toán: MANNs đã thể hiện tiềm
năng trong việc giải quyết các tác vụ thuật
toán, như sắp xếp hoặc tìm đường ngắn nhất,
vốn là các tác vụ đòi hỏi duy trì và xử lý các
thông tin trung gian. Nhờ được tích hợp bộ nhớ
ngoài, LLMs có thể xử lý tốt hơn các tác vụ loại
này bằng cách lưu trữ và truy xuất thông tin
cần thiết trong quá trình giải quyết vấn đề.
2.3 Ứng dụng của MANN trong các
mô hình LLMs
Trò chuyện với Trí tuệ Nhân tạo : Neural
network tăng cường bộ nhớ đã được áp
dụng để phát triển các hệ thống trí tuệ nhân
tạo trò chuyện có khả năng nhớ thông tin
ngữ cảnh và kiến thức của nhiều cuộc trò
chuyện. Nhờ được kết nối với bộ nhớ ngoài,
các mô hình này có thể lưu trữ và sử dụng
thông tin về các cuộc trò chuyện trước đó
để tạo ra các phản hồi phù hợp về ngữ cảnh
và mạch lạc hơn.
Kết luận, neural network tăng cường bộ nhớ
cho thấy tiềm năng lớn trong việc tăng
cường khả năng của các mô hình ngôn ngữ
lớn bằng cách tích hợp bộ nhớ ngoài. Bộ
nhớ bổ sung này cho phép các mô hình lưu
trữ và truy xuất thông tin một cách hiệu quả
hơn, cho phép chúng xử lý các tác vụ đòi
hỏi xử lý quan hệ ngữ nghĩa ở khoảng cách
xa trong văn bản và tư duy phức tạp. Khi
nghiên cứu trong lĩnh vực này tiếp tục phát
triển, MANNs dự kiến sẽ đóng một vai trò
ngày càng quan trọng trong việc định hình
tương lai của trí tuệ nhân tạo và xử lý ngôn
ngữ tự nhiên.
20

21. 21

22. Thuật ngữ
67

23. 5
Định nghĩa thuật ngữ & khái niệm
Mô hình ngôn ngữ lớn (LLM): Một dạng mô
hình học máy được thiết kế để hiểu và tạo ra
ngôn ngữ con người, thường được huấn luyện
trên lượng lớn dữ liệu văn bản. LLM đã cho
thấy hiệu suất đáng kinh ngạc trong một loạt
các tác vụ xử lý ngôn ngữ tự nhiên, ví dụ dịch,
tóm tắt và trả lời câu hỏi.
Mạng nơ-ron liên kết bộ nhớ (MANN): Một
dạng mạng nơ-ron được tăng cường bộ nhớ
liên kết ngoài, cho phép mô hình lưu trữ và truy
xuất thông tin hiệu quả hơn so với các mô hình
truyền thống. MANN được thiết kế để xử lý các
tác vụ yêu cầu suy luận phức tạp hoặc có các
quan hệ ngữ nghĩa ở khoảng cách xa trong văn
bản.
Bộ nhớ liên kết ngoài: Là dạng bộ nhớ có thể
được tích hợp vào các mạng nơ-ron để tăng
cường khả năng lưu trữ và truy xuất. Bộ nhớ
liên kết ngoài cho phép các mô hình lưu trữ và
truy cập thông tin bằng cách truy vấn dựa trên
nội dung, cho phép quản lý bộ nhớ linh hoạt và
hiệu quả hơn.
Truy vấn dựa trên nội dung: Một phương pháp
để truy cập bộ nhớ trong các mạng nơ-ron liên
kết bộ nhớ liên kết ngoài dựa trên sự tương
đồng giữa nội dung bộ nhớ và một vectơ truy
vấn. Phương pháp này cho phép mô hình lấy
thông tin từ bộ nhớ dựa trên tính tương quan,
thay vì sử dụng địa chỉ cố định.
Tương đồng cosin: Một chỉ số đo lường mứ độ
tương đồng giữa hai vectơ, được tính bằng
cách lấy tích vô hướng của các vectơ và chia
cho tích của độ lớn của chúng. Tương đồng
co-sin có giá trị từ -1 (hoàn toàn không tương
đồng) đến 1 (hoàn toàn giống nhau ), giá trị 0
thể hiện không có mối tương quan.
Cơ chế chú ý: Một kỹ thuật được sử dụng trong
các mạng nơ-ron để chú ý có chọn lọc tới các
mục cụ thể của dữ liệu đầu vào, cho phép mô
hình xử lý và tích hợp thông tin hiệu quả hơn.
Cơ chế chú ý đã được sử dụng để cải thiện
hiệu suất của các LLMs, đặc biệt là trong các
tác vụ liên quan đến quan hệ ngữ nghĩa ở
khoảng cách xa trong văn bản hoặc cấu trúc
phân cấp.
Mạng nơ-ron hồi quy (RNN): Một dạng mạng
nơ-ron được thiết kế để xử lý dữ liệu tuần tự
bằng cách ẩn trạng thái nội tại có thể lưu
thông tin từ các bước trước đó. RNN đặc biệt
hữu ích cho các tác vụ liên quan đến các quan
hệ ngữ nghĩa ở khoảng cách xa trong văn bản
hoặc chuỗi, ví dụ mô hình ngôn ngữ và dự
đoán chuỗi thời gian.
Bộ nhớ ngắn hạn dài (Long Short-Term
Memory -LSTM): Là kiến trúc RNN được tích
hợp các ô nhớ đặc biệt có khả năng hiểu các
quan hệ ngữ nghĩa ở khoảng cách xa trong văn
bản và giải quyết vấn đề vanishing gradient
gây trở ngại cho quá trình huấn luyện của RNN
truyền thống. LSTM được sử dụng rộng rãi
trong nhiều tác vụ sequence-to-sequence, ví
dụ dịch máy và nhận dạng giọng nói.
Transformer: Kiến trúc mạng nơ-ron được
Vaswani et al. (2017) giới thiệu dựa trên cơ
chế tự chú ý để xử lý và tạo ra các chuỗi mà
không sử dụng hồi quy (recurrence) hoặc tích
chập (convolution). Transformer đã trở thành
nền tảng cho nhiều LLMs tiên tiến nhất, ví dụ
GPT-3 và BERT.
GPT-3: Phiên bản thứ ba của mô hình
Generative Pre-trained Transformer (GPT),
được phát triển bởi OpenAI. GPT-3 là một
trong những LLMs lớn nhất và mạnh nhất, với
175 tỷ tham số, và đã cho thấy hiệu suất mạnh
nhất nhất trong việc sử lý một loạt các tác vụ
xử lý ngôn ngữ tự nhiên.
68

24. 5
Định nghĩa thuật ngữ & khái niệm
BERT (Bidirectional Encoder
Representations from Transform-ers): Một
LLM được huấn luyện sẵn bởi Google sử
dụng kiến trúc Transformer hai chiều để
nắm bắt ngữ cảnh từ hai hướng trái qua
phải và phải qua trái. BERT đã được sử
dụng cho các tác vụ khác nhau, ví dụ nhận
dạng đối tượng, phân tích cảm xúc và trả lời
câu hỏi.
Học chuyển giao: Một kỹ thuật học máy
trong đó một mô hình được huấn luyện sẵn
và được điều chỉnh cho phù hợp với một tác
vụ hoặc lĩnh vực cụ thể, nhờ tận dụng kiến
thức đã học từ dữ liệu huấn luyện ban đầu.
Học chuyển giao đã được sử dụng rộng rãi
trong các LLM để ứng dụng cho các tác vụ,
ngôn ngữ hoặc lĩnh vực mới với lượng dữ
liệu được gán nhãn tương đối nhỏ.
Học liên tục: Còn được gọi là học suốt đời,
một mô hình trong học máy theo đó mô
hình tự học và thích nghi với các tác vụ
hoặc lĩnh vực mới trong thời gian dài, mà
không quên kiến thức đã học trước đó. Học
liên tục là một lĩnh vực nghiên cứu rất được
quan tâm trong các mô hình LLMs được
trang bị bộ nhớ liên kết ngoài và các hệ
thống AI khác.
Huấn luyện đối nghịch: Một kỹ thuật huấn
luyện trong đó một mô hình được tiếp xúc
với các ví dụ đối nghịch, là các đầu vào bị
xáo trộn được thiết kế để đánh lừa mô hình,
để cải thiện tính ổn định và khả năng tổng
quát hóa của nó. Trọng tâm của việc huấn
luyện đối nghịch liên quan đến các LLM
được trang bị bộ nhớ liên kết ngoài là để
nâng cao khả năng đề kháng với nhiễu loạn
thông tin và tấn công đối nghịch.
Học đa phương tiện: Một lĩnh vực nhỏ trong
ngành học máy tập trung vào các mô hình
có khả năng xử lý và tích hợp thông tin từ
nhiều định dạng, ví dụ văn bản, hình ảnh, âm
thanh và video. Các LLMs được trang bị bộ
nhớ liên kết ngoài có thể được điều chỉnh
để xử lý các tác vụ học đa phương tiện
bằng cách tích hợp bộ nhớ liên kết ngoài
phù hợp với các định dạng cụ thể.
69

25. Tác giả
Hoàng Tuấn Dũng
Giảng viên, Đại học RMIT Việt Nam
Đồng tác giả GPT-4. Ảnh minh họa: Midjourney V5
hoangtuandung@yahoo.com
70

26. 9
Để cập nhật thông tin mới nhất về AI hãy like và follow trang Facebook
Bước cùng AI
Kết nối
www.facebook.com/cung.AI.VN
Facebook
71