Kitworks Team Study

1. LangChain
언어모델활용하기
윤정빈

2. LangChain이란?
다양한언어모델을기반으로하는애플리케이션을위한프레임워크입니다.
가장강력하고차별화된애플리케이션은API를통해언어모델을 호출할뿐만아니라
이를통해개발될것이라고믿습니다.
언어모델을더잘활용할수있게끔도와주는도구
데이터인식: 언어모델을다른데이터소스에연결
에이전트기능: 언어모델이환경과상호작용할수있도록함

3. LangChain을사용하는이유 ChatGPT의한계
01
ChatGPT(GPT-3.5)는2021년까지의데이터를학습한LLM(초거대언어모델)이므로,
2022년부터의정보에대해서는답변하지못하거나, 거짓된답변을제공
정보접근제한
02
03
ChatGPT에서제공하는모델인GPT-3.5와GPT-4는각각4096, 8192토큰이라는
입력토큰제한이존재
사실에대한질문을했을때, 엉뚱한대답을하거나거짓말을하는경우가많음
토큰제한
환각현상

4. LangChain을사용하는이유
Fine-tuning
개량
N-shot Learning
In-context Learning
기존딥러닝모델의weight를조정하여원하는용도의모델로업데이트
0개~ n개의출력예시를제시하여,
딥러닝이용도에알맞은출력을하도록조정
문맥을제시하고, 이문맥기반으로모델이출력하도록조정
Custom LLM 만드는방법

5. LangChain을사용하는이유 ChatGPT의한계
01
ChatGPT(GPT-3.5)는2021년까지의데이터를학습한LLM(초거대언어모델)이므로,
2022년부터의정보에대해서는답변하지못하거나, 거짓된답변을제공
정보접근제한
02
03
ChatGPT에서제공하는모델인GPT-3.5와GPT-4는각각4096, 8192토큰이라는
입력토큰제한이존재
사실에대한질문을했을때, 엉뚱한대답을하거나거짓말을하는경우가많음
토큰제한
환각현상
Vectorstore 기반정보탐색or Agent 활용한검색결합
TextSplitter를활용한문서분할
주어진문서에대해서만답하도록Prompt 입력

6. LangChain을사용하는이유 ChatGPT의한계
01
ChatGPT(GPT-3.5)는2021년까지의데이터를학습한LLM(초거대언어모델)이므로,
2022년부터의정보에대해서는답변하지못하거나, 거짓된답변을제공
정보접근제한
02
03
ChatGPT에서제공하는모델인GPT-3.5와GPT-4는각각4096, 8192토큰이라는
입력토큰제한이존재
사실에대한질문을했을때, 엉뚱한대답을하거나거짓말을하는경우가많음
토큰제한
환각현상
Vectorstore 기반정보탐색or Agent 활용한검색결합
TextSplitter를활용한문서분할
주어진문서에대해서만답하도록Prompt 입력
LangChain을활용하면
LLM의문제해결+ 활용도UP!

7. Models
LangChain의구조
LLM:
초거대언어모델로, 생성모델의엔진과같은역할을하는핵심구성요소
GPT-3.5, PAM-2, LLAMA, Stable Vicuna, WizardLm...

8. Prompts
LangChain의구조
Prompts:
초거대언어모델에게지시하는명령문
Prompt Templates, Chat Prompt Template, Example Selectors, Output Parsers

9. LangChain의구조
Index:
LLM이문서를쉽게탐색할수있도록구조화하는모듈
Document Loaders, Text Splitters, Vectorstores, Retrievers ...
Indexes

10. LangChain의구조
Memory:
채팅이력을기억하도록하여이를기반으로대화가가능하도록하는모듈
ConversationBufferMemory, Enity Memory, Conversation Knowledge Graph Memory...
Memory

11. LangChain의구조
Chains:
LLM 사슬을형성하여, 연속적인LLM 호출이가능하도록하는핵심구성요소
LLM Chain, Question Answering, Summarization, Retrieval Question/Answering...
Chains

12. LangChain의구조
Agents:
LLM이기존Prompt Template으로수행할수없는작업을가능케하는모듈
Custom Agent, Custom MultiAction Agent, Conversation Agent...
Agents

13. LangChain의구조 LLM

14. LangChain의구조
Encoder
말을잘이해함 말을잘함
Decoder
LLM

15. LLM의발전양상
LangChain의구조 LLM

16. 예제1

17. 예제2
chunk

18. 예제2
결과

19. https://www.igloo.co.kr/security-information/%EB%9E%AD%EC%B2%B4%EC%9D%B8langchain-
%EA%B7%B8%EA%B2%83%EC%9D%B4-%EC%95%8C%EA%B3%A0-%EC%8B%B6%EB%8B%A4/
https://www.youtube.com/playlist?list=PLQIgLu3Wf-q_Ne8vv-ZXuJ4mztHJaQb_v
https://youtu.be/aDN8hm4pfPE?si=ZHbmJ1lg3Pxd87sq
https://brunch.co.kr/@ywkim36/147
참고