오늘자 강의 링크: https://www.youtube.com/watch?v=LC681iD4kzo&list=PLdntWJk2tJPJuQctXMbRDdr9TWOsXClm6&index=1&t=2s

1. 쉽고 빠르게 익히는 실전 LLM

2. 쉽고빠르게익히는실전LLM
한 페이지 요약
• 책 분류
• 인공지능
• 생성형 AI
• 대상 독자
• 실제 LLM 관련 업무를 진행하고 계신 개발자
• LLM을 기술적인 측면에서 빠르게 조감하고 싶은 분들
• 특징
• 논문에서 볼 수 있는 복잡한 이론과 수식을 줄이고 실무 관점에서 소개
• 예를 위한 예가 아니라 현장에서 고민할 필요가 있는 사례를 잘 선별함

3. 이 책의 목차
Chapter 1 LLM
Chapter 2 LLM을 이용한 의미 기반 검색
Chapter 3 프롬프트 엔지니어링의 첫 번째 단계
Chapter 4 맞춤형 파인튜닝으로 LLM을 최적화하기: 아마존 리뷰 감정 분류
Chapter 5 고급 프롬프트 엔지니어링
Chapter 6 임베딩과 모델 아키텍처 맞춤화: 추천 시스템 만들기
Chapter 7 파운데이션 모델을 넘어서
Chapter 8 고급 오픈 소스 LLM 파인튜닝: 장르 다중 분류, GPT-2를 이용한 LaTeX 생성, SAWYER
Chapter 9 LLM을 프로덕션 환경에서 사용하기
부록: 자주 묻는 질문과 용어 해설
쉽고빠르게익히는실전LLM
언제까지 프롬프트 엔지니어링과 API만 호출하고 있을 것인가?

4. 무엇이 이 책을 흥미롭게 만드는가?(1)
그림과 코드 예시가 좋음
쉽고빠르게익히는실전LLM

5. 무엇이 이 책을 흥미롭게 만드는가?(2)
LLM을 내 것으로 만드는 여정에 뛰어들어보자
쉽고빠르게익히는실전LLM
• 파이썬 노트북을 활용한 실습 코드 제공: https://github.com/sinanuozdemir/quick-start-guide-to-llms
• 가장 기본적인 의존성만을 사용 à 프레임워크 홍수에 휩쓸리지 않게 지원
• 허깅페이스를 비롯한 오픈소스 생태계를 적절히 활용해 LLM을 개선하는 방식을 이해하기 쉽게 설명함
• A100과 같은 어마어마한 GPU 환경을 요구하지 않음 à 적절히 작은 모델로 실습이 가능하게 배려함
• PEFT/LoRA/양자화에 대한 내용은 살짝 언급하고 넘어가서 아쉽긴 함

6. 대상 독자
LLM을 현업에 적용해야 하는 임무를 맡은 개발자라면 어디서 출발해야 할까?
쉽고빠르게익히는실전LLM
• LLM을 업무에 적용하는 과정에서 일어나는 여러 가지 작업을 이해하고 싶은 개발자
• 프롬프트를 만들어 LLM에 넘겨서 답을 얻는 전 과정에서 일어나는 동작 방식을 API 수준이 아니라 저수준에서 이해
하고 싶은 개발자
• LLM으로 애플리케이션을 제대로 만들기 위해 큰 그림을 그리고 싶은 개발자
• 단, 어느 정도 머신러닝과 파이썬에 대한 지식을 갖추고 있어야 한다!

7. 결론
**** 언제까지 LLM의 API만 호출하고 있을 것인가?
• 애플리케이션 관점에서 LLM을 서비스 형태(?)로 이용하는 대신 직접 파고든다
• 작지만 완결된 형태의 예제를 제공해 파인튜닝, 지식증류, 강화학습을 직접 느껴보게 지원한다
• 상용 서비스 모델과 오픈소스 모델을 동시에 다루며, 오픈소스 모델을 개선할 경우 어느 정도 상용 서비스 모
델에 근접할 수 있는지 감을 잡게 도와준다
• langchain과 llamaindex를 사용한 생성형 AI 애플리케이션 작성을 넘어서 조금 더 저수준의 LLM 개발을 가능
하게 지침을 제공한다
• 책을 보내주신 한빛미디어 관계자분께 감사 말씀을 전한다
쉽고빠르게익히는실전LLM

8. 발표자 소개
기술 배경
전문 검색 엔진, 임베디드 시스템(리눅스 커널 디바이스 드라이버), 빅데이터/인공지능 연구 개발,
고성능 고가용성 데이터베이스
주요활동
IT 전문서 번역 (클린 코드, 피플웨어, 해커: 광기의 랩소디, 게임 엔진 블랙 북 등)
개발강의 (삼성전자, SK C&C, 삼성SDC, 현대자동차 기술 세미나와 교육)
활동채널
블로그: https://jhrogue.blogspot.com
슬라이드 셰어: https://www.slideshare.net/jrogue/presentations
유튜브: https://www.youtube.com/c/박재호dev
문의 jrogue@gmail.com
박재호