Microsoft Azure OpenAI Service Hands-on-lab workshop. - Azure Cognitive Search, Form Recognizer를 활용한 Enterprise 기업데이터 Q&A ChatGPT - Embedding - Fine-tuning

1. Azure OpenAI Service
및 ChatGPT 실습 (Hands-on-lab)
조승민
Data & AI CSA
Microsoft

2. Agenda

3. 실습: Azure OpenAI 리소스 생성하기
https://ms.portal.azure.com/

4. 현재 East US, South Central US Region에서만
ChatGPT (gpt-35-turbo) 모델 지원 *

5. 실습: Azure OpenAI Studio – Playground
https://oai.azure.com/portal/

8. 실습: Azure OpenAI 모델 배포하기
Azure OpenAI 서비스 모델 - Azure OpenAI | Microsoft Learn

9. Models 또는 Deployments에서 배포

10. Azure Portal에서도 모델배포 가능 !

11. 실습: Azure OpenAI Studio
– Playground GPT-3 프롬프트
https://oai.azure.com/portal/

12. 마이크로소프트, 애저 오픈AI 서비스 출시…챗GPT 기능도 곧 추가 – Korea News Center
(해당 기사 요약)
모델 선택 작업: 요약
파라미터 조정

13. 대화의 Randomness 조정

14. 요청 시 최대 token 수 조정

15. 작업: 메일 작성

16. 작업: 챗봇

18. 실습: Azure OpenAI Studio
– Playground ChatGPT 프롬프트
https://oai.azure.com/portal/

19. 작업: 마케팅 문구 작성

20. 실습:
Cognitive Search + Form Recognizer Enterprise ChatGPT (github)

21. ChatGPT+엔터프라이즈 데이터 Q&A(github.com)

22. Azure OpenAI Key 및 Endpoint 확인

23. 환경 구성
 Node.js 설치 후 pc 재부팅 + 환경변수 path 설정 필요
•Azure Developer CLI
•Python 3+
•Node.js
•Git
•Powershell 7+ (pwsh)
설치 및 업데이트

24. Azure Search Open AI 프로젝트 실행
리소스그룹 구성
Powershell 7 이상에서 작업!
Azure 계정 로그인

25. Azure 리소스 생성:
스토리지, Cognitive Search, App Service, Form Recognizer

26. 생성된 리소스그룹 Azure Portal에서 확인

27. 파이썬 스크립트 실행

28. • Form Recognizer로 문서 프로세스
(텍스트, 테이블 및 레이아웃 추출)
• Cognitive Search 인덱스 생성
파워쉘 스크립트 실행하여 앱 배포

29. 앱 배포 완료 !

31. Cognitive Search 및 Form Recognizer
파이썬 스크립트

32. Azure OpenAI 노트북

33. 실습:
Azure OpenAI ChatGPT (gpt-35-turbo)
openai-cookbook/chat.ipynb at main · openai/openai-cookbook (github.com)

34. Jupiter Notebook 또는 Visual Studio Code에서
파이썬 노트북 작업!

36. 실습: Azure OpenAI Embedding
openai-cookbook/embeddings.ipynb at main · openai/openai-cookbook (github.com)

40. 실습: Azure OpenAI Fine-tuning
openai-cookbook/finetuning.ipynb at main · openai/openai-cookbook (github.com)

43. Azure OpenAI Studio에서 Fine-tuning 마법사 활용

45. Test & Train 데이터셋 관리

46. 실습 활용
 Cognitive Search + Form Recognizer 기업데이터 ChatGPT (github)
 Azure OpenAI 노트북 (github)
 Chat
 Completion
 Embeddings
 Fine-tuning
 Azure OpenAI Service Embedding 자습서 - Microsoft Learn
 Azure OpenAI 음성 변환 채팅 - Microsoft Learn

47. 참고 링크
 파트너 Readiness Azure OpenAI (microsoft.github.io)
 Azure OpenAI 권한 요청 https://aka.ms/oai/access
 Azure OpenAI 서비스 제품
Azure OpenAI Service – Advanced Language Models | Microsoft Azure
 Azure OpenAI 기술문서
Azure OpenAI Service - Documentation, quickstarts, API reference - Azure Cognitive Services |
Microsoft Learn
 Azure OpenAI 비즈니스 브리핑
Azure OpenAI Business Briefing – YouTube
 Azure OpenAI 기술 브리핑
Azure OpenAI Technical Briefing – YouTube