[금융사를 위한 AWS Generative AI Day 2023] 2_세상을 바꾸고 있는 Generative AI에 대한 이해와 금융산업의 경쟁력 확보방안_구태훈_AWS.pdf

금융사를 위한 AWS GENERATIVE AI DAY
FINANCIAL SERVICES |
© 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. Amazon Confidential and Trademark.
A W S G E N E R A T I V E A I D A Y F O R F S I
세상을 바꾸고 있는 Generative AI에 대한 이해와
금융 산업의 경쟁력 확보 방안
구 태 훈
Executive Technology Partner
robinkoo@amazon.com
Amazon Web Services

질문
Q1. 한국어 지원 모델?
Q2. 금융 규제 및 보안 준수 ?
Q3. 국내외 사례는 무엇?
2

질문
3

질문
Q2. 금융 규제 및 보안 준수?
4

목차
1. 왜 Generative AI에 열광하는가?
2. 금융의 다양한 시도는 어떤 것들이 있죠?
3. 어떻게 전략을 수립하고 준비할까요?
5

© 2023, Amazon Web Services, Inc. or its affiliates. Al rights reserved.
1. 왜 Generative AI에 열광하는가?
6

똑똑하다! 나보다 잘하네!
9

Foundation Model
11
ü Transfer Learning
ü Pretrained Model
ü LLM LargeLanguageModel

거대 언어 모형 > Emergent Abilities
12

거대 언어 모형 > Emergent Abilities
13

거대 언어 모형 > In-Context Learning & Chain of Thought
14

금융업의 새로운 도구, 생성형 AI
15

금융업의 새로운 도구, 생성형 AI
16

금융 전문가들의 의견 - Gartner
17

금융 리서치 분석- CBInsights & Insider Intelligence
18

생성형 AI의 금융업에 있어 잠재적 가치
19
혁신 서비스
• 대량의 비정형 텍스트
데이터에서 가치를 창출하고
신제품을 개발
• 과거 비정형 데이터의 체계적인
분석과 활용에 한계
• 비정형 데이터는 전체 중
80-90%로 추정
생산성
• 모든 업무 영역에서 생산성을
획기적으로 향상
• 콘텐츠 제안 및 자동 완성은
마케팅관련 문석 작성 혁신적
생산성 제공
• 개발자의 생산성 도구로 활용
경제 성장
• 향후 10년 동안 세계 GDP에서
$7T 증가 주도가 예상됨
• 금융 서비스 및 관련 데이터
공급업체 및 핀테크 내의 경쟁
우위의 기술 변화 주도

2. 금융의 다양한 시도는 어떤 것들이 있죠?
20

BBVA
• 글로벌 뱅킹 리더인 BBVA는 아마존과 주요 AI 스타트업이 제공하는 Foundation
Model을 API로 활용할 수 있는 Amazon Bedrock과 Amazon SageMaker로
혁신적인 금융 솔루션을 개발 중
21
https://www.bbva.com/en/innovation/bbva-selects-aws-to-
accelerate-its-data-driven-transformation/

BBVA
• Amazon SageMaker는 AI 역량을 구축하는 BBVA의 글로벌 개발 센터인 BBVA
AI Factory와 데이터 전문 부서의 1,000명 이상의 데이터 과학자들이 사용
§ 사례에 맞는 머신러닝 모델을 구축, 훈련, 배포하고 데이터를 보다 효율적으로 분석
§ 이 플랫폼은 2,800명 이상의 데이터 엔지니어에게 방대한 양의 데이터를 관리할 수 있는
탁월한 확장성, 유연성, 효율성을 제공
• BBVA는 API를 통해 기본 모델을 사용할 수 있도록 하는 완전 관리형 서비스인
Amazon Bedrock을 비롯한 AWS의 생성형 AI 기능 활용
§ 대규모 언어 모델(LLM)에 액세스하여 첨단 기술의 잠재력을 실험하고 혁신적인 금융 솔루션을
개발 중
22
https://www.bbva.com/en/innovation/bbva-selects-aws-to-
accelerate-its-data-driven-transformation/

Bloomberg
23
https://arxiv.org/abs/2303.17564
BloombergGPT™

Bloomberg
• 블룸버그는 광범위한 금융 도메인 데이터를 기반으로 학습된 새로운 대규모
생성형 AI 모델인 BloombergGPT™ 에 대한 학습 결과를 발표함
• 금융 데이터 회사인 블룸버그의 데이터 분석가들은 40년에 걸쳐 금융 언어
문서를 수집하고 관리한 감정 분석과 같은 기존 자연어 처리 작업을 개선
• 금융 서비스 분야에서 AI의 힘을 확대하기 위해 블룸버그는 500억 개의
매개변수 LLM을 금융용으로 구축
24
https://www.bloomberg.com/company/press/bloomberggp
t-50-billion-parameter-llm-tuned-finance/

Bloomberg
25
https://www.bloomberg.com/company/press/bloomberggp
t-50-billion-parameter-llm-tuned-finance/
• 활용 사례
§ 금융 뉴스를 자동으로 생성하여 제공
§ SEC 등 자료 제출용 및 시장보고서
초안 작성
§ 터미널 이용 회사들의 재무제표 등
특정 요소 검색
§ 자연어로 BQL(Bloomberg Query
Language) 자동 생성

3. 어떻게 전략을 수립하고 준비할까?
26

가장 많은 질문?
• 규제 준수와 데이터 보안 등을 어떻게 해결할 수 있나요?
• 금융 데이터, 당사의 용어로 서비스 구현이 가능?
• 사용하기 쉽고 지속 가능한가?
27
Foundation Model, LLM
가져다 사용 vs. 만들기

• 대고객 서비스에 사용할 수 있을까?
28

• 금융 규제 및 정보 보안 필요
29
Access
management
Model fine
tuning
Model tenancy
Single-tenancy
Multi-tenancy
AWS KMS data encryption
Service-owned
keys
Customer-managed
keys
Data privacy

Goal
전략 #1
전략 #2
전략 #3
Generative AI 전략 ?

Generative AI 전략
31
기획 아이디어는 고객의
니즈와 어려움을 해결하기
위해서 고객 중심으로
거꾸로 기획
거꾸로 생각
좋은 데이터 품질과
준비가 성능을 좌우하고
이것은 서비스 개발
경쟁력의 핵심
재료가 맛 신속한 실패
서비스는 지속적으로
실패를 보완해서 성공할
때까지 개선하는 집요한
노력이 필요
Working Backward Data-Centric AI Agile & MLOps

거꾸로 생각 > 금융의 새로운 도구
32

거꾸로 생각 > 금융의 새로운 도구
33

재료가 맛 > 도메인 중심의 데이터 필요
34

재료가 맛 > 도메인 중심의 데이터 필요
• 사례 > 금융 분야 적용 결과 > 67.4% 정확도
35
Source : 금융정보보호 컨퍼런스 FISCON, KB AI 전략과 사례, KB국민은행 금융AI센터, 구태훈
공개되어 있는 자연어 처리 API를 이용해서 금융분야의 NER을 적용한 결과

신속한 실패 > AI 적용의 신속한 실패와 지속적인 서비스 개발
36
Source: Hidden Technical Debt in Machine Learning Systems [D. Sculley, & al.] – 2015
https://papers.nips.cc/paper/5656-hidden-technical-debt-in-machine-learning-systems.pdf
시스템
환경 설정
데이터 수집
데이터 검증
컴퓨팅
자원 관리
서빙 인프라
구축
분석 도구 관리
프로세스 관리
특징 정보 추출
모니터링
모델

신속한 실패 > AI 적용의 신속한 실패와 지속적인 서비스 개발
• AI 서비스도 애자일 개발 방법 적용을 통해서 가치있는 서비스 개발
• 지속적인 피드백을 통해서 개선되고 진화해야 가능
37

AWS 지원 프로그램
38
AWS Generative AI
Innovation Center
AWS AI 전문가 연결을 통해서 새로운
생성형 AI 제품과 서비스 개발의 기획과
실험을 지원하는 프로그램
AWS
Professional Services
AWS 클라우드에서 원하는 비즈니스
성과를 실현할 수 있도록 글로벌 전문가
팀 참여와 프로젝트 수행
AWS
Partners
AWS 파트너는 AWS 클라우드로의 여정을
가속화할 수 있는 검증된 컨설팅 파트너
추천과 협업 지원

질문
Q2. 금융 규제 및 보안 준수?
39

Thank you!
구 태 훈
Executive Technology Partner
robinkoo@amazon.com

Recommended

Recommended

More Related Content

What's hot

What's hot (20)

More from AWS Korea 금융산업팀

More from AWS Korea 금융산업팀 (11)