Session4. Cloud and Machine Learning
쉽게 보는 딥러닝 트렌드와
AWS 활용 시나리오
베스핀글로벌 이승규 매니저
seungkyu.lee@bespinglobal.com
목차
1. ML소개
2. Trend - 시장
3. Trend - RL
4. Trend - GAN
5. 이미지 인식
6. AWS Ground Truth 활용법
7. Data의 중요성
- Deep Learning State of the Art (2019) - MIT
- CBINSIGHTS AI Trend 2019
- State of AI
- Machine Learning: Living in the Age of AI | A WIRED Film
- UCL Course on RL
- School of AI
- Artificial Intelligence & Machine Learning Conference:
O'Reilly AI
References
1.1 ML 소개 - Godfather of AI
Philosophy-> Psychology -> Computer science
- 뇌와 마인드를 이해하기위해 시작한 아이디어
- 40년의 연구
- 2006년 컴퓨터 향상, 데이터 증대
“자동차를 만들려면 원리를 이해야하듯이 뇌 그리고 생각을
이해하고싶다면 그것을 직접 만들수도 있어야하지 않겠는가”
1.2 ML 소개 - 부분별 벤다이어그램
UCL RL course slides by David Silver
딥러닝으로 다 해결할
수 있는 것은 아님.
-> 하지만 다양한
활용이 가능.
1.3 ML소개 - 인공지능에 대한 과대평가
Deep Learning State of the Art (2019) - MIT
- 2019년까지 Google,
Amazon, Facebook, Apple,
Microsoft의 스타트업 인수
- 아마존 2010년 이후로 약
55개의 AI기업을 인수하며
AI투자에 집중.
2.2 Trend - AI Market
https://www.stateof.ai/
- AI 글로벌 벤처 투자금이 2018년 27조를 넘어섰다.
- 여전히 미국이 55%로 가장 높다.
2.3 Trend - 치솟는 AI 투자
https://www.stateof.ai/
https://www.marketsandmarkets.com/PressReleases/artificial-intelligence.asp
- AI 시장이 36.6%의 연평균성장률로 2025년에는 무려
190조 규모의 시장이 될것.
미국 다음으로 중국,
영국의 AI 스타트업들이
활발하며
캐나다, 인도, 일본도 뒤
쫓고 있음
2.1 Trend - 미국 외에 AI 스타트업
CBINSIGHTS AI Trend 2019
2.4 Trend - 주목해야 할 분야
CBINSIGHTS AI Trend 2019
- Market strength: 해당 분야의
연구에 얼마나 많은 투자 및
관심이 이루어지는 지.
- Industry adoption: 실제 미디어의
관심, 고객들의 사용 여부 등.
AI 연구 열기에 잇달아 활기를 띄고 있는 labeling 직업 시장
2.5 Trend - Labeling 전문 시장
https://www.stateof.ai/
CNN을 통해서 첫번째
점을 찍으면 그
다음부터는 RNN 이
예측해서 찍는것임.
2.6 Trend - 자동 Labeling
Deep Learning State of the Art (2019) - MIT
- 스탠포드 의사
수준의 피부 암진단.
- transfer learning 을
통해 본인이 접한
환경에 맞게
커스텀해서 사용.
- 2019 이번에
자연어처리도
tranfer learning
지원으로 더 큰
활용이 기대됨.
2.7 Trend - Transfer Learning의 힘
Machine Learning: Living in the Age of AI | A WIRED Film
기후변화에 AI를 적극 활용하려고
하는 Demis Hassabis, Yoshua
Bengio. Andrew Ng
- 가뭄, 허리케인 예측
- 저 카본 물질 개발
- 풍력 발전의 에너지 생성률 예측
등등
2.8 Trend - AI 활용 기후변화 대응
풍력발전소가 생성하는 에너지량을
예측
- 문제: 다른 발전소와 달리
정해진 시간에 일정량을
생성하지 않는 문제를 가진 풍력
발전소
- 방법: 이를 기상 예측과 과거
풍력발전소의 데이터를
활용하여 36시간 앞을 예측할
수 있게 됩니다.
- 결과: 이를 통해 풍력에너지가
20% 더 높은 가치를 가지게
되었다.
2.9 Trend - 풍력 에너지 생성 예측
https://deepmind.com/blog/machine-learning-can-boost-value-wind-energy/
3.1 Trend - RL AWS DeepRacer
https://medium.com/@CodingJoe/aws-deepracer-theres-a-race-track-in-my-office-c433ea15f63c
3.2 Trend - Curiosity driven learning in RL
Breakout Montezuma’s revenge
Dense reward Spare reward
breakout 게임에서는 즉각적인 reward가 나옴.
strategy game 에서는 잘못된 판단이 즉각적인 영향을
끼치지는 않는다.
- > 게임으로부터의 reward (extrinsic reward) 없이 게임을 이기도록 만드는방법 이를 위해 intrinsic reward 를 통해 가장
인간적인 성향을 가지도록 한다. 이러한 curiosity 가 새로운 스킬을 배우게 만든다 .
- 만번의 실패에도 꿋꿋이 도전한 에디슨
결국 큰 성공을 이룬다.
- 인간은 즉각적인 reward가 아니여도
sparse reward 에 도 열심히 잘한다.
3.3 Trend - Curiosity driven learning in RL
사업가: 끊임없는 실패에도 계속 도전.
I wonder if I can do it and try to answer it by doing it
3.4 Trend - Curiosity driven learning in RL
3.5 Trend - Curiosity driven learning in RL
즉각적인 보상이 나오지 않아도 계속 새로운 방법을 시도해볼 수 있는 동기.
3.6 Trend - Curiosity driven learning in RL
3.7 Trend - Curiosity driven learning in RL
Curiosity 기반 Intrinsic Curiosity Module (ICM)
기존 방식 Asynchronous Advantage Actor Critic
3.8 Trend - Curiosity driven learning in RL
Yann LeCun 2018년
- 상당히 흥미로운 분야
4.1 Trend - GAN
Random
Vector
Discriminator training
Generator training
Generator
Discriminator
1 (Real)
0 (Fake)
1 (Real)
4.2 Trend - GAN 소개
4.3 Trend - GAN
실제로 존재하지 않는 인물은 ?
FAKE
https://thispersondoesnotexist.com/
4.4 Trend - GAN
작은 resolution 부터
조금 붙여 나가는
ProGAN에서 더
나아간 StyleGAN 을
활용하여 Large size
의 이미지를
정교하게 생성
resolution 이 작은
부분일 수록
스타일, 포즈,
헤어스타일 등을
나타내고
resolution 이 높아질
수록 더 섬세한
부분을 차차
생성하게 됨.
4.5 Trend - Style-based-GAN
CVPR2019에서 주목 받음 GAN
4.6 Trend - PizzaGAN
- object detection: 각각
객체를 분류가능하지만
segmentation안됨.
- Semantic segmentation:
segment는 가능하지만
각각분류는 불가능
5.1 이미지 인식 - 종류
2D bounding box
예측에서 이제는 3D
bounding box 를 예측.
.
5.2 이미지 인식 - 3D 박스 예측
5.3 이미지 인식 - 건설 업체 하자 분류
딥러닝
이미지인식을
활용한 하자
분류
5.4 AI 셀프계산대 DeepPOS
AWS Summit Seoul 2019
Bespin Global 부스 전시 영상
딥러닝 물체인식을 활용한
스낵 및 과일 인식
5.5 AI 셀프계산대 DeepPOS
인식된 화면
5.6 빵 인식 계산대
딥러닝 물체인식을
활용한 빵 인식
5.7 그릇 인식
딥러닝 물체인식을 활용한 그릇인식
테스트
5.8 자동차 버튼 인식
6.1 AWS Ground Truth 동작 원리
https://aws.amazon.com/sagemaker/groundtruth/
6.1 AWS Ground Truth 동작 원리
https://aws.amazon.com/sagemaker/groundtruth/
- 작업자간들의 신뢰도를 부여하여
labeling 하는 labeling consolidation
- 이미지가 많을 경우 자동으로
학습되는 auto labeling을 통해
비용을 줄일 수 있음.
- 판단이 어려운 이미지는 사람이 하게
하고 사람이 label한 이미지를 통해
auto labeling 모델 학습
6.5 AWS Ground Truth 활용 데이터셋 만들기
AWS Sagemaker
안에 Ground truth
기능이 있음.
6.6 AWS Ground Truth 활용 데이터셋 만들기
이미지가 저장된 S3
위치와 labeled 된
데이터셋이 저장될 S3
위치 설정
이미지에 대한 설명을 작성 :
구체적으로 작성해야 함
6.7 AWS Ground Truth 활용 데이터셋 만들기
지정한 S3로 다음과
같이 label작업된
데이터셋이 저장됨.
6.8 AWS Ground Truth 활용 데이터셋 만들기
엔드류 응 : 강화학습은
Supervised learning 보다
더 많은 데이터가 필요하다.
비즈니스 그리고 현실에
적용하기는 더 어려운게
현실이다.
7.1 데이터의 중요성
7.2 데이터의 중요성
감사합니다.

Session 4. 쉽게 보는 딥러닝 트랜드와 AWS 활용 시나리오 - 베스핀글로벌 이승규 매니저

  • 2.
    Session4. Cloud andMachine Learning 쉽게 보는 딥러닝 트렌드와 AWS 활용 시나리오 베스핀글로벌 이승규 매니저 seungkyu.lee@bespinglobal.com
  • 3.
    목차 1. ML소개 2. Trend- 시장 3. Trend - RL 4. Trend - GAN 5. 이미지 인식 6. AWS Ground Truth 활용법 7. Data의 중요성
  • 4.
    - Deep LearningState of the Art (2019) - MIT - CBINSIGHTS AI Trend 2019 - State of AI - Machine Learning: Living in the Age of AI | A WIRED Film - UCL Course on RL - School of AI - Artificial Intelligence & Machine Learning Conference: O'Reilly AI References
  • 5.
    1.1 ML 소개- Godfather of AI Philosophy-> Psychology -> Computer science - 뇌와 마인드를 이해하기위해 시작한 아이디어 - 40년의 연구 - 2006년 컴퓨터 향상, 데이터 증대 “자동차를 만들려면 원리를 이해야하듯이 뇌 그리고 생각을 이해하고싶다면 그것을 직접 만들수도 있어야하지 않겠는가”
  • 6.
    1.2 ML 소개- 부분별 벤다이어그램 UCL RL course slides by David Silver
  • 7.
    딥러닝으로 다 해결할 수있는 것은 아님. -> 하지만 다양한 활용이 가능. 1.3 ML소개 - 인공지능에 대한 과대평가 Deep Learning State of the Art (2019) - MIT
  • 8.
    - 2019년까지 Google, Amazon,Facebook, Apple, Microsoft의 스타트업 인수 - 아마존 2010년 이후로 약 55개의 AI기업을 인수하며 AI투자에 집중. 2.2 Trend - AI Market https://www.stateof.ai/
  • 9.
    - AI 글로벌벤처 투자금이 2018년 27조를 넘어섰다. - 여전히 미국이 55%로 가장 높다. 2.3 Trend - 치솟는 AI 투자 https://www.stateof.ai/ https://www.marketsandmarkets.com/PressReleases/artificial-intelligence.asp - AI 시장이 36.6%의 연평균성장률로 2025년에는 무려 190조 규모의 시장이 될것.
  • 10.
    미국 다음으로 중국, 영국의AI 스타트업들이 활발하며 캐나다, 인도, 일본도 뒤 쫓고 있음 2.1 Trend - 미국 외에 AI 스타트업 CBINSIGHTS AI Trend 2019
  • 11.
    2.4 Trend -주목해야 할 분야 CBINSIGHTS AI Trend 2019 - Market strength: 해당 분야의 연구에 얼마나 많은 투자 및 관심이 이루어지는 지. - Industry adoption: 실제 미디어의 관심, 고객들의 사용 여부 등.
  • 12.
    AI 연구 열기에잇달아 활기를 띄고 있는 labeling 직업 시장 2.5 Trend - Labeling 전문 시장 https://www.stateof.ai/
  • 13.
    CNN을 통해서 첫번째 점을찍으면 그 다음부터는 RNN 이 예측해서 찍는것임. 2.6 Trend - 자동 Labeling Deep Learning State of the Art (2019) - MIT
  • 14.
    - 스탠포드 의사 수준의피부 암진단. - transfer learning 을 통해 본인이 접한 환경에 맞게 커스텀해서 사용. - 2019 이번에 자연어처리도 tranfer learning 지원으로 더 큰 활용이 기대됨. 2.7 Trend - Transfer Learning의 힘 Machine Learning: Living in the Age of AI | A WIRED Film
  • 15.
    기후변화에 AI를 적극활용하려고 하는 Demis Hassabis, Yoshua Bengio. Andrew Ng - 가뭄, 허리케인 예측 - 저 카본 물질 개발 - 풍력 발전의 에너지 생성률 예측 등등 2.8 Trend - AI 활용 기후변화 대응
  • 16.
    풍력발전소가 생성하는 에너지량을 예측 -문제: 다른 발전소와 달리 정해진 시간에 일정량을 생성하지 않는 문제를 가진 풍력 발전소 - 방법: 이를 기상 예측과 과거 풍력발전소의 데이터를 활용하여 36시간 앞을 예측할 수 있게 됩니다. - 결과: 이를 통해 풍력에너지가 20% 더 높은 가치를 가지게 되었다. 2.9 Trend - 풍력 에너지 생성 예측 https://deepmind.com/blog/machine-learning-can-boost-value-wind-energy/
  • 17.
    3.1 Trend -RL AWS DeepRacer https://medium.com/@CodingJoe/aws-deepracer-theres-a-race-track-in-my-office-c433ea15f63c
  • 18.
    3.2 Trend -Curiosity driven learning in RL Breakout Montezuma’s revenge Dense reward Spare reward breakout 게임에서는 즉각적인 reward가 나옴. strategy game 에서는 잘못된 판단이 즉각적인 영향을 끼치지는 않는다. - > 게임으로부터의 reward (extrinsic reward) 없이 게임을 이기도록 만드는방법 이를 위해 intrinsic reward 를 통해 가장 인간적인 성향을 가지도록 한다. 이러한 curiosity 가 새로운 스킬을 배우게 만든다 .
  • 19.
    - 만번의 실패에도꿋꿋이 도전한 에디슨 결국 큰 성공을 이룬다. - 인간은 즉각적인 reward가 아니여도 sparse reward 에 도 열심히 잘한다. 3.3 Trend - Curiosity driven learning in RL
  • 20.
    사업가: 끊임없는 실패에도계속 도전. I wonder if I can do it and try to answer it by doing it 3.4 Trend - Curiosity driven learning in RL
  • 21.
    3.5 Trend -Curiosity driven learning in RL 즉각적인 보상이 나오지 않아도 계속 새로운 방법을 시도해볼 수 있는 동기.
  • 22.
    3.6 Trend -Curiosity driven learning in RL
  • 23.
    3.7 Trend -Curiosity driven learning in RL
  • 24.
    Curiosity 기반 IntrinsicCuriosity Module (ICM) 기존 방식 Asynchronous Advantage Actor Critic 3.8 Trend - Curiosity driven learning in RL
  • 25.
    Yann LeCun 2018년 -상당히 흥미로운 분야 4.1 Trend - GAN
  • 26.
  • 27.
    4.3 Trend -GAN 실제로 존재하지 않는 인물은 ?
  • 28.
  • 29.
    작은 resolution 부터 조금붙여 나가는 ProGAN에서 더 나아간 StyleGAN 을 활용하여 Large size 의 이미지를 정교하게 생성 resolution 이 작은 부분일 수록 스타일, 포즈, 헤어스타일 등을 나타내고 resolution 이 높아질 수록 더 섬세한 부분을 차차 생성하게 됨. 4.5 Trend - Style-based-GAN
  • 30.
    CVPR2019에서 주목 받음GAN 4.6 Trend - PizzaGAN
  • 31.
    - object detection:각각 객체를 분류가능하지만 segmentation안됨. - Semantic segmentation: segment는 가능하지만 각각분류는 불가능 5.1 이미지 인식 - 종류
  • 32.
    2D bounding box 예측에서이제는 3D bounding box 를 예측. . 5.2 이미지 인식 - 3D 박스 예측
  • 33.
    5.3 이미지 인식- 건설 업체 하자 분류 딥러닝 이미지인식을 활용한 하자 분류
  • 34.
    5.4 AI 셀프계산대DeepPOS AWS Summit Seoul 2019 Bespin Global 부스 전시 영상 딥러닝 물체인식을 활용한 스낵 및 과일 인식
  • 35.
    5.5 AI 셀프계산대DeepPOS 인식된 화면
  • 36.
    5.6 빵 인식계산대 딥러닝 물체인식을 활용한 빵 인식
  • 37.
    5.7 그릇 인식 딥러닝물체인식을 활용한 그릇인식 테스트
  • 38.
  • 39.
    6.1 AWS GroundTruth 동작 원리 https://aws.amazon.com/sagemaker/groundtruth/
  • 40.
    6.1 AWS GroundTruth 동작 원리 https://aws.amazon.com/sagemaker/groundtruth/ - 작업자간들의 신뢰도를 부여하여 labeling 하는 labeling consolidation - 이미지가 많을 경우 자동으로 학습되는 auto labeling을 통해 비용을 줄일 수 있음. - 판단이 어려운 이미지는 사람이 하게 하고 사람이 label한 이미지를 통해 auto labeling 모델 학습
  • 41.
    6.5 AWS GroundTruth 활용 데이터셋 만들기 AWS Sagemaker 안에 Ground truth 기능이 있음.
  • 42.
    6.6 AWS GroundTruth 활용 데이터셋 만들기 이미지가 저장된 S3 위치와 labeled 된 데이터셋이 저장될 S3 위치 설정
  • 43.
    이미지에 대한 설명을작성 : 구체적으로 작성해야 함 6.7 AWS Ground Truth 활용 데이터셋 만들기
  • 44.
    지정한 S3로 다음과 같이label작업된 데이터셋이 저장됨. 6.8 AWS Ground Truth 활용 데이터셋 만들기
  • 45.
    엔드류 응 :강화학습은 Supervised learning 보다 더 많은 데이터가 필요하다. 비즈니스 그리고 현실에 적용하기는 더 어려운게 현실이다. 7.1 데이터의 중요성
  • 46.
  • 47.