진짜냐 가짜냐? 결국 인간이 문제다. 초연결 시대의 어두운 단면이다. 암호화된 다크웹도 존재한다. 일반 검색 엔진이나 브라우저를 통해 방문할 수 없는 웹사이트 집합체다. 병폐를 많이 낳아 미국 법무부 조치로 주요 사이트가 폐쇄되었다. 대안으로 등장한 텔레그램은 러시아의 괴짜 니콜라이 두로프, 파벨 두로프 형제가 2013년 만든 무료 암호화 메시징 앱이다. 각국 정보기관이 뛰어난 보안성과 암호화로 쓰인다고 알려져 DMR의 Craig Smith에 의하면 2019년 8월 가입자가 3억 6,500만 명으로 늘었다. 종단간암호화 기술로 FBI 추적이 힘들고 차단의 법적인 근거도 없어 범죄 차단 걸림돌로 전 세계 골치다. 딥페이크도 골치다. 딥러닝 인공지능 기술이 쓰였다. 심층 학습 Deep과 가짜 Fake 합성어? 2017년 11월 소셜 뉴스 웹사이트 레딧에 Deepfakes라는 아이디를 쓰는 사용자가 유명 연예인과 포르노를 합성해 관심을 끌었다. 어원은 여기서 비롯되었다. 가짜와의 전쟁은 진행 중이다

1. 가짜와의 전쟁
빅데이터와 딥페이크
The War Against Fakes

2. 영화 맨 오브 스틸 중
여배우 Ami Adams에 Nicolas Cage 얼굴을 입힌 예가 유명하다.
딥페이크?

3. 딥페이크에는 딥러닝 인공지능 기술이 쓰였다.
심층 학습 Deep과 가짜 Fake 합성어?
2017년 11월 소셜 뉴스 웹사이트 레딧에
Deepfakes라는 아이디를 쓰는 사용자가
유명 연예인과 포르노를 합성해 관심을 끌었다.
어원은 여기서 비롯되었다.
딥페이크?
출처: https://www.vice.com/en_us/article/gydydm/gal-gadot-fake-ai-porn

4. 인공지능을 활용하여 제작한 가짜 콘텐츠가 확산 중이다.
딥러닝을 이용해 원본 이미지나 동영상 위에
다른 이미지나 영상을 중첩하거나 결합하여
다른 콘텐츠를 생성하는 기술이다.
공개 무료 소스 코드와 머신러닝 알고리즘으로 만들거나
일반인도 재미로 만들 수 있는 손쉬운 앱도 많다.
딥페이크란?

5. 생성적 적대 신경망(Generative Adversarial Network)
 GAN: 생성-식별 모델이 공존하며, 상호 학습을 반복하는
과정에서 서로를 적대적 경쟁자로 인식하며 상호 발전
 생성 모델이 데이터를 기반으로 훈련 후 가짜 동영상을
만들고 식별 모델은 가짜를 감지한다. 감지할 수 없을 때까지
가짜를 만드는 방식
핵심 기술?

6. 생성 모델과 식별 모델?
생성 모델은 위조 지폐범,
식별 모델을 경찰에 비유.
Ian Goodfellow,
Apple Special Projects Group 기계 학습 담당 이사

7. 생성 모델과 식별 모델?
생성자는 식별자를 속이지 못한 데이터를,
식별자는 생성자에게 속은 데이터를
서로 입력 받아가며 학습을 반복 하면서
점점 더 실제에 가까운 정교한 데이터를 만든다.

8. 나쁘고 악한 것인가?
산업적 활용가치가 높아
영화, 음반, 교육, 오락 등 다양한 분야에서
유용하게 활용이 가능하지만,
음란물, 가짜 뉴스 양산 등
부작용으로 대중의 부정적 인식이 강한 상태다.

9. 효율적 활용: 특수 효과, 제작 비용
영화
제미니 중 주니어 영상,
뉴질랜드 Weta Digital
뮤직 비디오
힙합가수 Travis Scott

10. 효율적 활용: 공익적 활용
2019년 4월 베컴: 말라리아 퇴치 홍보 캠페인 영상을
딥페이크 활용 9개 언어로 제작하여 공익적 기여. 10분의
1 비용 제작, 4억 명 시청 (영국 Synthesia)

11. 악용 사례: 소름 돋는 진짜같은 가짜
2018년 4월 오바마가 트럼프를 저속한 언어로 조롱하고
노골적인 인종 차별을 비난한 코미디언 조던 필과의
가짜 인터뷰 영상(가짜 영상 경고 목적)

12. 악용 사례: 소름 돋는 진짜같은 가짜
2019년 9월, 이탈리아 Matteo Renzi 전 총리가 다른
정치인들을 모욕하는 가짜 영상이 게시되어 착각한
사람들이 비판하는 실제 해프닝 발생

13. 악용 사례: 소름 돋는 진짜같은 가짜
원더우먼 갤 가돗의 가짜 포르노 영상이 2017년 11월,
레딧에 올랐다. 스칼렛 요한슨, 테일러 스위프트도 희생양

14. 악용 사례: 소름 돋는 진짜같은 가짜
2019년 술 취한 낸시 펠로시 하원 의장, 마크 저커버그
는 수십억 명의 은밀한 비밀과 사생활이 담긴 데이터를
통제할 수 있는 사람이 누군지 떠올려 보라는 가짜 영상

15. 현재의 추세는?
 성인물, 정치 이슈에서 영화, 음반, 게임, 스포츠 등
 다양한 분야로 확대 다변화
 SNS와 기술 결합으로 확산 폭 확대
 기업의 사업모델 발굴에는 위험을 최소화 필요
 정부는 규제 정책, 모니터링 강화, 가짜 뉴스 대비 필요
 2018년 12월 7,964개 콘텐츠가 2019년 9월 1만
4,678개로 증가. 20개 커뮤니티에 95,791명*
 현재는 주 전파 경로는 트위터
*https://edition.cnn.com/2019/10/07/tech/deepfake-videos-increase/index.html

16. 2020년 2월 현재 15억 이상 다운로드 된 TikTok,
월 3.6억 사용자가 하루 30억 사진 동영상을 쏟아내는 Snapchat.
2019년 초 딥페이크 서비스 개발이 알려지며
정책 수립의 필요성이 논의되었다.
이대로 괜찮은가?

17. 가짜 콘텐츠 확산
 딥페이크 콘텐츠는 GAN을 활용하여
DeepFaceLab, Faceswap 등
공개 영상 합성 프로그램/앱이 배포되면서 성행
 GitHub를 통해 딥페이크 기술로 영상의 얼굴을
바꾸는(Face-swap) 오픈 소스 코드 공유도 확대

18. 미국의 움직임
 미국 상원 의원은 TikTok이 국가안보를 위협하는
앱 여부에 대해 조사 필요성 제기.
 최근 미 해군 복무 장병들에게 틱톡 앱을 삭제하지
않으면 내부 네트워크에 접속할 수 없다고 공지

19. 향후 전망
현재 향후
대상 유명 인사/ 인기 스타 일반인과 사물, 동물 추가
분야 성인물, 정치성 콘텐츠 게임, 엔터테인먼트, 산업 등
플랫폼 독립 제작, 배포 SNS 결합
규제 자율 규제, 지침 정도 입법을 통한 규제 강화, 처벌
이승환 책임연구원, 소프트웨어정책연구소 보고 자료

20. 명암이 공히 존재
부정적 인식이 대세
이해와 인식 부족
어떻게 해야 하나?

21. 바라는 점
 기업, 단체는 현실을 고려한 신중한 정책 수립과 전략
 긍정적 측면을 반영한 사업 모델 중장기 발굴
 가짜 사용자 제보 및 사실 확인 기관 활동 강화
 합성, 교체, 추가로 실제로 조작한 경우 규제
 당국 다단계 규제 및 데이터 모니터링 강화
 진위 판명 시 피해에 대한 보상 관련 법안

22. Mail: mci9306@naver.com
Facebook: Jaheelee.33
Blog: naver.com/mci9306
Slideshare: jaheelee
Linkedin: jahee-lee-2521b512