2018년 9월 4일 민주사회를 위한 변호사모임 (민변) 세미나에서 발표한 자료로서 다양한 분야의 분들이 함께 "사회를 위한 기술"을 향해 토론할 수 있도록 하기위해 작성된 자료입니다. "돈"만이 목적이 아닌 "사회"를 위한 기술 함께 만들어 보아요~

1. Terry Taewoong Um (terry.t.um@gmail.com)
University of Waterloo
Department of Electrical & Computer Engineering
Terry Taewoong Um
인공지능은
사회정의의 편이 될 수 있을까
1

2. Terry Taewoong Um (terry.t.um@gmail.com)
제 소개
2

3. 3

4. Terry Taewoong Um (terry.t.um@gmail.com)
딥러닝 연구자
4

5. Terry Taewoong Um (terry.t.um@gmail.com)
5
웨어러블 데이터
운동 측정 평가
파킨슨병 진단
PUSH Inc., https://youtu.be/JpzuVPesFLY
https://www.youtube.com/watch?v=0E7x1mPa3iM
https://www.youtube.com/watch?v=b5J87SzbQeM

6. Terry Taewoong Um (terry.t.um@gmail.com)
로봇 연구자
6

7. Terry Taewoong Um (terry.t.um@gmail.com)
7

8. Terry Taewoong Um (terry.t.um@gmail.com)
근데 그 무엇보다 저는...
8

9. Terry Taewoong Um (terry.t.um@gmail.com)
9
따봉충...

10. Terry Taewoong Um (terry.t.um@gmail.com)
10

11. Terry Taewoong Um (terry.t.um@gmail.com)
“인공지능과 사회정의”
에 대해 아무 것도 모릅니다...
11

12. Terry Taewoong Um (terry.t.um@gmail.com)
12
함께 토의하러 왔습니다

13. Terry Taewoong Um (terry.t.um@gmail.com)
13
도구와 사회
?

14. Terry Taewoong Um (terry.t.um@gmail.com)
14
돈을 향한 기술

15. Terry Taewoong Um (terry.t.um@gmail.com)
15
어디에 쓸 것인가

16. Terry Taewoong Um (terry.t.um@gmail.com)
인공지능 기사들에
쉽게 속지 말자
16

17. Terry Taewoong Um (terry.t.um@gmail.com)
[진리] 데모는 데모일 뿐
17

18. Terry Taewoong Um (terry.t.um@gmail.com)
18
그녀는 유머 감각을 갖고 있다.
그녀는 감정을 표현할 수 있다.
그녀는 오드리 햅번을 닮았다.
그녀는 휴머니티의 보호를 원한다.
예를 들면...

19. Terry Taewoong Um (terry.t.um@gmail.com)
19
2018년 로봇들 사실 2008년 로봇들
https://news.joins.com/article/3188762

20. Terry Taewoong Um (terry.t.um@gmail.com)
20
인공지능 변호사?

21. Terry Taewoong Um (terry.t.um@gmail.com)
일반인들은
무엇이 MAKE SENSE 한지
SENSE가 없다 (NO IDEA)
21

22. Terry Taewoong Um (terry.t.um@gmail.com)
22
오늘의 목표 ( 총 52페이지)
• 현재 “인공지능”이라 불리는 것들의 대강의 작동원리를 이해한다
• 작동원리에 대한 상식을 바탕으로 “인공지능”이 할 수 있는 것과
없는 것을 구분할 줄 안다 (무엇이 사기인지 파악할 줄 안다)
• 미래엔 법조계에도 인공지능이 쓰일 것이란 걸 받아들이긴 싫지만
받아들여 본다
• “인공지능 도구”를 학습시킬 수 있는 전문가인 법조인으로서
이들의 한계점을 어떻게 극복할 수 있을지 고민해본다
• 인공지능의 “착한 쓰임새” 를 함께 고민해본다.

23. Terry Taewoong Um (terry.t.um@gmail.com)
23
인공지능
머신러닝
딥러닝
인공지능 / 머신러닝 / 딥러닝

24. Terry Taewoong Um (terry.t.um@gmail.com)
24
대부분 SUPERVISED LEARNING
(test phase...)(training phase...)

25. 25
많은 데이터가 필요

26. Terry Taewoong Um (terry.t.um@gmail.com)
26
레이블링 (AKA 노가다)

27. Terry Taewoong Um (terry.t.um@gmail.com)
사실 현재의 인공지능은
낫 놓고 기억자도 모르는
바보다
(알아서척척 그런거 없다)
27

28. Terry Taewoong Um (terry.t.um@gmail.com)
28
다른 도메인에서도...
음성 인식
X : 소리
Y : 글자
기계 번역
X : 영어
Y : 한국어

29. Terry Taewoong Um (terry.t.um@gmail.com)
29
의료 인공지능
http://www.justscience.in/articles/causes-skin-cancer/2017/12/07

30. Terry Taewoong Um (terry.t.um@gmail.com)
30
의사를 돕는 도구로서의 AI
루닛, http://www.hani.co.kr/arti/science/science_general/755594.html

31. Terry Taewoong Um (terry.t.um@gmail.com)
31
대부분 SUPERVISED LEARNING
(test phase...)(training phase...)

32. Terry Taewoong Um (terry.t.um@gmail.com)
32
인공지능 의사 가능할까요?
X (인풋) Y (진단)

33. Terry Taewoong Um (terry.t.um@gmail.com)
33
쉽고 덜 위험한 판단에 대해 저렴하게

34. Terry Taewoong Um (terry.t.um@gmail.com)
34
인공지능 의사 가능할까요?
X (인풋) Y (진단)

35. Terry Taewoong Um (terry.t.um@gmail.com)
35
인공지능 판사 가능할까요?
X (인풋) Y (판결)

36. Terry Taewoong Um (terry.t.um@gmail.com)
36
인공지능 판사 공정할까요?
인공지능의 판결의
승복할 수 있을까요?

37. Terry Taewoong Um (terry.t.um@gmail.com)
37
사람의 공정함 VS 알고리즘의 공정함

38. 38
인공지능 판사 공정할까요?
Terry Taewoong Um (terry.t.um@gmail.com)

39. Terry Taewoong Um (terry.t.um@gmail.com)
39
판결 범위는 줄 수 있다
• 법의 자의적 해석 범위를 기존 판례(데이터)에 근거하여 제한
• 그래도 최종 판단은 인간이...
• 불필요한 업무를 줄임으로써 본질에 더욱 집중

40. Terry Taewoong Um (terry.t.um@gmail.com)
40
인공지능 판사 가능할까요?
X (인풋) Y (판결)

41. Terry Taewoong Um (terry.t.um@gmail.com)
41
인공지능 의사와 인공지능 법률가
인공지능을 배격하는 것이 아니라 인공지능을 이해하고 응용해야 한다

42. Terry Taewoong Um (terry.t.um@gmail.com)
42
인공지능의 단점:
사실 인공지능은 편견덩어리다

43. Terry Taewoong Um (terry.t.um@gmail.com)
43
사실 인공지능은 편견덩어리다

44. Terry Taewoong Um (terry.t.um@gmail.com)
44
사실 인공지능은 편견덩어리다
https://www.youtube.com/watch?v=L4KBBAwF_bE

45. Terry Taewoong Um (terry.t.um@gmail.com)
45
데이터에 종속하는 결론
• 아직까진 active한 exploration에
한계가 있다
→ reinforcement learning (강화학습)
https://www.youtube.com/watch?v=L4KBBAwF_bE

46. Terry Taewoong Um (terry.t.um@gmail.com)
46
숫자의 함정
990명의 정상 환자와 10명의 암 환자
99% 정확도의 진단을 하는 비법은?

47. Terry Taewoong Um (terry.t.um@gmail.com)
47
인공지능은 평균 품질은 높이지만
소수의 희생을 낳는다
10명을 죽이는 99%의 암 진단 프로그램을 만들 것인가?

48. Terry Taewoong Um (terry.t.um@gmail.com)
48
도메인 전문가(의사/법률가)의 몫
• 법의 자의적 해석 범위를 기존 판례(데이터)에 근거하여 제한
• 그래도 최종 판단은 인간이...
• 불필요한 업무를 줄임으로써 본질에 더욱 집중

49. Terry Taewoong Um (terry.t.um@gmail.com)
49
(참고) 인식 말고 생성
Deep photo transfer (2017)
A + B = A’

50. Terry Taewoong Um (terry.t.um@gmail.com)
50
(참고) 작곡가를 돕는 인공지능
https://magenta.tensorflow.org/

51. Terry Taewoong Um (terry.t.um@gmail.com)
51
김태훈 (OpenAI), 네이버 Deview2017 “책읽는 딥러닝”
https://www.youtube.com/watch?v=klnfWhPGPRs&t=1992s
(참고) 인식 말고 생성

52. Terry Taewoong Um (terry.t.um@gmail.com)
52
돈을 향한 기술