2018 비영리 미디어 컨퍼런스 ChangeON의 강연 자료입니다. - 일시: 2018년 11월 28일 - 장소: 전주 한국전통문화전당 공연장

1. 인공지능시대의 사회적 과제
구본권
소장한겨레
starry9@hani.co.kr
1

2. 2
1. 인공지능 기술의 현주소

3. 2016.12.31. 장학퀴즈에 ETRI ‘엑소브레인’(ETRI 박상규 책임연구원) 우승
장학퀴즈 상반기, 하반기 우승자, 수능 만점자, 지니어스 준우승자 등 제압
2013년 개발, 컴퓨터 41대(376개 CPU), 3테라 메모리, 12만권 서적 학습
3

4. 2016.12.31. 장학퀴즈 출전한 엑소브레인(ETRI개발)

5. 5
2018.5.8. 발표 구글 인공지능 비서 ‘듀플렉스’

6. 브리태니카 백과사전
6

7. 미래 지식의 변화
백과사전과 위키피디어
브리태니커: 2012년 마지막 종이사전 인쇄. 32권 12만개 항목
위키피디어: 2015년 현재 490만개 항목, 무료,
<네이처> 2005년 12월 정확도 측정
두 사전의 42개 항목 오류 비교결과, 4개씩 동일 => 진짜 변화는 논문 이후
구텐베르크 은하계의 종언
15C 인쇄술 등장으로, 구술문화->문자문화
르네상스, 종교개혁, 절대왕정, 시민사회, 산업혁명, 과학의 시대 개막
기존의 지식 분류체계: 멜빌 듀이의 10진 도서분류법
야후의 ‘추천 검색’ => 구글의 '페이지 랭크’
7

8. 지식의 유효 기간
과거 우주에 관한 지식의 유효기간
-새뮤얼 아브스만 <지식의 반감기> :
모든 지식은 유효기간을 지닌 ‘가변적 지식’
-무어의 법칙 Moore's Law:
반도체 용량 18개월마다 2배로
-멧칼프의 법칙 Metcalfe's law:
네트워크의 가치는 네트워크 사용자 숫자의 제곱
 디지털 세상은 지식생산량 폭증, 빠른 변화속도
 지식의 유효기간(반감기) 단축
 (과거에 없던) 평생 학습사회
8

9. 2. 자동화, 알고리즘 사회의 도래
-고도의 효율화
: 휴먼팩터(부주의, 실수, 피로, 감정…) 제거로 효율성 극대화
디지털화, 사물인터넷, 머신러닝,
기술간 이종결합, 융합화
-직업과 지식체계의 구조변동
-격차 확대
-비인격 주체 등장과 인간적 요소 재조명
10

10. 10

11. 자율주행차량, 누구를 죽일 것인가
11

12. A.I.와 Robot이 던지는 과제
• 사고가 나면 누구의 책임인가?
- 알고리즘 대신, random한 선택 허용 여부
- 탑승(조작)자, 판매자, 제조사, 설계자
• 알고리즘을 누가 결정하게 할 것인가
- 블랙박스 속 알고리즘의 베일을 벗길 수 있는가
- 설계자(시장), 조작자(개인), 국회의원(법률과 합의), 글로벌협약(초국경),,,
• 초기값 설정(디폴트 세팅)과 사용자 선택권
-어느 영역을 디폴트로, 어느 영역을 선택범위로 할 것인가
-사람의 권한과 책임 범위를 어디까지로 설정할 것인가
-디폴트 설정값에 동의하지 않는 사용자는 어떻게 할 것인가
• 개인적 용도와 국가 차원의 전략무기에 ‘합의와 규제’ 가능할까?
-치명적 자율무기시스템(LAWS), 드론, 섹스로봇,
14

13. Mixed Zone
• Elon Musk “앞으로 사람이 차를 운전하는 것은 너무 위험하기 때문
에 불법화될 것이다”
• Larry Page “현실세계의 법규에 제약받지 않는, 모든 실험이 가능한
또하나의 세계가 있으면 좋겠다”
• 문제들: 기술위주 접근의 한계
두 시스템이 동시 작동하면서 발생하는, 복잡한 상황들
무엇이 우선인가? 둘은 평등하게 대우받아야 하는가?
-자율 주행차와 인간운전 차량의 공존
-TransHuman과 자연인 병존에서 생기는 문제들(경쟁, 물리적 충돌, )
15

14. 21
Deep Neural Network의 구조

15. 15
마이크로소프트의 인공지능 챗봇 Tay
-상대와 소통하며 학습해가는 첨단 인공지능
-일부 이용자들의 ‘인종차별, 여성 혐오’ 등 어뷰징 학습
-”히틀러가 옳았다” “유대인 죽어 마땅” ‘막말 테이’로 진화
-수정하지 못하고 하룻만에 긴급 중단(shut down)
-개발자도, 운영자도 통제하지 못하는 기술의 단면

16. 16
폴크스바겐의 배출가스 사기극 : 블랙박스속 소프트웨어 알고리즘

17. 알고리즘 사회의 특성
알고리즘의 장점
-인간 에러와 편향성, 비효율 제거한 고도의 효율화, 객관적 도구
1. 알고리즘의 보편화
-만물의 디지털화와 알고리즘의 범위 확대
-빅데이터는 기계로 처리 가능
-기계인식, 자동화 처리로 알고리즘 의존사회
2. 비가시성
-기업의 기밀이자 자산
-구조 노출시 어뷰징로 인한 비공개성, 비접근성, 불투명성
17
 알고리즘 지배 사회로의 전환
 알고리즘을 지배하는 자는 누구인가

18. 알고리즘과 편향성
• 알고리즘 : “상황마다, 사람마다 다른 판단과 달리
기계적, 균형적, 공정한 처리 가능”
• 알고리즘은 일련의 단계적 수학적 방정식
-세부코드마다 구체적 가정과 선택 필수
-개발자의 성향과 판단, 사회적 압력 개입
-알고리즘이 의존하는 데이터 자체도 선별되고, 편향성
• 멜빈 크랜즈버그의 ‘기술의 법칙’(조지아공대 기술사학자)
1조 “기술 자체는 좋은 것도 나쁜 것도 아니지만, 중립적이지도 않다”
8조 “기술은 지극히 인간적인 활동이다”
18

19. 인공지능, 자동화와 한국
11
보스컨컨설팅그룹(BCG)
“한국, 산업형 로봇 도입에 가장 적극적인 국가, 2025년까지 인건비 33% 감소”

20. 12
주요 22개국 노동자 1만명당 산업형 로봇 밀도(IFR world robotics 2016)

22. 3. AI시대 진짜와 가짜의 식별

23. 가짜뉴스의 영향력 증대
-왜 ?
더 많은 교육,
더 다양한 정보,
더 강력한 정보검색 도구
디지털 시대에 ‘가짜뉴스’

25. Deep Fake 영상

26. 4. 인간의 인지적 본능
• 인간은 인지적 구두쇠
cognitive Miser
• 새롭고 이색적 정보(news)에 끌림
• 인지부조화 회피
• 확증 편향

27. “전시에 진실은 매우 귀중하다.
그래서 그녀(진실)는 항상 거짓이라는 경호원을 동반한다.”
-윈스턴 처칠

28. 왜 fake news를 많이 보는가?
-모바일과 소셜미디어 기반 정보이용
뉴스 이용의 개인화, 맥락의 부재
정보 형태와 출처의 뒤섞임
지인의 영향력 확대,
전통적 정보 outlet 외의 유통 경로
-진실에 기반하지 않아도 생존 가능하다는 생각의 확산
“모든 것은 관점과 의견의 문제일 수 있다”
-현실 질서에 불만족한 개인들의 ‘대안적 사실’ 추구
-2016 옥스퍼드사전 “올해의 단어: ‘post truth’”
-개인의 자유 확대 : 늘어난 정보 선택권, 게을러지는 인지적 노력

29. 인간의 인지적 편향성
• 온라인 정보 포화상태, 제한된 주의 자원(attention resource)  흥미롭고
매력적인 콘텐츠 선택
-가트너, 미래전망 보고서(2017) “2022년이 되면 대부분 사람들이 진짜 정보
보다 가짜 정보를 더 많이 접하게 될 것”
‘사실 현기증 reality vertigo’
-인간의 확증 편향 성향이 filter bubble과 소셜미디어에 의해 강화, 증폭
-인간의 ‘인지적 게으름(cognitive miser)’은 적극적 팩트 추적 어렵게 함

30. “인간은 늘 탈진실(Post truth)의 시
대를 살아왔다. 호모 사피엔스야말
로 탈진실의 종이다.”
“호모 사피엔스 특유의 힘은 허구
를 만들고 믿는데서 나온다.
“호모 사피엔스가 이 행성을 정복
한 것도 무엇보다 허구를 만들고
퍼뜨리는 독특한 능력 덕분이었다.”
“조작된 뉴스를 1천명의 사람이
1달 동안 믿으면 가짜뉴스이다. 반
면에 이를 10억명이 1천년 동안 믿
으면, 종교다.”
-유발 하라리

31. • 문화 지체, 정보 비대칭 현상과 ‘사실 판단’
기존 문화에서 ‘신뢰성’의 강도
필기체 < 활자 < 인쇄본 < 사진 < 동영상
: 생산이 어렵고, 그 결과 조작도 어려웠고 이는 신뢰성의 기반
-과거: 할리우드스튜디오와 영화관에서 ‘진짜같은 가짜’ 만남
 현재: 만인이 포토숍, AI 툴 통해 ‘진짜같은 가짜’ 생산, 유통.
-워드프로세서와 포토숍이 범용화된 상황에서
활자와 이미지는 어떻게 취급받는가?

33. 대립하는 머신러닝 모델 2개를 경쟁시키는 ‘생성적 적대 신경망’
GAN(Generative Adversarial Network)
테크M 제46호(2017년 2월), 엄태웅
지도학습 같은 비지도 학습(non supervised learning)
페이스북 얀 르쿤 “지난 10년간 있었던 머신러닝 연구 중 가장 재미있는 아이디어”

34. Disinformation 의 기술적 해결?
마크 저커버그 “fake news 탐지에 인공지능 활용”
의심스런 정보에 ‘disputed’ 라벨 표시
이용자 커뮤니티의 자발적 참여 독려
기존 뉴스매체와의 협력 강화(팩트체크 모델)
-스팸메일 탐지에 활용하던 내용분석 머신러닝을 가짜 뉴스에 활용계획
-인공지능에 의존하는 방법은 알고리즘이 기본적으로 반영하는
성별, 인종 등 다양한 편향에서 오는 오류 불가피
 인공지능 활용의 결과는 ‘무한 군비경쟁’

35. 도구의 진화
• 포토숍
 Adobe VoCo
 face2face
만인이 ‘할리우드 특수
효과’ 구현 가능.
-일상적 차원에서 식별
불가능

36. Face 2 face 기술 시연 논문

37. 인간 인지능력의 유한성 : 절대적 진실  인지되는 부분적 사실
가시광선과 가청 주파수대역의 정보도 수용자마다 다르게 수용되는 현실

38. 5. 신뢰의 가치
공동체의 존립기반 :
공유하는 인식(사실) + 공동의 이해 (신뢰)
-베네닉트 앤더슨 <상상의 공동체>

39. “믿을 데 아무 데도 없는 한국사회”
 ‘저신뢰 각자도생 사회’
프랜시스 후쿠야마(스탠퍼드대 교수), <트러스트>
-”사회적 자본(social capital)은 한 사회가 가지고
있는 사회의 경쟁력.”
-"사회적 자본은 한 사회，또는 그 특정 부분에 신
뢰가 정착되었을 때 생긴다.”
-한국은 중국, 인도, 이탈리아와 함께 저신뢰 사회
“믿을 것 가족뿐, 혈연과 지연, 학벌 위주의 관계”
(고신뢰사회: 독일, 미국, 일본)

40. -김희삼, <사회자본에 대한 교육의 역할과 정책방향>, KDI, 2017

41. -김희삼, <사회자본에 대한 교육의 역할과 정책방향>, KDI, 2017

42. 한국 국민이 경험한 ‘공적 신뢰’
• 대통령, 청와대 : 비선, 블랙리스트, 재산은닉
• 군대, 국정원, 기무사 : 민간인 사찰, 댓글 공작
• 경찰 : 댓글 조작
• 검찰 :  특검
• 법원 :  특별재판부
• 대학 교수: 가짜 학회, 자녀 논문
• 고교 내신 : 숙명여고,
• 유치원 : 국고보조금 유용
• 언론….

43. 던져진 과제
- ‘신뢰’가 희소해진 세상에서, 신뢰를 구축하는 방법은?
- ‘신뢰’를 대체할 수 있는 가치와 개념?
- 알고리즘에 대한 사회적 통제를 가능하게 하려면?
- 자동화와 알고리즘에 맡기지 않을 직무는?
- 현재의 사회복지 서비스중에 기술과 결합시킬 영역은?
- 인공지능사회에서 새로이 등장할 복지 서비스의 수요는?