Lecture 14 of the 1st NS-CUK Winter School on Ethics of AI and Robots (AI Ethics 2022) Lecturer: Dr. Eun-Soon You Date: Jan 17th, 2023 Topic: What kinds of application domains require ethical decisions of AI and robots? Syllabus: https://nslab-cuk.github.io/2022/12/06/WS/

1. 영화 <레디 플레이어 원>(2018)을 통해
‘생물학적 육체’와 ‘가상의 육체’에 대해
고찰하기

2. 영화 <레디 플레이어 원>(2018) 주요 장면 감상
‘오아시스’라는 가상현실 게임이 지배하는 미래를 배경으로 누구든 오아시
스 안에서 캐릭터로 살아가며 원하는 모든 것을 이룰 수 있다…

3.  영화 <레디 플레이어 원> 속 생물학적 육체의 의미
기본적인 생리학적 기능만
을 수행하는 물리적 육체
거대한 게임의 세상
오아시스

4.  토론 주제
 가상현실 게임 ‘오아시스’의 캐릭터들은 물질
적 실체를 가진 존재들인가?
 가상현실 시대에도 데카르트의 실체 이원론
은 계속 유효할까?

5. 강의 주제
 가상 세계(Virtual World)란 무엇인가?
가상 현실(Virtual Reality)
메타버스(Metaverse)
메타버스의 개념과 유형, 서비스 플랫폼

6.  메타버스(metaverse)
 ‘초월, 그 이상’을 뜻하는 그리스어 메타(Meta)+’세상 또는 우주’를 뜻하
는 유니버스(universe)
 가상과 실제 현실이 상호작용
 미국의 SF 소설가 닐 스티븐슨(Neal Stephenson)의 ‘스노 크래시’(Snow
Crash, 1992)란 소설에서 처음 사용
 아바타 용어 처음 소개

7. (AR) (Lifelogging)
Mirror Worlds Virtual Worlds
Augmentation
External Intimate
Simulation

8.  Virtual Worlds + Mirror Worlds
AR + Life logging
 AR + Mirror Worlds

10. 제페토(ZEPETO)’에서 개최된 블랙핑크의 가상 사인
회에는 4,600만 명이 넘는 이용자가 참가
포트나이트의 소셜 공간인 파티 로얄에서 공개된 방탄
소년단의 ‘다이너마이트’ 안무 최초 공개

11.  메타버스 플랫폼의 특징
 기존에 존재하지 않았던 상호운영성 제공
 다양한 플랫폼을 통해 아이템 공유
 강력한 몰입감
 3차원(3D)경험을 통해 몰입감을 상승
 실제 세계와 메타버스 경계가 흐려짐
 아바타를 주인공으로 자신만의 소셜미디어 페이지 운영
 ‘자기만의 방’
 비실시간➔실시간
 1대N 소통➔소그룹, 1대1 소통
 카페, 낚시터, 지하철역 등 일상 공간 재현
 소통과 놀이

12.  제페토 드라마

13.  김대욱 네이버제트 공동대표 인터뷰
 Q:제페토를 어디까지 확장할 생각인가.
 A:우리가 확장하는 게 아니다. 사람들은 이미
여기서 돈을 번다. 제페토 스튜디오는 출시 한
달 만에 매출 8억 원을 올렸다. 누적 창작자
숫자만 6만 명이다. 다니던 직장을 그만두고
전업 제페토 의상 디자이너가 된 사람, 아바타
들이 놀 수 있는 맵(map)을 만들어 유통하는
가상 건축가도 생겼다. 이중엔 월 300만원 이
상 순수익을 올리는 사람도 있다.
 …지금은 우리가 제휴사들로부터 임대료를 받
고 그들이 원하는 가상공간을 만들어주고 있
지만, 나중엔 제페토의 건축가들이 전 세계 기
업들 대상으로 맵을 제작해주고 수익을 내게
될 것이다. 그 밖에도 여러 직업이 생길 수 있
다고 본다.

14. 강의 주제
가상세계의 윤리적 문제 고찰
메타버스 속 개인정보와 성범죄
소통과 단절
 MBC 특집 가상현실(VR) 휴먼 다큐멘터리
<너를 만났다>
 산자와 죽은자의 재회

15. 메타버스의 개인정보 문제
 민감한 정보 수집
 경험 시간, 교류 상대방, 대화, 아바타 아이템 등의 개인의
내밀한 정보 수집
 얼마 동안 무엇을 보고 누구와 교류하며 어떤 것에 골몰
하는가?

16. 메타버스의 개인정보 문제
 민감한 정보 수집
 ‘시선이 머무는 곳에 고객의 욕망이 있다’
 사용자의 시선을 추적하는 Eye(Gaze)-Tracking을 통해 이용자의 시선 이동 수
집 및 분석
 소비 패턴 분석
 소비자가 구매를 결정한 제품의 어떤 점이 소비자의 주의를 끌었는가?
 소비자가 제품에 어떻게 반응하는가?
구글의 검색 결과 평가 페이스 북 아이트래킹 남녀 의류 소비 패턴 차이

17.  개인정보 행사권 통제 불가능
 개인 정보가 누구와 공유되며, 어떤 목적으로 활용
되고 어느 시점에 파기되는가?
 접속 기기, 메타버스 플랫폼, 개발자, 광고 마케터,
광고주 등…

18. 크리에이터 '띠미'가 제페토에서 연애한
경험을 바탕으로 올린 유튜브 영상
Q : 아바타끼리 연애를?
A : 제페토 안에서 결혼식도 올리고 작은 캐릭터를 '우리
아기'라며 데리고 다니기도 한다(웃음). Z세대들은 아바타가
반드시 현실의 나와 동일할 필요는 없다고 생각한다.
현실에선 평범한 고등학생이더라도, 제페토 안에서는
배 우 나 아 이 돌 , 엔 터 기 획 사 사 장 이 되 는 일 종 의
'역할놀이'를 한다. 드라마 감독이 되어 제페토 드라마를
만들기도 한다.
• 프로테우스 효과(Proteus effect)
• 가상 현실에서 개인에게 주어지는 아바타의 특성에 따라 개인의 행동이 달
라진다는 현상
성범죄 문제

19. ‘제페토’에서 일어난 ‘아바타’ 성희롱 사건
• 아바타 스토킹, 아바타 몰카
• “성범죄, 모욕죄의 처벌 대상은 사
람이기 때문에 아바타의 행위를
법적으로 처벌할 수 있는 근거가
없다. 다만 아바타가 아닌 ‘이용자
사람’에게 모욕적인 행동 또는 언
사를 한 것으로 해석되면 모욕이
나 명예훼손이 될 수는 있다”
• “학부모들은 아이가 상주하고 있
는 ‘아바타 세계’에 대한 관심을 가
지고, 아이가 이상한 권유를 받거
나 유해 콘텐츠에 노출되고 있는
지 지속적으로 대화를 나눌 필요
가 있다”
• ‘아바타 범죄’를 통제할지 고민이
필요

20.  가상의 아동·청소년 캐릭터가 포함된 동영상 제작 및 유포
 “이 사건 애니메이션의 각 캐릭터가 실제 아동·
청소년으로 인
식될 수 있는 표현물에 해당한다고 인정할 만한 증거를 발견
할 수 없다”(1심 법원)
 “법에서 정한 아동·
청소년이용음란물에는 실제 아동·
청소년
이 등장하는 경우뿐만 아니라 비록 사람이 아니더라도 만화
나 애니메이션에서 아동·
청소년으로 인식될 수 있는 가상의
인물을 통해 성적 행위 등을 묘사하는 경우도 포함된다고 봄
이 타당하다”(고등법원)

21.  가상 아동·청소년 캐릭터를 상대로 한 성행위의 처벌 가능성
 현행 법률 상 불가능
 아동·청소년 음란물의 개념을 단순 시청만 가능한 형태의 물건으
로 간주
 제작, 배포, 전시 및 상영, 소지만을 대상
 아동·청소년이용음란물의 개념의 확장
 청소년성보호법 제 11조(아동·청소년이용음란물의 제작·배포 등)
에 ‘아동·청소년 혹은 아동·청소년 표현물에 대한 성적 행위가 가
능한 아동·청소년음란물을 이용한 자’를 처벌하는 새로운 항의 신
설이 요구

22.  토론 주제
 아바타에 성범죄에 대한 법률적 조치에 대해 의견 발표하
기

23.  가상세계에서의 성범죄
 연극 ‘네더(The Nether)’
 ‘네더(The Nether)는 극에서 가상 세계를 의미한다. 네더
에 접속하는 사람들은 모든 이들이 동경할 만한 ‘아름답고
그리운 빅토리아 풍’으로 꾸며진 실내와 정원에서 더 오래
머물도록 현혹된다. 네더는 아름다울 뿐 아니라 사람들이
가진 마음 깊은 곳의 욕망까지도 해결해준다. 그래서 사람
들은 네더를 ‘(현실에서 도피할 수 있는)은신처’라 부르며
이곳에 머무는 시간을 점점 더 늘려간다…

24.  가상의 공간 에서 일어나는 가상의 범죄
 가상의 공간 네더(Nether)
 심즈는 네더에서 소아성애와 살인을 경험할 수 있는 은신처
를 만들고…
제니퍼 헤일리(Jennifer Haley) 작품

25. ‘누구나 상상 속에서
는 자유로워야만 한
다’(심즈)
‘현실의 삶에 영향을
미친다’(모리스 형사)

26.  토론 주제
 심즈의 주장에 대한 각자 생각 얘기하기
 현실에서의 ‘금기’는 가상세계에도 그대로 적용되
는가?
 가상세계의 범죄는 현실의 윤리에 따라 처벌이
가능한 것인가?

27.  현실과의 괴리
 이중적 정체성
 현실의 나 vs. 가상세계 속의 나
 가상세계 속의 정체성
 셰리 터클의 ‘유연한 자아(flexible self)’
 능동적 창조 행위
 단절과 파편화
 다양한 모습의 주체들로 설정
가상세계 속 소통과 단절

28.  ‘함께’, 그리고 ‘홀로’인 우리
 과학기술과 인간 관계
 셰리 터클(Sherry Turkle)의 사이버 친교
 기술에 의한 단순하고 손쉬운 연결
 사이버 친교에서 사이버 고독으로
 인터넷 패러독스 현상
 네트워크가 오히려 고립을 촉진

29.  디지털 중독을 의미하는 신조어 등장
 ‘스몸비족(smombie)’
 ‘스마트폰(smart phone)’+ ‘좀비(zombie)’
 스마트폰에서 눈을 떼지 않고 몰입하여 걷는 사람들
 ‘카페인 우울증’
 카카오스토리+페이스북+인스타그램
 SNS에서 타인의 행복한 일상을 보면서 상대적 박탈감을
느낌

30.  토론 주제
 나는 디지털 중독자인가?
 사이버에서의 친교와 현실 세계에서의 친교 중
어느 쪽이 더 어려운가?

31.  영화 <디스커넥트>(2012)
 SNS 관계망 이면에 감추
어진 폐해
 네트워크에 갇힌 불행한
인간
 인터넷에 중독된 여러 유
형의 인물이 등장
 학교에서 따돌림을 당하
는 고등학생 벤은 SNS
에서 친구를 사귀게 되
는데…

32.  사회적 자본(social capital)의 감소
 교회, 자치단체, 자원봉사, 이웃과의 만남과 같
은 전통적인 사회적 조직과 모임에의 참여율이
두드러진 감소 추세를 보이는 현상
 네트워크 자본
 친구, 이웃, 친척 등과 감정과 정보를 교환
 참여 자본
 정치와 자원봉사 단체 참여
 공동체 자본
 커뮤니티 참여

33.  영화 <소셜 네트워크> 의 마지막 장면

34.  연결되면 힘이 변화한다
 튀니지의 ‘재스민 혁명’
 24년간의 독재정권 종식, 민주화
 하지만…
 테러와 같이 인류를 위협하는 도구
 ‘제 7의 감각’
 “마치 광기처럼 보였던 산업혁명을 견뎌내기 위해 니체
가 인간에게 역사의 리듬을 감지할 수 있는 ‘여섯 번째
감각’이 필요하다고 주장했듯이 새로운 네트워크 시대에
는 ‘제 7의 감각’이 필요하다”(조슈아 쿠퍼 라모 『제7의
감각, 초연결지능』

35.  토론 주제
 사이번 친교에 대해 만족하는가? 사이버 친교의 장점과 단
점은 무엇인가?
 소셜 네트워크가 갖는 소통과 단절의 이중성에 대해 의견
발표하기

36.  MBC 특집 가상현실(VR) 휴먼 다큐멘터리
<너를 만났다>
 산자와 죽은자의 재회

37. 오르페우스와 에우리디케

38.  토론 주제
‘너를 만났다’는 선한 기술인가?
어떤 윤리적인 문제가 제기되는가?