Lecture 13 of the 1st NS-CUK Winter School on Ethics of AI and Robots (AI Ethics 2022) Lecturer: Dr. Eun-Soon You Date: Jan 16th, 2023 Topic: A case study for AI and robots making ethical decisions Syllabus: https://nslab-cuk.github.io/2022/12/06/WS/

1.  토론 주제
 존재하지 않는 대상을 존재하는 것처럼 만들어 놓은 복
제물 ‘시뮬라크르’의 사례를 찾아 보기

2.  시뮬라크르는 존재하지 않는 대상을 존재하는 것처럼 만들어 놓은 복제물
 핀란드의 산타 마을
디즈니랜드

3.  천국과 지옥을 믿게 하는 수많은 이미지들
한스 멤링의 <최후의 심판>(1467~1471)

4.  미켈란젤로(Michelangelo, 1475-1564)의 최후의 심판(1534-1541)

5.  ‘관계’를 나타내는 시뮬라크르
 ‘지지’,‘공감’,‘응원’의 시뮬라크르

6. 보드리야르의 ‘시뮬라크르’ 개념을 통해 본
르네 마그리트 작품 <이미지의 배반> 분석

7.  초현실주의 화가 르네 마그리트(René Magritte, 1898~1967)의 《이미지의
배반》(La trahison des images)(1929)
 Ceci n’est pas une pipe.(이것은 파이프가 아니다.)
 “이것은 파이프다”라고 썼다면 나는 거짓말을 하는 것이 되었을 것이다.”(르네 마그
리트)

8.  Ceci n’est pas une pipe.(이것은 파
이프가 아니다.)
 “이것은 파이프가 아니다”
 파이프는 ‘이미지’이고 ‘종이’가 실
체
 이미지를 소비하는 현대 사회
 우리는 사람, 사물, 사건 등을 ‘실
체’가 아닌 ‘이미지’로 판단
 “그 사람 첫인상 어때?”
 “이미지는 그것이 무엇이건 간에
어떠한 사실성과 무관하다 : 이미
지는 자기 자신의 순수한 시뮬라
크르이다.”(보드리야르, 하태환 역,
시뮬라시옹, 민음사, 2003)

9.  장자의 호접몽
 “내가 지난 밤 꿈에 나비가 되었다.
날개를 펄럭이며 꽃 사이를 즐겁게
날아다녔는데 너무 기분이 좋아서
내가 ‘나’인지도 몰랐다. 그러다 꿈
에서 깨어버렸더니 나는 나비가 아
니고 내가 아닌가? 그래서 생각하
기를 아까 꿈에서 나비가 되었을
때는 내가 나인지도 놀랐는데 꿈에
서 깨어보니 분명 나였던 것이다.
그렇다면 지금의 나는 진정한 나인
가? 아니면 나비가 꿈에서 내가 된
것인가? 내가 나비가 되는 꿈을 꾼
것인가? 나비가 내가 되는 꿈을 꾸
고 있는 것인가?”
(<장자>의 ‘제물론‘ 중에서)
꿈도 가상현실이다?
꿈인지 생시인지…

10. 우리에게 이미지는 무엇인가?
 이미지는 인간과 세계를 연결하는
미디어
 이미지로 파악된 세계
 세계는 이미지의 형태로 모습을
드러내며 우리는 이미지를 통해
세계를 인식
 독일 철학자 마르틴 하이데거
(Martin Heidegger, 1889-1976)
의 세 계 상 혹 은 세 상 그 림
(Weltblid)
그림들로 세상을 감지

11. 카라바지오(Caravaggio, 1571~1610)의 <나르시스>(1597~1599)
물 위에 비친 ‘나’의 이미지는 ‘나’인가?

12.  가상현실의 철학적 토대를 마련해 준 학자들
 고대 그리스 플라톤(Plato, 기원전 427 ~ 347년 추
정)
 프랑스 철학자 장 보드리야르(Jean Baudrillard,
1929~2007)
 독 일 철 학 자 발 터 벤 야 민 (Walter Benjamin,
1892~1940)

13. 발터 벤야민, 기술 복제 시대를 옹호하다
 발터 벤야민은 누구인가?
 유대계 독일인으로 마르크스주
의자이자 문학평론가이며 철학
자
 독일‘프랑크푸르트 학파’의 중심
인물
발터 벤야민(1892~1940)

14.  기술 복제는 아우라(aura)의 상실
을 초래
 아우라는 무엇인가?
 고대 그리스어의 기원에 따르
면 ‘입김’, ‘공기’를 의미
 어떤 대상이 지니고 있는 그
만의 독특하고 신비스러운 분
위기
 진품, 일회적, 원본

15. 프랑스 파리 루브르 박물관에 소장된 다
빈치의 <모나리자>
(아우라)
웹에서 찾을 수 있는 수많은 모나리
자 복제

16. 레오나르도 다빈치의 <비트루비안 맨, 혹은 인체비례도>(1485)

17.  아우라는 그것을 경험하는 인간의 지각 작용과 연관
 예술작품에 대한 주체의 주관적 경험에서 기인
 대상을 바라보는 주체의 시선
 내가 바라보고 있는 대상이 나에게 시선을 되돌려 준다
는 것
o 대상과의 교감을 통해 주체와 대상 사이의 경계가 해
체
 “ 어느 여름날 한낮에 휴식의 상태에 있는 사람에게 그
림자를 던지고 있는 지평선의 산맥이나 나뭇가지를 바
라보고 있다가 어느 한 순간 이들 현상과 하나가 되는
경험을 하게 될 때 우리는 이 산이나 나뭇가지의 아우
라를 숨 쉬는 것이다.”( 발터 벤야민)

18.  <플랜더스의 개>의 주인공은‘아우라’를 경험
페테르 파울 루벤스(Peter Paul Rubens,1577~1640)의 <십자가에
서 내려지는 그리스도>(1612~1614)

19.  기술 복제 시대의 ‘아우라’의 상실
 이미지 복제를 통한 ‘이미지의 세속화’
 접근 가능성 확대
 루브르 박물관의 <모나리자> VS. 인터넷의 <모나리자>
 물리적 거리 제거

20.  토론 주제
 기술 복제 시대에 ‘아우라’의 상실은 긍정적인가?
부정적인가?

21. 원본과 가상에 대한 관점의 차이
발터 벤야민 보드리야르
원본과 복제의 구분
복제가 원본이 갖는 ‘아우라’
를 파괴
원본과 복제의 구분 자체가
소멸

22.  영화 <매트릭스>로 ‘가상현실’ 탐구하기
 영화 <매트릭스> 주요 장면 감상

23.  사이버펑크를 대표하는 영화들

24.  사이버펑크 장르를 개척한 윌리
엄 깁 슨 의 소 설 『 뉴 로 맨 서
(Neuromancer)』(1984)
 사이버펑크(Cyberpunk)
 사이버네틱스(cybernetics)
와 펑크(punk)의 합성어
 펑크는 ‘반항‘, ‘반체제적인
태도‘의 의미
 첨단 기술이 몰고올 재앙을
경고하고 기술에 대한 반체
제적인 대중문화
 네트워크, 컴퓨터 시스템,
해커 등을 주요 소재로 등장
 SF 장르의 하위 범주로 간주
윌리엄 깁슨(William Gibson,
1948~ )

25.  소설 『뉴로맨서(Neuromancer)』(1984)
 ‘신경’이라는 의미의 ‘neuro’와 ‘예지’라는
뜻의 ‘mancer’의 합성어
 ‘뉴로맨서’는 인터넷에 존재하는 인공지능
네트워크
 수많은 컴퓨터들을 통해 네트워크로 연
결된 세계
 스스로의 의지로 활동
 ‘사이버스페이스(cyberspace)’ 의 개념
을 제시
 네트워크가 만들어내는 가상의 공간을 현
실감 있게 묘사
 “모든 국가, 수십억의 조작자들에 의해
매일같이 합의를 통해 성립된 환영…추
상화된 데이터의 그래픽 재현…데이터
의 군집과 성운이 빛나는 도시처럼…”
 원격지에서 다른 사람의 감각을 느끼게 해
주는 심스팀(simstim)이라는 장비 등장
• 육체는 고깃덩어리
• 사이버 공간으로의 여행
에서 불필요한 짐
• 사이버공간
• 몸을 떠난 의식이 환희
속에서 살아갈 수 있는
낙원이자 순수한 마음의
세계

26. • ‘매트릭스’는 우리말로 ‘자궁’을 뜻함
• ‘매트릭스’는 영화의 배경이 되는 가상공간, 즉 컴퓨터가 인간을 지배하고 통제
하는 공간을 의미
 줄거리
 2199년 고도로 발달한 인공지능 기계로봇은 반란을 일으켰고 인간의 도시를 떠나
제로원(Zero one)이라는 도시를 건설한다. 인간과 기계 사이에 전쟁이 벌어지고,
수세에 몰린 인간은 당시 기계들의 에너지원이었던 태양을 가리기 위해 검은 구
름을 하늘에 살포한다. 하지만 결국 인간은 전쟁에서 참패하고 살아남은 이들은
지하세계로 도망쳐 ‘시온’이라는 도시를 건설한다.
 한편 기계들은 대체 에너지원으로 인간의 생체 에너지를 필요로 하게 된다. 이를
위해 기계는 인간을 인공수정과 유전자 조작을 통해 생산해 인큐베이터 안에 가
두고 동력을 생산한다. 기계들은 ‘매트릭스’라는 거대한 컴퓨터 프로그램을 만들
어 모든 인큐베이터 안의 인간들을 1999년이라는 실재보다 더 실재 같은 거짓된
세계 속에서 살아간다. 기계들은 인간들을 각자 프로그램화시켜 인간의 모든 활
동을 통제한다. 인간은 음식을 먹을 때도 맛있다는 신호를 매트릭스 시스템에서
전해주기 때문에 맛있다고 느낀다. 인간 스스로 그 맛을 느끼는 것이 아니다. 인간
은 완전히 기계의 통제 아래 현실(실재)라고 생각하는 매트릭스(가상세계)에서 살
고 있는 것이다.
영화 <매트릭스>

27.  토론 주제
 영화 <매트릭스>속 인물들은 고정된 가상현실 장치에
앉아 머리에 코드를 꼽아 가상공간으로 접속하는데 그
들이 가상공간 , 으로 이동한 후 물리적 공간에 남겨 놓
은 그들의 육체는 모든 감각을 상실한 채 가상현실 장치
에 고정되고 억압되어 있다 그렇다면 매트릭스에서처럼
정신이 육체를 떠나 새로운 세계에 들어간다는 것은 어
떤 의미인가?

28.  영화 <매트릭스>를 통해 ‘가상현실’
탐구하기
 테크놀로지의 발전이 극대화된 미래
사회에서 인공지능 기계에 의해 인간
의 육체와 정신이 현실세계와 가상세
계 속으로 분리되는 문제를 다룸
 현실세계에서 육체와 정신의 분리가
인간의 자유의지가 아닌 기계의 의해
강제적으로 이루어짐
 인간들의 육체는 실제로 온몸에 플러
그와 전선을 매단 채 생체공장의 캡
슐 속에 감금
인간의 육체가 안치된 생체공장
의 캡슐

29. • 낮에는 회계사 토머스 앤더슨으로, 밤에는 해커
로 살아가는 네오는 모피어스를 통해 자신이 가
상현실에 살고 있다는 것을 알게 되고 실제 세계
를 만나게 된다…
• “이게 마지막 기회다. 다시는 돌이킬 수 없어. 파
란약을 먹으면 여기서 끝난다. 침대에서 깨어나
믿고 싶은 것만 믿으며 살면 되지. 빨간약을 먹으
면 이상한 나라에 남아 끝까지 가게 된다.”
• ‘매트릭스’는 영화의 배경이 되는 가상공간
• 인간은 완전히 기계의 통제 아래 현실(실재)
이라고 생각하는 매트릭스(가상세계)에서 살
고 있는 것
 기계는 인간을 인공수정과 유전자 조작을
통해 생산해 인큐베이터 안에 가두고 동력
을 생산
영화 <매트릭스>

30. 가상공간‘매트릭스’
(가짜)
윤택한 삶
현실세계‘시온’
(진짜)
초라한 삶

31.  빨간약을 선택했던 사이퍼
 처참한 현실세계 vs 가상적 윤택함으로 빛나는 매트릭스 속 삶
 험난한 진실 추구 vs 모르는게 약이다

32. 추천 도서

33.  토론 주제
 나는 어느 공간에서 더 행복함을 느끼는가?
 현실? 가상공간?

34. 가상현실 시대의 가상의 육체(아바타)
나의 진짜 육체는 어느 것인가?
생물학적 육체
가상의 육체
(상상의 육체)

35.  현실의 ‘나’, vs 가상공간의 ‘나’
 가상공간의 ‘나’는 ‘물질적 육체’는 없
고 ‘정신’만이 부유하는 자아
 사이버 공간 속 ‘나‘의 아바타
이집트의 미라는 영혼이 돌아왔
을 때 다시 거주할 몸
생물학적 몸과 상상의 몸

36.  데카르트의 실체 이원론
 물질적 실체 vs. 정신적 실체
생물학적 몸과 상상의 몸
르네 데카르트
(René Descartes,
1596~1650)
물질적 실체 본성
공간적인 연장성
정신적 실체 본성
생각함(의식함)

37. 생물학적 몸과 상상의 몸
인간
신체(물질적 실체)와 영
혼(정신적 실체)의 결합
인간을 제외한 모든
개체
물질적 실체

38.  데카르트가 인간과 기계가 명확히 구분되어야 한다
고 말한 이유는 무엇인가?
 인간과 기계가 구분되는 두 가지 수단
 “우리 신체와 닮아 있고 우리 행동들을 도덕적으로 가
능한 만큼 모방하는 기계들이 설령 있다고 해도, 그렇
다고 해서 그것들이 진정한 인간일 수는 전혀 없다는
것을 알아낼 수 있는 아주 확실한 두 가지 수단이 우리
에게 늘 있다…”(데카르트의 『방법서설』중에서)
 인간의 언어능력과 인간의 이성적 능력

39.  인간의 언어 능력
 “…그러나 그 기계가, 가장 멍청한 인간도 할 수 있는 것
처럼, 자기 앞에서 말해지는 모든 것의 의미에 응답하기
위해 말들을 다양하게 배치한다고 생각할 수는 없다.”
(데카르트의 『방법서설』중에서)
 인간이 갖고 있는 이성적 능력
 “…이성은 우연히 마주치는 모든 종류의 것들에 사용될
수 있는 보편적인 도구인데 반해, 그 기관들은 각각의
특수한 행동마다 어떤 특수한 배열이 필요하기 때문이
다….” (데카르트의 『방법서설』중에서)

40.  토론 주제
 데카르트의 실체 이원론에 대해 각자 의견 발표하기
 동물에게도 정신적 실체인 영혼이 있는가? 데카르트
논리에 따르면 동물은 영혼이 없다. 데카르트의 논리
에 동의하는가?