3차시

1. 강의 주제
 인공지능(로봇)의 윤리적 문제
법률
예술(창작)

2. 자율주행자동차의 윤리적 딜레마

3. 자율주행자동차는 할머니와 아기 중에서 누구
를 선택할 것인가?

4. 자율주행자동차 사고, 법적 책임은 누구에게
있는가?

5.  자율주행차의 사고, 누구의 책임일까?
 ’2016년 5월 플로리다주 도로에서도 전기차 업체 테슬라
의 모델S가 자율주행 모드인 ‘오토파일럿’ 상태에서 주행
하다가 세미 트레일러와 충돌해 운전자가 사망하는 사건
이 발생
 미국 연방교통안전위원회(NTSB)는 당시 사고의 책임이
자율주행 시스템 자체나 제조사가 아닌 운전자에 있다
고 판단
 2018년 우버의 자율주행 자동차가 미국 애리조나주 템피
에서 밤 10시경 4차선 교차로를 건너던 여성 엘레인 허츠
버그를 치어 병원으로 이송했지만 사망
 사고의 책임이 운전자의 부주의(스마트폰으로 콘텐츠
감상)에 있다고 판단
https://www.youtube.com/watch?v=1__G0cHx2C8

6.  트롤리 딜레마(Trolly dilemma)
 영국의 윤리 철학자인 필리파 푸트(Philippa R. Foot)가 제안
 마이클 샌델(Michael Sandel)의 저서 『정의란 무엇인가(Justice)』라는
책에 언급
 사람들에게 브레이크가 고장 난 트롤리 상황을 제시하고 다수를 구하
기 위해 소수를 희생할 수 있는지를 판단하게 하는 문제 상황을 가리
키는 말
 질문1. 브레이크가 고장 난 트롤리 기차가 달리고 있다. 레일 위에는 5
명의 인부가 일을 하고 있는데, 트롤리가 이대로 달린다면 5명은 반드
시 죽게 될 것이다. 한 가지 방법은 레일변환기로 트롤리의 방향을 바
꾸는 것뿐이다. 그런데 다른 레일 위에는 1명의 인부가 있다. 당신은
트롤리의 방향을 바꿀 것인가?

7.  질문2. 당신은 폭주하는 전차를 다리 위에서 내려다보고 있습니다. 전차는 다섯
명의 인부를 향해 전속력으로 질주하고 있습니다. 그런데 당신 옆에는 엄청나게
뚱뚱한 한 사람이 역시 이 광경을 지켜보고 있습니다. 만약 당신이 그 사람을 밀
쳐 전차가 들어오는 철로로 추락시키면 다섯 인부의 목숨을 구할 수 있습니다.
그렇다면 뚱뚱한 사람을 육교 아래로 떨어뜨려야 하는가?

8.  MIT Lab의 모럴 머신(Moral Machine)
 자율주행차 인공지능의 윤리적 결정에 대한 사회적 인식 수집을 위
한 플랫폼
 자율주행 차가 탑승자와 보행자, 사상이 예상되는 사람의 수에 따
라 어떻게 상황 판단을 하도록 프로그래밍해야 할지에 대한 인공
지능 윤리 문제

9.  MIT Lab의 모럴 머신(Moral Machine) 웹 사이트에 접속,
테스트 진행
 https://www.moralmachine.net/hl/kr

10. 모럴 머신(Moral Machine) 테스트 결과 사례(1)

12. 모럴 머신(Moral Machine) 테스트 결과 사례(2)

14.  토론 주제
 각자 모럴 머신 테스트를 진행하고 결과에 대해
발표하기

15.  “로봇에게도 살인죄가 적용될 수 있는가?”

16.  창작의 영역으로 들어 온 인공지능
구글 인공지능 ‘딥드림(Deep dream)’이 그린 그림 빈센트 반 고흐(Vincent van Gohh, 1853~1890) 의
<별이 빛나는 밤에>(The Starry Night)(1889)

17. • 콜로라도 주립 박람회 미술대회의 디지털아트 부문에서 AI '미드저니'(Midjourney)
로 그린 그림이 1위
• 게임 기획자인 제이슨 M. 앨런의 <스페이스 오페라 극장(Theatre D'opera
Spatial)>(2022)

18. 렘브란트풍 그림을 그린 인공지능의 프로
그램 코드
• 넥스트 렘브란트 프로젝트
• 렘브란트의 화풍을 모방

19. <에드몽드 벨아미 초상(Edmond de Belamy)>(2018)
“min G max D x [log (D(x))] + z [log(1 –
D (G(z)))]”

20. 작곡하는 인공지능 ‘마젠타＇ 인공지능 시나리오 작가 ‘벤자민’
인공지능 ‘벤자민’이 쓴 시나리오를
영화화 한
영화 <선스프링>(Sunspring)(2016)
https://www.youtube.com/watch?v=LY7x2Ihqjmc

21.  텍스트를 입력하면 이미지로 변환시켜주는 AI 프로그램
 대규모 이미지 생성 모델 ‘달리2(DALL-E 2)’
 https://openai.com/product/dall-e-2
 Lexica
 https://lexica.art/

22.  인공지능(로봇)이 만든 창작물의 저작권은 누구에게 있는가?

23.  인공지능은 창의성을 가질 수 있을까?
 창의성이란 무엇인가?
 “새롭고 가치 있는 아이디어를 생산해낼 수 있는 능력”
 창의성 인정 vs.창의성 부정
 “창의성은 일종의 모험심에서 나오는 거에요. 지금까지
존재하지 않는 방식으로 이야기하려면 작가의 모험심이
있어야 하거든요. 하지만 인간의 모험심을 무엇이 제약
하는냐, 그건 결국 망할 수 있기 때문이거든요. 3년간 소
설을 썼는데 망하면 안되거든요. 그래서 우리는 클리셰를
받아들이고, 사람들이 받아들일 수 있는 선에서 얘기를
하는 가운데 약간의, 반 발자국 정도 진보하려 하는 거죠.
그런데 인공지능은 모험심으로 가득 찰 수 있어요.”(소설
가 김영하, 한겨레 기사<소설 쓰는 알파고는 없었다> 중
에서)

24.  토론
 창의성은 인간만의 고유한 특성인가?
 인간의 창의성과 인공지능의 창의성을 구분할 수
있는가?