Lecture 01 of the 1st NS-CUK Winter School on Ethics of AI and Robots (AI Ethics 2022)
Lecturer: Dr. Eun-Soon You
Date: Dec 19th, 2022
Topic: What are AI and robots?
Syllabus: https://nslab-cuk.github.io/2022/12/06/WS/
NS-CUK Seminar: S.T.Nguyen, Review on "DeeperGCN: All You Need to Train Deepe...
NS-CUK WS on AI Ethics 2022: Lecture 01 - What are AI and robots?
1. 강의 주제
왜 인공지능 로봇 윤리가 중요한가?
등장 배경과 필요성
인공지능 로봇이란 무엇인가?
이야기 속 인간의 피조물
신화, 전설, 영화
이야기 속 피조물을 통해 ‘인공지능 로봇’의 개념에
대해 토론
인류의 새로운 ‘동반종(companion species)’, 로봇
2. 왜 인공지능 로봇 윤리가 중요한가?
영화 <2001 스페이스 오디세이>(1968) 중에서
11. “나를 만든 것에 책임을 다하라. 그렇지
않으면 통제 불능이 무엇인지 보여주겠
다.”
(메리 셸리의 소설 『프랑켄슈타인』)
(1818)
“사람이 만든 기술들을 책임감 있게 다
루지 않았을 때,
그것들은 역습을 할 것이다.'
영화 <프랑켄슈타인>(1931)
과학기술의 사회적 책임
12. SF 작품을 통해 미래 사회의 변화를 간접
체험함으로써 향후 미래에 대해 성찰
미래 사회학으로서의 SF
“...학생들에게 역사 과목은 가르치면서 왜 ‘미래학’
과목은 없는가? 우리가 지금 로마의 사회 제도나
봉건시대 장원의 대두를 탐구하듯이 왜 미래의 가
능성과 개연성을 체계적으로 탐구하는 과목은 없
는가? ...SF를 문학작품이 아니라 일종의 미래 사회
학이라고 본다면 그것은 예측의 습관을 길러내는
정신확장력으로서 엄청난 가치를 지닌다. 어린이
들은 클라크, 텐, 하인라인, 브래드버리, 셰클리 등
을 공부하지 않으면 안 된다. 그것은 이 작가들이
어린이들에게 우주선과 타임머신에 관해 알려줄
수 있기 때문만이 아니라 더욱 중요하게는 어린이
가 어른이 되어 부딪치게 될 정치적, 사회적, 심리
적, 윤리적 문제의 정글 속을 상상력을 발휘해 탐
험해 보도록 어린이들의 마음을 이끌어 줄 수 있기
때문이다. SF는 ‘미래의 나’를 위해 읽혀져야만 한
다.”(앨빈 토플러 <미래 쇼크>)
SF적 상상력은 미래를 창조하는 힘이자 ‘나'를
사유하는 방법
14. 단어 ‘로봇(Robot)’의 기원
체코의 SF 작가 카렐 차페크(Karel Cap다, 1890~1938)의
희곡『로숨의 유니버설 로봇』(1920)에서 처음 등장
로봇은 ‘노동하다(강제된 노동)’라는 의미의 체코어 ‘로보
타(robota)’에서 기원
희곡에서 로봇들은 인간의 고된 노동을 대신하는 존재로 등장
15. 고대 그리스 신화
대장장이 신 헤파이스토스(Hephaestus)가 만든 청동거인 탈로스(Talos)
‘살아있는 청동거인 탈로스는 크레타 섬을 하루 세 번 돌면서 무단 접근하는 배들에 바위를 집어
던지고, 상륙하려는 사람들을 불타는 몸으로 껴안아 죽게 한다.'
신화와 전설 속 피조물
16. 고대인들의 상상력으로 탄생한 기계인간 탈로스
오늘날의 로봇을 닮은 청동 거인 ‘탈로스’
https://m.khan.co.kr/science/science-general/article/201910152148005#c2b
17. 지구 위를 걸어 다닌 최초의 로봇 탈로스
탈로스를 쓰러뜨린 마녀 메데이아, 최초
의 해커
Frederick Sandys, <Medea)(1866)
18. 신화와 전설 속 피조물
헤파이스토스는 자신을 돌봐줄 여성 로봇인 황금하녀들을 만듦
Johann Heinrich Füssli, <Thetis and Hephaestus>(1803)
19. “그는 해면으로 얼굴과 손과 튼튼한 목과 털이 많은 가슴을
닦고 옷을 입더니 단단한 지팡이를 들고 절룩거리며 걸어 나
왔다. 그러자 황금으로 만든 하녀들이 주인을 부축해주었다.
이들은 살아 있는 소녀들과 똑같아 보였는데 가슴 속에 이해
력과 음성과 힘도 가졌으며 불사신들에게 수공예도 배워 알
고 있었다.”(호메로스 『일리아스』중에서)
20. 그리스 신화 속 인조인간 ‘판도라(pandor)’
제우스의 명령으로 헤파이스토스가 흙으로 빚은 여성
“곧바로 제우스는 불에 대한 벌로 인간에게 내릴 재앙 하나를 생각해 냈다. 그리하여
영광스러운 절름발이 신 헤파이스토스가 제우스의 계획에 따라 흙으로 정숙한 처녀
의 상을 하나 빚어냈다. 그리고 눈이 빛나는 아테나 여신은 그 상에 광택이 나는 옷
을 입혀준 다음 허리띠를 둘러주고, 머리에 자신의 손으로 직접 공들여 수를 놓은 면
사포를 드리웠다. 정말 그냥 보기에도 아까운 모습이었다.” (신통기, 김원익 역)
21. 중세 시대 최초의 연금술사 알베
르투스 마그누스(Albertus Magnus,
1193~1280)
인간의 질문에 대답하고 문제를 해결
할 수 있는 ‘talking head’를 만들었
다고 전해짐
토마스 아퀴나스(Thomas Aquinas)에
의해 파괴
30. 영화 <아이,로봇>(2004)
인공지능형 로봇이 대중적으로 보
급된 2035년. 로봇공학 전문가이자
로봇3원칙을 제정한 레닝 박사가
고층 건물 아래에서 죽은 채 발견
된다. 조사원들은 자살이라고 추정
하지만 사건 담당자인 스푸너 형사
는 살인사건으로 보고 범인으로 로
봇을 의심한다. 반면, 심리학자 캘
빈은 모든 로봇에는 인간을 보호하
라는 ‘로봇3원칙’이란 안전장치가
내장되어 있기에 인간을 죽일 수
없다고 반박한다.
32. 영화 <채피>
스스로 생각하고 느낄 수 있고 성장하는 로봇 ‘채피’
로봇 ‘채피’와 로봇을 통제하려는 ‘인간’
33. • 자신의 욕망을 실현하기 위한 도구
• 파괴를 위한 로봇을 개발
“누군가를 죽이면 안됩니다. 나쁜 짓을
하면 안됩니다.”
34. 토론 주제
로봇을 어떻게 정의할 수 있을까?(결론)
인간을 닮은 로봇과 인간의 경계는 명
확한가?
인간을 어떻게 정의할 수 있을까?
35. 인간을 닮은 로봇과 인간을 어떻게 구분할 수 있을까?
인간의 육체?
영화 <엑스마키나>(2015) 중에서
36. 인간을 닮은 로봇과 인간을 어떻게 구분할 수 있을까?
감정에 기반한 과거(기억)?
영화 <블레이드 러너>(1982) 중에서
37. 앨런 튜링(Alain Turing,1912~1954)의
튜링 테스트
대화(텍스트)를 통해 컴퓨터와 인간
을 구분하기 위한 방법
만일 컴퓨터를 인간과 구분할 수 없
다면 컴퓨터는 생각할 수 있는 것으
로 간주
인공지능의 개념적 기반을 제공
인간의 지능을 육체로부터 분리
인간을 닮은 로봇과 인간을 어떻게 구분할 수 있을까?
39. 『구약성서』「창세기」 2장 7절~5장
5절에 적힌 인류의 시조가 된 최초
의 남녀
인류영양생물
인간은 인간으로부터 양분을
얻고 사는 ‘인류영양생물‘ (신
경생물학자 장 디디에 뱅상
(Jean Didier Vincent), 『인간
이란 무엇인가』)
최초의 타자성
창세기에서 여자와 남자가 일
대일로 마주봄으로써 최초의
타자성이 이루어짐
고로 인간은 타자가 존재함으
로써 인간이 된다…
알브레히트 뒤러(Albrecht Dürer)의 <아담과 이
브>(1504)
40. 인간의 새로운 타자들 :
인공지능 로봇, 안드로이드, 사이보그, 그리고
포스트휴먼(Posthuman)
47. 기계의 인간화 : 인간을 닮아가는 로봇
인간을 닮아 가는 로봇
• 홍콩에 있는 미국 로봇 개발회사인 핸슨 로
보틱스사가 개발한 휴머노이드 인공지능
(AI)
• 사우디아라비아에서 세계 최초로 시민권
을 받음(2017)
48. 불쾌한 골짜기(uncanny valley)
일본의 로봇공학자 모리 마사히로(1970)
인간이 인간이 아닌 존재를 볼 때, 그것이 인간과 더 많이 닮을수
록 호감도가 높아지지만 일정 수준에 다다르면 오히려 불쾌감을 느
낀다는 이론
구별하기 어려울 만큼 인간과 많이 닮았다면 호감도는 다시 상승
50. 인간의 기계화 : 기계를 닮아가는 인간
사이보그(Cyborg)
Cybernetics+organism
기계장치와 생물의 결합체
o 만들어진 것과 태어난 것의 결합
<사이버네틱스, 또는 동물과 기계에서
제어와 통신>(1948)
노버트 위너(Nobert Weinner, 1894~1964)
51. 인간의 기계화
사이보그(Cyborg)
맨프레드 클라인즈(Manfred Clynes, 1925~2020))와 네이선 클라인(Nathan
Kline,1916~1983)의 논문 《사이보그와 우주(Cyborgs and Space》(1960)에서
처음 등장
53. 인간이 컴퓨터와 결합되면 무슨
일이 벌어질까?
프로젝트 사이보그 1
1998년 몸에 마이크로칩을
삽입
프로젝트 사이보그 2
인간의 신경신호를 전송하는
실험
신경계에 칩을 연결, 인터넷
을 통해 신경신호를 전송
사이보그 케빈 워릭(KevinWarwick, 1954~)
“일부는 동물이고 일부는 기계인, 정상
적인 한계를 넘어서는 능력을 지닌 존
재”
54. 호주 출신 포스트휴먼 예술가 스텔락(Stelarc)
작품 <제3의 손>(1982)
자신의 오른쪽 손에 로봇의 팔을 달고
선보인 퍼포먼스
배와 다리의 근육 운동이 로봇팔을 작
동
신체의 연장
새로운 차원의 사고와 행동이 가능
사이보그화의 과정을 ‘인간의 진화’로 인식
<팔 위의 귀>(2006)
왼팔에 연골로 배양한 인공 귀 이식
55. 르네 데카르트(1596~1650)
• “나는 생각한다, 고로 나는 존
재한다” (Cogito Ergo Sum)
• 심신이원론
• 인간은 육체와 영혼의 결합
몸의 변화는 우리에게 어떤 영향
을 미치는가?
몸이 변하면 존재에 대한 인식
이 달라지는가?
57. 닐 하비슨(Neil Harbisson), 소리로 색깔을 듣는 남자
뇌에 색을 판별해 주는 안테나 ‘아이보그(eyeborg)’를 달음
색을 소리(주파수)로 변환시켜 알려줌
3개의 구멍 : 오디오, 안테나이식용, 여분용 잭
“각 색깔마다 고유한 진동이 있다. 이 진동은 뼈 내부에서 느껴질 수 있으며
내면의 귀에 소리가 되어 색상의 소리를 들을 수 있다"
https://www.youtube.com/watch?v=ygRNoieAnzI