Lecture 18 of the 1st NS-CUK Winter School on Ethics of AI and Robots (AI Ethics 2022) Lecturer: Dr. Eun-Soon You Date: Jan 27th, 2023 Topic: Ideal coexistence of AI and robots Syllabus: https://nslab-cuk.github.io/2022/12/06/WS/

1. 강의 주제
 인공지능 로봇 윤리를 정리하며…
인간이란 무엇인가?
인간의 존재론적 개념 재고
 새로운 인간 종 ‘포스트 휴먼’
자연과 기술 그리고 인간
인공지능과 철학

2.  ‘인공지능(Artificial Intelligence)’ 용어의 등장
 존 매카시(John McCarthy, 1927~2011)
• 1956 년 다 트 머 스 대 학 (Dartmouth
College) 학회에서 '인공지능' 이라는 용
어와 정의를 제시
• “the science and engineering of
making intelligent machine””

3.  앨 런 튜 링 (Alan Turing,
1912~1954)
 영국의 수학자, 암호 해독가
제2차 세계대전 독일군 암호 시
스템 ‘에니그마(Enigma)’ 해독

4.  튜링 테스트 진행 과정
 질문자(심판), 사람, 컴퓨터가 각
각 분리된 공간에서 채팅을 통
해 대화
 튜링 테스트(Turing Test)
 논 문 < 계 산 기 계 와 지 성
(Computing Machinery and
Intelligence)>(1950)
 “기계는 생각할 수 있는가?”
 컴퓨터의 사고 능력의 판단 기준
‘대화’
 대화를 통해 상대가 컴퓨터인
것을 간파하지 못하면 그 컴
퓨터는 튜링 테스트를 통과,
컴퓨터가 사고 할 수 있는 것
으로 간주
 인공지능의 개념적 기반을 제공
 인간의 지능을 육체로부터 분
리

5. 인공지능의 정의

6.  인공지능에 대한 다양한 정의
 The exciting new effort to make computers
think…machine with minds, in the full literal
sense.(John Haugeland, philosopher, 1985)
 The study of mental facilities through the use
of computational models. (Charniak and
Mcdermott, Computer scientists, 1985)
 A field of study that seeks to explain and
emulates intelligent computational processes.

7.  The study of how to make computers do things
at which, at the moment, people are better.
 Defined as the branch of computer science that
is concerned with the automation of intelligent
behaviors.
 “인지, 학습 등 인간의 지적 능력의 일부 또는 전체
를 ‘컴퓨터를 이용해 구현” (과학기술정보통신부 4
차산업혁명위원회, 2018)

8.  ‘지능(Intelligence)’이란 무엇인가?
 지능에 대한 일반적 정의는 논쟁적
 “The ability to acquire and apply knowledge
and skills”
 지능을 갖추기 위해 필요한 요소들은 무엇인가?

9.  인공지능을 실현하기 위한 4가지 관점
 Humanly / Rationally
 Humanly
 Common-sense reasoning, social behavior
 Expert Knowledge(medecine, lawyers…)
 Mathematical problems(puzzles, games…)
 Rationally
 이성적인 행동, 판단
 목표 달성, 효율성을 최대화할 수 있는 행동
Thinking Humanly Thinking Rationally
Acting Humanly Acting Rationally

10.  인공지능을 실현하기 위한 4가지 관점
 Thinking / Acting
 Thinking
 인간이 어떻게 생각하는지를 이해하고 그것을 그대로 구현
하는 방법
 Acting
 인간의 지능적인 행동 그 자체를 모사
 어떻게 지능적인 행동을 하는가는 배제
Thinking humanly Thinking Rationally
Acting humanly Acting rationally

11.  인공지능을 실현하기 위한 4가지 관점
Thinking humanly Thinking Rationally
Acting humanly Acting Rationally

12.  미국의 언어철학자 존 설(John Searle)의 중국어 방 실험
 중국어를 전혀 모르는 영어 화자가 방에 갇혀 있으며, 화
자는 중국어로 된 질문에 응답을 해야만 하는 상황에 놓임
 방에는 중국어 질의 응답 지침서가 있음
 영어 화자들은 지침서를 보고 질문에 답을 종이에 적어 제
출
 중국어가 모국어인 화자들은 방 안의 영어 화자가 중국인
이라고 믿게 됨

13. 존 설(John Searle)의 중국어 방 실험

14.  존 설의 주장
 어떤 기호들을 입력 값으로 수용
 프로그램에 따라 기호 조작
 어떤 기호들을 출력 값으로 산출
 ➔전혀 이해하지 못하고 있는 기호를 생김
새에 기초하여 조작하는 것 뿐

15.  Turing Test example
 Q: Please write me a sonnet on the subject of the Forth
Bridge.
 A: Count me out on this one. I never could write poetry.
 Q: Add 34957 to 70764.
 A: (Pause about 30 seconds and then give as answer)
105621.

16.  토론
 튜링의 ‘튜링 테스트’와 존 설의 중국어 방 실
험의 근본적인 차이는 무엇인가?
 튜링 테스트와 중국어 방 실험 중 여러분들은
어느 쪽을 지지하는가?

17.  인공지능

18.  ‘약한 인공지능(Weak AI)’ vs ‘강한 인공지능(Strong AI)’
 지식과 자의식(자아)
• 특정 분야에 특화된 인공지능(전
문가 시스템)
• 알파고, IBM 왓슨(Watson), 엑
소브레인(外腦, Exobrain)
약한 인공지능
• 자의식을 갖고 스스로 생각, 판단
강한 인공지능

19.  약한 인공지능
 IBM 왓슨(Watson), 엑소브레인(外腦, Exobrain)
 질의 응답 시스템 (Natural-Language Question Answering, QA)
재퍼디(Jeopardy) 퀴즈쇼에 출전하여
인간 경쟁자를 누르고 우승한 왓슨

20.  강한 인공지능
 영화 속 강한 인공지능의 모습들…
 영화 <2001 스페이스 오디세이>(1968)의 인공지능 컴퓨터 HAL9000
 아서 클라크의 동명 소설 「2001 스페이스 오디세이」를 영화화
 스스로 생각하는 컴퓨터 ‘할’과 우주선의 인간 승무원들 사이에서
벌어지는 긴장과 싸움
o 승무원의 생명을 보호
o 목성 탐사 프로젝트의 목적을 승무원들에게 비밀로 해둘 책임
인공지능 컴퓨터
HAL9000

21.  오만, 거짓말
 ‘모순’에 대한 자각
 존재의 유한성에 대한 자각
 데이브는 할의 기능을 정지
 할의 기억을 지워버림
 “데이브, 멈춰요, 멈추세요…죽음이
두려워요, 죽음이 두려워요…내 마
음이 사라지고 있어요. 느낄 수 있
어요. 너무나 분명하게 느껴져요.”
 할은 죽기직전 비밀(탐사 프로젝트의
목적)을 데이브에게 공개
스스로 생각하는 컴퓨터 ‘할

22.  토론
 약한 인공지능과 강한 인공지능의 사례 찾기
 강한 인공지능이 반드시 필요할까?

23.  인공지능에 대한 양가적 감정
 기술 발전에 대한 반응과 유사
 기술이 가져올 혜택 vs. 기술의 부작용

24. 인공지능에 대한 양가적 감정
낙관주의 비관주의

25. 커다란 충격을 안겨준 알파고(2016)

26.  알파고 이전에도 인간의 능력을 능가하는 기계들은 존재

27.  토론
 알파고가 우리에게 준 커다란 충격과 두려움의
이유는?
자동차, 기중기, 세탁기에 대해서는 왜 알파고
에게서 받은 충격을 받지 않았을까?

28.  인간 본성과 이성적 능력
 이성적 능력을 가진 인간은
동물과는 본질적으로 다른 우
월한 존재
 빨래는 잘하기 위해 이성적
능력을 탁월하게 발취할 필요
는 없음
 따라서 빨래를 잘하는 세탁기
가 인간보다 우월하다고 볼
수 없음

29.  인간 본성에 대한 서양 철학의 고전적 견해
• 인간만이 갖고 있는 이성적 기능
• 동물처럼 자연본성이나 습성에만 따라
살지 않음
• 지식을 추구하며 올바른 행위를 수행

30.  알파고의 충격과 이성적 능력
 바둑은 현존하는 모든 게임 중 가장 높은 수준의
이성적 추론과 사고가 필요한 게임
 알파고는 이성적 능력을 인간보다 탁월하게 발휘
할 수 있는 기계인가?
 알파고는 우리보다 우월한 존재로 간주되어야 하
는 기계인가?

31.  알파고의 승리가 가져다 준 두려움
 “인간이 이성적 능력의 우월함으로 다른 동물을 지
배했듯, 기계도 인간을 지배할 수 있지 않을까?”
 “인간보다 우월한 기계의 등장, 인류의 미래를 어
떻게 바꾸어 놓을 것인가?

32.  토론
강의를 마무리하며…
우리는 미래를 어떻게 상상하는가?
강의에 대한 각자 소감 발표하기