What do you think about machines that think

1. WHAT DO YOU THINK ABOUT MACHINES
THAT THINK
2015.02.06 발제 이현정
인공지능은 인간의 마지막 발명품인가

2. edge.org.는 예술, 철학, 과학, 인문, 경영 등 다양한 분야의 세계 최고의 석학들이 모여 토론과 견해를
나누는 웹 포럼이다. 1981년 존브록만(John Brockman)이 설립한 reality club에서 출발하는데,
reality club은 산업시대 이후 새로운 지식을 탐구하는 지식인들의 비공식적 모임으로 1997년 edge
로 이름을 변경
edge는 매년 한가지 질문을 통해 석학들이 자신의 견해를 담은 대답을 담아 책을 출간하고 있다. 2015
년도 질문은 인공지능(AI)을 주제로
가 주제였으며 191개의 독립 기고와 186개의 답변이 달렸습니다.
http://edge.org/contributors/q2015
Annual Question

3. AI란 무엇인가
인공지능은 어떻게 정의되는가
어디까지가 AI인가
AI는 기술인가, 경험인가
AI는 최종 목표인가, 한계인가
AI와 UX의 관계는 무엇인가
UX의 최종 목표가 AI인가
UX의 한계가 AI인가
• 철학적인 질문들에서부터 구체적인 프로그
래밍 기술까지 다양한 관점에서 바라볼 수 있
다고 생각함
• AI의 정의 및 연관된 개념을 살펴보고, 그것
을 토대로 현재 발전된 AI의 모습과 미래의 AI
그리고 UX의 방향에 대해 생각해보고자 함
1. 발단: 생각보다 모호한 AI의 개념

4. 참고: "Artificial Intelligence
a Modern Approach Third
Edition" UC 버클리 교수와
연구원 Stuart Russel &
Peter Norvig
지능에 관한 개론서
사람처럼 생각하는가
"생각할 수 있는 컴퓨터를 만드는 노력에 기울이는 ... 마
음을 가진 기계, 전체적이고 의미" (Haugeland, 1985)
"인간의 사고와 연관된 활동들의 자동화. 예를들어 의사
결정, 문제해결, 혹은 배우는것..."(Hellman, 1978)
이성적으로 생각하는가
"컴퓨터 모델을 통한 mental faculties를 연구하는 분
야" (Charniak and McDemott, 1985)
"인지하고, reason, 하고 행동하는 것이 가능한
computation을 만드는 것"(Winstion, 1992)
사람처럼 행동하는가
"사람들이 수행할때 지성을 요구하는 기능들을 수행할
수 있는 기계를 만들어내는 분야" (Kurzweil,1990)
"현시점에는 사람들이 더 잘 수행하는 것들을 어떻게 하
면 컴퓨터가 할 수 있을지 연구하는 분야" (Rich and
Knight, 1991)
이성적으로 행동하는가
"똑똑한 agent들을 디자인하는 분야가 Computational
Intelligence이다." (Poole et at, 1998)
"AI...은 인공물의 intelligent 행동과 연간된다" (Nilsson,
1998)
사고의 과정
thought
process/
reasoning
행동
behavior
사람과 같이 행동하는 정도의 충만함
human performance
ideal 한 행동의 척도 : 합리성의 정도
idea human performance: rationality
2. 인공지능이란 무엇인가

5. 2.1 사람처럼 생각하는가 : 인지 모델 접근
• 프로그램이 사람과 같이 생각한다고 말하기 위해서는 사람들의 사고 과정을 정의할 수 있어야 한다. 자기 성찰, 심리 실험, 혹은 뇌 실험 등의 방법을 거
쳐 충분히 타당한 이론이 도출되었을 때 그 이론을 컴퓨터 프로그램을 통해 표현할 수 있게 된다. 인지과학 분야와 연관이 깊은 접근 방식이다.
• 프로그램의 input 과 output
• 1961년에 Allen Newel과 Herbert Simon은 GPS(General Problem Solver)
아니라 그 추론단계가 사람이 거치는 단게와 같은지 더 주목하였다.
• AI 발전의 초기 단계에는, 알고리즘이 특정 task를 올바로 수행하기 때문에 좋은 모델이라고 주장하는 경우가 많았다. 그러나 현대에 와서는 이 두가지
를-특정 task를 잘 수행하는 것과, 사람의 능력과 흡사한 좋은 모델
Keyword: Cognitive Science

6. 2.2 사람처럼 행동하는가 : 튜링 테스트
• 1950년 Alan Turing이 제안한 튜링테스트는
컴퓨터인지 사람인지 구분하지 못하면 그 프로그램은 튜링테스를 통과한 것이다.
• 이 튜링테스트 의의나 타당성에 대한 논의는 잠시 제쳐두고, 튜링테스트를 통과하기 위해 프로그램이 필요로 하는 능력은 다음과 같다.
1) 자연 언어 처리 능력 : 소통하기 위해서
2) 지식의 표현 : 알거나 들은 것을 저장하기 위해서
3) 자동화된 추론: 저장된 정보를 사용하고 질문에 대답하고 결론에 도달하기 위해서
4) 기계 학습: 새로운 경우의 수에 적응하고 패턴을 추정하기 위해서
• 물리적인 인터액션 상황에서도 통과하기 위해서는
5) 컴퓨터 비전: 사물을 인식하기 위해서
6) 로보틱스: 사물을 조작하고 움직이기 위해서
• 이 여섯가지가 지금까지의 AI
Keyword: Natural Language Processing, Machine Learning, Automated Reasoning
http://www.youtube.com/watch?v=oHL1JpPTle0

7. 2.3 이성적으로 생각하는가: 사고의 법칙
• 그리스 철학자 아리스토텔레스는 "합리적 사고"의 코딩을 시도한 최초의 인물이라고 말할 수 있다.
• 그의 삼단논법은 논쟁에 있어서 정확한 사실들이 주어질때 정확한 결론에 도달하도록 하는 패턴을
제공한다.
• 논리학자들은 19세기에 세상의 온갖 사물들과 그것들의 관계에 대한 정확한 표기를 시도하였고 이미
1965년에 논리적으로 표기되어있는 모든 문제들에 대한 적정한 해결책을 제시할 수 있는 프로그램
이 존재하였다.
• 그러나 이러한 접근방식에는 두가지 맹점이 존재한다. 첫번째는 흩뿌려진 지식을 '논리적 표기'의 형
태로 나타낸다는 것이 쉽지 않다. 특히나 그 지식이 사실인지 아닌지 100% 확신할 수 없을때. 두번
째로는 원칙적으로 문제를 해결하는 것과 실질적으로 해결하는 것에는 큰 차이가 존재한다.
Keyword: Syllogism, Logic

8. 2.4 이성적으로 행동하는가: 합리적인 에이전트
Keyword: Agent, Rational Agent, Limited Rationality
• Agent
고 목표를 설정하고 달성한다.
• 사고의 법칙 접근에서의 AI
부분이다. 합리적으로 행동하는 한가지 방식이 이성적으로 사고하고 그에 따른 결과를 도출하는 것이기 때문이다.
• 또한 추론의 과정을 거치지 않고도 합리적으로 행동할 수 있다. 뜨거운 것을 만졌을 때 즉각적으로 손을 떼어내는 것은 추론을 통해 시간을 지체한 후
내린 결론 보다 더 합리적일고 말할 수 있다.
• 합리적 에이전트 접근 방식은 두 가지 측면에서 장점이 있다. 첫번째로는 '사고의 법칙' 보다는 일반적인 접근 방식이라는 것과, 인간의 행동이나 마음
에 근거한 접근 방식에 비해 과학의 발전에 있어서 더 순종적이라는 것이다. 합리성은 수학적으로 정의가 용이하며 미래의 프로그램 디자인을 위해서
쪼개질 수 있기 때문이다.

9. 3. AI의 현시점
• Robotic Vehicles
• Speech Recognition
• Autonomous Scheduling and
Planning
• Game Playing (IBM, Deep Blue)
• Spam Fighting
• Logistics Planning
• Robotics
• Machine Translation
• 현재 우리가 헤택을 보고 있는 서비스들은 대부분 weak AI 에 속하며, 학자들이 우려를 나타내고
있는 것은 strong AI
• John R. Searle 은 특히 심신문제 (Mind-Body Problem) 를 논하는 심리철학 (Philosophy of
Mind) 의 측면에서 AI 를 강한 것 (strong AI) 와 약한 것 (weak AI) 으로 구분하였다.
• "인간에게 도움을 준다" 라는 개념은 weak AI
• "인간과 똑같이 수행한다" 라는 것은 strong AI
• Strong AI 에서는 지능의 출현이라는 것이 기계 내부에 인간과 똑같은 인지능력 (cognitive
capabilities) 을 가지는 "실제 (real)" 마음/의지가
입장을 가지는 것이다.

10. 참고: AI를 둘러싼 최근의 이슈들
• 스티븐 호킹을 포함한 여러 과학자와 구글, 아마존, 테슬라 같은 회사의 최고 경영자들이 인공지능 연구
자들이 인류의 종말을 야기할 수 있는 위험성을 피해가야 한다는 의견을 표출했다.
• 인공 지능 연구가 현재 꾸준하게 성장하고 있고 인류에 미칠 영향도 계속 증가할 것이라는 의견은 거의
일치하고 있다. 인류에게 제공되는 모든 것이 인간 지능에서 초래되었다는 점을 고려할 때 인공지능을
통해 얻을 혜택이 대단할 수 있다는 것을 부인할 수는 없다.
• 자율 기기에 대한 법과 책임 - 무인차 사고가 생겼을 때 누구에게 책임이 있나?
• 기계 윤리: "거대한 손해와 대비해 인간이 입을 비교적 작은 손해를 무인차는 어떻게 결정할 것인가?" -
예를 들어 다른 차에 탄 두 사람의 목숨을 보호하기 위해 무인차가 당신을 희생한다면?
• 자율 무기: 살생 로봇도 제네바 협정에 귀속되어야 하나?
• 프라이버시(사생활 권리)
• 직업윤리
"UX를 공부하는 입장에서 현시점의 AI를 어떻게 이해해야 할 것이며,
미래의 AI와 연관해서는 어떠한 이슈를 생각해볼 수 있는지"

11. 4. AI와 UX

12. 4.1 Weak AI와 UX
Case 1. 아이폰의 Target Resizing Case 2. 페이스북 뉴스피드 알고리즘
"사용자가 맞닥뜨리는 문제를 해결하는데 부분적인 도움을 주는
Subtle Use of AI to partially help users solve their problems.
• 문제점이나 상황을 입력하면 해결방법에 도움을 주는 방식
• 사용자의 '선택'을 도와주거나 대신 '제시'해주기 위한 알고리즘의 사용
• 각종 추천, 제안, 서비스
Case 2. 아이폰의 Siri

13. 4.1 Weak AI와 UX
• 우리가 일상생활 속에서 사용하는 모든 제품들에 녹아들어가 있다고 볼 수 있다. 아이폰, 페이스북, 각종 검색 엔진이 어느 부분에 있어서는 모두 AI
개입이기 때문이다.
• 현 시점에 있어서는 그러나 "약한 인공지능"의 "부분적" 개입이 활발히 이루어지고 있는 상태이며
• 특정 Task (narrow task)에 있어서 AI
• 고로 전체의 경험(UX)에 있어서 AI '기능' 혹은 '요소'를 어떻게, 언제 활용할것이냐에 대한 고민이 두드러진다
(앞서 AI는 기술인가 경험인가에 대해, 아직까지는 기술에 속하는 것 같다)
• UXer는 사용자가 경험하는 문제 혹은 상황적 Task가 AI
• 이때 흔히 AI가 제품의 core이고 전적으로 사용되는 것들을 떠올리기 쉬운데 (ex. Siri), 미묘한(subtle use) AI
화시켜주는 사례들이 많다는 것을 기억해야한다.

14. 4.2 Strong AI와 UX
• 문제점이나 상황을 인지하는 방식
• 자연언어로 소통이 가능한 방식
• 부분적인 도움을 주는 것이 아니라, 전적으로 인격체와 같아질 때
• 스스로 학습할 수 있는 기계 (deeplearning:
"It might be to become fully autonomous driving vehicles instead of only partially autonomous, or it might be being able to fully
have a conversation as opposed to only having a useful part of a conversation to help you interface with the device.
구글의 deepmind 인수
http://www.technologyreview.com/news/524026/is-google-
cornering-the-market-on-deep-learning/
http://www.technologyreview.com/news/519411/facebook-
launches-advanced-ai-effort-to-find-meaning-in-your-posts/

15. Part1.
AI란 무엇인가
인공지능은 어떻게 정의되는가
어디까지가 AI인가
Part2.
AI는 기술인가, 경험인가
AI는 최종 목표인가, 한계인가
AI와 UX의 관계는 무엇인가
UX의 최종 목표가 AI인가
UX의 한계가 AI인가
• Part 1.
AI의 정의에 대해서는 다양한 관점이 존재하며, 때로는 인간의 사고와 의사결정에 대한 철학적인
논의들로 깊게 이어지는 경우가 많다
• Part2.
아직까지 약한 인공지능의 부분적 개입에 있어서 AI는 기술, 기능, 혹은 요소로 작용하고 있다.
• AI의 개념과 UX에 대한 혼동은 '강한 인공지능'만을 염두해두었기 때문인 부분이 많았다.
• 그러므로 UX에 있어서 AI의 사용이 (대부분 알고리즘) 언제 적절하며 어떻게 활용될 것인지에 대
한 고민이 필요하다.
• 그러나 강한 인공지능의 전적인 개입이 이루어지게 될때는 AI가 하나의 경험으로 확장되어 경계
가 모호해질 수 있다고 생각하며 이때 UX의 역할과 맹점에 대해서 고민해볼만하다고 생각한다.
5.결론
고민해볼거리
• Strong AI 가 나오기 까지 UX
• 인간과 똑같이 수행하는 Strong AI의 시대에 UX

16. 6. 참고문헌
• http://edge.org
• Stuart Russel & Peter Norvig , Artificial Intelligence a Modern Approach Third Edition
• http://futureoflife.org/misc/open_letter
• http://uxmag.com/articles/two-ways-artificial-intelligence-contributes-to-great-user-experience
• http://www.technologyreview.com/news/524026/is-google-cornering-the-market-on-deep-learning/
• http://www.technologyreview.com/news/519411/facebook-launches-advanced-ai-effort-to-find-meaning-in-your-posts/

17. THANK YOU!
2015.02.06 랩미팅 발제