사회적 공간인 도로 위에서 자율주행자동차의 Autopilot 행태 및 운전자 그리고 타 운전자의 인식에 대한 논문입니다.

1. The trouble with autopilots:
Assisted and autonomous
driving on the social road
+CHI. 2017
- Barry Brown, Eric Laurier
/김준한
x 2017 Spring

2. Table
of
Contents
01 Why This Paper
02 About the author
03 Background
04 Methodology
05 Findings
06 Discussion
07 Conclusion

3. Why This Paper
3
‣ 방법론적
‣ 실험 이외의 방법론을 사용한 논문에 대한 궁금증
‣ 실험적으로 구현하기 어려운 부분을 third party video를 통해 해결
‣ In-situ
‣ Social road의 개념
‣ third party video로 인사이트를 잘 뽑아냈다고 여겨짐
‣ 융개론 프로젝트에서의 인터뷰 결과와 연관
‣ 신뢰도에서 가장 많이 언급되는 타 운전자와의 관계에 대해 알 수 있는 단서가 되지 않을까?

4. About the author
Barry Brown
‣ Stockholm University의 HCI 교수
‣ Sociology background를 갖고 있음
•기술과 사회의 인터랙션에 대한 관심
•이 논문 또한 도로 상황에서 자율주행자동차와 타 자동차 간의 social factor을 확인한 것
4

5. 5
Background
관련 개념과 연구 방향
• Autonomous & Assisted Driving : NHTSA 단계 기반 현재 자율주행자동차의 위치
• Human Robot Interaction
• Children’s perception of robots : static object -> agent -> social being
• Transport Safety
• 비행기 autopilot을 중심으로 가장 많은 연구가 이루어진 분야
• 제어권 전환
• 자율주행장치는 지나치게 늦게 반응한다는 문제점
• Mobility
• 현재 mobility에 관한 사회과학적 연구가 이루어지고 있음
• 도로를 socially organized / sociable / anti-social한 공간으로서 상정
• 내재된 규율을 따르지 않는 주체에 대해서 민감한 공간
자율주행 시스템과 운전자는 어떻게 상호작용할까?
그리고 다른 운전자와는 어떤 상호작용을 하는가?
“The road is a social space.”
운전자의 사소한 행동이 다른 운전자에겐 그 사람의 의도, 성격, 기분을 예측하는 수단이 된다.

6. 6
Methodology
Data collection
• Youtube에서 10.5시간 분량의 동영상 선택 (63명이 촬영한 69개의 동영상)
• Assisted or autonomous driving 상태에서 전방 혹은 사방을 촬영한 영상들 위주
• Tesla autopilot 관련 영상이 다수, Google Car 등도 포함됨
• 자연스러운 모습의 상황들이 여럿 포함됨
- commentary
- comic moments
- review
- travelogue
• 많은 HCI 연구자들이 실행하는 “think-aloud” 기법이나 인터뷰 내용과 비슷하다

7. 7
Methodology
Video analysis
• 영상을 잘게 쪼개고 하나하나 태깅 및 transcribing
• 자율주행 모드에 대한 운전자들의 반응, 도로 위에서의 문제 상황, 타 운전자와의 인터랙션을 위주로 분석
• 영상 갯수를 점점 좁혀나가는 형태로 자세하게 분석 (1분짜리 93개 중 34개에 대해 detailed analysis)
• 영상을 찍는 행위는 그 자체로 위험한 행동
• 하지만 자연스러운 운전 상황을 포착하기 위해 “안전한 상황” 이외의 모습을 분석하는 것이 중요했다.

8. 8
Findings
두 가지에 초점을 맞춘 결과들
Reshaping driver
practice
Co-driving
운전자의 적응
Feature / Limitation
learning curve
Autopilot과
타 운전자와의 관계
Lack of
communication
method
에서 나타나는 문제점

9. 9
Findings
Co-driving
- Autopilot이 어떻게 “생각”하는가를 인지하고 에러를 발생시키려고 하는 순간에 개입
- 자동차가 어떻게 스스로 학습하고, 결정을 내리는지에 대해 운전자가 학습
- Co-driving은 지속적으로 전방과 디스플레이를 확인하는 과정이 포함

10. 10
Findings
Co-driving
- 문제가 될 만한 상황을 예측하고 선제적으로 대응하는 것은 아직 운전자의 몫 : co-driving의 조건
- 필요한 조작을 미리 해주어야 한다.

11. 11
Findings
The autopilot and other drivers on the road
- 차의 행동 자체가 다른 운전자에게 전달하는 커뮤니케이션 방법
- Autopilot의 행동과 운전자들이 받아들이는 의도와 괴리가 발생
- 운전자들의 의도는 autopilot이 이해하지 못함 -> 문제 발생

12. 12
Findings
The autopilot and other drivers on the road
- Autopilot은 뒷차의 행위가 자신을 배려하는 행위라는
것을 인지하지 못함
- 오히려 마지막 순간에 들어감으로서 뒷차의 기분을 나
쁘게 하는 결과
- 여기서 중요한 점은, 도로 위에는 특정한 social norm
이 작용한다는 것
- 여태껏 사람들은 단순히 목표지향적이 아닌 주변 차들
의 움직임을 운전자의 의도로서 이해해왔다는 것
- 무엇이 “개념없는지” “예의바른지” “안전한지”에 대
한 인식

13. 13
Findings
The autopilot and other drivers on the road
- 도로 위 행동에 대해 이해하기 위한 중요한 개념은
“accountability”
- 내 행동을 다른 운전자들이 지켜보고 있다는 인식
- 그리고 이에 맞춰 행동하는 것
- 도로가 합쳐지기 전에 뒷차가 빠르게 오는 것을 테슬라
는 인지하지 못 함
- 여기서도 중요한 것은 운전자들이 상황에 따라 누구를
추월하고, 누구에게 양보해야 할지 순간순간 판단한다
는 점
- 운전자들은 자신의 행동이 다른 운전자에게도 영향을
미치고, 자신의 의도를 전달하는 매개채로서 사용된다

14. 14
Findings
The autopilot and other drivers on the road
- 외국의 독특한 운전 상황 : four-way junction
- Stop sign과 다른 운전자들의 움직임에 의존하는 구
간
- 슬금슬금 앞으로 나가다가 멈추는 Google Car의 행동은
뒷차가 예측하지 못한 것
- 보통 초보운전자들에게서 나타나는 행동
- 사고로 이어질 수 있음
- Google Car가 주어진 시간에 즉각적으로 행동하지 못함
- 다른 쪽에서 출발하는 운전자는 이를 자신이 지나가도록
기회를 주는 것이라고 생각
- 안전하게 운전하게 설계된 Google Car이 오히려 특정
구간 내에선 문제 상황을 발생시킴
- 여기서도 특정 구간에는 운전자들 간 hesitation과
creeping이 communication method로 작동한다는 것

15. Discussion
15
‣ 인공지능이 복잡하고, 사회적인 도로 환경을 마주하였을 때 어떻게 반응하는가?
‣ 자율주행 시스템을 디자인할 때 어떠한 요소가 고려되어야 하는가?
Assistance와의 인터랙션
‣ 네비게이션을 통한 길찾기에서도 “Active driving”이 필요함 (네비의 지시를 듣고, 판단하고, 행동)
‣ Co-driving에서도 비슷한 행태를 보인다
‣ 더 나은 performance를 위해선 상황을 계속 인지하고, 개입할지의 여부를 지속적으로 판단해
야 함
‣ 비상 사태에서 제어권 전환 시 ‘startle time’을 줄이기 위해 운전자를 주의 집중시켜야 한다.
‣ 상황에 알맞게 운전을 보조하는 것이 완전 자율주행보다 안전하다
‣ 다른 운전자가 기대하는 바와 다른 행태를 보이는 것은 위험할 뿐더러 도로에서 disruption을 발
생시킴
‣ 차라리 Google Car처럼 “난 자율주행입니다”를 겉으로 드러내는 것이 기대 수준을 낮추는 방법

16. Discussion
16
‣ 인공지능이 복잡하고, 사회적인 도로 환경을 마주하였을 때 어떻게 반응하는가?
‣ 자율주행 시스템을 디자인할 때 어떠한 요소가 고려되어야 하는가?
시스템 transparency와 accountability
‣ 시스템과 알고리즘의 작동 방식을 운전자에게 알려주는 것이 과연 가능한지, 나은 결과를 가져오
는지에 대한 의문
‣ Nissan이 제안한 시그널 시스템을 참고해볼만 하다 (https://youtu.be/9zZ2h2MRCe0)
‣ Autopilot은 다른 운전자가 그 움직임을 봤을 때 어떻게 인지할지에 대해 고려된 채 디자인되어야
한다
‣ 예를 들어, 겹치는 구간에서 살짝 방향을 틀어 내 의도를 전달하고 뒤따라오는 차의 움직임에 따
라 들어갈지 말지를 결정
‣ 이를 위해서 현 도로 상황에서 어떻게 커뮤니케이션이 이루어지는지에 대한 논의가 필요

17. Discussion
17
‣ 인공지능이 복잡하고, 사회적인 도로 환경을 마주하였을 때 어떻게 반응하는가?
‣ 자율주행 시스템을 디자인할 때 어떠한 요소가 고려되어야 하는가?
The social road
‣ “other drivers do not operate in isolation: an autonomous car’s actions will actually have
effects on what other drivers will do” (Sadigh et al, 2016)
‣ 인터랙션과 관련된 기존 연구를 참조하여 도로를 사회적으로 보는 것이 필요할 것
‣ “Pre-action”과 관련된 상황을 해석할 수 있는 프레임을 제공
‣ 도로 위 상황은 협력적이며 동시에 경쟁적
‣ 오히려 너무 많은 정보를 제공하는 것이 자율주행차 운전자에게 부정적으로 작용할 가능성이 있다

18. 논의점 혹은 질문..
18
‣ 인공지능의 작동과정을 알려주는 것(transparency를 높이는 것)이 어떤 결과를 낳을 것인가