Why did my car just do that? Explaining semi-autonomous driving actions to improve driver understanding, trust and performance

1. autonomous driving actions
to improve driver
understanding, trust, and
performance
+ IJIDeM. 2015
- Jeamin Koo,
Jungsuk Kwac, Wendy Ju,
Martin Steinert, Larry Leifer,
Clifford Nass
/김준한
x 2017 Spring

2. Table
of
Contents
01 Why This Paper
02 Background
03 Methodology
04 Findings
05 Discussion
06 Conclusion

3. Why This Paper
자율주행자동차와 신뢰도에 대한 관심
‣ 자율주행자동차를 사람들이 얼마나 신뢰하고 있고 이 신뢰도를 어떻게 향상시킬 수 있을지
의문
‣ 현재 단계에선, full autonomy 이전 단계인 semi-autonomy 단계에서부터 보아야 함
‣ 중요한 정보의 전달 방식을 두 가지로 나누고 이에 대한 사람들의 반응을 확인한 것이 흥미로
움
‣ 현재 융개론 프로젝트로도 진행 예정
3

4. 5
기술의 발전으로 인한 자동차 운전 경험의 변화
Background
자동차 내적, 외적 상황 모두를 운전자에게 전달할 수 있게 되었다1
2
‣ 어떤 정보를 / 어떤 방식으로 전달해야 할까?
‣ 자동차의 “warning system”은 어떻게 변화해야 하는가?
운전자는 핸들과 페달에서 손과 발을 대고 있을 필요가 없어졌다
“Feedforward” information User Scenario
• 운전 패러다임의 지각 변동 —> 운전을 운전자의 관점에서 재해석할 필요
• “We must design our technologies for the way people actually behave, not the way we would like
them to behave.” - Norman

5. 6
“Feedforward” information을 통해 inadequate feedback으로 인한 문제를 예방할 수 있
다
Background
‣ 피드백은 semi-autonomous system 디자인에 있어서 필수적
‣ Stanton and Young, 2006
‣ 운전자가 충분한 정보를 갖도록 하는 방법이기 때문
‣ 하지만 피드백만으로는 부족하다! Feed“forward”가 필요하다
‣ 사건이 일어나기 전에 정보를 전달함으로써 불충분한 피드백이 야기할 수 있는 문제를 사전
에 예방
‣ Why information
‣ “Obstacles ahead”
‣ Driving context(environment) that the car might encounter
‣ How information
‣ “Car is braking”
‣ Operational behavior of the car
‣ 그렇다면 자동차가 “알고 있는” 정보를 운전자에게 어떻게 메세지화하여 전달해야 할까?
User scenario : 자동차가 운전자에게 정보를 전달하는 방식에는 두 가지가 있다

6. 구분 Why message
Without why
message
How message
Both internal and external
information
Internal information (car
activity)
Without how
message
External information
(situation)
No information
7
Methodology
설정한 조건 및 참감자
“Car is slowing down
because of obstacles ahead!”
“Car is braking”
“Obstacles ahead!” 통제 조건
• Two by Two / Between subject design
• 실험 참가자 : 대학생 남 32명, 여 32명 (운전면허증 보유자)

7. 8
Methodology
종속 변인
• 종속 변인
1. Driver attitude
- 설문을 통한 자가 보고 (리커트 10점 척도를 통한 점수화)
- Emotional Valence
Q. “운전하는 동안 어떠한 감정이 들었습니까?”
A. “불안” “걱정” “당황”
- Machine Acceptance
Q. “자동차를 묘사하기 위해 어떠한 단어를 사용하시겠나요?”
A. “똑똑하다” “믿을 만하다” “도움된다
”
2. Safety performance
- 시뮬레이터에서 나타난 6가지의 객관적인 데이터를 토대로 판단
Collision, Speeding incidents, Traffic light violations
Stop signs missed, Road edge excursions, Driving time

8. 9
Methodology
실험 과정
1
2
3
실험 동의 후 5분간 테스트 드라이빙
STISIM driving simulation system
본 실험에서 12km의 거리를 30분 동안 드라이빙
실험 도중 충돌이 발생할 경우 그 직전에 자동주행 모드로
전환
4 차가 자동으로 브레이크를 밟으며 브레이크 소리도 함께 전
달
“끼이익-”
5 조건에 따라 각기 다른 warning signal을 청각적으로 제공
(warning signal이 있을 것이라고 사전에 경고 받음)

9. 10
Results - 1
Driver attitude 중 Emotional Valence에 관한 결과
• 높은 상호작용 효과가 나타남
• “How” message가 없고 “Why” message만 있을 경우가
가장 긍정적
• “How” message가 “Why” message와 동반될 경우 긍정적
인 감정이 가작 적게 든다 —>기존 가설과 반대되는 현상

10. 11
Results - 2
Driver attitude 중 Machine Acceptance에 관한 결과
• “Why” message에 대한 주효과가 나타남
• “How” message의 여부는 큰 영향을 미치지 않음
• 즉, 운전 환경에 대해 정보가 제공될수록 시스템 수용도가
높아짐을 의미함 —> 신뢰도와 관련성이 높음

11. 12
Results - 3
Driving behavior에 관한 결과
• Road edge excursion(도로 경계를 밟는 현상)에 대해서만
유의미한 효과가 나타남
• 여기서도 높은 상호작용 효과가 나타났다
• “How” message를 전달하지 않으면 “Why” message의 여
부는 큰 차이를 나타내지 않음
• 하지만 “How” message가 제공될 때 “Why” message가
동반된다면 에러율이 확 올라감 (반대로 두 개가 동시에
제공된다면 굉장히 safe-driving)

12. “Car is slowing down because of obstacles ahead!”
Discussion
‣ 연구자들의 기존 가설 : 사람들은 how+why message를 더 선호할 것이다!
‣ But, 두 메세지가 동반되자 오히려 사람들의 anxiety가 증가함. Why?
‣ Scenario-based prediction : 어떤 메세지에 먼저 반응해야 하는가?
‣ Cognitive load가 증가 —> misunderstand the signal —> user frustration
‣ Signal detection theory
‣ Mis-alarm과 false alarm이 발생할 확률의 증가
‣ 운전자들이 알맞은 시간에 정보에 반응하는 것이 불가능해짐 —> increased anxiety
‣ 하지만 그런만큼 운전자들은 조심하며 운전하게 된다
‣ Probing을 하지 않은 것은 아쉬움
13
1. How + Why message : 기계의 행동과 상황적 이유에 대한 정보를 제공

13. Discussion
14
2. How message : 기계의 행동에 대한 정보를 제공 (automation-centered)
‣ How message만 전달될 경우 사람들의 performance가 가장 낮아진다. Why?
‣ 세 가지 방식으로 설명 가능
‣ 첫번째, Locus of control (통제 위치)
‣ How message로 인해 internal locus of control —> external locus of control
‣ 운전의 책임이 자동차로 넘어가며 운전자는 운전 전반에 있어 수동적인 태도를 보이게
됨
‣ 두번째, Situational awareness(상황 인식)
‣ 주변 상황에 대한 정보를 알려주지 않는 방식이 “배려가 없다(inconsiderate)”고 느꼈을
것
‣ 정보가 도움이 안 되기 때문에 긴장도가 증가
‣ 세번째, Redundancy(중복성)
‣ How message는 단순히 자동차가 앞으로 할 일을 언어적으로 표현할 뿐 (정보의 추가가
아님)
‣ 마찬가지로 probing session이 없었던 것이 아쉬움
“Car is braking”

14. Discussion
15
3. Why message : 상황적 이유에 대한 정보를 제공 (context-centered)
“Obstacles ahead!”
‣ Why message만 받는 것이 anxiety를 최소화하고 가장 높은 신뢰도를 보임
‣ Why message는 How message와 processing time은 동일(근거 자료는 없음)
‣ But, why message의 performance가 더 좋음
‣ Why message가 더 salient하고 processing time이 더 짧음을 나타냄
‣ 운전 중 효과적인 정보 전달을 위해 information load와 processing time의 밸런스가 필요하다

15. Conclusion
16
‣ Why message와 How message를 동시에 주면 안전한 운전이 가능하다! 하지만 불안감은 증
가함
‣ Why message만 주는 것도 어느 정도 충분한 정보를 운전자에게 제공할 수 있다 (감정적 변
화 없이)
‣ 위험하지 않고 critical한 상황에서는 why message만 주는 것이 좋을 것이다!

16. 논의점 혹은 질문..
‣ 자연스러운 행동 양식 vs in-situation 답변 추출
‣ Why message와 How message를 둘다 제공하는 상황에서 cognitive load를 줄일 수 있는 방법
(multimodal)
‣ 추천 시스템의 why information 제공과 어떠한 차이가 있는가
17