Recommended
Recommended
More Related Content
Featured
Featured (20)
A Question of Trust: An Ethnographic Study of Automated Cars on Real Roads
- 1. A Question of Trust: An Ethnographic Study of Automated Cars on Real Roads + Proceedings of the 8th International Conference on Automotive User Interfaces and Interactive Vehicular Applications - Jiin Lee, Naeun Kim, Chaerin Imm, Beomjun Kim, Kyongsu Yi, Jinwoo Kim /김준한 x 2017 Fall
- 2. Table of Contents 01 Why This Paper 02 Background 03 Methodology 04 Results 05 Discussion 06 논의점 혹은 질문
- 3. Why This Paper ‣ 자율주행자동차의 신뢰도 문제로 회귀 ‣ 하지만, 다른 측면에서 신뢰도 문제를 바라보고 싶음 ‣ 이 논문에서는 여러 연구 주제가 될 법한 이슈를 던져줌 ‣ 방법론적인 측면 ‣ 기존에 생각한 것과 유사한 방법론으로 연구 실시 ‣ 실제 도로 위에서 달리는 자율주행자동차 안에서 사람의 반응을 알아봄 3 다시 돌아온 자율주행자동차
- 5. 5 Background 자율주행차의 탄생 • 도로 위 안전을 위해 개발되어 현재 도로 주행 테스팅 단계까지 와 있다 • Human error를 줄여 사고율을 낮출 수 있고, 운전자는 다른 일을 할 수 있는 자율성이 주어진다 • 운전자의 경험에 대한 연구들이 많아지고 있다 여태까지의 연구 흐름 • 자율주행자동차에 대해 긍정적인 태도를 나타내는 연구가 다수 • 자율주행자동차에 대한 기대감 및 사용의도가 60~70% (Schoettle & Sivak, Payre et al.) • 하지만 기존 연구들은 세가지 문제점이 있음 1. Hypothetical scenarios or situations 2. Fail to include factors that influence driving behavior (e.g. weather condition) 3. Lack of various scenarios (e.g. secondary tasks)
- 6. 6 Background 부정적 경험 연구의 필요성 • 운전자의 pain point를 알아내고 솔루션을 생각해 낼 수 있다 • 신기술을 도입하는 과정에서 사람들은 실망, 불신, 좌절 등을 느낄 수 있다 • 우리의 실험 방법은 실제 도로 위에서 실제 사람들의 반응을 알아볼 수 있다! RQ 1. 자율주행자동차를 반복적으로 경험하며 불신은 어떻게 발생하는가? 어떤 criteria가 있는가? RQ 2. 자율주행자동차를 불신하는 요소들은 무엇인가?
- 7. 7 Literature Review Trust Model • 여러 논문을 통해 불신에 대한 조작적 정의들 을 언급 • 이 논문에서는 불신을 신뢰의 정반대의 개념 으로 정의 • 예) Barber의 Competence, Persistence, Fiduciary Responsibility를 Incompetence, Lack of persistence, Fiduciary Irresponsibility로 치환 • Lee와 Moray의 모델을 conceptual framework로서 차용 : Performance, Process, Purpose • 다른 논문에서 사용된 신뢰를 이 모델의 관점 에서 재정의 (Table 1) Lee and See (2004)
- 8. 8 Methodology 참가자 모집 및 실험 도구 • 총 6명의 참가자 (남자 3, 여자 3) • 스크리닝 기준 자율주행자동차를 타본 경험이 많은 사람 제외 운전면허 보유자 • 최대한 다양한 연령대와 특성을 가진 참가자 모집 (Table 2 참조) • ADAS 2단계의 K7 차량 Lane-keeping 기능 및 앞 차량 따라가는 기능 • Human-Machine 인터페이스 디자인 목적 : 운전자에게 현재 위치 및 주변 사물(보 행자, 차량 등)의 상태 알림
- 9. 9 Methodology 연구방법 • 6일동안 차량 탑승하며 코스를 돔 운전자 보조석에 탑승 (안전상 문제) • 코스 완주 후 Contextual inquiry 및 in-depth interview 실시 • 일주일 전 사전 설문 자율주행자동차에 대한 기존의 기대감 운전경력 기술에 대한 수용도(Acceptance level) • 코스까지는 technician이 수동으로 운전해줌 • 참가자는 보조석에 탑승 운전석에 있다고 “상상”하도록 지시 • 연구자는 뒤에 탑승하며 참가자 관찰 • 코스 완주 도중 참가자는 secondary task를 실시함 루틴하며 운전 도중 다양한 경험을 주기 위해 실제 운전 상황과 비슷하게? 어떤 task?
- 10. 10 Methodology 수집된 데이터 및 분석 방법 다양한 상황에서의 데이터와 신뢰도를 증진시키기 위해 최대한 여러 종류의 데이터 수집 1. In-depth interview Semi-structured interview 자율주행자동차에 대한 태도, 수용도, 기대감 등을 질문 “How was today’s driving in the automated car compared to yesterday’s driving experience” - 6일 간의 운전이라는 실험의 특성/장점을 살림 2. Observation 참가자가 차 내에서 보인 얼굴 표정을 녹화하여 기록 “감정”을 기반으로 참가자의 표정을 코딩 타 연구자와 비교하여 신뢰도 확보 3. Survey, journaling, drawing 활용 (하지만 결과에는 나타나있지 않음..) 4. Content Analysis를 통해 distrust와 관련된 theme들을 카테고라이징
- 11. 11 Results Performance 사용자의 목적을 달성할 수 있는가 시스템의 능력과 전문성에 대한 문제 사용자가 달성하고자 하는 목표를 이루지 못할 때 불신이 상승 Lee and See’s Trust Dimension
- 12. 12 Results Performance Functional Incompetence - 자율주행차가 제 기능을 못했을 때 신뢰도가 하락 - 6명 중 6명 모두 해당 의견 표출 Lack of control - 통제권에 대한 인식이 신뢰도를 좌지우지 - 6명 중 3명이 해당 의견 표출 - 2단계가 4단계보다 통제권이 있기 때문에 더 신뢰한다 - 자주 거론되는 통제권에 대한 인식 문제 제가 생각했던 것만큼 Lane-keeping을 잘하진 못하더라구요. 제가 운전자 석에 앉았다면 핸들을 놓지 못했을 것 같아요. 만약 2단계나 4단계 중 골라야 한다면 2단계는 적어도 제가 통제할 수 있으니까 더 나을 것 같 아요. 제가 통제를 못하면 더 긴장될 것 같아요. P02 - Day2 P05 - Day4
- 13. 13 Results Process 자동화 시스템의 “알고리즘” 작동과 관련됨 현재 상황에서 알고리즘의 적합성에 대해 의심이 들 때 불신이 상승 Lee and See’s Trust Dimension
- 14. Lack of information - 충분한 정보를 제공받지 못했을 때 긴장 -> 계속 자동차의 행동을 예측하려고 함 - 6명 중 6명 모두 해당 의견 표출 - 참가자들은 계속 운전자에게 “지금 무슨 일이 일어나고 있는건지” 물어보고, 차의 움직임을 주시하 고, 스마트폰으로 검색을 시도 -> 정보활동 시도 Machine-like - 자동차의 “기계스러운” 움직임에 대해 언급함 (핸들이 돌아가는 것이 사람이 하는 것과 다름) - 6명 중 3명이 해당 의견 표출 - 어떤 참가자들은 멀미가 난다고도 얘기함 -> 멘탈 모델이 다르기 때문? P02 - Day2 14 Results Process 네비게이션처럼 차가 밖에서 무슨 일이 일어나고 있는지 지각하고 있는 과정을 보여주면 믿을 것 같아요. 계속 상황을 말해줄 필요도 없고 그냥 잘 하고 있다고 말해주면 좋을 것 같아요. 핸들의 움직임을 볼 수 있어서 더 긴장돼요. 핸들이 있다는 건 제가 개입할 수 있다는 거니까요. P02 - Day3
- 15. 15 Results Purpose 왜 이 시스템이 만들어졌는지 의문이 든다면 불신이 상승 시스템의 제작 의도와 실제 기능이 합치되어야 한다 Lee and See’s Trust Dimension
- 16. 16 Results Purpose Value incongruence - 자동차의 행동이 운전자의 기대 혹은 사회적 규범과 일치하지 않을 때 - 6명 중 4명이 해당 의견 표출 - 도로 상황 때문에 중앙선을 침범 했을 때 참가자들이 높은 긴장을 보임 - 재밌는 것은, 본인들도 같은 상황에서 같은 행동을 보였을 거라는 점 - 운전면허증 보유, 인간들이 직업을 잃는 것에 대한 언급도 여기에 해당 Disloyalty - 대체적으로 사람의 결정이 자율주행자동차의 결정보다 “월등하다”고 믿고 있음 - 6명 중 3명이 해당 의견 표출 - 자율주행차와 친밀한 관계를 유지하고 싶다는 참가자 또한 있었음 - “내 사람 친구들한테 말할 수 없는 것들을 공유할 수 있을 것 같아요. 친구는 다른 네트워크가 있지만 차는 아니잖아요, 저랑만 교류하고. 그런 면에서 전 제 차를 더 믿을 수 있어요.” (P05, Day 6) P02 - Day5 자동차가 저 대신 운전해준다는 건 좋지만, 너무 많은 권한이 부여되면 거만해질 것 같아요. 그래도 전 사람이고 얘는 기계잖아요. “내가 어떻게 너랑 같을 수 있니?” 라는 생각이 들어요. 기계는 사람에 의해 만들어졌고 이건 사람이 기계보다 우월하다는 걸 의미하죠.
- 17. Discussion - Design Principles 17 Performance Process Purpose • 발견 됐던 불신의 요소들을 해결할 수 있는 솔루션 제안
- 18. 논의점 혹은 질문.. 18
- 19. 논의점 혹은 질문.. 19 ‣ 자율주행모드 운전자들은 우회전략을 통해 자신의 운전을 더욱 편하게 만들고자 함 ‣ 이 상황에서 운전자들은 위험 요소 파악을 어떻게 하고 (힐끗 전방을 보면서?) 얼마나 빠르 게 대응하는가? ‣ 자율성이 높아진 차 내에서 어떤 활동을 하는가? (정보 활동, 취미 활동) 이러한 활동이 안 전성에 어떤 영향을 미치는가? ‣ 다른 활동을 하다가도 위험 상황을 미리 예측하고 알람을 주는 ambient한 방식이 있지 않 을까? ‣ 자율주행차 초창기에 갖는 불신이 언제, 어떻게 과신으로 넘어가는가? ‣ (사람들이 신기술에 대해 갖는 rigid standard와 무의식 속의 우월감) 자율주행차 운전자의 in-car behavior에 대한 궁금증