CHI 2020 Paper by Michal Luria, Rebecca Zheng, Bennett Huffman, Shuangni Huang, John Zimmerman, Jodi Forlizzi

1. Social Boundaries
for Personal Agents in the
Interpersonal Space of the Home
+ CHI 2020
- Michal Luria et al.
/ 김소담
석사 과정 김소담
29/04/2021

2. Table of Contents
1 Why This Paper
2 Background
3 Method
4 Findings
5 Takeaway

3. 3
01 Why this paper
Socially Sophisticated Agent in interpersonal Space
•이전 논문발제 : agent-human”s” social dynamics & social role …
•구체적 상황과 연구 문제에 대한 고민
•“사회성이 좋은 에이전트”의 요건과 장면은?
•에이전트의 사회적 역할
: 어떻게 관계를 매개하고 조율할 수 있을까? + 그리고 그 사이에 낀 개인 데이터…

4. •VAPAs : Voice Activated Personal Agents 의 존재감 UP
•여러 써드파티 서비스 로그인 —> 더욱 개인적인 정보들을 취급/다루며 개인화되는 추세
•“집”과 같은 여러 사람이 얽힌 공간 (Interpersonal space)에서 개인 데이터의 이용 문제
는 복잡함.
•프라이버시와 feeling of control의 문제 : 같이 살고, 에이전트를 공유하고 있는 사람의
개인 정보, 어디까지 접근하며 에이전트는 상호작용에서 어떻게 대처해야 하는가?
4
02 Background
여러 사람이 얽힌 공간,
에이전트는 개인 데이터의 영역을 어떻게 manage하는가?
1. 시어머니가 집에 방문해 며느리의 위치 정보를 요청한다면?
VAPA : 얼버무리기 vs 딴소리하기 vs 말 돌리기 vs 단호히 거절하기
2. 청소년 사용자가 부모에게는 공부하고 있다고 전달을 요청한다면?
VAPA : 비밀로 하기 vs 부모 속이기 vs 고자질하기
Example

5. 5
02 Background
연구 질문
1. 여러 사람이 얽힌 환경에서 하나의 에이전트와 인간 그룹은 어떻게 상호작용하는가?
2. 상호작용에서 드러나는 에이전트에 대한 기대와 욕구는 무엇인가?
3. 가족 구성원 사이에서 에이전트는 개인 데이터의 영역 경계를 어떻게 조율/관리하는가?
4. 복잡한 다중 사용자 상호작용에서 VAPA의 행동을 어떻게 디자인하는가?

6. 6
03 Method : Speed Dating with Storyboards
스토리보드 위의 가능할법한 문제 상황 RP 후 가족 그룹 인터뷰 진행
Exploratory design research method : 통제된 실험/검증보다는 “Probe”
1) 스토리보드 형태에 미래에 가능한, 문제가 다분한 상황 제시
2) 가족끼리 묶인 참가자들은 스토리보드를 보고, 상황을 따라해본다 (롤플레잉)
3) 반구조화 그룹 인터뷰 : 각 미래 장면에 대한 의견, 결과/영향를 토의하도록 진행 (약 90분)
+ 마지막 최종 인터뷰
자매 중 Taylor가 에이전트에게 Ann이 내 방에서 옷 빌려입고 나가면 알려주라고 한 상황. Ann은 에이전트에
게 들키고 비밀로 해달라고 함. 그러나 테일러가 귀가하고, 에이전트는 Ann의 행동을 고자질함.
스토리보드 예시1

7. 7
03 Method : Speed Dating with Storyboards
•8명의 연구자, 집이라는 사회적 상황에서 에이전트 행동 브레인스토밍
•어피니티 다이어그램 —> social 활동과 관련이 깊은 에이전트의 8개 행동 분야 선정
•명백히 옳거나 그르다고 말할 수 없는 “중립적인 장면”이 나올 때까지 디자인 프로세스 반복
•집에서의 소셜 에이전트 행동에 대한 사람들의 기대와 가치가 드러나는 상황을 좁혀 최종 19
개의 스토리보드 도출 *최소 조건 : 최소 2명의 가족 구성원 포함 + 소셜 에이전트와 상호작용 포함
스토리보드 구상 & 선정
가족 구성원이 얽혔으나 중립적인 상황을 최종 스토리보드로 선정
저녁을 준비하려는 단테와 알렉스. 식료품 가게에서 픽업을 해오지 않은 것을 깨닫고,
이번에 누구 차례였는지 싸우기 시작. 에이전트에게 문자 내역에서 찾아달라고 요청하여 범인을 찾아냄.
스토리보드 예시2

8. 8
03 Method : Family Group Interview
복잡한, 사회적 상호작용에서 논의가 필요한 행동 카테고리 선정
•54명의 참가자 - 18 가구
•각 가족은 2~4명으로 구성되며 적어도 한 명의 부모와 한 명의 자식(12살 이상) 포함
•참가자 대부분이 VAPA와 상호작용 한 경험이 있음 (어른 : 87% / 아이 : 96%)
•인터뷰 공간 : 각 가족의 집에서 인터뷰 진행
그룹 인터뷰
(스토리보드 & 그룹 인터뷰 질문) 에이전트의 행동 카테고리
Proactivity
Authorized Access
and Privacy
Computer Skills Prevarication
DDD Role Playing Conflict Judgement Social Roles

9. 9
03 Method : Family Group Interview
복잡한, 사회적 상호작용에서 논의가 필요한 행동 카테고리 선정
•54명의 참가자 - 18 가구
•각 가족은 2~4명으로 구성되며 적어도 한 명의 부모와 한 명의 자식(12살 이상) 포함
•참가자 대부분이 VAPA와 상호작용 한 경험이 있음 (어른 : 87% / 아이 : 96%)
•인터뷰 공간 : 각 가족의 집에서 인터뷰 진행
그룹 인터뷰
(스토리보드 & 그룹 인터뷰 질문) 에이전트의 행동 카테고리
Proactivity
Authorized Access
and Privacy
Computer Skills Prevarication
DDD Role Playing Conflict Judgement Social Roles

10. 10
04 Findings
1. 부모 - 자식 —> 가장 강력하다!
2. 인사이더(동거인) - 아웃사이더(집 밖의 사람)
3. 평등관계 : 형제 / 파트너
집에서의 사회적 역할은 에이전트 행동의 경계로서 작용함
•에이전트와 상호작용 과정에 대한 접근 + 통제 권한 : 부모 > 미성년 자식
•그러나, 여전히 부모가 아이의 정보에 어느 정도까지 접근해야 하는가에 대해 의견 분분함
•Just Enough vs The More, the Better
-많은 부모들은, 알기 무섭지만 아주 솔깃해함.
- 아이가 결정을 내릴 자율성, 책임감을 배울 기회가 없을까봐 걱정

11. 11
04 Findings
갈등 상황에서 에이전트가 누구 편을 들 것인가는 소유권 문제로 연결됨
•참가자들이 토로한 혼란
: “누구 한 명 편 들지 않고” 가족 구성원 간 갈등 상황에 어떻게 개입할 것인가?
•대부분의 참가자들은 에이전트가 사회적, 개인적 이슈에서 완벽한 중립을 유지하기 어렵
다는 것을 알고있음.
•이는 소유권 이슈와 직결됨 — 에이전트에 대한 책임자, 에이전트 소유자
•참가자들은 VAPA의 소유자를 집이라는 공간안에서 어느 위치에 놓였는가로 판단함.
•집 안의 공유 공간에 놓였을 때에 혼란과 갈등 발생함.
“I don’t like that an agent can keep a secret,
but I also don’t like if the agent might hurt someone by not keeping a secret.”

12. 12
04 Findings
에이전트의 선제 행위를 세 가지 Threshold로 정의
: 반응적 / 선제적 / 선제적 추천
•참가자들은 이상적인 에이전트의 선제 행위를 상황에 따라 다르게 판단함
1) 반응적 Responsive : 요청했을 시에만 대화에 참여함.
2) 선제적 Proactive : 요청받지 않아도 상호작용에 끼어듬. 그러나, 추천은 피하고 주
제와 관련된 정보 전달만을 원함.
3) 선제적 추천 Proactive Recommender : 정보에서 더 나아가 에이전트에게 다음 행
위에 대한 추천을 기대함. 그러나, 특정한 추천을 강요하면 안되며 가족 구성원들에
게 선택지를 남겨야 함.
•2,3단계는 에이전트가 사회적 상황을 정확히 이해하고 반응할 가능성에 대한 기대를 드러
냄

13. 13
04 Findings
나를 쳐다보고, 내 말을 듣고, 기록하는 에이전트에 대한 공포와 혐오
•모든 것을 감지하는 에이전트에 대한 참가자들의 부정적 반응은 부족한 투명성에서 비롯됨
•흥미로운 지점은, 개인 데이터 이용에 대한 수용 정도
•에이전트의 Sensing은 끔찍히도 싫어하지만,
•디지털 정보(GPS, 이메일, 검색결과, 미디어 기록 등)의 수집과 사용과 관련해서는 굉장히
긍정적 반응을 보임.
-GPS 추적과 같은 정보의 가치는 과소 평가, “이상하게 쳐다보는”기술은 과대평가됨.

14. 14
04 Findings
에이전트는 알아서 판단을 내릴 수 있어야 하며,
도덕적 잣대에 따른 옳은 결정을 기대함.
•참가자 11-2 : “에이전트가 모든 상황에 다 개입하는 것은 최악이며, (낄 상황을 알아서
판단하여) 소위 낄낄빠빠 할 줄 알아야함.”
•위급 상황 : 옳은 결정에 대한 기대가 가장 극적으로 드러나는 경우
•에이전트가 위급상황을 알아서 판단하고, 그것을 보고하길 바람.
•그러나, 그 추천 혹은 결정이 사용자를 재단하거나 선택의 여지를 차단할 경우 에이전트
에게 반감을 가지게 됨.
“It has to be able to decide when to intervene and when to not.”

15. 15
04 Discussion
“사회성이 좋은 Socially Sophisticated” 에이전트 필수 디자인 단계 제안
1) 각 사용자의 사회적 역할 파악
2) 그 시간 그 공간에 어떤 사용자가 있는지 - Presence 파악
3) 사회적 맥락 - 상황 파악
•사회적 역할은 유동적이며 양방향적임 — 항상 변화함
•Service provider를 향한 프라이버시에 대한 우려는 본 연구에서 배제함.
•사용자가 그들의 데이터에 대한 완벽한 통제권을 가질 수 없는 한, 에이전트의 선제 행
위와 한 명의 사용자에 대한 책임 소재 지정이 안전한 선택일 수 있음
고려해야 할 디스커션 포인트

16. 16
06 Takeaway
1) 에이전트가 문제 지점의 주요 행위자로 작용할 수 있는 다양한 상황 Cue 확장
2) 더 파고들어볼 keyword와 질문을 얻었다…
Prevarication / 에이전트가 상호작용 가운데 낀 상황 (공유 상황)에서 데이터 manage 이슈
3) 이제는 미래 세상이 아닌 현실 세상의 문제점 찾기 필요
4) 스마트홈 연구에 갇혀있었다
; 북적북적한 가족 간 공유 관계에서 1인가구를 생각해보려 했으나…