김경환 법무법인 민후 대표변호사는 2017년 11월 16일 현대자동차그룹에서 주최한 '지능형 안전포럼'에서 '자율주행자동차의 법률·윤리 이슈'에 대해 발표하고 토론했습니다. 김 변호사는 자율주행과 법적·윤리적 이슈, 알고리즘과 법적·윤리적 이슈, 정보와 법적·윤리적 이슈에 대해 상세히 설명했습니다. 특히 미국의 사례를 통해 우리나라가 지향해야 할 입법 방향도 제시했습니다.

1. 자율주행자동차의 법률 윤리 이슈ㆍ
법무법인 민후 김경환 변호사

2. - 2 -
개 요
자율주행과 법적 윤리적 이슈1. ㆍ
자율주행차와 법적 책임 구조1-1.
제조사의 책임1-2.
알고리즘과 법적 윤리적 이슈2. ㆍ
알고리즘과 윤리2-1.
알고리즘과 법2-2.
정보와 법적 윤리적 이슈3. ㆍ
자율주행차의 개인정보 처리 유형3-1.
각 처리 유형별 검토3-2.
미국의 법안 검토3-3.
결어4.

3. - 3 -
자율주행과 법적 윤리적 이슈1. ㆍ

4. - 4 -
자율주행차와 법적 책임 구조1-1.
o 비자율주행차의 법적 책임
출처< : http://polinlove.tistory.com/8870>
운전자의 주의의무 위반으로 인한 사고 운전자 책임 자배법상 운행자 책임- : ( )
자동차의 결함으로 인한 사고 제조사 책임 제조물책임법- : ( )

5. - 5 -
o 자율주행차의 책임 구조 운전자 책임에서 제조물 책임으로( )
원칙적으로 운전자의 주의의무 없음 책임 없음- :
인지 판단 주행상 문제 자동차의 결함 제조사 책임- = :ㆍ ㆍ

6. - 6 -
o 캘리포리아주 공중운행 규정 안2017. 10. ( ) § 228.28
- 레벨의 경우SAE 3 (Conditional Automation)
운전자 책임 자동차의 통제권을 넘겨받았을 때:
자동차가 승인된 운영설계도메인(operational design domain)
밖에서 운행될 때
제조사 책임 자동차가 승인된 운영설계도메인 안에서 자율모드로 운행될 때:
- 또는 레벨의 경우SAE 4 5 (High Automation, Full Automation)
제조사 책임 운영설계도메인 안에서는 항상 제조사의 책임:
- 책임의 범위
안전 운행 (safe operation)
교통법 준수 (compliance with all traffic laws)
* 운전자의 책임 자배법으로 해결 가능:

7. - 7 -
제조사의 책임1-2.
o 자율차 책임의 종류 결함의 종류=
- 인지상의 결함
테슬라 사고와 같이 트럭의 컨테이너를 하늘로 잘못 인식한 경우
지도회사 또는 관제센터로부터 잘못된 정보를 받은 경우
- 판단상의 결함
알고리즘이 잘못 설계된 경우
알고리즘의 설계는 적절하나 오류로 제대로 가동되지 못한 경우
- 통제상의 결함
의 오류SW
기계상의 오류
특징 알고리즘 외부정보: SW, ,☞

8. - 8 -
o 의 결함SW
제조물책임법상의- 제조물 제조되거나 가공된 동산:
현재 제조물로 보지 않음SW :
Embedded SW, SaaS Cloud
- "제조상의 결함 제조업자가 제조물에 대하여 제조상 가공상의 주의의무를 이" : ·
행하였는지에 관계없이 제조물이 원래 의도한 설계와 다르게 제조 가공· 됨으로써
안전하지 못하게 된 경우
- "설계상의 결함 제조업자가" : 합리적인 대체설계( )代替設計 를 채용하였더라면
피해나 위험을 줄이거나 피할 수 있었음에도 대체설계를 채용하지 아니하여 해
당 제조물이 안전하지 못하게 된 경우
- "표시상의 결함 제조업자가" : 합리적인 설명 지시 경고 또는 그 밖의 표시· · 를 하
였더라면 해당 제조물에 의하여 발생할 수 있는 피해나 위험을 줄이거나 피할
수 있었음에도 이를 하지 아니한 경우

9. - 9 -
o 운영설계도메인 (ODD)
자율주행시스템이 적절히 동작할 수 있는 조건-
도로의 유형 속도 날씨 주야시간 등- , , ,
- 면책 사유로 작용하고 있음
☞ 제조물책임법의 면책 사유
제조업자가 해당 제조물을 공급하지 아니하였다는 사실1.
제조업자가 해당 제조물을 공급한 당시의 과학 기술 수준으로는 결함의 존재를2. ·
발견할 수 없었다는 사실 (개발위험의 항변)
제조물의 결함이 제조업자가 해당 제조물을 공급한 당시의 법령에서 정하는 기3.
준을 준수함으로써 발생하였다는 사실 (법령준수의 항변)
원재료나 부품의 경우에는 그 원재료나 부품을 사용한 제조물 제조업자의 설계4.
또는 제작에 관한 지시로 인하여 결함이 발생하였다는 사실

10. - 10 -
o 외부정보 에 의한 사고‘ ’
자율주행 모드가 아닌 협력자율주행 모드- ‘ ’ ‘ ’
예컨대 지도의 경우는 제조물책임법상 제조물에 해당하지 않음-
안 외부정보 제공사 만이 피해자에 대하여 책임을 짐- 1 : ‘ ’
안 제조사 측 이 먼저 책임을 지고 외부정보 제공사에 대하여 구상을 함2 : ‘ ’ ,
안 형성된 보상기금 에 의하여 먼저 보상을 하고 후에 외부정보 제공자에게3 : ‘ ’ ,
구상을 함

11. - 11 -
o 비인격행위자 의 책임‘ ’
제조사 대신에 자율차가 직접 책임을 져야 하는가의 문제-
약한 인공지능 강한 인공지능- v
* 말CAL(2015. ) 모든 자율주행차는 핸들과 페달 등을 장착해야 한다는 초안을 발표:
* Google(2015. 11. 12.) 에 운전자 없는 차량이 연방의 차량안전규정 에: NHTSA (FMVSS)
부합하는지에 대한 질의서를 보냄
* NHTSA(2016. 2. 10.) 인간이 운전을 하는 것이 아니라면 운전을 하는 그 무언가를 운:
전자로 규정하는 것이 더 합리적이라는 의견을 밝힘
* CAL(2016. 4. 11.) 수정입법을 통하여 핸들 페달 등을 불요하다고 규정: ,

12. - 12 -
알고리즘과 법적 윤리적 이슈2. ㆍ

13. - 13 -
알고리즘과 윤리2-1.
o 윤리론
- 결과론적 윤리론 공리주의 벤담 밀 행위는 그것이 좋은 결과를 가져온다면( , , ) :
옳다.
- 의무론적 윤리론 칸트 결과와 상관없이 행동의 도덕성 동기 의도 을 본다( ) : ( , ) .

14. - 14 -
o 트롤리 문제(trolley problem, )鑛車問題
- 제 문제1 공리주의적인 관점에서는 명을 희생해서라도 명을 구해야 하지만: 1 5 ,
의무론을 따르면 누군가를 다른 목적을 위해 이용해서는 안 된다.
<http://nymag.com/selectall/2016/08/trolley-problem-meme-tumblr-philosophy.html>

15. - 15 -
- 제 문제2 제 문제와 달리 행위자가 살인행위를 하고 있다는 점: 1
<https://imgur.com/gallery/pKEMa>
마크 하우저의 설문 처음 질문에 대해 가 허용된다고 한데 반해 두 번째- : 89% ,
질문에는 단 만이 허용된다고 답함11%

16. - 16 -
o 트롤리 문제의 자율주행차에의 변형
응답자가 관찰자인 경우 응답자가 운전자인 경우- ,

17. - 17 -
알고리즘과 법2-2.
o 법과 윤리의 차이
법은 한 나라에 하나 윤리는 여러 개- ,
법은 강제성 윤리는 자율성- ,
윤리는 사회적 합의 를 통하여 법으로 승화됨- ‘ ’
예컨대 트롤리 문제에 대한 사회적 합의 가 있어야 국가는 특정 알고리즘을 강- ‘ ’
제할 수 있음
트롤리 제 문제1☞
공리주의자 사람을 살려야 한다: 5
의무론자 동기나 의도를 봐야 한다:
보험회사 또는 보험가입의무자 보험금이나 보험료 부담이 적은 상황 선호:
사람의 부모 사람을 살려야 한다1 : 1

18. - 18 -
o 우리나라의 알고리즘 규제
자율주행자동차의 안전운행요건 및 시험운행 등에 관한 규정 제 조 자율주행자- ‘ ’ 3 (
동차의 제작대상 및 방법 자율주행자동차는 시스템우선모드에서도 도로법) ,② 「 」
도로교통법 을 포함한「 」 모든 공공도로 주행 관련 제반 법령을 준수하도록 제작
되어야 한다.
의문 정지선을 지킬 의무와 사고를 방지할 의무가 충돌할 때- : ?
O 장래의 알고리즘 규제 예상( )
알고리즘의 공개-
알고리즘 원칙이나 결과의 공개 의무-
책임 있는 기관의 인증-

19. - 19 -
정보와 법적 윤리적 이슈3. ㆍ

20. - 20 -
자율주행차의 개인정보 처리 유형3-1.
소유자 점유자1. ㆍ 운전자 또는 승객(= )가 개입되지 않은 유형
o V2X
제조사 렌트사 플랫폼사업자 교통센터 서비스제공자 등o V Xㆍ ㆍ ㆍ ㆍ ⇔ ⇔

21. - 21 -
소유자 점유자가 개입되는 유형2. ㆍ
제조사 소유자 점유자V⇔ ⇔ ㆍ
렌트사 소유자 점유자V⇔ ⇔ ㆍ
교통센터 소유자 점유자V⇔ ⇔ ㆍ
플랫폼사업자 소유자 점유자V⇔ ⇔ ㆍ
서비스제공자 소유자 점유자V⇔ ⇔ ㆍ

22. - 22 -
각 처리 유형별 검토3-2.
자율차 소유자 점유자1. ⇔ ㆍ
개인정보의 유형과 해당 여부의 결정이 중요함o
바이오정보 바이오식별정보와 바이오속성정보의 구별o :
예컨대 음파는 그 사람을 식별할 수 있는 정보이기도 하지만 그 사람의 심리 상태-
를 알 수 있는 정보이기도 함
- 우리 법은 과 달리 전자를 민감정보로 파악하지 않고 일반 개인정보로 취급함GDPR
민감정보 원칙적 수집 금지 수집시 명시적 동의가 필요함o : ,
행태정보 프로파일링 등의 문제와 연결됨o :

23. - 23 -
2. V2P
보행자의 개인영상정보의 수집 처리에 해당함o ㆍ
하지만 자율차의 카메라 등은 영상정보처리기기 에 해당하지 않음o ‘ ’
보행자의 사전 동의를 받아야 하는 것이 원칙이나 개인정보처리자의 정당한 이익을o , ‘
달성하기 위하여 필요한 경우로서 명백하게 정보주체의 권리보다 우선하는 경우 로’
보아 동의 불요로 볼 수 있음
다만 안전운행 목적 외로 수집하는 경우는 개인정보처리자의 정당한 이익을 달성하o ‘
기 위하여 필요한 경우로서 명백하게 정보주체의 권리보다 우선하는 경우 에 해당하’
지 않음
이 때 처리자는 누구인가 기술적 관리적 보호조치를 해야 하는 자 등o ? ( )ㆍ

24. - 24 -
3. V2V
다른 차량의 위치정보를 수집함o
이 때 다른 차량 소유자의 동의를 받아야 함o
자율차의 운행을 관제 지원하는 서비스를 운영하려는 사업자는 위치정보사업자의 허o
가를 받거나 위치기반서비스사업자로 신고하여야 함
은 와 유사함V2N V2V☞

25. - 25 -
4. V2I
양방향성 자율차가 인프라의 정보를 수집할 수도 있고 인프라가 자율차의 정보를o : ,
수집할 수 있음
후자의 경우 인프라 운영자는 정보통신서비스제공자에 해당할 수 있으나 소유자 점o , ㆍ
유자가 아닌 자율차에게 정보를 제공하는 경우에도 정보통신서비스제공자로 볼 수
있는가?
후자의 경우 자율차의 차량번호 등은 개인정보인가o ?

26. - 26 -
소유자 점유자가 개입되는 처리 유형5. ㆍ
제조사 소유자 점유자V⇔ ⇔ ㆍ
렌트사 소유자 점유자V⇔ ⇔ ㆍ
교통센터 소유자 점유자V⇔ ⇔ ㆍ
플랫폼사업자 소유자 점유자V⇔ ⇔ ㆍ
서비스제공자 소유자 점유자V⇔ ⇔ ㆍ
규율에 대하여는 이하의 캘리포니아 주법이나 미국 연방법 참조,☞

27. - 27 -
캘리포니아 공중운행 주법안3-3. (2017. 10. 11.)
o 제 조Information Privacy ( 228.24 )
- 제조사 운전자 승객⇒ ㆍ 제조사는 운전자에게 차량의 안전운행에 필요하지 않:
은 개인정보의 수집 및 이용에 대하여 문서로 공개하여야 함 운전자가 없는 경.
우이면 승객에게 공개함.
익명처리 제조사는 안전운행에 필요하지 않은 개인정보는 익명처리하여야 함- :
- 제조사 소유자 임차인⇒ ㆍ 개인정보가 익명처리 되지 않았다면 차량의 안전운: ,
행에 필요하지 않은 개인정보의 수집에 대하여 차량의 소유자 또는 임차인으로
부터 문서로 된 승인을 받아야 함
소유자 또는 임차인이 문서로 된 승인을 하지 않았더라도 차량의 이용을 거부- ,
할 수 없음
안전운행에 필요한 정보는 규제하지 않음☞

28. - 28 -
미국 하원 통과3-4. SELF DRIVE Act (2017. 9. 6. )
o 제 조Privacy Plan ( 12 )
- 제조사는 아래의 사항이 포함된 을 개발하지 않았다면 판매 등을 할 수 없음Privacy Plan
 a) 차량 소유자 점유자(owner) (occupant)ㆍ 의 정보가 수집 이용 공유 저장되는 방ㆍ ㆍ ㆍ
법 차량 소유자 점유자에게 정보 수집 등에 대하여 선택권이 부여되는 방법, b) , c)ㆍ
차량 소유자 점유자의 정보에 대한 수집최소화 비식별화 보유의 방법 정보를, d)ㆍ ㆍ ㆍ
공유하는 자에게 을 확장하는 방법이 포함된 문서로 된privacy plan Privacy Plan
차량 소유자 점유자에게 이 고지되는 방법Privacy Planㆍ
차량 소유자 점유자의 정보가 대체되거나 또는 조합되어서 더 이상 차량 소유ㆍ ㆍ
자 점유자와 합리적으로 연결되지 않는다면 제조사는 을 준수하지, Privacy Planㆍ
않아도 됨
차량 점유자의 정보가 익명처리되거나 암호화되었다면 제조사는 을, Privacy Plan
준수하지 않아도 됨
o 제 조Security Plan( 5 ) 이 개발되지 않은 제조사는 차량의 판매 등을 할 수 없음
소유자 점유자의 개념만 나오고 운전자 승객 개념이 나오지 않음☞ ㆍ ㆍ

29. - 29 -
결 어3.

30. - 30 -
자율주행차에 대한 기술리터러시 가 안전의 첫걸음(Technological Literacy)