20대 여자 대학생을 캐릭터로 한 대화형 인공지능(AI) 챗봇 이루다가 소수자 차별, 혐오 발언, 개인정보 침해 등의 문제를 드러내고 출시된 지 불과 20일 만인 1월 12 일 서비스를 중단 했고, 정부는 개인정보 침해 여부에 대한 조사를 진행하는 등 사회적으로도 엄청난 반향이 일어나면서 사건의 원인과 향후 과제에 대한 논의가 진행 중입니다.
□ 이와 관련 이루다 서비스의 개인정보의 수집, 제공에 따른 법률적 문제와 AI알고리 즘의 윤리 문제에 대한 쟁점과 대안을 고민해보는 웨비나를 사)한국데이터법정책학회 (회장 이성엽 고려대 교수), 사)코리아스타트업포럼(대표 최성진), 법무법인 린(대표 임진석 변호사)이 공동으로 개최합니다.
□ 이날 행사에서 양천수 교수(영남대학교 법학전문대학원)는 이루다 서비스의 개인정보처리에 있어서 법적 이슈를 짚어보고 그 대안에 대해 발제하며, 정경오 변호사(법무법인 린 파트너 변호사)는 이루다 서비스가 인공지능으로서 제기한 윤리 문제와 그 대안에 대해 발제합니다.
2018 Privacy Global Edge에서 발표한 자료입니다. (2018.6.29.15:00 발표)
[요약]
인공지능(AI) 시대가 도래했다. 개인정보 이용 목적과 같은 동의 사항에 대해 사전적, 명시적, 개별적, 구체적 동의를 받아야 개인정보 처리를 할 수 있는 개인정보 활용 법제도를 갖고 있는 우리나라에서는 개인정보 활용을 위해서는 비식별조치를 통해 비개인정보에 가까운 정보로 치환하는게 궁극의 과제이다.
인공지능이 똑똑하지 못하면 개인식별을 제대로 못해 오히려 개인의 정보를 제대로 보호하지 못하고 유출하게 되고, 개인에게 맞춤형 서비스를 해 주지 못하게 된다.
똑똑하지 못한 인공지능과 똑똑한 인공지능간 싸움의 결론은 당연히 똑똑한 인공지능이 선택받게 된다. AI 시대에 개인정보보호 중심의 개인정보보호법제도에 조화로운 패러다임의 전환이 없이는 정보주체들은 조만간 똑똑하지 않은 한국의 인공지능 서비스를 이용하기를 꺼려해 개인정보의 엑소더스가 일어날 것이고, 우리나라는 정보진공상태인 정보좀비국가가 되고 말 것이다.
[대책]
ㅇ비식별정보의 개념 재정립, 동의 배제 - 그 자체로 식별할 수 없는 한 비식별정보. 비식별정보는 동요건 배제
1. 비식별정보는 동의 없이 활용
식별정보, 비식별정보 2트랙으로 나누어 식별정보에만 동의제도를 적용
식별가능정보는 그 자체로 개인을 식별할 수 없는 정보라서 동의를 받을 수도 없으므로 동의제도 적용은 모순.
동의 적용 없이 그 자체로 이용하게 하되, 개인식별행위는 엄격금지(처벌규정 도입)
2. 동의제도 선택제 도입
동의를 받을 떄에 개별적 사전동의형(Opt-In), 포괄동의(One Click Consent)+사후동의배제 형(Opt-Out)을 정보주체가 선택
3. 형사처벌보다 시정명령
정부가 개인정보처리방침을 심사해서 최적화, 표준화
4. 정부의 소비자 보호 관점의 개인정보보호 업무
엄격한 동의 보다는 합목적성으로 불법성 판단
2014년 10월 금융위원장의 주도로 시작된 핀테크 열풍은 1년반이 지난 지금 사실상 주춤한 상태다. 핀테크가 금융섭스의 온라인서비스로 전환이자 금융서비스공급자가 오프라인 금융회사에서 온라인 플랫폼 사업자로 변환된다는 본질을 금융권이 알게 되자 더 이상 혁신을 자초할 이유가 없다고 판단한 때문이라고 생각한다. 세계적인 핀테크 돌풍은 O2O혁명을 요구하고 있다. 한시라도 빨리 금융의 온라인 서비스 혁명을 이루어야 할 때다. 시간이 많지 않다.
20대 여자 대학생을 캐릭터로 한 대화형 인공지능(AI) 챗봇 이루다가 소수자 차별, 혐오 발언, 개인정보 침해 등의 문제를 드러내고 출시된 지 불과 20일 만인 1월 12 일 서비스를 중단 했고, 정부는 개인정보 침해 여부에 대한 조사를 진행하는 등 사회적으로도 엄청난 반향이 일어나면서 사건의 원인과 향후 과제에 대한 논의가 진행 중입니다.
□ 이와 관련 이루다 서비스의 개인정보의 수집, 제공에 따른 법률적 문제와 AI알고리 즘의 윤리 문제에 대한 쟁점과 대안을 고민해보는 웨비나를 사)한국데이터법정책학회 (회장 이성엽 고려대 교수), 사)코리아스타트업포럼(대표 최성진), 법무법인 린(대표 임진석 변호사)이 공동으로 개최합니다.
□ 이날 행사에서 양천수 교수(영남대학교 법학전문대학원)는 이루다 서비스의 개인정보처리에 있어서 법적 이슈를 짚어보고 그 대안에 대해 발제하며, 정경오 변호사(법무법인 린 파트너 변호사)는 이루다 서비스가 인공지능으로서 제기한 윤리 문제와 그 대안에 대해 발제합니다.
2018 Privacy Global Edge에서 발표한 자료입니다. (2018.6.29.15:00 발표)
[요약]
인공지능(AI) 시대가 도래했다. 개인정보 이용 목적과 같은 동의 사항에 대해 사전적, 명시적, 개별적, 구체적 동의를 받아야 개인정보 처리를 할 수 있는 개인정보 활용 법제도를 갖고 있는 우리나라에서는 개인정보 활용을 위해서는 비식별조치를 통해 비개인정보에 가까운 정보로 치환하는게 궁극의 과제이다.
인공지능이 똑똑하지 못하면 개인식별을 제대로 못해 오히려 개인의 정보를 제대로 보호하지 못하고 유출하게 되고, 개인에게 맞춤형 서비스를 해 주지 못하게 된다.
똑똑하지 못한 인공지능과 똑똑한 인공지능간 싸움의 결론은 당연히 똑똑한 인공지능이 선택받게 된다. AI 시대에 개인정보보호 중심의 개인정보보호법제도에 조화로운 패러다임의 전환이 없이는 정보주체들은 조만간 똑똑하지 않은 한국의 인공지능 서비스를 이용하기를 꺼려해 개인정보의 엑소더스가 일어날 것이고, 우리나라는 정보진공상태인 정보좀비국가가 되고 말 것이다.
[대책]
ㅇ비식별정보의 개념 재정립, 동의 배제 - 그 자체로 식별할 수 없는 한 비식별정보. 비식별정보는 동요건 배제
1. 비식별정보는 동의 없이 활용
식별정보, 비식별정보 2트랙으로 나누어 식별정보에만 동의제도를 적용
식별가능정보는 그 자체로 개인을 식별할 수 없는 정보라서 동의를 받을 수도 없으므로 동의제도 적용은 모순.
동의 적용 없이 그 자체로 이용하게 하되, 개인식별행위는 엄격금지(처벌규정 도입)
2. 동의제도 선택제 도입
동의를 받을 떄에 개별적 사전동의형(Opt-In), 포괄동의(One Click Consent)+사후동의배제 형(Opt-Out)을 정보주체가 선택
3. 형사처벌보다 시정명령
정부가 개인정보처리방침을 심사해서 최적화, 표준화
4. 정부의 소비자 보호 관점의 개인정보보호 업무
엄격한 동의 보다는 합목적성으로 불법성 판단
2014년 10월 금융위원장의 주도로 시작된 핀테크 열풍은 1년반이 지난 지금 사실상 주춤한 상태다. 핀테크가 금융섭스의 온라인서비스로 전환이자 금융서비스공급자가 오프라인 금융회사에서 온라인 플랫폼 사업자로 변환된다는 본질을 금융권이 알게 되자 더 이상 혁신을 자초할 이유가 없다고 판단한 때문이라고 생각한다. 세계적인 핀테크 돌풍은 O2O혁명을 요구하고 있다. 한시라도 빨리 금융의 온라인 서비스 혁명을 이루어야 할 때다. 시간이 많지 않다.
Tek kaist 바람직한 인터넷 산업 규제정책 160322_v2a_구태언TEK & LAW, LLP
인공지능 시대 바람직한 인터넷 산업 규제정책은 무엇인가?
- 구태언 (테크앤로 대표)
거대한 산업자본을 앞세운 O2O 물결이 전 세계 국가를 강타하고 있다. 소비자들의 일거수 일투족을 데이타로 확보하기 위한 서비스 경쟁이 시작된 것이다. 이제 대세를 장악해 가는 기업들은 당당하게 ‘우리는 데이터 테크놀로지(DT) 업체다’라고 공언하고 있다.
특히 이러한 트렌드를 주도하는 기업들은 주로 미국과 중국의 기업들이다. 이들은 진공 청소기와 같이 세계 각국의 기업과 개인정보를 자신들의 데이터센터로 빨아들이고 있다. 관심을 가져야 할 것은 이 두 나라는 인터넷산업과 관련한 규제법령이 별로 없다는 사실이다.
얼마전 구글 자회사 딥마인드가 개발한 알파고가 한국의 이세돌 9단을 4:1로 이긴 사건이 가져온 충격파가 가시지 않은 지금 이제 인공지능 분야로까지 앞서 가는 선진국의 인터넷 민간산업의 역량은 부럽기도 하고, 많은 측면에서 심각한 우려를 자아내고 있다.
기업과 개인을 소비자로 하는 플랫폼 써비스 경쟁에서 지는 것은 개인정보 뿐 아니라 기업정보의 국외 이전을 초래한다는 면에서 그 중요성을 인식하고 적절한 정책을 고민해야 한다.
명분과 실리의 싸움에서 어느 쪽을 지지할 것인가? 인권 운동가들은 개인정보를 보호하기 위해 기업의 활동을 제한해야 한다고 말한다.
IOT 시대는 빅데이터 시대이자 인공지능의 시대다. 사이버영토주권은 정보주권이다. 정보주권을 지키기 위한 규제정책은 어떤 것이어야 하는지, 우리 기업들의 경쟁력을 강화할 규제정책은 어떤 것이어야 하는지 고민해 본다.
[법무법인 민후] 빅데이터 실현을 위한 개인정보법령 개선방안(개인정보 비식별조치 가이드라인 포함)MINWHO Law Group
2016년 11월 21일 은행회관에서 열린 '제4차 산업혁명과 금융의 미래' 국제 컨퍼런스에서 김경환 법무법인 민후 대표변호사는 '빅데이터 실현을 위한 개인정보법령 개성방안'을 주제로 발제하였습니다.
현재 비식별화 가이드라인은 법적인 요소가 부족하며, 이를 해결하기 위해선 가이드라인이 아니라 법률 개정으로 풀어야 한다고 지적했습니다.
김경환 법무법인 민후 대표변호사가 2016년 10월 19일 정보보호유관학회 연합학술대회서 산업보안 동향에 대해 발표한 슬라이드입니다.
제목 : 최근 산업보안 주요사건과 입법 동향(부제 : 영업비밀과 산업기술)
미국, EU, 일본, 우리나라 등 각국의 산업보안 주요사건과 입법도향 등이 나와있으며, 향후 산업보안 강화를 위한 과제와 법적인 제언도 담았습니다.
*2016. 3. 25. 제1회 신기술 경영과 법 컨퍼런스
*빅데이터의 법적 규제와 실현방안_최민정 변호사, 이혜윤 변호사
*최근 산업계 전반에서 신사업모델 구축을 위해 고려해야 할 사안으로 떠오른 빅데이터. 이러한 빅데이터의 활용을 위해 알아야할 법적 규제와 빅데이터에 포함된 개인정보 관련 이슈에 대해 알아본다.
달리, GPT 등 미국발 초거대 인공지능의 공습 아래 투자가 중단돼 생존의 위기에 직면한 곳은 다름 아닌 스타트업들입니다. 우리 국가정책은 초거대AI(대기업)와 더불어 스타트업들에 의한 "거점AI" 육성으로 게릴라전을 펼치게 해 주어야 할 것이라 생각합니다.
이런 염원을 담아 작성한 자료입니다. 감사합니다. (3.30. 국회 강병원 의원실 주최 세미나 발표자료)
Tek kaist 바람직한 인터넷 산업 규제정책 160322_v2a_구태언TEK & LAW, LLP
인공지능 시대 바람직한 인터넷 산업 규제정책은 무엇인가?
- 구태언 (테크앤로 대표)
거대한 산업자본을 앞세운 O2O 물결이 전 세계 국가를 강타하고 있다. 소비자들의 일거수 일투족을 데이타로 확보하기 위한 서비스 경쟁이 시작된 것이다. 이제 대세를 장악해 가는 기업들은 당당하게 ‘우리는 데이터 테크놀로지(DT) 업체다’라고 공언하고 있다.
특히 이러한 트렌드를 주도하는 기업들은 주로 미국과 중국의 기업들이다. 이들은 진공 청소기와 같이 세계 각국의 기업과 개인정보를 자신들의 데이터센터로 빨아들이고 있다. 관심을 가져야 할 것은 이 두 나라는 인터넷산업과 관련한 규제법령이 별로 없다는 사실이다.
얼마전 구글 자회사 딥마인드가 개발한 알파고가 한국의 이세돌 9단을 4:1로 이긴 사건이 가져온 충격파가 가시지 않은 지금 이제 인공지능 분야로까지 앞서 가는 선진국의 인터넷 민간산업의 역량은 부럽기도 하고, 많은 측면에서 심각한 우려를 자아내고 있다.
기업과 개인을 소비자로 하는 플랫폼 써비스 경쟁에서 지는 것은 개인정보 뿐 아니라 기업정보의 국외 이전을 초래한다는 면에서 그 중요성을 인식하고 적절한 정책을 고민해야 한다.
명분과 실리의 싸움에서 어느 쪽을 지지할 것인가? 인권 운동가들은 개인정보를 보호하기 위해 기업의 활동을 제한해야 한다고 말한다.
IOT 시대는 빅데이터 시대이자 인공지능의 시대다. 사이버영토주권은 정보주권이다. 정보주권을 지키기 위한 규제정책은 어떤 것이어야 하는지, 우리 기업들의 경쟁력을 강화할 규제정책은 어떤 것이어야 하는지 고민해 본다.
[법무법인 민후] 빅데이터 실현을 위한 개인정보법령 개선방안(개인정보 비식별조치 가이드라인 포함)MINWHO Law Group
2016년 11월 21일 은행회관에서 열린 '제4차 산업혁명과 금융의 미래' 국제 컨퍼런스에서 김경환 법무법인 민후 대표변호사는 '빅데이터 실현을 위한 개인정보법령 개성방안'을 주제로 발제하였습니다.
현재 비식별화 가이드라인은 법적인 요소가 부족하며, 이를 해결하기 위해선 가이드라인이 아니라 법률 개정으로 풀어야 한다고 지적했습니다.
김경환 법무법인 민후 대표변호사가 2016년 10월 19일 정보보호유관학회 연합학술대회서 산업보안 동향에 대해 발표한 슬라이드입니다.
제목 : 최근 산업보안 주요사건과 입법 동향(부제 : 영업비밀과 산업기술)
미국, EU, 일본, 우리나라 등 각국의 산업보안 주요사건과 입법도향 등이 나와있으며, 향후 산업보안 강화를 위한 과제와 법적인 제언도 담았습니다.
*2016. 3. 25. 제1회 신기술 경영과 법 컨퍼런스
*빅데이터의 법적 규제와 실현방안_최민정 변호사, 이혜윤 변호사
*최근 산업계 전반에서 신사업모델 구축을 위해 고려해야 할 사안으로 떠오른 빅데이터. 이러한 빅데이터의 활용을 위해 알아야할 법적 규제와 빅데이터에 포함된 개인정보 관련 이슈에 대해 알아본다.
달리, GPT 등 미국발 초거대 인공지능의 공습 아래 투자가 중단돼 생존의 위기에 직면한 곳은 다름 아닌 스타트업들입니다. 우리 국가정책은 초거대AI(대기업)와 더불어 스타트업들에 의한 "거점AI" 육성으로 게릴라전을 펼치게 해 주어야 할 것이라 생각합니다.
이런 염원을 담아 작성한 자료입니다. 감사합니다. (3.30. 국회 강병원 의원실 주최 세미나 발표자료)
법무법인 민후의 김경환 대표변호사가 2017. 10. 26. 개최된 금융정보보호컨퍼런스에서 강연한 자료입니다.
김 변호사는 해당 강연을 통해 각 나라의 빅데이터 조문의 비교, EU GDPR에 규정된 빅데이터 관련 조문에 대한 소개와 우리나라의 빅데이터 조문에 대한 소개까지 개인정보 활용과 보호에 대해 설명하였습니다.
2. 1
1. 디지털 마켓 시대는 플랫폼 육성의 시대
2. 국가정보화 20년의 명암
3. 중국은 민간 플랫폼 육성에 주력
4. 국경 없는 온라인 플랫폼 서비스 전쟁
5. 플랫폼 산업은 규제 총량초과로 신음중
6. 규제장벽으로 인해 디지털 마켓 주도권 확보 실패
7. 플랫폼의 실패는 국가안보위기 초래 – 정보 진공 상태
8. 결론 – 플랫폼 사업자 육성을 위한 법제도 정책 목차
혁신국가로 가는 길에 시대에 맞지 않는 낡은 규제가 발목을 잡고 있다. 그러나, 발목 잡는 규제양산의 책임은 오로지 정부에 있는가? 우리 시민들의 마음 속에 확고히 자리잡은 규제중독이 그 원인이라고 본다. 인공지능 플랫폼의 시대, 코드가 규제집행을 대신한다. 관치중독, 규제중독에서 벗어나 자유시민의 시대를 열자.
공유경제와 혁신이 이끌 소비자의 미래, 국회간담회
Friday 26 Apr 2019 from 10:30am - 12:00pm
˫ 일 시: 2019년 4월 26일(금) 오전 10시30분
˫ 장 소: 국회의원회관 제4간담회실
˫ 주 최: 컨슈머워치, 한국공유경제협회, 국회의원 송희경
˫ 후 원: 국회 과학기술정보방송통신위원회, 국회 4차산업혁명포럼
˫ 취 지
공유경제의 핵심 축인 차량공유를 둘러싼 논란이 계속 이어질 전망이다. 최근 카풀 도입을 위한 사회적 대타협이 이루어졌지만, 카풀 허용의 시간적 제약과 택시 월급제 시행 등 여러 한계점을 안고 있다. 다른 한 축인 숙박공유는 정부가 공유경제활성화방안으로 내국인에게도 확대 허용을 추진하겠다고 밝혔으나, 이 또한 국회의 높은 문턱을 넘어야 가능하다.
공유경제는 기존 이해관계자와의 조율, 현행 법령의 개선, 소비자 보호방안 마련 등 사회적 진통이 뒤따를 수밖에 없다. 하지만 신기술의 발전과 신산업의 등장은 거스를 수 없는 시대적 조류이다. 공유경제와 같은 신산업이 불법과 합법의 담장을 위태롭게 걷는 현실은 우리의 모빌리티 혁신의 수준을 보여주고 있다. 무엇보다 공유경제가 서비스 확대와 편의성 제고 등 소비자 편익을 증진시킬 거란 기대는 점점 높아지고 있다.
이에 공유경제의 안정된 정착과 실효성 확대를 위한 정책방안을 마련하고자 한다. 공유경제와 함께 대두될 미래 산업과 그에 내재된 사회·경제적 가치들을 살펴보고 공유경제 활성화 방안과 소비자 보호대책 등을 논의하는 토론회를 개최한다.
[ 사회 ] 유창조(동국대 경영학과 교수)
[ 발제1 ] “공유경제와 혁신을 위한 제도개선 방안” /구태언(법무법인 린 변호)
[ 발2 ] “소비자 관점의 공유경제 활성화 방안” / 박주희(컨슈머워치 정책위원)
[ 토론 ] 정회상(강원대 경제학과 교수) / 조산구(한국공유경제협회 회장) / 이상협(전국청년창업가연합 사무총장)
20181219 digital token regualtion re exchange & ico ted koo TEK & LAW, LLP
미국 하원에서 암호화폐를 디지털 토큰으로 명명하고, 증권법 적용을 배제하는 법안이 제출되었습니다.
제가 지난 11.6. 국회에서 민병두 의원 주최로 개최한 세미나에서 발표한 자료를 보내드립니다.
개요는
- 크립토를 디지털 토큰으로 명명
- 비증권형 토큰은 디지털 자산이므로 거래소에 특별한 규제 필요 없음
- 증권형 토큰 거래소는 전금법상 등록제 규정
- 토큰 선판매(ICO)는 전금법상 등록제 규정. 다만, 서비스 출시 후 토큰판매는 실물거래이므로 규제 불필요.
지능정보화 시대 개인정보보호위원회의 역할에 대한 토론문
현재 국가 개인정보 보유는 위기상황
글로벌 플랫폼 사업자들이 인공지능 기반 서비스로 국내 CPM장악 : 컨텐츠(Contents), 개인정보(Privacy), 자본(Money)
머지 않아 국내 CPM의 글로벌 대이동이 데이터주권 종속을 통해 경제주권 등 국민의 권익에 심각한 위해를 초래할 것으로 예상
개인정보보호위원회의 역할
개인정보의 “보유” 없이는 “보호”도 없으므로,
국가 개인정보의 보유를 위한 정책을 수립하고 이를 각 부처가 집행해 나갈 수 있도록 일관된 관리 감독을 수행해야
이 과정에서 개인정보보호 원칙과 선택이 필요할 경우 거시적 시각에서 현명한 선택을 주도해야
처분권을 보유한 명실상부한 국가 개인정보 주무관청으로서
사물인터넷 기반 인공지능 시대에 필수적인 비식별정보의 활용(프로파일링 금지가 전제)
형사처벌 위주의 경직적 법집행 보다, 개인정보 이용환경의 변화에 맞추어나갈 수 있는 행정처분(시정명령과 과징금) 위주의 정책으로 변환
개인의 개인정보자기결정권을 동의 제도, 파기제도, 안전조치 등으로 확대하고,
동의권=개인의 셀프보호로 전락한 현실을 주무관청의 적극적 행정지도로 타개하는 등
국민이 편하게 개인정보보호를 받으면서, 산업도 발전해 국가 개인정보의 보유력을 증진하도록 활약하시기 바람
2. 목차 v AI 서비스는 개인화 서비스로 진화 중
v 개인화 서비스의 관건은 식별기술
v 비식별기술과 식별기술과 개인정보보호의 관계
v 정확한 식별기술은 빅데이터와 머신러닝에서
v 글로벌 AI 경쟁에서 밀리면 데이터주권마저 위험
v 개인정보보호 법제 개선
3. 목차
v AI 서비스는 개인화 서비스로 진화 중
v 개인화 서비스의 관건은 식별기술
v 비식별기술과 식별기술과 개인정보보호의 관계
v 정확한 식별기술은 빅데이터와 머신러닝에서
v 글로벌 AI 경쟁에서 밀리면 데이터주권마저 위험
v 개인정보보호 법제 개선
4. 3
AI 시대, 빅데이터를 통한 인류 기여
정밀의료
CNGB(중국국가유전자뱅크)
Ø 중국 선전에 위치하며 대지가 5만평방미
터가 넘음
Ø 미국, 일본, 유럽에 이어 세계 네번째 국
가급유전자뱅크이며 세계 최대 유전자
뱅크
Ø 3대뱅크: 생물자원샘플뱅크, 생물정보데
이터뱅크, 생물활체뱅크
Ø 2대플랫폼: 디지털화된 플랫폼, 합성 및
편집 플랫폼
Ø 특징: 샘플 저장 가능
NCBI
미국국립생물기술정보센터
EMBL-EBI
유럽생물정보연구소
DDBJ
일본DNA데이터베이스
미국
유럽
일본
중국
세계 4대
유전자뱅크
개인의 GENOME을 활용하여
맞춤형 치료 기술 개발
정밀의료의 진정한 가치는 약물이 아니라
유전자 데이터 그 자체에 있다
5. 4
정보의 개방과 공유 척도가 AI의 성패
예방의학
의사 중심
의료 모델
환자 중심
의료 모델
빅데이터
의 활용
P4의학
탄생
Predictive Medicine
예측의학
Preventive Medicine
예방의학
Personalized Medicine
맞춤형의학
Participatory Medicine
참여의학
정보의 개방 및 공유: 빅데이터 시대의 특징
6. 5
집안에 들어오는 스마트 스피커 – 트로이 목마
나의 모든 것
을 아는데
비밀을 지켜줄
까?
“수사하기 정
말 쉬워졌어요.
물으면 다 말
해 줘요‘
- A검사 -
KT GiGA Genie Amazon Echo
Google home Naver 클로바
7. 6
센스타임, 중국 무선스마트 치안의 선두주자
SenseTime이 선전시공안국과 MOU 체결했으며
미래 아래 분야에서 협력할 예정임
AI
공공
안전
공안정보화스마트응용의 계획 및 설계
스마트안전도시의 구축
영상 인물사진의 검증 및 감정 기술 혁신
인공지능 기술의 응용
무선스마트 치안행정 구축
8. 7
센스타임의 딥러닝 혁명
SenseTotem
이미지정보연구확인
시스템
특징
v 딥러닝을 바탕으로 개발된 모호한
안면 인식 기술을 통해서 안면 검
색, 신분 검증, 얼굴데이터베이스
중복 얼굴 검색 서비스를 제공함
을 통해서 공안에 협조
v 1억개 이상의 데이터베이스 중 특
수 안면 이미지를 정확하게 얻을
수 있음
v 모바일 단말과 웹사이트 단말 등
여러 사용 방식을 제공함
v GPU구조에 대해 고도로 최적화
딥러닝 알고리즘
9. 목차 v AI 서비스는 개인화 서비스로 진화 중
v 개인화 서비스의 관건은 식별기술
v 비식별기술과 식별기술과 개인정보보호의 관계
v 정확한 식별기술은 빅데이터와 머신러닝에서
v 글로벌 AI 경쟁에서 밀리면 데이터주권마저 위험
v 개인정보보호 법제 개선
10. 9
개인식별기술의 선구자들
세계 음성인식 및 합성 분야(음성 정보를 디지털화하거나 반
대로 디지털 정보를 음성화하는 기술)의 선두자
The Microsoft Speech
API(SAPI)
인공지능과 음성인식에 있어서 모두 빅데이터가 있어야
알고리즘이 정확할 수 있음
11. 10
정확한 식별이 되지 않을 때 인권침해 발생
얼굴인식
정확
한
개인
식별
이
안되
면?
출입국 관리:
간첩, 테러 등 출입 확인
용의자 사진 대조:
경찰이 용의자의 신원에 대한 확인
온라인 범인 추격:
PDA등 모마일단말기에서의 현장 대조
실감 나는 가상 게임:
인물 이미지를 제공함을 통해서 교호성을 향상시킴
기밀 취급자에 대한 신원 확인:
불법 침입자 방지
가사 서비스 로봇:
가족구성원을 알아볼 수 있는 스마트 로봇
중요한 장소의 영상 모니터닝:
예: 은행 로비
스마트 모빌리티 고객 인식
정당한 가입자 자동인식과 이용 허락
음성인식
행동인식
지문인식
13. 12
몸짓 하나에서도 너를 느끼며
행동인식
AVA
(Atomic Visual Actions)
특징
사람을 바탕으로 한 태그: 태그가 모두 영상이나 편집과 관련이 있는 것
아니라 사람과 관련이 있음. 같은 장면에서 여러 명이 동시에 하는 다른
동작에 대해서 다른 태그를 분배하는 것임
진정한 영상을 바탕으로 한 자료: 다른 나라 또한 다른 유형의 영화를
AVA의 데이터의 출처로 하므로 데이터는 인류의 대부분 동작을 포괄함
14. 13
테러, 사이버 공격 대응 안보활동
홍채인식
공항 안전검사 반테러 행동
ATM 출금 모바일 결제
빌딩 출입구 경비 시스템
15. 목차 v AI 서비스는 개인화 서비스로 진화 중
v 개인화 서비스의 관건은 식별기술
v 비식별기술과 식별기술과 개인정보
보호의 관계
v 정확한 식별기술은 빅데이터와 머신러닝에서
v 글로벌 AI 경쟁에서 밀리면 데이터주권마저 위험
v 개인정보보호 법제 개선
16. 15
우리는 비식별기술에 집중, 식별기술 발전 더뎌
비식별기술이란?
비식별기술의 관건은?
어디서 활용될 수 있을까?
동의 없이 개인정보를 활용하기 위해 개인을 알
아 보지 못하게 만드는 기술
누군지 알아볼 수 없는 점
통계분석
고도의 비식별 조치 후에는
해당 데이터는 가용성이 떨어져
인공지능의 식별기술발전에 도움이 안됨
헬스케어
자율주행차
스마트시티
17. 16
자동화서비스에서 본인확인이 안되면?
식별기술 이란?
자동화 서비스, 맞춤형 서
비스에서 개인을 식별하지
못하면?
“개인에게 재앙 초래"
동의 하에 개인을 식별해 정확하게 맞춤형 서
비스를 제공하는 것. 자동화시대에는 대량의 개
인정보처리 발생
아리야! 카톡 읽어줘
아리야! 이메일 읽어줘
아리야! 내 사진 보여줘
아리야! 내 비트코인 보내
아리야! 내 보고서 보내…..
18. 목차 v AI 서비스는 개인화 서비스로 진화 중
v 개인화 서비스의 관건은 식별기술
v 비식별기술과 식별기술과 개인정보보호의 관계
v 정확한 식별기술은 빅데이터와
머신러닝에서
v 글로벌 AI 경쟁에서 밀리면 데이터주권마저 위험
v 개인정보보호 법제 개선
19. 18
해외인공지능과 국운을 건 경쟁…은 없다
어떤 의사에게 자신
의 몸을
맡기겠습니까?
더 좋은 서비스를 찾아 해외
서비스를 이용하시겠습니까?
10억명 기반의
인공지능 의사
VS.
1천명 기반의
인공지능 의사
본인이 인식되지
않는 결과, 제대로
된 서비스를 받지
못한다면?
그 결과 큰 손해나
부상을 입을 수 있
다면?
20. 19
필요할 경우 재식별도 가능해야
본인을 위해 재식별해
야 할 경우에도
본인의 동의를 얻어야
하므로
동의를 받아서 그
에게 위험을
알려주자!
죄송합니다.
식별할 수
없습니다.
동의를
어떻게
받지?
21. 20
개인정보와 익명정보. 가명정보는 어디에?
(a)
그 자체로
특정 개인을
식별할 수 있는 정보
(식별정보)
< 동의 획득 가능 >
(C)
다른 정보와 결합해
특정 개인을 쉽게
식별할 수 없는 정보
(익명정보)
(동의 획득 불가)
- 빅데이터의 영역 -
(b)
다른 정보와 결합해
특정 개인을
쉽게
식별할 수 있는
정보
(비식별정보)
(그 자체로 동의
획득 곤란)
개인
관련
정보
현행 개인정보보호법상 개인정보의 정의에 따른 분류
비개인
정보
개인정보 = (a)식별정보 + 비식별정보 중 (b)
가명정보의
위치 모호!
22. 목차 v AI 서비스는 개인화 서비스로 진화 중
v 개인화 서비스의 관건은 식별기술
v 비식별기술과 식별기술과 개인정보보호의 관계
v 정확한 식별기술은 빅데이터와 머신러닝에서
v 글로벌 AI 경쟁에서 밀리면
데이터주권마저 위험
v 개인정보보호 법제 개선
23. 22
글로벌 인공지능은 이미 저기 먼 곳에
미국, 중국, 러시아..전력 질주 중
Artificial intelligence is the future, not only for Russia, but for all humankind.
Whoever becomes the leader in this sphere will become the ruler of the world.
--Putin
AI가 국제 경쟁의 새로운 초점이 되었다.
-중국 국가급 계획인 “새로운 세대의 인공지능 발전 계획
新一代人工智能发展规划(2017.7.8)”
24. 23
국가 정보가 유출돼 국내에 데이터 진공상태
서비스제공자가
국내기반인지
국외기반인지
이용자들은
큰 상관 안함
필요한 서비스
초고속 인터넷
앱을 통해 이용
죄송합니다.
정보는
국내에
없습니다.
정보
좀비
국가
26. 목차 v AI 서비스는 개인화 서비스로 진화 중
v 개인화 서비스의 관건은 식별기술
v 비식별기술과 식별기술과 개인정보보호의 관계
v 정확한 식별기술은 빅데이터와 머신러닝에서
v 글로벌 AI 경쟁에서 밀리면 데이터주권마저 위험
v 개인정보보호 법제 개선
27. 26
데이터주권 놓치면 개인정보보호 곤란
집 나간 개인정보 보호하려 하기 전에 개인정보 국외유출을 막아야
§ 해외 인공지능 기반 서비스에 국가 개인정보 대 이동 예상
§ 의료 인공지능, 법률 인공지능, 공유경제, 포털, 전자상거래 등 점차 해외 기업에 종속 예상
§ 소비자의 선택(동의)로 개인정보 국외 제공하므로 법으로 막을 수 없음
국가 데이터의 대부분이 해외에 존재하는 현실에서 주권 행사에도 어려움 발생
§ 인터넷이 끊기면 나라 전체가 블랙아웃 가능
§ 중소기업은 대부분 해외 클라우드 사용 중, 중소기업이 멈추면 대기업도 멈춤, 공공기관도
글로벌 플랫폼 기업들을 향한 개인정보보호조치는 한계
28. 27
인공지능을 키워 개인정보 해외 유출 막아야
비식별정보는 학술연구 목적, 통계적으로 활용?
§ 비식별정보 = 1이상 특정 개인과 연결 가능한 정보로서 재식별이 가능한 정보
§ 익명정보 = 1이상 특정 개인과 연결 가능한 정보로서 재식별이 곤란한 정보
비식별정보는 그 자체로 특정 개인을 식별할 수 없는 정보
§ 비식별정보의 활용성을 높이지 않고서는 인공지능 시대에 똑똑한 인공지능을
만들기 곤란함
§ 비식별정보는 그 자체로 특정 개인을 식별할 수 없어 동의를 받으려면 개인을
식별할 수 있도록 ‘식별조치'를 취해야 -> 오히려 개인정보권 침해
§ 대조정보를 갖고 있지 않아 개인식별이 곤란한 비식별정보는 동의 획득 불가하
므로 식별정보보다 오히려 활용성 낮음 (보호의 역전 현상)
현재 개인정보보호법 개정안대로는 인공지능 육성에 부족
29. 28
비식별정보의 식별행위에 대한 금지 규정 없음
식별행위는 ‘수집'이 아님(개인정보보호법 제15조)
§ 정부 비식별조치 가이드라인은 처벌할 수 있다고 하나 착오
§ 재식별행위 또는 최초의 식별행위는 이미 수집한 비식별정보를 상대로 하므로 ‘
수집'으로 해석 불가
‘쉬운 결합성'은 일반인의 기준에서 처리가능한 정보를 기준으로 판단해야
§ 같은 정보도 개인정보처리자에 따라 특정 개인을 식별할 가능성이 달라짐
§ “그때 그때 달라요"가 일상적인 상황
§ 비식별정보는 개인정보처리자가 ‘결합하면 특정 개인을 식별할 수 있는 다른 정
보를 보유하거나 보유할 수 있는 상황에 있을 때‘부터 개인정보로 보아야
비식별정보의 식별행위는 현행법상 금지규정이 없어 신뢰구조 형성 곤란
비식별정보는 그 자체로는
비개인정보로 보거나,
동의 없이 처리할 수 있게
30. 29
국회 제출 ‘가명정보’ 도입 법
비식별 개인정보와 비식별 비개인정보 사이에 가명정보 추가하는 입법
§ 가명정보의 정의 : 개인정보를 가명처리함으로써 원상태로 복원하기 위한 추가
정보의 사용·결합없이는 특정 개인을 알아볼 수 없는 정보
§ 참고 : 개정법상 비식별 개인정보의 정의(해당 정보만으로는 특정 개인을 알아볼 수 없더라도 다른
정보와 쉽게 결합하여 알아볼 수 있는 정보(이 경우, 쉽게 결합할 수 있는지 여부는 다른 정보의 입
수 가능성 등 개인을 알아보는 데 소요되는 시간, 비용, 기술 등을 합리적으로 고려하여야 한다))
§ 개인정보 주무부처인 방통위는 20년 동안, 행안부는 9년 돟안 비식별 개인정보
의 구별에 대해 실무적인 가이드라인 작업을 게을리 해 옴 (일본은 50여개 산업
별 가이드라인 제정)
§ 그 결과, 차량번호, 휴대전화번호 등 비식별정보에 대해서 무조건 개인정보(비식별개인정보)라는
입장으로 방치
§ 가명정보와 비식별개인정보의 구별이 어려우면 여전히 비식별정보 활용 곤란
§ 개인정보로 판단될 위험 때문에 활용을 꺼리게 됨
§ 정부가 갑자기 가이드라인 작업을 열심히 할 것인가????
기존 개인정보 정의에 가명정보를 추가함으로써 극심한 혼란 야기할 것
31. 30
개인정보자기결정권 고양을 위한 개선안
1. 비식별정보는 동의 없이 활용, 식별행위 금지
§ 식별정보, 비식별정보 중 식별정보에만 동의제도를 적용
§ 비식별정보는 그 자체로 개인을 식별할 수 없는 정보라서 동의를 받을 수도 없으므로 동의제
도 적용은 모순. 동의 적용 없이 그 자체로 이용하게 하되, 개인식별행위는 엄격금지
§ 세이프하버 방식-비식별정보는 법정식별자를 제외한 정보로 규정함이 바람직(예: HIPPA 18
개)
2. 동의제도 선택제 도입
§ 동의를 받을 떄에 개별적 사전동의형(Opt-In), 사후동의배제형(Opt-Out)을 정보주체가 선택
§ 동의 방식에 대한 개인의 자기결정권 보장
3. 형사처벌보다 시정명령
§ 동의만 받으면 면죄부 – 정부가 개입하기 곤란하므로 오히려 개인정보보호 후퇴
§ 정부가 개인정보처리방침을 심사해서 최적화, 표준화
4. 정부의 소비자 보호 관점의 개인정보보호 업무
§ 사전동의 획득제도로는 개인정보보호 한계 달성
§ 동의획득여부 보다는 합목적성으로 불법성 판단하는 시스템으로 전환해야
비식별정보는 동의 배제