1. 강의 주제
국내외 인공지능(로봇)윤리 가이드라인
생성형 AI의 윤리적 문제
ChatGPT와 함께 살아가기
2. ‘약한 인공지능(Weak AI)’ vs ‘강한 인공지능(Strong AI)’
지식과 자의식(자아)
• 특정 분야에 특화된 인공지능
• 알파고, IBM 왓슨(Watson), 챗 GPT
약한 인공지능
• 자의식을 갖고 스스로 생각, 판단
강한 인공지능
3. 국제기구와 각국 정부가 발표한 인공지능 윤리 가이드라
인 원칙
‘인간 중심의 AI’
“모든 인공지능은 ‘인간성을 위한 인공지능’을 지향하고 인
간에 유용할 뿐만 아니라 나아가 인간 고유의 성품을 훼손
하지 않고 보존하고 함양하도록 개발되고 활용돼야 한
다”(한국 정부)
“로봇은 사생활 보호 뿐 아니라 프라이버시를 포함한 현존
하는 법규범에 부합되도록 설계되고 운용되어야 한다.”(영
국의 공학과 물리과학 연구위원회(EPSRC)
개인의 일상이 데이터로 축적되어 공개되는 상황을 우려
4. 카카오의 인공지능 알고리즘 윤리 헌장 발표(2018.01)
1. (카카오 알고리즘의 기본 원칙) 카카오는 알고리즘과 관련된 모든
노력을 우리 사회 윤리 안에서 다하며, 이를 통해 인류의 편익과 행복
을 추구한다.
2. (차별에 대한 경계) 알고리즘 결과에서 의도적인 사회적 차별이 일
어나지 않도록 경계한다.
3. (학습 데이터 운영) 알고리즘에 입력되는 학습 데이터를 사회 윤리
에 근거하여 수집∙분석∙활용한다.
4. (알고리즘의 독립성) 알고리즘이 누군가에 의해 자의적으로 훼손되
거나 영향 받는 일이 없도록 엄정하게 관리한다.
5. (알고리즘에 대한 설명) 이용자와의 신뢰 관계를 위해 기업 경쟁력
을 훼손하지 않는 범위 내에서 알고리즘에 대해 성실하게 설명한다.
6. (기술의 포용성) 알고리즘 기반의 기술과 서비스가 우리 사회 전반
을 포용할 수 있도록 노력한다.
7. (아동과 청소년에 대한 보호) 카카오는 아동과 청소년이 부적절한
정보와 위험에 노출되지 않도록 알고리즘 개빌 및 서비스 디자인 단
계부터 주의한다.
5. 네이버 AI 윤리 준칙
사람을 위한 AI 개발
사람을 위한 일상의 도구
다양성의 존중
사용자에게 다채로운 기회와 가능성 제공
합리적인 설명과 편리성의 조화
서비스의 편리함을 추구
안전을 고려한 서비스 설계
서비스의 전 과정에서 사람에게 유해한 영향을 미치지 않
는 AI 서비스를 설계
프라이버시 보호와 정보 보안
AI를 개발하고 이용하는 과정에서 개인정보 보호에 대한
법적 책임과 의무를 넘어 사용자의 프라이버시가 보호될
수 있도록 노력
6.
7. 사생활 보호와 노출에 대한 딜레마 발생
도처에 설치된 디지털 감시 기기들
각종 할인과 이벤트 당첨을 위해 개인정보를 자발적으로 제
공
테러와 범죄로부터 사회를 보호하고 사회의 안전을
위해 우리는 어디까지 우리의 사생활 정보를 (자발적
으로)노출해야 하는가?
8. ChatGPT
OpenAI에서 개발한 자연어 생성 모델
2022.11.30. 오픈
Large Language Model(LLM)사용
인간 피드백을 통한 강화 학습
인터넷, 책 등 방대한 양의 텍스트 학습을 통해 자연어를
이해하고 생성하여 인간과 비슷한 대와 경험
문맥 이해, 의미 추론, 일관되고 관련성 있는 응답 생성
생성형 AI의 윤리적 문제
23. 구텐베르크
구텐베르크의 인쇄술은 15세기에 독일의 요한네스 구텐베르크에 의해 개발된 것으로
알려져 있습니다. 이 인쇄술은 이전의 손글씨로 책을 복사하는 방식보다 훨씬 효율적
이고 대량 생산이 가능한 인쇄 기술을 제공했습니다. 구텐베르크의 인쇄술은 세계에
서 처음으로 이동형 금속활자를 사용하여 인쇄를 수행하는 것을 포함합니다. 이는 종
이에 잉크를 바르고 금속활자를 이용해 각각의 문자를 인쇄하는 방식입니다. 이 과정
은 이전의 손글씨로 복사하는 것보다 훨씬 빠르고 정확하며, 대량 생산이 기능해졌습
니다. 구텐베르크의 인쇄술은 많은 변화와 혁신을 가져왔습니다. 이전에는 책이 손으
로 일일이 복사되어 제작되었기 때문에 책의 생산량이 매우 제한적이었습니다. 그러
나 인쇄술의 도입으로 책의 생산량이 급격히 증가하게 되었습니다. 이는 책의 가격을
낮추고, 지식과 정보의 보급을 촉진하는 데 큰 도움이 되었습니다. 또한, 구텐베르크의
인쇄술은 정보의 보존과 전파에도 많은 영향을 미쳤습니다. 이전에는 지식이 주로 교
리자나 사제 등 소수의 교육된 사람들에게만 제한되어 있었습니다. 그러나 인쇄술의
도입으로 지식은 대중화되었고, 사람들 사이에서 정보가 더 쉽게 공유되고 전파될 수
있게 되었습니다. 이것은 교육과 학문의 발전을 촉진하며, 문화와 사회에 큰 영향을
미쳤습니다. 따라서, 구텐베르크의 인쇄술은 문자 혁명을 가져와 많은 변화와 혁신을
이끌었습니다. 책의 생산과 보급을 촉진하고, 지식과 정보의 대중화를 이루어 냄으로
써 현대 사회의 발전에 큰 기여를 했습니다.
24. 금속활자인쇄술은 쉽고 간편하게 책을 제작해 민중들에게 그것이 널리
유포될 수 있도록 하였다. 이 기술이 개발되기 전에는 한 권의 책을 만들
기 위해서는 고단한 필사 작업을 거쳐야 했다. 이렇게 만들어진 귀한 책은
성직자나 지식인들의 것이었고 이에 따라 자식의 독점이 이루어졌다. 그
러나 금속활자 인쇄술로 만들어진 구텐베르크 성서가 일반 민중들의 손
에 들어가게 되자 지식인들의 말만 따르던 민중들은 이제 스스로 성서를
읽고 해석할 수 있게 됐다. 문자를 통한 지식 습득이 성직자와 지식인의
범위를 넘어 대중들에게까지도 확산 되었다는 의미이며 이것이 곧 민중
문자와 지식에 관한 발전이고 혁명을 뜻하는 것이다.
30. 영화 <설리 허드슨강의 기적>
US 에어웨이즈 1549편 불시착 사고를 배경으로 한 실화 영화
라과디아 공항에서 이륙한 지 2분 뒤, 갑자기 날아든 새떼와 충돌하는 버드
스트라이크 사태가 발생하여 엔진 2개가 동시에 나가 버린다. 동력을 잃은 비
행기는 천천히 추락하기 시작했다. 해당 기체의 기장이었던 체슬리 ‘설리’ 설
렌버거 3세(당시 57세)는 긴박한 상황에서도 침착하게 상황을 정리하고 가장
가까운 공항을 찾았다.
고도가 낮아 라과디아 공항으로 돌아가는 것도 근처 공항에 착륙하는 것도 불
가능했다. 동력을 상실했기 때문에 기체는 글라이더처럼 활공 중이었고 억지
로 멀리 가려 하거나 급격히 방향을 바꿀 경우 운동 에너지를 허공에서 다 소
비해버려 추락할 수 있기 때문이다. 이런 급박한 상황에서 기장은 가장 가까
운 허드슨 강에 비상 착륙하기로 결심하고 관제탑에 이를 알리자 관제사와 부
조종사는 매우 당황한다…
연방교통안전위원회(NTSB)는 A320 시리즈의 엔진 정지 시 비상 메뉴얼이 너
무 수동적이고 복잡하다는 사실을 알게 되었다. 조사관들은 조종사가 몇몇 조
치를 무시하고 매뉴얼에는 없는 필요한 조치를 하지 않았다면 비행기가 뉴욕
시가지에 추락했거나 강에 무사히 착수할 수 없었을 것이란 결론을 내었다.
https://www.youtube.com/watch?v=pwvhDL307OE
