KERIS 학술정보 글로벌 동향 2019년 Vol.10
인공지능 기술이 학술연구, 의료 등 전문분야를 넘어 일상생활로 파고들면서 인공지능의 오류에 대한 우려 또한 함께 증가하고 있음. 흔히 인공지능 블랙 박스로 부르는 이런 문제점들과 이를 해결하기 위한 대안으로 설명 가능한 인공지능에 대해 살펴보고 학술연구, 도서관에서의 활용성을 검토함
ChatGPT is a natural language processing technology developed by OpenAI. This model is based on the GPT-3 architecture and can be applied to various language tasks by training on large-scale datasets. When applied to a search engine, ChatGPT enables the implementation of an AI-based conversational system that understands user questions or queries and provides relevant information.
ChatGPT takes user questions as input and generates appropriate responses based on them. Since this model considers the context of previous conversations, it can provide more natural dialogue. Moreover, ChatGPT has been trained on diverse information from the internet, allowing it to provide practical and accurate answers to user questions.
When applying ChatGPT to a search engine, the system searches for relevant information based on the user's search query and uses ChatGPT to generate answers to present along with the search results. To do this, the search engine provides an interface that connects with ChatGPT, allowing the user's questions to be passed to the model and the answers generated by the model to be presented alongside the search results.
Artificial Intelligence AI (Yapay Zeka)M. Cahit B.
Yapay Zeka; ‘İnsanlar tarafından yapıldığında zeka gerektiren şeyleri makinelere yaptırma arayışıdır’ *Marvin Minsky
Minsky defined AI as “the science of making machines do things that would require intelligence if done by men.
ChatGPT is a natural language processing technology developed by OpenAI. This model is based on the GPT-3 architecture and can be applied to various language tasks by training on large-scale datasets. When applied to a search engine, ChatGPT enables the implementation of an AI-based conversational system that understands user questions or queries and provides relevant information.
ChatGPT takes user questions as input and generates appropriate responses based on them. Since this model considers the context of previous conversations, it can provide more natural dialogue. Moreover, ChatGPT has been trained on diverse information from the internet, allowing it to provide practical and accurate answers to user questions.
When applying ChatGPT to a search engine, the system searches for relevant information based on the user's search query and uses ChatGPT to generate answers to present along with the search results. To do this, the search engine provides an interface that connects with ChatGPT, allowing the user's questions to be passed to the model and the answers generated by the model to be presented alongside the search results.
Artificial Intelligence AI (Yapay Zeka)M. Cahit B.
Yapay Zeka; ‘İnsanlar tarafından yapıldığında zeka gerektiren şeyleri makinelere yaptırma arayışıdır’ *Marvin Minsky
Minsky defined AI as “the science of making machines do things that would require intelligence if done by men.
제 16회 보아즈(BOAZ) 빅데이터 컨퍼런스 - [Secret X 팀] : XAI를 활용한 수능 영어영역 문제풀이BOAZ Bigdata
데이터 분석 프로젝트를 진행한 Secret X 팀에서는 아래와 같은 프로젝트를 진행했습니다.
비밀집단에서는 영어 문제를 풀고 XAI를 이용해 이를 해설합니다.
17기 권강미 연세대학교 문헌정보학과
17기 김지수 고려대학교 통계학과
17기 이수경 성균관대학교 데이터사이언스전공
최근 글로벌 혁신의 트렌드인 AI의 다양한 사례를 살펴보고 단계적으로 어떻게 접근하고 준비해야 할지를 알려드립니다. 이미지/비디오 인식 등 AI 어플리케이션의 유형과 트렌드를 전달드립니다. 특히 AWS AI 서비스를 성공적으로 도입하고 활용하기 위한 전략을 살펴보고 사례를 통한 Use Case를 통해 단계별 접근 전략을 소개드립니다. 이번 세미나를 통해 최신 AI트렌드와 정의, 그리고 사례 기반의 도입 유형, 접근 전략과 방법론 등을 알 수 있습니다.
더 많은 AWS 온라인 세미나 알아보기: https://aws.amazon.com/ko/events/webinars/series
제10회 보아즈(BOAZ) 빅데이터 컨퍼런스 - 밑바닥부터 시작하는 trivago 추천시스템BOAZ Bigdata
밑바닥부터 시작하는 trivago 추천시스템
: '수백만개의 호텔 중에서 나한테 왜 이 호텔을 추천해준 거지?'
내 화면에 보이는 호텔은 수백만개의 호텔 중 아주 일부란 사실 알고 계신가요?
데이터 관심 있는 사람이라면 한 번쯤 궁금했을 추천 시스템!
Trivago의 실제 로그 데이터를 가지고 직접 밑바닥부터 구현해 보았습니다.
그리고 직접 만든 추천 시스템 시연까지!
이제는 "뭘 좋아할지 몰라서 다 준비"하지 않아도 돼요.
왜냐하면 우린 당신이 좋아할 것을 알고 있거든요.
일상이 된 추천 서비스들, 이제는 알고 이용해봐요!
11기 신승진 박보정 박효선 위승민
[국내 최초 빅데이터 연합동아리 BOAZ]
유튜브 - https://www.youtube.com/channel/UCSniI26A56n2QZ71opJtTUg
페이스북 - https://www.facebook.com/BOAZbigdata
인스타그램 - http://www.instagram.com/boaz_bigdata
블로그 - https://blog.naver.com/boazbigdata
AI and Machine Learning Revolution_ Transforming Digital Marketing for Succes...EtoutsSeo
This presentation explores how the revolutionary technologies of artificial intelligence (AI) and machine learning are transforming the digital marketing landscape. It delves into the profound impact these technologies have on various aspects of marketing, from customer experiences to advertising and beyond. The presentation discusses the importance of personalization in marketing and how AI and machine learning enable personalized marketing through customer segmentation and behavior analysis.
It further highlights the role of AI in predictive analytics, showcasing how data-driven decision-making is enhanced through AI and machine learning algorithms. The presentation explains how these algorithms enable predictive analytics, providing marketers with valuable strategic planning and optimization insights.
Additionally, the presentation delves into how AI and machine learning technologies are revolutionizing content creation and curation. It explores AI-generated content, automated content creation tools, and content recommendation systems, highlighting their benefits in improving efficiency and delivering highly relevant content to target audiences.
Moreover, the presentation discusses the impact of AI and machine learning on advertising and marketing automation. It explains how AI optimizes ad targeting, bidding, and campaign management, leading to improved results and increased ROI. It showcases successful examples of AI-driven advertising and marketing automation implementations in practice.
The presentation also addresses the significance of AI in search engine optimization (SEO), examining how AI-driven techniques such as keyword research, content optimization, and SERP analysis contribute to improving website rankings and visibility in search engine results.
Furthermore, the ethical considerations associated with AI and machine learning in marketing are discussed, including data privacy, bias, transparency, and the need for human oversight. The limitations and challenges of AI in marketing are also acknowledged, emphasizing the importance of human intervention and ethical decision-making alongside AI technologies.
Overall, this presentation provides valuable insights into how AI and machine learning are revolutionizing digital marketing. It showcases the opportunities, advancements, and ethical considerations that marketers should be aware of to leverage these technologies successfully to achieve marketing success in the digital era.
Note (2017-07-12): a more recent version of this slide has been released. https://www.slideshare.net/ByoungHeeKim1/20170629-osia-final
Introduction to deep learning approaches for artificial intelligence (with some practice materials) (mostly in Korean)
(서울대학교 인지과학협동과정, 인지과학방법론 2016년 2학기 강의)
Continuous Delivery of Deep Transformer-Based NLP Models Using MLflow and AWS...Databricks
Transformer-based pre-trained language models such as BERT, XLNet, Roberta and Albert significantly advance the state-of-the-art of NLP and open doors for solving practical business problems with high-performance transfer learning. However, operationalizing these models with production-quality continuous integration/ delivery (CI/CD) end-to-end pipelines that cover the full machine learning life cycle stages of train, test, deploy and serve while managing associated data and code repositories is still a challenging task. In this presentation, we will demonstrate how we use MLflow and AWS Sagemaker to productionize deep transformer-based NLP models for guided sales engagement scenarios at the leading sales engagement platform, Outreach.io.
AI_introduction and requirements(2024.05.12).pdfLee Chanwoo
AI_introduction and requirements, Considerations for introducing artificial intelligence, understanding machine learning, artificial intelligence security, considerations for introducing ChatGPT, future of generative AI
제 16회 보아즈(BOAZ) 빅데이터 컨퍼런스 - [Secret X 팀] : XAI를 활용한 수능 영어영역 문제풀이BOAZ Bigdata
데이터 분석 프로젝트를 진행한 Secret X 팀에서는 아래와 같은 프로젝트를 진행했습니다.
비밀집단에서는 영어 문제를 풀고 XAI를 이용해 이를 해설합니다.
17기 권강미 연세대학교 문헌정보학과
17기 김지수 고려대학교 통계학과
17기 이수경 성균관대학교 데이터사이언스전공
최근 글로벌 혁신의 트렌드인 AI의 다양한 사례를 살펴보고 단계적으로 어떻게 접근하고 준비해야 할지를 알려드립니다. 이미지/비디오 인식 등 AI 어플리케이션의 유형과 트렌드를 전달드립니다. 특히 AWS AI 서비스를 성공적으로 도입하고 활용하기 위한 전략을 살펴보고 사례를 통한 Use Case를 통해 단계별 접근 전략을 소개드립니다. 이번 세미나를 통해 최신 AI트렌드와 정의, 그리고 사례 기반의 도입 유형, 접근 전략과 방법론 등을 알 수 있습니다.
더 많은 AWS 온라인 세미나 알아보기: https://aws.amazon.com/ko/events/webinars/series
제10회 보아즈(BOAZ) 빅데이터 컨퍼런스 - 밑바닥부터 시작하는 trivago 추천시스템BOAZ Bigdata
밑바닥부터 시작하는 trivago 추천시스템
: '수백만개의 호텔 중에서 나한테 왜 이 호텔을 추천해준 거지?'
내 화면에 보이는 호텔은 수백만개의 호텔 중 아주 일부란 사실 알고 계신가요?
데이터 관심 있는 사람이라면 한 번쯤 궁금했을 추천 시스템!
Trivago의 실제 로그 데이터를 가지고 직접 밑바닥부터 구현해 보았습니다.
그리고 직접 만든 추천 시스템 시연까지!
이제는 "뭘 좋아할지 몰라서 다 준비"하지 않아도 돼요.
왜냐하면 우린 당신이 좋아할 것을 알고 있거든요.
일상이 된 추천 서비스들, 이제는 알고 이용해봐요!
11기 신승진 박보정 박효선 위승민
[국내 최초 빅데이터 연합동아리 BOAZ]
유튜브 - https://www.youtube.com/channel/UCSniI26A56n2QZ71opJtTUg
페이스북 - https://www.facebook.com/BOAZbigdata
인스타그램 - http://www.instagram.com/boaz_bigdata
블로그 - https://blog.naver.com/boazbigdata
AI and Machine Learning Revolution_ Transforming Digital Marketing for Succes...EtoutsSeo
This presentation explores how the revolutionary technologies of artificial intelligence (AI) and machine learning are transforming the digital marketing landscape. It delves into the profound impact these technologies have on various aspects of marketing, from customer experiences to advertising and beyond. The presentation discusses the importance of personalization in marketing and how AI and machine learning enable personalized marketing through customer segmentation and behavior analysis.
It further highlights the role of AI in predictive analytics, showcasing how data-driven decision-making is enhanced through AI and machine learning algorithms. The presentation explains how these algorithms enable predictive analytics, providing marketers with valuable strategic planning and optimization insights.
Additionally, the presentation delves into how AI and machine learning technologies are revolutionizing content creation and curation. It explores AI-generated content, automated content creation tools, and content recommendation systems, highlighting their benefits in improving efficiency and delivering highly relevant content to target audiences.
Moreover, the presentation discusses the impact of AI and machine learning on advertising and marketing automation. It explains how AI optimizes ad targeting, bidding, and campaign management, leading to improved results and increased ROI. It showcases successful examples of AI-driven advertising and marketing automation implementations in practice.
The presentation also addresses the significance of AI in search engine optimization (SEO), examining how AI-driven techniques such as keyword research, content optimization, and SERP analysis contribute to improving website rankings and visibility in search engine results.
Furthermore, the ethical considerations associated with AI and machine learning in marketing are discussed, including data privacy, bias, transparency, and the need for human oversight. The limitations and challenges of AI in marketing are also acknowledged, emphasizing the importance of human intervention and ethical decision-making alongside AI technologies.
Overall, this presentation provides valuable insights into how AI and machine learning are revolutionizing digital marketing. It showcases the opportunities, advancements, and ethical considerations that marketers should be aware of to leverage these technologies successfully to achieve marketing success in the digital era.
Note (2017-07-12): a more recent version of this slide has been released. https://www.slideshare.net/ByoungHeeKim1/20170629-osia-final
Introduction to deep learning approaches for artificial intelligence (with some practice materials) (mostly in Korean)
(서울대학교 인지과학협동과정, 인지과학방법론 2016년 2학기 강의)
Continuous Delivery of Deep Transformer-Based NLP Models Using MLflow and AWS...Databricks
Transformer-based pre-trained language models such as BERT, XLNet, Roberta and Albert significantly advance the state-of-the-art of NLP and open doors for solving practical business problems with high-performance transfer learning. However, operationalizing these models with production-quality continuous integration/ delivery (CI/CD) end-to-end pipelines that cover the full machine learning life cycle stages of train, test, deploy and serve while managing associated data and code repositories is still a challenging task. In this presentation, we will demonstrate how we use MLflow and AWS Sagemaker to productionize deep transformer-based NLP models for guided sales engagement scenarios at the leading sales engagement platform, Outreach.io.
AI_introduction and requirements(2024.05.12).pdfLee Chanwoo
AI_introduction and requirements, Considerations for introducing artificial intelligence, understanding machine learning, artificial intelligence security, considerations for introducing ChatGPT, future of generative AI
오컴 Clip IT 세미나 1회차 "머신러닝과 인공지능의 현재와 미래"
1. 인공지능과 머신러닝
- 영화 및 애니메이션에 나타나는 친화적 인공지능과 적대적 인공지능, 그리고 감성적 인공지능
- 강한 인공지능과 약한 인공지능의 차이
- 인공지능과 머신러닝의 관계
2. 딥러닝과 강화학습
- 인공지능의 중요 열쇠이자 머신러닝의 세부 이론인 딥러닝과 강화학습에 대한 개괄 소개
3. 인공지능에 대한 우리의 자세
- 과연 인공지능은 완벽한가?
- 과연 인공지능은 인간 전문가를 대체할 수 있을까?
- 데이터의 중요성
2018 UX 트렌드 리포트_파트1 (공개판)
라이트브레인의 여섯 번째 UX 트렌드 리포트 ‘UX Discovery 제6호 Part-1’ 공개
2019년 1월에 공개된 UX Discovery 7호 내용 중 그 첫번째 파트를 바로 보실 수 있도록 슬라이드쉐어를 통해 공개합니다.
PART 1
- AI
- ROBOT
- CAR
- CHATBOT
- IoT
PART 2
- VR/AR/MR
- HEALTHCARE
- INTERACTION
- PRODUCT/WEARABLE
- APP
UX 트렌드 리포트 'UX Discovery' 구독신청
http://www.rightbrain.co.kr/CMS/ux-discovery-subscribe/
* 구독신청을 하시면 최신 UX트렌드 리포트 발간시 가장 먼저 받아보실 수 있습니다.
2017년 라이트브레인의 네 번째 UX 트렌드 리포트 ‘UX Discovery 제4호’
2017년 상반기동안 라이트브레인 UX1 컨설팅그룹에서 수집하고 선별한 의미있는 UX 사례들을 총 200여 페이지, 13개 분야로 나누어 정리하였으며 아이템별로 라이트브레인만의 UX 인사이트를 함께 수록했습니다.
UX 관련 업계 종사자들이 보다 양질의 정보를 접할 수 있도록 돕고, 눈앞에 다가온 4차산업혁명시대를 전망하고 준비하시는 데 있어 귀한 인사이트를 얻고 더 많은 도전을 할 수 있도록 지원하고자 라이트브레인 블로그와 슬라이드쉐어를 통해 1,2부로 나눠 바로 보실 수 있도록 순차적으로 공개하며,
뉴스레터 구독자분들에 한해 무료로 리포트를 pdf파일로 보내 드리고 있습니다.
PDF파일 무료구독 신청접수 :
http://www.rightbrain.co.kr/CMS/discovery4/
- Agenda-
Part-1
Artificial Intelligence
Robot
Car
ChatBot
VUX
Part-2 (곧 공개됩니다)
Wearable
New Interaction
VR/AR
IoT/Product
Commerce
New App
Healthcare
최근 몇년간 딥러닝으로 대표되는 AI 기술의 눈부신 발전으로 AI가 일부 분야에서 인간의 지각, 인식, 판단 능력에 근접하거나 앞지르는 성과들을 이루면서, 큰 기대와 함께 우려의 목소리가 점점 높아져가고 있다. 이에 대해 국제사회가 연대하여 대응하는 차원에서 2017년 1월 미국의 Future of Life Institute에서 Asilomar 원칙을 발표했고, 작년 한국에서는 지능정보사회 윤리 가이드라인과 로봇윤리헌장(가이드라인)을 발표했으며, 올해 4월에는 IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems에서 Ethically Aligned Design 1판을 발표했다. 또 비슷한 시기에 EU에서는 Ethics Guidance for Trustworthy AI, UNESCO에서는 Preliminary Study on the ethics of AI, OECD에서는 Recommendation of the Council on AI를 발표하는 등 다양한 국제적 기관에서 AI를 개발하고 사용하는 데 있어 필요한 가이드라인 또는 원칙들을 경쟁적으로 발표하고 있다.
본 세미나에서는 글로벌 AI리더로 성장하고 있는 네이버에 이러한 AI Ethics 관련 원칙과 가이드라인들을 소개하고 공통점과 차별성을 비교 분석하며, 투명성과 설명가능성을 AI에 구현하는 사례를 소개함으로써, 네이버의 AI 서비스 및 제품에 윤리적 원칙들을 적용하여 개발하는 방법에 대해 제안하고 토론하는 시간을 가지고자 한다.
KERIS 학술정보 글로벌 동향 2019년 Vol.2
대학도서관은 학술 연구자라는 중요한 목표 이용자와 결과물에 대한 서비스 지원을 위해 노력해 옴. 오픈 사이언스는 새로운 열린 학술 연구 생태계를 대표하는 용어이며, 관련 도구는 학술 출판 생애주기 전체를 지원함. 데이터 중심의 개방 지향적 정보화 환경에서 도서관은 이전보다 적극적으로 학술 커뮤니케이션 전반에 대한 이해와 지원을 위한 서비스 시대에 대응해야함
1. 1
Vol.10. IT 기반 분야
지
능
정
보
기
술
기
반
서
비
스
데
이
터
기
반
학
술
서
비
스
AI에게 이유를 묻다: 설명 가능한 인공지능(XAI: eXplainable AI)
1
인공지능 기술이 학술연구, 의료 등 전문분야를 넘어 일상생활로 파고들면서 인공지능의 오류에
대한 우려 또한 함께 증가하고 있음. 흔히 인공지능 블랙 박스로 부르는 이런 문제점들과 이를
해결하기 위한 대안으로 설명 가능한 인공지능에 대해 살펴보고 학술연구, 도서관에서의
활용성을 검토함
1. 배경
1) 알파고(AlphaGo)가 가져온 기대와 우려
우리에게는 이세돌 9단과의 대결로 엄청난 흥행과 관심을 유발한 기계와 사람간의 게임을
매개로 한 대결은 최근의 일은 아님
이미 1996년 IBM의 체스 게임 기계 딥 블루(Deep Blue)는 세계 체스 챔피언 가리 카스
파로프(Га́рри Ки́мович Каспа́ров)를 상대로 승리한 바 있음
이 대결의 최종 결과는 카스파로프의 승리였지만 최초로 인간을 이긴 기계로 기록되었고,
이후 딥 블루는 1997년 디퍼 블루(Deeper Blue)라는 이름으로 재대결에서 최종 승리를
거둠
같은 해 로지스텔로(Logistello)는 오델로 세계 챔피언 무라카미 타케시(Murakami
Takeshi)와 대결에서 6전 전승으로 승리함
2011년 IBM은 자연어 처리가 가능한 인공지능 시스템 왓슨(Watson)으로 퀴즈쇼
제퍼디(Jeopardy)에서 승리함
그러나 바둑처럼 복잡한 게임에서 기계가 인간을 이기는 것은 좀 더 오랜 시간이 걸린다는
예측이 대부분이었으며, 과학계의 다양한 전문가들도 이세돌과 알파고의 대결에서 이세돌의
우세를 점쳤음1)
1) 이세돌-알파고 ‘반상대결’ 과학계도 예측 엇갈려. 2016. 3. 6.『한겨레』.
<http://www.hani.co.kr/arti/science/science_general/733490.html> [online][cited 2019.07.20.]
2. 2
2019학술정보 글로벌 동향
결과적으로 2016년 3월 9일부터 15일까지의 5회 대결에서 알파고는 이세돌과의 대결에서
4:1 승리를 가져갔고 일반 대중의 인공지능에 대한 관심과 우려가 증폭하는 계기로 작용함
알파고는 딥 블루, 왓슨과 다르게 인공지능이 보다 일반적인 상황 즉 일상생활로 파고들고
있다는 증거로 볼 수 있음2)
이 후 국내외에서 인공지능의 발전에 대한 관심이 지속적으로 증가했으며, 부작용에 대한
부정적 시선과 우려 또한 증가함
<그림 1>은 Google Trends에서 XAI 키워드에 대한 관심도 변화를 추적한 것임
[그림 1] Google Trends로 확인한 XAI에 대한 관심도 변화
Google Trends에서의 데이터 수집 방식 변경이 2016년에 있었다는 점을 감안하더라도
2016년 이후 XAI에 대한 관심도 변화가 꾸준히 증가하고 있음을 확인할 수 있으며, 앞서
언급처럼 학술적인 영역을 넘어서 일반 시민과 일상생활로 AI가 확대하면서 관심도가 더욱
높아지고 있음을 짐작할 수 있음
2) 인공지능(Artificial Intelligence, AI)의 시작과 도약
인공지능의 구현 가능성과 아이디어는 본격적인 컴퓨터 장치가 개발 보급되기 전인 1950년
영국 수학자 앨런 튜링(Alan Mathison Turing)이 시작함3)
앨런 튜링은 1950년 ‘계산 기계와 지성(Computing Machinery and Intelligence)’에서
컴퓨터의 지능 여부를 판단하기 위한 시험 방법을 제안했는데 이것이 오늘날 잘 알려진
튜링 테스트임
2) AlphaGo: Google's artificial intelligence to take on world champion of ancient Chinese board game.
2016. 『Australian Broadcasting Corporation』. 3월 9일.
<https://www.abc.net.au/news/2016-03-08/google-artificial-intelligence-to-face-board-game-champion/7231192>.
[online][cited 2019.07.20.]
3) Lass`egue, Jean. 2003. Turing. 임기대 옮김. 2003. 『튜링: 인공지능 창시자』. 서울: 東文選.
3. 3
Vol.10. IT 기반 분야
지
능
정
보
기
술
기
반
서
비
스
데
이
터
기
반
학
술
서
비
스
앨런 튜링은 이 논문에서 시험 방법 외에 지능 기계의 개발 가능성과 학습하는 기계에
대해서도 함께 기술하여 일반적으로 앨런 튜링을 인공지능의 시초로 봄
1950년 이후 2000년까지 인공지능을 구현하기 위한 다양한 노력으로 새로운 알고리즘,
이론들이 등장했지만 사람들의 기대를 충족시키기에는 부족했음
- 오늘날 인공지능의 핵심을 이루는 퍼셉트론(Perceptron: 인공신경망 1958년 등장),
데이터 마이닝(1970년대 이후), 전문가 시스템(Expert System: 지식베이스와 추론을
근간으로 한 시스템) 등이 비교적 초기에 등장했으나 최근에 빛을 보고 있음
2000년 이후 웹의 구조화와 다양한 오픈 데이터(open data)의 양이 증가하고 기계 학습은
물론 기계 독해력(Machine Reading Comprehension)이 가능한 데이터의 증가로 인공지능
기술을 활용한 다양한 응용서비스가 등장함
기계독해는 기계가 주어진 문서를 읽고 그와 관련된 질문을 할 경우 정답을 찾아 답해주는
시스템에 활용하는데 대표적인 데이터셋이 스탠포드 대학의 SQuAD임
[그림 2] SQuAD 홈페이지(출처: https://rajpurkar.github.io/SQuAD-explorer/explore/v2.0/dev/)
- SQuAD는 위키피디아 문서를 기반으로 질의, 응답, 해당 문장을 함께 데이터로 제공
- 학습용 데이터용 활용 가능(질문-정답-정답 단락의 트리플 구조)
4. 4
2019학술정보 글로벌 동향
국내의 경우도 인공지능 학습을 위한 학습용 한글 데이터셋 구축이 이루어지고 있음
[그림 3] AIHUB(출처: http://www.aihub.or.kr/)
- AI Chatbot, 안면인식 등 지능형 서비스 구현에 필요한 지식베이스와 기계학습용
데이터를 제공함
- 법률, 특허, 관광, 농업, 일반상식, 이미지, 헬스케어별 지식베이스와 학습용 데이터를
제공함
- 지식베이스는 온톨로지로 제공하며 관련 데이터는 RDF 형태를 유지함
현재는 인공지능 스피커, 자율주행 자동차, 챗봇(Chat Bot) 등 다양한 서비스가 등장하면서
본격적인 AI 시대를 맞이하고 있음
2. 현황
인공지능의 오류 사례
마이크로소프트의 인공지능 챗봇 테이(Tay)
- 2016년 3월 트위터(twitter)로 서비스를 시작했으나 인종차별, 성차별, 히틀러 옹호,
혐오와 폭력 발언으로 문제를 일으켜 24시간 만에 운영을 중단하여 현재(2019년
7월)까지 서비스를 재개하지 못하고 있음
- 같은 해 12월 마이크로소프트는 매시징 앱 킥(KiK)에서 사용가능한 새 인공지능 챗봇
조(Zo)를 발표했으나 정치 등 민감한 주제에 대해서는 응답하지 않도록 제한하였음
마이크로소프트의 사례는 가장 일반적이고 활발하게 사용하고 있는 인공지능 챗봇에 관한
것이며, 그 외 다양한 분야에서 오류와 원인이 밝혀지고 있음
<표 1>은 다양한 사례를 소개하고 있는 The Science Times4)의 기사를 요약한 것임
5. 5
Vol.10. IT 기반 분야
지
능
정
보
기
술
기
반
서
비
스
데
이
터
기
반
학
술
서
비
스
구분 사례 원인
범죄
2013년~2014년 미국 플로리다주 브로워드 카운티(Broward County)
약 18,000명의 범죄자를 중심으로 향후 2년 내 재발 가능성을 확인하기
위한 범죄 예측 알고리즘 분석
그 결과 흑인이 백인보다 45% 높게 범죄 재발 가능성이 높음을 파악
그러나 동일 기간 내 실제 데이터 분석결과 백인의 재범율이 흑인 보다 높음
인간이 가진
인종차별의 편견이
컴퓨터 알고리즘에
영향
드론
(무인기사고)
영국 히스로공항에서 착륙하던 항공기와 드론으로 보이는 물체가 충돌
미국 매사추세츠 주에서는 드론이 오작동해 인근 건물과 충돌하고 인명 피해
발생
일본 총리 관저 옥상에서 미량의 방사성 물질이 든 드론 발견
오류, 오작동
로봇
미국 캘리포니아 쇼핑몰에서 순찰 중이던 나이트스코프사의 로봇 ‘K5’는
16개월 아기를 들이 받음
중동 예멘에서 무인기에 탑재한 인공지능 프로그램이 오작동을 일으켜
결혼식장을 향하던 차량을 공격해 10여 명이 사망하는 대형 사고 발생
오류, 오작동
금융
2010년 인공지능이 특정한 매도 거래에 과도하게 개입하는 오류가 발생해
다우존스 지수가 1분 만에 998.5포인트가 급락(당시 손실액은 1조 달러)
2012년 미국 뉴욕 초단타 매매에서 인공지능시스템 오류 발생으로 440만
달러 손실 발생
오류, 오작동
<표 1> 다양한 분야에서의 인공지능 오류
유럽연합의 일반 개인정보 보호법
기술발전과 문제점들이 계속 등장하면 이에 대처하기 위한 기술적 조치도 필요하지만
사회적 안전장치인 법, 제도 측면에서의 규정도 필요함
발 빠르게 대처한 곳이 유럽연합으로 2018년 5월 25일 일반 개인정보 보호법(General
Data Protection Regulation, GDPR)을 시행하였음
- 이는 인공지능의 오류로 발생하는 문제는 인간의 기본권을 침해할 소지가 있다는 배경을
갖고 있음
- 특히, 기계학습, 딥 러닝 기술을 활용해 특정 개인의 정보를 취합하여 예측, 추론하는
과정에서 특정 개인이나 집단 정보를 활용해 프로파일링(profiling)을 구현하는 것 자체가
기본권을 침해한다고 보고 있음
- 오늘날 다양한 서비스에서 추천 등의 형태로 우리에게 전달하는 정보는 개인의 선호,
관심사, 신용도, 위치 등의 수집하여 분석한 결과임
- GDPR 22조는 ‘프로파일링을 포함한 자동화된 의사결정’을 다루고 있는데, 알고리즘에
의한 자동화된 결정 대신 인간이 개입할 권리를 기술하고 있음
4) 인공지능 오작동, 새로운 위험. 2019. 『The Science Times』. 7월 1일. [online][cited 2019.07.01.]
<https://bit.ly/2XMXG5C>
6. 6
2019학술정보 글로벌 동향
인공지능 블랙 박스(AI Black Box)
블랙 박스는 컴퓨팅, 엔지니어링 및 일반적인 과학분야에서 내부 구조를 구분하는 다양한
방식 중 하나임5)
- 보통 블랙 박스(black box), 화이트 박스(white box), 회색 박스(grey box)로 구분
하는데 블랙 박스는 내부 설계, 구조에 대한 정보를 알 수가 없는 다시 말해 비공개를 의미
하며, 화이트 박스는 완전히 노출한 것을 의미함
인공지능 분야에서 블랙 박스는 시스템이 내놓은 답변이나 결론의 과정 혹은 방법에 대해 적절한
설명이 없을 경우를 말함
- 특히 인공지능 분야 중 딥러닝(Deep Learning)이 발전하면서 은닉층(hidden layer)의
복잡한 구조, 다시 말해 학습 신경망 내의 수많은 관계와 연결을 사람이 이해하거나 추적
하는 것은 거의 불가능함
- 인공지능 블랙 박스는 다른 말로 불투명성이라고도 하는데 인공지능이 결정을 추론하는
방법과 과정을 이용자는 물론 개발, 설계자조차 알 수 없는 경우를 의미함
- 의사결정 방식과 과정을 모른다는 것은 향후 발생할 수 있는 실패의 가능성이 커지거나
실패 확률은 적더라도 그로 인해 발생하는 피해가 막대할 수 있는 점에서 위험성이 큼
- 또한 누군가 악의적으로 알고리즘을 조작하거나 특정 사안에 대해 편향성을 보일 경우
인공지능 기술 자체에 대한 신뢰도 문제로 이어질 수 있음
블랙 박스가 모든 인공지능 관련 문제의 원인은 아니지만 결과에 대한 과정, 이유를 알
수 없다는 점에서 가장 주목해야하는 원인 중 하나임
인공지능을 구현하기 위해서는 다양한 기술적 요소들과 데이터가 필요함
- 서두에 언급한 것처럼 70∼80년대 전문가 시스템은 운영에 필요한 데이터에 해당하는
지식베이스와 결과 도출이 가능한 추론 엔진과 추론 알고리즘, 언어 등이 필요함
- 전문가 시스템 발전이 지속적으로 이어지지 못한 것은 데이터와 기술 기반의 미성숙에도
기인하지만 기계가 제시한 답변에 대한 이해의 어려움도 존재함
- ‘설명 가능한 인공지능(Explainable AI, XAI)’에 대한 논의는 이때부터이지만 본격적인
방법 제시와 필요성은 최근 다양한 서비스가 등장하면서 부터이며 인터넷의 핵심 기술은
개발한 미국 국방성의 연구개발부서 DARPA(Defense Advanced Research Projects
Agency)가 주도하고 있음
5) Suman, R. R., Mall, R., Sukumaran, S., & Satpathy, M. (2010). Extracting State Models for Black-Box
Software Components. Journal of Object Technology, 9(3), 79-103.
7. 7
Vol.10. IT 기반 분야
지
능
정
보
기
술
기
반
서
비
스
데
이
터
기
반
학
술
서
비
스
3. 주요 내용
인공지능에 활용하기 적합한 데이터의 양적 증대와 기술적 진보가 이룬 성과는 대단하지만
여전히 이용자인 사람은 왜, 어떻게, 언제 문제가 발생하는지 정확한 파악이 어려움
인공지능의 성공에 결정적인 역할을 한 것은 기계학습, 특히 딥 러닝(Deep Learning)의
성공에 있다고 볼 수 있음
대표적인 사례가 구글의 알파고(AlphaGo)로 알파고는 기보 학습을 넘어 스스로 학습할
수 있는 단계까지 진보하였음
※ 초기 AlphaGo는 바둑 기보를 학습한 인공지능 모델이며 가장 최근 버전인 AlphaZero는
AlphaGo Zero 인공지능과 대결을 통해 스스로 학습한 인공지능임
그러나 바둑과 같은 게임과 달리 일상생활에 인공지능을 적용하기에는 인공지능 시스템의
의사결정을 설명할 수 없는 시스템이 갖는 문제점을 보완할 필요가 있음
즉, 인간과 공생하기 위해서는 인공지능을 신뢰할 수 있어야하며 현재 제시하는 설명할
수 있는 인공지능을 통해 어떤 방법으로 왜 결과를 도출했는지를 인간이 알고 이해할 수 있는
과정이 필요함
XAI에 가장 대표적인 문서는 DARPA의 프로젝트 보고서 「Explainable Artificial Intelligence
(XAI)」임
현재의 AI는 자신이 출력한 결과물에 대한 근거, 다른 가능성에 대한 제시, 성공 혹은 실패한
이유와 경과, 결과에 대한 신뢰성, 오류 수정 방법을 제시할 수 없음
반면 XAI는 새로운 기계학습 프로세스, 설명모델과 사람과 소통이 가능한 설명 인터페이스를
사용함으로써 사람이 과정, 이유, 실패 원인, 오류 원인 등을 이해할 수 있도록 함
<그림 4>는 ‘고양이 사진’을 예로 현재의 AI와 XAI가 어떤 차이가 있는지를 보여줌
8. 8
2019학술정보 글로벌 동향
[그림 4] XAI 개념 설명 (출처: Gurnning(2017)6))
- <그림 4>에서 보는 것처럼 현재의 AI는 학습용 데이터(Training Data)를 학습 프로세스에
맞추어 분석하여 결과는 이용자에게 전달하는 구조를 가지고 있음
- 학습을 마친 AI는 분석 대상 객체가 주어지면 ①과 같이 학습된 기능(기계학습, 딥 러닝)을
통해서 결과 값을 이용자에게 전달함
- 현재의 AI는 고양이 그림을 대상 객체로 입력했을 때 ②와 같이 유의확률(p-value)을
계산하여 결과 값을 이용자에게 전달하는데 위의 그림에서는 해당 객체가 유의 확률
‘0.93’의 ‘고양이’임을 사람에게 결과 값으로 제시함
- 그러나 사람은 ③과 같이 왜 AI가 이런 결과를 도출했는지에 대한 근거는 물론 성공과
실패가 언제 발생한 것인지와 오류 원인에 대한 파악이 불가능함
- 결과적으로 현재의 AI는 문제가 발생했을 경우 인간이 이에 대한 대처와 개선 원인을
알 수 없고 프로세스를 수정하는데 막대한 시간과 비용을 소모해야 함
- 반면 XAI가 추구하는 바는 ⑥과 같이 AI가 왜 해당 객체를 ‘고양이’이로 제시했는지에
대한 이유 성공과 실패가 발행한 시점과 오류 원인 파악이 가능함
- 이는 ④와 같이 기존의 학습된 기능 즉, 기계학습과 딥 러닝 알고리즘을 개선함으로써
가능함
6) Gunning, D. (2017). Explainable artificial intelligence (xai). Defense Advanced Research Projects Agency
(DARPA), nd Web.
9. 9
Vol.10. IT 기반 분야
지
능
정
보
기
술
기
반
서
비
스
데
이
터
기
반
학
술
서
비
스
- 여기에 ⑤와 같이 단순히 계산 결과값을 보여주는 것이 아니라 인간이 즉시 이해하고
해석할 수 있는 설명 인터페이스(explanation interface)을 추가함으로써 기존의 문제점을
개선하고자 함
DARPA의 1차 목표는 2021년까지 AI 블랙 박스의 내부를 사람이 확인할 수 있는 설명
모델과 인터페이스 프로그램을 개발하는 데 있음
- DARPA는 높은 수준의 예측 정확도를 유지하면서 설명 가능한 모델을 만드는 것임
- 또한 사람이 인공지능의 결정사항을 이해하고 결과를 믿을 수 있어 효율적인 업무를
수행할 수 있도록 하는 것임
기술관점에서 DARPA의 개발 영역을 구체적으로 살펴보면 <그림 5>와 같음
[그림 5] XAI 프로그램의 구조 (출처: Gurnning(2017))
- 첫 번째 XAI 개발영역은 데이터 분석(data analytics)으로 멀티미디어 데이터의 유형을
구분하는 것이 목적임
※ XAI는 미국 국방부에 속하는 프로젝트로 데이터 분석은 구체적으로 기계학습으로 기밀정보를
분석하고 데이터 분석가들이 보다 신뢰성 있는 분석이 가능하도록 데이터 간의 관계, 연관성,
추론 과정을 이해할 수 있도록 하는데 중점을 둠
- 두 번째 XAI 개발영역은 자율시스템(autonomy)으로 인공지능 강화학습(reinforcement)
으로 인간의 개입 없는 무인시스템에서의 의사결정 과정과 내용을 인간이 이해할 수
있도록 하는데 목적을 두고 있음
- 위의 두 가지 문제는 설명 가능한 학습자(explainable learners)와 심리학적 설명 모델
구축(psychological model of explanation)으로 구현 가능함
※ 설명 가능한 학습자는 설명 가능한 모델과 설명 인터페이스를 모두 포함하는 프로토타입의 설명
가능한 학습 시스템을 개발하는 것이 최종 목적임
10. 10
2019학술정보 글로벌 동향
※ 심리학적 설명 모델은 설명 심리학 이론을 요약하고 그 이론을 실현할 수 있는 기계처리가
가능한 모델을 개발하는 것이 최종 목적임
국내의 경우도 2018년부터 울산과학기술원을 중심으로 XAI 연구가 진행 중에 있으며 중점적
으로 추진하고 있는 기술은 다음의 네 가지임7))
설명 가능한 인과관계 학습 추론 기술
- 딥 러닝에서 입력 데이터의 특징들 간 상관관계 및 인과관계를 규명하여 딥러닝 모델이
제시하는 예측 결과의 이유를 파악할 수 있도록 하는 기술
- 인공지능 모델이 잘못 학습된 경우 사용자가 피드백을 주어 수정하도록 하는 능동학습
기술을 적용하여 상호작용을 통해 점진적으로 학습하는 모델 개발
설명 가능한 원샷/제로샷 학습 모듈
- 설명 가능한 원샷(One-shot)/제로샷(Zero-shot) 학습 모듈은 적은 양의 데이터, 또는
학습 과정에서 경험하지 못한 입력 데이터에 대해 클래스 예측이 가능한 학습 모듈
- 데이터가 절대적으로 부족한 의료 등과 같은 분야에 인공지능을 적용하기 위한 필수
기술
의사결정의 이유 제시를 위한 설명 가능한 인터페이스
- XAI 과제는 인공지능의 의사결정에 대한 이유를 시각 및 언어적 설명으로 제시하는
인터페이스를 개발함
- 구체적으로 시계열 데이터를 설명하는 모델을 개발하고 그에 대한 설명을 자연어로
제시하여 자동으로 보고서를 작성하는 기술, 심층 학습 특징의 시각적 해석이 가능한
입력 시각화 기술 등이 있음
의료 및 금융 분야에 실제로 적용할 수 있는 모듈
- XAI 과제의 최종 목표인 산업분야 실적용을 위하여 의료에서는 설명 가능한 인공지능
모델과 원샷/제로샷 학습을 이용하여 중환자실의 중요 항목을 예측할 수 있는 모듈
개발
- 금융에서는 각종 금융 데이터를 바탕으로 분석 및 예측 결과뿐만 아니라 실제 금융
거래에 참고할 수 있는 근거자료를 자동으로 작성하는 기술 개발
현재의 인공지능 문제를 해결하기 위한 인간의 개입을 강조하는 노력은 XAI가 대표적이고 가장
최근의 노력이지만 이전에도 다양한 시도들이 있었음
엘론 머스크(Elon Musk)는 인공지능 연구기관인 Open AI를 2015년 10월 설립함
7) 지능정보산업협회 2017. 의사결정 이유를 설명할 수 있는 인공지능, XAI. AI 동행 프로젝트. 서울: 인공지능 국가
전략프로젝트 사업단, 지능정보산업협회
11. 11
Vol.10. IT 기반 분야
지
능
정
보
기
술
기
반
서
비
스
데
이
터
기
반
학
술
서
비
스
- Open AI는 인간에 좀 더 친화적인 인공지능을 개발하고 관련 특허와 연구를 모두
공개하여 자유롭게 협업하는 것을 목적으로 함8)
- 이는 언젠가 진보적인 인공지능이 스스로를 재설계할 능력을 갖게 되면 인류 종말이
올 수 있다는 위험성에 근거하고 있음
루이스 로젠버그(Louis Rosenberg)는 ‘인간과 이해를 공유하지 않는 일종의 외계 지능’이
아닌, 알고리즘을 통해 인간 지성을 확장함으로써 ‘일반적인 인간 그룹을 고도의 전문
지성으로 변모시킬 수 있는 인공 지능’을 제안함(Greg Freiherr 2015)9)
- 이러한 접근법을 ‘집단 AI(swarm AI)’로 불리며, 의사결정 과정에 반드시 인간이 개입
해야하고 인간이 빠지면 인공지능 자체가 동작을 멈추도록 구성함
XAI 등장한 이후 관련 기술 선점을 위한 다양한 연구, 특허 개발과 등록이 이어지고 있는데
윤태승(2018)10)은 XAI 관련 특허 동향 분석에서 기술 분류별 분포와 국가별 출원 현황을
제시한 바 있음
[그림 6] XAI 기술의 분야별, 국가별 특허 동향
- 전체 특허 중 네트워크 구조에 관한 특허가 54%를 차지하며, 미국 특허가 38%, 중국
특허가 22%, 국제출원이 21%를 차지하고 있어, 미국과 중국 시장을 중심으로 발전하고
있음을 알 수 있음
- <그림 7>의 연도별 출원 현황과 국적별 분포를 살펴보면, 미국, 중국, 국제출원, 한국,
일본 등 주요 국가에서 모두 2012년 이후 특허 출원이 급증하는 추세를 보이고 있음
- <그림 8>은 출원인별 출원 현황을 보여주는데 마이크로소프트, 구글, IBM, FACEBOOK
등 글로벌 정보통신 기업이 강세를 보이고 있음
8) Tech giants pledge $1bn for 'altruistic AI' venture, OpenAI. 2015. 『BBC』. 12월 12일. [online][cited
2019.07.01.] <https://www.bbc.com/news/technology-35082344>
9) 인공지능에의 안전한 접근법, ‘집단 AI’에 쏠리는 관심. 2015. 『CIO Korea』. 12월 24일. [online][cited
2019.07.01.] <http://www.ciokorea.com/tags/18283/집단+AI/27917>
10) 윤태승. 2018. 설명 가능한 AI 기술을 포함한 인공지능의 IP-R&D 전략. 『주간기술동향』.
13. 13
Vol.10. IT 기반 분야
지
능
정
보
기
술
기
반
서
비
스
데
이
터
기
반
학
술
서
비
스
4. 시사점
‘기술 중심 문제해결 방식’을 벗어난 ‘인간 중심의 문제해결’ 필요
인공지능 기술이 비약적으로 발전하면서 이 기술이 가져올 역기능에 대한 우려도 늘어나고
있음
대표적인 역기능이 일자리 감소로 미래학자들은 로봇 즉 기계에 의한 정치까지 언급하고
있으며 다보스 포럼에서는 500만개 이상의 일자리 소멸과 감소를 예측하기도 함
XAI와 같은 연구개발이 보여주는 바는 인공지능 기술을 인간을 대체하기 위한 기술로
접근하는 것이 아니라 인간에게 도움을 줄 수 있는 보조도구라는 인식임
- 인공지능이 제시하는 의견은 인간이 참고할 수 있는 다양한 참고 정보 중 하나로 최종
의사결정은 인간이 해야 함
- 특히 전문분야(법률, 군사, 의료, 지식관리 등)의 영역으로 들어갈수록 인간의 개입이
필수적임
- 인공지능이 발전할수록 이를 판단하고 조정할 수 있는 분야 전문가, 실무자의 역량이 중요함
- 인공지능이 인간을 대체한다는 기술적 접근보다는 인간이 인공지능 기술을 이해하고
주체로서 판단할 수 있는 능력을 키워야할 필요가 있음
- 분야 전문가, 실무자는 자신의 분야에 좀 더 전문성을 갖추어야하고 인공지능 기술에
대한 이해가 필요함
‘인공지능 기술’이 가져올 ‘사회전반의 대처’ 필요
새로운 기술이 등장했을 때 일반적으로 우리가 접근하던 방식은 ‘이 기술을 어떻게 쓸
것인가?’, ‘신 기술이니 반드시 사용하고 무엇인가 만들어내야 한다’, ‘우리가 먼저 사용
하고 만드는 것이 앞서가는 것이다’와 같은 것들이었음
인공지능에 대한 우려와 XAI의 등장은 ‘도구로써의 기술’이 인간의 영역이었던 ‘사고’
영역으로 인식되면서임
이제는 기술의 선 도입보다는 기술이 가져올 파급력과 변화를 예상하고 법/제도, 교육과
같은 다양한 관점과 시각에서 사회전반의 대처가 필요함
정보, 지식에 대한 ‘기술교육’과 ‘인문학’교육의 조화 필요
인공지능 기술은 결국 인간에 의해서 만들어진 것임
기술의 한계와 문제점은 인간의 사고 체계, 방식과 관련이 있는 것으로 현재 인간의 사고
체계, 지식의 한계 문제점을 명확히 이해할 수 있는 인문학 교육의 병행이 필요함
14. 14
2019학술정보 글로벌 동향
인공지능 기술의 대학도서관 적용과 이용자 서비스 구현 시 관점 전환 필요
인공지능 기술을 대학도서관 업무에 적용할 경우 전문가인 ‘사서’의 개입이 가능한 구조 설계
기계적 처리 결과를 사서가 이용자에게 전달할 경우 ‘과정’에 대한 설명이 가능한 서비스
시스템 구축
- 연구자 지원을 위한 데이터 분석 등 다양한 플랫폼과 서비스 구현 시 단순한 AI 서비스
구현이 아니라 분야 전문가인 연구자의 요구 해결 과정까지 설명 가능한 서비스 시스템
구현
전통적인 도서관의 영역 중 하나인 ‘정보 문해’와 최근의 ‘데이터 문해’ 교육 과정에 인문학적
소양 교육 배치 필요
- 도구로써 기술을 바라보고 주체인 인간의 사고 중요성에 대한 리터러시 과정 필요