* 딥러닝을 적용한 EEG 시스템 관련 논문을 간단하게 리뷰합니다.
* EEG에 관련된 대표적인 4가지 패러다임에 대해 소개합니다.
* 광주과학기술원 인공지능 스터디 A-GIST 모임에서 발표했습니다.
* 발표 영상 (한국어, 유튜브): https://youtu.be/gcP2vN41HZw
* 딥러닝을 적용한 EEG 시스템 관련 논문을 간단하게 리뷰합니다.
* EEG에 관련된 대표적인 4가지 패러다임에 대해 소개합니다.
* 광주과학기술원 인공지능 스터디 A-GIST 모임에서 발표했습니다.
* 발표 영상 (한국어, 유튜브): https://youtu.be/gcP2vN41HZw
오사카 대학 Nishida Geio군이 Normalization 관련기술 을 정리한 자료입니다.
Normalization이 왜 필요한지부터 시작해서
Batch, Weight, Layer Normalization별로 수식에 대한 설명과 함께
마지막으로 3방법의 비교를 잘 정리하였고
학습의 진행방법에 대한 설명을 Fisher Information Matrix를 이용했는데, 깊이 공부하실 분들에게만 필요할 듯 합니다.
Maximum Entropy Reinforcement Learning (Stochastic Control)Dongmin Lee
I reviewed the following papers.
- T. Haarnoja, et al., “Reinforcement Learning with Deep Energy-Based Policies", ICML 2017
- T. Haarnoja, et al., “Soft Actor-Critic: Off-Policy Maximum Entropy Deep Reinforcement Learning with a Stochastic Actor", ICML 2018
- T. Haarnoja, et al., “Soft Actor-Critic Algorithms and Applications", arXiv preprint 2018
Thank you.
[한국어] Neural Architecture Search with Reinforcement LearningKiho Suh
모두의연구소에서 발표했던 “Neural Architecture Search with Reinforcement Learning”이라는 논문발표 자료를 공유합니다. 머신러닝 개발 업무중 일부를 자동화하는 구글의 AutoML이 뭘하려는지 이 논문을 통해 잘 보여줍니다.
이 논문에서는 딥러닝 구조를 만드는 딥러닝 구조에 대해서 설명합니다. 800개의 GPU를 혹은 400개의 CPU를 썼고 State of Art 혹은 State of Art 바로 아래이지만 더 빠르고 더 작은 네트워크를 이것을 통해 만들었습니다. 이제 Feature Engineering에서 Neural Network Engineering으로 페러다임이 변했는데 이것의 첫 시도 한 논문입니다.
For the full video of this presentation, please visit: https://www.edge-ai-vision.com/2021/10/deploying-pytorch-models-for-real-time-inference-on-the-edge-a-presentation-from-nomitri/
Moritz August, CDO at Nomitri GmbH, presents the “Deploying PyTorch Models for Real-time Inference On the Edge” tutorial at the May 2021 Embedded Vision Summit.
In this presentation, August provides an overview of workflows for deploying compressed deep learning models, starting with PyTorch and creating native C++ application code running in real-time on embedded hardware platforms. He illustrates these workflows on smartphones with real-world examples targeting ARM-based CPU, GPUs, and NPUs as well as embedded chips and modules like the NXP i.MX8+ and NVIDIA Jetson Nano.
August examines TorchScript, architecture-side optimizations, quantization and common pitfalls. Additionally, he shows how the PyTorch deployment workflow can be extended to conversion to ONNX and quantization of ONNX models using an ONNX Runtime. On the application side, he demonstrates how deployed models can be integrated efficiently into a C++ library that runs natively on mobile and embedded devices and highlights known limitations.
[PR12] categorical reparameterization with gumbel softmaxJaeJun Yoo
(Korean) Introduction to (paper1) Categorical Reparameterization with Gumbel Softmax and (paper2) The Concrete Distribution: A Continuous Relaxation of Discrete Random Variables
Video: https://youtu.be/ty3SciyoIyk
Paper1: https://arxiv.org/abs/1611.01144
Paper2: https://arxiv.org/abs/1611.00712
Prediction and planning for self driving at waymoYu Huang
ChauffeurNet: Learning To Drive By Imitating The Best Synthesizing The Worst
Multipath: Multiple Probabilistic Anchor Trajectory Hypotheses For Behavior Prediction
VectorNet: Encoding HD Maps And Agent Dynamics From Vectorized Representation
TNT: Target-driven Trajectory Prediction
Large Scale Interactive Motion Forecasting For Autonomous Driving : The Waymo Open Motion Dataset
Identifying Driver Interactions Via Conditional Behavior Prediction
Peeking Into The Future: Predicting Future Person Activities And Locations In Videos
STINet: Spatio-temporal-interactive Network For Pedestrian Detection And Trajectory Prediction
오사카 대학 Nishida Geio군이 Normalization 관련기술 을 정리한 자료입니다.
Normalization이 왜 필요한지부터 시작해서
Batch, Weight, Layer Normalization별로 수식에 대한 설명과 함께
마지막으로 3방법의 비교를 잘 정리하였고
학습의 진행방법에 대한 설명을 Fisher Information Matrix를 이용했는데, 깊이 공부하실 분들에게만 필요할 듯 합니다.
Maximum Entropy Reinforcement Learning (Stochastic Control)Dongmin Lee
I reviewed the following papers.
- T. Haarnoja, et al., “Reinforcement Learning with Deep Energy-Based Policies", ICML 2017
- T. Haarnoja, et al., “Soft Actor-Critic: Off-Policy Maximum Entropy Deep Reinforcement Learning with a Stochastic Actor", ICML 2018
- T. Haarnoja, et al., “Soft Actor-Critic Algorithms and Applications", arXiv preprint 2018
Thank you.
[한국어] Neural Architecture Search with Reinforcement LearningKiho Suh
모두의연구소에서 발표했던 “Neural Architecture Search with Reinforcement Learning”이라는 논문발표 자료를 공유합니다. 머신러닝 개발 업무중 일부를 자동화하는 구글의 AutoML이 뭘하려는지 이 논문을 통해 잘 보여줍니다.
이 논문에서는 딥러닝 구조를 만드는 딥러닝 구조에 대해서 설명합니다. 800개의 GPU를 혹은 400개의 CPU를 썼고 State of Art 혹은 State of Art 바로 아래이지만 더 빠르고 더 작은 네트워크를 이것을 통해 만들었습니다. 이제 Feature Engineering에서 Neural Network Engineering으로 페러다임이 변했는데 이것의 첫 시도 한 논문입니다.
For the full video of this presentation, please visit: https://www.edge-ai-vision.com/2021/10/deploying-pytorch-models-for-real-time-inference-on-the-edge-a-presentation-from-nomitri/
Moritz August, CDO at Nomitri GmbH, presents the “Deploying PyTorch Models for Real-time Inference On the Edge” tutorial at the May 2021 Embedded Vision Summit.
In this presentation, August provides an overview of workflows for deploying compressed deep learning models, starting with PyTorch and creating native C++ application code running in real-time on embedded hardware platforms. He illustrates these workflows on smartphones with real-world examples targeting ARM-based CPU, GPUs, and NPUs as well as embedded chips and modules like the NXP i.MX8+ and NVIDIA Jetson Nano.
August examines TorchScript, architecture-side optimizations, quantization and common pitfalls. Additionally, he shows how the PyTorch deployment workflow can be extended to conversion to ONNX and quantization of ONNX models using an ONNX Runtime. On the application side, he demonstrates how deployed models can be integrated efficiently into a C++ library that runs natively on mobile and embedded devices and highlights known limitations.
[PR12] categorical reparameterization with gumbel softmaxJaeJun Yoo
(Korean) Introduction to (paper1) Categorical Reparameterization with Gumbel Softmax and (paper2) The Concrete Distribution: A Continuous Relaxation of Discrete Random Variables
Video: https://youtu.be/ty3SciyoIyk
Paper1: https://arxiv.org/abs/1611.01144
Paper2: https://arxiv.org/abs/1611.00712
Prediction and planning for self driving at waymoYu Huang
ChauffeurNet: Learning To Drive By Imitating The Best Synthesizing The Worst
Multipath: Multiple Probabilistic Anchor Trajectory Hypotheses For Behavior Prediction
VectorNet: Encoding HD Maps And Agent Dynamics From Vectorized Representation
TNT: Target-driven Trajectory Prediction
Large Scale Interactive Motion Forecasting For Autonomous Driving : The Waymo Open Motion Dataset
Identifying Driver Interactions Via Conditional Behavior Prediction
Peeking Into The Future: Predicting Future Person Activities And Locations In Videos
STINet: Spatio-temporal-interactive Network For Pedestrian Detection And Trajectory Prediction
본문서는 [교육부 고시 제2015-74호] 초중등학교 교육과정 총론 및 교과 교육과정 고시에 따른 개정 교육과정 질의 응답자료입니다.
예 )
교육부에서 2015년 9월23일 고시한 「2015 개정 교육과정」에 소프트웨어(SW) 과목은 어떻게 반영되었나요?
o 미래사회가 요구하는 기초 소양인 소프트웨어(SW) 교육을 강화하기 위해 초중등 학교의 정규 교육과정을 통해 소프트웨어(SW)를 필수로 이수할 수 있도록 교육과정이 개정되었습니다.
- 초등학교는 ‘실과’ 과목의 ICT 활용 단원을 SW 기초소양 단원으로 확대 구성하여 17시간 이상 교육하고,
- 중학교는 ‘과학/기술·가정/정보’ 교과군을 신설하고, ‘정보’ 과목을 SW교육 중심으로 개편하여 필수 과정으로 34시간 이상 교육하며,
- 고등학교는 ‘정보’ 과목을 ‘심화선택’에서 ‘일반선택’으로 전환하여 운영할 계획입니다.
o 새로운 소프트웨어(SW) 교육과정은 초등학교는 ‘19년부터, 중·고등학교는 ‘18년부터 학교 현장에 적용될 예정입니다.
Open 191114 갈 지(之)자를 걷는 교육 문제, 해결을 위한 방안 제시jihoon jung
교육에 대한 장기비전이 부평초마냥 흔들리기 때문에 이슈가 제기될 때마다 임기응변식 처방으로 교육제도가 파편화되었고 특히, 교육제도의 핵심이라 할 수 있는 입시제도의 경우, 전형방법은 필요에 따라 뒤죽박죽 처방만을 양상하여 이를 활용하거나 활용할 수 있는 여건을 갖춘 기권층만이 활용하고 혜택보는 제도로 전락했다.
이와 같이 무너진 교육제도는 국가와 사회의 백년대계를 위해서라도 교육의 비전을 재정립하고 인간의 존엄성 실현이라는 근본적 교육적 가치기반 위에서 이를 달성하고 미래를 개척하여 자아를 실현하는 방향으로, 동시에 국가의 경쟁력을 제고하며 개개인의 행복이 달성될 수 있도록 역량을 최대로 발휘될 수 있도록 환경과 기회를 제공하는 것이라 할 수 있다.
하지만 환경과 기회가 누군가에 의해 선점되고 기득권화된다면 이는 출발선을 달라져 개개인의 행복 추구에도 부정적인 영향을 미치는 동시에 사회에도 공정한 경쟁을 통하여 사회발전의 동력과 대외 경쟁력의 제고를 위한 교육의 효율이 최대한 발휘될 수 있도록 최적화되어야 함에도 이를 억제하는 커다란 장애물로 역할을 하게 된다.
특히, 교육 과정에서 편법과 기득권에 의하여 비정상적 경쟁 관계와 비효율적인 학습 방식을 지속한다면 미래 세대에 대하여 씻을 수 없는 과오를 저지르는 것이다.
더불어 좋은 취지이 목적과 환경변화에 대응키 위한 교육제도라 할지라도 전문가들만이 이를 활용할 수 있을 정도로 복잡하고 난해한 방법으로 제도화된다면 이는 이러한 제도를 활용할 수 있거나 전문가의 도움을 받을 수 있는 계층의 전유물이 되고 동시에 기득권화되어 취지와는 달리 교육을 통한 계층 사다리의 단절과 기득권의 대물림을 위한 도구로 전락되는 경우를 무수히 목격해 왔다.
즉, 장기의 비전과 좋은 취지의 교육제도를 도입할 때에는 반드시 부정이나 편법이 끼어들 수 없을 정도로 단순/명료하게 제도화하고 동시에 예외적 적용을 최소화하며 이를 위반할 경우에는 지금까지와 달리 철저한 처벌을 통하여 원천적으로 부정적 요인을 방지하고 사후적으로 치유할 방안 또한 제대로 도입되고 운영하어야 할 것이다.
이를 통해 공평한 기회와 최적의 환경을 제공하여 각 개인의 최대한 행복을 추구할 수 있는 기회를 공정하게 제공하고 더불어 인적자원만이 풍부한 우리나라에서 교육을 통해 배우고 습득한 기술의 발전과 효율성 제고로 사회발전 및 대외경쟁력이 향상되도록 하여야 할 것이다.
교육은 미래를 준비하고 미래의 흐름을 이끌어 나가는 역할을 준비하는 배움의 터전이다. 따라서, 교육은 향상 과거의 전통에만 머물러 있어서도 환경의 변화에 둔감하여서도 아니 된다. 이러한 관점에서 교육에 대한 문제와 해결 방안을 제시해 보고자 한다.
4. 교육재정의 개념1
교육재정 : “교육에 필요한 비용을 조달하고 배분하는
국가 또는 공공단체의 행정적 행위”
교육비와 공공재정에 대한 개념 정의
1) “교육에 필요한 비용” 또는 “교육비”
- 교육비는 교육의 범위를 어떻게 설정하는가에 따라 학교교육비에서
사회교육비까지 넓은 의미로 사용
- 비용의 의미가 금전적, 비금전적인 것까지 모두 포함할 수 있음.
2) “국가 또는 공공단체”
- 교육재정의 주체를 묻는 것으로서 교육재정이 적어도 개인 또는 사적 집단,
단체의 교육비 조달 및 배분행위는 포함하지 않음.
(사립학교의 경우 이를 사적 집단/단체로 볼 것인가의 여부도 매우 애매함.)
5. 교육재정의 범위2
협의의 교육재정
- 정부의 교육예산으로 한정.
- 정부는 국민으로부터 조세 또는 각종 세외수입을 통해 국가를 대표하여
예산을 수립하고 집행.
- 교육도 이 중의 한 부문으로 확립.
- 우리나라의 경우 국립학교와 공립학교의 수업료 수입은 각각 중앙정부
및 지방정부의 교육예산에 포함되어 계상
- 재정수입을 기초로 국공립학교 운영비, 사립학교 지원경비, 도서관,
문화활동 지원, 교육관련단체 지원 등
각종 사회교육비와 교육관련사업비도 포함.
‘정부의 교육예산과 같은 의미’
6. 교육재정의 범위2
광의의 교육재정
- 회계방식을 포함한 재정운용의 제 원칙이 공공성에 기반하고 있음.
공공부문, 곧 정부 부문에 준하도록 되어 있음.
- 정부재정 보조를 받고 있기 때문에 공공부문으로서의 성격이 매우 강함.
- 사립 중/고등학교, 사립대학, 영세한 학교의 학교운영지원비회계 등
정부의 재정이 지원되고 있음.
- 넓은 의미에서 볼 때 교육재정을 통해 운용되는 교육비는 결국 공교육비와
같은 것임을 알 수 있음.
- 각종 학교들, 노동부 산하의 직업훈련원, 과학기술대학, 법무부의 교정교육,
문화체육부의 각종 사회교육 활동에 소요되는 재정까지도 교육재정에 포함.
9. 교육비 개념
- 교육에 소요되는 비용
- 일반적 의미 ‘학교교육 활동에 투입된 경비 중 금전적으로 표시된 경비’
( 교육법에 의해 설립된 공교육체제에 속한 ‘학교’ 만을 의미
개인이나 사적 집단들이 임의로 세운 유사교육기관은 제외 됨.)
10. 교육비 분류
직접교육비와 간접교육비
- 직접교육비 : 교육을 받기 위해 납입금, 교제대 혹은 정부수준의 교육예산 등과
같이 직접적으로 재화나 용역을 소비하는 것을 말함.
- 간접교육비 : 교육을 받기 위해 소비한 직접교육비를 다른 용도로 소비했을 경우를
가정했을 대의 유실소득 또는 기회비용이다.
11. 교육비 분류
공교육비와 사교육비
- 공교육비와 사교육비의 구분은 교육비의 확보, 배분의 과정이 공공절차를 통해
이루어지고 있는가의 여부에 따라 구분한다.
- 학생이 내는 납입금은 부담의 주체는 개인이지만 그 집행은 학교나 정부의 공공회계
통해 이루어지고 있는 공교육비
( 모든 학생에게 똑같은 질의 교육 서비스 제공 원칙)
- 학생들의 교재비, 사설학원비 등과 같이 개인의 자유계획에 의해 집행되는 경비를
사교육비
( 개인의 능력에 따라 얼마든지 다른 질의 교육 서비스를 향유하는데 사용)
12. 교육비 분류
총량교육비와 단위교육비
- 총량교육비 : 모든 교육활동에 쓰이고 있는 교육비의 총량
- 단위교육비 : 교육의 최종생산단위가 학생임을 전제로 하고, 학생 1인에게 소요되는
평균 경비를 말함. (교육원가)
15. 재원확보제도1
정부재원
• 중앙정부의 재원 : 지방교육재정교부금 재원은 교육세 재원 전액과 내국세의
일정 비율에 해당하는 재원으로 구성된다.
• 지방정부재원 : <지방교육재정교부금법>의 지방자치단체의 부담 조항에 따라
확보되는데, 지방교육세 전액과 각 시도별 시/도 전입금으로 구성
16. 재원확보제도1
학부모재원
• 학부모 재원 : 수업료/입학금 , 기성회비 혹은 학교운영비 지원비로 나눔.
- 의무교육을 실시하는 초등학교와 중학교에서는 수업료/입학금을 받지 못함.
• 국립대학에서는 기성회 또는 기성회비로 부름.
17. 재정배분제도2 (중앙정부로부터 지방정부로의 지방이전재정제도)
국고보조금 : 중앙정부가 재정을 이전하면서 사용 용도를 제한하고 있는 재원
1) 정률 보조금 : 특정사업을 위한 지방정부의 자체 수입에 의한 부담 규모에 따라
재정지원 규모가 가변하는 보조금
2) 정액 보조금 : 지방정부의 자체부담과 무관하게 일정한 금액을 보조하는 경우
교부금 : 사용 용도가 정해 지지 않은 채로 중앙정부로부터 이전되는 재원
1) 조건교부금 : 교부금의 규모가 지방정부의 조세징수 노력의 결과
재정지원 이전의 공공지출 수준을 유지하여야 한다는 제약조건
2) 정액교부금 : 징수노력이나 유지 노력과 무관하게 일정한 금액을 교부하는 것
18. 재정배분제도2
학교재정배분
- 표준교육비 : 일정규모의 단위학교가 현재 교육목표 및 교육과정 등
제반 교육체제를 유지한다는 전제 하에서 정상적인 교육활동을
수행하는데 필요한 최소한의 교육비
(최저소요교육비 혹은 적정교육비)
! 포뮬러 펀딩 기본 구성요소 !
- 학생기본경비/교육과정경비/학생특성보정경비/학교특성보정경비
20. 학교예산의 의미와 성격1
* 예산 : 한정된 자원을 배분하고자 하는 의사결정 과정.
조직의 목표달성을 위한 계획을 수치로 표시한 것.
학교예산의 의미
일정기간(1회계년도) 동안 학교가 교육활동계획을 실천해 나가는 데
필요한 수입과 지출의 체계적인 예정 계획표를 의미
21. 학교예산의 의미와 성격1
학교예산의 성격
① 학교예산은 교육활동계획의 기초 내지 기준이다.
② 학생들의 복리증진과 교육적 환경 개선에 우선적으로 사용되어야 함.
③ 교육활동을 위한 봉사적 내지는 지원적 성격을 가짐.
④ 면밀한 계획 하에 성립되어야 함.
22. 학교예산의 운영원칙2
예산총계주의 원칙 : 세입예산에, 모든 세출은 그 금액을 세출예산에 계상함을 의미
단일예산주의 원칙 : 예산은 가능한 단일견적표에 의하여 모든 세입과 세출을 포함
회계연도 독립의 원칙 : 당해년도에 지출되어야 할 경비는 그 익년도 등 다른 다른
연도에서 지출되어서는 안 된다는 원칙
사전승인의 원칙 : 국회, 지방정부의 경우는 지방의회의 의결을 거쳐 성립된 후에
의결 승인된 범위 내에서 집행되어야 한다는 것
23. 공개성의 원칙 : 예산의 편성, 심의, 집행 등의 모든 과정이 일반에 공개되어야 함.
한정성의 원칙 : 특정 목적을 위하여 편성, 배부된 예산은 그 목적만을 위해 사용
건전 재정운영의 원칙 : 연도간 재정사정을 충분히 고려하여 재정운영의 건전성
을 유지
학교예산의 운영원칙2
24. 학교예산의 제 기법3
품목별예산제도 성과주의 예산제도 기획예산제도 영기준예산제도
- 예산항목을 경비의
성격과 위계에 따라
관,항,목,세목 등으로
제도화 하는 것
- 점증주의에 기초하기
때문에 간편하다.
-한정된 재정규모 내에
서 효율적인 배분을 강
조 능률적
-궁극적 목적과의 연계
가 부족/관료통제적인
방법과 절차에 얽매이
는 경향이 있음.
- 예산과목을 사업계획
별, 활동별로 분류한 다
음 예산액을 표시
- 필요한 소요비용을 명
시해 주고 통제기능도
수행 하기 때문에 집행
감독이 편리
- 계획을 소홀히 하는
문제점
- 너무 회계적인 측면을
강조 하는 경향이 있음.
-합리적인 조직목표를
설정하고 이를 성취하
기 위한 계획과 행동과
정 자원배분을 과학적
으로 수립하고 설계함
으로써 효율성을 향상
하려는 제도.
- 절약과 지출의 효율
- 학교의 체계적 운영
- 연간기준으로 목표를
재 검토
- 하부 조직의 권한을
위축 시킬수 있는 단점
-전년도 사업은 전혀 고
려하지 않고 신년도 사
업을 재평가하여 우선
순위를 정하여 한정된
예산을 배분하는 것
- 학교경영에 전 교직원
을 참여하도록 유도
- 창의적이고 자발적인
사업구상과 실행 유인
- 과학적인 학교경영을
지원
- 전문성이 부족하면 인
원 절감에 실패
25. 예산의 종류4
일반 회계예산
- 기본적 내지 일반적 활동에 관한 세입 세출을 총합하여 관리하는 예산
(중앙정부와 지방정부의 일반회계예산)
특별 회계예산
- 특정한 세입을 관리하거나 세출재원을 충당하기 위해 일반회계와 구분 경리하는
예산
본예산
- 정해진 회계연도가 시작되기 일정한 법정기한 내에 편성, 성립된 예산
추가경정예산
- 이미 성립하여 집행 중인 본예산에 변경을 가할 필요가 있을 때 사용하는 제도