1. Visual Studio 2010을활용한 C++ 병렬 프로그래밍 마이에트 엔터테인먼트 Server Programmer 최흥배 Microsoft Visual C++ MVP Twitter : @jacking75

2. 목차 1. Multi-Core 시대 2. 어려운 병렬 프로그래밍 3. 진화 4. Concurrency Runtime 5. 병렬 패턴 라이브러리 ( PPL )

3. Multi-Core 시대

4. Multi-Core 컴퓨터는 이미 일반화

6. 멀티 코어 CPU로 방향을 바꿈.

7. throughput가 최대 중요 요소가 됨.

10. 「Bulldozer Module」이라고 부른다.

11. 2개의 스레드를 병렬로 실행할 수 있는 모듈이 Bulldozer의 기본 단위. 기본은 하나가 아니고 두 개다 !!!

12. 4 코어의 Bulldozer CPU라면 두 개의 Bulldozer Module을 탑재.

14. Bulldozer에서는 CPU의 자원 중 정수 연산 파이프는 2개의 스레드가 각각 전용 파이프를 가진다.

15. 그러나 명령 디코더나 부동 소수점 연산 유닛 등은 2개의 스레드에서 공유한다.

19. 그러나Intel이 CPU에 통합하기 위한 데이터 병렬 중시형 프로세서 코어의 아키텍처를 긴급하게 필요로 하고 있는 점은 변화지 않음.

20. Larrabee의 목적은 어떻게 하면 유연하고 고효율이면서 프로그램 하기 쉬운 아키텍처로 할 수 있을지를 추구하는 것.

22. 왜냐하면 지금부터 퍼포먼스를 늘리고 싶은 것은 데이터 병렬로 부동 소수점 연산 중심의 작업 부담량이기 때문.

24. 어려운 병렬 프로그래밍

25. 병렬 프로그래밍? Multi-Core? 그거 먹는 건가요? 우걱우걱

26. race condition, dead lock

27. void SetReUseSocket() { ……… if( flase == m_bUsed ) { LOG(“SetReUseSocket() | Failed”); return; } LOG(“SetReUseSocket()”); m_bUsed = true; ……… }

29. 진화

30. 2002년 2010년

31. OS – 2001년과 2009년 Windows 7 Windows XP

32. Visual Studio – 2002년과 2010년 Visual Studio.NET( 2002) Visual Studio 2010

36. 대응하는 유저 모드 스레드는Completion List에 등록되어

38. Concurrency Runtime Tools Native Libraries Intel ® TBB Parallel Pattern Library Asynchronous AgentsLibrary Intel®OpenMP Visual Studio 2010 Parallel Debugger Profiler Concurrency Analysis Data Structures Intel Parallel Studio Parallel Composer Task Scheduler Parallel Inspector Resource Manager Parallel Amplifier Native Concurrency Runtime Operating System Threads UMS Threads 그림 출처 : PDC 09

39. Concurrency Runtime(ConcRT)

40. Parallel Patterns Library Asynchronus Agents Library Synchronization Data Structures Task Scheduler Resource Manager OS

42. Imperative parallelism – parallel_for, parallel_for_each등

44. AAL은 다른 컴포넌트의 데이터를 기다리면서 작업을 처리 할 수 있다.

46. class GameLogic : public agent { ..... void run() { // Send the request. ...... send(_target, wstring(L"request")); // Read the response. int response = receive(_source); } private: ISource<int>& _source; ITarget<wstring>& _target; }; class GameAI : public agent { ..... void run() { // Send the request. ...... send(_target, wstring(L"request")); // Read the response. int response = receive(_source); } private: ISource<int>& _source; ITarget<wstring>& _target; };

48. 동기 오브젝트는 크리티컬 섹션과 같이 다른 스레드로부터 공유 데이터를 사용할 수 있을 때까지 기다린다.

50. cooperative 스케쥴링과 work-stealing 알고리즘을 사용하여 최대한 효율이 좋게 리소스를 처리하도록 한다.

51. Concurrency Runtime은 기본적인 스케쥴러를 제공하므로 직접 관리할 필요는 없다.

53. 실행 시에 작업 부하에 변경이 일어나면 가장 효율이 좋게 처리할 수 있도록 리소스를 할당.

54. 컴퓨팅 리소스를 추상화하여 Task Scheduler와 주로 대화.

55. 더 높은 성능을 얻기 위해서 Resource Manager를 세밀하게 조정할 수 있다.

57. ConcRT의 Cooperative Demo

60. 병렬 패턴 라이브러리 ( PPL )

62. Parallel algorithms

64. Task Parallelism 실제적인 task의 실행은 task_group에서 한다. unstructured_task_group(task_group) 와 structured_task_group로나누어진다. task_group : 스레드 세이프structured_task_group : 스레드 세이프 하지 않음.

65. Main Thread Main Thread task_group1.run( task1) structured_task_group1.run( task1) Thread A task_group1.run( task2) Thread B task_group1.run( task3) Thread A structured_task_group1.run( task2)

66. 초 간단!!! task 사용 방법 ppl.h파일을 포함합니다.#include <ppl.h> Concurrency Runtime의 네임 스페이를 선언합니다.using namespace Concurrency; 태스크 그룹을 정의합니다.structured_task_groupstructured_tasks; 태스크를 정의합니다.auto structured_task1 = make_task([&] { Plus(arraynum1, true); } ); 태스크를 태스크 그룹에 추가한 후 실행합니다. structured_tasks.run( structured_task1 ); 태스크 그룹에 있는 태스크가 완료될 때까지 기다립니다.structured_tasks.wait();

67. ConcRT의 Task Demo

69. for( i = 0; i < 1000000; ++i ) { ………… ………… }

70. Parallel Algorithms 데이터컬렉션을 대상으로 쉽게 병렬 작업을 할 수 있게 해주는 알고리즘들. STL에서 제공하는 알고리즘과 비슷한 모양과 사용법. paeallel_for, parallel_for_each, parallel_invoke가 구현되어 있음.parallel_accumulate, parallel_partial_sum는 다음 버전?

71. parallel_for for 문을 병렬화. for 문과 사용 방법이 흡사하여 쉽게 변환. step 값을 지정하는 버전과 지정하지 않는 버전 두 개가 있음(지정하지 않으면 1). index 조사는 ‘<‘만 지원.

72. 초 간단!!! parallel_for사용 법 ppl.h파일을 포함합니다.#include <ppl.h> Concurrency Runtime의 네임 스페이를 선언합니다.using namespace Concurrency; parallel_for에서 호출할 함수 정의 parallel_for에서 사용할 data set 정의. parallel_for사용.

73. parallel_for_each STL의 for_each알고리즘을 병렬화. for_each와 사용 방법이 같음.

74. 초 간단!!! parallel_for_each사용 법 ppl.h파일을 포함합니다.#include <ppl.h> Concurrency Runtime의 네임 스페이를 선언합니다.using namespace Concurrency; parallel_for_each에서 호출할 함수 정의 parallel_for_each에서 사용할 data set 정의. parallel_for_each사용.

77. parallel_invoke 병렬로 일련의 태스크 실행. 동시 실행할 복수의 독립된 태스크를 실행할 때 좋음. task_group과 비슷하나 사용방법은 더 쉬움그러나 최대 10개의 태스크만 병렬 작업이 가능하다.

78. 초 간단!!! parallel_invoke사용 법 ppl.h파일을 포함합니다.#include <ppl.h> Concurrency Runtime의 네임 스페이를 선언합니다.using namespace Concurrency; 태스크 정의 parallel_invoke사용.

80. parallel objects - combinable 스레드세이프한 오브젝트. 계산 실행 후 최종 결과에 그 계산 결과를 통합하는 재 사용 가능한 로컬 스트리지 제공. 복수의 스레드 또는 태스크 간에 공유 리소스가 있는 경우 편리. lock-free thread-local sub-computations during parallel algorithms combinable 클래스에 사용할 데이터는 기본 생성자와 복사 생성자를 가지고 있어야 한다. Win32 API의 thread local storage와 비슷. combine, combinable_each제공

83. concurrent containers 병렬 환경에서 스레드 세이프하게 데이터를 저장. concurrent_queue, concurrent_vector,. concurrent_hash_map은다음 버전?

85. 전체적인 인터페이스는 vector와 비슷하나 제한이 있슴.

86. 기존 요소의 값을 변경할 때는 스레드 세이프하지 않음. 기존 요소의 값을 변경할 때는 동기화 객체를 사용하여 lock을 걸어야 합니다.

89. enqueue와 dequeue조작이 스레드 세이프 하다.

90. 반복자를 지원하지만 스레드 세이프 하지 않다.

91. front와 pop 함수를 지원하지 않음. 대신에 try_pop함수를 대신해서 사용.

92. back 함수를 지원하지 않는다. 그러므로 마지막 요소를 참조하는 것은 불가능하다.

93. size 메소드 대신 unsafe_size함수를 지원한다. unsafe_size는 이름 그대로 스레드 세이프 하지 않다.

95. push

96. get_allocator

98. unsafe_end

99. unsafe_begin

102. 참고

103. AMD가 차기 아키텍쳐 「Bulldozer」와「Bobcat」의 개요를 공표 원문 : http://pc.watch.impress.co.jp/docs/column/kaigai/20091112_328392.html 번역 : http://jacking.tistory.com/487 http://jacking.tistory.com/488 http://jacking.tistory.com/489 2011년에 등장하는 AMD의 8코어 데스크탑 CPU 「Zambezi」 원문 http://pc.watch.impress.co.jp/docs/column/kaigai/20091126_331235.html 번역 http://jacking.tistory.com/514 http://jacking.tistory.com/515 http://jacking.tistory.com/516 Core i5/i7 원문 http://www.atmarkit.co.jp/fwin2k/words/011corei5/corei5.html 번역 http://jacking.tistory.com/510 http://jacking.tistory.com/511

104. 계획이 바뀐 Larrabee무엇이 문제였는가? http://jacking.tistory.com/517 http://jacking.tistory.com/518 마이크로소프트 Windows 7에서도 병렬처리 향상을 목표로 http://jacking.tistory.com/355 [PDC09] Developing Applications for Scale-Up Servers Running Windows Server 2008 R2 http://microsoftpdc.com/Sessions/SVR18 [PDC09] Lighting up Windows Server 2008 R2 Using the ConcRT on UMS http://microsoftpdc.com/Sessions/SVR10 양보할 줄 아는 Concurrency Runtime의 event http://vsts2010.tistory.com/109 Cross Process Resource Management - do we need it now? http://blogs.msdn.com/nativeconcurrency/archive/2010/04/07/cross-process-resource-management-do-we-need-it-now.aspx

105. Concurrency::task_group leaks memory http://social.msdn.microsoft.com/Forums/en/parallelcppnative/thread/15799a79-cca0-4c51-85e3-64ea1e26981d MSDN – Concurrency Runtime http://msdn.microsoft.com/en-us/library/dd504870(VS.100).aspx VSTS 2010 스터디블로그 http://vsts2010.net Parallel Programming in Native Code http://blogs.msdn.com/nativeconcurrency/default.aspx 본인 블로그 http://jacking.tistory.com/