이기종 클러스터 시스템에서 Cilk와 MPI 특성 비교

Comparing Cilk and MPI on a heterogeneous cluster system

  • 이규호 (중앙대학교 전자전기공학부) ;
  • 김준성 (중앙대학교 전자전기공학부)
  • Lee, Kyu-Ho (School of Electrical and Electronics Engineering, Chung-Ang University) ;
  • Kim, Jun-Seong (School of Electrical and Electronics Engineering, Chung-Ang University)
  • 발행 : 2007.07.25

초록

최근 수년간의 급속한 기술의 발전과 대량생산 체제의 영향으로 개인용 컴퓨터와 간단한 네트워크 장비를 이용한 클러스터 시스템 구현이 용이해졌으나 개인용 컴퓨터의 교체 주기가 짧아짐에 따라 시스템 구성을 자유롭게 할 수 있는 클러스터 시스템의 이기종화를 초래하였다. 이기종 클러스터 시스템을 이용하여 구축된 병렬처리 시스템의 경우 그 성능을 효율적으로 사용하기 위해서는 각 노드의 성능을 고려한 작업 관리가 필요하다. 본 연구에서는 이기종 클러스터 시스템에서 MPI와 Cilk 병렬처리 시스템의 특성을 성능측면에서의 speedup과 활용도측면에서의 프로그램 코드의 복잡도를 정량적으로 살펴보았다. 실험에 따르면 작은 데이터를 이용하는 경우 Cilk가, 큰 데이터를 이용하거나 정규화된 데이터 교환 형태를 갖는 경우 MPI가 더 좋은 성능을 보였으며 코드 복잡도의 경우 Cilk가 간결한 프로그래밍 스타일을 제공함을 보였다.

Recently cluster system built from personal computers and network devices are easily and economically constructed. Rapid technological change discloses new processors on the market yielding cluster systems heterogeneity. A parallel system in heterogeneous environment needs work managers for utilizing the full power of the heterogeneous cluster system. In this paper, we compare MPI and Cilk in a heterogeneous cluster system in terms of performance and code complexity. Experimental results show that Cilk is better than MPI with small sizes of data transfers while MPI outperforms Cilk with big sizes of data transfers. Also, We find that Cilk requires less programming efforts to write a parallel program.

키워드

참고문헌

  1. M. Snir, 'MPI: The complete reference', MIT Press, MA: Cambridge, USA, 1996
  2. R. D. Blumofe, C. F. Joerg, B. C. Kuszmaul, C. E. Leiserson, K. H. Randall, and Y. Zhou, 'Cilk: an efficient multithreaded runtime system,' in PPoPP'95, Santa Barbara, 1995
  3. W. Gropp, E. Lusk, N. Doss, and A. Skjellum, 'A high-performance, portable implementation of the MPI message passing interface standard,' Parallel Computing, vol. 22, no. 6, pp. 789–828, Sep 1996
  4. L. T. Yang and M. Guo, 'High-Performance Computing: Paradigm and Infrastructure', John Wiley & Sons, 2006
  5. Y. K. Kwok, 'On exploiting heterogeneity for cluster based parallel multithreading using task duplication', Journal of Supercomputing, 2003
  6. S. Baek, K. Lee, J. Kim and J. Morris, 'Heterogeneous Network of Workstations', Lecture Note on Computing Science, Vol. 3189, Springer-Verilag, pp. 426-439, 2004
  7. R. Buyya, 'High-Performance Cluster Computing: Architectures and Systems', Prentice Hall PTR, 1999
  8. K. Lee and J. Kim, 'Performance and Complexity of Prallel Programming', Joint Conference on Communications and Information, pp75, 2005
  9. S. VanderWiel, D. Nathanson and D. J. Lilja, 'Complexity and Performance in Parallel Programming Languages', International Workshop on High-Level Parallel Programming Models and Supportive Environments, pp. 3-12, April 1997