한국콘텐츠학회:학술대회논문집 (Proceedings of the Korea Contents Association Conference)
- 한국콘텐츠학회 2013년도 춘계 종합학술대회 논문집
- /
- Pages.39-40
- /
- 2013
비-전용 분산 컴퓨팅 환경에서 맵-리듀스 처리 성능 최적화를 위한효율적인 데이터 재배치 알고리즘
An Efficient Data Replacement Algorithm for Performance Optimization of MapReduce in Non-Dedicated Distributed Computing Environments
-
류은경
(충북대학교 정보통신공학부) ;
- 손인국 (충북대학교 정보통신공학부) ;
-
박준호
(충북대학교 정보통신공학부) ;
-
복경수
(충북대학교 정보통신공학부) ;
-
유재수
(충북대학교 정보통신공학부)
-
Ryu, Eunkyung
(School of Information and Communication Engineering) ;
- Son, Ingook (School of Information and Communication Engineering) ;
-
Park, Junho
(School of Information and Communication Engineering) ;
-
Bok, Kyoungsoo
(School of Information and Communication Engineering) ;
-
Yoo, Jaesoo
(School of Information and Communication Engineering)
- 발행 : 2013.05.24
초록
최근 소셜 미디어의 성정과 모바일 장치와 같은 디지털 기기의 활용이 증가함에 따라 데이터가 기하급수적으로 증가하였다. 이러한 대용량의 데이터를 처리하기 위한 대표적인 프레임워크로 맵-리듀스가 등장하였다. 하지만 전용 분산 컴퓨팅 환경에서의 균등한 데이터 배치를 기반으로 수행되는 기존 맵-리듀스는 가용성이 다른 비-전용 분산 컴퓨팅 환경에서는 적합하지 않다. 이를 고려한 비-전용 분산 컴퓨팅 환경에 최적화된 데이터 재배치 알고리즘이 제안되었지만, 데이터 재배치 알고리즘을 수행함으로써 재배치에 많은 시간을 필요로 하고, 불필요한 데이터 전송에 의한 네트워크 부하가 발생한다. 본 논문에서는 비-전용 분산 컴퓨팅 환경에서 맵-리듀스의 성능 최적화를 위한 효율적인 데이터 재배치 알고리즘을 제안한다. 제안하는 기법에서는 노드의 가용성 분석 모델을 기반으로 노드의 데이터 블록 비율을 연산하고, 기존의 데이터 배치를 고려하여 전송함으로써 네트워크 부하를 감소시킨다. 성능평가 결과 기존 기법에 비해 데이터 재배치 블록 비율이 약 75% 감소하였다.
키워드