한국정보과학회:학술대회논문집 (Proceedings of the Korean Information Science Society Conference)
- 한국정보과학회 2011년도 한국컴퓨터종합학술대회논문집 Vol.38 No.1(B)
- /
- Pages.13-16
- /
- 2011
- /
- 1598-5164(pISSN)
하둡 기반 천문 응용 분야 대규모 데이터 분석 기법 연구
A Study on Large-scale Data Analysis based on Hadoop for Astroinformatics
-
Kwak, Jae-Hyuck
(Korea Institute of Science and Technology Information (KISTI)) ;
-
Yoon, Jun-Weon
(Korea Institute of Science and Technology Information (KISTI)) ;
-
Jung, Yong-Hwan
(Korea Institute of Science and Technology Information (KISTI)) ;
-
Hahm, Jae-Gyoon
(Korea Institute of Science and Technology Information (KISTI)) ;
-
Park, Dong-In
(Korea Institute of Science and Technology Information (KISTI))
- 발행 : 2011.06.29
초록
과학 응용 분야에서 생성되는 대규모의 데이터를 빠른 시간 내에 효율적으로 처리해야 할 필요성이 대두 되면서 클라우드 컴퓨팅이 주목받고 있다. 하둡(Hadoop)은 대규모 데이터 처리 분석을 위한 소프트웨어 프레임워크를 제공하는 아파치의 오픈소스 프로젝트로서 클라우드 컴퓨팅의 대표적인 기술로서 널리 사용되고 있다. 특히, 하둡은 높은 확장성과 성능을 제공하면서 결함 탐지와 자동 복구 기능이 우수하여 과학 기술 분야에서도 점차적으로 도입 및 활용되고 있다. 본 논문에서는 하둡을 이용하여 천문 응용 분야에서 생성되는 대규모 데이터를 분석하기 위한 방법을 연구하였다. 본 논문에서 관심을 가지는 천문 응용 데이터는 대략 천만개의 작은 크기의 관측 데이터를 처리해야 하지만, 하둡은 대규모 데이터 처리에 특화되어 있어서 많은 개수의 작은 크기를 가지는 관측데이터 처리에는 적합하지 않다. 본 논문에서는 천문 응용 데이터 처리를 위한 입출력 파일을 하둡에서 제공하는 특수화된 데이터 구조를 이용하여 압축하였고, 천문 응용 실행 코드가 하둡에서 실행이 가능하도록 맵리듀스 작업으로 랩핑하여 구현하였다.
키워드