• Title/Summary/Keyword: 대용량자료

Search Result 370, Processing Time 0.03 seconds

Massive Data Transmission in Time with JXTA Protocol (JXTA 프로토콜을 이용한 대용량 데이터 전송서비스)

  • 김명선;박인수;박용진
    • Proceedings of the Korean Information Science Society Conference
    • /
    • 2002.10e
    • /
    • pp.460-462
    • /
    • 2002
  • 컴퓨터 네트워킹의 새로운 패러다임으로 떠오르고 있는 P2P(Peer-to-peer)통신은 기존의 서버-클라이언트 모델의 한계점을 극복하는 많은 해법을 제시하고 있다. 이에 최근여러 가지 플랫폼의 각기의 서비스를 제공하는 애플리케이션들이 속속 등장하고 있다. SunMicro systems에서 시작되어 현재 Open Project로 진행중인 Project JXTA는 이러한 분산 Computing, 특히 Peer-to-Peer Computing이나 Peer-to-Peer 네트워킹이라는 영역에서 폭넓게 발생하는 문제를 해결하기 위해 만들어진 테크놀로지로서 Peer to Peer를 비롯한 분산 Computing들을 위한 Infra Service를 제공하고 있다. JXTA 테크놀로지를 이용하여 제공할 수 있는 여러 서비스 중에 일반 Peer들의 대용량 데이터 전송에서 있을 수 있는 문제점을 해결할 수 있는 서비스를 제안한다. 대용량의 데이터를 여러 서버에서 나누어 받을 수 있도록 하여 Peer-to-Peer 어플리케이션에서 사용자는 찾고자 하는 자료를 검색했을 때 자료의 위치와 함께 제공자의 status와 capability를 monitoring 함으로써 실제 제공할 수 있는 또는 제공하고자 하는 속도와 다운받을 서버와 가져올 데이터의 용량을 결정함으로써 대용량 데이터를 단시간에 효율적으로 주고받을 수 있다.

  • PDF

A Magneto-Optical Jukebox Managemenat System for Hierarchical Data Storage (계층적 자료저장을 위한 광주크박스 관리 시스템)

  • 이종민;차호정
    • Proceedings of the Korean Information Science Society Conference
    • /
    • 1999.10c
    • /
    • pp.69-71
    • /
    • 1999
  • 본 논문에서는 대용량 데이터의 계층적 자료저장을 위한 광주크박스 관리 시스템을 설계하고 구현한다. 광주크박스를 이용한 계층적 자료저장을 함으로써 적은 비용으로 대용량의 저장공간을 확보하며, 적절한 스케쥴링 정책에 의해 효과적인 자료 관리를 할 수 있다. 관리 시스템은 사용자와의 인터페이스를 위한 부분. 미디어의 관리를 위한 부분, 주크박스를 제어하기 위한 부분으로 구성된다. 각 구현 모듈들은 운영체제 독립적으로 설계되어 재사용이 가능하며 다양한 운영체제에 적용할 수 있다.

  • PDF

Level Scale Interface Design for Real-Time Visualizing Large-Scale Data (대용량 자료 실시간 시각화를 위한 레벨 수준 표현 인터페이스 설계)

  • Lee, Do-Hoon
    • Journal of the Korea Society of Computer and Information
    • /
    • v.13 no.2
    • /
    • pp.105-111
    • /
    • 2008
  • Various visualizing methods have been proposed according to the input and output types. To show complex and large-scale raw data and information. LOD and special region scale method have been used for them. In this paper, I propose level scale interface for dynamic and interactive controlling large scale data such as bio-data. The method has not only advantage of LOD and special region scale but also dynamic and real-time processing. In addition, the method supports elaborate control from large scale to small one for visualization on a region in detail. Proposed method was adopted for genome relationship visualization tool and showed reasonable control method.

  • PDF

Multiple Period Forecasting of Motorway Traffic Volumes by Using Big Historical Data (대용량 이력자료를 활용한 다중시간대 고속도로 교통량 예측)

  • Chang, Hyun-ho;Yoon, Byoung-jo
    • KSCE Journal of Civil and Environmental Engineering Research
    • /
    • v.38 no.1
    • /
    • pp.73-80
    • /
    • 2018
  • In motorway traffic flow control, the conventional way based on real-time response has been changed into advanced way based on proactive response. Future traffic conditions over multiple time intervals are crucial input data for advanced motorway traffic flow control. It is necessary to overcome the uncertainty of the future state in order for forecasting multiple-period traffic volumes, as the number of uncertainty concurrently increase when the forecasting horizon expands. In this vein, multi-interval forecasting of traffic volumes requires a viable approach to conquer future uncertainties successfully. In this paper, a forecasting model is proposed which effectively addresses the uncertainties of future state based on the behaviors of temporal evolution of traffic volume states that intrinsically exits in the big past data. The model selects the past states from the big past data based on the state evolution of current traffic volumes, and then the selected past states are employed for estimating future states. The model was also designed to be suitable for data management systems in practice. Test results demonstrated that the model can effectively overcome the uncertainties over multiple time periods and can generate very reliable predictions in term of prediction accuracy. Hence, it is indicated that the model can be mounted and utilized on advanced data management systems.

Introduction to general purpose GPU computing (GPU를 이용한 범용 계산의 소개)

  • Yu, Donghyeon;Lim, Johan
    • Journal of the Korean Data and Information Science Society
    • /
    • v.24 no.5
    • /
    • pp.1043-1061
    • /
    • 2013
  • Recent advances in computer technology introduce massive data and their analysis becomes important. The high performance computing is one of the most essential part in analysis of massive data. In this paper, we review the general purpose of the graphics processing unit and its application to parallel computing, which has been of great interest in statistics communities.

초고속 대용량 자료저장 시스템(Petascale Epoch Data Archive, PEDA)의 제어 소프트웨어 개발과 운용 시험

  • Park, Seon-Yeop;Gang, Yong-U;No, Deok-Gyu;O, Se-Jin;Yeom, Jae-Hwan
    • Bulletin of the Korean Space Science Society
    • /
    • 2009.10a
    • /
    • pp.25.2-25.2
    • /
    • 2009
  • 한국천문연구원 한국우주전파관측망(Korean VLBI Network, KVN)에서 도입하여 시험운용중인 VLBI 상관서브시스템(VLBI Correlation Subsystem, VCS)은 한일공동 VLBI 상관기(Korea-Japan Joint VLBI Correlator, KJJVC)의 핵심 장비로서, 최대 16 관측국의 관측국 당 최대 8Gbps의 데이터를 처리할 수 있는 상관처리장치이다. VCS의 상관처리 결과는 총 4회선의 10GbE 광케이블을 통하여 UDP 프로토콜로 출력된다. 이 상관처리 결과는 광케이블 하나당 8개씩 총 32개의 상관 처리 블록(correlation block)으로 구성되며, 최대 출력속도는 1.4 GBytes/sec이다. 이 출력은 초고속 대용량 자료저장 시스템(Peta-scale Epoch Data Archive, PEDA)을 이용하여 저장하고 후속 자료처리를 위해 가공된다. PEDA는 총 4대의 고성능 자료 전송 및 저장 서버(writing server) 및 대용량 하드디스크 어레이로 구성된다. 상관처리 과정에 맞추어 PEDA의 writing 서버를 연계하여 제어하는 자료 전송 및 저장 제어 소프트웨어를 개발하였다. 이 소프트웨어는 핵심이 되는 전송 및 저장 프로세서와 이를 제어하는 제어프로세서로 구성된다. 전송 및 저장 프로세서는 개개의 상관 처리 블록에 대한 전송과 저장을 전담한다. 제어 프로세서는 총 32개의 상관 처리 블록을 처리하기 위하여 전송 및 저장 프로세스를 32개를 실행하고 각각의 상관 처리 블록에 해당하는 개별파라미터를 전달하는 전체적인 제어를 담당한다. 이 연구에서는 이 자료전송 및 저장 제어 소프트웨어의 설계 구성과 테스트 내용을 소개한다.

  • PDF

Development of Clustering Algorithm based on Massive Network Compression (대용량 네트워크 압축 기반 클러스터링 알고리즘 개발)

  • Seo, Dongmin;Yu, Seok Jong;Lee, Min-Ho
    • Proceedings of the Korea Contents Association Conference
    • /
    • 2016.05a
    • /
    • pp.53-54
    • /
    • 2016
  • 빅데이터란 대용량 데이터 활용 및 분석을 통해 가치 있는 정보를 추출하고, 이를 바탕으로 대응 방안 도출 또는 변화를 예측하는 기술을 의미한다. 그리고 빅데이터 분석에 활용되는 데이터인 페이스북과 같은 소셜 데이터, 유전자 발현과 같은 바이오 데이터, 항공망과 같은 지리정보 데이터들은 대용량 네트워크로 구성되어 있다. 네트워크 클러스터링은 서로 유사한 특성을 갖는 네트워크 내의 데이터들을 동일한 클러스터로 묶는 기법으로 네트워크 데이터를 분석하고 그 특성을 파악하는데 폭넓게 사용된다. 최근 빅데이터가 다양한 분야에서 활용되면서 방대한 양의 네트워크 데이터가 생성되고 있고, 이에 따라서 대용량 네트워크 데이터를 효율적으로 처리하는 클러스터링 기법의 중요성이 증가하고 있다. MCL(Markov Clustering) 알고리즘은 플로우 기반 무감독(unsupervised) 클러스터링 알고리즘으로 확장성이 우수해 다양한 분야에서 활용되고 있다. 하지만, MCL은 대용량 네트워크에 대해서는 많은 클러스터링 연산을 요구하며 너무 많은 클러스터를 생성하는 문제를 갖는다. 본 논문에서는 네트워크 압축을 기반으로 한 클러스터링 알고리즘을 제안함으로써 MCL보다 클러스터링 속도와 정확도를 향상시켰다. 또한, 희소행렬을 효율적으로 저장하는 CSC(Compressed Sparse Column) 자료구조와 MapReduce 기법을 제안한 클러스터링 알고리즘에 적용함으로써 대용량 네트워크에 대한 클러스터링 속도를 향상시켰다.

  • PDF

대용량 자료를 활용한 복잡계 연결망 연구 동향 및 재난 연구에의 기여

  • Jeong, U-Seong
    • Information and Communications Magazine
    • /
    • v.29 no.5
    • /
    • pp.37-41
    • /
    • 2012
  • 본고에서는 수많은 구성요소가 하나의 계를 이루면서 단순하지 않은 방식으로 서로 얽혀있는 상호작용을 하는 복잡계 연결망에서의 정보 확산에 관한 연구 동향을 살펴보고자 한다. 특히 복잡계 연결망 이론은 실생활에서 나타나는 다양한 연결구조와 이와 관련된 사회현상을 자연과학의 이론을 통해 분석 및 해석하는 분야로, 다양한 학제간의 융합연구로 각광받고 있다. 특히 복잡계 연결망의 최근 연구 결과를 비롯하여 실생활에 존재하는 다양한 대용량 자료를 활용한 사회 동역학과 정보 확산에 관한 최근 연구 동향 분석을 통해 재해의 확산 및 재난 상황에서의 행동 양상 형성 및 전파 등의 연구에 활용하고자 한다.

Development of a Web Service System of Large Capacity Image Data: Focusing on the System Established for Ministry of Environment (대용량 영상자료 웹 서비스 시스템의 개발: 환경부 구축 사례 중심으로)

  • Lee, Sang-Ik;Shin, Sang-Hee;Choi, Yun-Soo;Lee, Im-Pyeong
    • Journal of Korean Society for Geospatial Information Science
    • /
    • v.12 no.3 s.30
    • /
    • pp.61-67
    • /
    • 2004
  • Satellite and aerial images are effectively used to monitor ecological and environmental situation. More and more officials in the Ministry of Environment thus need to utilize these image data for various administrative affairs. However, it is difficult not only to deliver to the officials these image data mostly of large capacity through network but also for them to actively use the delivered data without specialized knowledge in remote sensing and image processing. Therefore, we established a large rapacity image data service system employing image compressive transmission and web-based image processing techniques. This system allows the officials to rapidly access all the associated image data and conveniently utilize the data using various functions implemented for remote sensing, image processing, GIS operations. Consequently, this system have been actively utilized for the decision making processes of the officials and hence accomplished a great reduction in the resources required for the data analysis for various administrative affairs.

  • PDF

Efficient Processing of Huge Airborne Laser Scanned Data Utilizing Parallel Computing and Virtual Grid (병렬처리와 가상격자를 이용한 대용량 항공 레이저 스캔 자료의 효율적인 처리)

  • Han, Soo-Hee;Heo, Joon;Lkhagva, Enkhbaatar
    • Journal of Korea Spatial Information System Society
    • /
    • v.10 no.4
    • /
    • pp.21-26
    • /
    • 2008
  • A method for processing huge airborne laser scanned data using parallel computing and virtual grid is proposed and the method is tested by generating raster DSM(Digital Surface Model) with IDW(Inverse Distance Weighting). Parallelism is involved for fast interpolation of huge point data and virtual grid is adopted for enhancing searching efficiency of irregularly distributed point data. Processing time was checked for the method using cluster constituted of one master node and six slave nodes, resulting in efficiency near to 1 and load scalability property. Also large data which cannot be processed with a sole system was processed with cluster system.

  • PDF