• 제목/요약/키워드: 대용량 데이터

검색결과 2,292건 처리시간 0.039초

Min-Hash를 이용한 효율적인 대용량 그래프 클러스터링 기법 (An Efficient Large Graph Clustering Technique based on Min-Hash)

  • 이석주;민준기
    • 정보과학회 논문지
    • /
    • 제43권3호
    • /
    • pp.380-388
    • /
    • 2016
  • 그래프 클러스터링은 서로 유사한 특성을 갖는 정점들을 동일한 클러스터로 묶는 기법으로 그래프 데이터를 분석하고 그 특성을 파악하는데 폭넓게 사용된다. 최근 소셜 네트워크 서비스와 월드 와이드 웹, 텔레폰 네트워크 등의 다양한 응용분야에서 크기가 큰 대용량 그래프 데이터가 생성되고 있다. 이에 따라서 대용량 그래프 데이터를 효율적으로 처리하는 클러스터링 기법의 중요성이 증가하고 있다. 본 논문에서는 대용량 그래프 데이터의 클러스터들을 효율적으로 생성하는 클러스터링 알고리즘을 제안한다. 우리의 제안 기법은 그래프 내의 클러스터들 간의 유사도를 Min-Hash를 이용하여 효과적으로 추정하고 계산된 유사도에 따라서 클러스터들을 생성한다. 실세계 데이터를 이용한 실험에서 우리는 본 논문에서 제안하는 기법과 기존 그래프 클러스터링 기법들과 비교하여 제안기법의 효율성을 보였다.

대용량 그래프 데이터를 효율적으로 시각화하는 방법에 대한 최신 연구 조사 (The State of the Art in Visualizing Large Graph Data)

  • 곽우석;나인주;김현지;이경준;서인;한욱신
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2017년도 춘계학술발표대회
    • /
    • pp.802-803
    • /
    • 2017
  • 소셜 네트워크, 웹 시멘틱, 협력 네트워크 등과 같이 다양한 응용에서 대용량 그래프 데이터를 이용한다. 최근 이러한 데이터를 분석하기 위해 대용량 그래프 데이터를 효율적으로 시각화 하는 연구가 제안되었다. 이에 본 연구에서는 대용량 그래프 데이터를 효율적으로 시각화 하는 방법에 대한 최신 연구 동향을 조사한다.

JXTA 프로토콜을 이용한 대용량 데이터 전송서비스 (Massive Data Transmission in Time with JXTA Protocol)

  • 김명선;박인수;박용진
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2002년도 가을 학술발표논문집 Vol.29 No.2 (3)
    • /
    • pp.460-462
    • /
    • 2002
  • 컴퓨터 네트워킹의 새로운 패러다임으로 떠오르고 있는 P2P(Peer-to-peer)통신은 기존의 서버-클라이언트 모델의 한계점을 극복하는 많은 해법을 제시하고 있다. 이에 최근여러 가지 플랫폼의 각기의 서비스를 제공하는 애플리케이션들이 속속 등장하고 있다. SunMicro systems에서 시작되어 현재 Open Project로 진행중인 Project JXTA는 이러한 분산 Computing, 특히 Peer-to-Peer Computing이나 Peer-to-Peer 네트워킹이라는 영역에서 폭넓게 발생하는 문제를 해결하기 위해 만들어진 테크놀로지로서 Peer to Peer를 비롯한 분산 Computing들을 위한 Infra Service를 제공하고 있다. JXTA 테크놀로지를 이용하여 제공할 수 있는 여러 서비스 중에 일반 Peer들의 대용량 데이터 전송에서 있을 수 있는 문제점을 해결할 수 있는 서비스를 제안한다. 대용량의 데이터를 여러 서버에서 나누어 받을 수 있도록 하여 Peer-to-Peer 어플리케이션에서 사용자는 찾고자 하는 자료를 검색했을 때 자료의 위치와 함께 제공자의 status와 capability를 monitoring 함으로써 실제 제공할 수 있는 또는 제공하고자 하는 속도와 다운받을 서버와 가져올 데이터의 용량을 결정함으로써 대용량 데이터를 단시간에 효율적으로 주고받을 수 있다.

  • PDF

대용량 파일 전송을 위한 능동적인 QoS 제공 방안의 설계 및 성능분석 (Design and Performance Analysis of an Active QoS Allocation Scheme for large File Transfer)

  • 김국한;이만희;변옥환;유인태
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2003년도 봄 학술발표논문집 Vol.30 No.1 (C)
    • /
    • pp.283-285
    • /
    • 2003
  • 슈퍼컴퓨터 사용자들은 FTP(File Transfer Protocol)을 이용해서 대용량의 파일을 전송한다. 전송되는 데이터들은 승용차나 비행기 설계, 의약품 개발. 기상 예보 그리고 복잡한 수학적 계산 등과 같이 다양한 분야에 걸친 연구관련 데이터로서 고성능 슈퍼컴퓨터에 의한 연산 처리가 요구된다 기존의 FTP 는 네트워크 상태에 따라 전송 지연이나 데이터 손실 등의 문제로 사용자의 불편을 초래하였다. 이에 전송 성능을 효율적으로 높이고 데이터 손실을 최소화를 제공하는 연구가 필요하다. 근래의 TCP (Transmission Control Protocol) 성능 향상 연구에 관한 연구들의 관심은 크게 두 가지이다. 하나는 윈도우 사이즈 조절(auto-tuning)이고, 다른 하나는 Multi-stream 이다. 본 연구에서는 파일 전송 성능 향상을 위한 방법으로 윈도우 사이즈 조절 방법을 사용하였고, 네트워크 상태에 따라 QoS(quality of Service)를 제공한다. 이런 성능 향상 결과로 신뢰성 있는 네트워크를 제공하여 사용자들은 신속하게 데이터를 전송하며 연산처리 결과가 더욱 정확하다고 신뢰할 수 있다. 본 고에서는 대용량 파일을 전송 할 때 성능을 향상시키는 관련 연구를 알아보고 대용량 파일 전송 중 네트워크 상태에 따라 005를 능동적으로 작용하여 테스트하고 성능을 분석하였다.

  • PDF

무선 멀티미디어 센서 네트워크(WMSN) 환경에서 멀티미디어 데이터 전송을 위한 대용량 전송 기법에 대한 연구 (A High Performance Transmission Method for Massively Delivering Multimedia Data in WMSN)

  • 이재호;엄두섭
    • 한국통신학회논문지
    • /
    • 제37A권11호
    • /
    • pp.903-917
    • /
    • 2012
  • WSN은 센서 탐지에 의한 데이터 전송을 목적으로 사용하며 이러한 송신 이벤트의 데이터 전송량은 일반적으로 용량이 작다. 이러한 이유로 일반적인 WSN MAC 프로토콜은 에너지 효율을 높이기 위하여 듀티 사이클 방식을 적용하지만, 이는 WMSN 환경에서 요구되는 대용량 멀티미디어 데이터 전송에 적합하지 않다. 본 논문에서는 WMSN 요구를 만족시키기 위하여 MAC 계층에서의 새로운 대용량 데이터 전송 기법을 제안하며, 기존 WSN 환경의 경쟁기반 MAC 프로토콜에서 도입하는 듀티 사이클 기법과 공존하여 적용할 수 있도록 설계하였다. 또한, 제안하는 대용량 데이터 전송기법은 송신 버퍼의 상태와 채널 환경을 고려하여 사용 유무를 결정하도록 설계되었으며, 송수신 노드가 대용량 데이터 전송 시점에서 이웃 노드에게 간섭받지 않고 채널 점유를 보장받을 수 있도록 설계되었다. 본 논문은 제안 방식의 객관적 성능을 평가하기 위하여 기존 듀티 사이클 기법을 지속적으로 운영하는 MAC과 제안하는 대용량 전송 방식을 혼용하여 운영하는 MAC을 모두 실험하고 그 결과를 분석하였다.

저궤도위성 탑재체 데이터 자동 전송 (Automatic payload data dump for the LEO satellite)

  • 채동석;양승은
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2011년도 춘계학술발표대회
    • /
    • pp.641-642
    • /
    • 2011
  • 저궤도 위성은 지상과의 접축시간이 극히 제한되어 있어 위성에서 생성된 원격측정 데이터들을 위성의 대용량 메모리에 저장하였다가 지상과의 접촉시간에 저장된 데이터를 지상으로 전송하는 방식으로 운영된다. 위성에 저장할 수 있는 전체 데이터 크기는 대용량 메모리의 크기와 지상과의 통신 가용시간에 따라 제한을 받게 된다. 대용량 메모리 저장용량과 다운링크 버짓을 만족해야 하므로 일반적으로 각 탑재체로부터 수신하여 위성에 저장되는 원격측정 데이터들은 종류별로 일정한 주기를 가지게 되고 그 크기도 고정되어 있다. 그리고 각 데이터 종류별로 저장여부를 지상명령으로 조절할 수 있도록 되어 있다. 그러나 생성되는 데이터가 일정하지 않고 비주기성을 갖는 경우 데이터량을 예측할 수 없으므로 지상명령으로 데이터 저장여부를 제어하는 것은 거의 불가능하다. 이러한 경우에 생성되는 데이터량을 모니터링하면서 데이터를 전송할 수 있는 자동화된 데이터 통신 방식이 요구된다. 본 논문은 저궤도 위성 탑재체에서 비주기적으로 생성되는 데이터를 자동으로 전송받기 위한 데이터 자동 전송기능과 시험 결과에 대해서 기술하였다.

대용량 센서 데이터 아카이빙을 위한 색인 분할 기법 (An Index Splitting Technique for Numerous Sensor Data Archiving)

  • 조대수
    • 한국공간정보시스템학회 논문지
    • /
    • 제9권1호
    • /
    • pp.31-43
    • /
    • 2007
  • 센서 데이터는 대용량이며 지속적으로 발생하는 특징이 있다. 따라서 대용량의 센서 데이터로부터 특정 데이터를 효과적으로 검색하기 위해서는 색인의 개발이 요구된다. 센서 데이터 색인은 데이터 아카이빙을 지원하기 위해서 일정한 시간이 지난 과거의 데이터를 효과적으로 삭제할 수 있어야 한다. 본 논문에서는 대용량 센서 데이터 아카이빙을 지원하기 위해 색인 분할 기법을 제안하고 구현하였다. 분할된 각각의 색인들은 가상색인으로 구성되어, 외부에서는 하나의 색인으로 보인다. 실험 결과 색인의 생성비용은 총 100,000번의 삽입 연산에 대해서 최대 8%의 성능 향상을 보였으며, 삽입되는 데이터의 개수가 많아질수록 성능이 더 향상됨을 보였다. 영역질의의 경우 각 질의영역이 적을수록, 시간도메인의 크기가 커질수록 큰 성능 향상을 보였다.

  • PDF

공간데이터 LOD 기반 3차원 대용량 객체의 경량화 알고리즘 연구 (A Study on the Weight Lightening Algorithm of 3-Dimensional Large Object based on Spatial Data LOD)

  • 나준엽;홍창희
    • Spatial Information Research
    • /
    • 제21권6호
    • /
    • pp.1-9
    • /
    • 2013
  • 최근 건설정보가 CAD에서 BIM으로 전환되고 있으며, GIS 분야는 기존 실외공간에서 실내공간으로 확장되고 있다. 이러한 상황에서 건설정보를 GIS와 연계하여 계획 설계 시공의 건설단계는 물론 건설 후 유지관리 및 운영 서비스 단계에서 지속적으로 활용할 필요성이 커지고 있다. 이를 위하여 건설정보와 공간정보의 유기적 결합을 통한 BIM-GIS 상호운용 플랫폼을 구축함에 있어 대용량 3차원 공간객체의 효율적 표현은 필수적인 요소이다. 본 연구에서는 대용량 공간객체를 표현함에 있어 각 레벨별 공간객체와 이에 따르는 텍스처를 효과적으로 생성할 수 있도록 BIM 데이터와 GIS 공간 데이터의 연계활용을 위한 공간데이터 LOD를 설계하고 이를 기반으로 기존의 대용량 공간객체를 경량화할 수 있는 알고리즘을 개발하였다.

전진적 단계 알고리즘을 이용한 대용량 데이터와 순차적 배치 데이터의 분류 (Classification of large-scale data and data batch stream with forward stagewise algorithm)

  • 윤영주
    • Journal of the Korean Data and Information Science Society
    • /
    • 제25권6호
    • /
    • pp.1283-1291
    • /
    • 2014
  • 본 논문에서는 대용량이거나 시간에 따라 순차적으로 들어오는 데이터의 분류를 위한 전진적 단계 알고리즘을 제안한다. Adaboost 알고리즘은 노이즈가 있는 데이터에 대하여 성능이 떨어지는 것으로 알려져 있다. 이를 해결하기 위한 한 가지 방법으로 전진적 단계 선형 회귀 방법을 사용한다. 대용량 데이터나 순차적 배치 데이터의 경우에도 이러한 상황을 극복하기 위해 전진적 단계 알고리즘 방법을 적용한 방법을 제안한다. 모의실험과 실제 자료 분석을 통해 제안된 알고리즘이 좋은 성능을 보임을 알 수 있었다.

다차원 데이터 처리를 위한 맵리듀스 기반의 그리드 파일 생성기법에 관한 연구 (A Study on The Grid File Construction Method based on MapReduce for Multidimensional Data Processing)

  • 정주혁;이상호
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2014년도 춘계학술발표대회
    • /
    • pp.77-80
    • /
    • 2014
  • 최근 컴퓨터와 인터넷 이용의 확산, 스마트폰을 포함한 스마트 기기의 보급과 소셜 네트워크 이용의 확대, 위치 기반의 다양한 서비스 확대 등으로 처리해야 할 데이터 크기가 증가하는 추세이다. 이에 따라 대용량 데이터에 대한 처리가 큰 이슈로 떠오르고 있다. 그로 인해 대용량 데이터 처리를 위한 큰 규모의 분산 컴퓨팅 환경을 지원하는 프레임워크인 하둡이 개발되었으며 많은 기업에서 이를 활용하고 있는 추세이다. 하지만 대용량 데이터 중 영상, 의료, 센서 데이터 등 다차원 데이터 처리에 관한 연구는 미비한 상태이다. 기존의 다차원 데이터 처리를 위해 다양한 다차원 인덱스가 제안되었지만, 대용량 다차원 데이터 처리는 단일머신에서는 비효율적인 단점이 있다. 본 논문에서는 다차원 인덱스 기법인 그리드 파일을 하둡의 분산 병렬 처리 모델인 맵리듀스를 기반으로 생성하는 기법을 제안한다. 또한 앞서 생성된 그리드 파일을 가지고 맵리듀스를 이용한 질의처리 방법을 제안 한다. 이로 인해 단일머신에서의 그리드 파일 생성을 병렬처리 함으로써 생성 시간을 단축시키고 질의 처리 또한 맵리듀스를 이용하여 병렬 처리 함으로써 질의 시간 단축을 예상한다.