• 제목/요약/키워드: Distributed Storage

검색결과 698건 처리시간 0.025초

클라우드 스토리지 시스템에서 데이터 접근빈도와 Erasure Codes를 이용한 데이터 복제 기법 (Data Access Frequency based Data Replication Method using Erasure Codes in Cloud Storage System)

  • 김주경;김덕환
    • 전자공학회논문지
    • /
    • 제51권2호
    • /
    • pp.85-91
    • /
    • 2014
  • 클라우드 스토리지 시스템은 데이터의 저장과 관리를 위해서 분산 파일시스템을 사용한다. 기존 분산 파일시스템은 데이터 디스크의 손실 발생시 이를 복구하기 위해서 3개의 복제본을 만든다. 그러나 데이터 복제 기법은 저장공간을 원본 파일의 복제 횟수만큼 필요로하고 복제과정에서 입출력 발생이 증가하는 문제가 있다. 본 논문에서는 SSD 기반 클라우드 스토리지 시스템에서 저장공간 효율성 향상과 입출력 성능 향상을 위하여 Erasure Codes를 이용한 데이터 복제 기법을 제안한다. 특히, 데이터 접근 빈도에 따라 복제 횟수를 줄이더라도 Erasure Codes를 사용하여 데이터 복구 성능을 동일하게 유지하였다. 실험 결과 제안한 기법이 HDFS 보다 저장공간 효율성은 최대 약40% 향상되었으며, 읽기성능은 약11%, 쓰기성능은 약10% 향상됨을 확인하였다.

RDP: A storage-tier-aware Robust Data Placement strategy for Hadoop in a Cloud-based Heterogeneous Environment

  • Muhammad Faseeh Qureshi, Nawab;Shin, Dong Ryeol
    • KSII Transactions on Internet and Information Systems (TIIS)
    • /
    • 제10권9호
    • /
    • pp.4063-4086
    • /
    • 2016
  • Cloud computing is a robust technology, which facilitate to resolve many parallel distributed computing issues in the modern Big Data environment. Hadoop is an ecosystem, which process large data-sets in distributed computing environment. The HDFS is a filesystem of Hadoop, which process data blocks to the cluster nodes. The data block placement has become a bottleneck to overall performance in a Hadoop cluster. The current placement policy assumes that, all Datanodes have equal computing capacity to process data blocks. This computing capacity includes availability of same storage media and same processing performances of a node. As a result, Hadoop cluster performance gets effected with unbalanced workloads, inefficient storage-tier, network traffic congestion and HDFS integrity issues. This paper proposes a storage-tier-aware Robust Data Placement (RDP) scheme, which systematically resolves unbalanced workloads, reduces network congestion to an optimal state, utilizes storage-tier in a useful manner and minimizes the HDFS integrity issues. The experimental results show that the proposed approach reduced unbalanced workload issue to 72%. Moreover, the presented approach resolve storage-tier compatibility problem to 81% by predicting storage for block jobs and improved overall data block placement by 78% through pre-calculated computing capacity allocations and execution of map files over respective Namenode and Datanodes.

Scalable Blockchain Storage Model Based on DHT and IPFS

  • Chen, Lu;Zhang, Xin;Sun, Zhixin
    • KSII Transactions on Internet and Information Systems (TIIS)
    • /
    • 제16권7호
    • /
    • pp.2286-2304
    • /
    • 2022
  • Blockchain is a distributed ledger that combines technologies such as cryptography, consensus mechanism, peer-to-peer transmission, and time stamping. The rapid development of blockchain has attracted attention from all walks of life, but storage scalability issues have hindered the application of blockchain. In this paper, a scalable blockchain storage model based on Distributed Hash Table (DHT) and the InterPlanetary File System (IPFS) was proposed. This paper introduces the current research status of the scalable blockchain storage model, as well as the basic principles of DHT and the InterPlanetary File System. The model construction and workflow are explained in detail. At the same time, the DHT network construction mechanism, block heat identification mechanism, new node initialization mechanism, and block data read and write mechanism in the model are described in detail. Experimental results show that this model can reduce the storage burden of nodes, and at the same time, the blockchain network can accommodate more local blocks under the same block height.

분산 저장환경의 데이터공유 및 관리를 위한 소프트웨어 정의 저장 방법 (Software Defined Storaging Method for Data Sharing and Maintenance on Distributed Storage Envorinment)

  • 차병래;박선;김종원
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국정보통신학회 2014년도 춘계학술대회
    • /
    • pp.644-645
    • /
    • 2014
  • 본 논문은 분산 저장환경에 사용되는 RAID와 네트워크 가상화 기술을 융합하며 Software Defined Storaging 방법을 제안한다. 제안방법은 저장장치를 소프트웨어 기반으로 설계으로써 유연한 제어 및 관리를 제공하여 물리적인 스토리지의 용량과 재해복구 비용을 절감할 수 있다.

  • PDF

저류함수법에 의한 홍수유출해석 (Flood Runoff Analysis by a Storage Function Model)

  • 남궁달;김규성
    • 한국농공학회지
    • /
    • 제38권2호
    • /
    • pp.75-86
    • /
    • 1996
  • The formulas for estimating the constants of storage function model including K and TL for runoff analysis and a distributed storage function model are discussed in this study. First, the relations between parameters of the storage function model and the kinematic runoff model are theoretically examined, and then optimum constants of storage function model are obtained by the Standardized Davidson-Fletcher-Powell (SDFP) method. Through this analysis, theoretical formulas were obtained as $K = 0.63 {\alpha} KsB{^0.6}$ and $T_{L}=0.11 {\alpha} KsB{^0.6} r{^0.4} {_e}$, which are difficult to use practically because of the unclarified definition of shape factors. From a practical point of view, empirical formula were derived as $K=15.6{^0.3} {_m}$ and $T_{L}=2.1B{^0.36} {_m} {_e}/r{^0.4} {_e}$ for applied watersheds. The proposed formulas are verified for several recoded floods at a few points of watersheds. It is also found that the distributed storage function. can be applied to flood runoff analysis using the new formulas aboved mentioned.

  • PDF

ITU-T에서 분산원장기술 표준화 동향 (Standard Status on ITU-T Distributed Ledger Technology)

  • 권동승;박종대
    • 전자통신동향분석
    • /
    • 제35권2호
    • /
    • pp.50-68
    • /
    • 2020
  • Distributed Ledger Technology (DLT) refers to a process and related technologies that enable a person to safely suggest, verify, and record state changes (usually updates) to synchronize ledgers distributed across network nodes. DLTs are becoming increasingly important as data management requirements evolve. Therefore, they need to understand the current state of standards (such as distributed storage and access technologies) to address future requirements. This paper provides ITU-T FG-DLT standard activities, such as standardization ization trends, use cases, reference architectures, platform evaluation criteria and future prospects.

iATA 기반의 RAID5 분산 스토리지 서버의 설계 및 구현 (Design and Implementation of iATA-based RAID5 Distributed Storage Servers)

  • 왕숙미;임효택
    • 한국정보통신학회논문지
    • /
    • 제14권2호
    • /
    • pp.305-311
    • /
    • 2010
  • iATA는 TCP/IP 네트워크상에서 ATA 명령어를 전달하기 위해 개발된 블록-레벨 프로토콜로서, 모바일 기기의 스토리지 한계를 극복하기 위한 대안으로 활용 될 수 있다. 본 논문은 RAID5 분산 스토리지 서버 개념을 iATA에 적용하여 스토리지 서버의 신뢰성과 속도를 개선하고자 한다. 분산 스토리지 서버중 하나의 서버가 다운된 경우에 나머지 서버 데이터의 XOR 함수를 적용하여 데이터 회복이 가능하며 이를 통해 데이터의 신뢰성을 높일 수 있다. 벤치마킹 실험과 시험을 통해 제안된 iATA 프로토콜은 제한된 스토리지를 가지고 있는 모바일 기기상에서 효율적이 고도 신뢰성 있는 가상 스토리지 프로토콜로서 사용될 수 있음을 보여주고 있다.

SDS 환경의 유사도 기반 클러스터링 및 다중 계층 블룸필터를 활용한 분산 중복제거 기법 (Distributed data deduplication technique using similarity based clustering and multi-layer bloom filter)

  • 윤다빈;김덕환
    • 한국차세대컴퓨팅학회논문지
    • /
    • 제14권5호
    • /
    • pp.60-70
    • /
    • 2018
  • 클라우드 환경에서 다수의 사용자가 물리적 서버를 가상화하여 사용할 수 있도록 편의성을 제공하는 Software Defined Storage(SDS)를 적용하고 있지만 한정된 물리적 자원을 고려하여 공간 효율성을 최적화하는 솔루션이 필요하다. 기존의 데이터 중복제거 시스템에서는 서로 다른 스토리지에 업로드 된 중복 데이터가 중복제거되기 어렵다는 단점이 있다. 본 논문에서는 유사도기반 클러스터링과 다중 계층 블룸 필터를 적용한 분산 중복제거 기법을 제안한다. 라빈 해시를 이용하여 가상 머신 서버들 간의 유사도를 판단하고 유사도가 높은 가상머신들을 클러스터 함으로써 개별 스토리지 노드별 중복제거 효율에 비하여 성능을 향상시킨다. 또한 중복제거 프로세스에 다중 계층 블룸 필터를 접목하여 처리 시간을 단축하고 긍정오류를 감소시킬 수 있다. 실험결과 제안한 방법은 IP주소 기반 클러스터를 이용한 중복제거 기법에 비해 처리 시간의 차이가 없으면서, 중복제거율이 9% 높아짐을 확인하였다.

배터리 충전방식을 고려한 신재생에너지 기반 분산발전시스템의 용량선정 (Optimal Sizing of Distributed Power Generation System based on Renewable Energy Considering Battery Charging Method)

  • 김혜림;김동섭
    • 플랜트 저널
    • /
    • 제17권3호
    • /
    • pp.34-36
    • /
    • 2021
  • 기존의 중앙집중식 발전의 탈피와 에너지 전환 및 환경문제 인식에 의해 신재생에너지 기반의 분산발전시스템에 대한 관심이 증가하고 있다. 본 연구에서는 에너지저장장치로 납축전지를 사용하는 PV 및 WT 기반의 분산발전시스템을 모사하여 최적용량을 선정하였다. 기존 발전원으로 CHP를 채택하였으며 시스템의 최적용량은 기존발전원의 운전상황(전부하/부분부하)에 따라 MOGA를 통해 도출하였다. 또한 동일한 배터리 용량에서 배터리 충전방식이 달라지면 배터리의 수명이 달라지는 것을 확인하였다. 따라서 경제적이고 안정적인 전력수급을 위해서는 배터리 충전방식을 고려한 분산발전시스템의 용량선정이 수행되어야 한다.