• Title/Summary/Keyword: 분산 파일 시스템

Search Result 383, Processing Time 0.031 seconds

A Cooperation with Clients on Agent-Initiated Cache Consistency Sheme (대리인에 의한 캐쉬 일관성 유지 방식에서의 클라이언트들간의 상호 협조)

  • 김경자;장태무
    • Proceedings of the Korean Information Science Society Conference
    • /
    • 1998.10a
    • /
    • pp.178-180
    • /
    • 1998
  • 분산 파일 시스템에서는 파일 서버는 사용률이 높고, 통신 네트워크나 클라이언트 워크스테이션은 상대적으로 낮은 것으로 보고 하고 있다. 따라서, 시스템의 확장은 파일 서버가 처리해야 할 작업 부담을 증가하는 결과를 초래하므로 파일 서버는 시스템 사의 주된 병목 구간이 된다. 따라서 분산 시스템의 성능을 향상시키기 위해서는 파일 서버의 작업 부담을 클리언트로 이전시키고 가급적이면 파일 서버가 유지되는 상태 정보의 양을 줄여야 한다. 본 논문에서는 파일 서버에서 유지되는 상태 정보의 양이 파일 서버의 작업 부담에 비례한다는 가정 하에 파일 서버의 작업부담을 클라이언트들에게 이양시키는 대리인에 의한 캐쉬 일관성 유지 방식과 클라이언트들간의 상호 협조를 통해 요구된 파일에 대한 응답시간을 줄이는 방안을 제안하였다.

  • PDF

The Performance Analysis of SSD and HDD Fusion Storage using Bio Application (바이오 응용을 이용한 SSD와 HDD 융합 스토리지 성능 분석)

  • Kim, Dong-Oh;Cha, Myung-Hoon;Kim, Hong-Yeon;Kim, Young-Kyun
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2015.10a
    • /
    • pp.211-213
    • /
    • 2015
  • SSD 등과 같이 다양한 성능을 가진 저장 장치가 개발되고 안정화 됨에 따라 분산 파일 시스템에서 다양한 저장 장치를 활용하기 위한 연구가 많이 진행되고 있다. 특히, 바이오 응용에서 대용량 분석에서 높은 IOPS가 요구가 증대되고 있으며, 이를 해결하기 위해 분산 파일 시스템에서 SSD 장치 등을 활용하는 것이 필요해지고 있다. 하지만 단순히 SSD만 사용한다고 해서 분산 파일 시스템의 성능이 빨라지는 것은 아니다. 오히려, 비용 대비 성능 상의 이점이 없을 수 있다. 본 논문에서는 대표적인 바이오 응용을 활용해 SSD와 HDD 융합 시험을 통해 분산 파일 시스템에서 SSD 활용에 대한 효과를 살펴보았다.

Implementation and Performance Analysis of Hadoop MapReduce over Lustre Filesystem (러스터 파일 시스템 기반 하둡 맵리듀스 실행 환경 구현 및 성능 분석)

  • Kwak, Jae-Hyuck;Kim, Sangwan;Huh, Taesang;Hwang, Soonwook
    • KIISE Transactions on Computing Practices
    • /
    • v.21 no.8
    • /
    • pp.561-566
    • /
    • 2015
  • Hadoop is becoming widely adopted in scientific and commercial areas as an open-source distributed data processing framework. Recently, for real-time processing and analysis of data, an attempt to apply high-performance computing technologies to Hadoop is being made. In this paper, we have expanded the Hadoop Filesystem library to support Lustre, which is a popular high-performance parallel distributed filesystem, and implemented the Hadoop MapReduce execution environment over the Lustre filesystem. We analysed Hadoop MapReduce over Lustre by using Hadoop standard benchmark tools. We found that Hadoop MapReduce over Lustre execution has a performance 2-13 times better than a typical Hadoop MapReduce execution.

Dynamic File Allocation Problems In Distributed Systems (분산 시스템의 동적 파일 할당 연구)

  • Seo, Pil-Kyo
    • The Transactions of the Korea Information Processing Society
    • /
    • v.4 no.7
    • /
    • pp.1681-1693
    • /
    • 1997
  • In a distributed system, the simple file allocation problem determines the placement of copies of a file, so as to minimize the operating costs. The simple file allocation problem assumes the cost parameters to be fixed. In practice, these parameters change over time. In this research, dynamic file allocation problem for both single and multiple files are considered, which account for these changing parameters. A model for dynamic file allocation problem is formulated as a mixed integer program for which Lagrangian relaxation based branch-and-bound algorithm is developed. This algorithms is implemented and its efficiency is tested on medium to large test problems.

  • PDF

Merging Files on Distribute File Systems for Cloud Computing (클라우드 컴퓨팅을 위한 분산 파일 시스템에서의 파일 병합 기법)

  • Lee, Dongwoo;Kim, Junghan;Eom, Young Ik
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2009.11a
    • /
    • pp.109-110
    • /
    • 2009
  • 최근 IT산업의 화두인 클라우드 컴퓨팅에서, HDFS는 널리 사용되고 있는 분산 파일 시스템이다. HDFS는 분산된 데이터의 저장과 검색의 장점이 있는 반면, 대용량 파일처리를 목적으로 설계되었기 때문에 실시간 파일처리와 저용량 데이터 처리에 비효율적이다. 본 논문에서는 이러한 문제를 해결하기 위해 HDFS의 파일 처리 과정을 개선하여 저용량 파일 처리를 향상시키는 방법을 제안한다. 본 기법은 데이터 블록에 저용량 파일들을 병합함으로써 데이터 처리의 효율성을 높이는 결과를 보였다.

An Efficient File Retrieval System using RDF in Distributed Environment (분산 환경에서 RDF를 이용한 효율적인 파일 검색 시스템)

  • 엄영현;국윤규;정계동;최영근
    • Proceedings of the Korean Information Science Society Conference
    • /
    • 2003.10c
    • /
    • pp.232-234
    • /
    • 2003
  • 컴퓨팅 환경과 멀티미디어 환경이 발전함에 따라 P2P 파일 공유 시스템이 증가하고 있다. 각각의 P2P 파일 공유 시스템들은 서로 다른 애플리케이션을 제공하며 여러 가지 기준에 따라 그 특징 및 장단점을 가지고 있다. 같은 속성의 파일을 공유하는 서비스에서는 상관없지만, 일반적으로 모든 형식의 파일을 공유하는 서비스에서는 사용자의 기호에 따라 분산된 peer마다 사용하는 애플리케이션이 다르기 때문에 같은 그룹 peer에서 원하는 파일이 없을 경우 다른 그룹 peer에 대한 검색이 이루어지는 불편함이 있다. 따라서 본 논문은 웹을 통한 파일 공유 서비스를 제시하여 파일 공유에 대한 상호 운용성을 높이고, 저장 방식 및 검색 성능을 향상시키기 위하여 RDF를 이용한 효율적인 파일 검색 시스템을 제안한다.

  • PDF

Fiber-channel-based Shared Disk Distributed File System (파이버채널(Fiber-channel)기반 공유디스크 분산 파일시스템)

  • 이영무;김경호;임상석;박규호
    • Proceedings of the Korean Information Science Society Conference
    • /
    • 1999.10c
    • /
    • pp.786-788
    • /
    • 1999
  • 파이버채널은 고용량 디스크를 특성 호스트에 의존하지 않고 네트웍에 직접 연결할 수 있는 매우 빠른 입출력 시스템 인터페이스이다. 파이버채널의 등장에 따라 고용량 디스크 어레이를 공유하는 분산 파일시스템에 관한 관심이 늘고 있다. 본 논문에서는 파이버 채널의 장점을 이용하여 효율적인 공유디스크 분산 파일시스템의 설계 결과를 제시한다. 제시된 파일시스템은 시스템에 참여하는 모든 호스트들이 부하를 균등하게 나누어 부담하도록 설계되었으며 특히 호스트들이 파이버채널상에서 직접 통신을 통하여 공유디스크 데이터의 일관성을 유지할 수 있도록 하므로써 별도의 장치 없이 일반디스크를 사용할 수 있도록 하여 비용대 성능비가 우수한 시스템에 적합하도록 하였다.

  • PDF

Performance evaluation of spNFS on a small scale cluster system (소규모 클러스터 시스템에서의 spNFS 성능 평가)

  • Kwangho Cha;Sungho Kim;Sangdong Lee
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2008.11a
    • /
    • pp.940-942
    • /
    • 2008
  • 분산되어 있는 스토리지 자원을 하나의 클러스터로 구성하여 분산 파일 시스템으로 구성하고자 하는 경우, 기존의 네트워크 파일 시스템만을 이용하기에는 여러 가지 제약이 존재한다. 특히 Parallel Striped Access는 IO데이터를 스토리지에 나누어 분산시키고 클라이언트가 직접 접근하는 방식으로 병렬 파일 시스템과 같은 HPC 용 특수 파일 시스템에서는 이미 사용되는 기법이나, 일반적인 시스템을 대상으로 한 표준안의 부재가 제약이 된다. pNFS(Parallel NFS)는 이러한 문제를 해결하기 위해서 제시되는 새로운 NFS 기술이다. 본 연구에서는 pNFS의 연구 동향과 더불어 소규모 클러스터 시스템에서 나타나는 성능적 특징을 조사하였다.

A Real-time Video Playback Scheme in a Distributed Storage System Supporting File Sharing (파일 공유를 지원하는 분산 저장 시스템에서 실시간 비디오 재생 기법)

  • Eunsam Kim
    • Smart Media Journal
    • /
    • v.12 no.11
    • /
    • pp.145-153
    • /
    • 2023
  • In a P2P-based distributed storage system where peers frequently join and leave, it is essential to guarantee not only data availability but also playback quality comparable to that provided by local storage devices when playing back video files with real-time constraints. In addition, cloud storage services based on distributed storage systems provide each user with the functionality to share their files with other users, so when multiple users request playback of the same video file at the same time, all playback should be supported seamlessly in real time. Therefore, in this paper, we propose a scheme that process multiple simultaneous playback requests for each video file in real time as well as data availability in a P2P-based distributed storage system that supports file sharing. This scheme can support real-time simultaneous playback and efficiently use storage space by adjusting the amount of redundant data encoded through erasure coding according to the number of concurrent playback requests for each video file.

Secure file distribution method using distribution P2P system (분산 P2P 시스템을 활용한 안전한 파일 분산 방안)

  • Kim, Jin-Hong;Kim, Seon-Young;Lee, Yoon-Jin;Jo, In-June
    • Proceedings of the Korean Institute of Information and Commucation Sciences Conference
    • /
    • v.9 no.2
    • /
    • pp.545-548
    • /
    • 2005
  • Recently, the computing environment of P2P come out to solve the excessive load of the server in the computing environment of the client/server. Currently, operated computing environment of P2P is mainly spreading out P2P system of read name or anonymity base about a publisher, sender and receiver of the file. But, to the current file protection there is three problem. The first problem is to a host become attack target. The second is to received file loose attack of Brute Force. The third is to define target of attack of DOS. To solve the this problem. it divide file into block unit. Each block is safely scattered peers. This paper propose the distribution P2P system of file division. Both proposing system solve the this problem and promote efficiency of file application.

  • PDF