• Title/Summary/Keyword: 분산 파일 시스템

Search Result 383, Processing Time 0.028 seconds

Design and Implementation of The Communication Module for a Linux Cluster File System (리눅스 클러스터 파일 시스템을 위한 통신모듈의 설계 및 구현)

  • 박의수;유찬곤;손호신;최현호;김형식;유관종
    • Proceedings of the Korean Information Science Society Conference
    • /
    • 2002.04a
    • /
    • pp.649-651
    • /
    • 2002
  • 클러스터 파일 시스템은 기존의 클러스터링 기술을 파일 시스템에 적용하여, 각 노드 단위로 파일 시스템을 구성할 때 발생되는 저장 공간과 대역폭의 제약문제를 극복하기 위한 방법이다. 클러스터 파일 시스템은 하나의 원본 파일을 여러 노드에 나누어 저장하므로, 효율적인 노드간 데이터 통신을 필요로 하며, 노드 내부에서도 클러스터 파일 시스템과 어플리케이션과의 전용 데이터 교환 메커니즘을 지원해야 한다. 본 논문에서는 클러스터 파일 시스템이 안정적이고 효율적인 방법으로 멀티미디어 데이터를 분산 저장하기 위하여 필요한 통신 모듈을 설계 및 구현한다.

  • PDF

A Design and its Implementation of Java based Management System for Distributed File Systems (Distributed file System을 위한 Java 기반 Management System설계 및 구현)

  • 김태형;정규식
    • Proceedings of the IEEK Conference
    • /
    • 2002.06c
    • /
    • pp.149-152
    • /
    • 2002
  • 최근 인터넷 사용자가 늘어나면서 클러스터링 기반의 대형 서버가 등장하게 되었고 또한 분산파일시스템(DFS)에 대한 관심이 커지게 되었다. 기존 분산파일 시스템들은 파일시스템 측면의 많은 기능들이 제공되고 뛰어난 성능을 발휘하지만 사용자 인터페이스 및 관리 측면에서 본다면 미흡한 점이 많다. 본 논문에서는 분산파일 시스템의 종류와 플랫폼에 상관없이, 사용하기 쉬운 DFS Management System을 설계하고 구축한다. 전체 시스템 구조를 파악 할 수 있도록 GUI 환경을 제공하며, 모듈화/계층화 구조로 설계하는데 기존 DFS와 연동하기 위한 하부 통신모듈이 포함된다. 본 논문에서는 Java기반으로 DFS Management System을 구축하였으며, Coda DFS가 설치된 클러스터링 서버와 연동하여 시험하였다.

  • PDF

A Study on Distributed System for Remote Compile Service (원격 컴파일 서비스를 위한 분산 시스템에 관한 연구)

  • Ku, Min-O;Cho, Na-Yun;Min, Dug-Ki
    • Proceedings of the Korean Information Science Society Conference
    • /
    • 2010.06b
    • /
    • pp.341-346
    • /
    • 2010
  • 컴파일러 설치 및 환경정보 설정과 같은 일련의 컴파일러 설정과정은 개발환경 구성과정 중 중요한 과정이며, 집단 개발환경에서의 개발환경 동일화 과정은 많은 비용을 초래할 수 있게 된다. 더욱이 개발 초급자 또는 공학교육 학습자에게는 앞서 언급한 개발환경 구성과정이 개발언어에 대한 학습과정의 진입장벽으로 작용할 수 있다. 뿐만 아니라, 다양한 개발언어에 대한 학습을 이루고자할 경우, 이에 수반되는 다양한 컴파일러 확보 설정 등의 과정은 개발 시스템과 컴파일 시스템이 일치함에 따라 환경구성의 복잡도가 증가하게 된다. 따라서 본 논문에서는 컴파일 환경을 구성한 분산 시스템을 기반으로 원격 컴파일 서비스를 제공하는 분산 시스템 아키텍처를 제시하며 이에 대한 구현 사항을 제공한다. 특히 브로커 아키텍처를 기반으로 한 분산 시스템 상에서 처리 시스템들에 빈번히 발생할 수 있는 고장 상황에 대해 고가용성(High Availability)을 달성하기 위해 처리 시스템간의 가용 여부를 관리하는 Coordinator 처리 시스템 선출을 위해 선출 알고리즘으로 Bully 알고리즘을 적용하였다.

  • PDF

Distributed File Systems Architectures of the Large Data for Cloud Data Services (클라우드 데이터 서비스를 위한 대용량 데이터 처리 분산 파일 아키텍처 설계)

  • Lee, Byoung-Yup;Park, Jun-Ho;Yoo, Jae-Soo
    • The Journal of the Korea Contents Association
    • /
    • v.12 no.2
    • /
    • pp.30-39
    • /
    • 2012
  • In these day, some of IT venders already were going to cloud computing market, as well they are going to expand their territory for the cloud computing market through that based on their hardware and software technology, making collaboration between hardware and software vender. Distributed file system is very mainly technology for the cloud computing that must be protect performance and safety for high levels service requests as well data store. This paper introduced distributed file system for cloud computing and how to use this theory such as memory database, Hadoop file system, high availability database system. now In the market, this paper define a very large distributed processing architect as a reference by kind of distributed file systems through using technology in cloud computing market.

Secure Authentication Protocol in Hadoop Distributed File System based on Hash Chain (해쉬 체인 기반의 안전한 하둡 분산 파일 시스템 인증 프로토콜)

  • Jeong, So Won;Kim, Kee Sung;Jeong, Ik Rae
    • Journal of the Korea Institute of Information Security & Cryptology
    • /
    • v.23 no.5
    • /
    • pp.831-847
    • /
    • 2013
  • The various types of data are being created in large quantities resulting from the spread of social media and the mobile popularization. Many companies want to obtain valuable business information through the analysis of these large data. As a result, it is a trend to integrate the big data technologies into the company work. Especially, Hadoop is regarded as the most representative big data technology due to its terabytes of storage capacity, inexpensive construction cost, and fast data processing speed. However, the authentication token system of Hadoop Distributed File System(HDFS) for the user authentication is currently vulnerable to the replay attack and the datanode hacking attack. This can cause that the company secrets or the personal information of customers on HDFS are exposed. In this paper, we analyze the possible security threats to HDFS when tokens or datanodes are exposed to the attackers. Finally, we propose the secure authentication protocol in HDFS based on hash chain.

Two-Phase Protocol : Write Performance Enhancement Scheme of the Cooperative Cache for PVFS (두 단계 프로토콜 : PVFS를 위한 상호 협력 캐쉬에서 쓰기 성능 향상 기법)

  • 황인철;정한조;맹승렬;조정완
    • Proceedings of the Korean Information Science Society Conference
    • /
    • 2003.10a
    • /
    • pp.409-411
    • /
    • 2003
  • 요즘 값싼 PC들을 빠른 네트웍으로 묶어 놓은 성능을 얻고자하는 클러스터 컴퓨팅에 대한 연구가 활발히 이루어지면서 CPU나 메모리. 네트웍보다 상대적으로 느린 디스크에서 데이터를 읽어 효율적으로 파일 서비스를 하는 분산 파일 시스템이 개발되었다. 기존 분산 파일 시스템 중 클러스터 컴퓨팅에서 많이 사용하는 Linux 운영 체제에서 병렬 I/O를 사용하여 사용자에게 빠른 파일 서비스를 제공하여 주는 PVFS가 개발되었다. 기존 PVFS에서는 캐쉬 시스템을 제공하고 있지 않기 때문에 읽기 성능을 향상시키기 위하여 PVFS를 위한 상호 협력 캐치를 설계하고 구현하였다. PVFS를 위한 상호 협력 캐쉬는 클라이언트의 파일 캐쉬를 공유하여 파일 요구를 처리하는 기법으로 읽기 성능은 크게 향상되었다. 하지만 쓰기의 경우에는 다른 클라이언트에서 가지고 있던 모든 데이터를 찾아 해제하는 부하가 있기 때문에 성능이 좋지 않다. 따라서 본 논문에서는 PVFS를 위한 상호 협력 캐쉬에서 쓰기 성능 향상 기법인 두 단계 프로토콜을 제시하고 구현한다. 그리고 두 단계 프로토콜을 기존 PVFS와 PVFS를 위한 상호 협력 캐쉬 시스템과 성능을 비교, 분석한다.

  • PDF

Design and Implementation of I/O Tracer for PVFS (PVFS를 위한 I/O Tracer 설계 및 구현)

  • Hyeyoung Cho;Kwangho Cha;Sungho Kim;SangDong Lee
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2008.11a
    • /
    • pp.966-969
    • /
    • 2008
  • 사용자 프로그램의 I/O 패턴을 분석하거나 파일 시스템의 워크로드를 보다 정확하게 분석하기 위해서 실제 가동중인 파일 시스템의 동적 I/O 로그를 확보하기 위한 연구들이 많이 진행되어 왔다. 그러나 대량의 I/O 트렌젝션(transcation)이 처리되는 파일 시스템에서 동적 I/O 로그를 확보하는 일은 시스템의 부하와 막대한 데이터량 때문에 한계가 많다. 특히 다수의 이용자가 사용하는 대용량 분산/병렬 파일 시스템에서의 I/O Tracing은 로컬 파일 시스템에서 I/O Tracing에 비해 더욱 복잡하고 오버헤드가 크다. 본 논문에서는 기존의 파일 시스템 로깅 방법들을 알아보고, 클러스터 시스템에서 널리 이용되고 있는 분산 파일 시스템인 PVFS(Parallel Virtual File System)에서 동적 I/O 연산들의 로그를 생성할 수 있는 로깅 시스템을 제안하고 설계하였다.

File Block Management for Energy-Efficient Distributed Storages (파일 분산 저장 시스템의 에너지 효율성 증대를 위한 파일 블록 관리 기술)

  • Suh, Min-Kook;Kim, Seong-Woo;Seo, Seung-Woo
    • Journal of the Institute of Electronics and Information Engineers
    • /
    • v.53 no.1
    • /
    • pp.97-104
    • /
    • 2016
  • Because of rapid growth of data size, the number of data storage has been increased. When using multiple data storages, a distribute file system is essential to insure the availability of data files. The power consumption is a major problem when using a distributed file system with many data storages. Previous works have aimed at reducing the energy consumption with efficient file block layout by changing some data servers into stand-by mode. The file block migration has not been seriously considered because migration causes large cost. But when we consider addition of a new data server or file, file block migration is needed. This paper formulates the minimization of data block migration as an ILP optimization problem and solves it using branch-and-bound method. Using this technique, we can maximize the number of stand-by data servers with the minimum number of file block movement. However, computation time of branch-and-bound method of an ILP optimization problem increases exponentially as the problem size grows. Therefore this paper also proposes a data block and data server grouping method to solve many small ILP problems.

A Solution to The Data Dependency Problem from the Big Data on Parallel Distributed Systems (병렬 분산 시스템에서 대용량 데이터의 의존성 해결을 위한 방법)

  • Kim, Hyun-Jun;Kim, Tae-Won;Kim, Joon-Mo
    • Proceedings of the Korean Information Science Society Conference
    • /
    • 2012.06c
    • /
    • pp.163-165
    • /
    • 2012
  • 본 논문은 대용량 데이터를 분할하여 병렬 처리하는 경우 데이터간의 의존성성에 의해 발생할 수 있는 문제점을 회피하거나 극복하기 위한 방법에 대한 연구이다. 의존성 문제를 해소하기 위한 병렬 분산 처리 시스템을 개발하여, 대용량 파일 처리의 효율을 높이고자 한다. 분산처리의 성능 평가를 위하여 동영상 파일의 분산 저장 및 재인코딩 시간을 측정하여 성능의 지표로 활용한다.

A Distributed File Service for Wearable Computing Environment (웨어러블 컴퓨팅을 위한 분산 파일 서비스)

  • Shin, Jong-Hwa;Lee, Woo-Joong;Park, Chan-Ik;Cho, Il-Yeon;Han, Dong-Won
    • Proceedings of the Korean Information Science Society Conference
    • /
    • 2005.07a
    • /
    • pp.754-756
    • /
    • 2005
  • 이동통신 기술과, 반도체 기술의 발전으로 인해 기존의 컴퓨팅 패러다임이 데스크 탑에서 PDA, 스마트 폰 등의 모바일 환경으로, 그리고 입는 컴퓨터로의 이동이 급격하게 진행되고 있다. 또한 유비쿼터스 컴퓨팅 개념이 도입되고 발전하면서 입는 컴퓨터는 사용자와 편재된 컴퓨팅 환경의 인터페이스로써 중요성이 부각되고 있다. 그러나 웨어러블 컴퓨팅 환경에서의 사용자 간, 또는 주변 컴퓨팅 환경과의 데이터 공유와 관련된 연구는 활발히 진행되고 있지 못하다. 따라서, 본 논문에서는 웨어러블 컴퓨팅 환경의 Distributed, Dynamic, Heterogeneous한 특성에 대한 기존의 분산 파일 시스템/서비스가 가진 한계점을 제시하고, 웨어러블 컴퓨팅 환경에서 자유로운 데이터 공유를 실현하기 위한 분산 파일 서비스를 제시하였다. 마지막으로, 본 논문에서는 웨어러블 컴퓨팅에서의 제한적인 입출력 환경을 극복하기 위한 상황 인지 분산 파일 시스템/서비스와 관련된 연구들을 소개하고, 기존의 연구들이 가지는 한계점을 극복하기 위한 분산 파일 서비스 구성 기법을 제시하였다.

  • PDF