• 제목/요약/키워드: distributed processing environment

검색결과 592건 처리시간 0.032초

A Study on a Distributed Data Fabric-based Platform in a Multi-Cloud Environment

  • Moon, Seok-Jae;Kang, Seong-Beom;Park, Byung-Joon
    • International Journal of Advanced Culture Technology
    • /
    • 제9권3호
    • /
    • pp.321-326
    • /
    • 2021
  • In a multi-cloud environment, it is necessary to minimize physical movement for efficient interoperability of distributed source data without building a data warehouse or data lake. And there is a need for a data platform that can easily access data anywhere in a multi-cloud environment. In this paper, we propose a new platform based on data fabric centered on a distributed platform suitable for cloud environments that overcomes the limitations of legacy systems. This platform applies the knowledge graph database technique to the physical linkage of source data for interoperability of distributed data. And by integrating all data into one scalable platform in a multi-cloud environment, it uses the holochain technique so that companies can easily access and move data with security and authority guaranteed regardless of where the data is stored. The knowledge graph database mitigates the problem of heterogeneous conflicts of data interoperability in a decentralized environment, and Holochain accelerates the memory and security processing process on traditional blockchains. In this way, data access and sharing of more distributed data interoperability becomes flexible, and metadata matching flexibility is effectively handled.

워게임 시뮬레이션 환경에 맞는 빅데이터 분석을 위한 분산처리기술 (Distributed Data Processing for Bigdata Analysis in War Game Simulation Environment)

  • 배민수
    • 한국빅데이터학회지
    • /
    • 제4권2호
    • /
    • pp.73-83
    • /
    • 2019
  • 4차 산업혁명의 기술 등장 이후 대규모 데이터 시대에서 새로운 가치 창출을 위한 데이터 정보 분석은 다양한 분야에서 시도되고 있다. 대용량 데이터를 빠르게 처리하는데 있어서 분산 데이터 처리는 이미 필수적이다. 하지만 아직 국방 분야에서 운용하고 있는 시뮬레이션들은 쌓여 있는 비정형 데이터를 활용할 수 있는 시스템이 미비하다. 이에 본 연구에서는 훈련간 발생하는 문제에 대응하기 위한 지휘결심에 가시화된 데이터를 제공하기 위해서 대대급 규모의 시뮬레이션 모델에 적용 가능한 분산 처리 플랫폼을 제안한다. 전략게임 데이터 50만개를 분석하는 과정으로, 데이터가 가지고 있는 여러 요인들 중 승리요인에 영향을 미치는 요소들을 분석할 수 있게 구현하였다. 결과적으로 상위 10%에 있는 팀들의 데이터를 분석하는 과정에서의 분산처리 사용한 결과를 측정 및 비교 하였다.

  • PDF

분산 환경에서 계산 자원의 효율 증대를 위한 데이터 특성 기반의 작업 분류방법 (Job Classifying method based on Data Traits for Increased Efficiency of Computational Resources in Distributed Environment)

  • 문성환;김재권;김태영;최정석;조규철;이종식
    • 한국시뮬레이션학회논문지
    • /
    • 제23권4호
    • /
    • pp.219-228
    • /
    • 2014
  • 분산 환경에 존재하는 다양한 이기종의 계산 자원은 가상화 기술을 통해 통합된 고성능 컴퓨팅 환경을 구축한다. 최근, 사용자 수준의 향상으로 인해 복잡한 응용 작업의 처리에 대한 요구가 증가하고 있으며, 이는 고성능 컴퓨팅에 대한 수요로 이어지고 있다. 사용자가 요구하는 각각의 작업에는 데이터가 포함되어 있고, 각각의 데이터는 고유의 특성을 가지고 있으므로, 작업의 분류와 처리는 데이터의 특성이 고려되어야 한다. 본 논문에서는 분산 환경에서 계산 자원의 효율 증대를 위한 데이터 특성 기반의 작업 분류방법(JCDT : Job Classifying method based on Data Traits for Increased Efficiency of Computational Resources in Distributed Environment) 을 제안한다. 제안하는 JCDT 는 사용자가 요구하는 작업이 지닌 데이터의 특성을 기반으로 작업을 분류하여, 계산 자원의 효율 증대와 작업 처리속도를 향상시킬 수 있을 것으로 기대한다.

분산 객체지향 소프트웨어를 위한 수정 영향 분석 (Change Impact Analysis for Object-Oriented softwares in the distributed environment)

  • 김경희;박재년;윤용익
    • 한국정보처리학회논문지
    • /
    • 제6권5호
    • /
    • pp.1280-1290
    • /
    • 1999
  • 기존의 수정 영향 분석은 단일 환경을 기반으로 하기 때문에 분산 환경에 직접 적용하기 어렵다. 본 논문에서는 분산 환경에서 객체지향 소프트웨어의 수정 영향을 분석한다 객체지향 소프트례어의 수정을, 자료, 매소드, 클래스의 집합으로 구분 하여 수정 영향을 분석하였으며, 분석 결과를 DPDG(Oistributed Program Dependency Graph)에 표현하였다. DPDG는 분산 환경에서의 객체지향 소프트웨어들의 관계를 메소드, 자료요소, 클래스, 설계 문서, 서버 등을 사용하여 그래프에 표시한다 DPG는 소프트웨어에 수정 발생 시, 재시험하여야하는 소프트웨어 요소를 찾기 위한 그래프이다 따라서, DPDG를 통해 재 시험에 드는 노력을 절약할 수 있다 본 논문에서는,OPDG를 통해 발견된 절약된 재시험 요소를 방화벽 테이블로 나타내었 으며, 이를 구현하여 본 논문에서 설계한 시험 지원도구 VIST(Visua! Infonnation Structure Tester)에서 사용하였다. VIST 는 절약된 방화벽을 사용하여, 분산 객체지향 소프트웨어 시험에 드는 노력과 비용을 절약하는 도구이다.

  • PDF

빅데이터 처리 및 분석을 위한 Rhipe 플랫폼 (Rhipe Platform for Big Data Processing and Analysis)

  • 정병호;신지은;임동훈
    • 응용통계연구
    • /
    • 제27권7호
    • /
    • pp.1171-1185
    • /
    • 2014
  • R과 Hadoop의 통합환경인 Rhipe 개발로 인해 분산처리 환경 하에서 대용량 데이터 분석이 가능해졌다. 본 논문에서는 Rhipe을 이용하여 실제 데이터와 모의실험 데이터에서 다양한 데이터 크기에 따라 다중 회귀분석을 구현하였다. Hadoop의 가상분산 모드(pseudo-dstributed mode)와 완전분산 모드(fully-distributed mode) 구축 시스템 비교에서 완전분산 모드 시스템이 가상분산 모드 시스템보다 처리 속도가 빠르고 데이터 노드의 수가 많을수록 계산 시간이 점점 줄어드는 것을 알 수 있었다. 또한, 제안된 Rhipe 플랫폼의 성능을 평가하기 위해 기본 R 패키지인 stats와 bigmemory 상에서 유용한 biglm 패키지와 처리 속도를 비교하였다. 실험결과 Rhipe은 데이터의 크기가 클수록 map task 개수가 증가되고 동시에 병렬 처리로 인해 다른 패키지들보다 빠른 처리속도를 보였다.

학습 시스템을 위한 빅데이터 처리 환경 구축 (The Bigdata Processing Environment Building for the Learning System)

  • 김영근;김승현;조민희;김원중
    • 한국전자통신학회논문지
    • /
    • 제9권7호
    • /
    • pp.791-797
    • /
    • 2014
  • 빅데이터의 병렬분산처리 시스템을 위한 아파치 하둡 환경을 구축하기 위해서는 다수의 컴퓨터를 연결하여 노드를 구성하거나, 하나의 컴퓨터에 다수의 가상 노드 구성을 통해 클라우딩 환경을 구축하여야 한다. 그러나 이러한 시스템을 교육 환경에서 실습용으로 구축하는 것은 복잡한 시스템 구성과 비용적인 측면에서 많은 제약이 따른다. 따라서 빅데이터 처리 분야의 입문자들과 교육기관의 실습용으로 사용할 수 있는 실용적이고 저렴한 학습 시스템의 개발이 시급하다. 본 연구에서는 라즈베리파이 보드를 기반으로 하둡과 NoSQL과 같은 빅데이터 처리 및 분석 실습이 가능한 빅데이터 병렬분산처리 학습시스템을 설계 및 구현하였다. 구현된 빅데이터 병렬분산처리시스템은 교육현장과 빅데이터를 시작하는 입문자들에게 유용한 시스템이 될 것으로 기대된다.

DMRUT-MCDS: Discovery Relationships in the Cyber-Physical Integrated Network

  • Lu, Hongliang;Cao, Jiannong;Zhu, Weiping;Jiao, Xianlong;Lv, Shaohe;Wang, Xiaodong
    • Journal of Communications and Networks
    • /
    • 제17권6호
    • /
    • pp.558-567
    • /
    • 2015
  • In recent years, we have seen a proliferation of mobile-network-enabled smart objects, such as smart-phones and smart-watches, that form a cyber-physical integrated network to connect the cyber and physical worlds through the capabilities of sensing, communicating, and computing. Discovery of the relationship between smart objects is a critical and nontrivial task in cyber-physical integrated network applications. Aiming to find the most stable relationship in the heterogeneous and dynamic cyber-physical network, we propose a distributed and efficient relationship-discovery algorithm, called dynamically maximizing remaining unchanged time with minimum connected dominant set (DMRUT-MCDS) for constructing a backbone with the smallest scale infrastructure. In our proposed algorithm, the impact of the duration of the relationship is considered in order to balance the size and sustain time of the infrastructure. The performance of our algorithm is studied through extensive simulations and the results show that DMRUT-MCDS performs well in different distribution networks.

분산처리 작업의 동적 원격실행을 위한 P2P 기반 작업 할당 관리자 (A Job Allocation Manager for Dynamic Remote Execution of Distributed Jobs in P2P Network)

  • 이승하;김양우
    • 인터넷정보학회논문지
    • /
    • 제7권6호
    • /
    • pp.87-103
    • /
    • 2006
  • 컴퓨터와 네트워크 기술의 향상은 예전에는 슈퍼컴퓨터에서나 가능한 일을 분산 처리할 수 있는 환경적 기반을 제공한다. 분산 컴퓨팅 환경을 제공하기 위해서는 우선 분산 런타임 시스템이 구축되어야 하는데 기존의 전통적인 분산 런타임 시스템들은 대부분이 정적인 마스터 노드와 작업 노드들로 구성되는 구조를 갖기 때문에 분산처리 작업량의 변동에 따라 시스템을 유연하게 동적으로 재구성할 수 없다는 단점을 갖는다. 이에 본 논문에서는 P2P 환경에서의 분산 런타임 시스템인 작업 할당 관리자의 모델을 제시하고 구현하여 유연하고 동적인 시스템 구축이 가능하도록 하였다. 즉, P2P 표준 프로토콜인 JXTA 플랫폼 상에서 협업 환경을 위해 개발자들 간에 작업 프로그램의 전달과 관리, 그리고 원격 컴파일과 실행 작업들을 수행할 수 있도록 하였다 이 방식은 유연하고 동적인 시스템 구축이 가능하기 때문에 작업의 분산처리를 위해 필요한 유휴 자원들을 필요한 시점에 즉시 확보하여 활용할 수 있다는 장점을 가진다. 이와 더불어 인터넷 정보검색을 위해 방대한 데이터를 수집하는 크롤러를 본 논문에서 구현한 시스템을 이용하여 분산 처리시킴으로써 본 시스템의 유용성과 분산처리 성능을 보여 줄 수 있도록 하였다.

  • PDF

무선 센서 네트워크에서의 분산 컴퓨팅 모델 (Distributed Computing Models for Wireless Sensor Networks)

  • 박총명;이충산;조영태;정인범
    • 정보과학회 논문지
    • /
    • 제41권11호
    • /
    • pp.958-966
    • /
    • 2014
  • 무선 센서 네트워크는 분산처리 환경을 제공해준다. 센서 노드들은 계산 능력, 네트워크 대역폭, 전력 등이 제한된 환경에서 배치되고 스스로 네트워크를 구성하여 수집된 데이터들을 싱크노드로 전송한다. 이런 전형적인 무선 센서 네트워크에서는 네트워크 패킷들 간의 충돌이 발생하며 이로 인해 네트워크 수명이 단축된다. 클러스터링과 네트워크 내부처리는 네트워크 내부의 패킷을 줄여 문제점을 해결한다. 제한된 에너지를 가진 센서 노드가 가능한 오랫동안 동작하게 하는 것이 큰 이슈이기 때문에 많은 연구들이 에너지 절약에 중점을 두고 진행되고 있다. 하지만 본 논문에서는 프로세싱 타임라인에 기반을 둔 협력 처리 모델을 제안한다. 이 모델은 처리의 검증, 총 실행시간의 예측, 무선 센서 네트워크에서 분산 처리에 필요한 최적의 노드 개수의 결정 등을 포함한다. 제안된 모델의 정확성을 실험을 통해 나타내고, 사례 연구로 이 모델이 분산처리 어플리케이션에 사용가능함을 보인다.

Rule-Based Cooperation of Distributed EC Systems

  • Lee, Dong-Woo
    • International Journal of Contents
    • /
    • 제5권3호
    • /
    • pp.79-85
    • /
    • 2009
  • Emergent requests or urgent information among enterprises require their intimate collaboration in B2B EC (electronic commerce). This paper analyzes the needs of intimate cooperation of distributed EC systems in terms of business contracts and presents an active rule-based methodology of close cooperation among EC systems and an active rule component to support it. Since the rule component provides high level rule patterns and event-based immediate processing, system administrators and programmers can easily program and maintain intimate cooperation of distributed EC systems independently to the application logic. The proposed active rule component facilitates HTTP protocol. Its prototype is implemented in B2B EC environment and evaluated using basic trigger facility of a commercial DBMS.