• 제목/요약/키워드: Distributed Processing Platform

검색결과 130건 처리시간 0.025초

분산처리 작업의 동적 원격실행을 위한 P2P 기반 작업 할당 관리자 (A Job Allocation Manager for Dynamic Remote Execution of Distributed Jobs in P2P Network)

  • 이승하;김양우
    • 인터넷정보학회논문지
    • /
    • 제7권6호
    • /
    • pp.87-103
    • /
    • 2006
  • 컴퓨터와 네트워크 기술의 향상은 예전에는 슈퍼컴퓨터에서나 가능한 일을 분산 처리할 수 있는 환경적 기반을 제공한다. 분산 컴퓨팅 환경을 제공하기 위해서는 우선 분산 런타임 시스템이 구축되어야 하는데 기존의 전통적인 분산 런타임 시스템들은 대부분이 정적인 마스터 노드와 작업 노드들로 구성되는 구조를 갖기 때문에 분산처리 작업량의 변동에 따라 시스템을 유연하게 동적으로 재구성할 수 없다는 단점을 갖는다. 이에 본 논문에서는 P2P 환경에서의 분산 런타임 시스템인 작업 할당 관리자의 모델을 제시하고 구현하여 유연하고 동적인 시스템 구축이 가능하도록 하였다. 즉, P2P 표준 프로토콜인 JXTA 플랫폼 상에서 협업 환경을 위해 개발자들 간에 작업 프로그램의 전달과 관리, 그리고 원격 컴파일과 실행 작업들을 수행할 수 있도록 하였다 이 방식은 유연하고 동적인 시스템 구축이 가능하기 때문에 작업의 분산처리를 위해 필요한 유휴 자원들을 필요한 시점에 즉시 확보하여 활용할 수 있다는 장점을 가진다. 이와 더불어 인터넷 정보검색을 위해 방대한 데이터를 수집하는 크롤러를 본 논문에서 구현한 시스템을 이용하여 분산 처리시킴으로써 본 시스템의 유용성과 분산처리 성능을 보여 줄 수 있도록 하였다.

  • PDF

스트림-리즈닝을 위한 실시간 사물인터넷 빅-데이터 처리 (Real-Time IoT Big-data Processing for Stream Reasoning)

  • 윤창호;박종원;정혜선;이용우
    • 인터넷정보학회논문지
    • /
    • 제18권3호
    • /
    • pp.1-9
    • /
    • 2017
  • 스마트-시티는 스마트-시티의 사물인터넷(Internet of Things: IoT) 디바이스를 비롯한 수많은 인프라를 지능적으로 관리하고, 다양한 스마트 어플리케이션을 도시민에게 제공한다. 스마트-시티에서는 스마트-시티 어플리케이션에서 필요한 다양한 정보를 제공하기 위하여 수많은 사물인터넷 기기들로부터 끊임없이 발생하는 대규모의 스트림 빅-데이터를 지능적으로 처리하는 기능이 필요하다. 하지만, 스마트-시티에서 대규모의 스트림 빅-데이터를 처리하는 것에는 실시간 처리와 관련된 제약들이 존재한다. 본 스마트-시티-사업단에서는 선행 연구에서 스마트-시티미들웨어와 이를 이용한 스트림-리즈닝 방법론 및 시스템을 개발하였다. 스마트-시티에서 스마트 서비스를 제공하기 위하여, 스마트-시티-사업단에서는 스트림-리즈닝을 사용하는 방법론을 사용한다. 이 스트림-리즈닝은 대용량 데이터의 실시간 처리를 필요로 한다. 따라서, 후속연구로서 스마트-시티미들웨어의 클라우드-컴퓨팅 플랫폼을 이용하여 스트림-리즈닝을 위한 실시간 분산병렬처리 클라우드-컴퓨팅 방법론과 시스템을 개발하였다. 본 논문에서는 스마트-시티에서 발생하는 사물인터넷 빅-데이터를 스트림-리즈닝에 사용하기 위하여 이 후속연구에서 개발된 클라우드 기반 실시간 분산병렬처리 연구결과를 소개한다. 스마트-시티의 각종 센서들로부터 전송되어지는 사물인터넷 빅-데이터를 사용하여 스트림-리즈닝하는 데 필요한 클라우드-컴퓨팅 기반의 실시간 분산처리 방법론과 시스템을 소개하고 있으며, 이 방법론을 선행연구에서 개발한 스마트-시티 미들웨어에 구현하여 실시간 분산처리 성능을 평가한 것을 소개한다.

Reproduction based Multi-Contents Distribution Platform

  • Lee, Byung-Duck;Lee, Keun-Ho;Han, Seong-Soo;Jeong, Chang-Sung
    • KSII Transactions on Internet and Information Systems (TIIS)
    • /
    • 제15권2호
    • /
    • pp.695-712
    • /
    • 2021
  • As the use of smart devices is being increased rapidly by the development of internet and IT technology, the contents production and utilization rate are showing higher increase, too. In addition, the type of contents also shows very diverse forms such as education, game, video, UCC, etc. In the meantime, the contents are reproduced in diverse forms by reprocessing the original contents, and they are being serviced through the contents service platform. Therefore, the platform to make the contents reprocessing easy and fast is needed. As the diverse contents distribution channels such as YouTube, SNS, App Service, etc, easier contents distribution platform is needed, and the development of the relevant area is expected. In addition, as the selective consumption of the contents having easy accessibility through diverse smart devices is distinguished, the demand for the platform and service that can identify the contents consumption propensity by individual is being increased. Therefore, in this study, to vitalize the online contents distribution, the contents reproduction and publishing platform, was designed and materialized, which can reproduce and distribute the contents based on the real-time contents editing technology in URL unit and the consumer propensity analysis technology using the data management-based broadcasting contents distribution metadata technology and the edited image contents streaming technology. In addition, in the results of comparing with other platforms through the experiment, the performance superiority of the suggested platform was verified. If the suggested platform is applied to the areas of education, broadcasting, press, etc, the multi-media contents can be reproduced and distributed easily, through which the vitalization of contents-related industry is expected.

블록체인 기반의 지식공유 플랫폼 연구 (A Study on the Blockchain based Knowledge Sharing Platform)

  • 김협
    • 한국전자거래학회지
    • /
    • 제27권1호
    • /
    • pp.95-109
    • /
    • 2022
  • 블록체인 기반의 플랫폼은 거래기록의 분산처리 및 암호화 기술 적용을 통해 데이터 무결성, 신뢰성, 보안성을 확보할 수 있다. 기존 지식공유 플랫폼에서는 정보 비대칭, 중앙화 등의 이유로 창출된 지식이 충분히 공유되거나 활용되지 못하는 문제점이 존재하지만 이에 관한 연구는 그동안 거의 이루어지지 않았다. 본 연구에서는 블록체인 기술, 토큰 이코노미, 지식공유, 동기이론, 사회적 교환 이론의 선행연구를 바탕으로 블록체인 기반의 지식공유 플랫폼에 대한 사례 연구와 발전 가능성에 대하여 살펴보고자 한다. 블록체인 기반의 플랫폼은 정보 비대칭성을 해소하고, 지식공유 흐름의 일원화 및 탈중앙화를 통한 권한 집중화 배제를 통해 불필요한 업무 절차를 간소화하고, 플랫폼이 생산하는 지식에 대한 접근과 활용을 강화하여 지식공유의 활성화에 이바지할 수 있을 것으로 기대한다.

Celery-MongoDB 를 활용한 센서정보 관리시스템 설계 및 구현 (Design and Implementation of Sensor Information Management System based on Celery-MongoDB)

  • 강윤희
    • Journal of Platform Technology
    • /
    • 제9권2호
    • /
    • pp.3-9
    • /
    • 2021
  • 센서정보 관리를 위해서는 다양하고 수많은 센서의 정보를 신속하게 저장, 수정, 삭제 할 수 있는 기능을 제공해야 한다. 본 연구에서는 Celery 와 MongoDB 를 활용하여 위의 조건에 부합한 센서정보 관리 시스템을 설계 및 구현하였다. Celery 는 파이썬으로 개발된 비동기 통신을 기반으로 하는 큐구조를 제공하고 있다. 그리고 이것은 분산된 작업 큐 구조이고 단순하지만 많은 양의 메시지를 처리하기에 적합한 신뢰성 있는 분산 시스템이다. MongoDB 는 NoSQL 데이터베이스로써 다양한 정보 표현을 저장할 수 있고 검색할 수 있다. 본 연구에서는 개발한 시스템을 활용한 실험을 통해 IoT 환경에서 제공되는 다양한 센서를 관리할 수 있음을 확인할 수 있었다. 센서데이터를 갖는 메시지를 처리하기 위한 성능을 개선하기 위해 본 시스템은 클라우드 하부구조의 에지단에 배치되어 사용한다.

제조 클라우드 CPS를 위한 oneM2M 기반의 플랫폼 참조 모델 (A Novel Reference Model for Cloud Manufacturing CPS Platform Based on oneM2M Standard)

  • 윤성진;김한진;신현엽;진회승;김원태
    • 정보처리학회논문지:컴퓨터 및 통신 시스템
    • /
    • 제8권2호
    • /
    • pp.41-56
    • /
    • 2019
  • 제조 클라우드는 여러 공장이 연결되어 단일 공장처럼 구성되어 사용자의 요구사항에 유연하게 대처할 수 있는 새로운 제조 패러다임이다. 이러한 기능을 제공하는 제조 클라우드 시스템은 클라우드 컴퓨팅, 사물인터넷, 인공지능과 같은 컴퓨팅 기술을 활용하여 분산되어 있는 제조 시설 간의 협업을 통한 유연 생산에서 안정성, 고신뢰성, 연동성 등을 제공하는 일종의 대규모 CPS이다. 제조 클라우드 CPS는 많은 수와 다양한 종류의 이기종 서브시스템들로 구성되어 있는데 이 때문에 서브시스템 간 연동, 데이터 교환, 시스템 통합 등에 문제가 발생할 수 있어 대규모의 제조 클라우드 CPS을 구성하는데 어려움을 겪고 있다. 본 논문에서는 이러한 어려움을 극복하기 위하여 제조 클라우드를 체계적으로 분석하고 분석 결과를 바탕으로 제조 클라우드 CPS를 효과적으로 지원할 수 있는 플랫폼 참조 모델을 제안한다. CPS 분석 방법론인 CPS 프레임워크를 활용하여 제조 클라우드 CPS의 기능적, 인간적, 신뢰성, 시간적, 데이터 및 구성의 측면에서 사용자 요구사항을 도출하고 이들을 분석하여 확장성, 구성성, 상호 작용성, 신뢰성, 시간성, 상호 운용성, 지능성의 영역에서 시스템 요구사항을 정의한다. 정의된 제조 클라우드 CPS 시스템 요구사항을 바탕으로 플랫폼을 구성하기 위하여 IoT 플랫폼 표준인 oneM2M의 요구사항에 매핑하고 oneM2M 구현물인 Mobius를 통하여 요구사항 지원성 검증 실험을 수행하였다. 수행 결과를 분석하여 현재 사물인터넷 플랫폼의 제조 클라우드 CPS 지원성을 확인하고 이를 확장하여 대규모 제조 클라우드 생산을 지원하는 플랫폼 참조 모델을 제안한다.

지능형 도시공간정보 통합 플랫폼 개발 전략 연구 (A Study on the Development Strategy for Integrated Urban Spatial Information Management Platform)

  • 홍상기
    • 한국GIS학회:학술대회논문집
    • /
    • 한국GIS학회 2008년도 공동추계학술대회
    • /
    • pp.119-126
    • /
    • 2008
  • 도시공간정보 통합플랫폼은 도시의 체계적이고 과학적인 관리, 특히 지상 및 지하시설물 관리에 필요한 센서 및 미들웨어 기술, 유무선 네트워크, GIS-USN 연계 등의 요소기술이 집적된 지능형 도시운영 기반환경으로 정의된다. 도시공간정보 통합플랫폼은 상수도, 하수도, 가스, 난방, 송유, 전력, 통신의 7대 지하시설물과 교량, 육교, 터널 등 도시 지상시설물 등 도로기반시설물 관리를 지능화 할 수 있는 기반 환경을 제공하는 역할을 수행해야 한다. 본 연구에서는 지능형 도시공간정보 통합플랫폼 개발을 위해 플랫폼의 비전을 설정하고 개방형 분산처리 레퍼런스 모델(RM-ODP, Reference Model for Open Distributed Processing)의 적용을 통해 개발전략을 도출하였다.

  • PDF

소셜미디어 수집과 분석을 위한 재난 빅 데이터 플랫폼의 설계 (Design of a Disaster Big Data Platform for Collecting and Analyzing Social Media)

  • 반퀴엣뉘엔;신응억뉘엔;양쯔엉뉘엔;김경백
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2017년도 춘계학술발표대회
    • /
    • pp.661-664
    • /
    • 2017
  • Recently, during disasters occurrence, dealing with emergencies has been handled well by the early transmission of disaster relating notifications on social media networks (e.g., Twitter or Facebook). Intuitively, with their characteristics (e.g., real-time, mobility) and big communities whose users could be regarded as volunteers, social networks are proved to be a crucial role for disasters response. However, the amount of data transmitted during disasters is an obstacle for filtering informative messages; because the messages are diversity, large and very noise. This large volume of data could be seen as Social Big Data (SBD). In this paper, we proposed a big data platform for collecting and analyzing disasters' data from SBD. Firstly, we designed a collecting module; which could rapidly extract disasters' information from the Twitter; by big data frameworks supporting streaming data on distributed system; such as Kafka and Spark. Secondly, we developed an analyzing module which learned from SBD to distinguish the useful information from the irrelevant one. Finally, we also designed a real-time visualization on the web interface for displaying the results of analysis phase. To show the viability of our platform, we conducted experiments of the collecting and analyzing phases in 10 days for both real-time and historical tweets, which were about disasters happened in South Korea. The results prove that our big data platform could be applied to disaster information based systems, by providing a huge relevant data; which can be used for inferring affected regions and victims in disaster situations, from 21.000 collected tweets.

하둡 기반 대규모 작업 배치 및 처리 기술 설계 (Design of a Large-scale Task Dispatching & Processing System based on Hadoop)

  • 김직수;구엔 카오;김서영;황순욱
    • 정보과학회 논문지
    • /
    • 제43권6호
    • /
    • pp.613-620
    • /
    • 2016
  • 본 논문에서는 대규모의 작업을 고성능으로 처리하기 위한 Many-Task Computing(MTC) 기술을 기존의 빅데이터 처리 플랫폼인 Hadoop에 적용하기 위한 MOHA(Many-Task Computing on Hadoop) 프레임워크에 대해 기술한다. 세부적으로는 MOHA의 기본 개념과 개발 동기, 분산 작업 큐에 기반한 PoC(Proof-of-Concept) 수행 결과를 제시하고 향후 연구 방향에 대해서 논의하고자 한다. MTC 응용은 각각의 태스크들이 요구하는 I/O 처리량은 상대적으로 많지 않지만, 동시에 대량의 태스크들을 고성능으로 처리해야하고 이들이 파일을 통해서 통신한다는 특징을 가지고 있다. 따라서 기존의 상대적으로 큰 데이터 블록 사이즈에 기반한 Hadoop 응용과는 또 다른 패턴의 데이터 집약형 워크로드라고 할 수 있다. 이러한 MTC 기술과 빅데이터 기술의 융합을 통해 멀티 응용 플랫폼으로 진화하고 있는 Hadoop 생태계에 신규 프레임워크로서 대규모 계산과학 응용을 실행할 수 있는 MOHA를 추가하여 기여할 수 있을 것이다.

오픈소스 플랫폼 기반의 실시간 환자 대기시간 모니터링 시스템 설계 (A System Design for Real-Time Monitoring of Patient Waiting Time based on Open-Source Platform)

  • 류우석
    • 한국정보통신학회논문지
    • /
    • 제22권4호
    • /
    • pp.575-580
    • /
    • 2018
  • 본 논문에서는 병원에서 환자의 대기시간을 실시간으로 모니터링하기 위한 오픈소스 기반의 시스템을 제안한다. 환자의 위치 데이터를 실시간으로 분석, 처리하기 위한 고성능 스트림 처리 시스템을 비용 효율적으로 구축하기 위해서는 오픈소스 프로젝트를 활용하는 것이 필요하다. 빅데이터를 처리하기 위한 오픈 소스 시스템으로 다양한 하둡 서브프로젝트들로 구성된 하둡 에코시스템이 있다. 본 논문에서는 먼저 시스템 요구사항을 정의하고 하둡 에코시스템에서 이를 만족시키기 위한 몇 가지 오픈소스 프로젝트들을 선정한다. 그리고, 선정된 아파치 스파크, 아파치 카프카 등을 이용한 시스템 구조 설계 및 상세 모듈 설계를 제안한다. 제안된 시스템은 기존 시스템과의 연계 및 오픈소스 프로젝트를 통해 구축비용을 절감할 수 있으며, 또한 분산 스트림 처리를 통해 고성능과 안정성을 확보할 수 있다.