• 제목/요약/키워드: 분산 실시간 플랫폼

검색결과 98건 처리시간 0.029초

아파치 카프카의 메시지 지연시간 기반 로드 쉐딩 메커니즘 (Message Latency-based Load Shedding Mechanism in Apache Kafka)

  • 김하진;방지원;손시운;최미정;문양세
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2018년도 추계학술발표대회
    • /
    • pp.573-576
    • /
    • 2018
  • 아파치 카프카(Apache Kafka)는 데이터 스트림을 실시간 전달하는 분산 메시지 큐잉 플랫폼이다. 카프카는 대다수의 실시간 처리 응용에 사용되는데, 흔히 데이터 스트림의 발생지와 실시간 처리 시스템 사이(입력) 또는 실시간 처리 시스템과 처리 결과의 목적지 사이(출력)에 배치된다. 분산 기술을 도입한 카프카는 다른 메시지 큐잉 기술에 비해 대용량 데이터 스트림을 더욱 빠르게 전달 할 수 있다는 장점을 갖는다. 하지만, 카프카에 적재되는 데이터 스트림의 양과 실시간 처리 응용의 수가 증가할수록 메시지 지연시간은 매우 높아질 수 밖에 없다. 본 논문은 이러한 카프카의 메시지 지연 문제를 해결하고자 카프카의 로드 쉐딩 엔진을 제안한다. 로드 쉐딩의 세 가지 필수적인 결정에 따라, 제안하는 로드 쉐딩 엔진은 카프카의 프로뷰서에서 지연시간이 기준치를 초과할 경우 일부 메시지 전송을 제한하여 지연시간을 줄인다. 실제 실시간 처리 응용으로 실험한 결과, 단일/다중 데이터 스트리 모두 로드 쉐딩이 바르게 작동하여 지연시간이 지속적으로 증가하지 않고 오르내림이 반복되는 추세를 보였다. 본 연구는 데이터 스트림의 입출력을 카프카로 관리하는 실시간 처리 응용에 로드 쉐딩 기법을 적용한 첫 번째 시도로서, 앞으로 데이터 스트림 처리에 사용될 의미 있는 연구라 사료된다.

스마트 상수관망 수질관리 운영플랫폼 개발과 적용 (Development and implementation of smart pipe network operating platform focused on water quality management)

  • 박대희;김주환
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2023년도 학술발표회
    • /
    • pp.453-453
    • /
    • 2023
  • 상수관망의 수질사고와 이상상황 발생시 대응을 위해서는 급수구역에 설치되어 있는 자동수질측정기, 정밀여과장치, 재염소주입설비, 자동드레인 등의 계측·제어설비들 간의 유기적인 정보공유를 통한 제어를 필요로 한다. 스마트 상수관망 운영플랫폼은 이러한 인프라 시설의 운영방안을 고려하여 분산되어 있는 계측데이터를 통합감시 및 제어하는 시스템으로 개발되었다. 상수관망 운영플랫폼은 능동형 분석 제어기술을 도입하여, 스마트 상수관망 인프라 설비를 최적제어할 수 있도록 구현하였다. 통합운영 플랫폼은 PostgreSQL, PostGIS, GeoServer, OpenLayers 등의 기술을 활용하여 개발하였다. 플랫폼은 계측감시, 시설관리, 운영제어 등의 기능으로 구성되며, 상수도 업무지원을 위한 관망해석 및 네트워크 분석 기능을 지원한다. 본 시스템은 스마트 상수도 구축사업을 통해 구축한 유량·수질모니터링 장비와 수질관리를 위해 도입된 재염소, 자동드레인 설비의 운영상태를 실시간 조회하는 모니터링 프로그램과, 관망해석 프로그램 그리고 대상설비의 최적제어를 위한 운영관리 프로그램으로 구성되어 있다. 모니터링 프로그램은 현장에서 측정되고 있는 유량, 수압, 수질, 펌프운전 등의 상태를 실시간으로 감시하고 클라우드 데이터베이스에 저장·관리하는 기능을 수행한다. 관망해석 프로그램은 EPA_Net모형과 연계되어 관망수리·수질해석을 수행하는 부분으로 재염소설비의 염소 추가주입이나 자동드레인을 통한 배제시 나타나게되는 관의 수리·수질변화를 클라우드 컴퓨팅 환경에서 분석하고 결과를 가시화 하는 기능을 갖고 있다. 운영관리 프로그램은 재염소 주입이 필요할 경우 주입량의 산정하는 부분과 관망 파손이나 수질사고 발생시 최적 단수예상지역을 도출하는 기능을 보유하고 있다. 향후 스마트 상수관망의 능동형 수질관리를 추진하는 지자체에 도입하여 인프라운영관리 기술 확보 및 수질관리 능력 개선과 실시간 감시 및 위기 대응능력 향상에 기여할 것으로 기대된다.

  • PDF

스마트그리드 플랫폼 아키텍처에 관한 연구 (A Study on the Architecture of Smart Grid Platform)

  • 오도은;최승환;양일권
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2012년도 춘계학술발표대회
    • /
    • pp.934-937
    • /
    • 2012
  • 발전에서 송배전 및 소비자에 이르기까지 다양한 설비 및 기기들이 유기적으로 결합되고, 모든 과정이 실시간으로 운영되는 전력시스템은 지금까지 각 운영시스템별 독자적인 필요에 의해 상이한 플랫폼으로 개발되고 운영되어 왔기 때문에, 시스템 상호간 연계와 원활한 정보교환을 통한 전체 전력시스템 차원의 최적화를 이루는 데는 어려움이 있었다. 이러한 전력시스템은 스마트그리드로의 전환을 위해 각 시스템별 독립적 필요에 의한 부문별 자동화가 아닌 정보의 통합화, 제어의 분산화 그리고 기능의 상호운용성을 통해 전력시스템이 하나의 유기적인 시스템으로서 동작하는 체계를 필요로 한다. 본 논문은 전력운영시스템 상호간 정보교환과 전력시스템 전 영역에 걸쳐 발생되는 데이터의 활용 및 새로운 전력 어플리케이션의 Plug & Play 통합을 위한 스마트그리드 플랫폼 아키텍처에 대하여 기술한다.

실시간 객체 TMO의 분산 IPC를 위한 채널 바인딩 기법 설계 및 개발 (Development of a Channel Binding Scheme for the Distributed IPC of the Real-time Object Model, TMO)

  • 김도형;김정국
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2003년도 춘계학술발표논문집 (상)
    • /
    • pp.177-180
    • /
    • 2003
  • TMO (Tim-triggered Message-triggered Object) 는 분산환경에서의 정시보장 컴퓨팅을 목표로 제안된 실시간 객체 모델이다. TMO는 객체 자료저장소(object data store), 주기와 데드라인에 의해 구동되는 쓰레드와 이벤트 메시지 전달에 의해 데드라인 방식으로 구동되는 쓰레드로 구성된다. 이러한 TMO 의 수행을 위해, 윈도우 운영체제상의 WTMOS, 리눅스 상의 LTMOS 와 리눅스 커널 내부에서 TMO를 제공하기 위한 TMO-Linux등의 엔진들이 개발되었다. 이러한 엔진들은 서로 다른 플랫폼을 가진 네트워크 환경에서 논리적 멀티캐스트 채널 방식의 분산 IPC 를 기반으로 TMO 의 분산 컴퓨팅을 지원한다 단, 기존의 분산 IPC 는 UDP 기반의 브로드캐스트 방식을 사용하기 때문에 같은 서브 네트워크에 속한 노드들로만 분산 환경을 구축할 수 있고, 특정 채널을 사용하지 않는 노드에도 메시지를 전달하는 브로드캐스팅 오버혜드가 발생하며, UDP 의 특성에 기인한 신뢰성 저하의 문제를 갖고 있다 본 논문에서는 이러한 단점을 극복하기 위해, TMO 엔진의 분산 IPC 모델에 Channel Binding을 통한 그룹 커뮤니케이션 기법을 도입하고 이를 TCP 기반으로 확장하였다.

  • PDF

정형/비정형 데이터 기반 사회재난 안전 플랫폼 설계 (A Design of the Social Disasters Safety Platform based on the Structured and Unstructured Data)

  • 이창열;박길주;김정곤;김태환
    • 한국재난정보학회 논문집
    • /
    • 제18권3호
    • /
    • pp.609-621
    • /
    • 2022
  • 연구목적: 자연재난은 행정안전부가 재난관리 주관기관으로 관리체계가 잘 구성되어 있는 반면에 사회재난은 그 관리가 부처별로 분산되어 있어 통합적인 관점의 관리가 부실한 상태이다. 통합적 관리를 위한 정보체계 구성과 플랫폼 개발을 통하여 지자체 등에서 활용할 수 있게 하는 것이 본 연구의 목적이다. 연구방법: 각 부처별로 분산된 재난 정보로 사고조사 보고서(비정형 데이터)를 포함한 재난 정보를 통합하고 분석할 수 있는 DB 구축과, 인명 피해 중심의 사회 재난에 대한 위험성 평가를 통한 재난 관리체계를 제공하고, 실시간으로 제공되는 사고 진행에 대한 인명 피해 예측과 사고 원인 추론 체계를 제시한다. 연구결과: 정형 및 비정형 재난 정보를 관리하는 시스템 설계, 인명중심 사회재난 위험성 평가 방법 제시, 그리고 실시간 재난 모니터링을 통하여 분석할 수 있는 체계 설계, 그리고 이를 기반으로 서비스할 수 있는 플랫폼을 설계하였다. 결론: 사회재난 정보를 통합 운영할 수 있는 플랫폼과 사고조사를 통한 인명피해 원인과 위험도를 제시하는 체계를 구축하였다.

분산 환경에서 멀티미디어 실시간 스트리밍을 위한 패키지 설계 (A Package Design for Multimedia Live Streaming in Distributed Environment)

  • 서봉근;김윤호
    • 한국멀티미디어학회논문지
    • /
    • 제9권4호
    • /
    • pp.490-504
    • /
    • 2006
  • 분산 환경에서 멀티미디어 라이브 스트리밍을 지원하는 멀티미디어 서비스를 구현하기 위해서는 다양한 플랫폼에 분산되어 있는 객체들을 제어하고, 멀티캐스트를 지원하지 않는 네트워크 환경에서 다수의 수신자에게 멀티미디어를 전송하는 것이 필요하다. 본 논문에서는 분산 객체 기술인 RMI와 멀티미디어 전송/처리에 사용하는 JMF를 확장하여 분산 환경에서 1:N 의 멀티미디어 라이브 스트리밍을 지원하는 DLS (Distributed Live Streaming) 패키지를 제안한다. 효율적인 분산 처리를 위해 전송과 제어를 분리하여 설계한 자바 기반의 DLS 패키지는 1:N의 전송을 지원하고 플랫폼 독립적인 멀티미디어 서비스의 개발에 적용이 가능하다.

  • PDF

JINI 기반 원격 응용 모니터링 시스템 (A Remote Applications Monitoring System using JINI)

  • 임성훈;송무찬;김정선
    • 한국정보과학회논문지:컴퓨팅의 실제 및 레터
    • /
    • 제10권3호
    • /
    • pp.221-230
    • /
    • 2004
  • 원격 모니터링 시스템이란 네트웍에 분산된 호스트 혹은 원격 어플리케이션의 상태를 실시간으로 모니터링 하는 시스템이다. 네트웍에 분산된 호스트들은 다양한 플랫폼을 갖추고 있는 것이 현실이다. 하지만, 기존의 모니터링 시스템들은 플랫폼에 의존적인 성격을 띠고 있다. 네트웍을 통해서 모니터링을 하기 때문에 잠재적인 네트웍의 문제발생에 대한 적절한 대응이 필요하지만, 기존의 모니터링 시스템들은 네트웍의 문제에 대해서 적절하게 대응을 못하고 있다. 그리고 호스트의 상태를 변화시키는 요인은 호스트의 시스템 자원보다는 어플리케이션의 상태변화가 주 요인이 되고 있지만, 기존의 시스템들은 주로 호스트의 상태정보만 모니터링을 하고 있다. 따라서, 분산된 호스트들의 플랫폼에 독립적이고, 네트웍의 잠재적인 문제발생을 적절하게 대응을 할 수 있고, 호스트의 상태정보 보다는 호스트의 어플리케이션의 상태정보를 모니터링 하는 시스템이 필요한 실정이다. 본 논문에서는 네트웍에 분산된 어플리케이션의 실시간 모니터링을 통해서 어플리케이션 상태를 효과적으로 관리할 수 있는 모니터링 시스템인 RAMS (Remote Applications Monitoring System)의 설계 및 구현을 제시한다. 이 시스템은 네트웍에 분산된 호스트들의 효과적인 관리를 위해 호스트 어플리케이션의 상태를 모니터링 한다. RAMS는 모니터링 대상인 호스트 어플리케이션의 모니터링을 담당하는 Agent, 호스트의 등록, 관리를 담당하는 Manager로 구성된다. Manager와 Agent는 네트웍 단절 혹은 호스트 failure의 상황에도 자동으로 복구가 가능할 수 있도록 JINI를 최대한 활용함으로써 다른 시스템에 비해 시스템의 구성 및 관리가 용이한 특성을 갖는다.

스트리밍 빅데이터 처리 시스템 설계 (A Design on a Streaming Big Data Processing System)

  • 김성숙;김경태;박기진
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2015년도 추계학술발표대회
    • /
    • pp.99-101
    • /
    • 2015
  • 현재 다양한 센서 기기에서 쏟아지는 대용량의 정형/비정형의 스트림 데이터의 경우 기존의 단일 스트리밍 처리 시스템 만으로 처리하기에는 한계가 있다. 클러스터의 디스크가 아닌 메모리들을 사용하여 대용량 데이터 처리를 할 수 있는 Spark 는 분산 처리 임에도 불구하고 강력한 데이터 일관성과 실시간성을 확보할 수 있는 플랫폼이다. 본 연구에서는 대용량 스트림 데이터 분석 시 발생하는 메모리 공간 부족과 실시간 병렬 처리 문제를 해결하고자, 클러스터의 메모리를 이용하여 대용량 데이터의 분산 처리와 스트림 실시간 처리를 동시에 할 수 있도록 구성하였다. 실험을 통하여, 기존 배치 처리 방식과 제안 시스템의 성능 차이를 확인 할 수 있었다.

IoT 노드 클러스터 기반의 실시간 스트림 데이터 처리 방안 (Real-time stream data processing method based on IoT node cluster)

  • 임환희;김동현;이병준;김경태;윤희용
    • 한국컴퓨터정보학회:학술대회논문집
    • /
    • 한국컴퓨터정보학회 2019년도 제59차 동계학술대회논문집 27권1호
    • /
    • pp.1-4
    • /
    • 2019
  • Edge Computing 환경에서는 데이터 처리와 시스템 제어를 위한 별도의 서버가 존재하지 않는다. 서버를 통한 중앙통제 방식이 아닌 Edge computing에 사용된 IoT기기들이 연동되어 데이터 분산 처리와 연산을 통해 전체 시스템이 동작된다. 이러한 Edge computing 시스템 구조 특성상 전체 시스템이 과부하를 피하기 위해 각 IoT 기기에서 동시다발적으로 감지되는 실시간 상황 정보를 효율적으로 처리 하여야한다. 이에 따라 실시간 상황 정보를 효율적으로 처리하거나, 다양한 데이터 분석처리 알고리즘들이 연구 개발되어 데이터 처리에 적용되어 왔다. 하지만 데이터의 정보 흐름과 타입에 초점을 맞춘 것이 아니라 예상분석 및 획일화된 알고리즘을 통해서 분석되기 때문에 해당 플랫폼이 주로 지향하는 데이터 형식에 맞지 않으면 성능저하를 수반하며 사용에 제약이 많은 문제점이 있다. 따라서 본 논문에서는 IoT 환경에서 실시간 반응성 향상을 목표로 오픈소스 기반 스트림 데이터 처리 방법에 대한 비교 분석과 Fast-reaction을 위한 데이터 처리 도구 비교 분석을 연구를 진행한다.

  • PDF

ThruDoc:XForms를 이용한 액티브 문서 플랫폼 개발 (ThruDoc : Development of an Active Document System Based on XForms)

  • 서원일;김기식;안형진;이정훈;이은정
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2002년도 가을 학술발표논문집 Vol.29 No.2 (2)
    • /
    • pp.184-186
    • /
    • 2002
  • 액티브 문서 시스템은 문서를 중심으로 사용자 상호작용이나 통신 등을 지원하는 분산 컴퓨팅 모델로서 내용과 행위 정의를 포함하는 행동 가능한 문서를 통해 분산 응용 시스템을 구현하고자 하는 접근방법이다. 본 논문에서는 이러한 액티브 문서 시스템을 구현하기 위한 coordination 미들웨어로서 XForms를 이용하여 사용자 상호작용과 행위를 정의하고 웹 클라이언트가 HTTP와 소켓 기반 통신을 통해 coordination을 담당하는 시스템의 설계와 구현을 소개한다. 개발된 플랫폼 ThruDoc은 웹 상에서 여러 사용자가 액티브 문서를 통해 동시에 데이터 접근을 가능하게 하며, 동시 접근 단위와 락킹 행동을 XForms 문서에서 유연하게 정의할 수 있어 기존의 액티브 문서지원 미들웨어와 비교하였을 때 웹 기반의 구조에 자연스럽게 통합되면서도 자유로운 행위 정의가 가능하고 문서 공유가 실시간으로 가능하다는 장점을 가진다.

  • PDF