• Proceedings of the Korea Information Processing Society Conference
• /
• 2009.04a
• /
• pp.1511-1514
• /
• 2009

이기종(異機種) 시스템환경에서 발생하는 수많은 로그 데이터는 중요도에 따라 실시간 로그 분석이 필요하고 대용량의 로그 데이터의 경우 특정 시간내에 로그 분석 처리를 종료해야만 한다. 보안에 관련된 로그 정보의 경우 실시간 분석과 빠른 통계 처리를 요구할 것이며, 대용량의 비실시간성 로그 분석의 경우 로그 분석 및 통계처리를 주어진 특정 시간 내에 하여야 한다. 본 논문에서는 로그 데이터의 중요도에 따른 실시간 로그 분석 처리와 비실시간 대용량 통계 로그의 로그 분석 처리 마감 시간을 충족하는 로그 분석 스케줄링 정책을 제안한다.

• Journal of Korea Spatial Information System Society
• /
• v.11 no.3
• /
• pp.31-39
• /
• 2009

Requirement level regarding processing and managing real-time datastream in an ubiquitous environment is increased. Especially, due to the unbounded, high frequency and real-time characteristics of datastream, development of specialized stroge manager for DSMS is necessary to process such datastream. Existing DSMS, e.g. Coral8, can support datastream processing but it is not scalable and cannot perform well when handling large-volume real-time datastream, e.g. 100 thousand over per second. In the case of Oracle10g, which is generally used in related field, it supports storing and management processing. However, it does not support real-time datastream processing. In this paper, we propose specialized storage manager of DSMS for real-time compressed storing on semiconductor or LCD production facility of Samsung electronics, Hynix and HP. Hynix and HP. This paper describes the proposed system architecture and major components and show better performance of the proposed system compared with similar systems in the experiment section.

• The Journal of the Acoustical Society of Korea
• /
• v.12 no.6
• /
• pp.13-20
• /
• 1993

충격 응답 시간이 긴 시스템을 모델링하기 위한 실시간 적응 디지털 필터를 구현하였다. 대상 시스템의 충격 응답 시간이 길 때, 일반적인 적응 디지털 필터를 사용하는 경우 발생하는 수렴 속도 저하와 계산량 증가 문제를 해결하기 위해서 서브밴드 구조를 갖는 적응 디지털 필터를 구성하였다. 실시간 처리 시스템에서는 GQMF을 사용하여 입력 신호를 4개 대역으로 분할하여 각 대역별로 적응 필터링을 수행함으로써 수렴 속도를 향상시킨다. 또한 대역별 신호를 동시에 분산 처리하기 때문에 계산량 면에서 효율적이므로 시스템의 충격 응답이 긴 경우에는 실시간 처리가 가능하다. 하드웨어 구성은 범용 신호 처리 프로세서인 DSP56001을 호스트 프로세서로 사용하며, 적응 디지털 필터 칩 DSP56200을 사용하여 각 대역 적응 필터를 구성하였다. 실험은 충격 응답 시간이 16 kHz 필터링 시 2000 탭 길이로 가정된 시스템을 대상으로 부동 소수점 시뮬레이션 결과와 실시간 처리 시스템의 결과를 비교하였다. 밴드를 나누지 않은 기존의 방법과 서브밴드 시스템의 비교 실험 결과 입력이 백색 잡음인 경우 대역별 간섭에 의한 성능 저하가 있었으나, 음성과 유사한 특성을 갖는 유색 잡음인 경우 서브밴드 시스템이 단일 시스템에 비해 성능 향상을 보였다.

• Proceedings of the Korean Information Science Society Conference
• /
• 2002.10c
• /
• pp.244-246
• /
• 2002

최근 무선 인터넷과 핸드폰, PDA, HPC 등과 같은 모바일 장치의 발전으로 인하여 이동체의 위치를 중심으로 하는 LBS가 점차적으로 많은 분야에서 사용되고 있다. 이동체의 위치 데이타는 GPS와 같은 위치 측정 시스템을 이용하여 대용량으로 발생하게 되는데 기존의 정적인 데이타를 처리하기 위한 GIS를 사용하여 이러한 데이타를 처리하는 것은 비효율적이다. 그러므로, 본 논문에서는 이러한 동적인 데이타를 효과적으로 처리할 수 있는 LBS를 위한 실시간 GIS 엔진을 설계 및 구현하였다. 본 논문에서의 실시간 GIS 엔진은 LBS에서 필요한 공간, 비공간, 위치 데이타를 효과적으로 관리할 수 있다. 실시간 GIS 엔진은 인터페이스 관리자, 질의 관리자, 인덱스 관리자, 데이타 로더, 레이어 관리자, 위치 데이타 관리자, 메타 데이타 관리자, 객체 관리자로 구성되어 있으며 기존의 HP 실시간 데이타베이스 시스템에 공간 데이타 타입, 공간 연산자, 가변 길이 데이타 처리, 테이블 자동 확장 기능 등을 추가하여 LBS에서 사용되는 대용량 가변 길이 데이타를 효과적으로 처리할 수 있도록 하였다.

• Proceedings of the Korea Information Processing Society Conference
• /
• 2015.10a
• /
• pp.99-101
• /
• 2015

현재 다양한 센서 기기에서 쏟아지는 대용량의 정형/비정형의 스트림 데이터의 경우 기존의 단일 스트리밍 처리 시스템 만으로 처리하기에는 한계가 있다. 클러스터의 디스크가 아닌 메모리들을 사용하여 대용량 데이터 처리를 할 수 있는 Spark 는 분산 처리 임에도 불구하고 강력한 데이터 일관성과 실시간성을 확보할 수 있는 플랫폼이다. 본 연구에서는 대용량 스트림 데이터 분석 시 발생하는 메모리 공간 부족과 실시간 병렬 처리 문제를 해결하고자, 클러스터의 메모리를 이용하여 대용량 데이터의 분산 처리와 스트림 실시간 처리를 동시에 할 수 있도록 구성하였다. 실험을 통하여, 기존 배치 처리 방식과 제안 시스템의 성능 차이를 확인 할 수 있었다.

• Proceedings of the Korea Information Processing Society Conference
• /
• 2017.11a
• /
• pp.52-54
• /
• 2017

실시간으로 빠르게 발생하는 대용량 데이터를 다루기 위해 Apache Storm, Apache Spark 등 실시간 데이터 스트림 처리 기술에 대한 연구가 활발하다. 대부분의 실시간 처리 기술들은 단독으로 사용하기에 어려움이 있으며, 데이터 스트림의 입출력을 위해 메시징 시스템과 함께 사용하는 것이 일반적이다. Apache Kafka는 대표적인 분산 메시징 시스템으로써, 실시간으로 발생하는 대용량의 로그 데이터를 전달하는데 특화된 시스템이다. 현재 Kafka를 위한 다양한 성능 모니터링 도구들이 존재한다. 이러한 모니터링 도구들은 Kafka에서 처리되는 데이터의 양 이외에도 유입 데이터의 크기, 수집 속도, 처리 속도 등 다양한 데이터들을 관찰할 수 있다. 본 논문은 Kafka에서 제공하는 도구와 오픈 소스로 제공되는 여러 개의 도구들을 비교하여, 향후 Kafka의 로드 쉐딩에 대한 연구에 적용할 수 있는 최적의 모니터링 도구를 선별하고자 한다.

• Proceedings of the Korea Information Processing Society Conference
• /
• 2015.04a
• /
• pp.129-131
• /
• 2015

스마트 그리드는 에너지 이용 효율 최적화를 위한 개선방안으로 전기에너지를 발생하는 발전원별 분석하며, 전력 사용 측면에서 전력망을 통해 공급된 전력의 소비패턴으로 분석을 통해 에너지 이용 효율을 최적화할 수 있다. 본 논문에서는 아파치 Storm을 활용하여 실시간 데이터 수집 및 처리 시스템을 설계한다. 설계된 시스템은 에너지 효율성을 위해 이종의 실시간 대용량 스트리밍 센서 데이터를 수집하여 분석을 수행하도록 데이터 필터링과 변환 기법을 제시한다. 이를 위해 실시간 대용량 처리를 위해 필터링 및 변환을 병렬 처리하도록 한다. 필터링과 변환 처리는 독립적인 타스크로 구성하도록 하며, 전체 프로세스는 정의된 파이프-필터 토폴로지를 구성하여 처리한다.

• Proceedings of the Korea Information Processing Society Conference
• /
• 2013.11a
• /
• pp.172-175
• /
• 2013

사이버물리시스템(CPS)은 실시간 제약으로 타이밍에 민감한 특징이 있으며, 산업 영역에 적용시 시스템 동작과 안전필수 로그의 특정한 패턴을 나타내는 대용량의 실시간 데이터를 생성시킨다. 본 논문은 공개소스프로젝트인 하둡에코시스템을 이용한 CPS 데이터분석 아키텍처를 소개한다. CPS 처리의 특징 때문에 그 대용량의 데이터 처리는 하나의 머신에서 분석될 수 없으므로, 하둡에코시스템을 통하여 실시간 기반으로 생성되는 데이터를 저장하고 처리하는 시스템 아키텍처를 제안한다. 하둡분산파일시스템(HDFS)은 거대한 CPS 데이터의 저장을 위한 기본 파일시스템이고, 하이브는 데이터웨어하우징 처리를 위한 CPS 데이터분석에 사용된다. 플룸은 서버들로부터 데이터를 수집하고 HDFS에서 그 데이터를 처리하기 위해 사용되며, Rhive는 데이터 마이닝과 분석을 적용하기 위해 사용된다. 이러한 아키텍처를 개관하고, 또한 효과적인 데이터 분석을 위해 사용한 시스템 설계 전략을 소개한다.

• Proceedings of the Korean Information Science Society Conference
• /
• 1999.10c
• /
• pp.200-202
• /
• 1999

이벤트 서비스는 멀티미디어 통신, 전자상거래, 트래픽 제어시스템 등과 같은 대용량의 분산 응용 시스템에서 발생하는 이벤트의 전송을 제어하기 위한 서비스이다. 하지만 기본의 이벤트 서비스는 분산 환경의 실시간 응용 서비스를 지원하기 위해 필요한 실시간 이벤트 필터링, 우선순위, 마감시간 등과 같은 실시간 QoS 지원 기능들이 결여되어 있어 이를 지원할 수 있는 실시간 이벤트 서비스 처리 방안이 요구된다. 본 논문에서 제안하는 RTES는 기존의 ORB 구조에 이벤트 필터링, 실시간 매니저 및 QoS 저장소를 포함시킨 실시간 이벤트 서비스 미들웨어이다. 특히, RTES는 이벤트 사용자의 실시간 요구사항을 분산 실시간 응용에 반영시키기 위하여 이벤트 필터링 기능을 실시간 처리에 맞게 강화 시켜 기존의 시스템에서 지원하지 못한 사용자의 실시간 요구 사항을 지원하는데 중점을 두었다. 실시간 이벤트 필터링은 사용자로부터 원하는 실시간 요구사항과 사용자가 원하는 자신만의 이벤트 필터링 정보를 입력받아 QoS 저장소에 저장하고, 실시간 이벤트 발생 시 사용자가 입력한 정보를 반영한 필터링을 통해 이벤트를 처리하는 메커니즘으로써 사용자는 자신이 원하는 실시간 요구조건에 맞게 필터링된 이벤트 처리결과를 얻게 되어 궁극적으로 보다 높은 서비스(QoS)를 제공받게 된다. 또한 이 과정을 통해 불필요한 이벤트가 필터링 됨으로써 전체적인 네트웍 트래픽(traffic)을 감소시키는 효과를 가져온다.

• Proceedings of the Korean Information Science Society Conference
• /
• 2004.04b
• /
• pp.232-234
• /
• 2004

본 논문에서 제시된 시스템은 주기억 데이터베이스 시스템 기반의 GIS로서, 서버에 구축된 지리정보를 모바일 기기에서 실시간으로 질의할 수 있도록 설계되었다. 본 시스템은 클라이언트-서버 환경으로 GIS서버가 대용량 GIS 데이터를 저장하고 질의처리 연산을 수행하도록 하였으며 모바일 기기는 단지 서버에 질의만 던지고 그 질의에 해당하는 결과만 실시간으로 제공받는 구조로 설계, 구현하였다. 본 논문은 실시간 모바일 GIS에 적합한 효율적인 인덱스와 SQL like 질의를 사용한 새로운 질의처리기법을 제시한다.