• Title/Summary/Keyword: 실시간 데이터 분석

Search Result 2,560, Processing Time 0.036 seconds

Multi-channel data connection and Real-time processing system designed for Big Data collection (빅데이터 수집을 위한 다채널 데이터 연계와 실시간 처리 시스템 설계)

  • Paik, Kyoung-Seok;Oh, Jae-Chel;Yang, Jae-Hyek
    • Proceedings of the Korea Contents Association Conference
    • /
    • 2016.05a
    • /
    • pp.269-270
    • /
    • 2016
  • 빅데이터 분석을 통한 여러 산업 군과 융합으로 시너지를 발생시키기 위해서, 다양한 유형의 데이터 수집을 통해 빅데이터를 구성하는 것이 첫 번째 단계이며 기상, 교통, 인터넷 활동, 상권 등의 다양한 출처로부터 데이터 연계를 수행하고 사물인터넷과 같은 실시간으로 발생하는 로그 성 데이터 수집을 고려한 실시간 처리 시스템을 설계 하였다. 이를 통해 서로 다른 유형의 데이터가 빅데이터로 수집 되면 여러 산업 군에서 요구되는 인사이트 기반의 빅데이터 분석을 통해 B2B 또는 B2C 서비스에 응용 될 수 있다.

  • PDF

A Study on Scheduling of Distributed Log Analysis by the importance of the measure (중요도에 따른 분산 로그분석 스케줄링)

  • Back, BongHyun;Ahn, Byoungchul
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2009.04a
    • /
    • pp.1511-1514
    • /
    • 2009
  • 이기종(異機種) 시스템환경에서 발생하는 수많은 로그 데이터는 중요도에 따라 실시간 로그 분석이 필요하고 대용량의 로그 데이터의 경우 특정 시간내에 로그 분석 처리를 종료해야만 한다. 보안에 관련된 로그 정보의 경우 실시간 분석과 빠른 통계 처리를 요구할 것이며, 대용량의 비실시간성 로그 분석의 경우 로그 분석 및 통계처리를 주어진 특정 시간 내에 하여야 한다. 본 논문에서는 로그 데이터의 중요도에 따른 실시간 로그 분석 처리와 비실시간 대용량 통계 로그의 로그 분석 처리 마감 시간을 충족하는 로그 분석 스케줄링 정책을 제안한다.

Design of customized Real-time SLA Mart (가입자 맞춤형 실시간 SLA 분석 마트의 설계)

  • Park, Noh-Sam;Lee, Gil-Haeng
    • Proceedings of the IEEK Conference
    • /
    • 2007.07a
    • /
    • pp.161-162
    • /
    • 2007
  • 본 논문에서는, 고객의 서비스 품질보장(SLA)에 대한 정보를 바탕으로 고객별로 특화된 분석 마트를 실시간으로 생성하기 위한 구조 및 그 방법을 제공한다. 본 논문의 가입자 맞춤형 실시간 SLA 분석 마트는 SLA 정보를 바탕으로 가입자별 분석 마트를 사용자의 요구에 따라 실시간으로 분석 마트를 생성한다. 사용자가 특정 가입자에 대한 SLA 분석 정보를 요청하면 가입자 프로파일에 요청 정보가 저장되고, SLA 데이터에서 가입자에 대한 SLA정보를 추출하여 가입자 프로파일의 요구사항에 따라서 분석 마트를 실시간으로 생성하는 구조를 가진다.

  • PDF

A Research on the Development of a GIS-Based Real-Time Water Monitoring Technique (GIS기반 실시간 용수 모니터링 기법 연구)

  • Kim, Seong-Hoon;Lee, Si-Hyoung;Kim, Dong-Moon;Kim, Eui-Myoung;Park, Jae-Kook
    • Journal of Korean Society for Geospatial Information Science
    • /
    • v.18 no.1
    • /
    • pp.111-118
    • /
    • 2010
  • The purposes of this study are to raise the awareness of urban water not being efficiently managed and to propose a method for resolving this issue. To serve these purposes, a methodology was proposed to obtain sensing data in a real-time monitoring method and to build them into a GIS. Some sample data among sensing data was used to perform a series of trend analyses using several polynomial models. As a result of the aforementioned research, the proposed monitoring technique is expected to offer some important information in order to improve the reliability of urban water.

Efficient Processing of Continuous Join Queries between a Data Stream and Multiple Relations for Real-Time Analysis of E-Commerce Data (전자상거래 데이터의 실시간 분석을 위한 데이터 스트림과 다수 릴레이션 간의 효율적인 연속 조인 처리 기법)

  • Kim, Haeri;Lee, Ki Yong
    • The Journal of Society for e-Business Studies
    • /
    • v.18 no.3
    • /
    • pp.159-175
    • /
    • 2013
  • Recently, as real-time availability of e-commerce data becomes possible, the requirement of real-time analysis of e-commerce increases significantly. In the real-time analysis of e-commerce data, it is very important to efficiently process continuous join queries between an e-commerce data stream and disk-based large relations. In this paper, we propose an efficient method for processing a continuous join query between an e-commerce data stream and multiple disk-based relations. The proposed method improves the service rate significantly, while reducing the amount of required memory substantially. Through analysis and various experiments, we show the efficiency of the proposed method compared with the previous one in terms of service rate and memory usage.

Design and Implementation of a Real-Time Remote Data Analysis System based on Internet (인터넷기반 실시간 원격 데이터 분석 시스템 설계 및 구현)

  • 김종만;김지환;이성구;안세영;박미경;김홍기
    • Proceedings of the Korean Information Science Society Conference
    • /
    • 2001.10c
    • /
    • pp.484-486
    • /
    • 2001
  • 지리적으로 분산된 컴퓨터의 정보 교환을 위해 탄생된 인터넷은 네트워크 응용 프로그램을 개발하기 위한 시스템 개발자들이 로컬 컴퓨터에서 발생하는 실시간(real-time) 데이터의 중앙관리를 위한 통신 수단을 제공한다. 본 논문은 지리적으로 분산된 하/폐수 처리장에서 발생되는 다양한 종류의 실시간 데이터에 대한 효과적인 중앙 관리와 이러한 데이터를 처리, 분석하여 필요한 정보를 즉시 각 처리장에 제공함으로써 처리장 사이의 정보 공유는 물론 감독기관의 각 처리장에 대한 효율적인 운영관리를 위한 인터넷 기반 원격 데이터 분석 시스템(RRDAS)의 설계 및 구현에 대해 논한다.

  • PDF

Analysis of Requirements for Real-time Monitoring Item based on Big Data Environment (빅데이터 환경의 실시간 서버 감시항목 도출을 위한 요구사항 분석)

  • Lim, Bock-Chool;Kim, Soon-Gohn
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2014.11a
    • /
    • pp.745-746
    • /
    • 2014
  • 서버 성능 모니터링은 통합된 정보시스템의 모든 구성요소의 효율적인 활동능력을 부여하고, 성능에 관계된 모든 상태를 감시하여, 최적의 서비스 품질과 정보 시스템 장원의 효율성을 유지 및 제고시키는 것이다. 현재 일반적으로 통용되는 방식은 에이전트 기반의 클라이언트가 데이터를 중앙 서버에 전송하는 것이다. 데이터 량이 급속하게 증가하는 빅 데이터 환경에서 실시간 데이터 수집 및 분석, 처리를 위해 서버 성능 모니터링의 지침 및 상용/오픈 솔루션을 분석하고 비교한다. 결과를 토대로 실제 서비스의 감시 이력과 장애 이력을 통하여 실시간 모니터링이 필요한 감시항목을 도출한다.

Real Time Gathering and Analysis of PLC Data in Manufacturing environoment (제조 환경에서 PLC 데이터의 실시간 수집 및 분석)

  • Go, Seok-bin;Kim, Jae-Hoon;Myung, Jae-Seok;Yoo, Kwan-Hee
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2019.10a
    • /
    • pp.350-353
    • /
    • 2019
  • 4차 산업혁명 시대에 접어들면서 제조업은 공장 내 설비와 기계에 Arduino 센서를 설치하여 데이터를 실시간으로 수집, 분석하는 스마트 팩토리로 전환되었다. 이에 Digital Twin이라는 개념이 생겨난다. Digital Twin이란 컴퓨터에 현실 속 사물의 쌍둥이를 만들고, 현실에서 발생할 수 있는 상황을 컴퓨터로 시뮬레이션 함으로써 결과를 예측하는 기술을 말한다. 본 논문에서는 제조환경에서 발생할 수 있는 물리적인 동작 환경을 시뮬레이션하고, PLC 데이터와 수집된 센서 데이터를 이용하여 실시간으로 공정과정을 모니터링할 수 있는 Virtual Digital Twin System을 제안한다. 본 시스템은 PLC Hardware와 Arduino 센서, 사용자가 접근할 수 있는 PC 및 Web Page로 이루어진다. 제조환경에서의 PLC Hardware를 3D 모델링하여 제공한다. 또한 기기에 부착되어있는 Arduino 센서에서 발생하는 데이터를 수집하고, 분석하여 후에 발생할 수 있는 결함에 대하여 대처할 수 있도록 한다.

Real Time Stock Information Analysis Method Based on Big Data considering Reliability (신뢰성을 고려한 빅데이터 기반 실시간 증권정보 분석 기법)

  • Kim, Yoon-Ki;Cho, Chang-Woo;Jeong, Chang-Sung
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2013.11a
    • /
    • pp.146-147
    • /
    • 2013
  • 소셜 미디어와 스마트폰의 확산으로 인터넷상의 사용자간 교류되는 정보의 양이 대폭 늘어남에 따라 대규모의 데이터를 처리해야할 필요성이 높아졌다. 이러한 빅데이터는 뉴스, 소셜미디어, 웹사이트 등의 다양한 분산 서버에서 발생한다. 증권정보를 분석하기 위해서도 실시간으로 발생되는 거래량, 시가와 더불어 상장회사의 공시 정보 등의 데이터를 여러 분산된 서버에서 데이터를 가져와야 한다. 기존의 빅데이터 분석기법은 각 분산된 서버로부터 가져온 데이터가 동일한 신뢰성을 가지고 있다고 가정하고 분석을 한다. 이는 부문별한 정보를 포함한 데이터를 효율적으로 분석하지 못하는 한계를 지니고 있다. 본 논문에서는 가져오는 데이터에 신뢰성 가중치를 부여하여 신뢰성 있는 증권정보 분석을 가능하게 한다.

A Study on the Real-time user purchase pattern analysis User Product Recommendation System in E-Commerce Environment (E-commerce 환경에서 실시간 사용자 구매 패턴 분석을 통한 사용자 상품 추천 시스템 연구)

  • Beom Jung Kim;Ji Hye Huh;Hyeopgeon Lee;Young Woon Kim
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2023.05a
    • /
    • pp.413-414
    • /
    • 2023
  • IT 기술의 발달로 E-Commerce 분야는 실시간으로 발생되는 데이터양이 증가하고 있으며, 발생된 데이터는 개인화 맞춤 서비스에 많이 활용되고 있다. 그러나 신생 E-commerce 기업은 신규 상품 및 기존 상품에 대한 정보와 고객 간의 상호 작용 데이터가 존재하지 않아 콜드 스타트 문제가 발생한다. 이에 본 논문에서는 E-commerce 환경에서 실시간 사용자 구매패턴 분석을 통한 사용자 상품 추천 시스템을 제안한다. 제안하는 시스템은 Kafka와 Spark를 사용해 실시간 스트림을 데이터를 처리한다. 주요 기능은 ALS 알고리즘과, FP-Growth 알고리즘을 적용해 콜트 스타트 문제를 해결하며, 사용자 구매 패턴 분석을 통한 분석 결과에 맞는 상품을 사용자에게 추천한다.