• 제목/요약/키워드: 실시간 데이터 분석

검색결과 2,573건 처리시간 0.063초

빅데이터 수집을 위한 다채널 데이터 연계와 실시간 처리 시스템 설계 (Multi-channel data connection and Real-time processing system designed for Big Data collection)

  • 백경석;오재철;양재혁
    • 한국콘텐츠학회:학술대회논문집
    • /
    • 한국콘텐츠학회 2016년도 춘계 종합학술대회 논문집
    • /
    • pp.269-270
    • /
    • 2016
  • 빅데이터 분석을 통한 여러 산업 군과 융합으로 시너지를 발생시키기 위해서, 다양한 유형의 데이터 수집을 통해 빅데이터를 구성하는 것이 첫 번째 단계이며 기상, 교통, 인터넷 활동, 상권 등의 다양한 출처로부터 데이터 연계를 수행하고 사물인터넷과 같은 실시간으로 발생하는 로그 성 데이터 수집을 고려한 실시간 처리 시스템을 설계 하였다. 이를 통해 서로 다른 유형의 데이터가 빅데이터로 수집 되면 여러 산업 군에서 요구되는 인사이트 기반의 빅데이터 분석을 통해 B2B 또는 B2C 서비스에 응용 될 수 있다.

  • PDF

중요도에 따른 분산 로그분석 스케줄링 (A Study on Scheduling of Distributed Log Analysis by the importance of the measure)

  • 백봉현;안병철
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2009년도 춘계학술발표대회
    • /
    • pp.1511-1514
    • /
    • 2009
  • 이기종(異機種) 시스템환경에서 발생하는 수많은 로그 데이터는 중요도에 따라 실시간 로그 분석이 필요하고 대용량의 로그 데이터의 경우 특정 시간내에 로그 분석 처리를 종료해야만 한다. 보안에 관련된 로그 정보의 경우 실시간 분석과 빠른 통계 처리를 요구할 것이며, 대용량의 비실시간성 로그 분석의 경우 로그 분석 및 통계처리를 주어진 특정 시간 내에 하여야 한다. 본 논문에서는 로그 데이터의 중요도에 따른 실시간 로그 분석 처리와 비실시간 대용량 통계 로그의 로그 분석 처리 마감 시간을 충족하는 로그 분석 스케줄링 정책을 제안한다.

가입자 맞춤형 실시간 SLA 분석 마트의 설계 (Design of customized Real-time SLA Mart)

  • 박노삼;이길행
    • 대한전자공학회:학술대회논문집
    • /
    • 대한전자공학회 2007년도 하계종합학술대회 논문집
    • /
    • pp.161-162
    • /
    • 2007
  • 본 논문에서는, 고객의 서비스 품질보장(SLA)에 대한 정보를 바탕으로 고객별로 특화된 분석 마트를 실시간으로 생성하기 위한 구조 및 그 방법을 제공한다. 본 논문의 가입자 맞춤형 실시간 SLA 분석 마트는 SLA 정보를 바탕으로 가입자별 분석 마트를 사용자의 요구에 따라 실시간으로 분석 마트를 생성한다. 사용자가 특정 가입자에 대한 SLA 분석 정보를 요청하면 가입자 프로파일에 요청 정보가 저장되고, SLA 데이터에서 가입자에 대한 SLA정보를 추출하여 가입자 프로파일의 요구사항에 따라서 분석 마트를 실시간으로 생성하는 구조를 가진다.

  • PDF

GIS기반 실시간 용수 모니터링 기법 연구 (A Research on the Development of a GIS-Based Real-Time Water Monitoring Technique)

  • 김성훈;이시형;김동문;김의명;박재국
    • 대한공간정보학회지
    • /
    • 제18권1호
    • /
    • pp.111-118
    • /
    • 2010
  • 본 논문에서는 도시용수의 효율적인 관리 상 문제점을 파악하고 이를 개선하는 방안을 제시하는데 목적을 두었다. 데이터 모니터링부터 정보화과정 까지를 포함하는 실시간 모니터링 기법을 통해 센싱 데이터를 취득하고 데이터 분석을 통해 용수사용 예측행정에 도움이 되는 일련의 방법론을 제시했다. 또한 센싱 데이터 중 일부 샘플자료를 사용하여 다항식모형을 이용한 추세분석을 실시했다. 연구결과 제시된 실시간 모니터링 기법 및 분석결과는 도시용수 건전성 향상을 위해 중요한 정보제공을 할 것으로 기대된다.

전자상거래 데이터의 실시간 분석을 위한 데이터 스트림과 다수 릴레이션 간의 효율적인 연속 조인 처리 기법 (Efficient Processing of Continuous Join Queries between a Data Stream and Multiple Relations for Real-Time Analysis of E-Commerce Data)

  • 김해리;이기용
    • 한국전자거래학회지
    • /
    • 제18권3호
    • /
    • pp.159-175
    • /
    • 2013
  • 최근 들어 전자상거래 데이터의 실시간 공급이 가능해지면서, 전자상거래 데이터를 실시간으로 분석하고자 하는 요구가 급증하고 있다. 이를 위해서는 전자상거래 데이터 스트림과 디스크에 저장된 대규모 릴레이션 간의 연속 조인 질의를 효율적으로 처리하는 것이 매우 중요하다. 본 논문에서는 전자상거래 데이터 스트림과 디스크에 저장된 다수 릴레이션 간의 효율적인 연속 조인 질의 기법을 제안한다. 제안 방법은 기존 방법에 비해 서비스율을 크게 향상시키는 한편, 메모리 사용량을 크게 줄인다. 분석과 다양한 실험을 통해, 제안 방법은 기존 방법에 비해 서비스율과 메모리 사용량에서 더 효율적임을 보인다.

인터넷기반 실시간 원격 데이터 분석 시스템 설계 및 구현 (Design and Implementation of a Real-Time Remote Data Analysis System based on Internet)

  • 김종만;김지환;이성구;안세영;박미경;김홍기
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2001년도 가을 학술발표논문집 Vol.28 No.2 (3)
    • /
    • pp.484-486
    • /
    • 2001
  • 지리적으로 분산된 컴퓨터의 정보 교환을 위해 탄생된 인터넷은 네트워크 응용 프로그램을 개발하기 위한 시스템 개발자들이 로컬 컴퓨터에서 발생하는 실시간(real-time) 데이터의 중앙관리를 위한 통신 수단을 제공한다. 본 논문은 지리적으로 분산된 하/폐수 처리장에서 발생되는 다양한 종류의 실시간 데이터에 대한 효과적인 중앙 관리와 이러한 데이터를 처리, 분석하여 필요한 정보를 즉시 각 처리장에 제공함으로써 처리장 사이의 정보 공유는 물론 감독기관의 각 처리장에 대한 효율적인 운영관리를 위한 인터넷 기반 원격 데이터 분석 시스템(RRDAS)의 설계 및 구현에 대해 논한다.

  • PDF

빅데이터 환경의 실시간 서버 감시항목 도출을 위한 요구사항 분석 (Analysis of Requirements for Real-time Monitoring Item based on Big Data Environment)

  • 임복출;김순곤
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2014년도 추계학술발표대회
    • /
    • pp.745-746
    • /
    • 2014
  • 서버 성능 모니터링은 통합된 정보시스템의 모든 구성요소의 효율적인 활동능력을 부여하고, 성능에 관계된 모든 상태를 감시하여, 최적의 서비스 품질과 정보 시스템 장원의 효율성을 유지 및 제고시키는 것이다. 현재 일반적으로 통용되는 방식은 에이전트 기반의 클라이언트가 데이터를 중앙 서버에 전송하는 것이다. 데이터 량이 급속하게 증가하는 빅 데이터 환경에서 실시간 데이터 수집 및 분석, 처리를 위해 서버 성능 모니터링의 지침 및 상용/오픈 솔루션을 분석하고 비교한다. 결과를 토대로 실제 서비스의 감시 이력과 장애 이력을 통하여 실시간 모니터링이 필요한 감시항목을 도출한다.

제조 환경에서 PLC 데이터의 실시간 수집 및 분석 (Real Time Gathering and Analysis of PLC Data in Manufacturing environoment)

  • 고석빈;김재훈;명제석;류관희
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2019년도 추계학술발표대회
    • /
    • pp.350-353
    • /
    • 2019
  • 4차 산업혁명 시대에 접어들면서 제조업은 공장 내 설비와 기계에 Arduino 센서를 설치하여 데이터를 실시간으로 수집, 분석하는 스마트 팩토리로 전환되었다. 이에 Digital Twin이라는 개념이 생겨난다. Digital Twin이란 컴퓨터에 현실 속 사물의 쌍둥이를 만들고, 현실에서 발생할 수 있는 상황을 컴퓨터로 시뮬레이션 함으로써 결과를 예측하는 기술을 말한다. 본 논문에서는 제조환경에서 발생할 수 있는 물리적인 동작 환경을 시뮬레이션하고, PLC 데이터와 수집된 센서 데이터를 이용하여 실시간으로 공정과정을 모니터링할 수 있는 Virtual Digital Twin System을 제안한다. 본 시스템은 PLC Hardware와 Arduino 센서, 사용자가 접근할 수 있는 PC 및 Web Page로 이루어진다. 제조환경에서의 PLC Hardware를 3D 모델링하여 제공한다. 또한 기기에 부착되어있는 Arduino 센서에서 발생하는 데이터를 수집하고, 분석하여 후에 발생할 수 있는 결함에 대하여 대처할 수 있도록 한다.

E-commerce 환경에서 실시간 사용자 구매 패턴 분석을 통한 사용자 상품 추천 시스템 연구 (A Study on the Real-time user purchase pattern analysis User Product Recommendation System in E-Commerce Environment)

  • 김범중;허지혜;이협건;김영운
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2023년도 춘계학술발표대회
    • /
    • pp.413-414
    • /
    • 2023
  • IT 기술의 발달로 E-Commerce 분야는 실시간으로 발생되는 데이터양이 증가하고 있으며, 발생된 데이터는 개인화 맞춤 서비스에 많이 활용되고 있다. 그러나 신생 E-commerce 기업은 신규 상품 및 기존 상품에 대한 정보와 고객 간의 상호 작용 데이터가 존재하지 않아 콜드 스타트 문제가 발생한다. 이에 본 논문에서는 E-commerce 환경에서 실시간 사용자 구매패턴 분석을 통한 사용자 상품 추천 시스템을 제안한다. 제안하는 시스템은 Kafka와 Spark를 사용해 실시간 스트림을 데이터를 처리한다. 주요 기능은 ALS 알고리즘과, FP-Growth 알고리즘을 적용해 콜트 스타트 문제를 해결하며, 사용자 구매 패턴 분석을 통한 분석 결과에 맞는 상품을 사용자에게 추천한다.

신뢰성을 고려한 빅데이터 기반 실시간 증권정보 분석 기법 (Real Time Stock Information Analysis Method Based on Big Data considering Reliability)

  • 김윤기;조창우;정창성
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2013년도 추계학술발표대회
    • /
    • pp.146-147
    • /
    • 2013
  • 소셜 미디어와 스마트폰의 확산으로 인터넷상의 사용자간 교류되는 정보의 양이 대폭 늘어남에 따라 대규모의 데이터를 처리해야할 필요성이 높아졌다. 이러한 빅데이터는 뉴스, 소셜미디어, 웹사이트 등의 다양한 분산 서버에서 발생한다. 증권정보를 분석하기 위해서도 실시간으로 발생되는 거래량, 시가와 더불어 상장회사의 공시 정보 등의 데이터를 여러 분산된 서버에서 데이터를 가져와야 한다. 기존의 빅데이터 분석기법은 각 분산된 서버로부터 가져온 데이터가 동일한 신뢰성을 가지고 있다고 가정하고 분석을 한다. 이는 부문별한 정보를 포함한 데이터를 효율적으로 분석하지 못하는 한계를 지니고 있다. 본 논문에서는 가져오는 데이터에 신뢰성 가중치를 부여하여 신뢰성 있는 증권정보 분석을 가능하게 한다.