• 제목/요약/키워드: 데이터 처리시스템

검색결과 8,374건 처리시간 0.046초

적응력 있는 XML 스트림 데이터 질의처리 기법 (Adaptive Processing of Queries over XML Streaming Data)

  • 김영현;강현철
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2005년도 한국컴퓨터종합학술대회 논문집 Vol.32 No.1 (B)
    • /
    • pp.4-6
    • /
    • 2005
  • 스트림 데이터를 생성하는 응용의 증가로 스트림 데이터 처리에 대한 연구가 활발히 진행되고 있다. 이러한 응용의 예로 센서네트워크, 모니터링, Selective dissemination of information(SDI)등이 있다. 특히 SDI와 같은 웹 환경의 응용은 XML을 기반으로 스트림 데이터 처리에 대한 연구를 진행하고 있다. XML은 웹상의 데이터 교환의 표준으로 웹 응용의 증가로 인해 스트림 데이터 처리 분야에서도 XML을 사용하는 스트림 데이터 처리 시스템에 대한 연구가 많이 진행되고 있는 실정이다. 하지만 XML을 기반으로 하는 기존의 시스템들은 정적인 질의계획을 사용하여 스트림 데이터를 처리하기 때문에 동적으로 변하는 스트림 데이터에 적응력있게 대처할 수 있다. 이와 달리 관계 데이터 모델을 사용하는 스트림 데이터 처리 시스템은 동적인 질의 계획과 질의 처리 연산자의 라우팅(스케쥴링) 기법을 사용하여 적응력있는 질의처리를 지원한다. 본 논문에서는 관계 데이터 모델을 사용하는 시스템의 적응력있는 질의처리 모델을 XML을 기반으로 하는 시스템에 적용하는 기법들에 대하여 설명한다. 그리고 XML을 기반으로 하는 기존의 대표적인 시스템인 YFilter[7]와 본 논문의 제안하는 시스템과의 질의처리 성능을 비교 평가한다.

  • PDF

공개소스프로젝트를 이용한 사이버물리시스템 데이터분석아키텍처 (CPS Data Analysis Architecture using Open Source Projects)

  • 임유진;최은미
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2013년도 추계학술발표대회
    • /
    • pp.172-175
    • /
    • 2013
  • 사이버물리시스템(CPS)은 실시간 제약으로 타이밍에 민감한 특징이 있으며, 산업 영역에 적용시 시스템 동작과 안전필수 로그의 특정한 패턴을 나타내는 대용량의 실시간 데이터를 생성시킨다. 본 논문은 공개소스프로젝트인 하둡에코시스템을 이용한 CPS 데이터분석 아키텍처를 소개한다. CPS 처리의 특징 때문에 그 대용량의 데이터 처리는 하나의 머신에서 분석될 수 없으므로, 하둡에코시스템을 통하여 실시간 기반으로 생성되는 데이터를 저장하고 처리하는 시스템 아키텍처를 제안한다. 하둡분산파일시스템(HDFS)은 거대한 CPS 데이터의 저장을 위한 기본 파일시스템이고, 하이브는 데이터웨어하우징 처리를 위한 CPS 데이터분석에 사용된다. 플룸은 서버들로부터 데이터를 수집하고 HDFS에서 그 데이터를 처리하기 위해 사용되며, Rhive는 데이터 마이닝과 분석을 적용하기 위해 사용된다. 이러한 아키텍처를 개관하고, 또한 효과적인 데이터 분석을 위해 사용한 시스템 설계 전략을 소개한다.

병렬 분산 처리 시스템에서 공간 연산을 위한 데이터 접근 방안 (A Method to Access Data for Spatial Operation in Parallel Distributed Processing System)

  • 김진덕
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국정보통신학회 2016년도 추계학술대회
    • /
    • pp.442-444
    • /
    • 2016
  • 과거에 비해 비약적으로 생산되는 공간 데이터에 대한 처리를 위한 공간 연산은 빠른 처리 응답성을 요구하는 경우가 많다. 그래서 최근 하둡(Hadoop)과 같은 빅데이터 처리 시스템을 이용하여 처리하고자 하는 시도가 많다. 한편, 공간 조인은 데이터 분할(Partitioning)과 공간 색인의 이용 여부, 여과 단계와 정제 단계를 거치는 등 그 복잡도가 강한 공간 연산이다. 그래서 빅데이터 처리 시스템을 이용한 공간 조인의 처리 방식은 매우 다양하다. 그러나 지금까지 이러한 공간 조인의 처리 방식에 다른 리소스 활용에 대한 비교는 거의 없다. 이 논문에서는 다양한 공간 연산의 수행 방법에 따른 빅데이터 시스템 클러스터에서 데이터 전송 방식을 고찰하고 데이터 전송에 따른 네트워크 리소스의 효율적인 사용 방안을 제안하고자 한다. 구체적으로 단일할당과 다중할당 색인 기법의 비교, 파티셔닝 방법의 비교, 맵리듀스 시스템의 태스크 할당 방법에 따른 비교를 통해 다양한 연산 유형에 따른 공간 조인의 처리 방안 선정에 고려 요소를 제시하고자 한다.

  • PDF

감성제품의 형상데이터 처리시스템 구축에 관한 연구

  • 김형범;한성배;이동길;이순요
    • 대한인간공학회:학술대회논문집
    • /
    • 대한인간공학회 1996년도 춘계학술대회논문집
    • /
    • pp.146-150
    • /
    • 1996
  • 본 논문은 감성제품 및 부품의 형상데이터 처리시스템 구축을 목적으로한다. 감성공학적 디자인요 소변환 지원시스템의 전체구조는 다변량해석형기법을 활용하여 인간의 감성과 디자인과의 관련성을 분 석하고 이 결과들을 데이터베이스로구축하는 부분과 퍼지논리을 이용하여인간의 감성과 제품형상을 연결하는 추론기관 그리고 감성제품 및 부품의 구조를 지원하는 형상데이터 처리시스템으로 구성되어 있다. 본 논문에서는 형상데이터베이스를 이용한 형상데이터 처리시스템 구축에 관한 연구를 실시하여 보았다. 최근에 와서 데이터베이스 설계시 실세계의 데이터를 더욱 충실히 표현하기 위해 이를 객체 (object)를 사용하여나타낸 후, 이 객체들 사이에 존재하는 관련성에 관한 정보를 이용하여 데이터베 이스를 설계하는 연구가 활발히 진행되고 있다. 본 연구는 제품 세분화 과정에 객체지향 모델링기법을 고객의 감성이 잘 반영되는 가전제품 중 전화기에 적용하여 감성제품 및 부품의 형상데이터베이스를 구축하였다. 이러한 형상데이터 처리시스템은 제품설계 및 디자인 분야에 다양하고 폭넓게 적용 및 응용될 수 있을 것이며감성을 중시하는 미래의 제품설계분야에 적지않은 영향을 미칠 것으로기대된다ㅣ.

  • PDF

액화 천연 가스 플랜트 시뮬레이터 개발을 위한 정보 처리 시스템 기본 설계 (Basic Design of Information Processing System for Development of Liquefied Natural Gas Plant Simulator)

  • 김형진;이재용
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2009년도 추계학술발표대회
    • /
    • pp.919-920
    • /
    • 2009
  • 액화 천연 가스 플랜트 시뮬레이터는 막대한 자본 투자가 필요한 대형 시스템 설계 및 건설 단계에서 사전에 설계 오류 검출 및 시스템 검증을 함으로써 많은 비용을 절약해줄 수 있는 중요한 시스템이다. 이 연구에서는 플랜트, 시뮬레이터, 운전원 훈련 시스템 및 제어시스템을 운전하는 과정에서 발생하는 정보를 효과적으로 처리하기 위해서 구축되는 정보 처리 시스템의 기본 설계에 관한 내용을 소개한다. 전체 시스템은 물리적 플랜트와 가상 플랜트로 나눌 수 있고 가상 플랜트는 시뮬레이터와 운전원 훈련 시스템으로 구현되며, 제어 시스템은 PLC로 구현하고 Modubus 프로토콜과 OPC 서버를 통해 데이터 처리가 가능하다. 플랜트로부터 생성되는 데이터 처리에서는 실시간 데이터 처리 속도가 중요하므로 실시간 데이터베이스를 도입하였다. 실제 플랜트 데이터와 시뮬레이터 데이터는 상호 교환이 가능하도록 구성하였다. 본 시스템 설계는 기본 설계 단계이므로 향후 LNG 플랜트에 적용하기 위해서는 상세 설계가 필요하다.

데이터 스트림 연속 처리 태스크의 병렬 처리 방법 (The Parallel Processing Method of the Continuous Data Stream Processing Tasks)

  • 양경아;이대우;김기헌
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2015년도 추계학술발표대회
    • /
    • pp.214-215
    • /
    • 2015
  • 데이터 스트림 환경에서 연속 질의를 처리하기 위한 데이터 스트림 처리 시스템이 개발되었다. 데이터 스트림 처리 시스템에서 질의를 처리하는 태스크에 과도한 데이터가 발생할 경우 일반적으로 데이터 스트림을 선별적으로 버리는 load shedding 방법을 이용하지만 이러한 방법은 처리 결과의 정확도가 저하될 수 있다. 따라서, 본 논문은 이를 해결하는 방법으로 분산 데이터 스트림 처리 시스템에서 데이터 스트림 분할을 통한 데이터 스트림 연속 처리 태스크의 병렬 처리 방법을 제시한다. 이를 위해 분산 데이터 스트림을 처리하기 위한 기준을 제시 및 데이터 분할 방법에 대해서 언급한다.

의료 빅데이터 처리 및 관리 시스템 설계 (Design of the Medical Bigdata Processing and Management System)

  • 이승진;신영록;박준영;허의남
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2013년도 춘계학술발표대회
    • /
    • pp.431-434
    • /
    • 2013
  • 최근에는 네트워크가 진화하고 데이터 처리기술이 발달하여 디지털 데이터가 활성화되면서, 기존 데이터 처리 방식으로 감당하기 힘든 규모의 데이터인 빅데이터가 매일 생산되고 있다. 이러한 대규모 데이터는 분석 및 관리를 하는데 어렵고 시간이 많이 걸리지만, 분석을 함으로써 새롭고 유용한 많은 정보를 얻을 수가 있다. 이처럼 빅데이터 분석을 통해 얻어지는 정보가 기존 분석 방식에서 얻어지는 정보와 다른 새로운 정보이기에 많은 산업분야에서 빅데이터 처리에 대한 관심이 많아지고 있다. 이러한 흐름에 따라, 의료분야에서도 빅데이터를 효율적으로 처리 및 관리하기 위한 시스템 구축을 시도하고 있다. 즉, 기존에 정형화 되어 있는 의료 데이터를 분석하여 얻는 정보에 비정형화 되어있는 의료 데이터를 추가하여 새로운 정보를 도출하려 시도하고 있다. 하지만, 여러 병원에서 서로 호환이 가능한 의료 빅데이터 처리 및 관리 시스템을 사용하기 위해서는 명확한 의료 빅데이터 처리 및 관리에 대한 요구사항과 기능정의가 필요하다. 이에 본 논문에서는 의료 빅데이터 처리 및 관리를 위한 요구사항과 기능정의를 하고 의료 빅데이터 처리 및 관리 시스템 구조를 구축하고자한다.

교육용 게임에서의 학습 데이터 동기화 처리 (Synchronizing Learning Data in Educational Games)

  • 전성식
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2008년도 한국컴퓨터종합학술대회논문집 Vol.35 No.1 (C)
    • /
    • pp.100-104
    • /
    • 2008
  • 교육용 소프트웨어 산업이 급속히 발전하면서 온라인 게임을 플랫폼으로 하는 다양한 교육용 게임이 개발되고 있다. 현재 대부분 교육용 게임 시스템은 온라인 게임의 학습도구와 웹을 기반으로 하는 부가적 교육 학습도구로 이중화 되어 개발되고 있다. 하지만 온라인 게임의 학습 데이터 결과와 웹의 학습 데이터 결과가 일치화 되지 않아 학습자에게 올바른 학습 결과를 줄 수 없을 뿐만 아니라 게임 시스템의 학습과정에 따른 레벨 시스템을 적용하기가 어렵다. 본 논문에서는 이러한 비동기적 데이터 처리방식을 온라인 게임 시스템과 웹의 학습과정의 분기 조건에 필요한 학습결과 데이터만을 동기화 처리하는 학습 데이터 동기화 처리 방식을 구현하였다. 이러한 학습결과 데이터 동기화 처리는 위와 같은 문제점으로 다양한 학습 콘텐츠들이 온라인화 하지 못했던 문제점을 해결하고, 향후 통합 교육용 시스템과 다중 교육용 게임 시스템으로 개발 될 때 좀 더 효과적인 학습 시스템으로 개발될 수 있는 학습 데이터 처리 방식이 될 것이다.

  • PDF

데이터 처리 가속기 구조 (An architecture for data processing accelerator)

  • 나종화;김희천;류대현;권창희;정광호;신승중
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2003년도 춘계학술발표논문집 (중)
    • /
    • pp.1015-1018
    • /
    • 2003
  • 본 논문은 날로 증가하는 데이터 처리 요구를 데이터 처리 전용 칩을 이용하여 데이터베이스, 데이터 마이닝, 또는 전문가 시스템 통과 같이 데이터 비교연산에 시간을 많이 소모하는 응용 소프트웨어의 처리 속도를 최소화 할 수 있는 시스템을 제안한다. 본 시스템은 기존의 숫자처리(numeric processing)보다는 기호처리(symbolic processing)를 위해서 관계 연산(relation operation) 모듈을 이용하여 입력된 데이터들을 하드웨어 레벨에서 고속으로 처리한다. 본 시스템은 칩으로 설계되어 하드디스크 레벨에서 시스템을 가속 시린 수도 있고, IP(Intellectual Property)로 구현되어 SoC(System-on-a-chip)의 한 모듈로서 프로세서 레벨에서 시스템을 가속시킬 수도 있다.

  • PDF

빅 데이터 처리를 위한 적응적 사용자 및 토픽 모델링 기반 자동 TV 프로그램 추천시스템 (Adaptive User and Topic Modeling based Automatic TV Recommender System for Big Data Processing)

  • 김은희;김문철
    • 한국방송∙미디어공학회:학술대회논문집
    • /
    • 한국방송공학회 2015년도 하계학술대회
    • /
    • pp.195-198
    • /
    • 2015
  • 최근 TV 서비스의 가입자 및 TV 프로그램 콘텐츠의 급격한 증가에 따라 빅데이터 처리에 적합한 추천 시스템의 필요성이 증가하고 있다. 본 논문은 사용자들의 간접 평가 데이터 기반의 추천 시스템 디자인 시, 누적된 사용자의 과거 이용내역 데이터를 저장하지 않고 새로 생성된 사용자 이용내역 데이터를 학습하는 효율적인 알고리즘이면서, 시간 흐름에 따라 사용자들의 선호도 변화 및 TV 프로그램 스케줄 변화의 추적이 가능한 토픽 모델링 기반의 알고리즘을 제안한다. 빅데이터 처리를 위해서는 분산처리 형태의 알고리즘을 피할 수 없는데, 기존의 연구들 중 토픽 모델링 기반의 추론 알고리즘의 병렬분산처리 과정 중에 핵심이 되는 부분은 많은 데이터를 여러 대의 기계에 나누어 병렬분산 학습하면서 전역변수 데이터를 동기화하는 부분이다. 그런데, 이러한 전역데이터 동기화 기술에 있어, 여러 대의 컴퓨터를 병렬분산처리하기위한 하둡 기반의 시스템 및 서버-클라이언트간의 중재, 고장 감내 시스템 등을 모두 고려한 알고리즘들이 제안되어 왔으나, 네트워크 대역폭 한계로 인해 데이터 증가에 따른 동기화 시간 지연은 피할 수 없는 부분이다. 이에, 본 논문에서는 빅데이터 처리를 위해 사용자들을 클러스터링하고, 클러스터별 제안 알고리즘으로 전역데이터 동기화를 수행한 것과 지역 데이터를 활용하여 추론 연산한 결과, 클러스터별 지역별 TV프로그램 시청 토큰 별 은닉토픽 할당 테이블을 유지할 때 추천 성능이 더욱 향상되어 나오는 결과를 확인하여, 제안된 구조의 추천 시스템 디자인의 효율성과 합리성을 확인할 수 있었다.

  • PDF