• 제목/요약/키워드: 빅데이터 기법

검색결과 785건 처리시간 0.029초

Optima Rainfall Intensity 기법을 이용한 실시간 강우센서 강우 산정기법 개발 (Development of Real-time Rainfall Sensor Rainfall Estimation Technique using Optima Rainfall Intensity Technique)

  • 이병현;황성진;김병식
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2019년도 학술발표회
    • /
    • pp.429-429
    • /
    • 2019
  • 최근 들어 이상기후 등 다양한 환경적 요인으로 인해 국지적이고 집중적인 호우가 빈발하고 있으며 도로상의 교통체증과 도로재해가 사회적으로 큰 문제가 되고 있다. 이러한 문제를 해결하기 위해서는 실시간, 단기간 이동성 강우정보 기술과 도로 기상정보를 활용할 수 있는 방법에 대한 연구가 필요하다. 본 연구는 차량의 AW(AutoWiping) 기능을 위해 장착된 강우센서를 이용하여 강우정보를 생산하는 기술을 개발하고자 하였다. 강우센서는 총 4개의 채널로 이루어져있고, 초당 250개의 광신호 데이터를 수집하며, 1시간이면 약 360만 개의 데이터가 생산되게 된다. 5단계의 인공강우를 재현하여 실내 인공강우실험을 실시하고 이를 통해 강우센서 데이터와 강우량과의 상관성을 W-S-R관계식으로 정의하였다. 실내실험데이터와 비교하여 외부환경 및 데이터 생성조건이 다른 실외 데이터의 누적값을 계산하기 위해 Threshold Map 방식을 개발하였다. 강우센서에서 생산되는 대량의 데이터를 이용하여 실시간으로 정확한 강우정보를 생산하기 위해 빅 데이터 처리기법을 사용하여 계산된 실내 데이터의 Threshold를 강우강도 및 채널에 따라 평균값을 계산하고 $4{\times}5$ Threshold Map(4 = 채널, 5 = 강우정보 사상)을 생성하였고 강우센서 기반의 강우정보 생산에 적합한 빅데이터 처리기법을 선정하기 위하여 빅데이터 처리기법 중 Gradient Descent와 Optima Rainfall Intensity을 적용하여 분석하고 결과를 지상 관측강우와 비교검증을 하였다. 이 결과 Optima Rainfall Intensity의 적합도를 검증하였고 실시간으로 관측한 8개 강우사상을 대상으로 강우센서 강우를 생산하였다.

  • PDF

소비자의 항공사 선호도에 대한 빅데이터 융합 기반 마케팅 전략 (For airline preferences of consumers Big Data Convergence Based Marketing Strategy)

  • 천용호;이승준;박수현
    • 산업융합연구
    • /
    • 제17권3호
    • /
    • pp.17-22
    • /
    • 2019
  • 빅데이터의 가치가 중요하게 인식되면서 기존의 방대한 데이터들과 비정형 데이터들을 분석할 수 있는 JAVA 및 R 프로그램들이 개발되고 활용도가 높아짐에 따라 정부를 비롯한 공공기관, 민간기업 등에 실질적으로 도입 및 개선 할 수 있어 의사결정의 고도화가 가능하게 되었다. 본 연구에서는 소비자의 항공사 선호도에 따른 마케팅 전략을 수립하기 위해 뉴스 데이터를 클롤링하고 이를 텍스트 마이닝 기법을 통해 분석을 수행하였다. 본 연구는 과거 빅데이터에서 얻기 어려웠던 데이터들을 고도의 빅데이터 활용 프로그램 기법으로 소비자의 항공사 선호도를 분석하여 분석 결과에 따른 마케팅 전략을 수립하는데 의의가 있다.

신뢰성을 고려한 빅데이터 기반 실시간 증권정보 분석 기법 (Real Time Stock Information Analysis Method Based on Big Data considering Reliability)

  • 김윤기;조창우;정창성
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2013년도 추계학술발표대회
    • /
    • pp.146-147
    • /
    • 2013
  • 소셜 미디어와 스마트폰의 확산으로 인터넷상의 사용자간 교류되는 정보의 양이 대폭 늘어남에 따라 대규모의 데이터를 처리해야할 필요성이 높아졌다. 이러한 빅데이터는 뉴스, 소셜미디어, 웹사이트 등의 다양한 분산 서버에서 발생한다. 증권정보를 분석하기 위해서도 실시간으로 발생되는 거래량, 시가와 더불어 상장회사의 공시 정보 등의 데이터를 여러 분산된 서버에서 데이터를 가져와야 한다. 기존의 빅데이터 분석기법은 각 분산된 서버로부터 가져온 데이터가 동일한 신뢰성을 가지고 있다고 가정하고 분석을 한다. 이는 부문별한 정보를 포함한 데이터를 효율적으로 분석하지 못하는 한계를 지니고 있다. 본 논문에서는 가져오는 데이터에 신뢰성 가중치를 부여하여 신뢰성 있는 증권정보 분석을 가능하게 한다.

분산환경에서 빅 데이터 처리 기법 (Big Data Processing Scheme of Distribution Environment)

  • 정윤수;한군희
    • 디지털융복합연구
    • /
    • 제12권6호
    • /
    • pp.311-316
    • /
    • 2014
  • 소셜 네트워크와 스마트폰의 대중화로 인하여 서버에 저장되어 있는 데이터를 손쉽게 사용할 수 있는 빅데이터 서비스가 증가하고 있다. 빅 데이터 처리기술은 빅 데이터 서비스에서 가장 중요한 기술 중 하나지만 보안에 대한 해결책이 미미한 상태이다. 본 논문에서는 빅 데이터 서비스에서 제공되는 분산된 대용량 데이터를 이중 해쉬를 이용하여 사용자가 손쉽게 데이터에 접근할 수 있는 다중 해쉬 체인 기반의 데이터 분산 처리 기법을 제안한다. 제안 기법은 빅 데이터를 데이터의 종류, 기능, 특성에 따라 해쉬 체인으로 묶어 데이터에 높은 처리량을 지원한다. 또한, 토큰 및 데이터 노드가 공격자에게 노출되었을 때 발생하는 보안 취약점을 해결하기 위해서 데이터의 속성 정보를 해쉬 체인의 연결 정보로 활용하여 빅 데이터의 접근 제어를 분산 처리한다.

SWOT분석을 통한 CM사 견적업무 빅데이터 활용전략에 관한 연구 (A Study on the Strategy of the Use of Big Data for Cost Estimating in Construction Management Firms based on the SWOT Analysis)

  • 김현진;김한수
    • 한국건설관리학회논문집
    • /
    • 제23권2호
    • /
    • pp.54-64
    • /
    • 2022
  • 빅데이터 활용에 대한 관심이 높아짐에 따라, 건설산업에서도 빅데이터와 관련한 다양한 연구개발이 이루어지고 있다. 건설산업의 다양한 분야 중 견적업무는 빅데이터의 활용성이 높은 분야로 인식되고 있다. 견적업무에서 빅데이터를 효과적으로 활용하기 위해서는, 기업의 내외부 현황을 다면적으로 이해하고 이에 적합한 활용전략을 수립하는 것이 필요할 것이다. 본 연구의 목적은 국내 CM사 견적업무에서의 빅데이터 활용현황을 조사하고, SWOT기법을 활용하여 CM사 견적업무에서 빅데이터를 활용하기 위한 전략 방향을 개발하고 제시하는데 있다. 문헌조사, 설문조사, 인터뷰 조사 및 SWOT분석을 바탕으로 CM사는 기업의 높은 수용 문화와 정보 자원을 적극 활용하고, 부족한 빅데이터 실무기반과 인적자원을 보강하는 전략이 필요한 것으로 제안하였다.

빅 데이터 환경에서 다중 속성 기반의 데이터 관리 기법 (Multi-Attribute based on Data Management Scheme in Big Data Environment)

  • 정윤수;김용태;박길철
    • 디지털융복합연구
    • /
    • 제13권1호
    • /
    • pp.263-268
    • /
    • 2015
  • IT 기술이 발달함에 따라 센서 모바일을 기반으로 사물에 정보를 담아 네트워크로 상호연계되는 유비쿼터스 정보기술이 발달하고 있다. 그러나 서버에 저장되어 있는 데이터를 손쉽게 사용하기 위한 보안 해결책이 미미한 상태이다. 본 논문에서는 빅 데이터 서비스에서 제공되고 있는 대용량 데이터를 사용자가 안전하게 처리하기 위해서 빅 데이터 서비스에 사용되는 데이터에 다중의 속성을 해쉬 체인 기법에 적용한 데이터 관리 기법을 제안한다. 제안기법은 빅 데이터 서비스에 사용한 데이터의 종류, 기능, 특성에 따라 데이터의 속성을 분류하여 분류된 속성 정보를 해쉬 체인으로 묶어 데이터의 안전성을 향상시켰다. 또한, 제안 기법은 여러 지역에 분산된 데이터를 손쉽게 접근하기 위해서 데이터 속성 정보를 해쉬 체인의 연결 정보로 활용하여 빅 데이터의 접근 제어를 분산 처리하였다.

빅데이터 환경에서 스트림 질의 처리를 위한 인메모리 기반 점진적 처리 기법 (In-Memory Based Incremental Processing Method for Stream Query Processing in Big Data Environments)

  • 복경수;육미선;노연우;한지은;김연우;임종태;유재수
    • 한국콘텐츠학회논문지
    • /
    • 제16권2호
    • /
    • pp.163-173
    • /
    • 2016
  • 최근 대용량의 스트림 데이터를 분산 처리하기 위한 연구들이 진행되고 있다. 본 논문에서는 빅데이터 환경에서 실시간 스트림 데이터의 점진적 처리 기법을 제안한다. 제안하는 기법은 처음 스트림 데이터가 입력되면 임시 큐에 데이터를 저장하고 마스터 노드에 저장되어 데이터와 비교과정을 통해 마스터 노드에 동일한 데이터가 있는 경우 마스터 노드에서 가지고 있는 노드의 정보를 이용하여 해당 노드의 메모리에서 기존 처리 결과를 재사용한다. 기존 처리 결과가 없다면 처리하고 처리 결과를 메모리에 저장한다. 분산 환경에서 점진적인 스트리밍 데이터 처리를 위해 노드의 작업 지연을 계산하여 노드의 부하를 파악하고 처리 시간 계산을 통해 각 노드의 성능을 고려한 잡 스케쥴링 기법을 제안한다. 제안하는 기법의 우수성을 보이기 위해 기존 기법과의 질의 수행 시간 비교를 위한 성능평가를 수행한다.

분산병렬처리 환경에서 오토매핑 기법을 통한 NoSQL과 RDBMS와의 연동 (Interoperability between NoSQL and RDBMS via Auto-mapping Scheme in Distributed Parallel Processing Environment)

  • 김희성;이봉환
    • 한국정보통신학회논문지
    • /
    • 제21권11호
    • /
    • pp.2067-2075
    • /
    • 2017
  • 최근 빅데이터가 주목받게 되면서 빅데이터를 처리하기 위한 시스템들도 중요하게 여겨지고 있다. 빅데이터 처리 시스템으로 분산파일시스템인 Hadoop과 비정형 데이터 처리를 위한 NoSQL 데이터 스토어가 주목받고 있다. 하지만 아직까지 NoSQL을 사용함에 있어 어려움이나 불편함도 존재한다. 저용량 데이터인 경우 NoSQL의 MapReduce는 불필요한 작업시간을 소모하게 되며, RDBMS 보다 상대적으로 많은 데이터 탐색 시간이 소요되기도 한다. 본 논문에서는 이러한 NoSQL의 문제점을 해결하기 위해 NoSQL과 RDBMS 간의 연동 기법을 제안하였다. 개발한 오토매핑 기법은 처리할 데이터의 양에 따라 적합한 데이터베이스를 사용하게 하여 결과적으로 검색시간을 빠르게 할 수 있다. 실험 결과 제안한 데이터베이스 연동 기법은 특정 데이터 셋의 경우 검색시간을 최대 35%까지 줄일 수 있다.

빅데이터 기반 6시그마 방법론의 유효성 분석: DX SS를 중심으로 (Analysis of the Effectiveness of Big Data-Based Six Sigma Methodology: Focus on DX SS)

  • 김정혁;김윤기
    • 정보처리학회논문지:소프트웨어 및 데이터공학
    • /
    • 제13권1호
    • /
    • pp.1-16
    • /
    • 2024
  • 지난 수년간 6시그마는 제조업의 주요 혁신 방법론으로, 품질개선과 경비 절감을 위해 사용되었다. 그러나 스마트공장 확산으로 인한 초 단위 데이터 생성 등, 방대한 양의 데이터를 분석하기 어려운 문제와,오랫동안 정착된 형식적 사용으로 인해, 6시그마의 한계가 지적되었다. 6시그마의 한계를 극복하기 위해, 최근에 빅데이터 기반 6시그마 기법이 연구되고 있다. 빅데이터 기반 6시그마는, 6시그마의 강점인 통계적 검증, 수학적 최적화, 높은 해석력과, 빅데이터 분석의 강점인 기계학습을 모두 활용할 수 있다. 그러나, 최근 연구된 빅데이터 기반 6시그마 기법이 제조공정 및 경영 성과에 미치는 영향에 대한 검증은 미비하다. 이러한 이유로 실무에서는, 빅데이터 기반 6시그마 기법에 대한 신뢰성이 높지 않아 제대로 활용하지 못하고 있다. 본 연구에서는, 빅데이터 기반 6시그마인 DX SS의 유효성 분석을 통해 제조공정의 효율성에 미치는 영향을 알아본다. 또한 기업에서 이 기법을 성공적으로 도입 및 정착시키기 위한 핵심 성공 정책을 도출한다. 추가적으로, 성공 정책에 대한 연구 없이 전 임직원의 참여가 수반되지 못한 잘못된 정책으로 방법론이 중단된 사례는, 핵심 성공 정책 연구에 대한 중요성을 보여준다. 제조기업들이 본 연구에서 제시하는 방법론을 적극 도입하고 사용하여 성공적인 성과를 거둘 수 있도록 본 연구가 도움이 되기를 기대한다.

방대한 IoT 장치 기반 환경에서 효율적인 빅데이터 수집 기법 설계 (Design of Efficient Big Data Collection Method based on Mass IoT devices)

  • 최종석;신용태
    • 한국정보전자통신기술학회논문지
    • /
    • 제14권4호
    • /
    • pp.300-306
    • /
    • 2021
  • IT기술의 발달로 인해 최근 IoT 장비에 적용되는 하드웨어 기술이 저비용, 고성능 RF 및 연산장치를 사용한 스마트 시스템들로 변화되고 있다. 그러나 방대한 양의 IoT 장비들이 설치된 인프라 환경에서 빅데이터 수집은 전송되는 데이터간 병목현상으로 인해 수집 서버의 부하가 발생한다. 이로인해 데이터수집 서버로 전송되는 데이터는 패킷 손실 및 데이터 처리율 감소 현상이 발생한다. 따라서 방대한 양의 IoT 장비들이 설치된 인프라 환경에서 효율적인 빅데이터 수집 기법이 필요하다. 이에 본 논문에서는 방대한 양의 IoT 장비들이 설치된 인프라 환경에서 효율적인 빅데이터 수집 기법을 제안한다. 성능평가 결과, 제안하는 기법의 패킷 손실 및 데이터 처리율은 전송되는 파일의 손실없이 전송이 완료된다. 향후 본 설계를 기반으로 시스템이 구현이 필요하다.