• 제목/요약/키워드: 빅데이터 기법

검색결과 785건 처리시간 0.027초

하둡 분산 파일시스템의 동적 클러스터 관리 기법 (Dynamic Cluster Management of Hadoop Distributed Filesystem)

  • 류우석
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국정보통신학회 2016년도 추계학술대회
    • /
    • pp.435-437
    • /
    • 2016
  • 하둡 분산 파일시스템(HDFS)는 빅데이터의 병렬 분산 처리를 위해 다수의 노드에 데이터를 중복 저장하는 파일시스템이다. HDFS의 분산 노드 클러스터는 수천 개 이상의 규모 확장성을 갖추고 있으나 빅데이터 처리를 위한 전용 하드웨어를 가정하고 있으며, 기존의 기업 및 병원에서 사용하고 있는 다양한 유휴 전산 자원을 고려하지는 못하는 문제가 있다. 본 논문에서는 기관 내 존재하는 다양한 유휴 전산 자원을 필요에 따라 동적으로 HDFS에 추가함으로써 빅데이터 저장 및 분석 성능을 향상시킬 수 있는 동적 클러스터 관리 기법을 제시한다.

  • PDF

라즈베리파이를 이용한 빅 데이터 처리 학습 환경 구축 (On Implementing a Learning Environment for Big Data Processing using Raspberry Pi)

  • 황보람;김성규
    • 디지털융복합연구
    • /
    • 제14권4호
    • /
    • pp.251-258
    • /
    • 2016
  • 빅 데이터 처리는 데이터의 크기나 복잡도가 커서 기존의 전통적인 데이터 처리 기법으로는 다루기 힘든 데이터의 처리를 의미한다. 싱글보드 컴퓨터를 포함하는 스마트 기기의 보급은 데이터를 처리하는 방법에 많은 영향을 미치고 있으며 이 들을 활용하여 데이터를 처리하는 기법에 대한 연구가 진행되고 있다. 본 연구에서는 빅 데이터 처리에 필요한 분산처리 시스템을 데스크톱 기기 환경이 아니라 라즈베리파이를 활용하여 하둡 분산처리 환경을 구축하는 방안을 제시한다. 또한 제안하는 시스템의 다양한 테스트를 통한 성능 분석과 스케일링의 용이성을 통해 구축한 학습 환경 구성의 효율성을 보인다.

Customer Segmentation in the Insurance Industry: Present and Future

  • 염경민;유병준;이재환
    • 한국벤처창업학회:학술대회논문집
    • /
    • 한국벤처창업학회 2022년도 춘계학술대회
    • /
    • pp.153-155
    • /
    • 2022
  • 고객을 세분화하여 맞춤화된 서비스를 제공하는 것은 고객 관계 관리에 있어 중요하다. 빅데이터 분석 기법과 기계 학습 등을 활용한 분석 기법의 발전은 더욱 세밀한 고객 세분화를 가능케 했다. 하지만 새로운 분석 기법을 기업에서 효과적으로 적용하는 것은 여러 어려움이 존재한다. 본 연구는 특히 국내 보험 산업에서 데이터 분석 기법을 활용해 더욱 향상된 고객 세분화를 수행할 수 있는 방법에 대해 논의한다. 이를 위하여 실제 보험 설계사와의 심층 인터뷰를 통해 국내 보험 회사의 현상을 파악하고, 이를 기반으로 보험 산업에서 활용할 수 있는 가이드라인을 제시하고자 한다.

  • PDF

경영분석 업무에 종사하는 비 기술기반 전공자를 위한 빅데이터 분석 및 시각화 기법 교육과정 제안 (Proposal of Big Data Analysis and Visualization Technique Curriculum for Non-Technical Majors in Business Management Analysis)

  • 홍필태;우종필
    • 실천공학교육논문지
    • /
    • 제12권1호
    • /
    • pp.31-39
    • /
    • 2020
  • 빅데이터 분석은 경영 및 산업현장에서 다양하게 분석되고 사용되고 있으며, 경영의사결정에서 중요한 역할을 한다. 경영분석 업무에 종사하는 빅데이터 분석 직무자의 직무능력은 반드시 미시적인 IT 기술 습득이 요구되는 것이 아니라, Data Scientist로서 다양한 경험과 인문학적 지식과 분석력이 요구되어진다. 그러나, 국가직무능력표준(NCS: National Competency Standards)을 기반으로 하는 국공립 교육기관 및 직무교육기관의 빅데이터 교육은 소프트웨어 공학적 측면에서 진행되고 있으며, 이러한 교육 방법론은 비 기술기반 전공자에게는 어렵고, 비효율적인 결과를 초래하기도 한다. 따라서, 우리는 현재의 빅데이터 플렛폼과 그와 관련된 기술을 분석하여, 그 중에서 현장 직무자에게 반드시 필요한 직무능력 요구수준이 무엇인지를 정의하였다. 그리고, 이를 바탕으로 비 기술기반 전공자를 위한 빅데이터 분석 및 시각화 기법 교육과정을 구성하였다. 특화된 본 교육과정을 경영현장에서 경영분석에 종사하는 금융기관 실무자를 중심으로 Pilot test를 실시한 결과 좀 더 개선된 교육효과를 얻을 수 있었다. 이에 본 연구에서 제시되는 교육방법은 산업전반에서 효율적으로 빅데이터 직무 수행과, 비 기술기반 전공 직무자를 대상으로 빅데이터 분석 및 시각화 교육이 활성화되는 계기가 될 것이다.

5G 기반 고정밀 측위 빅데이터 활용을 위한 위치정보 프라이버시 보호 기법 제안 (A Proposal of Privacy Protection Method for Location Information to Utilize 5G-Based High-Precision Positioning Big Data)

  • 이동혁;박남제
    • 정보보호학회논문지
    • /
    • 제30권4호
    • /
    • pp.679-691
    • /
    • 2020
  • 향후 5G 기술은 4차산업시대를 견인하는 핵심 인프라가 될 것이며, 지능화된 초융합 서비스를 위해서는 위치정보 등 다양한 개인정보의 수집이 필요할 것이다. 특히, 자율주행차 등 높은 품질의 서비스 제공을 위해서는 고정밀 측위 데이터가 요구된다. 만약 특정 고정밀 위치정보가 악의를 가진 자에 의해 노출될 경우, 심각한 프라이버시 위험이 발생할 수 있다. 그러나 기존의 암호화, 더미 위치생성, 난독화 등의 위치정보보호 기법은 빅데이터 수집을 위한 정확성 유지 및 통계처리 등에서 한계점이 있다. 따라서 본 논문에서는 위치정보를 노출시키지 않은 상태에서 통계질의 및 데이터 분석이 가능한 새로운 기법을 제안하였다. 제안한 방식은 랜덤 영역 버킷화와 다항식 기반의 변환처리를 통하여 원본을 재식별할 수 없도록 한다. 또한, 원본 데이터의 품질을 훼손하지 않으므로 고정밀 측위 빅데이터의 활용성을 극대화할 수 있다는 장점이 있다.

빅데이터를 활용한 영화흥행 요인 분석: 영화 <기생충>의 SNS 활용지수와 토픽키워드 중심으로 (Analyzing Factors of Success of Film Using Big Data : Focusing on the SNS Utilization Index and Topic Keywords of the Film )

  • 김진욱
    • 한국엔터테인먼트산업학회논문지
    • /
    • 제14권4호
    • /
    • pp.145-153
    • /
    • 2020
  • 빠르게 변화하고 있는 4차 산업 시대에 빅데이터는 다양한 분야에 활용되고 있다. 최근 문화예술콘텐츠 전반에도 빅데이터의 활용은 급속도로 적용되고 있고, 그중에서도 영화는 자본이 많이 드는 예술장르로서 빅데이터의 활용은 매우 유용한 분석 수단이다. 본 연구는 2019년 제72회 칸 영화제의 황금종려상과 아카데미 시상식에서 4관왕(작품상, 감독상, 각본상, 외국어 영화상)을 차지하며 한국영화의 가치를 보여준 영화 <기생충>을 대상으로 빅데이터 분석기법을 적용하여 실시하였다. 이렇게 분석된 값은 데이터의 주기별 변화량과 감성의 값을 부여하는 오피니언 마이닝을 통해 영화 흥행을 예측하고, 페이스북(Facebook), 트위터(Twitter) 등 SNS의 활용지수와 토픽 키워드를 추출하여 관객들의 관심을 반영하는 영화적 요인들이 무엇인지를 살펴보았다. 이처럼 빅데이터를 활용한 영화흥행 요인분석으로 모델 구축 및 모형 개발로 흥행예측이 가능해지면 영화제작 과정의 효율성을 극대화하면서 제작비용과 영화실패에 따른 리스크를 최소화 할 것이다.

공공데이터 개방 평가지표 개발을 통한 현황분석 및 가시화 (Service Level Evaluation Through Measurement Indicators for Public Open Data)

  • 김지혜;조상우;이경희;조완섭
    • 한국빅데이터학회지
    • /
    • 제1권1호
    • /
    • pp.53-60
    • /
    • 2016
  • 공공데이터 포털에 공개된 지자체 데이터와 공공기관 데이터를 자동으로 수집한 후, 공공 데이터의 개방현황 및 다양한 영역별 데이터 제공여부, 파일 형식 등 다양한 기준으로 다차원 분석하여 서비스 수준 평가를 제공하고자 한다. 이를 위해, 해외 평가지표 사례를 바탕으로 평가지표 내용을 설정한 후 이를 기준으로 데이터웨어하우스(DW)를 구축하였으며, 다차원 분석 기법을 사용한 서비스 수준평가 결과를 지역별로, 기관별로, 분야별로 시각화한다.

  • PDF

빅데이터 및 고성능컴퓨팅 프레임워크를 활용한 유전체 데이터 전처리 과정의 병렬화 (Parallelization of Genome Sequence Data Pre-Processing on Big Data and HPC Framework)

  • 변은규;곽재혁;문지협
    • 정보처리학회논문지:컴퓨터 및 통신 시스템
    • /
    • 제8권10호
    • /
    • pp.231-238
    • /
    • 2019
  • 차세대 염기 서열 분석법이 생성한 유전체 원시 데이터를 기존의 방식대로 하나의 서버에서 분석하기 위해서는 데이터 크기에 따라 수십 시간이 필요할 수 있다. 그러나 응급 환자의 진단처럼 수 시간 내에 결과를 알아야 하는 상황이 존재하기 때문에 단일 유전체 분석의 성능을 향상시킬 필요가 있다. 본 연구에서는 빅데이터 기술의 병렬화 기법과 고속의 네트워크로 연결되고 병렬파일시스템을 공유하는 고성능컴퓨팅 클러스터를 적극적으로 활용하여 분석 시간을 크게 단축시킬 수 있는 유전체 데이터 분석의 전처리 프로세스의 병렬화 방법을 제안한다. 분석 데이터의 신뢰성을 위해 기존의 검증된 분석 도구 및 알고리즘을 새로운 환경에 맞게 병렬화 하는 전략을 선택하였다. 프로세스의 병렬화, 데이터의 분배 및 병렬 병합 기법을 개발하였고 실험을 통해 성능 향상을 확인하였다.

분산 병렬 질의 처리를 지원하는 CUBRID 기반 미들웨어 개발 (Development of CUBRID based Middleware supporting Distributed Parallel Query Processing)

  • 김형일;윤민;조아라;최문철;장재우
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2014년도 추계학술발표대회
    • /
    • pp.714-717
    • /
    • 2014
  • 최근 SNS의 발전으로 인해 정보의 양이 급격히 증가하였으며, 이에 따라 빅데이터 처리를 위한 NoSQL에 대한 연구가 활발히 진행되고 있다. 그러나 NoSQL은 데이터베이스의 ACID 조건을 만족하지 못하는 문제점이 존재한다. 따라서 RDBMS를 기반으로 빅데이터 처리를 수행하는 연구가 활발히 진행되고 있다. 이를 위한 대표적인 기법인 CUBRID Shard는 데이터베이스를 Shard 단위로 수평 분할하여 각기 다른 물리 노드에 데이터를 분산 저장한다. 그러나 해당 기법은 한 클라이언트의 질의가 다수의 서버에서 실행되어야 하는 경우를 에는 질의를 처리하지 못하는 단점을 보인다. 따라서 본 논문에서는 병렬 질의 처리를 지원하는 CUBRID 기반 분산 미들웨어를 제안한다.

빅데이터 분석기법을 활용한 숙박업체 운영 개선 방안에 대한 연구 (A Study on Improvement of Pension Operation and Management using Big Data Analysis Techniques)

  • 윤선희
    • 문화기술의 융합
    • /
    • 제7권4호
    • /
    • pp.815-821
    • /
    • 2021
  • 빅데이터의 장점은 인터넷상의 대량의 데이터를 수집하여 가치 있는 데이터를 정제하여 사용하는 것이다. 즉, 비정형 데이터를 사용자가 필요한 관점에서 분석하여 활용할 수 있도록 가공하는 것이다. 본 논문은 실생활에 밀접하게 적용되어 마케팅에 활용할 수 있는 비정형 데이터를 기반으로 하며 실험 대상은 서울에서 한 시간 거리의 수도권에 있는 숙박업체를 모델로 하여 빅데이터를 사용자가 필요한 관점에서 분석하여 매출 증대, 비용 감소 및 수익률 증가 등의 효과를 나타낸 실험으로 소셜네트워크 등의 빅데이터를 분석하는 과정에서 입력되는 데이터가 숙박 정보로써 활용할 수 있는 데이터인지를 판별하여 필터링하는 시스템을 제안하여 숙박률의 향상 및 공실률을 감소시킬 수 있는 마케팅 전략을 구축하고자 한다.