• Title/Summary/Keyword: 빅 데이터 솔루션

Search Result 86, Processing Time 0.032 seconds

Application Of Open Data Framework For Real-Time Data Processing (실시간 데이터 처리를 위한 개방형 데이터 프레임워크 적용 방안)

  • Park, Sun-ho;Kim, Young-kil
    • Journal of the Korea Institute of Information and Communication Engineering
    • /
    • v.23 no.10
    • /
    • pp.1179-1187
    • /
    • 2019
  • In today's technology environment, most big data-based applications and solutions are based on real-time processing of streaming data. Real-time processing and analysis of big data streams plays an important role in the development of big data-based applications and solutions. In particular, in the maritime data processing environment, the necessity of developing a technology capable of rapidly processing and analyzing a large amount of real-time data due to the explosion of data is accelerating. Therefore, this paper analyzes the characteristics of NiFi, Kafka, and Druid as suitable open source among various open data technologies for processing big data, and provides the latest information on external linkage necessary for maritime service analysis in Korean e-Navigation service. To this end, we will lay the foundation for applying open data framework technology for real-time data processing.

소상공인 창업자의 자금공급 확대를 위한 빅데이터 활용 방안연구

  • Lee, Ju-Hui;Dong, Hak-Rim
    • 한국벤처창업학회:학술대회논문집
    • /
    • 2018.04a
    • /
    • pp.67-74
    • /
    • 2018
  • 소상공인 창업자들이 자금조달의 대부분을 은행 대출에 의존하고 있는 가운데 소규모 자금 조달을 필요로 하는 이들을 위해 핀테크 기반의 새로운 금융서비스를 통해 소상공인 창업자의 금융 공급을 확산할 필요가 있다. 이러한 환경 변화 패러다임에서 본 연구는 빅데이터와 핀테크 솔루션의 활용이 소상공인의 매출과 금융지원에 미치는 영향을 살펴보기 위해 실제로 공공과 민간의 상권빅데이터자료를 수집하여 분석을 수행하였다. 이를 통해 소상공인에 대한 금융혜택 증대를 위한 사업장의 매출증대 등 소상공인 창업자의 사업성 평가에 필요한 주요변수들을 상권빅데이터를 실증적으로 분석하여 효과성을 검증하는 것이 본 연구의 목적이다. 특히 자금의 대부분을 정책자금을 통해 조달하는 소상공인들이 일반 은행에서도 중소기업 대출의 하나로 비중 있게 이루어질 수 있도록 기존에 활용되지 못한 빅데이터 변수들을 탐색하여 소상공인의 경쟁력 향상을 위한 효율적인 금융지원이 가능함을 확인하고자 하였다. 본 연구에서는 소상공인 창업자의 대출 등 금융지원 확대를 위한 사업성 평가에 상권빅데이터의 활용 가능성이 있는지를 중심으로 문헌적 연구방법 연구와 실증적 분석을 병행하였다. 본 연구는 핀테크와 빅데이터의 활용이 향후 소상공인 자금 조달의 발전 방향이 어떻게 되어야하는지를 모색해야하며, 소상공인을 포함하는 중소기업 신용평가방식의 발전 방향을 구체적으로 모색되어야 할 시점임을 의미하고 있다.

  • PDF

제조기업 현장 데이터를 이용한 빅데이터 분석시스템 모델

  • Kim, Jae-Jung;Seong, Baek-Min;Yu, Jae-Gon;Gang, Chan-U;Kim, Jong-Bae
    • Proceedings of the Korean Institute of Information and Commucation Sciences Conference
    • /
    • 2015.05a
    • /
    • pp.741-743
    • /
    • 2015
  • 오늘날 BI(Business Intelligence)시스템 다차원 데이터를 다루는 많은 방법들이 제안되어 TB 이상의 데이터를 다룰 수 있다. 하지만 IT 전문가 및 IT에 대한 투자여력이 충분하지 않은 중소 제조 기업들은 발 맞춰가기 힘들다. 또한 생산관리시스템(MES)을 미 도입한 기업이 대다수이고, 존재하는 현장데이터의 대부분도 수기데이터 또는 Excel 데이터로 보관 되어 있어, 수작업에 의한 데이터 분석과 의사결정을 수행한다. 이로 인해, 불량 요인 파악이나 이상 현상 파악이 불분명하기 때문에 데이터 분석에 어려움을 겪는다. 이에 본 연구에서는 중소제조기업의 경쟁력 강화를 위하여 제조 기업현장에서 사용되는 데이터를 자동으로 수집하여 정제 및 처리하여 저장이 가능하도록 하는 빅 데이터 분석 시스템 모델을 개발하였다. 이 분석 시스템 모델은 ERP, MIS 등에 존재하는 데이터들이 각 시스템의 DB 기능을 활용하여 데이터를 추출하고 정제하여 수집하는 ETL(Extract Transform Loading)과정을 통한다. 현장에서 비정형으로 기록되고 있는 정보들(ex. Excel)은 ODE(Office Data Excavation)모듈을 통해 문서의 패턴을 자동으로 인식하고 정형화된 정보로서 추출, 정제되어 수집된다. 저장된 데이터는 오픈소스 데이터 시각화 라이브러리인 D3.js를 이용하여 다양한 chart들을 통한 강력한 시각효과를 제공함으로써, 정보간의 연관 관계 및 다차원 분석의 기반을 마련하여 의사결정체계를 효과적으로 지원한다. 또한, 높은 가격에 형성되어 있는 빅데이터 솔루션을 대신해 오픈소스 Spago BI를 이용하여 경제적인 빅 데이터 솔루션을 제공한다. 본 연구의 기대효과로는 첫째, 현장 데이터 중심의 효과적인 의사결정 기반을 마련할 수 있다. 둘째, 통합 데이터 기반의 연관/다차원 분석으로 경영 효율성이 향상된다. 마지막으로, 중소 제조기업 환경에 적합한 분석 시스템을 구축함으로써 경쟁력과 생산력을 강화한다.

  • PDF

On the Design of a Big Data based Real-Time Network Traffic Analysis Platform (빅데이터 기반의 실시간 네트워크 트래픽 분석 플랫폼 설계)

  • Lee, Donghwan;Park, Jeong Chan;Yu, Changon;Yun, Hosang
    • Journal of the Korea Institute of Information Security & Cryptology
    • /
    • v.23 no.4
    • /
    • pp.721-728
    • /
    • 2013
  • Big data is one of the most spotlighted technological trends in these days, enabling new methods to handle huge volume of complicated data for a broad range of applications. Real-time network traffic analysis essentially deals with big data, which is comprised of different types of log data from various sensors. To tackle this problem, in this paper, we devise a big data based platform, RENTAP, to detect and analyse malicious network traffic. Focused on military network environment such as closed network for C4I systems, leading big data based solutions are evaluated to verify which combination of the solutions is the best design for network traffic analysis platform. Based on the selected solutions, we provide detailed functional design of the suggested platform.

Development of integrated management solution through log analysis based on Big Data (빅데이터기반의 로그분석을 통한 통합 관리 솔루션 개발)

  • Kang, Sun-Kyoung;Lee, Hyun-Chang;Shin, Seong-Yoon
    • Proceedings of the Korean Institute of Information and Commucation Sciences Conference
    • /
    • 2017.10a
    • /
    • pp.541-542
    • /
    • 2017
  • In this paper, we intend to develop an integrated management solution that can be easily operated by integrating complex and various cloud environments. This has the advantage that users and administrators can conveniently solve problems by collecting and analyzing fixed log data and unstructured log data based on big data and realizing integrated monitoring in real time. Hypervisor log pattern analysis technology will be able to manage existing complex and various cloud environment more efficiently.

  • PDF

Analysis of Performance of Creative Education based on Twitter Big Data Analysis (트위터 빅데이터 분석을 통한 창의적 교육의 성과요인 분석)

  • Joo, Kilhong
    • Journal of Creative Information Culture
    • /
    • v.5 no.3
    • /
    • pp.215-223
    • /
    • 2019
  • The wave of the information age gradually accelerates, and fusion analysis solutions that can utilize these knowledge data according to accumulation of various forms of big data such as large capacity texts, sounds, movies and the like are increasing, Reduction in the cost of storing data accordingly, development of social network service (SNS), etc. resulted in quantitative qualitative expansion of data. Such a situation makes possible utilization of data which was not trying to be existing, and the potential value and influence of the data are increasing. Research is being actively made to present future-oriented education systems by applying these fusion analysis systems to the improvement of the educational system. In this research, we conducted a big data analysis on Twitter, analyzed the natural language of the data and frequency analysis of the word, quantitative measure of how domestic windows education problems and outcomes were done in it as a solution.

Performance Evaluation Between PC and RaspberryPI Cluster in Apache Spark for Processing Big Data (빅데이터 처리를 위한 PC와 라즈베리파이 클러스터에서의 Apache Spark 성능 비교 평가)

  • Seo, Ji-Hye;Park, Mi-Rim;Yang, Hye-Kyung;Yong, Hwan-Seung
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2015.10a
    • /
    • pp.1265-1267
    • /
    • 2015
  • 최근 IoT 기술의 등장으로 저전력 소형 컴퓨터인 라즈베리파이 클러스터가 IoT 데이터 처리를 위해 사용되고 있다. IoT 기술이 발전하면서 다양한 데이터가 생성되고 있으며 IoT 환경에서도 빅데이터 처리가 요구되고 있다. 빅데이터 처리 프레임워크에는 일반적으로 하둡이 사용되고 있으며 이를 대체하는 솔루션으로 Apache Spark가 등장했다. 본 논문에서는 PC와 라즈베리파이 클러스터에서의 성능을 Apache Spark를 통해 비교하였다. 본 실험을 위해 Yelp 데이터를 사용하며 데이터 로드 시간과 Spark SQL을 이용한 데이터 처리 시간을 통해 성능을 비교하였다.

Design of Prediction System for HR Recruitment Using BigData Analysis Technology (빅데이터 분석 기술을 이용한 인사채용 예측 시스템 설계)

  • Kim, Yong-Woo;Park, Seok-Cheon;Hong, Suk-Woo;Kim, Tae-Youb
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2013.11a
    • /
    • pp.1042-1045
    • /
    • 2013
  • 정보기술의 발달로 전 세계에서 발생하는 사건 사고들은 실시간으로 확인 가능하며 정보의 중요성은 더욱 더 중요해지고 있다. 이런 사회 현상에 맞춰 인적자원 솔루션에서도 빅 데이터 분석 기술을 이용하여 인적자원 의사결정에 도움을 주는 기술이 필요하게 되었다. 따라서 본 논문에서는 빅 데이터 분석 기술을 이용하여 인사채용과 관련된 데이터들을 추출하고 분석하여 구직자의 적성과 능력에 맞는 직업을 예측하는 시스템을 설계하였다. 구직자 및 이직을 원하고 있는 사람들이 소셜 네트워크 서비스를 이용하면서 사용하고 있는 특정 단어와 특정 단어의 언급 빈도의 데이터를 추출하고 추출 된 데이터는 통계를 내어 데이터의 특성에 맞게 분류하여 분류된 데이터는 연관된 속성에 의해 그룹화 한다. 그룹화 된 정보를 분석하여 구직자의 적성과 능력을 고려한 직업을 예측하는 정보로 도출하여 직업을 추천 할 수 있는 예측 시스템을 설계하였다.

A study on JCIM system using common information model (공통 정보 모델을 이용한 JCIM 시스템에 관한 연구)

  • Seo, Seong-Min;Kim, Beom-Sik;Choi, Sung-Ho;Kim, Jin
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2021.11a
    • /
    • pp.209-212
    • /
    • 2021
  • 현재 IT 보안 관제 시스템을 구축하여 사용하고 있는 기업들은 여러 보안 솔루션을 도입하고 있어 각 솔루션에 따라 서로 다른 IT 이상징후 탐지 모델을 필요로 하고 있다. 이에 따라 솔루션별로 상이한 모델이 필요하며, 유지보수에 어려움이 대두되었다. 이러한 보안 관제 시장의 문제를 해결하기 위해 요구된 것이 이기종 보안 솔루션의 공통 정보 모델로의 표준화 및 탐지 모델 체계화이다. 현재 JCIM은 보안 관제 시장에서 데이터를 공통 정보 모델로 표준화하고, 선택한 솔루션의 시나리오를 보여주며 즉시 탐지까지 가능한 제품을 구현하였다. 이를 통해 AI 기반의 이상 탐지 시나리오를 구현할 수 있는 인력을 양성하고, 이를 기반으로 다양한 고객(산업군)사에 적응하는 것을 기대한다.