• 제목/요약/키워드: Engineering Big Data

검색결과 1,862건 처리시간 0.036초

빅데이터 관리를 위한 데이터베이스 선정분석 (Selection Analysis of Databases to Manage Big Data)

  • 박승범;이상원;안현섭;정인환
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국정보통신학회 2013년도 추계학술대회
    • /
    • pp.258-260
    • /
    • 2013
  • 빅데이터를 관리하기 위해서 사용하는 NoSQL은 두 가지 중요한 요소를 가지고 있다. 애플리케이션 프로그래머의 생산성을 높이는 것과 데이터 접근 성능을 높이는 것이다. 그러나, 많은 기업 현장에서는 이러한 바람직한 계획들이 철저히 고려되고 있지 않다. 빅데이터의 효과적이고 효율적인 관리와 분석을 위해서는 NoSQL 기술을 사용할지 말아야할지를 결정하기 전에, 애플리케이션 프로그래머의 생산성과 성능에 대한 기대를 충족시키기 위한 테스트를 필수적으로 수행해야한다. 본 논문에서는 프로그래머 생산성, 데이터 접근 성능, 위험 관리 등에 대해 연구하고자 한다.

  • PDF

스마트카드 빅데이터를 이용한 서울시 지역별 대중교통 이동 편의성 분석 (Analysis of Regional Transit Convenience in Seoul Public Transportation Networks Using Smart Card Big Data)

  • 문현구;오규협;김상국;정재윤
    • 대한산업공학회지
    • /
    • 제42권4호
    • /
    • pp.296-303
    • /
    • 2016
  • In public transportation, smart cards have been introduced for the purpose of convenient payment systems. The smart card transaction data can be utilized not only for the exact and convenient payment but also for civil planning based on travel tracking of citizens. This paper focuses on the analysis of the transportation convenience using the smart card big data. To this end, a new index is developed to measure the transit convenience of each region by considering how passengers actually experience the transportation network in their travels. The movement data such as movement distance, time and amount between regions are utilized to access the public transportation convenience of each region. A smart card data of five working days in March is used to evaluate the transit convenience of each region in Seoul city. The contribution of this study is that a new transit convenience measure was developed based on the reality data. It is expected that this measure can be used as a means of quantitative analysis in civil planning such as a traffic policy or local policy.

A cache placement algorithm based on comprehensive utility in big data multi-access edge computing

  • Liu, Yanpei;Huang, Wei;Han, Li;Wang, Liping
    • KSII Transactions on Internet and Information Systems (TIIS)
    • /
    • 제15권11호
    • /
    • pp.3892-3912
    • /
    • 2021
  • The recent rapid growth of mobile network traffic places multi-access edge computing in an important position to reduce network load and improve network capacity and service quality. Contrasting with traditional mobile cloud computing, multi-access edge computing includes a base station cooperative cache layer and user cooperative cache layer. Selecting the most appropriate cache content according to actual needs and determining the most appropriate location to optimize the cache performance have emerged as serious issues in multi-access edge computing that must be solved urgently. For this reason, a cache placement algorithm based on comprehensive utility in big data multi-access edge computing (CPBCU) is proposed in this work. Firstly, the cache value generated by cache placement is calculated using the cache capacity, data popularity, and node replacement rate. Secondly, the cache placement problem is then modeled according to the cache value, data object acquisition, and replacement cost. The cache placement model is then transformed into a combinatorial optimization problem and the cache objects are placed on the appropriate data nodes using tabu search algorithm. Finally, to verify the feasibility and effectiveness of the algorithm, a multi-access edge computing experimental environment is built. Experimental results show that CPBCU provides a significant improvement in cache service rate, data response time, and replacement number compared with other cache placement algorithms.

빅데이터 기반의 잠재적 붕괴위험 노후건축물 도출 방법 및 서울특별시 적용 연구 (The Method for Analyzing Potentially Collapsible Aged Buildings Using Big Data and its Application to Seoul)

  • 임혜연;박철영;조성현;이강
    • 대한건축학회논문집:계획계
    • /
    • 제35권2호
    • /
    • pp.139-146
    • /
    • 2019
  • The purpose of this study is to derive an improved method for analyzing old buildings with risk of collapse using public big data. Previous studies on the risk of building collapse focused on internal factors such as building age and structural vulnerability. However, this study suggests a method to derive potentially collapsible buildings considering not only internal factors of buildings but also external factors such as nearby new construction data. Based on the big data analysis, this study develops a system to visualize vulnerable buildings that require safety diagnosis and proposed a future utilization plan.

Spark 기반 공간 분석에서 공간 분할의 성능 비교 (Performance Comparison of Spatial Split Algorithms for Spatial Data Analysis on Spark)

  • 양평우;유기현;남광우
    • 대한공간정보학회지
    • /
    • 제25권1호
    • /
    • pp.29-36
    • /
    • 2017
  • 본 논문은 인 메모리 시스템인 Spark에 기반 한 공간 빅 데이터 분석 프로토타입을 구현하고, 이를 기반으로 공간 분할 알고리즘에 따른 성능을 비교하였다. 클러스터 컴퓨팅 환경에서 빅 데이터의 컴퓨팅 부하를 균형 분산하기 위해, 빅 데이터는 일정 크기의 순차적 블록 단위로 분할된다. 기존의 연구에서 하둡 기반의 공간 빅 데이터 시스템의 경우 일반 순차 분할 방법보다 공간에 따른 분할 방법이 효과적임이 제시되었다. 하둡 기반의 공간 빅 데이터 시스템들은 원 데이터를 그대로 공간 분할된 블록에 저장한다. 하지만 제안된 Spark 기반의 공간 분석 시스템에서는 검색 효율성을 위해 공간 데이터가 메모리 데이터 구조로 변환되어 공간 블록에 저장되는 차이점이 있다. 그러므로 이 논문은 인 메모리 공간 빅 데이터 프로토타입과 공간 분할 블록 저장 기법을 제시하였다, 또한, 기존의 공간 분할 알고리즘들을 제안된 프로토타입에서 성능 비교를 하여 인 메모리 환경인 Spark 기반 빅 데이터 시스템에서 적합한 공간 분할 전략을 제시하였다. 실험에서는 공간 분할 알고리즘에 대한 질의 수행 시간에 대하여 비교를 하였고, BSP 알고리즘이 가장 좋은 성능을 보여주는 것을 확인할 수 있었다.

빅 데이터 분석을 통한 해외건설 빅 이슈 개발 (Development of Overseas Construction Big Issues based on Analysis of Big Data)

  • 박환표;한재구
    • 한국건설관리학회논문집
    • /
    • 제19권3호
    • /
    • pp.89-96
    • /
    • 2018
  • 본 연구는 빅 데이터 분석을 통한 해외건설 빅 이슈를 도출하였다. 해외건설 Big 이슈 도출을 위하여 2016년 10월 1일부터 2017년 9월 30일 동안 주요 포털사이트 39,436건, 종합일간지 10,387건, 건설전문지 3,36건을 포함해 총 53,759건 대상으로 분석하였고, 그 주요 결과는 다음과 같다. 첫째, 지난 1년간 해외건설 주요 이슈를 살펴보면, 여전히 중동 지역에 편중되고 저가 수주 위주의 플랜트 사업이 한계점이 두드러지게 나타났다. 전년 대비 2017년 상반기, 해외건설 수주가 다소 상승하는 추세를 보이기도 했으나 대외 정세의 불확실성과 국제유가의 하락 등으로 여전히 수주 불안정성을 보인다. 둘째, 최근 1년 해외건설 관련 이슈 중 해외건설 8대 핵심 키워드 기준으로 관심사를 분석한 결과, 지역(29.9%), 기업환경(22.0%), 수익성(17.0%), 단체(15.1%), 사업(5.2%), 시장환경(3.6%), 정책 및 제도(3.6%), 교육(3.5%) 순으로 나타났다. 셋째, 8개 키워드에 대한 총 30개의 이슈 후보 중 담론의 확산성과 지속성이 있는 10대 핵심 이슈를 추출하였다. 이를 토대로 해외건설 핵심 이슈별 상세분석 및 시사점을 도출하였다. 빅 데이터 분석을 통한 해외건설 빅 이슈를 도출한 결과 4차 산업혁명 시대의 도래에 대응하고 국내 건설업계의 위기 상황을 극복할 새로운 산업 패러다임의 대전환점을 맞이해야 하며 건설산업에 고부가가치 기술을 육성하여 수익 창출을 견인해 글로벌 건설경쟁력을 키워야 한다는 시사점이 도출되었다.

스마트 미디어 메타데이터 활용을 통한 미디어 빅데이터 플랫폼 구축 방안 (A Construction Plan of Media Big Data Platform Through the Smart Media Meta-data Utilization)

  • 홍진우
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국정보통신학회 2022년도 춘계학술대회
    • /
    • pp.646-649
    • /
    • 2022
  • 미디어는 인간사회에서 자신의 감정 또는 객관적 정보를 서로 주고받을 수 있도록 마련된 수단인데 디지털 미디어의 등장으로 인한 스마트 미디어의 보급으로 인해 현대사회에서의 미디어는 단순한 수단이 아니라 인간이 사는 사회 전체를 통괄하고 제어하는 기능까지도 떠맡게 되었다. 따라서, 스마트 미디어가 사용되는 서비스 플랫폼에 따른 미디어의 유형과 특성을 살펴보고, 이를 기반으로 미디어의 빅데이터 허브를 구축함으로써 디지털 미디어의 새로운 발전과 연구 방향을 모색할 수 있다. 본 논문에서는 스마트 미디어를 통하여 생성되는 다양한 메타데이터에 대해 분석하고, 이를 이용한 빅데이터 플랫폼 구축에 대한 방안을 제시하고자 한다.

  • PDF

SNS상의 비정형 빅데이터로부터 감성정보 추출 기법 (An Extraction Method of Sentiment Infromation from Unstructed Big Data on SNS)

  • 백봉현;하일규;안병철
    • 한국멀티미디어학회논문지
    • /
    • 제17권6호
    • /
    • pp.671-680
    • /
    • 2014
  • Recently, with the remarkable increase of social network services, it is necessary to extract interesting information from lots of data about various individual opinions and preferences on SNS(Social Network Service). The sentiment information can be applied to various fields of society such as politics, public opinions, economics, personal services and entertainments. To extract sentiment information, it is necessary to use processing techniques that store a large amount of SNS data, extract meaningful data from them, and search the sentiment information. This paper proposes an efficient method to extract sentiment information from various unstructured big data on social networks using HDFS(Hadoop Distributed File System) platform and MapReduce functions. In experiments, the proposed method collects and stacks data steadily as the number of data is increased. When the proposed functions are applied to sentiment analysis, the system keeps load balancing and the analysis results are very close to the results of manual work.

소셜 미디어 데이터 분석을 활용한 빅데이터에 대한 인식 변화 비교 분석 (A Comparative Analysis of Cognitive Change about Big Data Using Social Media Data Analysis)

  • 윤유동;조재춘;허윤아;임희석
    • 정보처리학회논문지:소프트웨어 및 데이터공학
    • /
    • 제6권7호
    • /
    • pp.371-378
    • /
    • 2017
  • 최근 모바일의 확산과 웹 서비스의 도입으로 온라인 상에 데이터가 급격히 증가하게 되어 다양한 분야에서 활용되고 있다. 특히, 빅데이터 분야에서 소셜 미디어의 등장은 축적되는 비정형 데이터의 양이 급격하게 증가하는 계기가 되었다. 이러한 비정형 데이터로부터 의미 있는 정보를 추출하기 위해 다양한 분야에서 빅데이터 기술에 대한 관심이 증가하고 있다. 빅데이터는 선진국을 중심으로 다양한 분야에서 핵심 자원으로서 중요성이 부각되고 있다. 그러나 빅데이터의 긍정적인 미래 전망과 함께 데이터의 침해 및 개인정보 보호에 대한 우려가 지속적으로 언급되고 있다. 이와 같이 긍정적인 시각과 부정적인 시각이 공존하는 빅데이터에 대해 사람들의 의견을 분석하는 연구는 현재 매우 부족한 상황이다. 이에 본 연구에서는 텍스트 마이닝을 활용하여 소셜 미디어에서 수집한 비정형 데이터를 기반으로 빅데이터에 대한 사람들의 인식 변화를 비교하였다. 텍스트 마이닝 결과, 국내 빅데이터에 대한 연도별 키워드와 함께 시간의 흐름에 따라 감소하는 긍정적인 의견과 증가하는 부정적인 의견이 관찰되었다. 그리고 이러한 분석 결과를 기반으로 국내 빅데이터에 대한 흐름을 예측할 수 있었다.

빅데이터 분석도구 R을 이용한 성경 데이터의 빈도와 소셜 네트워크 분석 (Frequency and Social Network Analysis of the Bible Data using Big Data Analytics Tools R)

  • 반재훈;하종수;김동현
    • 한국정보통신학회논문지
    • /
    • 제24권2호
    • /
    • pp.166-171
    • /
    • 2020
  • 데이터를 저장하고 분석하여 새로운 지식을 얻을 수 있는 빅데이터 처리기술은 사회의 여러 분야에서 중요성이 강조되고 있으며 정보통신기술 분야의 핵심 이슈로 부각되면서 관련 기술에 대한 관심이 증가하고 있다. 이러한 빅데이터를 분석할 수 있는 도구인 R은 통계 기반의 정보 분석을 가능하게 하는 언어와 환경이다. 본 논문에서는 이를 이용하여 성경데이터를 분석한다. 성경 중에서 신약성경의 4복음서의 데이터를 분석한다. 먼저 성경데이터를 수집하고 분석을 위한 필터링을 수행한다. 이후 R을 이용하여 어떠한 텍스트가 분포되어 있는지를 빈도 조사를 수행하며 정확한 데이터의 분석을 위해 한 문장에서 나오는 단어들을 쌍으로 표현하고 단어 간의 관계성을 분석하는 소셜 네트워크 분석을 통해 성경을 분석한다.