• 제목/요약/키워드: Spatio-temporal Big Data

검색결과 19건 처리시간 0.025초

Prediction of spatio-temporal AQI data

  • KyeongEun Kim;MiRu Ma;KyeongWon Lee
    • Communications for Statistical Applications and Methods
    • /
    • 제30권2호
    • /
    • pp.119-133
    • /
    • 2023
  • With the rapid growth of the economy and fossil fuel consumption, the concentration of air pollutants has increased significantly and the air pollution problem is no longer limited to small areas. We conduct statistical analysis with the actual data related to air quality that covers the entire of South Korea using R and Python. Some factors such as SO2, CO, O3, NO2, PM10, precipitation, wind speed, wind direction, vapor pressure, local pressure, sea level pressure, temperature, humidity, and others are used as covariates. The main goal of this paper is to predict air quality index (AQI) spatio-temporal data. The observations of spatio-temporal big datasets like AQI data are correlated both spatially and temporally, and computation of the prediction or forecasting with dependence structure is often infeasible. As such, the likelihood function based on the spatio-temporal model may be complicated and some special modelings are useful for statistically reliable predictions. In this paper, we propose several methods for this big spatio-temporal AQI data. First, random effects with spatio-temporal basis functions model, a classical statistical analysis, is proposed. Next, neural networks model, a deep learning method based on artificial neural networks, is applied. Finally, random forest model, a machine learning method that is closer to computational science, will be introduced. Then we compare the forecasting performance of each other in terms of predictive diagnostics. As a result of the analysis, all three methods predicted the normal level of PM2.5 well, but the performance seems to be poor at the extreme value.

Applications of Open-source Spatio-Temporal Database Systems in Wide-field Time-domain Astronomy

  • Chang, Seo-Won;Shin, Min-Su
    • 천문학회보
    • /
    • 제41권2호
    • /
    • pp.53.2-53.2
    • /
    • 2016
  • We present our experiences with open-source spatio-temporal database systems for managing and analyzing big astronomical data acquired by wide-field time-domain sky surveys. Considering performance, cost, difficulty, and scalability of the database systems, we conduct comparison studies of open-source spatio-temporal databases such as GeoMesa and PostGIS that are already being used for handling big geographical data. Our experiments include ingesting, indexing, and querying millions or billions of astronomical spatio-temporal data. We choose the public VVV (VISTA Variables in the Via Lactea) catalogs of billions measurements for hundreds of millions objects as the test data. We discuss issues of how these spatio-temporal database systems can be adopted in the astronomy community.

  • PDF

농업기상 결측치 보정을 위한 통계적 시공간모형 (A Missing Value Replacement Method for Agricultural Meteorological Data Using Bayesian Spatio-Temporal Model)

  • 박다인;윤상후
    • 한국환경과학회지
    • /
    • 제27권7호
    • /
    • pp.499-507
    • /
    • 2018
  • Agricultural meteorological information is an important resource that affects farmers' income, food security, and agricultural conditions. Thus, such data are used in various fields that are responsible for planning, enforcing, and evaluating agricultural policies. The meteorological information obtained from automatic weather observation systems operated by rural development agencies contains missing values owing to temporary mechanical or communication deficiencies. It is known that missing values lead to reduction in the reliability and validity of the model. In this study, the hierarchical Bayesian spatio-temporal model suggests replacements for missing values because the meteorological information includes spatio-temporal correlation. The prior distribution is very important in the Bayesian approach. However, we found a problem where the spatial decay parameter was not converged through the trace plot. A suitable spatial decay parameter, estimated on the bias of root-mean-square error (RMSE), which was determined to be the difference between the predicted and observed values. The latitude, longitude, and altitude were considered as covariates. The estimated spatial decay parameters were 0.041 and 0.039, for the spatio-temporal model with latitude and longitude and for latitude, longitude, and altitude, respectively. The posterior distributions were stable after the spatial decay parameter was fixed. root mean square error (RMSE), mean absolute error (MAE), mean absolute percentage error (MAPE), and bias were calculated for model validation. Finally, the missing values were generated using the independent Gaussian process model.

맵리듀스 온라인 프레임워크에서 공간 데이터 스트림 처리를 위한 동적 부하 관리 기법 (Dynamic Load Management Method for Spatial Data Stream Processing on MapReduce Online Frameworks)

  • 정원일
    • 한국산학기술학회논문지
    • /
    • 제19권8호
    • /
    • pp.535-544
    • /
    • 2018
  • 다양한 센서를 내장하고 고품질의 무선 네트워크 통신 기능을 탑재한 이동 장치의 보급이 확대됨에 따라 다양한 서비스 환경에서 이동 장치로부터 생성되는 시공간 데이터 량도 빠르게 증가하고 있다. 이와 같이 실시간 특성을 갖는 대량의 공간 데이터 스트림을 처리하기 위한 기존의 연구에서 하둡 기반의 공간 빅 데이터 시스템은 일괄 처리 방식의 플랫폼으로 공간 데이터 스트림에 대한 실시간 서비스에 적용하기에는 매우 어렵다. 이에 본 논문에서는 맵리듀스 온라인 프레임워크를 확장하여 연속적으로 입력되는 공간 데이터 스트림에 대한 실시간 질의 처리를 지원하고, 질의 처리 과정에서 야기될 수 있는 부하 문제를 효과적으로 분산하는 부하 관리 기법을 제안한다. 제안 기법에서는 공간 분할 영역을 기반으로 입력 데이터의 유입율과 부하율을 이용하여 노드들에 대해 동적으로 부하를 분산하는 기법을 제시하였다. 실험에서는 특정 공간 영역에서의 부하 관리가 요구될 때 해당 영역에서의 공간 데이터 스트림을 공유하는 자원들에게 분배함으로써 효과적인 질의 처리를 지원할 수 있음을 보인다.

빅데이터 마이닝에 의한 공시지가 민원의 시공간적 분석모델 제시 (A Suggestion for Spatiotemporal Analysis Model of Complaints on Officially Assessed Land Price by Big Data Mining)

  • 조태인;최병길;나영우;문영섭;김세훈
    • 지적과 국토정보
    • /
    • 제48권2호
    • /
    • pp.79-98
    • /
    • 2018
  • 이 연구는 빅데이터 마이닝에 기초하여 공시지가 민원에 대한 시공간적 특성을 분석하는 모델을 제시하는 데 목적이 있다. 특히 이 연구는 행정 민원이 제기되는 원인을 학술적 요인보다는 시공간적 측면에서 찾았고, 그러한 민원 발생의 경향을 시공간적으로 모니터링하는 모델을 제시하였다. 2006년부터 2015년까지 인천광역시 중구의 공시지가에 대한 6,481개의 민원정보가 시간 및 공간적 특성을 고려해 수집되었고 분석을 위해 사용되었다. 텍스트 마이닝 기법을 이용해 주요 키워드의 빈도수를 도출했으며, 소셜 네트워크 분석을 통해 주요 키워드 간의 관계를 분석하였다. 키워드의 가중치와 연관되는 TF(term frequency)와 TF-IDF(term frequency-inverse document frequency)를 산출함으로써, 공시지가의 민원 발생에 대한 주요 키워드를 식별하였다. 마지막으로 Getis-Ord의 $Gi^*$의 통계량에 기초한 핫스팟 분석을 통해 공시지가 민원의 시공간적 특성을 분석하였다. 연구 결과, 공시지가 민원의 특성은 시공간적으로 연계된 군집 형태를 형성하면서 변화하고 있음을 알 수 있었다. 텍스트 마이닝과 소셜 네트워크 분석 방법을 이용하여 자연어 기반의 공시지가 민원에 대한 발생 원인을 정량적으로 규명할 수 있음을 알 수 있었으며, 키워드 가중치인 단어 빈도(TF) 및 단어 빈도와 역문서 빈도의 조합값(TF-IDF)의 상대적인 차이가 있어 시공간적인 민원 특성을 분석하기 위한 주요 설명변수로 활용될 수 있음을 알 수 있었다.

시공간적 영향력을 반영한 딥러닝 기반의 통행속도 예측 모형 개발 (Development of Traffic Speed Prediction Model Reflecting Spatio-temporal Impact based on Deep Neural Network)

  • 김영찬;김준원;한여희;김종준;황제웅
    • 한국ITS학회 논문지
    • /
    • 제19권1호
    • /
    • pp.1-16
    • /
    • 2020
  • 4차 산업혁명 시대가 도래함에 따라 빅데이터를 활용하는 딥러닝에 대한 관심이 높아졌으며 다양한 분야에서 딥러닝을 이용한 연구가 활발하게 진행되고 있다. 교통 분야에서도 교통빅데이터를 많이 활용하는 만큼 딥러닝을 연구에 이용한다면 많은 이점이 있을 것이다. 본 연구에서는 통행속도를 예측하기 위하여 딥러닝 기법인 LSTM을 이용한 단기 통행속도 예측 모형을 구축하였다. 예측에 활용한 데이터인 통행속도 데이터가 시계열 데이터인 것을 고려하여 시계열 예측에 적합한 LSTM 모델을 선택하였다. 통행속도를 보다 정확하게 예측하기 위하여 시간적, 공간적 영향을 모두 반영하는 모형을 구축하였으며, 모형은 1시간 이후를 예측하는 단기 예측모형이다. 분석데이터는 서울시 교통정보센터에서 수집한 5분 단위 통행속도를 활용하였고 분석구간은 교통이 혼잡한 강남대로 일부구간으로 선정하여 연구를 수행하였다.

Spatial Characteristics and Driving Forces of Cultivated Land Changes by Coupling Spatial Autocorrelation Model and Spatial-temporal Big Data

  • Hua, Wang;Yuxin, Zhu;Mengyu, Wang;Jiqiang, Niu;Xueye, Chen;Yang, Zhang
    • KSII Transactions on Internet and Information Systems (TIIS)
    • /
    • 제15권2호
    • /
    • pp.767-785
    • /
    • 2021
  • With the rapid development of information technology, it is now possible to analyze the spatial patterns of cultivated land and its evolution by combining GIS, geostatistical analysis models and spatiotemporal big data for the dynamic monitoring and management of cultivated land resources. The spatial pattern of cultivated land and its evolutionary patterns in Luoyang City, China from 2009 to 2019 were analyzed using spatial autocorrelation and spatial autoregressive models on the basis of GIS technology. It was found that: (1) the area of cultivated land in Luoyang decreased then increased between 2009 and 2019, with an overall increase of 0.43% in 2019 compared to 2009, with cultivated land being dominant in the overall landscape of Luoyang; (2) cultivated land holdings in Luoyang are highly spatially autocorrelated, with the 'high-high'-type area being concentrated in the border area directly north and northeast of Luoyang, while the 'low-low'-type area is concentrated in the south and in the municipal area of Luoyang, and being heavily influenced by topography and urbanization. The expansion determined during the study period mainly took place in the Luoyang City, with most of it being transferred from the 'high-low'-type area; (3) elevation, slope and industrial output values from analysis of the bivariate spatial autocorrelation and spatial autoregressive models of the drivers all had significant effects on the amount of cultivated land holdings, with elevation having a positive effect, and slope and industrial output having a negative effect.

도서 정보 및 본문 텍스트 통합 마이닝 기반 사용자 맞춤형 도서 큐레이션 시스템 (Personalized Book Curation System based on Integrated Mining of Book Details and Body Texts)

  • 안희정;김기원;김승훈
    • Journal of Information Technology Applications and Management
    • /
    • 제24권1호
    • /
    • pp.33-43
    • /
    • 2017
  • The content curation service through big data analysis is receiving great attention in various content fields, such as film, game, music, and book. This service recommends personalized contents to the corresponding user based on user's preferences. The existing book curation systems recommended books to users by using bibliographic citation, user profile or user log data. However, these systems are difficult to recommend books related to character names or spatio-temporal information in text contents. Therefore, in this paper, we suggest a personalized book curation system based on integrated mining of a book. The proposed system consists of mining system, recommendation system, and visualization system. The mining system analyzes book text, user information or profile, and SNS data. The recommendation system recommends personalized books for users based on the analysed data in the mining system. This system can recommend related books using based on book keywords even if there is no user information like new customer. The visualization system visualizes book bibliographic information, mining data such as keyword, characters, character relations, and book recommendation results. In addition, this paper also includes the design and implementation of the proposed mining and recommendation module in the system. The proposed system is expected to broaden users' selection of books and encourage balanced consumption of book contents.

서울시 공공자전거 공유시스템(PBSS)의 시공간적 이용 패턴 분석 - 서울시 여의도동을 중심으로 - (Spatio-Temporal Patterns of a Public Bike Sharing System in Seoul - Focusing on Yeouido District -)

  • 윤승용;민경훈;고하정
    • 한국조경학회지
    • /
    • 제48권1호
    • /
    • pp.1-14
    • /
    • 2020
  • 세계적으로 공공자전거 공유시스템(PBSS) 및 프로그램(PBSP)이 증가하면서 다양한 정책과 연구들이 진행되었다. 오늘날 PBSS가 일상생활에서 밀접하게 이용되면서 다양한 현상과 수요가 발생하고 있으나, 아직 국내에서는 통근통학에 초점을 맞춘 정책과 연구들이 주로 이루어지고 있다. 이에 본 연구는 다양한 PBSS 수요를 파악하기 위해서 서울시 여의도를 대상으로 2018년도 한 해 동안 발생한 PBSS 이용 데이터를 분석하여 이용 패턴을 유형화하고 특징을 분석하였다. 서울시에서 제공하는 PBSS 자료를 기반으로 주중/주말 이용률에 따라 대여소를 3개 유형으로 구분하여 각각의 특징을 분석하였다. 여의도의 PBSS는 이용량의 경우에는 서울시 전체에서 4.3%, 대여소 개소수의 경우에는 2%에 해당하는 것으로 나타났다. 주중 이용률이 높은 대여소는 다른 유형에 비하여 사계절 모두 높은 이용률을 보였으며, 업무 및 주거지역에 주로 분포하였다. 주말 이용률이 높은 대여소의 경우에는 봄(4~5월)과 가을(9~10월)에 집중된 이용 패턴이 나타났으며, 대여소에서 공원입구까지의 거리가 가까운 것으로 나타났다. 또한, 주중 이용률이 높은 패턴에 비해서 동일한 대여소를 통해 대여 및 반납이 이루어진 경우가 많고, 특정 대여소에 PBSS 이용이 집중된 쏠림현상이 나타나고 있는 것을 확인할 수 있었다. 따라서, 획일적인 PBSS 운영보다는 대여소별로 다양한 이용수요와 현상을 반영한 PBSS의 관리와 프로그램이 운영되어야 할 것이다. 본 연구결과는 PBSS 이용에 대한 수요를 유형에 따라 시공간적으로 파악함으로써 효과적인 PBSS 운영이 이루어질 수 있도록 기초자료를 제공하는 것에 의의가 있다.

MapReduce와 시공간 데이터를 이용한 빅 데이터 크기의 이동객체 갱신 횟수 감소 기법 (Update Frequency Reducing Method of Spatio-Temporal Big Data based on MapReduce)

  • 최용권;백성하;김경배;배해영
    • Spatial Information Research
    • /
    • 제20권2호
    • /
    • pp.137-153
    • /
    • 2012
  • 지금까지 대규모의 이동객체 관리를 위해 갱신 비용을 감소시킬 수 있는 인덱스 기법들이 제안되었다. 이동객체 인덱스는 빈번하게 위치정보가 변화하는 이동객체를 관리하기 위해 주기적으로 갱신 되어야 하기 때문이다. 그러나 이러한 기법들은 이동객체의 수가 현저히 증가하는 경우 인덱스의 갱신 가능범위를 초과하는 부하가 발생한다. 본 논문에서는 이처럼 기존의 처리 가용량을 초과하는 빅 데이터 크기의 이동객체에서 발생하는 갱신요청들을 MapReduce와 기존 인덱스기법을 조합하여 감소시키는 기법을 제안한다. 이 기법에서는 수많은 이동객체에서 발생하는 갱신요청들을 MapReduce를 이용하여 각각의 이동객체 별로 그룹화하는 방법을 사용한다. 각 이동객체 별로 그룹화 데이터들의 최신의 데이터와 가장 오래된 데이터를 비교하여 갱신여부를 판단하고 최신의 요청만 갱신하도록 하여 전체 갱신 횟수를 크게 감소시킨다. 갱신이 지연된 경우 기존의 갱신요청들을 가지고 있는 해시 테이블에 일정기간 보관하여 지연된 갱신요청이 분실되지 않고 지속적으로 갱신되도록 한다. 실험을 통해 제안한 기법을 적용한 경우와 적용하지 않은 경우를 비교해 전체 갱신 횟수 및 갱신 비용이 감소되는 것을 알 수 있다.