• Title/Summary/Keyword: 재현자료

Search Result 1,425, Processing Time 0.041 seconds

Multiple imputation and synthetic data (다중대체와 재현자료 작성)

  • Kim, Joungyoun;Park, Min-Jeong
    • The Korean Journal of Applied Statistics
    • /
    • v.32 no.1
    • /
    • pp.83-97
    • /
    • 2019
  • As society develops, the dissemination of microdata has increased to respond to diverse analytical needs of users. Analysis of microdata for policy making, academic purposes, etc. is highly desirable in terms of value creation. However, the provision of microdata, whose usefulness is guaranteed, has a risk of exposure of personal information. Several methods have been considered to ensure the protection of personal information while ensuring the usefulness of the data. One of these methods has been studied to generate and utilize synthetic data. This paper aims to understand the synthetic data by exploring methodologies and precautions related to synthetic data. To this end, we first explain muptiple imputation, Bayesian predictive model, and Bayesian bootstrap, which are basic foundations for synthetic data. And then, we link these concepts to the construction of fully/partially synthetic data. To understand the creation of synthetic data, we review a real longitudinal synthetic data example which is based on sequential regression multivariate imputation.

Synthetic data generation by probabilistic PCA (주성분 분석을 활용한 재현자료 생성)

  • Min-Jeong Park
    • The Korean Journal of Applied Statistics
    • /
    • v.36 no.4
    • /
    • pp.279-294
    • /
    • 2023
  • It is well known to generate synthetic data sets by the sequential regression multiple imputation (SRMI) method. The R-package synthpop are widely used for generating synthetic data by the SRMI approaches. In this paper, I suggest generating synthetic data based on the probabilistic principal component analysis (PPCA) method. Two simple data sets are used for a simulation study to compare the SRMI and PPCA approaches. Simulation results demonstrate that pairwise coefficients in synthetic data sets by PPCA can be closer to original ones than by SRMI. Furthermore, for the various data types that PPCA applications are well established, such as time series data, the PPCA approach can be extended to generate synthetic data sets.

A comparison of synthetic data approaches using utility and disclosure risk measures (유용성과 노출 위험성 지표를 이용한 재현자료 기법 비교 연구)

  • Seongbin An;Trang Doan;Juhee Lee;Jiwoo Kim;Yong Jae Kim;Yunji Kim;Changwon Yoon;Sungkyu Jung;Dongha Kim;Sunghoon Kwon;Hang J Kim;Jeongyoun Ahn;Cheolwoo Park
    • The Korean Journal of Applied Statistics
    • /
    • v.36 no.2
    • /
    • pp.141-166
    • /
    • 2023
  • This paper investigates synthetic data generation methods and their evaluation measures. There have been increasing demands for releasing various types of data to the public for different purposes. At the same time, there are also unavoidable concerns about leaking critical or sensitive information. Many synthetic data generation methods have been proposed over the years in order to address these concerns and implemented in some countries, including Korea. The current study aims to introduce and compare three representative synthetic data generation approaches: Sequential regression, nonparametric Bayesian multiple imputations, and deep generative models. Several evaluation metrics that measure the utility and disclosure risk of synthetic data are also reviewed. We provide empirical comparisons of the three synthetic data generation approaches with respect to various evaluation measures. The findings of this work will help practitioners to have a better understanding of the advantages and disadvantages of those synthetic data methods.

Exploratory Data Analysis for Korean Stock Data with Recurrence Plots (재현그림을 통한 우리나라 주식 자료에 대한 탐색적 자료분석)

  • Jang, Dae-Heung
    • The Korean Journal of Applied Statistics
    • /
    • v.26 no.5
    • /
    • pp.807-819
    • /
    • 2013
  • A recurrence plot can be used as a graphical exploratory data analysis tool before confirmatory time series analysis. With the recurrence plot, we can obtain the structural pattern of the time series and recognize the structural change points in a time series at a glance. Korean stock data shows the usefulness of the recurrence plot as a graphical exploratory data analysis tool for time series data.

Exploratory data analysis for Korean daily exchange rate data with recurrence plots (재현그림을 통한 우리나라 환율 자료에 대한 탐색적 자료분석)

  • Jang, Dae-Heung
    • Journal of the Korean Data and Information Science Society
    • /
    • v.24 no.6
    • /
    • pp.1103-1112
    • /
    • 2013
  • Exploratory data analysis focuses mostly on data exploration instead of model fitting. We can use the recurrence plot as a graphical exploratory data analysis tool. With the recurrence plot, we can obtain the structural pattern of the time series and recognize the structural change points in time series at a glance.

A Development of Multi-site Rainfall Simulation Model Using Piecewise Generalize Pareto Distribution (불연속 분포를 이용한 다지점 강수모의발생 기법 개발)

  • So, Byung-Jin;Kwon, Hyun-Han
    • Proceedings of the Korea Water Resources Association Conference
    • /
    • 2012.05a
    • /
    • pp.123-123
    • /
    • 2012
  • 일강수량은 수공구조물 설계 및 수자원계획을 수립하기 위한 입력 자료로 이용된다. 일반적으로 수자원계획은 장기적인 목적을 가지고 수행되어지며, 장기간의 일강수량 자료를 필요로 한다. 하지만 장기간의 일강수량 자료의 획득의 어려움으로 단기간의 일강수량자료를 이용하여 모의한 장기간 강수자료를 이용하게 된다. 이처럼 수자원계획의 수립에 있어서 일강수량 모의기법의 성능은 수자원계획의 신뢰성 및 결과에 큰 영향을 준다. 일강수량 모의기법은 국내외적으로 매우 활발하게 이루어지고 있으며, 수자원계획 및 수공구조물 설계 외에도 매우 다양한 목적으로 활용되어 지고 있다. 일강수량을 모의기법 중 강수계열의 단기간의 기억(memory)을 활용한 Markov Chain 모형이 가장 일반적이지만, 기존 Markov Chain 모형을 통한 일강수량 모의는 극치강수량을 재현하기 어렵다는 문제점이 있다. 또한, 일강수량 모의 기법의 목적인 수자원계획 및 수공구조물 설계 등의 입력자료로 활용되어지기 위해서는 모의 결과가 유역내 지점별 공간 상관성을 재현함으로써 모형의 우수성과 자료결과의 신뢰성을 확보할 수 있어야 하겠다. 이러한 점에서 본 연구에서는 내삽에서 우수한 재현능력을 갖는 핵 밀도함수와 극치강수량 재현에 유리한 GPD분포의 특징을 함께 고려할 수 있는 불연속 Kernel-Pareto Distribution 기반에 공간상관성 재현 알고리즘을 결합한 일강수량모의기법을 개발하였다. 한강유역의 18개 강수지점에 대해서 기존 Gamma분포를 사용한 Markov Chain 모형과 본 연구에서 제안한 방법을 적용하여 모형을 평가해 보고자 한다. Gamma 분포기반 Markov Chain 모형의 경우 일강수량 모의 시 1차모멘트인 평균과 2-3차 모멘트 모두 효과적으로 재현하지 못하는 문제점이 나타났다. 그러나 본 연구에서 적용한 다지점 불연속 Kernel-Pareto 분포 모형은 강수계열의 평균적인 특성뿐만 아니라 표준편차 및 왜곡도의 경우에도 관측치의 통계특성을 매우 효과적으로 재현하며, 100년빈도 강수량 모의결과 기존 모의모형의 문제점을 보완할 수 있는 개선된 결과를 보여주었다. 본 연구에서 제시한 방법론은 유역내의 공간상관성을 재현하며, 평균 및 중간값 등 낮은 차수의 모멘트 등 일강수량 분포특성을 더욱 효과적으로 모의할 수 장점을 확인하였다.

  • PDF

Application of a large-scale climate ensemble simulation data to evaluate the scale of extreme rainfall: The case of 2018 Hiroshima extreme-scale rainfall event (극한 호우의 규모 평가를 위한 대규모 기후 앙상블 자료의 적용: 2018년 히로시마 극한 호우의 사례)

  • Kim, Youngkyu;Son, Minwoo
    • Proceedings of the Korea Water Resources Association Conference
    • /
    • 2022.05a
    • /
    • pp.290-290
    • /
    • 2022
  • 본 연구는 대규모 기후 앙상블 모의 결과를 이용하여 산정된 극한 강우량을 최근 발생한 극한 호우사상의 규모 평가에 적용하는 것을 목적으로 수행되었다. 2018 년 히로시마 호우사상은 지속시간 24 시간에서 재현기간 1,000 년에 상응하는 극한 규모를 나타냈기 때문에 짧은 기간동안 수집된 관측자료만으로 규모를 평가하기 어렵다. 따라서 이를 평가하고자 대규모 기후 앙상블 모의결과 기반의 d4PDF 자료를 이용하였다. 이 자료는 3,000 개의 연 최대 강우자료를 제공하고, 이를 토대로 통계적 모형 및 가정 없이 비모수적으로 10 년부터 1,000 년의 재현기간을 나타내는 지속시간 24 시간의 확률강우량을 산정했다. 산정된 d4PDF 의 확률강우량은 관측강우량의 확률강우량과 비교하였으며, 관측기간에 가까운 50 년의 재현기간에서는 두 확률강우량의 차이가 3.53%였지만 관측기간 (33 년)과 재현기간 (100 년 이상)의 차이가 증가할수록 오차가 10% 이상으로 증가하는 양상을 나타냈다. 이는 장기간 재현기간에서 관측강우량의 확률강우량은 불확실성을 내포하는 것을 의미한다. d4PDF 의 확률강우량에 대해서 2018 년 히로시마 호우사상은 300 년에 가까운 재현기간을 나타냈다. 미래 기후조건에서의 d4PDF 자료를 이용해 확률강우량을산정했으며, 현재 기후조건대비 미래 기후조건에서 10 년부터 1000 년의 재현기간을 나타내는 확률강우량은 모두 20% 이상으로 증가했다. 미래 기후조건의 확률강우량에 대해 2018 년 히로시마 호우사상은 100 년에 가까운 재현기간을 나타냈으며, 이는 미래 기후조건에서 히로시마 호우사상의 발생 확률이 0.33% (현재 기후)에서 1% (미래 기후)로 증가하는 것을 의미한다. 결과적으로, 대규모 기후 앙상블 모의결과 기반의 d4PDF 는 현재 기후조건과 미래 기후조건하에서 극한 규모의 호우사상의 정량적인 평가에 유용하게 활용될 수 있다.

  • PDF

Review on the Application of Regional Frequency Analysis According to the Sample Size of Hydrologic Data (수문자료 크기에 따른 지역빈도해석 적용성 기준 검토)

  • Kim, Kyung Duk;Heo, Jun Haeng
    • Proceedings of the Korea Water Resources Association Conference
    • /
    • 2004.05b
    • /
    • pp.190-194
    • /
    • 2004
  • 본 연구에서는 수문자료에 내한 빈도해석을 수행하는데 있어서 적정할 자료크기가 어느 정도인지를 모의 실험을 동하여 검토하었다. 모의실험 걸과 재현기간 100년인 경우 4.5배, 재현기간 200년인 경우 5배 정도의 자료크기가 될 때 모집단 확률값대 모의 평균된 확률값의 상대오차 $5\%$범위내에 위치하는 것으로 나타났다. 이와 같이 확률분포형, 자료크기, 재현기간에 따라 신뢰한 수 있는 확률수문량을 산정하기 위한 기준(지점 및 지역빈도해석 적용)을 제시하게 되면 현재 국내 실무에서 지역빈도해석을 도입하고자 하는 시점에서 많은 도움이 될 수 있을 것으로 판단된다.

  • PDF

A Study on the Changes of Return Period Considering Nonstationarity of Rainfall Data (강우자료의 비정상성을 고려한 재현기간 변화에 관한 연구)

  • Shin, Hongjoon;Ahn, Hyunjun;Heo, Jun-Haeng
    • Journal of Korea Water Resources Association
    • /
    • v.47 no.5
    • /
    • pp.447-457
    • /
    • 2014
  • This research focuses on the changes of return period for nonstationary rainfall data in which exceedance or nonexceedance probability varies depending on time. We examined two definitions of return period under nonstationarity and also performed nonstationary frequency analysis using the nonstationary Gumbel model to investigate variations of return period in Korea. Seogwipo, Inje, Jecheon, Gumi, Mungyeong, and Geochang were selected as subject sites of application. These sites have a trend in rainfall data as well as having more than 30 years data. As the results of application, the return periods considering nonstationarity are different with those considering stationarity. The differences of return periods between nonstationarity and stationarity increase as growing return period increases. In addition, the return period using the expected waiting time method shows lower value than that using the expected number of event method.

Deelopment of a Multisite Daily Rainfall Simulation Model Using a Machine Learning (기계학습 기법을 이용한 다지점 일강수량 모의 모형 개발)

  • So, Byung-Jin;Kwon, Hyun-Han
    • Proceedings of the Korea Water Resources Association Conference
    • /
    • 2017.05a
    • /
    • pp.83-83
    • /
    • 2017
  • 수자원공학에서 일강수량 모의기법은 다양한 목적으로 활용되고 있지만, 일반적으로 홍수와 가뭄의 영향을 고려할 수 있는 수공구조물의 위험도 및 신뢰성 평가 및 수자원 계획을 수립하기 위한 입력 자료생성을 목적으로 활용된다. 유역 단위의 분석시 단일 지점에 대한 강수 모의 기법을 적용할 경우 각각의 지점에서 관측된 강수 자료의 시계열 및 통계치 특성이 효과적으로 재현되지만 공간적으로 발생하는 즉, 지점 간의 종속관계를 재현하지 못하는 문제가 발생한다. 이러한 이유로 공간적인 전이 특성이 있는 가뭄 분석 및 유역내 유출량의 공간적 변동 특성 분석에 단일지점별 모의 결과를 이용할 경우 관측 자료와 상반된 공간적 변동성으로 인하여 잘못된 가뭄 및 유출 분석 결과가 도출되는 문제점이 있다. 따라서, 실제적으로 발생하는 강수 특성을 반영한 유역 단위의 홍수 및 가뭄 등의 수문 분석을 위해서는 지점간의 종속성을 반영할 수 있는 다지점 강수 모의 모형의 적용이 필수적이다. 본 연구에서는 다지점 모의에 있어서, Wilks 모형의 지점별 시변동 특성과 공간상관성 재현 능력, HMM 모형이 갖는 강수 사상별로 분포된 양적 분포 패턴 재현 능력을 복합적으로 나타낼 수 있는 새로운 다지점 일강수량 모의 모형인 기계학습 기반 범주화 기법을 이용한 다지점 일강수량 모의 모형(ML-MRS)을 개발하였다. 또한, 지점별 강수량에 적용되는 확률분포모형은 Gamma 분포로 구성된 혼합모형을 적용하여 단일 확률 분포 모형의 자료 적합 문제를 개선하였다. 모의를 통한 일강수량 시계열 자료는 일 강수자료의 통계량을 효과적으로 모의하였으며, 다지점 모형의 모의 결과를 적용한 가뭄 모의 결과 관측 자료에서 나타나는 공간적 패턴이 재현되었다. 본 모형은 시 공간적 사상을 효과적으로 재현함으로서 지역의 변동특성을 반영한 가뭄, 홍수, 기상 현상 분석 등 활용도가 매우 높을 것으로 판단된다.

  • PDF