• 제목/요약/키워드: 가중값 조정

검색결과 26건 처리시간 0.036초

신경망 학습의 일반화 성능향상을 위한 초기 가중값과 학습률 그리고 계수조정의 효과 (The Effect of Initial Weight, Learning Rate and Regularized Coefficient on Generalization Performance)

  • 윤여창
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2004년도 추계학술발표논문집(상)
    • /
    • pp.493-496
    • /
    • 2004
  • 본 연구에서는 신경망 학습의 중요한 평가 척도로써 고려될 수 있는 일반화 성능과 학습속도를 개선시키기 위한 방안으로써 초기 가중값과 학습률과 같은 주요 인자들을 이용한 신경망 학습 영향을 살펴본다. 특히 초기 가중값과 학습률을 고정시킨 후 새롭게 조정된 계수들을 점차적으로 변화시키는 새로운 인자 결합방법을 이용하여 신경망 학습량과 학습속도를 비교해 보고 계수조정을 통한 개선된 학습 영향을 살펴본다. 그리고 단순한 예제를 이용한 실증분석을 통하여 신경망 모형의 일반화 성능과 학습 속도 개선을 위한 각 인자들의 개별 효과와 결합 효과를 살펴보고 그 개선 방안을 제시한다.

  • PDF

신경망 학습의 일반화 성능향상을 위한 인자들의 결합효과 (The Joint Effect of factors on Generalization Performance of Neural Network Learning Procedure)

  • 윤여창
    • 정보처리학회논문지B
    • /
    • 제12B권3호
    • /
    • pp.343-348
    • /
    • 2005
  • 본 연구에서는 신경망 학습의 일반화 성능과 학습속도를 개선시키기 위한 인자들의 결합 효과를 살펴본다. 신경망 학습에서 중요한 평가 척도로서 여기서 고려하는 인자들에는 초기 가중값의 범위와 학습률 그리고 계수조정 등이 있다. 특히 초기 가중값과 학습률을 고정시킨 후 새롭게 조정된 계수들을 단계적으로 변화시키는 새로운 인자 결합방법을 이용한다. 이를 통하여 신경망 학습량과 학습속도를 비교해 보고, 계수조정을 통한 개선된 학습 영향을 살펴본다. 그리고 비선형의 단순한 예제를 이용한 실증분석을 통하여 신경망 모형의 일반화 성능과 학습 속도 개선을 위한 각 인자들의 개별 효과와 결합 효과를 살펴보고 그 개선 방안을 논의한다.

고빈도 금융 시계열 실현 변동성을 이용한 가중 융합 변동성의 가중치 선택 (Choice of weights in a hybrid volatility based on high-frequency realized volatility)

  • 윤재은;황선영
    • 응용통계연구
    • /
    • 제29권3호
    • /
    • pp.505-512
    • /
    • 2016
  • 본 연구에서는 금융시계열의 일간 변동성 측정을 위해 가중 융합 방법을 제안하고 있다. 고빈도(high frequency)자료에 기반을 둔 조정된 실현변동성을 계산하고 이를 참 값으로 간주하여 제안된 가중 융합 변동성에서 최적 가중치를 결정하는 과정을 서술하였다. 국내 KOSPI200자료의 1분 단위 고빈도 주가로부터 조정된 실현변동성을 구한 후 최적의 가중 융합 변동성을 제안해 보았다.

일반화 신경망의 개선된 학습 과정을 위한 최적화 신경망 학습률들의 효율성 비교 (A Comparison of the Effects of Optimization Learning Rates using a Modified Learning Process for Generalized Neural Network)

  • 윤여창;이성덕
    • 응용통계연구
    • /
    • 제26권5호
    • /
    • pp.847-856
    • /
    • 2013
  • 본 연구에서는 Liu 등의 학습 알고리즘과 Wu와 Zhang의 초기 가중값의 범위 설정, 그리고 Gunaseeli와 Karthikeyan의 초기 가중값에 관한 연구 결과를 이용하여 일반화 네트워크를 구할 수 있는 개선된 학습을 제안하고, 최적화된 신경망 학습률들을 이용하여 개선된 학습 과정의 학습효율등을 비교해 본다. 제시된 알고리즘을 이용한 학습에서 학습 초기에는 가장 단순한 학습 패턴과 은닉층으로부터 학습을 시작한다. 신경망 학습과정 중에 지역 최소값에 수렴되는 경우에는 가중값 범위 조정을 통하여 지역 최소값 문제를 해결하고, 지역 최소값으로부터 탈출이 용이하지 않으면 은닉노드를 점차적으로 하나씩 추가하면서 학습한다. 각 단계에서 새롭게 추가된 노드에 대한 초기 가중값의 선택은 이차계획법을 이용한 최적 처리절차를 이용한다. 최적 처리절차는 은닉층의 노드가 추가된 후의 새로운 네트워크에서 학습회수를 단순히 증가시키지 않아도 주어진 학습 허용오차를 만족시킬 수 있다. 본 연구에서 적용한 개선된 알고리즘을 이용하면서 초기 가중값들에 관한 기존 연구들을 적용하면 신경망 학습시의 수렴 정도를 높여주고 최소한의 단순 구조를 갖는 일반화 네트워크로 추정할 수 있게 된다. 이러한 학습률들을 변화시키는 모의실험을 통하여 기존의 연구 결과와의 학습 효율을 비교하고 향후 연구 방향을 제시하고자 한다.

주거 실태 및 수요조사 표본설계 (Sample Design in Korea Housing Survey)

  • 변종석;최재혁
    • 한국조사연구학회지:조사연구
    • /
    • 제11권1호
    • /
    • pp.123-144
    • /
    • 2010
  • 지역별 계층별 주거실태 파악을 위한 주거 실태 및 수요조사의 새로운 표본설계는 전국 16개 시도별로 조사결과의 독립추계가 가능하도록 설계하는 것을 원칙으로 하여 총 45개의 층으로 층화한다. 조사의 표본오차 관리 대상 변수로 주택사용면적, 가구소득, 가구주 소득, 가구 생활비 등을 고려하여 표본규모를 결정한다. 각 지역의 표본크기는 기존조사의 결과 중 상대표준오차를 이용하여 결정하고 세부 층에 대한 표본배정은 가구 수의 제곱근비례 배정방법을 적용한다. 표본조사구의 추출은 조사구의 크기에 비례한 확률비례계통추출법으로 추출하고 계통추출에 있어서는 추출단위를 분류지표에 따라 정렬한 후 추출한다. 주택의 재건축, 재개발 등의 변화를 반영하기 위해 신규 아파트 단지를 고려하되 주택은 멸실에 대한 자료를 얻기 어렵기 때문에 신규 주택은 고려하지 않는다. 가중값은 설계가중값, 무응답 조정, 사후층화 조정의 과정을 통해 추정량과 분산 추정량에 이용한다. 추정의 효율을 살펴보기 위해 분산추정량의 설계효과를 계산한다.

  • PDF

전기 임피던스 단층촬영을 위한 지수적으로 가중된 최소자승법을 이용한 수정된 조정 Newton-Raphson 알고리즘 (Regularized Modified Newton-Raphson Algorithm for Electrical Impedance Tomography Based on the Exponentially Weighted Least Square Criterion)

  • 김경연;김봉석
    • 전기전자학회논문지
    • /
    • 제4권2호
    • /
    • pp.249-256
    • /
    • 2000
  • 전기 임피던스 단층촬영에서는, 각기 다른 주입 전류패턴에 의해 유기된 경계면의 전압 값을 이용하여 다양한 복원 알고리즘에 의해 물체의 내부 저항률(전도율) 분포를 추정한다. 본 논문에서는, 부가적인 사전 정보를 soft 제약조건으로 비용함수에 추가하고, 비용함수의 가중행렬을 지수적으로 가중된 최소자승법에 근거하여 선택하는 수정된 조정 Newton-Raphson(mNR) 법을 제안한다. 32채널에 대한 컴퓨터 시뮬레이션 결과, 제안된 방법은 기존의 조정 mNR 법에 비해 계산부담은 약간 증가하지만 복원성능이 개선됨을 보인다.

  • PDF

가계금융조사를 활용한 단위무응답 조정효과 분석 (Analysis on the Effect of Unit Non-Response Adjustment using the Survey of Household Finances)

  • 백지선;심규호
    • 응용통계연구
    • /
    • 제26권3호
    • /
    • pp.375-387
    • /
    • 2013
  • 통계조사에서 단위 무응답은 표본크기를 축소시켜 추정값의 효율을 떨어뜨릴 뿐만 아니라, 주요 관심변수에 대해 응답자와 무응답자간의 차이가 존재하는 경우 무응답 편향(bias)을 발생시키는 요인으로 일반적으로 가중값 조정방법을 이용하여 보정한다. 대부분의 조사에서 무응답 표본에 대한 정보를 얻는 것은 현실적으로 매우 어려우며, 무응답으로 인한 추정값의 편향 정도를 파악하는 것 또한 쉽지 않다. 통계청에서는 2010년, 2011년 가구패널조사인 가계 금융조사를 실시하였다. 2010년 1차 웨이브는 1만 가구에 대해 모두 응답한 정보를 가지고 있으며, 2011년 2차 웨이브에는 부재, 거부 등으로 인한 무응답 표본(약 10%)이 존재한다. 본 연구에서는 2차 웨이브의 무응답 표본들을 무응답 성향이 강한 표본으로 가정하고 1차 웨이브에서 무응답가구로 분류한 후 무응답 가구의 특성과 무응답 편향정도 및 무응답 조정 효과를 분석하였다.

가구 패널조사에서의 가중치 조정에 관한 연구 (A Study on the Weight Adjustment Method for Household Panel Survey)

  • 남궁평;변종석;임찬수
    • 응용통계연구
    • /
    • 제22권6호
    • /
    • pp.1315-1329
    • /
    • 2009
  • 미국 노동통계청에서 사용하고 있는 BLS 방법의 효율성과 민감성에 관한 연구 결과에 의하면 표본 틀(Sample frame) 자료와 조사된 자료의 상관관계가 높을수록 BLS 무응답 보정 효과는 커지는 것으로 알려져 있다 (이석진과 신기일, 2008). 그러나 표본 틀 자료와 조사된 자료의 상관계수가 층별로 크기가 다른 경우, BLS 보정 효과는 달라질 수 있다. 따라서 일반적으로 실시되는 표본 설계에서는 층화추출 방법이 사용되기 때문에 각 층의 표본 크기와 상관계수가 다른 경우의 BLS 보정 효과률 살펴보는 것은 매우 중요하다. 본 논문에서는 층의 표본 크기와 상관계수 그리고 무응답 비율에 따른 BLS 무응답 보정 효과를 살펴보았다. 이를 위해 사용된 자료는 노동부의 월별 자료인 2007년 매월노동통계 자료이다.

사용자 기반과 아이템 기반 협업여과 추천기법에 관한 실증적 연구 (A Empirical Study on Recommendation Schemes Based on User-based and Item-based Collaborative Filtering)

  • 김예나;최인복;박태근;이재동
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2008년도 추계학술발표대회
    • /
    • pp.714-717
    • /
    • 2008
  • 협업여과 추천기법에는 사용자 기반 협업여과와 아이템 기반 협업여과가 있으며, 절차는 유사도 측정, 이웃 선정, 예측값 생성 단계로 이루어진다. 유사도 측정 단계에는 유클리드 거리(Euclidean Distance), 코사인 유사도(Cosine Similarity), 피어슨 상관계수(Pearson Correlation Coefficient) 방법 등이 있고, 이웃 선정 단계에는 상관 한계치(Correlation-Threshold), 근접 N 이웃(Best-N-Neighbors) 방법 등이 있다. 마지막으로 예측값 생성 단계에는 단순평균(Simple Average), 가중합(Weighted Sum), 조정 가중합(Adjusted Weighted Sum) 등이 있다. 이처럼 협업여과 추천기법에는 다양한 기법들이 사용되고 있다. 따라서 본 논문에서는 사용자 기반 협업여과와 아이템 기반 협업여과 추천기법에 사용되는 유사도 측정 기법과 예측값 생성 기법의 최적화된 조합을 알아보기 위해 성능 실험 및 비교 분석을 하였다. 실험은 GroupLens의 MovieLens 데이터 셋을 활용하였고 MAE(Mean Absolute Error)값을 이용하여 추천기법을 비교 하였다. 실험을 통해 유사도 측정 기법과 예측값 생성 기법의 최적화된 조합을 찾을 수 있었고, 사용자 기반 협업여과와 아이템 기반 협업여과의 성능비교를 통해 아이템 기반 협업여과의 성능이 보다 우수했음을 확인 하였다.

표면 파라미터 계산시 모델링 인자에 따른 조정계산 추정 성능의 사전 비교분석 (A-priori Comparative Assessment of the Performance of Adjustment Models for Estimation of the Surface Parameters against Modeling Factors)

  • 서수영
    • Spatial Information Research
    • /
    • 제19권2호
    • /
    • pp.29-36
    • /
    • 2011
  • 본 연구는 표면 파라미터 추정시 고려하는 주요 인자별로 각 조정모델들을 분류하고 그들의 추정정확도를 사전분석함으로써 이들 모델링 인자들이 각 대상파라미터의 추정에 주는 영향을 정량적으로 분석하였다. 현재 지표면형상에 대한 정보를 취득하기 위하여 라이다영상, 항공영상, SAR영상 등 다양한 자료가 활용되고 있고, 이들로부터 지표면 형상을 정량적으로 분석하기 위해서는 임의지점 주위의 관측값들을 이용하여 해당 지점의 형상을 구체적으로 파악하게 된다. 이러한 형상정보는 관측값 범위지정, 가중치방식, 그리고 수학적모델링 등 여러 인자들을 선정하여 산정할 수 있지만, 각 선정인자에 따라 표면의 형상정보는 다르게 산정되고 또한 그 정확도도 상이하게 된다. 따라서, 본 연구에서는 표면의 형상정보추출시 조정계산 인자들 따른 이러한 정확도를 비교함으로써 인자별 추정 정확도 변화 경향에 대한 진단을 실시하였다. 본 연구에서는 표면형상정보로 표고, 경사, 곡면의 2차계수를 대상으로 하고, 수학적함수, 커널크기, 가중유형별로 조정계산모델들을 구성하여 사전통계량을 계산하였고, 이에 따라 전통계량 변화를 비교 분석함으로써, 각 조정모델의 추정성능을 조정계산인자에 따라 정량적으로 비교분석하였다.