• 제목/요약/키워드: 일반화 성능

검색결과 590건 처리시간 0.027초

적응적 정규화 자연기울기 학습과 자연프루닝을 통한 신경망의 일반화 성능 향상 (Improving Generalization in Neural Networks using Natural Gradient Learning with Adaptive Regularization and Natural Pruning)

  • 이현진;박혜영;지태창;이일병
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2002년도 봄 학술발표논문집 Vol.29 No.1 (B)
    • /
    • pp.265-267
    • /
    • 2002
  • 본 논문에서는 적응적 정규화 자연기울기 학습법과 자연 프루닝(pruning) 방법의 결합을 통하여 일반화 성능이 우수만 신경망을 구성하고자 한다. 먼저 적응적 정규화 자연기울기 학습을 통하여 신경망의 가중치를 최적화 시키고, 자연 프루닝에 의하여 신경망의 구조를 단순화 시킨다. 이러한 모델들 중 최적의 모델은 베이시안 정보 기준에 의해 선택함으로써 일반화 성능이 우수만 신경망을 구성하는 방법을 제안한다 벤치마크 (benchmark) 데이터로 제안하는 방법과 유클리디안(Euclidean) 거리에 기반한 결합 방법과 자연 프루닝만을 적용한 방법을 비교함으로써 우수성을 검증한다.

  • PDF

신경망 학습의 일반화 성능향상을 위한 초기 가중값과 학습률 그리고 계수조정의 효과 (The Effect of Initial Weight, Learning Rate and Regularized Coefficient on Generalization Performance)

  • 윤여창
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2004년도 추계학술발표논문집(상)
    • /
    • pp.493-496
    • /
    • 2004
  • 본 연구에서는 신경망 학습의 중요한 평가 척도로써 고려될 수 있는 일반화 성능과 학습속도를 개선시키기 위한 방안으로써 초기 가중값과 학습률과 같은 주요 인자들을 이용한 신경망 학습 영향을 살펴본다. 특히 초기 가중값과 학습률을 고정시킨 후 새롭게 조정된 계수들을 점차적으로 변화시키는 새로운 인자 결합방법을 이용하여 신경망 학습량과 학습속도를 비교해 보고 계수조정을 통한 개선된 학습 영향을 살펴본다. 그리고 단순한 예제를 이용한 실증분석을 통하여 신경망 모형의 일반화 성능과 학습 속도 개선을 위한 각 인자들의 개별 효과와 결합 효과를 살펴보고 그 개선 방안을 제시한다.

  • PDF

CutMix 알고리즘 기반의 일반화된 밀 머리 검출 모델 (Generalized wheat head Detection Model Based on CutMix Algorithm)

  • 여주원;박원준
    • 한국컴퓨터정보학회:학술대회논문집
    • /
    • 한국컴퓨터정보학회 2024년도 제69차 동계학술대회논문집 32권1호
    • /
    • pp.73-75
    • /
    • 2024
  • 본 논문에서는 밀 수확량을 증가시키기 위한 일반화된 검출 모델을 제안한다. 일반화 성능을 높이기 위해 CutMix 알고리즘으로 데이터를 증식시켰고, 라벨링 되지 않은 데이터를 최대한 활용하기 위해 Fast R-CNN 기반 Pseudo labeling을 사용하였다. 학습의 정확성과 효율성을 높이기 위해 사전에 훈련된 EfficientDet 모델로 학습하였으며, OOF를 이용하여 검증하였다. 최신 객체 검출 모델과 IoU(Intersection over Union)를 이용한 성능 평가 결과, 제안된 모델이 가장 높은 성능을 보이는 것을 확인하였다.

  • PDF

진화학습을 이용한 다중에이전트의 일반화 성능향상을 위한 전략적 연합 (Strategic Coalition for Improving Generalization Ability of Multi-agent with Evolutionary Learning)

  • 양승룡;조성배
    • 한국정보과학회논문지:소프트웨어및응용
    • /
    • 제31권2호
    • /
    • pp.101-110
    • /
    • 2004
  • 사회시스템이나 경제시스템 같이 동적으로 변하는 시스템에서는 그 구성원들 간에 복잡한 상호작용(행동)이 나타나게 되는데 구성원들의 행동은 변화하는 환경에 따라 적응하는 경향을 보인다. 그리고 이들의 행동양상은 흔히 생물학 분야의 조건반사에 비유되기도 한다. 본 논문에서는 복잡한 사회 현상을 모델링하고 분석하기 위하여 반복적 죄수의 딜레마 게임 상에서 에이전트들의 전략적 연합을 통하여 변화하는 환경에 잘 적응하는 일반화 능력이 우수한 에이전트들을 자동 생성하는 방법을 제안한다. 또한 에이전트에 신뢰도를 부여하여 연하의 의사결정에 참가하게 함으로써 일반화 성능을 향상시키는 방법을 소개한다 실험결과, 전략적 연합을 이용하여 진화된 에이전트들은 테스트 에이전트들에 비하여 일반화 성능이 우수함을 확인할 수 있었다.

감마 일반화 선형 모형에서의 가능도비 검정과 F-검정 비교연구 (Comparing the performance of likelihood ratio test and F-test for gamma generalized linear models)

  • 조성일;한정섭;이우주
    • 응용통계연구
    • /
    • 제31권4호
    • /
    • pp.475-484
    • /
    • 2018
  • 감마 일반화 선형모형은 음이 아니며 치우침이 있는 반응변수에 유용한 모형으로 알려져 있다. 그러나 포아송 분포 또는 이항 분포에 기반한 일반화 선형모형에 비해 적은 관심을 받아왔다. 특히, 회귀계수의 유의성 검정에 대해서는 연구가 면밀히 되어 있지 않다. 본 논문에서는 감마 일반화 선형 모형의 검정에 대해 다양한 통계량들을 알아보고 수치 연구를 통해 그들의 성능을 비교한다. 수치 실험의 결과 부분 이탈도 검정 방법의 문제점이 나타났으며, 가능도비 검정 방법과 F-검정 방법이 좋은 성능을 보임을 확인하였다.

지도 일반화를 위한 위상적 일관성 유지 (Topological Consistency in Map Generalization)

  • 최신영;이성희;이기준
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 1998년도 가을 학술발표논문집 Vol.25 No.2 (1)
    • /
    • pp.158-160
    • /
    • 1998
  • 지도 제작에 있어서, 기존의 구축된 대축척의 원천 데이터로부터 소축척의 목적 데이터를 추출해 냄으로 데이터 구축을 중복되지 않고 효율적으로 할 수 있게 하는 것을 지도 일반화라고 한다. 초기의 선을 단순화하는 알고리즘 개발과 향상에 대한 연구로부터, 최근에는 자동화를 위한 지식 기반 일반화 및 데이터 품질에 대한 많은 관심과 연구가 진행되고 있다. 최근에 지리 정보 시스템의 발전으로 다양한 공간 분석이 필요하고, 그 성능 향상을 위하여 위상 정보를 구축하게 된다. 그러므로, 본 논문에서는 위상 정보를 가진 원천 데이터 베이스에서, 일반화 연산자가 적용됨으로 발생하게 되는 위상 데이터의 손실과 불일치를 해결하기 위하여 일반화 연산자들이 위상 정보에 미치는 영향과 이를 해결하기 위한 규칙들을 제시한다. 그리고, 지도 일반화 과정에서 위상 정보의 일관성을 유지한 목적 데이터 베이스를 구축하는 시스템을 구현하는 것이 본 논문의 목적이다.

자연 프루닝과 베이시안 선택에 의한 신경회로망 일반화 성능 향상 (Improving Generalization Performance of Neural Networks using Natural Pruning and Bayesian Selection)

  • 이현진;박혜영;이일병
    • 한국정보과학회논문지:소프트웨어및응용
    • /
    • 제30권3_4호
    • /
    • pp.326-338
    • /
    • 2003
  • 신경회로망 설계 및 모델선택의 목표는 최적의 구조를 가지는 일반화 성능이 우수한 네트워크를 구성하는 것이다. 하지만 학습데이타에는 노이즈(noise)가 존재하고, 그 수도 충분하지 않기 때문에 최종적으로 표현하고자 하는 진확률 분포와 학습 데이타에 의해 표현되는 경험확률분포(empirical probability density) 사이에는 차이가 발생한다. 이러한 차이 때문에 신경회로망을 학습데이타에 대하여 과다하게 적합(fitting)시키면, 학습데이타만의 확률분포를 잘 추정하도록 매개변수들이 조정되어 버리고, 진확률 분포로부터 멀어지게 된다. 이러한 현상을 과다학습이라고 하며, 과다학습된 신경회로망은 학습데이타에 대한 근사는 우수하지만, 새로운 데이타에 대한 예측은 떨어지게 된다. 또한 신경회로망의 복잡도가 증가 할수록 더 많은 매개변수들이 노이즈에 쉽게 적합되어 과다학습 현상은 더욱 심화된다. 본 논문에서는 통계적인 관점을 바탕으로 신경회로망의 일반화 성능을 향상시키는 신경회로 망의 설계 및 모델 선택의 통합적인 프로세스를 제안하고자 한다. 먼저 학습의 과정에서 적응적 정규화가 있는 자연기울기 학습을 통해 수렴속도의 향상과 동시에 과다학습을 방지하여 진확률 분포에 가까운 신경회로망을 얻는다. 이렇게 얻어진 신경회로망에 자연 프루닝(natural pruning) 방법을 적용하여 서로 다른 크기의 후보 신경회로망 모델을 얻는다. 이러한 학습과 복잡도 최적화의 통합 프로세스를 통하여 얻은 후보 모델들 중에서 최적의 모델을 베이시안 정보기준에 의해 선택함으로써 일반화 성능이 우수한 최적의 모델을 구성하는 방법을 제안한다. 또한 벤치마크 문제를 이용한 컴퓨터 시뮬레이션을 통하여, 제안하는 학습 및 모델 선택의 통합프로세스의 일반화 성능과 구조 최적화 성능의 우수성을 검증한다.

준정적 플랫 페이딩 채널에서 시공간 트렐리스 부호의 일반화된 부최적 복호법 (Generalized Sub-optimum Decoding for Space-Time Trellis Codes in Quasistatic Flat Fading Channel)

  • 김영주;신상섭;강현수
    • 대한전자공학회논문지TC
    • /
    • 제43권1호
    • /
    • pp.89-94
    • /
    • 2006
  • 준정적 플랫 페이딩 환경에서 시공간 트렐리스 부호의 준최적 복호법인 principal ratio combining(PRC) 기법[1]의 일반화된 버전을 제안한다. [1]에서는 수신 안테나의 수가 증가함에 따라 성능 저하 폭이 증가하는 문제가 있다. 제안하는 방식은 수신 안테나들을 K개의 그룹으로 나누어 각 그룹에 PRC 기법을 적용하는 일반화된 PRC 기법이다. 일반화된 PRC에서는 수신 안테나의 수가 증가하여도 기존의 PRC 기법에 비해 성능 저하 폭이 상당히 감소한다. 그러나 복호기의 복잡도는 다소 증가한다. 따라서 시스템의 QoS(qualify of service), 성능 및 복잡도의 tradeoff에서 적당한 K를 선택해야만 한다 또한, 수신 안테나 수가 증가함에 따라, K개로 그룹핑하는 방법이 여러 가지 나을 수 있는데, 각 경우에 최종 성능 차이를 간단히 예측할 수 있는 성능지표(performance index, PI)를 제안한다.

일반화된 정규-라플라스 분포를 이용한 음성검출기 (Voice Activity Detection employing the Generalized Normal-Laplace Distribution)

  • 김상균;권장우;이상민
    • 한국멀티미디어학회논문지
    • /
    • 제17권3호
    • /
    • pp.294-299
    • /
    • 2014
  • 본 논문에서는 일반화된 정규-라플라스(generalized normal-Laplace) 분포 기반의 음성 검출기(voice activity detection) 알고리즘을 제안한다. 제안된 알고리즘은, 잡음 섞인 음성 신호의 확률밀도함수를 일반화된 정규-라플라스 분포로 표현한 다음, 일반화된 정규-라플라스 분포의 음성과 잡음의 분산을 고차 모멘트(higher order moments)를 이용하여 추정한다. 제안된 알고리즘은 다양한 조건의 잡음 환경에서 기존의 음성 검출기들과 비교하였으며 향상된 성능을 보였다.

국부 통계 특성 및 일반화된 Gaussian 필터를 이용한 적응 노이즈 제거 방식 (An Adaptive Noise Removal Method Using Local Statistics and Generalized Gaussian Filter)

  • 송원선;응웬뚜안안;홍민철
    • 한국통신학회논문지
    • /
    • 제35권1C호
    • /
    • pp.17-23
    • /
    • 2010
  • 본 논문에서는 국부 통계 및 일반화된 Gaussian 필터를 이용한 적응 노이즈 제거 방식으로, 인간 시각 시스템 기반의 국부 통계 특성을 이용하여 적응적으로 노이즈 검출하는 기법과 검출된 노이즈를 효과적으로 제거하기 위한 일반화된 Gaussian 필터 기법에 대해 제안한다. 제안방식의 성능을 기존 방식과 비교하여 객관적, 주관적 성능이 우수함을 확인할 수 있었다.