• Title/Summary/Keyword: 오차함수

Search Result 1,379, Processing Time 0.026 seconds

Characteristics of Extended Cross-Entropy Error Function (확장된 크로스 엔트로피 오차함수의 특성)

  • Oh, Sang-Hoon
    • Proceedings of the Korea Contents Association Conference
    • /
    • 2014.11a
    • /
    • pp.39-40
    • /
    • 2014
  • 신경회로망의 학습을 위하여 크로스 엔트로피 오차함수가 사용되며, 이의 성능향상을 위하여 확장된 크로스 엔트로피 함수도 제시되었다. 크로스 엔트로피 오차함수는 정보이론에서 제시된 상대 엔트로피(relative entropy)에서 유도된 함수이다. 상대 엔트로 피는 두 확률밀도함수의 발산(divergence) 함수이다. 이 논문에서는 상대 엔트로피와 크로스 엔트로피 관계를 파악한 후, 이를 기반으로 확장된 크로스 엔트로피에 상응하는 새로운 엔트로피 발산 함수를 n=2와 4인 경우에 대하여 유도한다.

  • PDF

A New Hidden Error Function for Training of Multilayer Perceptrons (다층 퍼셉트론의 층별 학습 가속을 위한 중간층 오차 함수)

  • Oh Sang-Hoon
    • The Journal of the Korea Contents Association
    • /
    • v.5 no.6
    • /
    • pp.57-64
    • /
    • 2005
  • LBL(Layer-By-Layer) algorithms have been proposed to accelerate the training speed of MLPs(Multilayer Perceptrons). In this LBL algorithms, each layer needs a error function for optimization. Especially, error function for hidden layer has a great effect to achieve good performance. In this sense, this paper proposes a new hidden layer error function for improving the performance of LBL algorithm for MLPs. The hidden layer error function is derived from the mean squared error of output layer. Effectiveness of the proposed error function was demonstrated for a handwritten digit recognition and an isolated-word recognition tasks and very fast learning convergence was obtained.

  • PDF

Optimal Solutions for Various Error Functions (패턴인식을 위한 오차함수의 최적해)

  • Oh, Sang-Hoon
    • Proceedings of the Korea Contents Association Conference
    • /
    • 2011.05a
    • /
    • pp.9-10
    • /
    • 2011
  • 패턴인식 문제의 학습을 위하여 여러 형태의 오차 함수들이 제안되었다. 이 논문에서는 이들 오차함수들에 대하여 그 특징을 통계학적으로 분석하여 비교하였다. 이 분석결과는 패턴인식기의 학습에 있어서 적합한 오차함수를 선정하는 이론적 토대를 마련해준다.

  • PDF

Color Channel Compensating L1 Loss Algorithm (색의 채널을 보상하는 L1 손실 알고리즘)

  • Kim, Bumsik;Lee, Seongjin
    • Proceedings of the Korean Society of Computer Information Conference
    • /
    • 2020.01a
    • /
    • pp.25-26
    • /
    • 2020
  • 본 논문에서는 머신러닝을 이용한 이미지 생성을 위한 새로운 오차 함수모델을 제안한다. 제안된 함수모델은 기존 오차함수가 반영하지 못하던 채널 간 오차비율정보를 반영하여 기존 오차함수에 비해 빠른 초기 수렴속도와 더 좋은 FID값을 보인다. 본 논문에서는 하나의 네트워크 모델을 통해 기존의 오차함수모델에 비해서 우수함을 보인다.

  • PDF

A New Hidden Error Function for Layer-By-Layer Training of Multi layer Perceptrons (다층 퍼셉트론의 층별 학습을 위한 중간층 오차 함수)

  • Oh Sang-Hoon
    • Proceedings of the Korea Contents Association Conference
    • /
    • 2005.11a
    • /
    • pp.364-370
    • /
    • 2005
  • LBL(Layer-By-Layer) algorithms have been proposed to accelerate the training speed of MLPs(Multilayer Perceptrons). In this LBL algorithms, each layer needs a error function for optimization. Especially, error function for hidden layer has a great effect to achieve good performance. In this sense, this paper proposes a new hidden layer error function for improving the performance of LBL algorithm for MLPs. The hidden layer error function is derived from the mean squared error of output layer. Effectiveness of the proposed error function was demonstrated for a handwritten digit recognition and an isolated-word recognition tasks and very fast learning convergence was obtained.

  • PDF

The Derivation of Error Estimates with Various Shape Functions for Time Integration Using Finite Element Approach (유한요소 기법을 적용한 시간적분법에서 형상함수에 따른 오차추정치 유도)

  • 장인식;맹주원;김동호
    • Computational Structural Engineering
    • /
    • v.11 no.4
    • /
    • pp.187-196
    • /
    • 1998
  • 불연속 갤러킨 정식화에 기초를 둔 시간적분법에 대하여 시간을 변수로 한 유한요소적 접근법을 시도하였다. 단일 형상함수와 두 형상함수 정식화에 대해 각각 선형, 이차 형상함수를 적용하여 모두 네 종류의 시간적분법을 유도하였으며, 각 방법에 대하여 시간시텝의 증가에 따른 변위와 속도의 관계를 나타내는 증폭행렬을 계산하였다. 유도된 방법들의 성능을 평가하기 위하여 부하가 갑자기 변화는 진동 문제를 해석하고 변위의 오차를 비교하였다. 네 가지의 방법에 대하여 국부 오차 추정치를 개발하였으며, 오차 추정치의 정확도를 수치예를 이용하여 평가하였다. 단일 형상함수 정식화에서 이차 형상함수를 이용한 오차 추정치가 실제 국부오차를 잘 나타내었으며 유도된 오차 추정치는 시간간격제어 기법에서 시간간격의 크기를 결정하는 척도로 이용 가능하다.

  • PDF

다중경로 오차 제거를 위한 새로운 상관기 설계

  • Jang, Han-Jin;Kim, Jeong-Won;Hwang, Dong-Hwan;Lee, Sang-Jeong;Yeom, Cheol-Mun
    • Proceedings of the Korean Institute of Navigation and Port Research Conference
    • /
    • v.2
    • /
    • pp.612-615
    • /
    • 2006
  • 본 논문에서는 Late 암으로부터 측정된 상관 값을 보정하여 상관함수의 비대칭을 완화시키고 다중경로 신호 오차를 제거하는 새로운 상관기 설계법을 제안하였다. 다중경로 오차에 의한 신호 추적 오차는 상관함수의 Early-Late 간 비대칭과 관련이 있으므로, 다중상관기 구조를 이용하여 상관함수의 Early-Late간 상관값 차를 측정하면 상관함수의 비대칭 정도를 추정할 수 있다. 상관값 차를 이용하여 추정한 상관함수 비대칭을 감소시키면 다중경로 신호에 의한 코드 추적 오차를 줄일 수 있다. 제안한 상관기는 4개의 암과 보정치 생성 블록으로 구성된다. 제안한 상관기의 다중경로 오차 제거 성능은 시뮬레이션을 이용하여 확인하였다. 여러 가지 지연시간 및 신호 진폭을 가지는 다중경로 신호에 대하여 일반 수신기와의 위상 추적 오차를 비교하여 성능을 평가하였다. 시뮬레이션 결과에서 제안한 상관기는 우수한 다중경로 오차 제거 성능을 가지며 일반상관기와 유사한 평균 신호 획득시간을 가짐을 알 수 있다.

  • PDF

Structural Safety Assessment Using Equation Error Function and Response Error Function (방정식 오차함수와 응답 오차함수를 사용한 구조 안전성 평가)

  • Park, Woo-Jin
    • Journal of the Korea Academia-Industrial cooperation Society
    • /
    • v.10 no.10
    • /
    • pp.2819-2830
    • /
    • 2009
  • Load bearing structural members in a wide variety of applications accumulate damage over their service life. During experiment much effort and cost is needed for measuring structural safety assessment. The sparseness and errors of measured data have to be considered during the safety estimation of structures. This paper introduces parameter estimation and damage identification algorithm by a system identification using static and dynamic response. The equation error estimator and response error widely used in system identification are based on the minimization of least squared error between measured and calculated responses by a mathematical model of a structure. Since each estimator has a specific form of application in noisy environment and proposes different definitions for these forms. To study the behaviour of the estimators in noisy environment Using Monte Carlo simulation, and a data measured pertubation scheme is adopted to investigate the influence of measurement errors on identification results. The assessment result by static and dynamic response were compared, and the efficiency and applicabilities of the proposed algorithm are demonstrated through simulated static and dynamic responses of a dimensional truss type structures.

Adaptive Learning Rate and Limited Error Signal to Reduce the Sensitivity of Error Back-Propagation Algorithm on the n-th Order Cross-Entropy Error (오류 역전파 알고리즘의 n차 크로스-엔트로피 오차신호에 대한 민감성 제거를 위한 가변 학습률 및 제한된 오차신호)

  • 오상훈;이수영
    • Journal of the Korean Institute of Telematics and Electronics C
    • /
    • v.35C no.6
    • /
    • pp.67-75
    • /
    • 1998
  • Although the nCE(n-th order cross-entropy) error function resolves the incorrect saturation problem of conventional EBP(error back-propagation) algorithm, the performance of MLP's (multilayer perceptrons) trained using the nCE function depends heavily on the order of the nCE function. In this paper, we propose an adaptive learning rate to make the performance of MLP's insensitive to the order of the nCE error. Additionally, we propose a limited error signal of output node to prevent unstable learning due to the adaptive learning rate. The effectiveness of the proposed method is demonstrated in simulations of handwritten digit recognition and thyroid diagnosis tasks.

  • PDF

Skill Assessments for Evaluating the Performance of the Hydrodynamic Model (해수유동모델 검증을 위한 오차평가방법 비교 연구)

  • Kim, Tae-Yun;Yoon, Han-Sam
    • Journal of the Korean Society for Marine Environment & Energy
    • /
    • v.14 no.2
    • /
    • pp.107-113
    • /
    • 2011
  • To evaluate the performance of the hydrodynamic model, we introduced 10 skill assessments that are assorted by two groups: quantitative skill assessments (Absolute Average Error or AAE, Root Mean Squared Error or RMSE, Relative Absolute Average Error or RAAE, Percentage Model Error or PME) and qualitative skill assessments (Correlation Coefficient or CC, Reliability Index or RI, Index of Agreement or IA, Modeling Efficiency or MEF, Cost Function or CF, Coefficient of Residual Mass or CRM). These skill assessments were applied and calculated to evaluate the hydrodynamic modeling at one of Florida estuaries for water level, current, and salinity as comparing measured and simulated values. We found that AAE, RMSE, RAAE, CC, IA, MEF, CF, and CRM are suitable for the error assessment of water level and current, and AAE, RMSE, RAAE, PME, CC, RI, IA, CF, and CRM are good at the salinity error assessment. Quantitative and qualitative skill assessments showed the similar trend in terms of the classification for good and bad performance of model. Furthermore, this paper suggested the criteria of the "good" model performance for water level, current, and salinity. The criteria are RAAE < 10%, CC > 0.95, IA > 0.98, MEF > 0.93, CF < 0.21 for water level, RAAE < 20%, CC > 0.7, IA > 0.8, MEF > 0.5, CF < 0.5 for current, and RAAE < 10%, PME < 10%, CC > 0.9, RI < 1.15, CF < 0.1 for salinity.