• 제목/요약/키워드: Generalization Error

검색결과 110건 처리시간 0.022초

Data-Adaptive ECOC for Multicategory Classification

  • Seok, Kyung-Ha
    • Journal of the Korean Data and Information Science Society
    • /
    • 제19권1호
    • /
    • pp.25-36
    • /
    • 2008
  • Error Correcting Output Codes (ECOC) can improve generalization performance when applied to multicategory classification problem. In this study we propose a new criterion to select hyperparameters included in ECOC scheme. Instead of margins of a data we propose to use the probability of misclassification error since it makes the criterion simple. Using this we obtain an upper bound of leave-one-out error of OVA(one vs all) method. Our experiments from real and synthetic data indicate that the bound leads to good estimates of parameters.

  • PDF

A GENERALIZATION OF THE ADAMS-BASHFORTH METHOD

  • Hahm, Nahm-Woo;Hong, Bum-Il
    • 호남수학학술지
    • /
    • 제32권3호
    • /
    • pp.481-491
    • /
    • 2010
  • In this paper, we investigate a generalization of the Adams-Bashforth method by using the Taylor's series. In case of m-step method, the local truncation error can be expressed in terms of m - 1 coefficients. With an appropriate choice of coefficients, the proposed method has produced much smaller error than the original Adams-Bashforth method. As an application of the generalized Adams-Bashforth method, the accuracy performance is demonstrated in the satellite orbit prediction problem. This implies that the generalized Adams-Bashforth method is applied to the orbit prediction of a low-altitude satellite. This numerical example shows that the prediction of the satellite trajectories is improved one order of magnitude.

시계열 예측을 위한 1, 2차 미분 감소 기능의 적응 학습 알고리즘을 갖는 신경회로망 (A neural network with adaptive learning algorithm of curvature smoothing for time-series prediction)

  • 정수영;이민호;이수영
    • 전자공학회논문지C
    • /
    • 제34C권6호
    • /
    • pp.71-78
    • /
    • 1997
  • In this paper, a new neural network training algorithm will be devised for function approximator with good generalization characteristics and tested with the time series prediction problem using santaFe competition data sets. To enhance the generalization ability a constraint term of hidden neuraon activations is added to the conventional output error, which gives the curvature smoothing characteristics to multi-layer neural networks. A hybrid learning algorithm of the error-back propagation and Hebbian learning algorithm with weight decay constraint will be naturally developed by the steepest decent algorithm minimizing the proposed cost function without much increase of computational requriements.

  • PDF

L^INFINITY ERROR ESTIMATES FOR FINITE DIFFERENCE SCHEMES FOR GENERALIZED CAHN-HILLIARD AND KURAMOTO-SIVASHINSKY EQUATIONS

  • Choo, S.M.
    • Journal of applied mathematics & informatics
    • /
    • 제23권1_2호
    • /
    • pp.571-579
    • /
    • 2007
  • Finite difference schemes are considered for a generalization of the Cahn-Hilliard equation with Neumann boundary conditions and the Kuramoto-Sivashinsky equation with a periodic boundary condition, which is of the type $ut+\frac{{\partial}^2} {{\partial}x^2}\;g\;(u,\;u_x,\;u_{xx})=f(u,\;u_x,\;u_{xx})$. Stability and $L^{\infty}$ error estimates of approximate solutions for the corresponding schemes are obtained using the extended Lax-Richtmyer equivalence theorem.

다층퍼셉트론의 오류역전파 학습과 계층별 학습의 비교 분석 (Comparative Analysis on Error Back Propagation Learning and Layer By Layer Learning in Multi Layer Perceptrons)

  • 곽영태
    • 한국정보통신학회논문지
    • /
    • 제7권5호
    • /
    • pp.1044-1051
    • /
    • 2003
  • 본 논문은 MLP의 학습 방법으로 사용되는 EBP학습, Cross Entropy함수, 계층별 학습을 소개하고, 필기체 숫자인식 문제를 대상으로 각 학습 방법의 장단점을 비교한다. 실험 결과, EBP학습은 학습 초기에 학습 속도가 다른 학습 방법에 비해 느리지만, 일반화 성능이 좋다. 또한, EBP학습의 단점을 보안한 Cross Entropy 함수는 학습 속도가 EBP학습보다 빠르다. 그러나, 출력층의 오차 신호가 목표 벡터에 대해 선형적으로 학습하기 때문에, 일반화 성능이 EBP학습보다 낮다. 그리고, 계층별 학습은 학습 초기에, 학습 속도가 가장 빠르다. 그러나, 일정한 시간 후, 더 이상 학습이 진행되지 않기 때문에, 일반화 성능이 가장 낮은 결과를 얻었다. 따라서, 본 논문은 MLP를 응용하고자 할 때, 학습 방법의 선택 기준을 제시한다.

중학교 2학년 학생들의 지수법칙 발견을 위한 교수 설계 및 적용 (Design of Instruction Helping 8th Grade Students Discover the Power Laws and its Application)

  • 강정기
    • 대한수학교육학회지:수학교육학연구
    • /
    • 제27권2호
    • /
    • pp.171-189
    • /
    • 2017
  • 본 연구는 학생의 지수법칙 개발을 골자로 하는 교수법을 설계 및 적용해봄으로써 수업의 실제를 파악해 보고자 하였다. 이를 위해 중학교 2학년 54명의 학생을 대상으로 지수법칙에 대한 발견식 수업을 계획하여 적용해 보았다. 그 결과 지수법칙 사례 개발측면에서는 단조로운 법칙의 과다 생산, 선행학습의 경험이 없는 학생일수록 개발 유형이 다양하며 오류 가능성이 높아지는 경향, 여러 형태의 오류 등을 목격할 수 있었다. 법칙의 일반화와 표현 측면에서는 $a^m{\div}a^n$ 유형의 일반화 표현에 모두 실패하였으며, 밑이나 지수 중 하나만 문자로 일반화한 표현이 적지 않게 등장하였다. 또한 일반성이 제한된 오류나 변수와 등호를 사용하지 않은 표현 오류를 접할 수 있었다. 수업의 설문에서는 창조의 막연함을 호소하는 입장과 창조의 즐거움을 이야기하는 상반된 두 입장이 있었다. 이러한 결과에 기초하여 지수법칙 발견과 관련한 교수학적 시사점에 대해 논의하였다.

일반화 기법을 이용한 소축척 지도의 자동생성 및 정확도 평가에 관한 연구 (A Study on the Small-scale Map Production using Automatic Map Generalization in a Digital Environment and Accuracy Assessment)

  • 김감래;이호남
    • 한국측량학회지
    • /
    • 제14권1호
    • /
    • pp.27-38
    • /
    • 1996
  • 최근 GIS를 비롯한 각종 지형자료의 응용분야에서 기존의 종이지도가 지니는 제한된 축척 및 정보량 등의 경직성을 탈피한 수치지도의 제작은 시급한 당면 과제로 부각되고 있다. 본 연구에서는 수작업으로 처리되고 있는 편집도의 제작을 자동화하기 위한 방안으로 디지털 환경하에서의 일반화 기법에 대한 연구를 수행하였으며, 주된 연구대상으로는 일반화 알고리즘을 처리 형태별로 개발하여 프로그램화하고 이들 결과를 이용하여 컴퓨터 상에서 특정 지형지물에 대한 소축척지도의 자동제작을 구현하였다. 또한 GIS측면에서의 벡터 데이터로서 동일한 위상구조를 지니기 위한 일반화 전후의 데이터 분석을 토대로 처리형태별 우선 순위의 결정 및 오차량 산정을 실시하여 우리실정에 맞는 일반화의 데이터모델을 분석하였다.

  • PDF

조기학습정지를 이용한 원전 SG세관 결함크기 예측 신경회로망의 성능 향상 (A performance improvement of neural network for predicting defect size of steam generator tube using early stopping)

  • 조남훈
    • 전기학회논문지
    • /
    • 제57권11호
    • /
    • pp.2095-2101
    • /
    • 2008
  • In this paper, we consider a performance improvement of neural network for predicting defect size of steam generator tube using early stopping. Usually, neural network is trained until MSE becomes less than a prescribed error goal. The smaller the error goal, the greater the prediction performance for the trained data. However, as the error goal is decreased, an over fitting is likely to start during supervised training of a neural network, which usually deteriorates the generalization performance. We propose that, for the prediction of an axisymmetric defect size, early stopping can be used to avoid the over-fitting. Through various experiments on the axisymmetric defect samples, we found that the difference bet ween the prediction error of neural network based on early stopping and that of ideal neural network is reasonably small. This indicates that the error goal used for neural network training for the prediction of defect size can be efficiently selected by early stopping.

말소리장애 아동의 단어와 자발화 문맥의 음운오류패턴 비교 (A comparison of phonological error patterns in the single word and spontaneous speech of children with speech sound disorders)

  • 박가연;김수진
    • 말소리와 음성과학
    • /
    • 제7권3호
    • /
    • pp.165-173
    • /
    • 2015
  • This study was aim to compare the phonological error patterns and PCC(Percentage of Correct Consonants) derived from the single word and spontaneous speech contexts of the speech sound disorders with unknown origin(SSD). The present study suggest that the development phonological error patterns and non-developmental error patterns of the target children, in according to speech context. The subjects were 15 children with SSD up to the age of 5 from 3 years of age. This research use 37 words of APAC(Assessment of Phonology & Articulation for Children) in the single word context and 100 eojeol in the spontaneous speech context. There was no difference of PCC between the single word and the spontaneous speech contexts. Significantly different developmental phonological error patterns between the single word and the spontaneous speech contexts were syllable deletion, word-medial onset deletion, liquid deletion, gliding, affrication, fricative other error, tensing, regressive assimilation. Significantly different non-developmental phonological error patterns were backing, addtion of phoneme, aspirating. The study showed that there was no difference of PCC between elicited single word and spontaneous conversational context. And there were some different phonological error patterns derived from the two contexts of the speech sound disorders. The more important interventions target is the error patterns of the spontaneous speech contexts for the immediate generalization and rising overall intelligibility.