• 제목/요약/키워드: Back propagation

검색결과 1,466건 처리시간 0.031초

신경망 회로를 이용한 필기체 숫자 인식에 관할 연구 (A Study Of Handwritten Digit Recognition By Neural Network Trained With The Back-Propagation Algorithm Using Generalized Delta Rule)

  • 이규한;정진현
    • 대한전기학회:학술대회논문집
    • /
    • 대한전기학회 1999년도 하계학술대회 논문집 G
    • /
    • pp.2932-2934
    • /
    • 1999
  • In this paper, a scheme for recognition of handwritten digits using a multilayer neural network trained with the back-propagation algorithm using generalized delta rule is proposed. The neural network is trained with hand written digit data of different writers and different styles. One of the purpose of the work with neural networks is the minimization of the mean square error(MSE) between actual output and desired one. The back-propagation algorithm is an efficient and very classical method. The back-propagation algorithm for training the weights in a multilayer net uses the steepest descent minimization procedure and the sigmoid threshold function. As an error rate is reduced, recognition rate is improved. Therefore we propose a method that is reduced an error rate.

  • PDF

레이저 용접물의 용접성 평가 (An Weldability Estimation of Laser Welded Specimens)

  • 이정익
    • 한국공작기계학회논문집
    • /
    • 제16권1호
    • /
    • pp.60-68
    • /
    • 2007
  • It has been conducted by laser vision sensor for weldability estimation of front-bead after doing high speed butt laser welding of any condition. It has been developed a real time GUI(Graphic User Interface) system for weldability application in the basis of texts and field qualify levels. In the reference of bead imperfections, defects absolute position and defects intensity index of front-bead in the basis of formability reference, it has been produced a weldability estimation and defects intensity index of back-bead by back propagation neural network. In the result of by comparing measuring data by laser vision sensor of back-bead and data by back propagation neural network of one, it has been shown the similar results. Finally, under knowledge of welding condition in production line, it has been conducted a weldability estimation of back-bead only in knowledge of informations of front-bead data without using laser vision sensor or welding inspection experts and furthermore it can be used data for final inspection results of back-bead.

역전파 알고리즘의 전방향, 역방향 동시 수행을 위한 스스톨릭 배열의 설계 (Design of a systolic array for forward-backward propagation of back-propagation algorithm)

  • 장명숙;유기영
    • 전자공학회논문지B
    • /
    • 제33B권9호
    • /
    • pp.49-61
    • /
    • 1996
  • Back-propagation(BP) algorithm needs a lot of time to train the artificial neural network (ANN) to get high accuracy level in classification tasks. So there have been extensive researches to process back-propagation algorithm on parallel processors. This paper prsents a linear systolic array which calculates forward-backward propagation of BP algorithm at the same time using effective space-time transformation and PE structure. First, we analyze data flow of forwared and backward propagations and then, represent the BP algorithm into data dapendency graph (DG) which shows parallelism inherent in the BP algorithm. Next, apply space-time transformation on the DG of ANN is turn with orthogonal direction projection. By doing so, we can get a snakelike systolic array. Also we calculate the interval of input for parallel processing, calculate the indices to make the right datas be used at the right PE when forward and bvackward propagations are processed in the same PE. And then verify the correctness of output when forward and backward propagations are executed at the same time. By doing so, the proposed system maximizes parallelism of BP algorithm, minimizes th enumber of PEs. And it reduces the execution time by 2 times through making idle PEs participate in forward-backward propagation at the same time.

  • PDF

딥러닝 합성곱 신경망을 이용한 효율적인 홍채인식 (Efficient Iris Recognition using Deep-Learning Convolution Neural Network)

  • 최광미;정유정
    • 한국전자통신학회논문지
    • /
    • 제15권3호
    • /
    • pp.521-526
    • /
    • 2020
  • 본 논문은 홍채영상의 이동불변의 특징값 을추출에 탁월한 고차 국소 자동 상관함수를 적용하여 25개의 특징 값을 입력 값으로 적용한 일반적인 HOLP 신경망에 특징 값 25개의 평균값을 추가한 개선된 HOLP 신경망을 구현하여 인식률을 확인하여 보았다. 종류가 상이한 딥러닝 구조들과 비교하였을 때 음성과 영상분야에서 탁월한 성능을 보이는 Back-Propagation 신경망과 특징 추출기와 분류기를 통합한 합성 곱 신경망을 활용하여 홍채인식의 인식률을 비교하여 보았다.

역전파 신경망 이론을 이용한 팔꿈치 관절의 관절토크 추정에 관한 연구 (Joint Torque Estimation of Elbow joint using Neural Network Back Propagation Theory)

  • 장혜연;김완수;한정수;한창수
    • 한국정밀공학회지
    • /
    • 제28권6호
    • /
    • pp.670-677
    • /
    • 2011
  • This study is to estimate the joint torques without torque sensor using the EMG (Electromyogram) signal of agonist/antagonist muscle with Neural Network Back Propagation Algorithm during the elbow motion. Command Signal can be guessed by EMG signal. But it cannot calculate the joint torque. There are many kinds of field utilizing Back Propagation Learning Method. It is generally used as a virtual sensor estimated physical information in the system functioning through the sensor. In this study applied the algorithm to obtain the virtual senor values estimated joint torque. During various elbow movement (Biceps isometric contraction, Biceps/Triceps Concentric Contraction (isotonic), Biceps/Triceps Concentric Contraction/Eccentric Contraction (isokinetic)), exact joint torque was measured by KINCOM equipment. It is input to the (BP)algorithm with EMG signal simultaneously and have trained in a variety of situations. As a result, Only using the EMG sensor, this study distinguished a variety of elbow motion and verified a virtual torque value which is approximately(about 90%) the same as joint torque measured by KINCOM equipment.

Levenberg-Marquardt 알고리즘의 지반공학 적용성 평가 (Evaluation for Applications of the Levenberg-Marquardt Algorithm in Geotechnical Engineering)

  • 김영수;김대만
    • 한국지반환경공학회 논문집
    • /
    • 제10권5호
    • /
    • pp.49-57
    • /
    • 2009
  • 본 연구에서는 Levenberg-Marquardt(LM) 알고리즘 인공신경망을 통하여 지반공학 문제 중의 하나인 압축지수를 예측하였고, 예측된 결과는 현재 지반공학에 널리 사용되고 있는 Back Propagation(BP) 알고리즘 인공신경망의 예측 결과와 비교하여 LM 알고리즘의 지반공학 적용성을 평가하였다. 또한 두 알고리즘에 의한 예측치는 기존에 제안된 압축지수의 경험식들에 의하여 산정된 결과들과 비교를 통하여 예측결과의 정확성을 확인하였다. 경험식에 의한 압축지수의 산정치는 전반적으로 BP 알고리즘과 LM 알고리즘 인공신경망에 의한 예측치에 비하여 더 큰 오차를 나타냈다. LM 알고리즘에 의한 압축지수의 예측치는 BP 알고리즘의 예측치와 비교할 때 정확도는 비슷하나 수렴속도에서 더 좋은 결과를 보여 LM 알고리즘의 지반공학 적용성은 우수한 것으로 나타났다.

  • PDF

적응 역전파 신경회로망의 은닉 층 노드 수 설정에 관한 연구 (On the set up to the Number of Hidden Node of Adaptive Back Propagation Neural Network)

  • 홍봉화
    • 정보학연구
    • /
    • 제5권2호
    • /
    • pp.55-67
    • /
    • 2002
  • 본 논문에서는 학습계수를 발생한 오차에 따라서 적응적으로 갱신할 수 있는 학습알고리즘에 은닉 노드의 수를 다양하게 변화시킬 수 있는 적응 역 전파(Back Propagation) 알고리즘을 제안하였다. 제안한 알고리즘은 국소점을 벗어날 수 있는 것으로 기대되고, 수렴환경에 알맞은 은닉 노드의 수를 설정할 수 있다. 모의실험에서는 두 가지의 학습패턴을 가지고 실험하였다. 하나는 X-OR 문제에 대한 학습과 또 다른 하나는 $7{\times}5$ 도트 영문자 폰트에 에 대한 학습이다. 두 모의실험에서 국소 점으로 안주할 확률은 감소하였다. 또한, 영문자 폰트 학습에서의 신경회로망은 기존의 역 전파 알고리즘과 HNAD 알고리즘에 비하여 약 41.56%~58.28%정도 학습효율이 향상됨을 고찰하였다.

  • PDF

은닉층 노드의 생성추가를 이용한 적응 역전파 신경회로망의 학습능률 향상에 관한 연구 (On the enhancement of the learning efficiency of the adaptive back propagation neural network using the generating and adding the hidden layer node)

  • 김은원;홍봉화
    • 대한전자공학회논문지TE
    • /
    • 제39권2호
    • /
    • pp.66-75
    • /
    • 2002
  • 본 논문에서는 역전파 신경회로망의 학습능률을 향상시키기 위한 방법으로 발생한 오차에 따라서 학습파라미터와 은닉층의 수를 적응적으로 변경시킬 수 있는 적응 역 전파 학습알고리즘을 제안하였다. 제안한 알고리즘은 역전파 신경회로망이 국소점으로 수렴하는 문제를 해결할 수 있고 최적의 수렴환경을 만들 수 있다. 제안된 알고리즘을 평가하기 위하여 배타적 논리합, 3-패리티 및 7${\times}$5 영문자 폰트의 학습을 이용하였다. 실험결과, 기존에 제안된 알고리즘들에 비하여 국소점에 빠지게 되는 경우가 감소하였고 약 17.6%~64.7%정도 학습능률이 향상하였다.

컬러 정보와 오류역전파 신경망 알고리즘을 이용한 신차량 번호판 인식 (Recognition of a New Car Plate using Color Information and Error Back-propagation Neural Network Algorithms)

  • 이종희;김진환
    • 한국전자통신학회논문지
    • /
    • 제5권5호
    • /
    • pp.471-476
    • /
    • 2010
  • 본 논문에서는 RGB 컬러 정보와 오류 역전파 신경망 알고리즘을 이용한 신 차량 번호판 인식 방법을 제안한다. 먼저, 차량 영상에서 평균 Blue값을 이용하여 차량 영상을 보정하고 픽셀값의 차를 이용하여 Red 후보 영역과 Green 후보 영역으로 구분한 후 오류 역전파 알고리즘에 적용하여 최종 Green 영역을 찾는다. 둘째, 수평 및 수직 히스토그램의 빈도수를 이용하여 번호판 영역을 추출한다. 마지막으로, 윤곽선 추적 알고리즘을 적용하여 개별 코드들을 추출하고, 오류 역전파 알고리즘을 적용하여 개별 코드들을 인식한다. 제안된 차량 번호판 추출 및 인식 방법의 성능을 평가하기 위하여 실제 비영업용 신 차량 번호판에 적용한 결과, 제안된 번호판 추출 방법이 기존의 HSI(Hue Saturation Intensity) 정보를 이용한 번호판 추출 방법보다 추출률이 개선되었고 제안된 차량 번호판 인식 방법이 효율적인 것을 확인하였다.

Improving the Error Back-Propagation Algorithm for Imbalanced Data Sets

  • Oh, Sang-Hoon
    • International Journal of Contents
    • /
    • 제8권2호
    • /
    • pp.7-12
    • /
    • 2012
  • Imbalanced data sets are difficult to be classified since most classifiers are developed based on the assumption that class distributions are well-balanced. In order to improve the error back-propagation algorithm for the classification of imbalanced data sets, a new error function is proposed. The error function controls weight-updating with regards to the classes in which the training samples are. This has the effect that samples in the minority class have a greater chance to be classified but samples in the majority class have a less chance to be classified. The proposed method is compared with the two-phase, threshold-moving, and target node methods through simulations in a mammography data set and the proposed method attains the best results.