• 제목/요약/키워드: BP(Back-Propagation)

검색결과 152건 처리시간 0.023초

역전파 알고리즘의 전방향, 역방향 동시 수행을 위한 스스톨릭 배열의 설계 (Design of a systolic array for forward-backward propagation of back-propagation algorithm)

  • 장명숙;유기영
    • 전자공학회논문지B
    • /
    • 제33B권9호
    • /
    • pp.49-61
    • /
    • 1996
  • Back-propagation(BP) algorithm needs a lot of time to train the artificial neural network (ANN) to get high accuracy level in classification tasks. So there have been extensive researches to process back-propagation algorithm on parallel processors. This paper prsents a linear systolic array which calculates forward-backward propagation of BP algorithm at the same time using effective space-time transformation and PE structure. First, we analyze data flow of forwared and backward propagations and then, represent the BP algorithm into data dapendency graph (DG) which shows parallelism inherent in the BP algorithm. Next, apply space-time transformation on the DG of ANN is turn with orthogonal direction projection. By doing so, we can get a snakelike systolic array. Also we calculate the interval of input for parallel processing, calculate the indices to make the right datas be used at the right PE when forward and bvackward propagations are processed in the same PE. And then verify the correctness of output when forward and backward propagations are executed at the same time. By doing so, the proposed system maximizes parallelism of BP algorithm, minimizes th enumber of PEs. And it reduces the execution time by 2 times through making idle PEs participate in forward-backward propagation at the same time.

  • PDF

Levenberg-Marquardt 알고리즘의 지반공학 적용성 평가 (Evaluation for Applications of the Levenberg-Marquardt Algorithm in Geotechnical Engineering)

  • 김영수;김대만
    • 한국지반환경공학회 논문집
    • /
    • 제10권5호
    • /
    • pp.49-57
    • /
    • 2009
  • 본 연구에서는 Levenberg-Marquardt(LM) 알고리즘 인공신경망을 통하여 지반공학 문제 중의 하나인 압축지수를 예측하였고, 예측된 결과는 현재 지반공학에 널리 사용되고 있는 Back Propagation(BP) 알고리즘 인공신경망의 예측 결과와 비교하여 LM 알고리즘의 지반공학 적용성을 평가하였다. 또한 두 알고리즘에 의한 예측치는 기존에 제안된 압축지수의 경험식들에 의하여 산정된 결과들과 비교를 통하여 예측결과의 정확성을 확인하였다. 경험식에 의한 압축지수의 산정치는 전반적으로 BP 알고리즘과 LM 알고리즘 인공신경망에 의한 예측치에 비하여 더 큰 오차를 나타냈다. LM 알고리즘에 의한 압축지수의 예측치는 BP 알고리즘의 예측치와 비교할 때 정확도는 비슷하나 수렴속도에서 더 좋은 결과를 보여 LM 알고리즘의 지반공학 적용성은 우수한 것으로 나타났다.

  • PDF

잡음 영상에서 불균등 돌연변이 연산자를 이용한 효율적 에지 검출 (Edge detection method using unbalanced mutation operator in noise image)

  • 김수정;임희경;서요한;정채영
    • 정보처리학회논문지B
    • /
    • 제9B권5호
    • /
    • pp.673-680
    • /
    • 2002
  • 이 논문은 진화 프로그래밍과 개선된 역전파 알고리즘을 이용한 에지 검출 방법을 제안한다. 진화 프로그래밍은 알고리즘의 성능저하와 계산비용을 고려하여 교차 연산은 수행하지 않고, 선택연산자와 돌연변이 연산자를 사용한다. 개선된 역전파 알고리즘은 학습단계에서 연결강도를 변화시킬 때 이전학습단계의 연결강도를 보조적으로 활용하는 방법이다. 이 개선된 역전파 알고리즘은 학습률 $\alpha$를 작은값으로 설정하기 때문에 각 학습단계에서의 연결강도 변화량이 기존의 방법에 비해 상대적으로 줄어들게 되어 학습이 느려지는 문제점을 해결하였다. 실험결과 학습시간과 검출률에 있어서 GA-BP(GA : Genetic Algorithm BP : Back-Propagation)를 이용한 방법보다 제안한 EP-MBP(EP : Evolutionary Programming, MBP :Momentum Back-Propagation)를 이용하여 학습시킨 방법이 학습시간의 단축과 효율적인 에지 검출 결과를 얻을 수 있었다.

혼합된 GA-BP 알고리즘을 이용한 얼굴 인식 연구 (A Study on Face Recognition using a Hybrid GA-BP Algorithm)

  • 전호상;남궁재찬
    • 한국정보처리학회논문지
    • /
    • 제7권2호
    • /
    • pp.552-557
    • /
    • 2000
  • 본 논문에서는 신경망의 초기 파라미터(가중치, 바이어스) 값을 최적화 시키는 GA-BP(Genetic Algorithm-Backpropagation Network) 혼합 알고리즘을 이용하여 얼굴을 인식하는 방법을 제안하였다. 입력 영상의 각 픽셀들을 신경망의 입력으로 사용하고 고정 소수점 실수값으로 이루어진 신경망의 초기 파리미터 값은 유전자 알고리즘의 개체로 사용하기 위해 비트 스트링으로 변환한다. 신경망의 오차가 최소가 되는 값을 적합도로 정의한 뒤 새롭게 정의된 적응적 재학습 연산자를 이용하여 이를 평가해 최적의 진환된 신경망을 구성한 뒤 얼굴을 인식하는 실험을 하였다. 실험 결과 학습 수렴 속도의 비교에서는 오류 역전과 알고리즘 단독으로 실행한 수렴 속도보다 제안된 알고리즘의 수렴 속도가 향상된 결과를 보였고 인식률에서 오류 역전과 알고리즘 단독으로 실행한 방법보다 2.9% 향상된 것으로 나타났다.

  • PDF

Back-Propagation방법의 수렴속도 및 학습정확도의 개선 (Acceleration the Convergence and Improving the Learning Accuracy of the Back-Propagation Method)

  • 이윤섭;우광방
    • 대한전기학회논문지
    • /
    • 제39권8호
    • /
    • pp.856-867
    • /
    • 1990
  • In this paper, the convergence and the learning accuracy of the back-propagation (BP) method in neural network are investigated by 1) analyzing the reason for decelerating the convergence of BP method and examining the rapid deceleration of the convergence when the learning is executed on the part of sigmoid activation function with the very small first derivative and 2) proposing the modified logistic activation function by defining, the convergence factor based on the analysis. Learning on the output patterns of binary as well as analog forms are tested by the proposed method. In binary output patter, the test results show that the convergence is accelerated and the learning accuracy is improved, and the weights and thresholds are converged so that the stability of neural network can be enhanced. In analog output patter, the results show that with extensive initial transient phenomena the learning error is decreased according to the convergence factor, subsequently the learning accuracy is enhanced.

  • PDF

BP와 PSO형 신경회로망을 이용한 선삭작업에서의 표면조도와 전류소모의 예측 (Prediction of Surface Roughness and Electric Current Consumption in Turning Operation using Neural Network with Back Propagation and Particle Swarm Optimization)

  • ;오수철
    • 한국기계가공학회지
    • /
    • 제14권3호
    • /
    • pp.65-73
    • /
    • 2015
  • This paper presents a method of predicting the machining parameters on the turning process of low carbon steel using a neural network with back propagation (BP) and particle swarm optimization (PSO). Cutting speed, feed rate, and depth of cut are used as input variables, while surface roughness and electric current consumption are used as output variables. The data from experiments are used to train the neural network that uses BP and PSO to update the weights in the neural network. After training, the neural network model is run using test data, and the results using BP and PSO are compared with each other.

Back-propagation 알고리즘을 이용한 컨테이너 식별자 인식 시스템의 구현 및 분석 (An Implementation and Analysis of the Container Identifier Recognition System using back-propagation algorithm)

  • 이만형;황상훈;정신규;황대훈
    • 한국멀티미디어학회:학술대회논문집
    • /
    • 한국멀티미디어학회 1998년도 추계학술발표논문집
    • /
    • pp.254-259
    • /
    • 1998
  • 오늘날 컨테이너의 과다한 물동량 증가로 인하여 수작업으로 이루어지는 컨테이너 식별자를 처리하는데 어려움을 겪고 있는 가운데, 이를 자동으로 인식하고 그 결과를 항만 물류 처리 자동화 시스템에 적용하고자 하는 필요성이 대두되고 있다. 이에 본 논문에서는 컨테이너의 인식 처리를 자동화하기 위한 방안으로 컨테이너의 식별자 인식에 신경망 알고리즘의 하나인 Back-propagation을 적용하였으며, BP 알고리즘을 적용하기 위해서 적절한 scaling 비율을 구하고, 학습 DB를 구축하여 기존의 식별자 인식보다 신속하고 정확한 처리가 가능하도록 구현하였다.

  • PDF

필드 스크린을 위한 휴대용 전자코 시스템의 구현 (Implementation of a Portable Electronic Nose System for Field Screening)

  • 변형기;이준섭;김정도
    • 센서학회지
    • /
    • 제13권1호
    • /
    • pp.41-46
    • /
    • 2004
  • There is currently much interest in the development of instruments that emulate the senses of humans. Increasingly, there is demand for mimicking the human sense of smell, which is a sophisticated chemosensory system. An electronic nose system is applicable to a large area of industries including environmental monitoring. We have designed a protable electronic nose system using an array of commercial chemical gas sensors for recognizing and analyzing the various odours. In this paper, we have implemented a portable electronic nose system using an array of gas sensors for recognizing and analyzing VOCs (Volatile Organic Compounds) in the field. The accuracy of a portable electronic nose system may be lower than an instrument such as GC/MS (Gas Chromatography/Mass Spectrometer). However, a portable electronic nose system could be used on the field and showed fast response to pollutants in the field. Several different algorithms for odours recognition were used such as BP (Back-Propagation) or LM-BP (Levenberq-Marquardt Back-Propagation). We applied RBF (Radial Basis Function) Network for recognition and quantifying of odours, which has simpler and faster compared to the previously used algorithms such as BP and LM-BP.

영점 보상 Sigmoid-prime 함수에 의한 역전파 알고리즘 (Back-propagation Algorithm with a zero compensated Sigmoid-prime function)

  • 이왕국;김정엽;이준재;하영호
    • 전자공학회논문지B
    • /
    • 제31B권3호
    • /
    • pp.115-122
    • /
    • 1994
  • The problems in back-propagation(BP) generally are learning speed and misclassification due to lacal minimum. In this paper, to solve these problems, the classical modified methods of BP are reviewed and an extension of the BP to compensate the sigmoide-prime function around the extremity where the actual output of a unit is close to zero or one is proposed. The proposed method is not onlu faster than the conventional methods in learning speed but has an advantage of setting variables easily because it shows good classification results over the vast and uncharted space about the variations of learning rate, etc.. And it is simple for hardware implementation.

  • PDF

특징 추출 기반 BP 신경망을 이용한 성인 영상 차단 (Adult Image Blocking using Feature Extraction based BP Neural Network)

  • 김종일;이정석;안현식;정구민;김도현
    • 대한전기학회:학술대회논문집
    • /
    • 대한전기학회 2005년도 학술대회 논문집 정보 및 제어부문
    • /
    • pp.349-351
    • /
    • 2005
  • 현재 다양한 인터넷 콘텐츠들에 의해 많은 정보가 공유되고 있으며, 유익한 정보들과 더불어 성인물과 같은 유해한 정보들이 있다. 이로 인하여 여러 문제점들이 야기되고 있으며, 이를 해결하기 위해 다양한 방법들이 제안되고 있다. 그 중에서 성인 영상 차단을 위한 연구도 많이 행해지고 있으며 주로 색상을 이용한 방법을 사용하고 있다. 그러나 살색과 유사한 영상이나 노출이 심한 영상에는 성인 영상 검출의 신뢰성이 떨어지는 단점을 갖는다. 본 논문에서는 이런 문제점을 해결하기 위해 새로운 성인 영상 차단 방법을 제안한다. 기존의 제안된 살색 검출을 이용한 방법을 기반으로 성인 영상물로 판정될 수 있는 신체 부위를 검출함으로써 강인한 성인 영상 차단을 한다. 신체 부위에 대한 판별을 위해 여러 기저 영상에서 특징 벡터를 추출하고. 이 벡터를 Back Propagation(BP) 신경망의 데이터로 이용하여 학습한다. 제안한 성인 영상 차단 방법의 성능을 여러 장의 살색과 유사한 색상의 물체 영상과 노출이 심한 영상, 성인 영상을 이용한 종합적인 실험 결과인 성인 영상 검출률을 통해 증명한다.

  • PDF