• 제목/요약/키워드: backpropagation algorithm

검색결과 350건 처리시간 0.03초

Fraud Detection in E-Commerce

  • Alqethami, Sara;Almutanni, Badriah;AlGhamdi, Manal
    • International Journal of Computer Science & Network Security
    • /
    • 제21권6호
    • /
    • pp.200-206
    • /
    • 2021
  • Fraud in e-commerce transaction increased in the last decade especially with the increasing number of online stores and the lockdown that forced more people to pay for services and groceries online using their credit card. Several machine learning methods were proposed to detect fraudulent transaction. Neural networks showed promising results, but it has some few drawbacks that can be overcome using optimization methods. There are two categories of learning optimization methods, first-order methods which utilizes gradient information to construct the next training iteration whereas, and second-order methods which derivatives use Hessian to calculate the iteration based on the optimization trajectory. There also some training refinements procedures that aims to potentially enhance the original accuracy while possibly reduce the model size. This paper investigate the performance of several NN models in detecting fraud in e-commerce transaction. The backpropagation model which is classified as first learning algorithm achieved the best accuracy 96% among all the models.

음성처리에서 온라인 오류역전파 알고리즘의 학습속도 향상방법 (A Method on the Learning Speed Improvement of the Online Error Backpropagation Algorithm in Speech Processing)

  • 이태승;이백영;황병원
    • 한국음향학회지
    • /
    • 제21권5호
    • /
    • pp.430-437
    • /
    • 2002
  • 다층신경망 (MLP: multilayer perceptron)은 다른 패턴인식 방법에 비해 여러 가지 훌륭한 특성을 가지고 있어 음성인식 및 화자인식 영역에서 폭넓게 사용되고 있다. 그러나 다층신경망의 학습에 일반적으로 사용되는 오류역전파 (EBP: error backpropagation) 알고리즘은 학습시간이 비교적 오래 걸린다는 단점이 있으며, 이는 화자인식이나 화자적응과 같이 실시간 처리를 요구하는 응용에서 상당한 제약으로 작용한다. 패턴인식에 사용되는 학습데이터는 풍부한 중복특성을 내포하고 있으므로 패턴마다 다층신경망의 내부변수를 갱신하는 온라인 계열의 학습방식이 속도의 향상에 상당한 효과가 있다. 일반적인 온라인 오류역전파 알고리즘에서는 가중치 갱신 시 고정된 학습률을 적용한다. 고정 학습률을 적절히 선택함으로써 패턴인식 응용에서 상당한 속도개선을 얻을 수 있지만, 학습률이 고정된 상태에서는 학습이 진행됨에 따라 학습에 기여하는 패턴영역이 달라지는 현상에 효과적으로 대응하지 못하는 문제가 있다. 이 문제에 대해 본 논문에서는 패턴의 기여도에 따라 가변 하는 학습률과 학습에 기여하는 패턴만을 학습에 반영하는 패턴별 가변 학습률 및 학습생략 (COIL: Changing rate and Omitting patterns in Instant Learning)방법을 제안한다. 제안한 COIL의 성능을 입증하기 위해 화자증명과 음성인식을 실험하고 그 결과를 제시한다.

Self-generation을 이용한 퍼지 지도 학습 알고리즘 (Fuzzy Supervised Learning Algorithm by using Self-generation)

  • 김광백
    • 한국멀티미디어학회논문지
    • /
    • 제6권7호
    • /
    • pp.1312-1320
    • /
    • 2003
  • 본 논문에서는 하나의 은닉층을 가지는 다층 구조 신경망이 고려되었다. 다층 구조 신경망에서 널리 사용되는 오루 역전파 학습 방법은 초기 가중치와 불충분한 은닉층 노드 수로 인하여 지역 최소화에 빠질 가능성이 있다. 따라서 본 논문에서는 퍼지 단층 퍼셉트론에 ART1을 결합한 방법으로, 은닉층의 노드를 자가 생성(self-generation)하는 퍼지 지도 학습 알고리즘을 제안한다. 입력층에서 은닉층으로 노드를 생성시키는 방식은 ART1을 수정하여 사용하였고, 가중치 조정은 특정 패턴에 대한 저장 패턴을 수정하도록 하는 winner-take-all 방식을 적용하였다. 제안된 학습 방법의 성능을 평가하기 위하여 학생증 영상을 대상으로 실험한 결과. 기존의 오류 역전파 알고즘보다 연결 가중치들이 지역 최소화에 위치할 가능성이 줄었고 학습 속도 및 정체 현상이 개선되었다.

  • PDF

확률적 근사법과 공액기울기법을 이용한 다층신경망의 효율적인 학습 (An Efficient Traning of Multilayer Neural Newtorks Using Stochastic Approximation and Conjugate Gradient Method)

  • 조용현
    • 한국지능시스템학회논문지
    • /
    • 제8권5호
    • /
    • pp.98-106
    • /
    • 1998
  • 본 논문에서는 신경망의 학습성능을 개선하기 위해 확룰적 근사법과 공액기울기법에 기초를 둔 새로운 학습방법을 제안하였다. 제안된 방법에서는 확률적 근사법과 공액기울기법을 조합 사용한 전역 최적화 기법의 역전파 알고리즘을 적용함으로써 학습성능을 최대한 개선할 수 있도록 하였다. 확률적 근사법은 국소최소점을 벗어나 전역최적점에 치우친 근사점을 결정해 주는 기능을 하도록 하며, 이점을 초기값으로 하여 결정론적 기법의 공액기울기법을 적용함으로써 빠른 수렴속도로 전역최적점으로의 수렴확률을 놓였다. 제안된 방법을 패리티 검사와 패턴 분류에 각각 적용하여 그 타당성과 성능을 확인한 결과 제안된 방법은 초기값을 무작위로 설정하는 기울기하강법에 기초를 둔 기존의 역전파 알고리즘이나 확률적 근사법과 기울기하강법에 기초를 둔 역전파 알고리즘에 비해 최적해로의 수렴 확률과 그 수렴속도가 우수함을 확인할 수 있었다.

  • PDF

용접결함의 형상인식을 위한 신경회로망 알고리즘의 성능 비교 (Performance Comparison of Neural Network Algorithm for Shape Recognition of Welding Flaws)

  • 김재열;심재기;이동기;김창현;송경석;양동조
    • 한국공작기계학회:학술대회논문집
    • /
    • 한국공작기계학회 2003년도 추계학술대회
    • /
    • pp.271-276
    • /
    • 2003
  • In this study, we compared backpropagation neural network(BPNN) with probabilistic neural network(PNN) as shape recognition algorithm of welding flaws. For this purpose, variables are applied the same to two algorithm. Here, feature variable is composed of time domain signal itself and frequency domain signal itself, Through this process, we comfirmed advantages/disadvantages of two algorithms and identified application methods of two algorithms.

  • PDF

유전자 알고리즘-응용 역전파 신경망 웨이트 최적화 기법을 이용한 플라즈마 식각 공정 모델링 (Modeling of plasma etch process using genetic algorithm optimization of neural network initial weights)

  • 배중기;김병환
    • 한국전기전자재료학회:학술대회논문집
    • /
    • 한국전기전자재료학회 2004년도 추계학술대회 논문집 Vol.17
    • /
    • pp.272-275
    • /
    • 2004
  • 플라즈마 식각공정은 소자제조를 위한 미세 패턴닝 제작에 이용되고 있다. 공정 메커니즘의 정성적 해석, 최적화, 그리고 제어를 위해서는 컴퓨터 예측모델의 개발이 요구된다. 역전파 신경망 (backpropagation neural network-BPNN) 모델을 개발하는 데에는 다수의 학습인자가 관여하고 있으며, 가장 그 최적화가 어려운 학습인자는 초기웨이트이다. 모델개발시, 초기웨이트는 random 값으로 설정이 되며, 이로 인해 초기웨이트의 최적화가 어렵다. 본 연구에서는 유전자 알고리즘 (genetic algorithm-GA)을 이용하여 BPNN의 초기웨이트를 최적화하였으며, 이를 식각공정 모델링에 적용하여 평가하였다. 실리카 식각공정 데이터는 $2^3$ 인자 실험계획법을 이용하여 수집하였으며, GA에 관여하는 두 확률인자의 영향을 42 인자 실험계획법을 이용하여 최적화 하였다. 종래의 모델에 비해, 최적화된 모델은 실리카 식각률, Al 식각률, Al 선택비, 그리고 프로파일 응답에 대해서 각 기 24%, 13%,, 16%, 그리고 17%의 향상률을 보였다. 이는 제안된 최적화 기법이 플라즈마 모델의 예측성능을 증진하는데 효과적으로 응용될 수 있음을 의미한다.

  • PDF

신호 검출을 위한 적응형 신경망 필터에 관한 연구 (A Study on the Adaptive Neural Network Filter for Signal Detection)

  • 안종구;추형석
    • 융합신호처리학회논문지
    • /
    • 제5권2호
    • /
    • pp.132-137
    • /
    • 2004
  • 본 논문에서는 다층 신경회로망의 구조를 가지며, 백프로퍼게이션 학습 알고리즘을 이용한 적응신호처리 시스템을 구현하였다. 최소자승 알고리즘을 이용한 적응 잡음 제거기는 기준 신호와 잡음과의 상관도에 영향을 많이 받고, 정보 신호가 잡음에 비하여 상대적으로 작은 경우에 한계를 보이고 있다. 이와 같은 잡음에 대하여 본 논문에서 제안된 시스템은 좋은 성능을 보인다. 또한, 은닉층의 수와 노드 수를 다르게 구성했을 경우에 시스템의 출력에 미치는 결과에 대하여 분석하였다. 제안된 적응 신호처리 시스템의 장점을 알아보기 위하여 성능 평가의 기준이 되는 최소자승 알고리즘을 이용한 시스템과 비교하였다.

  • PDF

초음파 검사 기반의 용접결함 분류성능 개선에 관한 연구 (Performance Comparison of Neural Network Algorithm for Shape Recognition of Welding Flaws)

  • 김재열;윤성운;김창현;송경석;양동조
    • 한국공작기계학회:학술대회논문집
    • /
    • 한국공작기계학회 2004년도 춘계학술대회 논문집
    • /
    • pp.287-292
    • /
    • 2004
  • In this study, we made a comparative study of backpropagation neural network and probabilistic neural network and bayesian classifier and perceptron as shape recognition algorithm of welding flaws. For this purpose, variables are applied the same to four algorithms. Here, feature variable is composed of time domain signal itself and frequency domain signal itself, Through this process, we confirmed advantages/disadvantages of four algorithms and identified application methods of few algorithms.

  • PDF

Cascade-Correlation Algorithm을 이용한 증발접시 증발량의 모형화 (Pan Evaporation Modeling using Cascade-Correlation Algorithm)

  • 김성원
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2005년도 학술발표회 논문집
    • /
    • pp.766-770
    • /
    • 2005
  • Cascade-Correlation Neural Networks Model(CCNNM) is used to estimate daily evaporation using limited climatical variables such as atmospheric temperature, dewpoint temperature, relative humidity, wind speed, sunshine duration and radiation. DeBruln equation is applied to estimate daily free-surface evaporation. It is converted into pan evaporation using pan coefficient. The results of CCNNM shows better than those of Debruin equation. This research represents that the strong nonlinear relationship such as evaporation modeling can be generalized by the CCNNM ; a special type of Backpropagation algorithm Neural Networks Model.

  • PDF

다층신경망을 이용한 디지털회로의 효율적인 결함진단 (An Efficient Fault-diagnosis of Digital Circuits Using Multilayer Neural Networks)

  • 조용현;박용수
    • 대한전자공학회:학술대회논문집
    • /
    • 대한전자공학회 1999년도 하계종합학술대회 논문집
    • /
    • pp.1033-1036
    • /
    • 1999
  • This paper proposes an efficient fault diagnosis for digital circuits using multilayer neural networks. The efficient learning algorithm is also proposed for the multilayer neural network, which is combined the steepest descent for high-speed optimization and the dynamic tunneling for global optimization. The fault-diagnosis system using the multilayer neural network of the proposed algorithm has been applied to the parity generator circuit. The simulation results shows that the proposed system is higher convergence speed and rate, in comparision with system using the backpropagation algorithm based on the gradient descent.

  • PDF