• Title/Summary/Keyword: Back-propagation network

검색결과 1,107건 처리시간 0.037초

문자인식을 위한 로버스트 역전파 알고리즘 (A Robust Backpropagation Algorithm and It's Application)

  • 오광식;김상민;이동로
    • Journal of the Korean Data and Information Science Society
    • /
    • 제8권2호
    • /
    • pp.163-171
    • /
    • 1997
  • 공학 분야에서 신경망에 대한 관심은 신호처리, 로보틱스, 컨트롤, 문자인식, 패턴인식 그리고 컴퓨터 그래픽 분야등에서 연구되고 있으며, 이들은 함수근사응용과 밀접한 관련이있다. 통계학 분야에서는 패턴인식의 판별분석, 주성분분석, 회귀분석 그리고 군집분석을 위한 신경망등에 대한 연구가 활발히 이루어지고 있다. 문자인식을 위한 다층 신경망을 학습시키기 위해 역전파 알고리즘이 널리 사용되고 있으나 이 알고리즘은 긴 훈련기간, 극소점 문제, 이상치(outlier)에 민감하다는 단점을 지니고 있다. 이상치에 민감한 일반적인 역전파 알고리즘의 단점을 극복하기 위해 이상치에 민감하지 않은 로버스트 알고리즘의 필요성이 대두되었다. 본 논문에서는 통계물리에서 자주 사용하는 방법을 이용하여 제안한 로버스트 역전파 알고리즘을 문자인식에 적용하여 일반적인 역전파 알고리즘의 문자인식 성능과 비교하였다.

  • PDF

A Novel Hyperspectral Microscopic Imaging System for Evaluating Fresh Degree of Pork

  • Xu, Yi;Chen, Quansheng;Liu, Yan;Sun, Xin;Huang, Qiping;Ouyang, Qin;Zhao, Jiewen
    • 한국축산식품학회지
    • /
    • 제38권2호
    • /
    • pp.362-375
    • /
    • 2018
  • This study proposed a rapid microscopic examination method for pork freshness evaluation by using the self-assembled hyperspectral microscopic imaging (HMI) system with the help of feature extraction algorithm and pattern recognition methods. Pork samples were stored for different days ranging from 0 to 5 days and the freshness of samples was divided into three levels which were determined by total volatile basic nitrogen (TVB-N) content. Meanwhile, hyperspectral microscopic images of samples were acquired by HMI system and processed by the following steps for the further analysis. Firstly, characteristic hyperspectral microscopic images were extracted by using principal component analysis (PCA) and then texture features were selected based on the gray level co-occurrence matrix (GLCM). Next, features data were reduced dimensionality by fisher discriminant analysis (FDA) for further building classification model. Finally, compared with linear discriminant analysis (LDA) model and support vector machine (SVM) model, good back propagation artificial neural network (BP-ANN) model obtained the best freshness classification with a 100 % accuracy rating based on the extracted data. The results confirm that the fabricated HMI system combined with multivariate algorithms has ability to evaluate the fresh degree of pork accurately in the microscopic level, which plays an important role in animal food quality control.

개선된 인공신경망의 학습방법에 의한 강구조물의 설계 (Design of Steel Structures Using the Neural Networks with Improved Learning)

  • 최병한;임정환
    • 한국강구조학회 논문집
    • /
    • 제17권6호통권79호
    • /
    • pp.661-672
    • /
    • 2005
  • 본 연구에서는 많은 양의 함수 계산을 요구하는 확률론적 최적화 기법을 보다 효과적으로 강구조물에 적용하여 수행하고자 한다. 다양한 과학, 응용공학 분야에서 많은 시간이 소요되는 과정을 대체하는데 효과적인 도구로 출현한 인공신경망을 최적화 과정 중 많은 수의 유한요소 해석이 요구되는 재해석 문제에 적용함으로서 유한요소법의 평형방정식의 해의 근사해를 추정하여 재해석과정을 보다 간단하고 용이하게 수행하고자 한다. 또한 이용된 인공신경망의 학습효과의 개선을 위해 유전알고리즘을 적용한다. 확률론적 구조최적화 기법으로는 진화론적 방법에 기초한 알고리즘을 사용한다. 수치 예로써 전형적인 체적(중량)문제와 실 경비함수를 목적함수로 갖는 강구조물 모형에 본 연구의 알고리즘을 적용하여 본 알고리즘의 적용성과 타당성을 증명하였다.

다층신경망에서 하이브리드 학습 규칙의 구현에 관한 연구 (A Study on the Implementation of Hybrid Learning Rule for Neural Network)

  • 송도선;김석동;이행세
    • 한국음향학회지
    • /
    • 제13권4호
    • /
    • pp.60-68
    • /
    • 1994
  • 본 논문에서는 다층구조 순방향 신경회로망에 적용될 수 있는 것으로 입력의 특징 추출기능(Feature Extractor)이 우수한 Hebb 학습 규칙과 패턴 분류 기능(Classifier)이 우수한 BP 알고리듬을 결합한 Hybrid학습 규칙을 제안하고자 한다. 오차역전파 학습법칙을 적용한 다층구조퍼셉트론(MLP)과는 달리, 다층구조에 오차역전파 학습법칙과 Hebb학습법칙이 동시에 적용될 수 있는 Hybrid(Hebbian+BP)학습법칙은 학습시에 출력층의 연결강도를 제외한 모든 연결강도 계산에 적용되며 출력층에는 기존의 오차역전파법칙만이 적용된다. 출력층에 Hebb 학습법칙을 제외시킨것은 다층구조학습시에 학습의 수렴성에 대한 보장이 주어져 있지 않기 때문이다. 제안된 Hybrid 학습법칙의 성능평가를 위해 몇가지의 영역구분 문제에 적용한 결과 제안된 학습법이 기존의 BP보다 우수함을 보였다. 학습속도면에서는 기존의 BP법칙에 비해 훨씬 빠른 수렴속도를 보여 주었는데, 그중 한가지 예를 보면 제안된 Hybrid법칙에 의한 학습은 기존의 BP의 학습회수의 2/10만으로도 가능함을 보여주었다. 인식률에서도 제안된 법칙에 의한 결과가 BP에 의한 결과보다 최고 약 $0.77\%$ 우수하다.

  • PDF

3차원 위치측정을 위한 스테레오 카메라 시스템의 인공 신경망을 이용한 보정 (Calibrating Stereoscopic 3D Position Measurement Systems Using Artificial Neural Nets)

  • 도용태;이대식;유석환
    • 센서학회지
    • /
    • 제7권6호
    • /
    • pp.418-425
    • /
    • 1998
  • 로봇을 비롯한 자동화 기계의 3차원 작업에서 스테레오 카메라는 가장 널리 사용되는 센서 장치이다. 스테레오 카메라를 사용함으로써 3차원 실세계 공간내 임의 목표점의 위치를 측정할 수 있으며, 카메라의 보정은 이를 위한 중요한 선행작업이다. 기존의 카메라 보정법은 크게 선형과 비선형의 기법으로 나눌 수 있는데, 선형의 기법은 간단하나 정확도의 면에서 문제점을 지니고, 비선형 기법은 렌즈의 왜곡을 보상하기 위한 모델링 과정과 이의 비선형 해를 구하는 비교적 복잡한 과정을 필요로 한다는 문제가 있다. 본 논문에서는 이러한 문제의 한 해결방안으로 인공신경망을 적용하는 방법을 연구하고 그 결과를 제시한다. 특히 역전파 알고리즘에 의해 학습된 다층 신경망의 함수 근사화 능력을 활용하여 선형기법의 오차 패턴을 학습함으로써 간단하고 효과적으로 계측의 정확도를 향상시킬 수 있음을 실험을 통하여 보인다.

  • PDF

FNN 및 PNN에 기초한 FPNN의 합성 다층 추론 구조와 알고리즘 (The Hybrid Multi-layer Inference Architectures and Algorithms of FPNN Based on FNN and PNN)

  • 박병준;오성권;김현기
    • 대한전기학회논문지:시스템및제어부문D
    • /
    • 제49권7호
    • /
    • pp.378-388
    • /
    • 2000
  • In this paper, we propose Fuzzy Polynomial Neural Networks(FPNN) based on Polynomial Neural Networks(PNN) and Fuzzy Neural Networks(FNN) for model identification of complex and nonlinear systems. The proposed FPNN is generated from the mutually combined structure of both FNN and PNN. The one and the other are considered as the premise part and consequence part of FPNN structure respectively. As the consequence part of FPNN, PNN is based on Group Method of Data Handling(GMDH) method and its structure is similar to Neural Networks. But the structure of PNN is not fixed like in conventional Neural Networks and self-organizing networks that can be generated. FPNN is available effectively for multi-input variables and high-order polynomial according to the combination of FNN with PNN. Accordingly it is possible to consider the nonlinearity characteristics of process and to get better output performance with superb predictive ability. As the premise part of FPNN, FNN uses both the simplified fuzzy inference as fuzzy inference method and error back-propagation algorithm as learning rule. The parameters such as parameters of membership functions, learning rates and momentum coefficients are adjusted using genetic algorithms. And we use two kinds of FNN structure according to the division method of fuzzy space of input variables. One is basic FNN structure and uses fuzzy input space divided by each separated input variable, the other is modified FNN structure and uses fuzzy input space divided by mutually combined input variables. In order to evaluate the performance of proposed models, we use the nonlinear function and traffic route choice process. The results show that the proposed FPNN can produce the model with higher accuracy and more robustness than any other method presented previously. And also performance index related to the approximation and prediction capabilities of model is evaluated and discussed.

  • PDF

직접부하제어자원으로서 에어컨 주기제어 방법론 개발 (Development of Control Method for Air-Conditioner as the Resources of DLC)

  • 두석배;김정욱;김형중;김회철;박종배;신중린
    • 대한전기학회:학술대회논문집
    • /
    • 대한전기학회 2005년도 추계학술대회 논문집 전력기술부문
    • /
    • pp.145-147
    • /
    • 2005
  • This paper presents a methodology for satisfying the thermal comfort of Indoor environment and reducing the summer peak demand power by minimizing the power consumption for an Air-conditioner within a space. KEPCO(Korea Electric Power Corporation) use the fixed duty cycle control method regardless of the indoor thermal environment. This method has disadvantages that energy saying depends on the set-point value of the Air-Conditioner and DLC has no net effects on Air-conditioners if the appliance has a lower operating cycle than the fixed duty cycle. A variable duty cycle estimates the PMV(Predict Mean Vote) at the next step with a predicted temperature and humidity coming from the back propagation neural network model. It is possible to reduce the energy consumption by maintaining the Air-conditioner's OFF state when the PMV lies in the thermal comfort range. The proposed methodology uses the historical real data of Sep. 7th, 2001 from a classroom in seoul to verify the effectiveness of the variable duty cycle method comparing with fixed duty cycle. The result shows that the variable duty cycle reduces the peak demand to 2.6times more than fixed duty cycle and increases the load control ratio by 8% more. Based on the variable duty cycle control algorithm, the effectiveness of DLC is much more improved as compared with the fixed duty cycle.

  • PDF

인간의 정보처리 방법에 기반한 특징추출 및 필기체 문자인식에의 응용 (Feature extraction motivated by human information processing method and application to handwritter character recognition)

  • 윤성수;변혜란;이일병
    • 인지과학
    • /
    • 제9권1호
    • /
    • pp.1-11
    • /
    • 1998
  • 본 논문에서는 인간의 정보처리 과정에 관한 심리학적 실험에 바탕을 두고 인간이 사용하고 있는 것으로 생각되는 특징을 이용하여 이를 문자 인식에 적용하였다. 인간의 경우 화소단위의 정보뿐만 아니라 일정지역의 정보를 함께 처리하는 경향이 있다. 그러므로 일정지역에 대한 정보를 표시하는 영역 특징을 정의하고 정의된 이 영역 특징과 기존의 화소단위 특징들을 결합하였다. 사용한 특징으로는 영역 특징에 기반 한 초등 적 분석결과, 영역특징을 포함한 망 특징, 교차거리와 특징 그리고 기울기 특징들이다. 성능 평가 실험은 필기 한글자모, 숫자 그리고 대소영문자를 대상으로 하였으며, 인식기는 역전과 학습 방법을 이용한 신경망 인식기를 사용하였다. 각각의 인식 결과는 90.27∼93.25%, 98.00% 그리고 79.73∼85.75였다. 영역 특징과 유사한 UDLRH 특징을 대상으로 비교한 결과 전체적으로 1∼2% 정도 인식률 향상이 있었으며 인간이 판단하기에 보다 납득하기 쉬운 오 인식 성향을 보였다.

  • PDF

GAM: 대형 통신 시스템을 위한 위험도 예측 모델 (GAM: A Criticality Prediction Model for Large Telecommunication Systems)

  • 홍의석
    • 컴퓨터교육학회논문지
    • /
    • 제6권2호
    • /
    • pp.33-40
    • /
    • 2003
  • 소프트웨어 개발 초기 단계의 문제점이 개발 후반부 산물의 품질에 심각한 영향을 미치기 때문에 설계 명세를 이용하여 결함경향성이 많은 부분을 예측하는 위험도 예측 모델은 전체 시스템 개발비용을 낮추는 데 중요한 역할을 하고 있으며, 이러한 예측 모델은 결과 산물이 매우 크고 실행 정확성이 요구되는 통신 소프트웨어 같은 실시간 시스템 설계에 더욱 필요하다. 판별분석, 인공신경망, 분류트리 등의 기법들을 이용한 모델들이 제안되었으나 이들은 결과에 대한 원인 분석의 어려움, 낮은 확장성 등의 문제점들을 지니고 있었다. 본 논문에서는 유전자 알고리즘을 이용한 새로운 모델인 GAM을 제안한다. GAM은 위험도 함수를 만들어 내므로 기존의 분류 모델들과는 다르게 설계 개체의 위험도 비교에도 사용가능하다. 여러 내부 특성들과 예측 정확도 비교를 통해 GAM을 잘 알려진 예측 모델인 역전파 신경망 모델(BPM)과 비교하였다.

  • PDF

대형 소프트웨어 시스템의 결함경향성 예측을 위한 혼성 메트릭 모델 (Hybrid metrics model to predict fault-proneness of large software systems)

  • 홍의석
    • 컴퓨터교육학회논문지
    • /
    • 제8권5호
    • /
    • pp.129-137
    • /
    • 2005
  • 설계 명세를 이용하여 결함경향성이 많은 부분을 예측하는 위험도 예측 모델은 대형 통신 시스템 같이 결과 산물이 매우 큰 시스템의 개발비용을 낮추는데 중요한 역할을 하고 있다. 복잡도 메트릭에 기반한 많은 위험도 예측 모델들이 제안되었지만 그들 대부분은 모델 훈련을 위한 훈련 데이터 집합을 필요로 하고, 설계 개체들을 위험 그룹과 비위험 그룹으로 나누는 기능만 지닌 분류 모델들이었다. 본 논문에서는 두가지 형태의 검증된 혼성 메트릭들을 사용하는 새로운 예측 모델 HMM을 제안한다. HMM의 장점은 설계 개체의 위험도를 정량화함으로써 모델 훈련을 위한 훈련 데이터 집합이 필요 없다는 것과 개체 간에 위험도 비교가 가능하다는 것이다. HMM의 유용성을 보이기 위해 여러 내부 특성들과 예측 정확도 비교를 통해 잘 알려진 예측 모델인 역전파 신경망 모델(BPM)과 HMM을 비교하였다.

  • PDF