• 제목/요약/키워드: Backpropagation Neural Network

검색결과 449건 처리시간 0.031초

다중 클래스 SVM을 이용한 스마트폰 중독 자가진단 시스템 (Self-diagnostic system for smartphone addiction using multiclass SVM)

  • 피수영
    • Journal of the Korean Data and Information Science Society
    • /
    • 제24권1호
    • /
    • pp.13-22
    • /
    • 2013
  • 무선으로 응용 프로그램을 다운받아 실행하고 수많은 응용 프로그램들을 통신 접속이 없어도 실행이 가능하다는 점으로 인해 스마트폰 중독이 인터넷 중독보다 심각한 상태이지만 아직까지 스마트폰 중독과 관련된 연구가 부족한 상태이다. 한국정보화진흥원에서 개발한 스마트폰 중독 검사 척도인 S-척도는 문항수가 많아 응답자들이 진단 자체를 회피할 수도 있으며 인구통계학적 변인도 고려하지 않은 상태에서 체크한 문항들에 대한 총점만으로 중독여부를 진단하므로 정확하게 진단하는데 어려움이 있다. 따라서 본 논문에서는 인구통계학적 변인을 포함한 여러 문항들을 추가한 자료들을 대상으로 먼저 스마트폰 중독에 영향을 미치는 중요한 요인들을 추출해 보았다. 추출한 축소문항을 대상으로 데이터마이닝기법 중 하나인 신경망을 이용하여 분류를 하였다. 신경망 학습알고리즘 중에서 BP학습 알고리즘과 다중 SVM을 이용하여 학습을 시켜 비교, 분석 해 본 결과 다중 SVM의 학습율이 조금 더 높게 나타났다. 본 논문에서 제안한 다중 SVM을 이용하여 학습을 한 자가진단 시스템을 이용하면 자료들의 급격한 변화에 대해 뛰어난 적응성을 가지므로 빠른 시간 내에 자신의 중독여부를 정확하게 자가진단 할 수 있다.

메쉬 및 세선화 기반 특징 벡터를 이용한 차량 번호판 인식 (A Vehicle License Plate Recognition Using the Feature Vectors based on Mesh and Thinning)

  • 박승현;조성원
    • 한국지능시스템학회논문지
    • /
    • 제21권6호
    • /
    • pp.705-711
    • /
    • 2011
  • 본 논문은 산업응용을 목표로 효과적인 차량 번호판 인식 알고리즘을 제안한다. 자동차 이미지를 얻은뒤 캐니 에지 추출(Canny Edge Detecting) 알고리즘을 이용하여 연결된 사각형을 찾아 번호판을 추출한다. 추출된 번호판의 색상 정보를 이용하여 흰색/녹색 번호판을 구분하고, 각 번호판을 OTSU 이진화와 주변 전경 픽셀 전파 알고리즘인 CLNF (CCLUF with NFPP)을 통해 문자를 제외한 잡음을 제거하고 레이블링하여 숫자 및 문자 영역을 분리한다. 분리된 문자 영역은 메쉬 방법 및 세선화 후 X-Y 투영 방법으로 특징 벡터를 추출한다. 추출된 특징 벡터는 역전파 신경망으로 미리 학습된 가중치 값과 비교되며, 최종 문자 인식을 수행한다. 제안된 차량 번호판 인식 알고리즘의 효과적 동작은 실험을 통해 확인하였다.

가중치 뉴런 출력의 양자화 영향을 최소화하는 다층퍼셉트론 신경망 설계 방법 (Design Method for an MLP Neural Network Which Minimizes the Effect by the Quantization of the Weights and the Neuron Outputs)

  • 권오준;방승양
    • 한국정보과학회논문지:소프트웨어및응용
    • /
    • 제26권12호
    • /
    • pp.1383-1392
    • /
    • 1999
  • 이미 학습된 다층퍼셉트론 신경망을 디지털 VLSI 기술을 사용하여 하드웨어로 구현할 경우 신경망의 가중치 및 뉴런 출력들을 양자화해야 하는 문제가 발생한다. 이러한 신경망 변수들의 양자화는 결과적으로 주어진 입력에 대한 신경망의 최종 출력에서의 왜곡을 초래한다. 본 논문에서는 먼저 이러한 양자화로 인한 신경망 출력에서의 왜곡을 통계적으로 분석하였다. 분석 결과에 의하면 입력패턴 각 성분의 제곱들의 합과 가중치의 크기들이 양자화 영향에 주로 기여하는 것으로 나타났다. 이러한 분석 결과를 이용하여 양자화를 위한 정밀도가 주어졌을 때, 양자화 영향이 최소화된 다층퍼셉트론 신경망을 설계하는 방법을 제시하였다. 그리고 제안된 방법에 의해 얻은 신경망과 오류역전파 학습방법에 의하여 얻은 신경망의 성능을 비교함으로써 제안된 방법의 효율성을 입증하였다. 실험결과는 낮은 양자화 정밀도에서도 제안된 방법이 더 좋은 성능을 보였다.Abstract When we implement a multilayer perceptron with the digital VLSI technology, we generally have to quantize the weights and the neuron outputs. These quantizations eventually cause distortion in the output of the network for a given input. In this paper first we made a statistical analysis about the effect caused by the quantization on the output of the network. The analysis revealed that the sum of the squared input components and the sizes of the weights are the major factors which contribute to the quantization effect. We present a design method for an MLP which minimizes the quantization effect when the precision of the quantization is given. In order to show the effectiveness of the proposed method, we developed a network by our method and compared it with the one developed by the regular backpropagation. We could confirm that the network developed by our method performs better even with a low precision of the quantization.

계층적인 가버 특징들과 베이지안 망을 이용한 필기체 숫자인식 (Hierarchical Gabor Feature and Bayesian Network for Handwritten Digit Recognition)

  • 성재모;방승양
    • 한국정보과학회논문지:소프트웨어및응용
    • /
    • 제31권1호
    • /
    • pp.1-7
    • /
    • 2004
  • 본 논문에서는 필기체 숫자인식을 위해서 계층적으로 서로 다른 레벨의 정보를 표현할 수 있는 구조화된 특징들의 추출 방법과 특징들 사이에 의존도를 이용하여 분류하는 베이지안 망을 제안한다. 이러한 계층적 특징들을 추출하기 위해서 레벨 단위로 가버 필터들을 정의하고, FLD(Fisher Linear Discriminant) 척도를 이용하여 최적화된 가버 필터들을 선택한다. 계층적 가버 특징들은 최적화된 가버 특징들을 이용하여 추출되며, 하위 레벨일수록 더욱 국부적인 정보를 표현한다. 추출된 계층적 가버 특징들의 분류성능 향상을 위해서 가버 특징들 사이의 계층적 의존도를 이용하는 베이지안 망을 생성한다. 본 논문에서 제안하는 방법은 naive Bayesian 분류기, k-nearest neighbor 분류기, 그리고 신경망 분류기들과 함께 필기체 숫자인식에 적용되어 계층적 가버 특징들의 효율성과 계층적 의존도를 이용하는 베이지안 망은 분류성능을 향상시킬 수 있다는 것을 보여준다.

인공신경망모형과 군집분석을 이용한 교각 세굴심 예측 (Prediction of Scour Depth Using Incorporation of Cluster Analysis into Artificial Neural Networks)

  • 이창환;안재현;이주헌;김태웅
    • 대한토목학회논문집
    • /
    • 제29권2B호
    • /
    • pp.111-120
    • /
    • 2009
  • 교각주위의 국부세굴은 교량붕괴의 주원인 중 하나로 알려져 있다. 세굴심을 산정하는 방법에는 경험식에 의한 방법과 수치모형을 이용한 시뮬레이션이 있다. 하지만 경험식에 의한 방법은 공식이 적용될 수 있는 유사한 상황에서만 제한적으로 사용가능하며, 수치모형을 이용한 방법은 비용이 많이 든다는 단점을 가지고 있다. 그러므로 본 연구에서는 세굴심 예측을 위한 CSU 공식, 다중회귀분석, 다양한 인공신경망 모형의 유용성을 비교분석하였다. 또한 세굴심을 산정하는데 있어 넓은 범위의 오차를 발생시키는 인공신경망 모형의 단점을 보완하기 위하여 본 연구에서는 인공신경망 모형에 군집분석을 결합하여 오차를 감소시키고자 하였다. 세굴심 예측을 위해 CSU 공식, 다중회귀분석, 다양한 인공신경망 모형을 적용해 본 결과 역전파알고리즘을 이용하는 인공신경망 모형이 가장 높은 정확성을 보였으며, 인공신경망 모형에 군집분석을 적용한 세굴심 예측에서는 군집수가 3일 때 가장 높은 정확도를 보였다. 군집분석을 적용한 인공신경망 모형의 정확도는 다른 모형과 비교할 때 최고 42.73%가 향상된 결과를 보여 인공신경망 모형내의 군집분석의 적용이 인공신경망의 오차를 줄이는데 큰 역할을 할 수 있음을 알 수 있었다.

Radial Basis 함수를 이용한 동적 - 단기 전력수요예측 모형의 개발 (The Development of Dynamic Forecasting Model for Short Term Power Demand using Radial Basis Function Network)

  • 민준영;조형기
    • 한국정보처리학회논문지
    • /
    • 제4권7호
    • /
    • pp.1749-1758
    • /
    • 1997
  • 전력수요의 예측은 예측기간에 따라 중장기 전력수요 예측과 단기 부하 예측으로 구분할 수 있다. 기존의 단기 부하예측은 주로 역전파 알고리즘(back propagation algorithm)다층퍼셉트론을 이용하여 예측을 하였으나 이는 학습시간이 많이 걸릴 뿐만 아니라 학습도중에 지역최소점(local minima)에 빠져 학습이 계속되지 못한다는 문제가 있다. 본 논문은 이러한 역전파 알고리즘의 문제점을 해결할 수 있는 방법으로 Radial Basis 함수(Radial Basis Function)를 이용하여 동적 단기부하 예측 모형을 제안한다. Radial Basis 함수는 하나의 은닉층(hidden layer)을 갖고 있으며, 전방향(feed-forward)학습을 한다는 특징이 있다. 본 논문에서 제안한 단기 부하 예측모형은 학습을 하기 위하여 시간대별 부하량을 클러스터링 하고, 이 클러스터의 중심값을 Radial Basis 함수의 은닉층으로 하여 학습을 한 다음 예측하고자 하는 패턴을 한 단위로 하여 시단대별로 예측하였다. 기존의 연구에서의 클러스터링 방법으로는 통계학의 K-Means 방법이나 Kohonen의 LVQ(Learning Vector Quantization)을 주로 이용하였으나 본 논문에서는 패턴의 분류에 있어서 다른 알고리즘보다 편차가 작은 Pal, et. al.의 GLVQ(Generalized LVQ) 알고리즘을 이용하였다. 본 논문에서 이용한 데이타는 1995년 3월 1일-3일, 6월 1일-3일, 7월 1일-3일, 9월 1일-3일, 11월 1일-3일의 72시간 데이타를 입력하여 월별 4일의 24시간의 예측시간으로 예측하였다. 실험결과 월별 1일과 3일까지의 학습데이타로 1시간 후의 부하량을 24시간동안 예측한 결과 1.3795%의 평균 오차율로 예측하였다.

  • PDF

순환인공신경망(RNN)을 이용한 대도시 도심부 교통혼잡 예측 (Traffic Congestion Estimation by Adopting Recurrent Neural Network)

  • 정희진;윤진수;배상훈
    • 한국ITS학회 논문지
    • /
    • 제16권6호
    • /
    • pp.67-78
    • /
    • 2017
  • 교통혼잡비용은 매해 증가하며, 교통혼잡비용의 63.8%에 해당되는 도심부 교통혼잡에 대한 대책 마련이 시급한 상태이다. 최근 빅데이터, 인공지능 등 4차 산업혁명을 선도하는 기술들의 발전으로 교통부문의 정보화에도 많은 변화가 초래되고 있다. 이러한 신개념 기술을 활용하여 소통상황 예측정보를 제공함으로써 교통혼잡비용을 저감할 수 있을 것으로 기대된다. 이에 본 연구에서는 순환 인공 신경망(RNN)을 활용하여 반복 및 비반복 정체 예측 모형을 개발하고자 하였다. 제안 모형은 실시간 소통정보, 이력정보, 유고상황정보 등을 활용하여 현재를 기점으로 15분 간격의 1시간 이후 소통 상황을 예측하는 모형이다. 33개 링크로 구성된 서울시 논현로에 대해 2개의 은닉층으로 구성된 RNN 모형을 구축하였다. 총 30개 모형을 계량활용변화역전파 알고리즘으로 학습하여, 이 중 평균오차제곱이 0.0834인 모형을 최적 모형으로 선정하였다. 모형 검증 결과 25개 링크에 대해 유의성 높은 예측을 하였다. 모형의 예측력을 열지도를 통해 검토한 결과 반복 정체뿐 아니라 비반복 정체까지 예측할 수 있는 것을 확인할 수 있었다. 따라서 실제 도로 상에서의 교통혼잡 예측을 위한 모형으로 활용할 수 있을 것이라 기대된다.

혈액영상에서 병리진단을 위한 적혈구 세포의 자동분류에 관한 연구 (A Study on Automatic Classification System of Red Blood Cell for Pathological Diagnosis in Blood Digitial Image)

  • 김경수;김동현
    • 한국컴퓨터정보학회논문지
    • /
    • 제4권1호
    • /
    • pp.47-53
    • /
    • 1999
  • 의학분야에서 컴퓨터는 병원에서 발생하는 각종 업무데이터의 전산화에서 진단을 위해 사용하는 검사 의료기기들의 자동화, 그리고, 각종 의학영상들을 디지털화하여 처리하는 단계까지 활발하게 활용되고 있는 실정이다. 이러한 시점에서 본 논문에서는 병원의 임상병리과에서 늘어나고 있는 혈액검사를 자동화하기 위한 것으로 혈구영상으로부터 적혈구를 분석하여 정상세포를 비롯한 비정상세포를 16부류로 나누어 분류하였다. 이를위해 UNL푸리에 특징과 불변 모멘트 알고리즘을 사용하여 세그먼트된 적혈구 영상으로부터 특징을 추출하고 이를 인식하기 위한 다단계 신경망을 구축하였다. 실제 임상에서 10명의 환자를 대상으로 실험한 결과 검사자가 참조가능 형태의 결과를 얻을 수 있었다.

  • PDF

다중계층 퍼셉트론 내 Sigmoid 활성함수의 구간 선형 근사와 양자화 근사와의 비교 (A piecewise affine approximation of sigmoid activation functions in multi-layered perceptrons and a comparison with a quantization scheme)

  • 윤병문;신요안
    • 전자공학회논문지C
    • /
    • 제35C권2호
    • /
    • pp.56-64
    • /
    • 1998
  • Multi-layered perceptrons that are a nonlinear neural network model, have been widely used for various applications mainly thanks to good function approximation capability for nonlinear fuctions. However, for digital hardware implementation of the multi-layere perceptrons, the quantization scheme using "look-up tables (LUTs)" is commonly employed to handle nonlinear signmoid activation functions in the neworks, and thus requires large amount of storage to prevent unacceptable quantization errors. This paper is concerned with a new effective methodology for digital hardware implementation of multi-layered perceptrons, and proposes a "piecewise affine approximation" method in which input domain is divided into (small number of) sub-intervals and nonlinear sigmoid function is linearly approximated within each sub-interval. Using the proposed method, we develop an expression and an error backpropagation type learning algorithm for a multi-layered perceptron, and compare the performance with the quantization method through Monte Carlo simulations on XOR problems. Simulation results show that, in terms of learning convergece, the proposed method with a small number of sub-intervals significantly outperforms the quantization method with a very large storage requirement. We expect from these results that the proposed method can be utilized in digital system implementation to significantly reduce the storage requirement, quantization error, and learning time of the quantization method.quantization method.

  • PDF

결함 심각도에 기반한 소프트웨어 품질 예측 (Software Quality Prediction based on Defect Severity)

  • 홍의석
    • 한국컴퓨터정보학회논문지
    • /
    • 제20권5호
    • /
    • pp.73-81
    • /
    • 2015
  • 소프트웨어 결함 예측 연구들의 대부분은 입력 개체의 결함 유무를 예측하는 이진 분류 모델들에 관한 것들이다. 하지만 모든 결함들이 같은 심각도를 갖지는 않으므로 예측 모델이 입력 개체의 결함경향성을 몇 개의 심각도 범주로 분류할 수 있다면 훨씬 유용하게 사용될 수 있다. 본 논문에서는 전통적인 복잡도와 크기 메트릭들을 입력으로 하는 심각도 기반 결함 예측 모델을 제안하였다. 학습 알고리즘은 많이 사용되는 네 개의 기계학습 기법들을 사용하였으며, 모델 구조는 삼진 분류 모델로 하였다. 모델 성능 평가를 위해 실험 데이터는 두 개의 NASA 공개 데이터 집합을 사용하였고, 평가 측정치는 Accuracy를 이용하였다. 평가 실험 결과는 역전파 신경망 모델이 두 데이터 집합에 대해 각각 81%와 88% 정도의 Accuracy 값으로 가장 좋은 성능을 보였다.