• 제목/요약/키워드: 오류역전파

검색결과 93건 처리시간 0.028초

천연가스 누출 예측을 위한 OrdinalEncoder 기반 DNN (OrdinalEncoder based DNN for Natural Gas Leak Prediction)

  • 홍고르출;이상무;김미혜
    • 한국융합학회논문지
    • /
    • 제10권10호
    • /
    • pp.7-13
    • /
    • 2019
  • 대부분의 천연가스(NG)는 공기 중으로 누출 되며 그중에서도 메탄가스의 누출은 기후에 많은 영향을 준다. 미국 도시의 거리에서 메탄가스 누출 데이터를 수집하였다. 본 논문은 메탄가스누출 정도를 예측하는 딥러닝(Deep Neural Network)방법을 제안하였으며 제안된 방법은 OrdinalEncoder(OE) 기반 K-means clustering과 Multilayer Perceptron(MLP)을 활용하였다. 15개의 특징을 입력뉴런과 오류역전파 알고리즘을 적용하였다. 데이터는 실제 미국의 거리에서 누출되는 메탄가스농도 오픈데이터를 활용하여 진행하였다. 우리는 OE 기반 K-means알고리즘을 적용하여 데이터를 레이블링 하였고 NG누출 예측을 위한 정규화 방법 OE, MinMax, Standard, MaxAbs. Quantile 5가지 방법을 실험하였다. 그 결과 OE 기반 MLP의 인식률이 97.7%, F1-score 96.4%이며 다른 방법보다 상대적으로 높은 인식률을 보였다. 실험은 SPSS 및 Python으로 구현하였으며 실제오픈 데이터를 활용하여 실험하였다.

딥러닝의 모형과 응용사례 (Deep Learning Architectures and Applications)

  • 안성만
    • 지능정보연구
    • /
    • 제22권2호
    • /
    • pp.127-142
    • /
    • 2016
  • 딥러닝은 인공신경망(neural network)이라는 인공지능분야의 모형이 발전된 형태로서, 계층구조로 이루어진 인공신경망의 내부계층(hidden layer)이 여러 단계로 이루어진 구조이다. 딥러닝에서의 주요 모형은 합성곱신경망(convolutional neural network), 순환신경망(recurrent neural network), 그리고 심층신뢰신경망(deep belief network)의 세가지라고 할 수 있다. 그 중에서 현재 흥미로운 연구가 많이 발표되어서 관심이 집중되고 있는 모형은 지도학습(supervised learning)모형인 처음 두 개의 모형이다. 따라서 본 논문에서는 지도학습모형의 가중치를 최적화하는 기본적인 방법인 오류역전파 알고리즘을 살펴본 뒤에 합성곱신경망과 순환신경망의 구조와 응용사례 등을 살펴보고자 한다. 본문에서 다루지 않은 모형인 심층신뢰신경망은 아직까지는 합성곱신경망 이나 순환신경망보다는 상대적으로 주목을 덜 받고 있다. 그러나 심층신뢰신경망은 CNN이나 RNN과는 달리 비지도학습(unsupervised learning)모형이며, 사람이나 동물은 관찰을 통해서 스스로 학습한다는 점에서 궁극적으로는 비지도학습모형이 더 많이 연구되어야 할 주제가 될 것이다.

주파수 영역 등화를 이용한 지상파 DTV 수신 성능 개선 (Performance Improvement of Terrestrial DTV Receivers Using Frequency-domain Equalization)

  • 손상원;김지현;김형남
    • 한국통신학회논문지
    • /
    • 제31권4C호
    • /
    • pp.351-363
    • /
    • 2006
  • 우리나라의 지상파 DTV 전송 방식인 8-VSB 변조 방식은 크기에 정보를 실어서 보내기 때문에 다중경로에 의한 심벌간 간섭에 다소 취약한 단점이 있다. 이러한 문제를 해결하기 위하여 지상파 DTV 수신기에서는 판정 궤환 등화기를 사용하여 채널 등화를 수행해 왔다. 하지만 SFN(single frequency network) 환경과 같은 열악한 채널에서는 판정 오류로 인한 에러전파로 안정적인 등화를 수행하지 못한다. 본 논문에서는 이러한 문제를 해결하고자 주파수 영역에서 직접 채널의 역을 곱해서 채널등화를 수행하는 zero forcing 등화 방법을 제안한다. 이를 위해서 채널 정합 필터와 비인과 필터를 사용하여 비최소 위상(nonminimum phase) 채널을 최소 위상(minimum phase) 채널로 근사화시킴으로써 채널의 역의 안정성을 보장할 수 있게 하였다. 시뮬레이션을 통하여 SFN 채널 환경에서 제안된 주파수 영역 등화기가 기존의 판정 궤환 등화기에 비하여 안정성과 SER(symbol error rate) 측면에서 모두 향상된 성능을 얻을 수 있음을 보인다.

패턴인식의 MLP 고속학습 알고리즘 (A Fast-Loaming Algorithm for MLP in Pattern Recognition)

  • 이태승;최호진
    • 한국정보과학회논문지:컴퓨팅의 실제 및 레터
    • /
    • 제8권3호
    • /
    • pp.344-355
    • /
    • 2002
  • MLP(multilayer perceptron)는 다른 패턴인식 방법에 비해 여러 가지 훌륭한 특성을 가지고 있어 패턴인식에서 폭넓게 사용되고 있다. 그러나 MLP의 학습에 일반적으로 사용되는 EBP(error backpropagation) 알고리즘은 학습시간이 비교적 오래 걸린다는 단점이 있다. 패턴인식에 사용되는 학습 데이타는 풍부한 중복특성을 내포하고 있으므로 패턴마다 MLP의 내부변수를 갱신하는 온라인 계열의 학습방식이 속도의 향상에 상당한 효과가 있다. 일반적인 온라인 EBP 알고리즘에서는 내부변수 갱신시 고정된 학습률을 적용한다. 고정 학습률을 적절히 선택함으로써 패턴인식 웅용에서 상당한 속도개선을 얻을 수 있지만, 학습률이 고정되고 학습이 진행됨에 따라 학습패턴 영역이 달라지는 학습과정의 각 단계에 효과적으로 대웅하지 못하는 문제가 있다. 이 문제에 대해 본 논문에서는 학습과정을 세 단계로 정의하고, 각 단계별로 필요한 패턴만을 학습에 반영하는 패턴별 가변학습속도 및 학습생략(ILVRS) 방법을 제안한다. ILVRS의 기본개념은 다음과 같다. 학습단계마다 학습에 필요한 패턴의 부분이 달라지므로 이를 구별 하여 학습에 적용할 수 있도록 (1)패턴마다 발생하는 오류치를 적절한 범위 이내로 제한하여 가변 학습률로 사용하고, (2)학습이 진행됨에 따라 불필요한 부분의 패턴을 학습에서 생략한다. 제안한 ILVRS의 성능을 입증하기 위해 본 논문에서는 패턴인식 응용의 한 갈래인 화자증명을 실험하고 그 결과를 제시한다.

위성정보에 의한 강우예측과 홍수유출 및 범람 연계 해석 (I): 이론 및 모형의 개발 (Rainfall Forecasting Using Satellite Information and Integrated Flood Runoff and Inundation Analysis (I): Theory and Development of Model)

  • 최혁준;한건연;김광섭
    • 대한토목학회논문집
    • /
    • 제26권6B호
    • /
    • pp.597-603
    • /
    • 2006
  • 본 연구의 목적은 인공위성 자료와 지상의 관측자료간의 비선형 특성을 가장 잘 반영할 수 있는 신경망 모형을 이용하여 단시간 강우량 정보를 사전에 예측하여, 하천제방의 붕괴로 인한 상습 침수지역에서의 홍수범람 양상을 실시간으로 예측함으로써 홍수재해로부터의 피해를 최소화시키는데 있다. 강우예측 신경망 모형은 현재의 대기상태를 나타내는 인공위성 자료와 실시간으로 전송되는 자동기상관측소 자료를 입력자료로 하여 현재부터 3시간 및 6시간 선행시간까지의 면적평균강우량을 예측할 수 있도록 구성하였다. 신경망 모형의 구조는 입력층과 출력층 사이에 하나의 은닉층이 존재하는 다층 신경망으로 구성하였으며, 학습단계에서는 오류 역전파 알고리듬 학습방법 중 모멘텀법을 사용하였다. 예측된 면적평균강우량으로부터 홍수량을 산정하고, 이를 이용하여 하천의 제방붕괴로 인한 제내지에서의 범람양상을 예측할 수 있도록 1차원 흐름모형과 연계한 동역학적 홍수범람 모형을 개발하였다. 개발된 홍수범람 모형은 본류와 지류의 여러 지점에서 제방이 붕괴될 경우, 하도의 홍수위 및 제내지에서의 침수위와 침수면적이 일괄적으로 모의될 수 있도록 구성하였다.

고급 뉴로퍼지 다항식 네트워크의 해석과 설계 (The Analysis and Design of Advanced Neurofuzzy Polynomial Networks)

  • 박병준;오성권
    • 전자공학회논문지CI
    • /
    • 제39권3호
    • /
    • pp.18-31
    • /
    • 2002
  • 본 연구는 뉴로퍼지 네트워크와 다항식 뉴럴네트워크를 합성한 하이브리드 모델링 구조인 고급 뉴로퍼지 다항식 네트워크(Advanced neurofuzzy polynomial networks ; ANFPN)를 제안한다. 제안된 네트워크 구조는 높은 비선형 규칙 기반 모델로, CI(Computational Intelligence)의 기술, 즉 퍼지집합, 뉴럴네트워크, 유전자 알고리즘에 의해 설계되어진다. 뉴로퍼지 네트워크는 ANFPN 구조의 전반부를, 다항식 뉴럴네트워크는 후반부를 구성한다. ANFPN의 전반부에서, 뉴로퍼지 네트워크는 간략추론, 오류역전파 학습 규칙을 이용한다. 멤버쉽함수의 파라미터, 학습율, 모멘텀 계수는 유전자 최적화를 이용하여 조절된다. ANFPN의 후반부 구조로서 다항식 뉴럴네트워크는 학습을 통해 생성되는(전개되는) 유연한 네트워크 구조이다. 특히 다항식 뉴럴네트워크의 층과 노드 수는 고정되어 있지 않고 동적으로 생성된다. 본 연구에서는, 2가지 형태의 ANFPN 구조를 제안한다. 즉 기본 구조와 변형된 구조이다. 여기서 기본 구조와 변형된 구조는 다항식 뉴럴네트워크 구조의 각 층에서 입력변수의 수와 회귀다항식의 차수에 의존한다. 두 결합 구조의 특징 때문에 공정 시스템의 비선형적인 특성을 고려할 수 있고 보다 우수한 예측능력을 가진 좋은 출력선응을 얻을 수 있게 한다. ANFPN의 유용성과 실용성은 2개의 수치 예제를 통해 논의된다. 제안된 ANFPN은 기존의 모델보다 높은 정밀도와 예측능력을 가진 모델을 생성함을 보인다.

인공신경망모델을 이용한 산사태 예측 (Prediction of Landslide Using Artificial Neural Network Model)

  • 홍원표;김원영;송영석;임석규
    • 한국지반공학회논문집
    • /
    • 제20권8호
    • /
    • pp.67-75
    • /
    • 2004
  • 산사태는 인간의 생명과 재산을 위협하는 가장 주요한 자연재해중의 하나이다. 일반적으로 산사태는 토질물성, 지질학적 및 지형학적 특성과 같은 복잡한 문제로 인하여 발생하게 된다. 인공신경망모델은 많은 연구분야에서 적용되고 있으며, 복잡한 문제를 해결하는데 사용되는 유용한 계산방법이다. 본 논문에서는 자연사면의 산사태 발생여부를 조사하기 위하여 오류역전파를 이용한 인공신경망모델을 제안하였다. 제안된 인공신경망 모델은 두가지 경우에 대한 산사태 발생여부의 평가가 가능하다. 한가지는 토질물성데이터만을 적용한 경우이고, 다른 한가지는 토질물성, 지형 및 지질데이터를 적용한 경우이다. 사면의 안정성을 합리적으로 평가하기 위하여, 인공신경망모델을 적용한 SlideEval(Ver. 1.0)을 개발하였다. 인공신경망모델을 이용한 사면의 안정성 평가는 매우 정확한 것으로 나타났다. 특히, 인공신경망모델을 이용한 산사태 예측은 토질물성데이터만을 적용한 경우보다 토질물성, 지형 및 지질데이터를 적용한 경우가 안정하고 정확한 것으로 나타났다. 그리고, 산사태 발생예측에 대한 통계적인 분석결과(한국지질자원 연구원, 2003)와 비교 검토하여 보면 인공신경망 예측결과와 거의 일치하는 것으로 나타났다. 따라서, 인공신경망을 이용한 SlideEval (Ver. 1.0)프로그램은 산사태를 예측하여 사면의 안정성을 평가하는데 적용이 가능하다.

오프라인 필기체 한글 자소 인식에 있어서 특징성능의 비교 (Comparison of Feature Performance in Off-line Hanwritten Korean Alphabet Recognition)

  • 고태석;김종렬;정규식
    • 인지과학
    • /
    • 제7권1호
    • /
    • pp.57-74
    • /
    • 1996
  • 본 논문에서는 근래의 필기체 한글인식에서 상요되고 있는 특징들의 인식 성능을 비교한다.본 연구는 인식률 뿐만 아니라 인식시스템의 효율성을 향상시키기 위한 특징 선택의 기반을 마련함에 그 목적이 있다.특징성능 비교를 위해 그 특징들의 특성들을 분석하였고,그 특성에 따라 특징들을 전역적 특징(영상변환,통계적 특징,지역/위상적 특징의 3가지 종류로 분류하였다.각 종류별로 한글 자소 특징을 나타내는데 적합한 특징들을 4-5가지씩 선정하였고,인식실험을 한글의 초성자음,횡모음,종모음별로 수행하였다. 실험에 사용된 인식기로는 오류역전파 알고리즘으로 학습된 은닉층이 하나인 다층 퍼셉트론이 사용되었다.실험에 사용된 학습 및 시험용 데이타는 PE92중 30벌이다.실험결과를 보면,1)지역/위상적 특징들이 다른 종류의 특징들보다 인식 성능이 우수하였으며,2) 통계적 특징 중에서는 망 특징과 투영특징이,전역적인 특징들 중에서는 왈쉬특징과 DCT특징이,지역/위상적 특징에서는 윤곽선 위상변화 특징과 오목성 특징이 각각 성능이 우수하였다.

  • PDF

Local min/max 연산을 이용한 필기체 숫자의 방향특징 추출 (Directional Feature Extraction of Handwritten Numerals using Local min/max Operations)

  • 정순원;박중조
    • 융합신호처리학회논문지
    • /
    • 제10권1호
    • /
    • pp.7-12
    • /
    • 2009
  • 본 논문에서는 local min/max 연산을 이용한 필기체 숫자의 방향특징 추출 기법을 제안한다. 숫자의 방향특징은 숫자를 이루는 선에서 수평, 수직 및 두 대각방향인 4개 방향의 선들로 구성된 방향선분 영상으로부터 구해진다. Kirsch 마스크를 사용하는 기존의 방향특징 추출기법은 에지형태인 두 겹으로 된 방향선분 영상을 생성하는데 반해 본 논문에서 제시하는 방법은 방향성 수축연산을 사용하여 한 겹으로 된 방향선분 영상을 생성한다. 본 방향성 수축연산을 숫자영상에 적용하기 위해서는 먼저 세선화, 영상 팽창 등의 전처리가 필요하지만 이 방법은 숫자를 이루는 선 자체와 더욱 유사한 형태를 갖는 방향선분을 제공한다. 우리가 구하고자 하는 [$4{\times}4$] 크기인 4개의 방향특징은 4개의 방향선분 영상으로부터 조닝방법을 통해 구해진다. 보다 높은 필기체 숫자인식을 얻기 위해, 본 연구에서는 우리가 제안한 방향특징에 기존의 Kirsch 방향특징과 오목특징을 결합한 다중특징을 사용하였다. 본 숫자 특징에 의한 인식률을 테스트를 위해 오류역전파 알고리즘으로 학습되는 다층퍼셉트론 신경회로망을 인식기로 사용하였으며, Concordia 대학의 CENPARMI 숫자 데이터베이스를 사용하여 실험한 결과 98.35%의 인식률을 얻을 수 있었다.

  • PDF

인공 신경경망과 사례기반추론을 혼합한 지능형 진단 시스템 (The hybrid of artificial neural networks and case-based reasoning for intelligent diagnosis system)

  • 이길재;김창주;안병렬;김문현
    • 정보처리학회논문지B
    • /
    • 제15B권1호
    • /
    • pp.45-52
    • /
    • 2008
  • 최근 IT 서비스 발달과 함께 고장제어, 고장의 원인분석 등의 복잡한 문제에 대하여 적합한 해결책을 제시할 수 있는 효과적인 진단시스템의 필요성이 커지고 있다. 따라서 본 논문에서는 지능형 진단 시스템분야에서의 시스템의 성능을 향상시키고, 최적의 진단을 수행하고자 사례기반추론과 인공신경망을 혼합한 지능형 진단 시스템을 제안 한다. 사례기반추론은 과거의 사례(경험)를 통해 현재의 제시된 문제를 해결하는 추론방식으로, 지식 획득이 덜 복잡하고, 정형화되기 어려운 규칙이나 문제영역이 불분명한 분야를 효율적으로 추론할 수 있다. 하지만 사례기반추론만을 이용해 추론된 사례는 증상에 대해 다수의 원인을 추론하게 된다. 이때 추론된 증상에 따른 다수의 원인은 동일한 가중치를 가져 불필요한 원인까지 진단해야 하는 문제점이 있다. 이러한 문제를 해결하고자 인공신경망의 오류역전파 학습 알고리즘을 이용하여 증상에 대한 원인들의 쌍을 학습 시킨 후 각각의 증상에 대한 원인의 가중치를 구해 제시된 증상에 대해 가장 발생 가능성이 높은 원인을 찾아내어, 보다 명확하고 신뢰성 있는 진단을 하는 데 그 목적이 있다.