• 제목/요약/키워드: 신경망 모델선정

검색결과 129건 처리시간 0.028초

Deep CNN 기반의 한국어 음소 인식 모델 연구 (Korean Phoneme Recognition Model with Deep CNN)

  • 홍윤석;기경서;권가진
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2018년도 춘계학술발표대회
    • /
    • pp.398-401
    • /
    • 2018
  • 본 연구에서는 심충 합성곱 신경망(Deep CNN)과 Connectionist Temporal Classification (CTC) 알고리즘을 사용하여 강제정렬 (force-alignment)이 이루어진 코퍼스 없이도 학습이 가능한 음소 인식 모델을 제안한다. 최근 해외에서는 순환 신경망(RNN)과 CTC 알고리즘을 사용한 딥 러닝 기반의 음소 인식 모델이 활발히 연구되고 있다. 하지만 한국어 음소 인식에는 HMM-GMM 이나 인공 신경망과 HMM 을 결합한 하이브리드 시스템이 주로 사용되어 왔으며, 이 방법 은 최근의 해외 연구 사례들보다 성능 개선의 여지가 적고 전문가가 제작한 강제정렬 코퍼스 없이는 학습이 불가능하다는 단점이 있다. 또한 RNN 은 학습 데이터가 많이 필요하고 학습이 까다롭다는 단점이 있어, 코퍼스가 부족하고 기반 연구가 활발하게 이루어지지 않은 한국어의 경우 사용에 제약이 있다. 이에 본 연구에서는 강제정렬 코퍼스를 필요로 하지 않는 CTC 알고리즘을 도입함과 동시에, RNN 에 비해 더 학습 속도가 빠르고 더 적은 데이터로도 학습이 가능한 합성곱 신경망(CNN)을 사용하여 딥 러닝 모델을 구축하여 한국어 음소 인식을 수행하여 보고자 하였다. 이 모델을 통해 본 연구에서는 한국어에 존재하는 49 가지의 음소를 추출하는 세 종류의 음소 인식기를 제작하였으며, 최종적으로 선정된 음소 인식 모델의 PER(phoneme Error Rate)은 9.44 로 나타났다. 선행 연구 사례와 간접적으로 비교하였을 때, 이 결과는 제안하는 모델이 기존 연구 사례와 대등하거나 조금 더 나은 성능을 보인다고 할 수 있다.

강건한 태양광 발전량 예측을 위한 2단계 신경망 최적화 (Two-Stage Neural Network Optimization for Robust Solar Photovoltaic Forecasting)

  • 오진영;소다영;문지훈
    • 한국컴퓨터정보학회:학술대회논문집
    • /
    • 한국컴퓨터정보학회 2024년도 제69차 동계학술대회논문집 32권1호
    • /
    • pp.31-34
    • /
    • 2024
  • 태양광 에너지는 탄소 중립 이행을 위한 주요 방안으로 많은 주목을 받고 있다. 태양광 발전량은 여러 환경적 요인에 따라 크게 달라질 수 있으므로, 정확한 발전량 예측은 전력 네트워크의 안정성과 효율적인 에너지 관리에 근본적으로 중요하다. 대표적인 인공지능 기술인 신경망(Neural Network)은 불안정한 환경 변수와 복잡한 상호작용을 효과적으로 학습할 수 있어 태양광 발전량 예측에서 우수한 성능을 도출하였다. 하지만, 신경망은 모델의 구조나 초매개변수(Hyperparameter)를 최적화하는 것은 복잡하고 시간이 많이 드는 작업이므로, 에너지 분야에서 실제 산업 적용에 한계가 존재한다. 본 논문은 2단계 신경망 최적화를 통한 태양광 발전량 예측 기법을 제안한다. 먼저, 태양광 발전량 데이터 셋을 훈련 집합과 평가 집합으로 분할한다. 훈련 집합에서, 각기 다른 은닉층의 개수로 구성된 여러 신경망 모델을 구성하고, 모델별로 Optuna를 적용하여 최적의 초매개변숫값을 선정한다. 다음으로, 은닉층별 최적화된 신경망 모델을 이용해 훈련과 평가 집합에서는 각각 5겹 교차검증을 적용한 발전량 추정값과 예측값을 출력한다. 마지막으로, 스태킹 앙상블 방식을 채택해 기본 초매개변숫값으로 설정해도 우수한 성능을 도출하는 랜덤 포레스트를 이용하여 추정값을 학습하고, 평가 집합의 예측값을 입력으로 받아 최종 태양광 발전량을 예측한다. 인천 지역으로 실험한 결과, 제안한 방식은 모델링이 간편할 뿐만 아니라 여러 신경망 모델보다 우수한 예측 성능을 도출하였으며, 이를 바탕으로 국내 에너지 산업에 이바지할 수 있을 것으로 기대한다.

  • PDF

부도예측용 인공신경망모형의 최적 입력노드 설계: 연결강도판별분석 접근 (Design of Optimal Input Nodes in Artificial Neural Network Models for Bankruptcy prediction: Link Weight Discrimination Analysis Approach)

  • 이웅규;손동우
    • 한국지능정보시스템학회:학술대회논문집
    • /
    • 한국지능정보시스템학회 2000년도 춘계정기학술대회 e-Business를 위한 지능형 정보기술 / 한국지능정보시스템학회
    • /
    • pp.251-258
    • /
    • 2000
  • 인공신경망에 의해 부도예측을 하기 위해서는 여러 개의 재무비율을 입력변수 즉, 입력노드로 이용하는데, 이 가운데 적절한 입력노드를 선정하는 일은 예측력을 결정하는데 있어서 매우 중요하다. 본 연구에서는 새로운 입력노드 선정 휴리스틱을 제안하기 위하여 적절한 훈련이 끝난 인공신경망 모델에서 각 입력노드와 연결되는 가중치들의 합에 대한 절대값인 연결강도가 작은 경우 해당 노드는 출력값에 대한 설명력이 약할 것이다라는 연결강도판별 명제를 제시한다. 즉, 연결강도가 연결강도임계치보다 작은 입력노드는 제거 대상으로 분류할 수 있을 것이고, 이들 노드를 제외한 입력노드는 그렇지 않은 경우보다 더 나은 예측력을 보여 줄 수 있을 것이다. 연결강도판별 명제를 실증적으로 입증하기 위해 본 연구에서는 연결강도판별 선처리 과정에 대한 방법론을 제안하고 제안된 방법론에 의해 부도예측을 실시하여 아무런 선처리를 거치지 않은 모형과 비교하였고, 또 기존의 입력변수 선정방식 중에 하나인 의사결정트리 방식에 의한 입력변수 선정 모형과도 비교하여 더 나은 결과를 얻었다.

  • PDF

트래픽 파라메타 압축을 이용한 ATM 연결수락제어 (ATM Connection Admission Control Using Traffic Parameters Compression)

  • 이진이
    • 정보처리학회논문지C
    • /
    • 제8C권3호
    • /
    • pp.311-318
    • /
    • 2001
  • 본 논문에서는 연결수락 제어시 사용자가 전송하는 트래픽 파라메타(샐 개수의 분산값과 평균값)를 압축하여 망에 신고하는 방법을 제안하고, 압축방법에 의한 연결수락제어의 성능을 분석 비교한다. 트래픽 파라메타 압축방법은 K-means, CL(Competitive Learning), Fuzzy ISODATA,FNC(Fuzzy Neural Clustering)를 사용한다. 제안한 트래픽 파라메타의 압축에 의한 연결수락제어는 퍼지 매핑함수(Fuzzy Mapping Funciton)fp 의해 신고한 트래픽 패턴을 추정하고, 전방향 구조의 신경망을 사용하여 연결의 수락/거절을 결정한다. ON-OFF 트래픽 모델 환경에서 컴퓨터 실험을 통하여 여러 가지 압축방법들을 사용한 연결수락제어의 성능을 Fuzziness 값에 따라 비교하였고, 그 결과 FNC 방법이 우수함을 알 수 있었다. EH한 연결수락제어의 성능을 높히기 위해서 관측 프레임의 셀 분산값이 크면 Fuzziness 값을 작게 선정하고, 작으면 상대적으로 크게 선정해야 함을 알 수 있었다.

  • PDF

안면 연령 예측을 위한 CNN기반의 히트 맵을 이용한 랜드마크 선정 (Landmark Selection Using CNN-Based Heat Map for Facial Age Prediction)

  • 홍석미;유현
    • 융합정보논문지
    • /
    • 제11권7호
    • /
    • pp.1-6
    • /
    • 2021
  • 본 연구의 목적은 이미지 랜드마크 선정 기법을 기반으로, 인공신경망 안면 영상분석 시스템의 성능을 향상하기 위한 내용이다. 랜드마크 선정을 위하여 안면 이미지 연령을 분류를 위한 CNN 기반의 다층 ResNet 모델의 구성이 필요하며, ResNet 모델에서 입력 노드의 변화에 따른 출력 노드의 변화를 감지하는 히트 맵을 추출한다. 추출된 다수의 히트 맵을 결합하여 연령 구분 예측과 관계된 안면 랜드마크를 구성한다. 이를 통하여, 안면 랜드마크를 통하여 픽셀의 위치별 중요도를 분석할 수 있으며, 가중치가 낮은 픽셀의 제거함으로서 상당량의 입력 데이터 감소가 가능해졌다. 이러한 기법은 인공신경망 시스템의 연산 성능 향상에 기여하게 된다.

도로 노면 파손 영상의 다중 분류 심층 신경망 평가를 통한 Backbone Network 선정 기법 (A Selection Method of Backbone Network through Multi-Classification Deep Neural Network Evaluation of Road Surface Damage Images)

  • 심승보;송영은
    • 한국ITS학회 논문지
    • /
    • 제18권3호
    • /
    • pp.106-118
    • /
    • 2019
  • 최근 들어 인공 지능을 이용한 영상 객체 인식에 대한 연구 및 개발이 활발하게 진행되고 있다. 그 연장선상에서 도로 유지 및 관리 분야에도 관련 연구의 활용도가 크게 향상될 것으로 기대된다. 그 중에서도 특히 도로 노면 파손 객체 인식 (Object Detection) 을 위한 인공 지능모델이 지속적으로 개발되고 있다. 이러한 객체 인식 알고리즘을 개발하려면 우선적으로 특징지도를 생성하는 Backbone Network가 반드시 필요한데, 본 논문에서는 이를 선정하는 방법을 제안하고자 한다. 이를 위해 6,000여 장의 도로 노면 파손 영상 데이터를 확보하고, 근래에 많이 사용되는 4종류의 심층 신경망을 활용하여 성능을 비교한다. 3가지의 성능 평가 방법을 적용하여 심층 신경망의 특징을 분석하고 최적의 심층 신경망을 결정한다. 또한 하이퍼 파라미터의 최적 조율을 통해 성능을 향상시키고, 최종적으로 도로 노면 파손 영상 분류를 위하여 85.9%의 정확도로 수행이 가능한 경량화된 Backbone Network용 심층 신경망을 제안한다.

파나막스 중고선가치 추정모델 연구 (Panamax Second-hand Vessel Valuation Model)

  • 임상섭;이기환;양혁준;윤희성
    • 한국항해항만학회지
    • /
    • 제43권1호
    • /
    • pp.72-78
    • /
    • 2019
  • 중고선은 신조선과 달리 시장참여자에게 즉각적인 시장 진출입 기회를 제공하기 때문에 해운산업에서 중요한 시장이라 할 수 있다. 중고선 거래 시 정확한 선가 추정은 향후 장기적인 자본비용의 부담과 직접적인 관련이 있기 때문에 투자의사결정에서 상당히 중요한 요소가 된다. 기존의 중고선시장과 관련된 연구들은 시장의 효율성검증에 치우쳐 있어 정확한 중고선가 추정을 위한 연구는 부족한 실정이다. 본 연구에서는 중고선박 가치추정에 전통적인 계량모델보다 기존연구에서 시도되지 않았던 인공신경망모델을 새롭게 제안하였다. 문헌연구를 통해 중고선 가격에 영향을 미치는 6개 요인(운임, 신조선가격, 총 선복대비 발주량, 해체선 가격, 선령, 사이즈)을 선정하였고, 데이터는 2016년 1월부터 2018년 12월까지 Clarkson에 보고된 파나막스 중고선의 실거래 기록 366건을 이용하였다. 변수선정을 위하여 상관분석과 단계적 회귀분석 실시한 결과 최종적으로 운임, 선령, 사이즈 3개의 변수가 채택되었다. 모델의 설계는 10분할 교차검증으로 인공신경망모델의 파라미터들을 추정하여 진행되었다. 인공신경망 모델의 중고선 가치추정치를 단순 단계적 회귀모형과 비교한 결과 인공신경망모델의 성능이 우수함을 확인하였다. 이 연구는 중고선 선가추정에 미치는 요인들에 대한 통계적인 검증, 성능개선을 위한 기계학습기반의 인공신경망 모델활용이라는 측면에서 차별적 의미가 있다. 또한 정확한 선가 추정이 요구되는 실무에서 통계적인 합리성과 결과의 정확성이 동시에 만족되는 과학적 모델을 제시하여 실무적으로도 도움이 될 것으로 기대한다.

인공신경망을 이용한 금강 유역 하천 수위예측 적용성 평가 (Application Assessment of water level prediction using Artificial Neural Network in Geum river basin)

  • 유완식;김선민;김연수;황의호;정관수
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2018년도 학술발표회
    • /
    • pp.424-424
    • /
    • 2018
  • 인공신경망(Artificial Neural Network; ANN)은 뇌에 존재하는 생물학적 신경세포와 이들의 신호처리 과정을 수학적으로 묘사하여 뇌가 나타내는 지능적 형태의 반응을 구현한 것이다. 인공신경망은 학습(training)을 통해 입력과 출력으로 구성되는 하나의 시스템을 병렬적이고 비선형적으로 구축할 수 있으며, 유연한 모델링 특성으로 인하여 시스템 예측, 패턴인식, 분류 및 공정제어 등의 다양한 분야에서 활용되고 있다. 인공신경망에 대한 최초의 이론은 Muculloch and Pitts(1943)가 제안한 Perceptron에서 시작 되었으며, 기본적인 학습기법인 오차역전파 기법(back-propagation Algorithm) 이 1980년대에 들어 수학적으로 정립된 이후 여러 분야에서 활용되기 시작하였다). 본 연구에서는 하도추적, 구체적으로는 상류단의 복수의 수위관측을 이용하여 하류단의 수위를 예측하기 위하여 인공신경망 모델을 구성하였다. 대상하도는 금강유역의 용담댐과 대청댐 사이의 본류이며, 상류단 입력자료로써 본류에 있는 수통, 호탄 관측소 관측수위와 지류인 송천 관측소 관측수위를 고려하였다. 출력 값으로는 하류단의 옥천 관측소 수위를 3시간 및 6시간의 선행시간으로 예측하도록 인공신경망 모형을 구성하였다. 인공신경망의 학습(testing), 시험(testing), 검증(validation)을 위해 2000년부터 2012년까지 13년간의 시수위자료를 이용하여 학습을 진행하였으며, 2013년부터 2014년의 2년간의 수위자료를 이용한 시험을 통해 최적의 모형을 선정하였다. 또한 선정된 최적의 모형을 이용하여 2015년부터 2016년까지의 수위예측을 수행하였다.

  • PDF

예측율 제고를 위한 사계절 혼합형 열수요 예측 신경망 모델 (A Model of Four Seasons Mixed Heat Demand Prediction Neural Network for Improving Forecast Rate)

  • 최승호;이재복;김원호;홍준희
    • 에너지공학
    • /
    • 제28권4호
    • /
    • pp.82-93
    • /
    • 2019
  • 본 연구에서는 기존 열수요 예측 시스템이 공휴일과 같은 특정 일자의 열수요 예측율이 저하되는 문제점을 개선하기 위해 새로운 모델을 제안한다. 제안된 모델은 사계절 혼합형 신경망 모델(Four Season Mixed Heat Demand Prediction Neural Network Model)로서 열수요 예측율 상승하였고, 특히 예측일 유형별(평일/주말/공휴일) 열수요 예측율이 크게 증가하였다. 제안된 모델은 다음과 같은 과정을 통해 선정되었다. 특정 계절에 예측일 유형별로 고른 오차를 갖는 모델을 선정하여 전체 예측 모델을 구성한다. 학습 시간의 단축과 과도학습을 방지하기 위해 구조적으로 단순화된 서로 다른 4개의 모델을 각각 학습한 후에 다양한 조합을 통해 최적의 예측 오차를 보여주는 모델을 선정하였다. 모델의 출력은 예측일의 24시간의 시간대별 열수요이며 총합은 일일 총열수요이다. 이 예측값을 통해 효율적인 열공급 계획을 수립 할 수 있으며, 목적에 따라 출력값을 선택하여 활용할 수 있다. 제안된 모델의 일일 열 총수요 예측의 경우, 전체 MAPE(Mean Absolute Percentage Error, 평균 절대 비율 오차)가 개별 모델의 5.3~6.1%에서 5.2%로 향상되었고, 공휴일 열수요예측은 4.9~7.9%에서 2.9%로 크게 개선되었다. 본 연구에서는 한국 지역난방공사에서 제공한 특정 아파트 단지의 34개월 분량의(2015년 1월~ 2017년10월) 시간단위 열수요 데이터를 활용하였다.

Neural Network Combination (NNC) 기법을 이용한 부분방전 패턴인식의 신뢰성 향상에 관한 연구 (A Study on the Reliability Improvement of Partial Discharge Pattern Recognition using Neural Network Combination (NNC) Method)

  • 김성일;정승용;구자윤;임윤석;구선근
    • 대한전기학회:학술대회논문집
    • /
    • 대한전기학회 2005년도 추계학술대회 논문집 전기물성,응용부문
    • /
    • pp.9-11
    • /
    • 2005
  • 본 연구는 GIS 진단신뢰성 향상기술 개발을 목적으로, 16개의 인위적 결함을 이용하여 부분방전 신호를 발생시키고 검출하여 그 패턴인식 확률을 높이기 위하여 신경망에 Genetic Algorithm (GA) 을 적용하였다. 이를 위하여 다음과 같은 5가지 서로 다른 신경망 모델을 선택하였다: Back Propagation (BP), Jordan-Elman Network (JEN), Principal Component Analysis (PCA), Self-Organizing Feature Map (SOFM) 및 Support Vector Machine (SVM). 이와 같이 선택된 모델에 동일한 데이터를 학습 시키고 패턴인식 확률을 비교 및 분석하였다. 실험 결과에 의하면, BP의 인식률이 가장 높고 다음으로 JEN의 인식률이 높이 나타났으며, 후자의 경우 모든 결함에 대하여 정확한 패턴분류를 한 반면에 전자의 경우 1.8% 의 분류 오차가 발생하였다. 따라서 인식률이 높은 신경망이 더 정확한 패턴분류를 보장하지 못한다는 실험적 결과를 고려 할 때, 인식률이 높은 두 개의 모델을 선정하여 각각의 출력에 일정한 가중치를 주고 합산하여 새로운 출력을 얻는 방법을 제안한다.

  • PDF