• 제목/요약/키워드: 다층 인공 신경망

검색결과 79건 처리시간 0.031초

순환 신경망을 이용한 전이 기반 한국어 의존 구문 분석 (Korean Transition-based Dependency Parsing with Recurrent Neural Network)

  • 이건일;이종혁
    • 정보과학회 컴퓨팅의 실제 논문지
    • /
    • 제21권8호
    • /
    • pp.567-571
    • /
    • 2015
  • 기존의 전이 기반 한국어 의존 구문 분석 방법론들은 사용 될 자질의 설계에 많은 노력이 필요하다. 최근에 인공 신경망을 이용하여 자질 설계 단계에서의 시간과 노력을 줄이는 연구들이 많이 수행되었으나 제한된 context의 정보들만 보고 전이 과정에 필요한 decision을 내려야 하는 문제점들이 있다. 본 논문에서는 순환 신경망 모델을 이용하여 자질 설계에 필요한 노력을 줄이고 순환 구조로 먼 거리 의존관계를 고려하였다. 실험을 진행한 결과 일반적인 다층 신경망에 비해 0.51%의 성능향상을 이루었으며 UAS 90.33%의 성능을 선보인다.

지하수위 예측을 위한 경사하강법과 화음탐색법의 결합을 이용한 다층퍼셉트론 성능향상 (Improvement of multi layer perceptron performance using combination of gradient descent and harmony search for prediction of groundwater level)

  • 이원진;이의훈
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2022년도 학술발표회
    • /
    • pp.186-186
    • /
    • 2022
  • 강수 및 침투 등으로 발생하는 지하수위의 변동을 예측하는 것은 지하수 자원의 활용 및 관리에 필수적이다. 지하수위의 변동은 지하수 자원의 활용 및 관리뿐만이 아닌 홍수 발생과 지반의 응력상태 등에 직접적인 영향을 미치기 때문에 정확한 예측이 필요하다. 본 연구는 인공신경망 중 다층퍼셉트론(Multi Layer Perceptron, MLP)을 이용한 지하수위 예측성능 향상을 위해 MLP의 구조 중 Optimizer를 개량하였다. MLP는 입력자료와 출력자료간 최적의 상관관계(가중치 및 편향)를 찾는 Optimizer와 출력되는 값을 결정하는 활성화 함수의 연산을 반복하여 학습한다. 특히 Optimizer는 신경망의 출력값과 관측값의 오차가 최소가 되는 상관관계를 찾는 연산자로써 MLP의 학습 및 예측성능에 직접적인 영향을 미친다. 기존의 Optimizer는 경사하강법(Gradient Descent, GD)을 기반으로 하는 Optimizer를 사용했다. 하지만 기존의 Optimizer는 미분을 이용하여 상관관계를 찾기 때문에 지역탐색 위주로 진행되며 기존에 생성된 상관관계를 저장하는 구조가 없어 지역 최적해로 수렴할 가능성이 있다는 단점이 있다. 본 연구에서는 기존 Optimizer의 단점을 개선하기 위해 지역탐색과 전역탐색을 동시에 고려할 수 있으며 기존의 해를 저장하는 구조가 있는 메타휴리스틱 최적화 알고리즘을 이용하였다. 메타휴리스틱 최적화 알고리즘 중 구조가 간단한 화음탐색법(Harmony Search, HS)과 GD의 결합모형(HS-GD)을 MLP의 Optimizer로 사용하여 기존 Optimizer의 단점을 개선하였다. HS-GD를 이용한 MLP의 성능검토를 위해 이천시 지하수위 예측을 실시하였으며 예측 결과를 기존의 Optimizer를 이용한 MLP 및 HS를 이용한 MLP의 예측결과와 비교하였다.

  • PDF

안면 연령 예측을 위한 CNN기반의 히트 맵을 이용한 랜드마크 선정 (Landmark Selection Using CNN-Based Heat Map for Facial Age Prediction)

  • 홍석미;유현
    • 융합정보논문지
    • /
    • 제11권7호
    • /
    • pp.1-6
    • /
    • 2021
  • 본 연구의 목적은 이미지 랜드마크 선정 기법을 기반으로, 인공신경망 안면 영상분석 시스템의 성능을 향상하기 위한 내용이다. 랜드마크 선정을 위하여 안면 이미지 연령을 분류를 위한 CNN 기반의 다층 ResNet 모델의 구성이 필요하며, ResNet 모델에서 입력 노드의 변화에 따른 출력 노드의 변화를 감지하는 히트 맵을 추출한다. 추출된 다수의 히트 맵을 결합하여 연령 구분 예측과 관계된 안면 랜드마크를 구성한다. 이를 통하여, 안면 랜드마크를 통하여 픽셀의 위치별 중요도를 분석할 수 있으며, 가중치가 낮은 픽셀의 제거함으로서 상당량의 입력 데이터 감소가 가능해졌다. 이러한 기법은 인공신경망 시스템의 연산 성능 향상에 기여하게 된다.

인공신경망을 이용한 FRP 보강 콘크리트 보의 휨모멘트 평가 (Evaluation of the Bending Moment of FRP Reinforced Concrete Using Artificial Neural Network)

  • 박도경
    • 한국구조물진단유지관리공학회 논문집
    • /
    • 제10권5호
    • /
    • pp.179-186
    • /
    • 2006
  • 본 연구에서는 FRP Rebar로 보강된 철근콘크리트 보의 휨성능을 평가할 수 있는 모형을 개발하기 위하여 인공신경망 중 다층인식자 모형을 사용하였다. 인공신경망 모형에 사용될 학습자료들은 기존 연구자료들의 데이터를 이용하였다. 입력층의 독립변수는 휨성능에 주요 요소인 폭, 유효깊이, 압축강도, FRP 보강비, FRP 균형철근비을 사용하였다. 출력층 종속변수는 실험에서 측정된 모멘트 성능을 사용하였다. 개발된 인공신경망 모형은 GFRP, CFRP, AFRP Rebar 적용이 모두 가능하며, 모형의 검증은 다른 선행 연구자들이 수행한 자료를 이용하였다. 인공신경망 모형 추정결과 ANN(0.05) 모형의 경우에 비교적 정확한 휨성능 추정값을 나타낸 반면, ANN(0.1) 모형에서는 다소 오차가 발생하였다. 인공신경망 모형의 검증결과 주어진 실험 데이터 값과 비교적 일치하고 있음을 확인할 수 있었다. 또한, 휨성능 평가 변수에 대한 민감도 분석결과 유효깊이의 영향이 가장 크고 FRP 철근비, FRP 균형철근비, 압축강도, 폭으로 분석되었다.

국내 연약지반의 선행압밀하중 추정을 위한 피에조콘 인공신경망 모델 (Piezocone Neural Network Model for Estimation of Preconsolidation Pressure of Korean Soft Soils)

  • 김영상
    • 한국지반공학회논문집
    • /
    • 제20권8호
    • /
    • pp.77-87
    • /
    • 2004
  • 본 논문에서는 국내 서남해안 11개 지역에서 수행된 63회의 피에조콘 시험결과와 176개의 선행압밀하중 자료로부터 국내 연약지반의 선행압밀하중 예측을 위한 오차 역전파 알고리즘으로 학습된 피에조콘 인공신경망 모델을 구축하였다. 전체 자료 중 147개의 자료만이 인공신경망 모델 구축을 위한 학습과정에 사용되었으며 학습에 사용되지 않은 29개의 자료를 구축된 인공신경망의 검증에 활용하였다. 또한 기존의 경험모델 및 이론모델과 비교하여 제안된 인공신경망 모델의 유용성을 확인하였다. 연구를 통하여 4-4-9-1의 구조를 갖는 간단한 다층 인공신경망이 구축되었으며 입력값으로는 피에조콘 선단저항력 $q_T$, 관입간극수압 $u_2$그리고 지반의 총상재하중 $\sigma_{vo}$ 및 유효상재하중 $\sigma'_{vo}$ 이 사용되었다. 제안된 인공신경망 모델은 학습되지 않은 새로운 검증자료에 대한 예측을 통하여 입력변수들과 선행압밀 하중 간의 비선형적 상관관계를 성공적으로 모델하는 것으로 검증되었으며 정확성면에서는 기존의 이론모델과 국내외 경험모델과 비교할 때 월등히 향상된 예측능력을 가진 것으로 나타났다. 뿐만 아니라 제안된 모델은 국내 특정지 역에 대한 모델이 아니라 서남해안의 다양한 지반특성을 갖는 지반에서 수행된 자료를 바탕으로 구축되어 데이터베이스에 포함되지 않은 지역에 대하여도 매우 타당성있는 예측결과를 주어 특정지역에 국한된 지역의존적 예측이 아닌 일반화된 지역에서 적용할 수 있을 것으로 판단된다.

중규모수치예보자료의 정량적 강수추정량 개선을 위한 인공신경망기법 (Application of Artificial Neural Network to Improve Quantitative Precipitation Forecasts of Meso-scale Numerical Weather Prediction)

  • 강부식;이봉기
    • 한국수자원학회논문집
    • /
    • 제44권2호
    • /
    • pp.97-107
    • /
    • 2011
  • 수문학적 예측에 있어서 강우수치예보의 활용성을 제고하기 위하여 인공신경망을 이용한 정량강수예측기법을 제시하였다. 본 연구에서는 2001년 6월과 7월, 2002년 8월의 중규모수치예보자료와 AWS의 3시간 누적강수, 상층기상관측소에서의 가강수량과 상대습도, 각 선행시간별 강수발생확률을 이용하여 각 선행시간에 따른 강수량을 예측하였다. 강수는 대기변수의 물리적 비선형조합으로 발생하기 때문에 강수에 영향을 미치는 대기변수와 관측강수사이의 비선형관계를 고려하는데 유용한 인공신경망기법을 이용하였다. 인공신경망의 구조는 전방향 다층퍼셉트론(feedforward multi-layer perceptron)을선택하였으며, 신경망의 학습 시 음의 강수모의값을 고려하여 무강수로전환하기 위하여 비선형 양극활성화함수를 사용하였다. 중규모수치예보모형과 인공신경망에서 예측된 강수량은 Nash-Sutcliffe Coefficient of Efficiency (NS-COE)와 Coefficient of Correlation (CORR)로 선행시간별로 통계분석을 실시하였다. 3시간 누적강수를 기준으로 NS는 한반도영역에서 평균적으로 선행시간이 12 hr인 경우 -0.04에서 0.31로, 선행시간이 24 hr인 경우 -0.04에서 0.38로, 선행시간이 36 hr인 경우 -0.03에서 0.33으로, 선행시간이 48 hr인 경우 -0.05에서 0.27로 증가하여, 강수예측의 정확도가 향상됨을 확인할 수 있었다.

다양한 합성곱 신경망 방식을 이용한 모바일 기기를 위한 시작 단어 검출의 성능 비교 (Performance comparison of wake-up-word detection on mobile devices using various convolutional neural networks)

  • 김상홍;이보원
    • 한국음향학회지
    • /
    • 제39권5호
    • /
    • pp.454-460
    • /
    • 2020
  • 음성인식 기능을 제공하는 인공지능 비서들은 정확도가 뛰어난 클라우드 기반의 음성인식을 통해 동작한다. 클라우드 기반의 음성인식에서 시작 단어 인식은 대기 중인 기기를 활성화하는 데 중요한 역할을 한다. 본 논문에서는 공개 데이터셋인 구글의 Speech Commands 데이터셋을 사용하여 스펙트로그램 및 멜-주파수 캡스트럼 계수 특징을 입력으로 하여 모바일 기기에 대응한 저 연산 시작 단어 검출을 위한 합성곱 신경망의 성능을 비교한다. 본 논문에서 사용한 합성곱 신경망은 다층 퍼셉트론, 일반적인 합성곱 신경망, VGG16, VGG19, ResNet50, ResNet101, ResNet152, MobileNet이며, MobileNet의 성능을 유지하면서 모델 크기를 1/25로 줄인 네트워크도 제안한다.

분포형 모형과 인공신경망을 활용한 유출 예측 (Run-off Forecasting using Distributed model and Artificial Neural Network model)

  • 김원진;이용관;정충길;김성준
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2019년도 학술발표회
    • /
    • pp.35-35
    • /
    • 2019
  • 본 연구에서는 분포형 수문 모형 Drying Stream Assessment Tool and Water Flow Tracking (DrySAT-WTF)을 활용해 우리나라의 1976년부터 2015년까지의 유출량을 산정하고, 이를 다층퍼셉트론(Multi Layer Perceptron) 인경신경망 모형(Artificial Neural Network Model)에 적용해 미래 유출을 예측하였다. DrySAT-WFT은 전국 표준 유역을 대상으로 하천 건천화 원인 추적 및 평가를 위해 개발된 모형으로 유출모의를 위한 기상자료 외에 건천화 영향 요소를 고려하기 위한 산림 높이, 도로망, 지하수 이용량, 토지이용, 토심 변화에 대한 DB를 적용 가능한 것이 특징이다. DrySAT-WFT를 위한 기상자료로 모의 기간에 대한 일별 강우량, 상대습도, 평균풍속, 평균 및 최고, 최저 기온, 일조시간을 구축하였으며, 연대별 건천화 영향 요소 DB를 구축하여 적용하였다. 전국 다목적 댐 보 12지점의 유량을 활용해 모형의 보정(2005-2010) 및 검증(2011-2015)을 실시한 결과, 평균 결정계수(Coefficient of determination, $R^2$)는 0.76, 모형효율성계수(Nash-Sutcliffe efficiency, NSE)는 0.62, 평균제곱근오차(average root mean square error, RMSE)는 3.09로 신뢰성 있는 유출 모의 결과를 나타내었다. 미래 유출량 예측을 위한 MLP-ANN은 1976년부터 2015년까지의 유출 모의 결과를 Training Set으로 훈련하여 $R^2$가 0.5 이상이 되어 신뢰성을 확보하였고, 2016년부터 2018년까지의 기간을 1개월 단위로 실제 유출량과 예측 유출량을 비교하며 적용성을 검증 및 향상시켰다.

  • PDF

인공신경망을 이용한 굴착단계별 흙막이벽체의 최대변위 예측시스템 개발 (Development of a System Predicting Maximum Displacements of Earth Retaining Walls at Various Excavation Stages Using Artificial Neural Network)

  • 김홍택;박성원;권영호;김진홍
    • 한국지반공학회논문집
    • /
    • 제16권1호
    • /
    • pp.83-97
    • /
    • 2000
  • 본 연구에서는, 흙막이 벽체의 변위 예측시스템 개발을 위하여 다층퍼셉트론을 이용해 임의의 인공신경망 모델을 구축하고 그 성능을 평가하여 최적의 모델을 선정하였다. 인공신경망모델의 학습과 검증을 위해 국내 도심지에 실제 시공이 완료된 다양한 현장의 계측자료를 수집하였고, 수집된 계측자료의 분석을 통해 흙막이벽체의 거동에 영향을 미치는 인자를 조사하였다. 아울러 실행비를 기준으로 선별한 신뢰성 있는 계측자료를 조사된 영향인자를 토대로 데이터 베이스화하여 인공신경망 모델의 학습과 검증에 사용하였으며, 학습은 최급강하법을 기초로 하는 역전파 알고리즘을 이용하여 수행하였다. 학습에 포함되지 않은 현장들에 대하여 흙막이벽체의 최대수평변위와 그 발생위치를 예측하고 이를 계측치와 비교하여, 제시한 변위 예측시스템의 적용성을 부분적으로 확인하였다.

  • PDF

불확실 지상 표적의 인공지능 기반 위협도 평가 연구 (Artificial Intelligence based Threat Assessment Study of Uncertain Ground Targets)

  • 진승현
    • 한국산학기술학회논문지
    • /
    • 제22권6호
    • /
    • pp.305-313
    • /
    • 2021
  • 미래전의 양상은 네트워크 중심전으로 전체계의 연결을 통한 전장상황 정보획득 및 공유가 주를 이룰 것이다. 따라서 전장에서 생성되는 정보의 양은 많아지지만, 정보를 평가하여 전장을 효율적으로 지휘하는 기술은 부족한 것이 현실태이다. 이를 극복하기 위해 대두되는 기술이 전장 위협평가이다. 전장 위협평가는 획득된 정보를 사용하여 지휘관의 신속 결심을 지원하는 기술이지만 획득된 정보에는 표적의 불확실성이 많고 점차 지능화되는 전장상황에 적용하기에 현재 기술수준이 낮은 부분이 있다. 본 논문에서는 표적의 불확실성을 제거하고 고도화되는 전장상황에서도 적용 가능한 인공지능 기반의 전장 위협평가 기법에 대해 제안한다. 사용된 인공지능 시스템으로는 퍼지 추론 시스템과 다층 퍼셉트론을 사용하였다. 퍼지 추론 시스템에 표적의 고유특성을 입력시켜 표적을 분류해내었고 분류된 표적정보를 다른 표적 변수들과 함께 다층 퍼셉트론에 입력하여 해당 표적에 맞는 위협도 값을 산출하였다. 그 결과, 시뮬레이션을 통해 두 가지 시나리오상에서 무작위로 설정된 불확실 표적들을 인공신경망에 훈련시켰고, 훈련된 인공신경망에 시험용 표적을 입력하여 산출되는 위협도 값으로 제안한 기술의 타당성을 검증하였다.