• 제목/요약/키워드: 다층 인공 신경망

검색결과 79건 처리시간 0.028초

심층 신경망의 발전 과정과 이해

  • 이재성
    • 정보와 통신
    • /
    • 제33권10호
    • /
    • pp.40-48
    • /
    • 2016
  • 본고에서는 최근 활발하게 연구되고 있는 심층 학습에 대하여 알아본다. 기계 학습 분야 중 하나인 심층 학습은 인공 신경망의 한 형태인 심층 신경망을 통해 구현된다. 심층 신경망은 기존 다층 신경망의 구조와 거의 유사한 학습 구조를 가지지만, 학습 과정에서 발생하는 부정확한 학습 문제를 해결함으로써 최근의 성공을 이끌어낼 수 있었다. 본고에서는 다층 신경망이 가지고 있던 문제점들을 심층 신경망에서 어떻게 극복하였는지 심층 신경망의 발전 과정을 통해 알아보고, 기계 학습의 기본개념을 바탕으로 이를 설명하여 비전문가들의 이해를 돕고자 하였다.

실험계획법을 이용한 다층 퍼셉트론 인공 신경망의 구조 설계

  • 이석호;강대천;이찬;강무진
    • 한국정밀공학회:학술대회논문집
    • /
    • 한국정밀공학회 1996년도 춘계학술대회 논문집
    • /
    • pp.536-540
    • /
    • 1996
  • 경험과 학습을 바탕으로 새로운 상황에 대처하는 인간의 신경계에서의 신경세포들의 상호작용을 규명하는 일은 많은 과학자들을 매료시켜 왔다. 이와 함께, 생물학적인 신경계를 닮은 인공적인 신경망을 구축하여 감지하고, 인식하고, 구별하고, 판단하는 일에 이용하고자 하는 노력도 끊임없이 진행되어 왔다. 인공 신경망의 구성은 전적으로 많은 경우의 수에 대한 테스트에 의존하게 되는 데, 이 경우 시간도 대단히 많이 소요 될 뿐더러 체계적으로 가장 좋아 보이는 신경망 모델에 도달하였는 지도 확실치 않다. 따라서 , 본 논문에서는 실험계획법을 다층 퍼셉트론 신경망의구조설계에 적용하여 적은 실험횟수로 적합한 신경망 모델을 구성할 수 있음을 검증하고, 실제사례에 적용하여 그 유용성을 제시하고자 한다.

  • PDF

다층 퍼셉트론 신경망의 역전파 학습 시각화 (Visualization of Multi Layer Perceptron Backpropagation Learning)

  • 오주민;최용석
    • 한국컴퓨터정보학회:학술대회논문집
    • /
    • 한국컴퓨터정보학회 2017년도 제55차 동계학술대회논문집 25권1호
    • /
    • pp.19-20
    • /
    • 2017
  • 인공지능이 사회적으로 대두되면서 많은 양의 관련 연구가 시작되고 있다. 본 논문에서는 다층 퍼셉트론 신경망에서 역전파 학습의 진행 과정을 시각화 하는 것을 목표로 하고 있다. 다층 퍼셉트론 신경망은 학습의 진행 과정과 그 방식은 잘 알려져 있으나 각 신경의 값이 어떻게 변화되어 가는 지는 눈에 보이지 않는다. 이러한 과정에 대해 시각화를 통해 값이 변하는 과정을 눈으로 쉽게 관찰할 수 있도록 하는 것이 이 논문의 목표이다. 본 연구결과는 향후 다층 퍼셉트론 신경망을 기반으로 하는 다른 모델의 시각화에 대한 기초자료로 활용될 수 있을 것이다.

  • PDF

피에조콘을 이용한 선행압밀하중 결정 신경망 모델의 구조 최적화 및 초기 연결강도 의존성 개선 (Structural Optimization and Improvement of Initial Weight Dependency of the Neural Network Model for Determination of Preconsolidation Pressure from Piezocone Test Result)

  • 김영상;주노아;박현일;박솔지
    • 대한토목학회논문집
    • /
    • 제29권3C호
    • /
    • pp.115-125
    • /
    • 2009
  • 지반의 응력이력을 정의하는데 이용되는 선행압밀하중은 일반적으로 일차원 실내압밀실험으로부터 결정되어져 왔으나 피에조콘과 같은 원위치 시험의 관측값을 이용한 이론적인 방법과 경험적인 상관관계를 통한 결정도 가능하다. 최근 선행압밀하중을 결정하기 위한 인공신경망 모델들이 제안된 바 있으며, 기존의 이론적 경험적 선행압밀하중 추정 방법들이 갖는 지역의존성의 문제를 극복하고 예측 정확도 면에서도 크게 개선된 것으로 보고되었다. 그러나 인공신경망 모델은 모델구조와 학습과정에서 초기에 무작위로 부여되는 연결강도에 영향을 받아 예측에 변동성이 존재한다. 본 연구에서는 기존의 피에조콘 결과를 이용한 선행압밀하중 추정 인공신경망 모델이 연약지반에서 선행압밀하중 예측 시 보이는 변동성을 개선하기 위하여 신경망 모델의 구조 최적화를 수행하고 군집신경망 모델을 구축하였다. 제안된 군집신경망 모델을 이용한 예측결과는 기존의 다층신경망 모델 및 이론적 경험적 모델들과 비교되었다. 연구결과, 최적화된 구조를 갖는 다층신경망 모델일지라도 초기 연결강도에 따라 최종 학습 후 예측결과의 변동성이 여전히 존재하나, 다층신경망을 네트워크로 연결하여 제안된 군집신경망 모델은 기존의 다층신경망 모델들이 갖는 초기 연결강도 의존성을 개선하여 다층신경망 모델에 비해 일관성 있으며 보다 정확한 예측이 가능한 것으로 나타났다.

WFSO 알고리즘을 이용한 인공 신경망과 합성곱 신경망의 학습 (Training Artificial Neural Networks and Convolutional Neural Networks using WFSO Algorithm)

  • 장현우;정성훈
    • 디지털콘텐츠학회 논문지
    • /
    • 제18권5호
    • /
    • pp.969-976
    • /
    • 2017
  • 본 논문에서는 최적화 알고리즘으로 개발된 WFSO(Water Flowing and Shaking Optimization) 알고리즘을 사용한 인공신경망 과합성공 신경망의 학습 방법을 제안한다. 최적화 알고리즘은 다수의 후보 해를 기반으로 탐색해 나가기 때문에 일반적으로 속도가 느린 단점이 있으나 지역 최소값에 거의 빠지지 않고 병렬화가 용이하며 미분 불가능한 활성화함수를 갖는 인공신경망 학습도 가능하고 구조와 가중치를 동시에 최적화 할 수 있는 장점이 있다. 본 논문에서는 WFSO 알고리즘을 인공신경망 학습에 적용하는 방법을 설명하고 다층 인공신경망과 합성곱 신경망에서 오류역전파 알고리즘과 성능을 비교한다.

인공신경망을 이용한 터널시공에서 현장 적용성 (Site Application of Artificial Neural Network for Tunnel Construction)

  • 송주현;채휘영;천병식
    • 한국지반환경공학회 논문집
    • /
    • 제13권8호
    • /
    • pp.25-33
    • /
    • 2012
  • 터널 설계 시 해당지반에 관한 정보를 정확히 반영하는 것은 대단히 중요하다. 하지만 다양한 지형 및 지질조건을 모두 고려한 지반조사 및 시험 등은 경제적, 기술적으로 인하여 현실적으로 실시하기 어렵기 때문에 한정된 정보에 의하여 해석 및 설계를 하고 있는 실정이다. 본 연구는 도심지 및 산악지역 터널공사 시, 보다 정확한 안정성 검토 및 거동 예측을 수행하여 선정 결과에 대한 현장 적용성 여부를 판단하기 위해 인공신경망 이론의 적용을 통하여 기존 거동예측의 한계성을 극복하고자 하였다. 먼저, 현장 데이터를 확보하여 인공신경망 중 다층퍼셉트론을 연구에 적합한 구조로 구축하고, 역전파 알고리즘으로 학습시켜 적용하였다. 인공신경망을 이용한 현장적용성의 학습을 위한 자료는 터널의 지보패턴, RMR, Q, 암종, 굴진장, 굴착형태, 굴착경과일 등 터널거동에 영향을 미치는 영향인자를 고려하여 신뢰성 분석을 실시하고 선별된 계측자료의 결과를 데이터베이스화하여 사용하였다. 학습이 완료된 인공신경망 모델을 이용하여 터널시공현장의 굴착경과일에 따른 천단변위, 내공변위, 지중변위, 록볼트축력을 예측하고 현장 계측치와 비교분석을 통하여 인공신경망을 이용한 터널 시공 시 현장적용성을 확인하였다.

이동 에이전트를 이용한 병렬 인공신경망 시뮬레이터 (The Parallel ANN(Artificial Neural Network) Simulator using Mobile Agent)

  • 조용만;강태원
    • 정보처리학회논문지B
    • /
    • 제13B권6호
    • /
    • pp.615-624
    • /
    • 2006
  • 이 논문은 이동 에이전트 시스템에 기반을 둔 가상의 병렬분산 컴퓨팅 환경에서 병렬로 수행되는 다층 인공신경망 시뮬레이터를 구현하는 것을 목적으로 한다. 다층 신경망은 학습세션, 학습데이터, 계층, 노드, 가중치 수준에서 병렬화가 이루어진다. 이 논문에서는 네트워크의 통신량이 상대적으로 적은 학습세션 및 학습데이터 수준의 병렬화가 가능한 신경망 시뮬레이터를 개발하고 평가하였다. 평가결과, 학습세션 병렬화와 학습데이터 병렬화 성능분석에서 약 3.3배의 학습 수행 성능 향상을 확인할 수 있었다. 가상의 병렬 컴퓨터에서 신경망을 병렬로 구현하여 기존의 전용병렬컴퓨터에서 수행한 신경망의 병렬처리와 비슷한 성능을 발휘한다는 점에서 이 논문의 의의가 크다고 할 수 있다. 따라서 가상의 병렬 컴퓨터를 이용하여 신경망을 개발하는데 있어서, 비교적 시간이 많이 소요되는 학습시간을 줄임으로서 신경망 개발에 상당한 도움을 줄 수 있다고 본다.

인공신경망모형을 이용한 대규모 대기모형모의결과의 댐유역스케일에서의 지역화기법 (Dam Basin-scale Regionalization of Large-scale Model Output using the Artificial Neural Network)

  • 강부식;이봉기
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2009년도 학술발표회 초록집
    • /
    • pp.179-183
    • /
    • 2009
  • 본 연구에서는 GCM 기후변화 전망 시나리오를 이용하여 유역단위의 기후변화를 추정하였다. 원시 GCM 시나리오를 지역화 시키기 위해서 인공신경망 모형을 사용하였다. GCM에서 모의되는 강수플럭스, 해면기압, 지표면 근처에서의 일 평균온도, 지표면으로부터 발생하는 잠열플럭스 등과 같은 22개의 변수는 인공신경망의 잠재적 예측인자로 사용되었으며, AWS에서 관측된 강수량과 온도는 예측변수로 사용되었다. 원시 GCM 데이터는 CCCma(Canadian Centre for Climate Modeling and Analysis)에서 제공되는 CGCM3.1/T63 20C3M 시나리오를 사용하였으며, 인공신경망 학습과정에서 사용된 기준시나리오(reference scenario)자료의 기간은 1997년부터 2000년까지의 데이터를 사용하였다. 인공신경망을 학습을 통하여 결정된 각 층사이의 가중치를 이용하여 이산화탄소 배출농도를 가정하여 생성된 CGCM3.1/T63 SRES B1 기후변화시나리오(project scenario)를 인공신경망의 입력값으로 하여 미래의 기온과 강수변화를 전망하였다. 신경망의 학습효과를 높이기 위하여 기온과 강수에 대한 평균 및 누적기간을 각각 일단위와 월단위로 설정하였다. 본 연구에서 사용된 인공신경망은 3층 퍼셉트론(다층 퍼셉트론)을 사용하였으며, 학습방법으로는 역전파알고리즘(back-propagation algorithm)을 이용하였다. 민감도분석을 통하여 선택된 예측인자는 소양강댐유역(1011, 1012소유역)에서의 인공신경망 예측인자로 활용되었으며, 2001년부터 2100년까지의 일 평균온도와 일 강수량의 변화경향을 추정하였다. 1011유역, 1012유역에서는 여름철의 온도변화경향이 겨울철에 비하여 높게 나타났다. 일 평균온도의 통계분석 결과 평균예측오차가 가장 적게 나타나는 지역은 1001유역으로 -0.08로 평균예측오차가 가장 적게 나타났으며, 인공신경망기법을 이용하여 스케일 상세화된 일 평균온도와 관측된 일 평균온도가 얼마나 잘 일치하는지를 확인할 수 있는 1012유역에서 CORR이 0.74로 가장 높게 나타났다.

  • PDF

항만물동량 예측력 제고를 위한 ARIMA 및 인공신경망모형들의 비교 연구 (A Study on Application of ARIMA and Neural Networks for Time Series Forecasting of Port Traffic)

  • 신창훈;정수현
    • 한국항해항만학회지
    • /
    • 제35권1호
    • /
    • pp.83-91
    • /
    • 2011
  • 예측의 정확성은 비용의 감소나 고객서비스의 제고를 위해 필수적으로 선행되어야 하기에 현재까지도 많은 연구자들에 의해 연구되고 있는 분야이다. 본 연구에서는 국내 항만의 컨테이너 물동량 예측에 있어 대표적인 비선형예측모형인 인공신경망모형과 ARIMA모형에 대한 비교연구를 수행하는데 목적을 두었고, 컨테이너 물동량 예측력 제고를 위해 ARIMA모형과 인공신경망(ANN)모형을 결합한 하이브리드모형을 사용해 다른 모형들과 예측성과를 비교하고자 한다. 특히 인공신경망모형의 네트워크 구조 설계에 부분에 있어 방대하며 복잡한 탐색공간에서도 전역해 찾기에 효과적인 기법으로 알려져 있는 유전알고리즘을 사용함과 동시에 인공신경망의 대표적인 모형으로 알려진 다층 퍼셉트론(MLP)뿐만 아니라 시간지연네트워크(TDNN)를 사용해 예측성과를 비교하였다. 그 결과 ANN모형과 하이브리드모형이 ARIMA모형보다 더 뛰어난 예측성과를 보이는 것으로 나왔다.

가강수량과 인공신경망을 이용한 중규모수치예보의 강수확률예측 개선기법 (Improving Probability of Precipitation of Meso-scale NWP Using Precipitable Water and Artificial Neural Network)

  • 강부식;이봉기
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2008년도 학술발표회 논문집
    • /
    • pp.1027-1031
    • /
    • 2008
  • 본 연구는 한반도 영역을 대상으로 2001년 7, 8월과 2002년 6월로 홍수기를 대상으로 RDAPS 모형, AWS, 상층기상관측(upper-air sounding)의 자료를 이용하였다. 또한 수치예보자료를 범주적 예측확률로 변환하고 인공신경망기법(ANN)을 이용하여 강수발생확률의 예측정확성을 향상시키는데 있다. 신경망의 예측인자로 사용된 대기변수는 500/ 750/ 1000hpa에서의 지위고도, 500-1000hpa에서의 층후(thickness), 500hpa에서의 X와 Y의 바람성분, 750hpa에서의 X와 Y의 바람성분, 표면풍속, 500/ 750hpa/ 표면에서의 온도, 평균해면기압, 3시간 누적 강수, AWS관측소에서 관측된 RDAPS모형 실행전의 6시간과 12시간동안의 누적강수, 가강수량, 상대습도이며, 예측변수로는 강수발생확률로 선택하였다. 강우는 다양한 대기변수들의 비선형 조합으로 발생되기 때문에 예측인자와 예측변수 사이의 복잡한 비선형성을 고려하는데 유용한 인공신경망을 사용하였다. 신경망의 구조는 전방향 다층퍼셉트론으로 구성하였으며 역전파알고리즘을 학습방법으로 사용하였다. 강수예측성과의 질을 평가하기 위해서 $2{\times}2$ 분할표를 이용하여 Hit rate, Threat score, Probability of detection, Kuipers Skill Score를 사용하였으며, 신경망 학습후의 강수발생확률은 학습전의 강수발생확률에 비하여 한반도영역에서 평균적으로 Kuipers Skill Score가 0.2231에서 0.4293로 92.39% 상승하였다.

  • PDF