• Title/Summary/Keyword: 인공 신경망 최적화

Search Result 167, Processing Time 0.03 seconds

Parameter Estimation of Storage Function Method using Metamodel (메타모델을 이용한 저류함수법의 매개변수추정)

  • Chung, Gun-Hui;Oh, Jin-A;Kim, Tae-Gyun
    • Journal of the Korean Society of Hazard Mitigation
    • /
    • v.10 no.6
    • /
    • pp.81-87
    • /
    • 2010
  • In order to calculate the accurate runoff from a basin, nonlinearity in the relationship between rainfall and runoff has to be considered. Many runoff calculation models assume the linearity in the relationship or are too complicated to be analyzed. Therefore, the storage function method has been used in the prediction of flood because of the simplicity of the model. The storage function method has five parameters with related to the basin and rainfall characteristics which can be estimated by the empirical trial and error method. To optimize these parameters, regression method or optimization techniques such as genetic algorithm have been used, however, it is not easy to optimize them because of the complexity of the method. In this study, the metamodel is proposed to estimate those model parameters. The metamodel is the combination of artificial neural network and genetic algorithm. The model is consisted of two stages. In the first stage, an artificial neural network is constructed using the given rainfall-runoff relationship. In the second stage, the parameters of the storage function method are estimated using genetic algorithm and the trained artificial neural network. The proposed metamodel is applied in the Peong Chang River basin and the results are presented.

Road Construction Cost Estimation Model in the Planning Phase Using Artificial Neural Network (인공신경망을 적용한 기획단계의 도로건설 공사비 예측 모델)

  • Han, Hyeong Dong;Kim, Jeong Hwan;Yoon, Jung Ho;Seo, Jong Won
    • KSCE Journal of Civil and Environmental Engineering Research
    • /
    • v.31 no.6D
    • /
    • pp.829-837
    • /
    • 2011
  • Construction cost estimation in planning phase which calculates the cost for performing construction tasks is used for various ways. Meanwhile, in the case of road construction, the existing cost estimating method in early phase based on numerical mean value of the past is not accurate to be used. This paper propose neural network model for estimating road construction cost in planning phase to solve the limit of current cost estimating method. The model was designed using past road construction bidding records, and variables of model were optimized through trial and error. The estimation result of the model was compared with regression analysis and government's standard and it was verified that the model is better in accuracy. It is expected that the proposed model will be used for road cost estimation in planning phase.

Optimization Of Water Quality Prediction Model In Daechong Reservoir, Based On Multiple Layer Perceptron (다층 퍼셉트론을 기반으로 한 대청호 수질 예측 모델 최적화)

  • Lee, Hankyu;Kim, Jin Hui;Byeon, Seohyeon;Park, Kangdong;Shin, Jae-ki;Park, Yongeun
    • Proceedings of the Korea Water Resources Association Conference
    • /
    • 2022.05a
    • /
    • pp.43-43
    • /
    • 2022
  • 유해 조류 대발생은 전국 각지의 인공호소나 하천에서 다발적으로 발생하며, 경관을 해치고 수질을 오염시키는 등 수자원에 부정적인 영향을 미친다. 본 연구에서는 인공호소에서 발생하는 유해 조류 대발생을 예측하기 위해 심층학습 기법을 이용하여 예측 모델을 개발하고자 하였다. 대상 지점은 대청호의 추동 지점으로 선정하였다. 대청호는 금강유역 중류에 위치한 댐으로, 약 150만명에 달하는 급수 인구수를 유지 중이기에 유해 남조 대발생 관리가 매우 중요한 장소이다. 학습용 데이터 구축은 대청호의 2011년 1월부터 2019년 12월까지 측정된 수질, 기상, 수문 자료를 입력 자료를 이용하였다. 수질 예측 모델의 구조는 다중 레이어 퍼셉트론(Multiple Layer Perceptron; MLP)으로, 입력과 한 개 이상의 은닉층, 그리고 출력층으로 구성된 인공신경망이다. 본 연구에서는 인공신경망의 은닉층 개수(1~3개)와 각각의 레이어에 적용되는 은닉 노드 개수(11~30개), 활성함수 5종(Linear, sigmoid, hyperbolic tangent, Rectified Linear Unit, Exponential Linear Unit)을 각각 하이퍼파라미터로 정하고, 모델의 성능을 최대로 발휘할 수 있는 조건을 찾고자 하였다. 하이퍼파라미터 최적화 도구는 Tensorflow에서 배포하는 Keras Tuner를 사용하였다. 모델은 총 3000 학습 epoch 가 진행되는 동안 최적의 가중치를 계산하도록 설계하였고, 이 결과를 매 반복마다 저장장치에 기록하였다. 모델 성능의 타당성은 예측과 실측 데이터 간의 상관관계를 R2, NSE, RMSE를 통해 산출하여 검증하였다. 모델 최적화 결과, 적합한 하이퍼파라미터는 최적화 횟수 총 300회에서 256 번째 반복 결과인 은닉층 개수 3개, 은닉 노드 수 각각 25개, 22개, 14개가 가장 적합하였고, 이에 따른 활성함수는 ELU, ReLU, Hyperbolic tangent, Linear 순서대로 사용되었다. 최적화된 하이퍼파라미터를 이용하여 모델 학습 및 검증을 수행한 결과, R2는 학습 0.68, 검증 0.61이었고 NSE는 학습 0.85, 검증 0.81, RMSE는 학습 0.82, 검증 0.92로 나타났다.

  • PDF

Trajectory Optimization and the Control of a Re-entry Vehicle during TAEM Phase using Artificial Neural Network (재진입 비행체의 TAEM 구간 최적궤적 설계와 인공신경망을 이용한 제어)

  • Kim, Jong-Hun;Lee, Dae-Woo;Cho, Kyeum-Rae;Min, Chan-Oh;Cho, Sung-Jin
    • Journal of the Korean Society for Aeronautical & Space Sciences
    • /
    • v.37 no.4
    • /
    • pp.350-358
    • /
    • 2009
  • This paper describes a result of the guidance and control for re-entry vehicle during TAEM phase. TAEM phase (Terminal Aerial Energy Management phase) has many conditions, such as density, velocity, and so on. Under these conditions, we have optimized trajectory and other states for guidance in TAEM phase. The optimized states consist of 7 variables, down-range, cross range, altitude, velocity, flight path angle, vehicle's azimuth and flight range. We obtained the optimized reference trajectory by DIDO tool, and used feedback linearization with neural network for control re-entry vehicle. By back propagation algorithm, vehicle dynamics is approximated to real one. New command can be decided using the approximated dynamics, delayed command input and plant output, NARMA-L2. The result by this control law shows a good performance of tracking onto the reference trajectory.

A study about Artificial Intelligent Game Theory Using Genetic Algorithms (유전자 알고리즘을 적용한 인공지능형 게임이론 연구)

  • Kim, Jeong-Woung;Choi, Seok-Man;Yang, Hae-Sool
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2003.05b
    • /
    • pp.1063-1066
    • /
    • 2003
  • 지능형 게임 개발을 위하여 게임 이론의 정의, 게임의 구성요소, 전략적 게임의 분석을 통해 게임에 대한 배경 환경을 살펴보고, 보다 사실적 느낌 전달을 위한 게임 애니메이션과 게임에 적용되는 인공지능 기술을 퍼지 이론, 뉴럴네트웍으로 분류하여 적용 현황을 살펴보았다. 즉 게임처럼 수학적 표현이 어려운 경우 해결점을 퍼지 이론에서, 캐릭터의 움직임을 제어하는 퍼지 Rule Base를 찾아내는 연구를 신경망 인공지능을 통해 해결하는 과정을 살펴보고 국부해의 단점을 갖는 신경망 인공지능의 불투명성 해결 방법을 유전자 알고리즘에서 찾았다. 결론적으로 게임에서 이루어지는 물리적 특성인 충돌에 대한 충돌검사 알고리즘, 충돌반응에 대한 최적화를 유전자 알고리즘을 적용하여 해결하였다.

  • PDF

Quadtree-based Convolutional Neural Network Optimization to Quickly Calculate the Depth of Field of an Image (이미지의 피사계 심도를 빠르게 계산하기 위한 쿼드트리 기반의 합성곱 신경망 최적화)

  • Kim, Donghui;Kim, Soo-Kyun;Kim, Jong-Hyun
    • Proceedings of the Korean Society of Computer Information Conference
    • /
    • 2021.01a
    • /
    • pp.257-260
    • /
    • 2021
  • 본 논문에서는 카메라의 포커싱과 아웃포커싱에 의해 이미지에서 뿌옇게 표현되는 DoF(Depth of field, 피사계 심도) 영역을 쿼드트리(Quadtree) 기반의 합성곱 신경망을 통해 빠르게 찾는 방법을 제안한다. 우리의 접근 방식은 RGB채널기반의 상호-상관 필터를 이용하여 DoF영역을 이미지로부터 효율적으로 분류하고, 적응형 트리인 쿼드트리를 기반으로 유의미한 영역만을 분류한다. 이 과정에서 손실 없이 온전하게 DoF영역을 추출하기 위한 필터링 과정을 거친다. 이러한 과정에서 얻어진 이미지 패치들은 전체 이미지에 비해 적은 영역으로 나타나며, 이 적은 개수의 패치들을 이용하여 네트워크 단계에서 사용할 이미지-DoF가중치 맵 데이터 쌍을 설정한다. 네트워크 과정에서 학습할 때 사용되는 데이터는 이미지와 상호-상관 필터 기반으로 추출된 DoF 가중치 맵을 이용한다. 본 논문에서 제안하는 쿼드트리 기반 합성곱 신경망은 이미지로부터 포커싱과 아웃포커싱된 DoF영역을 자동으로 추출하는 과정을 학습시키기 위해 사용된다. 결과적으로 학습에 필요한 데이터 영역이 줄어듦으로써 학습 시간과 메모리를 절약했으며, 테스트 결과로 얻은 DoF 가중치 이미지는 입력 이미지에서 DoF영역을 더욱더 빠른 시간 내에 찾아낸다.

  • PDF

Neural Network Based On-Line Efficiency Optimization Control of a VVVF-Induction Motor Drive (인공신경망을 이용한 VVVF-유도전동기 시스템의 실시간 운전효율 최적제어)

  • Lee, Seung-Chul;Choy, Ick;Kwon, Soon-Hak;Choi, Ju-Yeop;Song, Joong-Ho
    • The Transactions of the Korean Institute of Power Electronics
    • /
    • v.4 no.2
    • /
    • pp.166-174
    • /
    • 1999
  • On-line efficiency optimization control of an induction motor drive using neural network is important from the v viewpoints of energy saving and controlling a nonlinear system whose charact81istics are not fully known. This paper p presents a neural networklongleftarrowbased on-line efficiency optimization control for an induction motor drive, which adopts an optimal slip an밍J.lar frequency control. In the proposed scheme, a neuro-controller provides minimal loss operating point i in the whole range of the measured input power. Both simulation and experimental results show that a considerable e energy saving is achieved compared with the conventional constant vlf ratio operation.

  • PDF

New Usage of SOM for Genetic Algorithm (유전 알고리즘에서의 자기 조직화 신경망의 활용)

  • Kim, Jung-Hwan;Moon, Byung-Ro
    • Journal of KIISE:Software and Applications
    • /
    • v.33 no.4
    • /
    • pp.440-448
    • /
    • 2006
  • Self-Organizing Map (SOM) is an unsupervised learning neural network and it is used for preserving the structural relationships in the data without prior knowledge. SOM has been applied in the study of complex problems such as vector quantization, combinatorial optimization, and pattern recognition. This paper proposes a new usage of SOM as a tool for schema transformation hoping to achieve more efficient genetic process. Every offspring is transformed into an isomorphic neural network with more desirable shape for genetic search. This helps genes with strong epistasis to stay close together in the chromosome. Experimental results showed considerable improvement over previous results.

A Hybrid System of Wavelet Transformations and Neural Networks Using Genetic Algorithms: Applying to Chaotic Financial Markets (유전자 알고리즘을 이용한 웨이블릿분석 및 인공신경망기법의 통합모형구축)

  • Shin, Taek-Soo;Han, In-Goo
    • Proceedings of the Korea Inteligent Information System Society Conference
    • /
    • 1999.03a
    • /
    • pp.271-280
    • /
    • 1999
  • 인공신경망을 시계열예측에 적용하는 경우에 고려되어야 할 문제중, 특히 모형에 적합한 입력변수의 생성이 중요시되고 있는데, 이러한 분야는 인공신경망의 모형생성과정에서 입력변수에 대한 전처리기법으로써 다양하게 제시되어 왔다. 가장 최근의 입력변수 전처리기법으로써 제시되고 있는 신호처리기법은 전통적 주기분할처리방법인 푸리에변환기법(Fourier transforms)을 비롯하여 이를 확장시킨 개념인 웨이블릿변환기법(wavelet transforms) 등으로 대별될 수 있다. 이는 기본적으로 시계열이 다수의 주기(cycle)들로 구성된 상이한 시계열들의 집합이라는 가정에서 출발하고 있다. 전통적으로 이러한 시계열은 전기 또는 전자공학에서 주파수영역분할, 즉 고주파 및 저주파수를 분할하기 위한 기법에 적용되어 왔다. 그러나, 최근에는 이러한 연구가 다양한 분야에 활발하게 응용되기 시작하였으며, 그 중의 대표적인 예가 바로 경영분야의 재무시계열에 대한 분석이다. 전통적으로 재무시계열은 장, 단기의사결정을 가진 시장참여자들간의 거래특성이 시계열에 각기 달리 가격으로 반영되기 때문에 이러한 상이한 집단들의 고요한 거래움직임으로 말미암아 예를 들어, 주식시장이 프랙탈구조를 가지고 있다고 보기도 한다. 이처럼 재무시계열은 다양한 사회현상의 집합체라고 볼 수 있으며, 그만큼 예측모형을 구축하는데 어려움이 따른다. 본 연구는 이러한 시계열의 주기적 특성에 기반을 둔 신호처리분석으로서 기존의 시계열로부터 노이즈를 줄여 주면서 보다 의미있는 정보로 변환시켜줄 수 있는 웨이블릿분석 방법론을 새로운 필터링기법으로 사용하여 현재 많은 연구가 진행되고 있는 인공신경망의 모형결합을 통해 기존연구과는 다른 새로운 통합예측방법론을 제시하고자 한다. 본 연구에서는 제시하는 통합방법론은 크게 2단계 과정을 거쳐 예측모형으로 완성이 된다. 즉, 1차 모형단계에서 원시 재무시계열은 먼저 웨이브릿분석을 통해서 노이즈가 필터링 되는 동시에, 과거 재무시계열의 프랙탈 구조, 즉 비선형적인 움직임을 보다 잘 반영시켜 주는 다차원 주기요소를 가지는 시계열로 분해, 생성되며, 이렇게 주기에 따라 장단기로 분할된 시계열들은 2차 모형단계에서 신경망의 새로운 입력변수로서 사용되어 최종적인 인공 신경망모델을 구축하는 데 반영된다. 기존의 주기분할방법론은 모형개발자입장에서 여러 가지 통계기준치중에서 최적의 기준치를 합리적으로 선택해야 하는 문제가 추가적으로 발생하며, 본 연구에서는 이상의 제반 문제들을 개선시키기 위해 통합방법론으로서 기존의 인공신경망모형을 구조적으로 확장시켰다. 이 모형에서 기존의 입력층 이전단계에 새로운 층이 정의된다. 이렇게 해서 생성된 새로운 통합모형은 기존모형에서 생성되는 기본적인 학습파라미터와 더불어, 본 연구에서 새롭게 제시된 주기분할층의 파라미터들이 모형의 학습성과를 높이기 위해 함께 고려된다. 한편, 이러한 학습과정에서 추가적으로 고려해야 할 파라미터 갯수가 증가함에 따라서, 본 모델의 학습성과가 local minimum에 빠지는 문제점이 발생될 수 있다. 즉, 웨이블릿분석과 인공신경망모형을 모두 전역적으로 최적화시켜야 하는 문제가 발생한다. 본 연구에서는 이 문제를 해결하기 위해서, 최근 local minimum의 가능성을 최소화하여 전역적인 학습성과를 높여 주는 인공지능기법으로서 유전자알고리즘기법을 본 연구이 통합모델에 반영하였다. 이에 대한 실증사례 분석결과는 일일 환율예측문제를 적용하였을 경우, 기존의 방법론보다 더 나운 예측성과를 타나내었다.

  • PDF

Latent Shifting and Compensation for Learned Video Compression (신경망 기반 비디오 압축을 위한 레이턴트 정보의 방향 이동 및 보상)

  • Kim, Yeongwoong;Kim, Donghyun;Jeong, Se Yoon;Choi, Jin Soo;Kim, Hui Yong
    • Journal of Broadcast Engineering
    • /
    • v.27 no.1
    • /
    • pp.31-43
    • /
    • 2022
  • Traditional video compression has developed so far based on hybrid compression methods through motion prediction, residual coding, and quantization. With the rapid development of technology through artificial neural networks in recent years, research on image compression and video compression based on artificial neural networks is also progressing rapidly, showing competitiveness compared to the performance of traditional video compression codecs. In this paper, a new method capable of improving the performance of such an artificial neural network-based video compression model is presented. Basically, we take the rate-distortion optimization method using the auto-encoder and entropy model adopted by the existing learned video compression model and shifts some components of the latent information that are difficult for entropy model to estimate when transmitting compressed latent representation to the decoder side from the encoder side, and finally compensates the distortion of lost information. In this way, the existing neural network based video compression framework, MFVC (Motion Free Video Compression) is improved and the BDBR (Bjøntegaard Delta-Rate) calculated based on H.264 is nearly twice the amount of bits (-27%) of MFVC (-14%). The proposed method has the advantage of being widely applicable to neural network based image or video compression technologies, not only to MFVC, but also to models using latent information and entropy model.