• 제목/요약/키워드: Layer-By-Layer Training

검색결과 300건 처리시간 0.026초

영역 기반 영상 검색을 위한 다중클래스 피드백 알고리즘 (Multi-class Feedback Algorithm for Region-based Image Retrieval)

  • 고병철;남재열
    • 정보처리학회논문지B
    • /
    • 제13B권4호
    • /
    • pp.383-392
    • /
    • 2006
  • 본 논문에서는 영역기반 영상검색의 성능 향상을 위한 피드백 알고리즘으로 다중 클래스를 갖는 확률적 신경망(Probabilistic Neural Networks)을 이용한 방법론을 제안하고 이를 영역기반 영상 검색 시스템인 FRIP(Finding Regions In the Pictures) 시스템에 적용하였다. 본 논문에서 제안하는 피드백 알고리즘은 특정 벡터가 독립적이라는 가정을 할 필요가 없으며 보다 상세한 분류를 위해 추가적인 클래스들을 추가할 수 있도록 허용하고 있다. 또한 단지 4개 층(layer)만을 가지고 있음으로 학습을 위한 계산시간이 적게 든다는 장점이 있다. 추가적으로 다음단계에서의 성능 향상을 위해 분류 단계에서 사용자의 이전 피드백 행동을 모두 히스토리(history)로 모두 기억시켜 놓고 다음 단계를 위한 가중치 학습을 위해 사용하도록 한다. 히스토리를 사용함으로써 제안하는 알고리즘은 사용자의 주관적 의도를 보다 정확하게 파악 할 수 있을 뿐만 아니라 학습을 위해 이전 단계만을 사용 했을 때 발생할 수 있는 성능 감소를 막을 수 있다. 본 논문에서는 Corel-photo CD에서 3000장의 자연 영상을 무작위로 추출하여 기존의 방법론들과 제안하는 방법론의 성능을 측정하여 본 논문에서 제안하는 방법론이 성능이 우수함을 증명하였다.

제주 연안 재래식 갈치 채낚기의 침지시간에 의한 조획률 및 미끼 탈락률 (Hooking rate and bait loss rate of traditional hairtail hand line according to immersion time in the coastal waters of Jeju)

  • 김병엽;박용석;이창헌
    • 수산해양기술연구
    • /
    • 제45권2호
    • /
    • pp.77-84
    • /
    • 2009
  • This paper is to investigate the effect of the immersion time in the traditional hairtail hand line for developing the fishing methods and the fishing gear in the coast of jeju. The operating of 32 times was made with each different immersion time of hairtail hand line, and the relations between the catch and the immersion time were examined. As the result, targeted species rate was over 98% of total catch. From about 800 seconds after casting, the hooking rate was decreased and the bite loss rate was increased, it seems to be made by the decreasing factors of predators including the cutting of branch lines etc. In addition, it was supposed that the hooking rate and the bait loss rate had a deep connection with feeding time zone. The level of the correlation coefficient of the bait loss rate according to the immersion time was 0.54 at $p{\leq}0.01$, in the case of the hooking rate, 0.59 was chosen after about 800 seconds. The hooking rate and the bait loss rate according to the hook number were not irrelevant to the fish school layer. Additionally, it was assumed that the bait loss rate was related to the depth of water.

Application of artificial neural networks to predict total dissolved solids in the river Zayanderud, Iran

  • Gholamreza, Asadollahfardi;Afshin, Meshkat-Dini;Shiva, Homayoun Aria;Nasrin, Roohani
    • Environmental Engineering Research
    • /
    • 제21권4호
    • /
    • pp.333-340
    • /
    • 2016
  • An Artificial Neural Network including a Radial Basis Function (RBF) and a Time Delay Neural Network (TDNN) was used to predict total dissolved solid (TDS) in the river Zayanderud. Water quality parameters in the river for ten years, 2001-2010, were prepared from data monitored by the Isfahan Regional Water Authority. A factor analysis was applied to select the inputs of water quality parameters, which obtained total hardness, bicarbonate, chloride and calcium. Input data to the neural networks were pH, $Na^+$, $Mg^{2+}$, Carbonate ($CO{_3}^{-2}$), $HCO{_3}^{-1}$, $Cl^-$, $Ca^{2+}$ and Total hardness. For learning process 5-fold cross validation were applied. In the best situation, the TDNN contained 2 hidden layers of 15 neurons in each of the layers and the RBF had one hidden layer with 100 neurons. The Mean Squared Error and the Mean Bias Error for the TDNN during the training process were 0.0006 and 0.0603 and for the RBF neural network the mentioned errors were 0.0001 and 0.0006, respectively. In the RBF, the coefficient of determination ($R^2$) and the index of agreement (IA) between the observed data and predicted data were 0.997 and 0.999, respectively. In the TDNN, the $R^2$ and the IA between the actual and predicted data were 0.957 and 0.985, respectively. The results of sensitivity illustrated that $Ca^{2+}$ and $SO{_4}^{2-}$ parameters had the highest effect on the TDS prediction.

이미지 라벨링을 이용한 적층제조 단면의 결함 분류 (Defect Classification of Cross-section of Additive Manufacturing Using Image-Labeling)

  • 이정성;최병주;이문구;김정섭;이상원;전용호
    • 한국기계가공학회지
    • /
    • 제19권7호
    • /
    • pp.7-15
    • /
    • 2020
  • Recently, the fourth industrial revolution has been presented as a new paradigm and additive manufacturing (AM) has become one of the most important topics. For this reason, process monitoring for each cross-sectional layer of additive metal manufacturing is important. Particularly, deep learning can train a machine to analyze, optimize, and repair defects. In this paper, image classification is proposed by learning images of defects in the metal cross sections using the convolution neural network (CNN) image labeling algorithm. Defects were classified into three categories: crack, porosity, and hole. To overcome a lack-of-data problem, the amount of learning data was augmented using a data augmentation algorithm. This augmentation algorithm can transform an image to 180 images, increasing the learning accuracy. The number of training and validation images was 25,920 (80 %) and 6,480 (20 %), respectively. An optimized case with a combination of fully connected layers, an optimizer, and a loss function, showed that the model accuracy was 99.7 % and had a success rate of 97.8 % for 180 test images. In conclusion, image labeling was successfully performed and it is expected to be applied to automated AM process inspection and repair systems in the future.

역전파 알고리듬과 사전을 이용한 필기체 영문자 인식 (A Recognition of Handwritten English Characters Using Back Propagation Algorithm and Dictionary)

  • 김응성;조성환;이근영
    • 한국통신학회논문지
    • /
    • 제18권2호
    • /
    • pp.157-168
    • /
    • 1993
  • 본 논문에서는 역전파 알고리듬으로 학습된 신경회로망과 사전을 이용하여 필기체 영문자 인식을 수행하였다. 스캐너를 이용하여 입력된 영상화일로부터 불필요한 데이터 부분을 제거하고 문자의 다양성을 최소화하기 위해서 여러가지 전처리과정, 즉 문자분리, 중심변환, 잡음제거, 배율조정과 세선화과정을 거쳤다. 다음으로 세선화된 문체 패턴으로부터 문자의 특징이 추출되고, 신경회로망에 시험데이터에 대한 특징들을 학습시켰다. 그리고 테스트할 영문자에 대해서도 특징들을 추출하여 이미 학습된 신경회로망에 의해 분류하였다. 마지막으로 학습시간을 줄이고 인식율을 향상시키기 위한 방법과 학습시간과 은닉층의 노드수에 대해 고찰하였다. 실험 결과로서 이와 같은 시스템으로 필기체 영문제에 대하여 학습후에 약 93%의 높은 인식율을 얻을 수 있었을 사전을 이용했을 경우 인식율이 약 97%였다.

  • PDF

인공 신경망(ANN)에 의한 하수처리장의 유입 유량 및 유입 성분 농도의 예측 (Prediction of Influent Flow Rate and Influent Components using Artificial Neural Network (ANN))

  • 문태섭;최재훈;김성희;차재환;염훈식;김창원
    • 한국물환경학회지
    • /
    • 제24권1호
    • /
    • pp.91-98
    • /
    • 2008
  • This work was performed to develop a model possible to predict the influent flow and influent components, which are one of main disturbances causing process problems at the operation of municipal wastewater treatment plant. In this study, artificial neural network (ANN) was used in order to develop a model that was able to predict the influent flow, $COD_{Mn}$, SS, TN 1 day-ahead, 2day-ahead and 3 day ahead. Multi-layer feed-forward back-propagation network was chosen as neural network type, and tanh-sigmoid function was used as activation function to transport signal at the neural network. And Levenberg-Marquart (LM) algorithm was used as learning algorithm to train neural network. Among 420 data sets except missing data, which were collected between 2005 and 2006 at field plant, 210 data sets were used for training, and other 210 data sets were used for validation. As result of it, ANN model for predicting the influent flow and components 1-3day ahead could be developed successfully. It is expected that this developed model can be practically used as follows: Detecting the fault related to effluent concentration that can be happened in the future by combining with other models to predict process performance in advance, and minimization of the process fault through the establishment of various control strategies based on the detection result.

단순신경회로망의 설계 및 구현 (A Design And Implementation Of Simple Neural Networks System In Turbo Pascal)

  • 우원택
    • 한국정보시스템학회:학술대회논문집
    • /
    • 한국정보시스템학회 2000년도 추계학술대회
    • /
    • pp.1.2-24
    • /
    • 2000
  • 본연구에서는 단순신경망의 구조와 특성을 이해하기 위해 신경회로망의 알고리듬을 이론적으로 분석하고 이를 토대로 프로그램을 설계 실행하여 신경망의 학습과정을 실험하였다. 본연구에서 채택한 학습알고리듬은 3계층구조의 역전파알고리듬이며 신경망의 모형은 단순의료전문가시스템모형을 입력치로 채택하였다. 계층수, 노드수, 학습사이클 수, 학습율, 모멘텀항등의 모수를 입력한 실험의 결과는 입력치에 대한 출력이 기대목표와 거의 일치하였다.

  • PDF

저온의 고-액상변화 모듈 용기의 배열에 따른 축냉시스템의 수치해석 (Numerical Analysis of Cold Storage System with Array of Solid-Liquid Phase Change Module)

  • 문수범
    • 해양환경안전학회지
    • /
    • 제21권5호
    • /
    • pp.577-582
    • /
    • 2015
  • 본 논문은 육해상의 운송장치에 축냉시스템을 적용시키기 위한 기초 연구이다. 또한, 축냉재의 고액상변화에 대한 수치해석을 수행한 연구이다. 수치해석법으로는 유한차분법(Finite-Difference Method)을 이용하였으며, 1차원 비정상의 상태를 가정하여 계산하였다. 또한 용기는 직사각형의 구형용기로 가정하여 대칭의 조건을 이용하였다. 축냉을 목적으로 사용하는 열매체는 염화칼슘 수용액($CaCl_2$) 30wt%의 물성치를 사용하여 계산을 수행하였다. 계산에 영향을 미치는 요소로는 냉동고의 냉기 온도 및 냉기 유속이 있으며, 축냉재를 싸고 있는 용기는 플라스틱으로 가정하였다. 본 수치해석에서 경계층의 두께는 냉기의 속도 증가와 함께 얇게 되고 축열시간도 짧아지는 것을 확인할 수 있었다. 그리고 냉기의 유속이 빨라질수록 열전달이 촉진되어 축냉용기 전면부에서의 온도가 낮아짐을 알았다. 축냉용기의 후면부에서는 경계층이 두꺼워져 열전달이 전면부에 비해 작아짐을 알았다.

기계학습을 이용한 다중물리해석 결과 예측 (Prediction of Multi-Physical Analysis Using Machine Learning)

  • 이근명;김기영;오웅;유성규;송병석
    • 전기전자학회논문지
    • /
    • 제20권1호
    • /
    • pp.94-102
    • /
    • 2016
  • 본 논문에서는 기계학습 알고리즘을 이용하여 다중물리(Multi-physics) 시뮬레이션의 반복 횟수를 획기적으로 줄일 수 있는 다중물리해석 예측 방법을 제안한다. 기존의 다중물리해석 시뮬레이션의 경우 소요되는 시간과 노력을 줄이기 위해 시뮬레이션 자체에 대한 방법과 환경 개선에 초점이 맞추어져 있으나 본 논문에서는 다중물리 시뮬레이션 결과를 기계학습 알고리즘으로 학습하여 추가적인 시뮬레이션을 수행하지 않고 학습된 기계학습 알고리즘을 사용하여 수십분에서 수시간에 걸리는 다중 물리 해석과 유사한 결과를 수초 내에 예측할 수 있음을 보였다. 기계학습 알고리즘 간의 성능을 비교하여 다중물리해석에 적합한 기계학습 알고리즘을 확인하였으며 가장 우수한 성능을 보인 가우시안 프로세스 회귀(Gaussian Process Regression)의 경우 100개 이하의 학습 샘플만으로도 우수한 예측 결과를 얻어낼 수 있음을 확인하였다. 제안하는 방식을 통해 시뮬레이션을 하고자 하는 모델의 형상이나 재질이 변경될 경우 기존의 시뮬레이션 결과로 학습된 알고리즘이 있다면 시뮬레이션을 반복 수행하기 전에 알고리즘을 이용하여 결과를 예측할 수 있어 시뮬레이션의 반복 횟수를 줄일 수 있을 것으로 기대한다.

A Neural Network and Kalman Filter Hybrid Approach for GPS/INS Integration

  • Wang, Jianguo Jack;Wang, Jinling;Sinclair, David;Watts, Leo
    • 한국항해항만학회:학술대회논문집
    • /
    • 한국항해항만학회 2006년도 International Symposium on GPS/GNSS Vol.1
    • /
    • pp.277-282
    • /
    • 2006
  • It is well known that Kalman filtering is an optimal real-time data fusion method for GPS/INS integration. However, it has some limitations in terms of stability, adaptability and observability. A Kalman filter can perform optimally only when its dynamic model is correctly defined and the noise statistics for the measurement and process are completely known. It is found that estimated Kalman filter states could be influenced by several factors, including vehicle dynamic variations, filter tuning results, and environment changes, etc., which are difficult to model. Neural networks can map input-output relationships without apriori knowledge about them; hence a proper designed neural network is capable of learning and extracting these complex relationships with enough training. This paper presents a GPS/INS integrated system that combines Kalman filtering and neural network algorithms to improve navigation solutions during GPS outages. An Extended Kalman filter estimates INS measurement errors, plus position, velocity and attitude errors etc. Kalman filter states, and gives precise navigation solutions while GPS signals are available. At the same time, a multi-layer neural network is trained to map the vehicle dynamics with corresponding Kalman filter states, at the same rate of measurement update. After the output of the neural network meets a similarity threshold, it can be used to correct INS measurements when no GPS measurements are available. Selecting suitable inputs and outputs of the neural network is critical for this hybrid method. Detailed analysis unveils that some Kalman filter states are highly correlated with vehicle dynamic variations. The filter states that heavily impact system navigation solutions are selected as the neural network outputs. The principle of this hybrid method and the neural network design are presented. Field test data are processed to evaluate the performance of the proposed method.

  • PDF