• 제목/요약/키워드: neural network training

검색결과 1,750건 처리시간 0.025초

합성곱 신경망을 통한 강건한 온라인 객체 추적 (Robust Online Object Tracking via Convolutional Neural Network)

  • 길종인;김만배
    • 방송공학회논문지
    • /
    • 제23권2호
    • /
    • pp.186-196
    • /
    • 2018
  • 본 논문에서는 객체를 추적하기 위해 합성곱 신경망 모델을 이용한 온라인 추적 기법을 제안한다. 오프라인에 모델을 학습시키기 위해서는 많은 수의 훈련 샘플이 필요하다. 이러한 문제를 해결하기 위해, 학습되지 않은 모델을 사용하고, 실험 영상으로부터 직접 훈련 샘플을 수집하여 모델을 갱신한다. 기존의 방법들은 많은 훈련 샘플을 획득하여 모델의 학습에 사용하였지만, 본 논문에서는 적은 수의 훈련 샘플만으로도 객체의 추적이 가능함을 증명한다. 또한 컬러 정보를 활용하여 새로운 손실 함수를 정의하였고 이로부터 잘못 수집된 훈련 샘플로 인해 모델이 잘못된 방향으로 학습되는 문제를 방지한다. 실험을 통해 4가지 비교 방법과 동등하거나 개선된 추적 성능을 보임을 증명하였다.

신경망 이론을 이용한 농업 구조물의 안전도 평가 및 관리계획 (Safety Assessment and Management Planning of Agricultural Facilities using Neural Network)

  • 김민종;이정재;정남수
    • 한국농공학회:학술대회논문집
    • /
    • 한국농공학회 2001년도 학술발표회 발표논문집
    • /
    • pp.156-161
    • /
    • 2001
  • Currently, agricultural facilities are evaluated using either basic inspections or detailed analysis. However, conventional analyses as well as methods based on fuzzy logic and rule of thumb have not been very successful in providing a clear relationship between rating and real state of agricultural facilities, because they can't provide exactly acceptable reliability of degraded structures with manager or supervisor. Therefore, in this stage, we must define probabilistic variables for representing degradation of structures being given damages during a survival time. This paper describes the application of neural network system in developing the relation between subjective ratings and parameters of agricultural reservoir as well as that between subjective and analytical ratings. It is shown that neural networks can be trained and used successfully in estimating a rating based on several parameters. The specific application problem for agricultural reservoir in the rural area of Korea is presented and database is constructed to maintain training data set, the information of inspection and facilities. This study showed that a successful training of a neural network could be useful, especially if the input data set for target problem contains parameters with a diverse combination of inter-correlation coefficients. And the networks had a prediction rating of about $^{\ast}^{\ast}^{\ast}%$. The neural network system is expected to show high performance fairly in estimate than statistical method to use equation that is consisted of very lowly interrelated variables.

  • PDF

Dual deep neural network-based classifiers to detect experimental seizures

  • Jang, Hyun-Jong;Cho, Kyung-Ok
    • The Korean Journal of Physiology and Pharmacology
    • /
    • 제23권2호
    • /
    • pp.131-139
    • /
    • 2019
  • Manually reviewing electroencephalograms (EEGs) is labor-intensive and demands automated seizure detection systems. To construct an efficient and robust event detector for experimental seizures from continuous EEG monitoring, we combined spectral analysis and deep neural networks. A deep neural network was trained to discriminate periodograms of 5-sec EEG segments from annotated convulsive seizures and the pre- and post-EEG segments. To use the entire EEG for training, a second network was trained with non-seizure EEGs that were misclassified as seizures by the first network. By sequentially applying the dual deep neural networks and simple pre- and post-processing, our autodetector identified all seizure events in 4,272 h of test EEG traces, with only 6 false positive events, corresponding to 100% sensitivity and 98% positive predictive value. Moreover, with pre-processing to reduce the computational burden, scanning and classifying 8,977 h of training and test EEG datasets took only 2.28 h with a personal computer. These results demonstrate that combining a basic feature extractor with dual deep neural networks and rule-based pre- and post-processing can detect convulsive seizures with great accuracy and low computational burden, highlighting the feasibility of our automated seizure detection algorithm.

Solving partial differential equation for atmospheric dispersion of radioactive material using physics-informed neural network

  • Gibeom Kim;Gyunyoung Heo
    • Nuclear Engineering and Technology
    • /
    • 제55권6호
    • /
    • pp.2305-2314
    • /
    • 2023
  • The governing equations of atmospheric dispersion most often taking the form of a second-order partial differential equation (PDE). Currently, typical computational codes for predicting atmospheric dispersion use the Gaussian plume model that is an analytic solution. A Gaussian model is simple and enables rapid simulations, but it can be difficult to apply to situations with complex model parameters. Recently, a method of solving PDEs using artificial neural networks called physics-informed neural network (PINN) has been proposed. The PINN assumes the latent (hidden) solution of a PDE as an arbitrary neural network model and approximates the solution by optimizing the model. Unlike a Gaussian model, the PINN is intuitive in that it does not require special assumptions and uses the original equation without modifications. In this paper, we describe an approach to atmospheric dispersion modeling using the PINN and show its applicability through simple case studies. The results are compared with analytic and fundamental numerical methods to assess the accuracy and other features. The proposed PINN approximates the solution with reasonable accuracy. Considering that its procedure is divided into training and prediction steps, the PINN also offers the advantage of rapid simulations once the training is over.

로봇 Endeffector 인식을 위한 다중 모듈 신경회로망 인식 시스템 (Modular Neural Network Recognition System for Robot Endeffector Recognition)

  • 신진욱;박동선
    • 한국통신학회논문지
    • /
    • 제29권5C호
    • /
    • pp.618-626
    • /
    • 2004
  • 본 논문에서는 로봇의 endeffector를 인식하기 위하여 모듈라 신경회로망인식 시스템을 제안 및 구현하였다. 본 논문에서 제안한 로봇 endeffector 인식시스템은 영상을 획득하고 획득한 영상에서 전처리를 이용하여 로봇의 enddffector를 검색하기 위한 특징 값들을 구한다. 3차원 공간에서 로봇의 endeffector는 움직임에 따라 다양한 형태로 변화하므로 빠르고 정확하게 endeffector를 인식하기 위하여 위치검출 신경회로망 모듈과 크기 검출 신경회로망 모듈로 이루어진 다중모듈신경회로망(MNN; Modular Neural Network)을 이용한다. 이렇게 함으로써 각각의 모듈들에 신경회로망의 인식 능력을 이용하여 로봇 endeffector를 인식하고 좀더 빠른 시간 내에 위치 및 크기를 검출하도록 하는 로봇 endeffector 인식시스템을 구성하도록 하였다. 본 논문에서 제안한 인식 시스템은 잡음에 덜 민감하며 로봇의 endfeector를 인식하는데 좋은 성능을 보임을 알 수 있다. 다중 모듈 신경회로망을 이용한 방법은 기존의 단일 신경회로망보다 14% 향상된 94%의 인식률을 보이며 원격지에 있는 운영자의 편의를 위해 로봇의 endeffector를 인식하여 화면의 정 중앙에 정확히 위치시킬 수 있다.

딥러닝의 모형과 응용사례 (Deep Learning Architectures and Applications)

  • 안성만
    • 지능정보연구
    • /
    • 제22권2호
    • /
    • pp.127-142
    • /
    • 2016
  • 딥러닝은 인공신경망(neural network)이라는 인공지능분야의 모형이 발전된 형태로서, 계층구조로 이루어진 인공신경망의 내부계층(hidden layer)이 여러 단계로 이루어진 구조이다. 딥러닝에서의 주요 모형은 합성곱신경망(convolutional neural network), 순환신경망(recurrent neural network), 그리고 심층신뢰신경망(deep belief network)의 세가지라고 할 수 있다. 그 중에서 현재 흥미로운 연구가 많이 발표되어서 관심이 집중되고 있는 모형은 지도학습(supervised learning)모형인 처음 두 개의 모형이다. 따라서 본 논문에서는 지도학습모형의 가중치를 최적화하는 기본적인 방법인 오류역전파 알고리즘을 살펴본 뒤에 합성곱신경망과 순환신경망의 구조와 응용사례 등을 살펴보고자 한다. 본문에서 다루지 않은 모형인 심층신뢰신경망은 아직까지는 합성곱신경망 이나 순환신경망보다는 상대적으로 주목을 덜 받고 있다. 그러나 심층신뢰신경망은 CNN이나 RNN과는 달리 비지도학습(unsupervised learning)모형이며, 사람이나 동물은 관찰을 통해서 스스로 학습한다는 점에서 궁극적으로는 비지도학습모형이 더 많이 연구되어야 할 주제가 될 것이다.

얼굴인식 성능 향상을 위한 얼굴 전역 및 지역 특징 기반 앙상블 압축 심층합성곱신경망 모델 제안 (Compressed Ensemble of Deep Convolutional Neural Networks with Global and Local Facial Features for Improved Face Recognition)

  • 윤경신;최재영
    • 한국멀티미디어학회논문지
    • /
    • 제23권8호
    • /
    • pp.1019-1029
    • /
    • 2020
  • In this paper, we propose a novel knowledge distillation algorithm to create an compressed deep ensemble network coupled with the combined use of local and global features of face images. In order to transfer the capability of high-level recognition performances of the ensemble deep networks to a single deep network, the probability for class prediction, which is the softmax output of the ensemble network, is used as soft target for training a single deep network. By applying the knowledge distillation algorithm, the local feature informations obtained by training the deep ensemble network using facial subregions of the face image as input are transmitted to a single deep network to create a so-called compressed ensemble DCNN. The experimental results demonstrate that our proposed compressed ensemble deep network can maintain the recognition performance of the complex ensemble deep networks and is superior to the recognition performance of a single deep network. In addition, our proposed method can significantly reduce the storage(memory) space and execution time, compared to the conventional ensemble deep networks developed for face recognition.

Web access prediction based on parallel deep learning

  • Togtokh, Gantur;Kim, Kyung-Chang
    • 한국컴퓨터정보학회논문지
    • /
    • 제24권11호
    • /
    • pp.51-59
    • /
    • 2019
  • 웹에서 정보 접근에 대한 폭발적인 주문으로 웹 사용자의 다음 접근 페이지를 예측하는 필요성이 대두되었다. 웹 접근 예측을 위해 마코브(markov) 모델, 딥 신경망, 벡터 머신, 퍼지 추론 모델 등 많은 모델이 제안되었다. 신경망 모델에 기반한 딥러닝 기법에서 대규모 웹 사용 데이터에 대한 학습 시간이 엄청 길어진다. 이 문제를 해결하기 위하여 딥 신경망 모델에서는 학습을 여러 컴퓨터에 동시에, 즉 병렬로 학습시킨다. 본 논문에서는 먼저 스파크 클러스터에서 다층 Perceptron 모델을 학습 시킬 때 중요한 데이터 분할, shuffling, 압축, locality와 관련된 기본 파라미터들이 얼마만큼 영향을 미치는지 살펴보았다. 그 다음 웹 접근 예측을 위해 다층 Perceptron 모델을 학습 시킬 때 성능을 높이기 위하여 이들 스파크 파라미터들을 튜닝 하였다. 실험을 통하여 논문에서 제안한 스파크 파라미터 튜닝을 통한 웹 접근 예측 모델이 파라미터 튜닝을 하지 않았을 경우와 비교하여 웹 접근 예측에 대한 정확성과 성능 향상의 효과를 보였다.

역전파 신경회로망에 의한 로봇 팔의 불확실성 보상 (Compensation of robot manipulator uncertainties using back propagation neural network)

  • 이상재;이석원;남부희
    • 제어로봇시스템학회논문지
    • /
    • 제2권4호
    • /
    • pp.312-317
    • /
    • 1996
  • This paper proposes a neural network controller with the computed torque method. The neural network is used not to learn the inverse dynamic model but to compensate the uncertainties of robotic manipulators. When training the neural network, we use the signals present in the proposed controller, which is simpler than that proposed by Ishiguro et al., whose teaching signals of the neural network come from the robot model.

  • PDF

Internet Traffic Control Using Dynamic Neural Networks

  • Cho, Hyun-Cheol;Fadali, M. Sami;Lee, Kwon-Soon
    • Journal of Electrical Engineering and Technology
    • /
    • 제3권2호
    • /
    • pp.285-291
    • /
    • 2008
  • Active Queue Management(AQM) has been widely used for congestion avoidance in Transmission Control Protocol(TCP) networks. Although numerous AQM schemes have been proposed to regulate a queue size close to a reference level, most of them are incapable of adequately adapting to TCP network dynamics due to TCP's non-linearity and time-varying stochastic properties. To alleviate these problems, we introduce an AQM technique based on a dynamic neural network using the Back-Propagation(BP) algorithm. The dynamic neural network is designed to perform as a robust adaptive feedback controller for TCP dynamics after an adequate training period. We evaluate the performances of the proposed neural network AQM approach using simulation experiments. The proposed approach yields superior performance with faster transient time, larger throughput, and higher link utilization compared to two existing schemes: Random Early Detection(RED) and Proportional-Integral(PI)-based AQM. The neural AQM outperformed PI control and RED, especially in transient state and TCP dynamics variation.