• 제목/요약/키워드: Recurrent neural networks

검색결과 285건 처리시간 0.026초

Acoustic Event Detection in Multichannel Audio Using Gated Recurrent Neural Networks with High-Resolution Spectral Features

  • Kim, Hyoung-Gook;Kim, Jin Young
    • ETRI Journal
    • /
    • 제39권6호
    • /
    • pp.832-840
    • /
    • 2017
  • Recently, deep recurrent neural networks have achieved great success in various machine learning tasks, and have also been applied for sound event detection. The detection of temporally overlapping sound events in realistic environments is much more challenging than in monophonic detection problems. In this paper, we present an approach to improve the accuracy of polyphonic sound event detection in multichannel audio based on gated recurrent neural networks in combination with auditory spectral features. In the proposed method, human hearing perception-based spatial and spectral-domain noise-reduced harmonic features are extracted from multichannel audio and used as high-resolution spectral inputs to train gated recurrent neural networks. This provides a fast and stable convergence rate compared to long short-term memory recurrent neural networks. Our evaluation reveals that the proposed method outperforms the conventional approaches.

오차 자기순환 신경회로망 기반 반능동 현가시스템 제어기 개발 (The development of semi-active suspension controller based on error self recurrent neural networks)

  • 이창구;송광현
    • 제어로봇시스템학회논문지
    • /
    • 제5권8호
    • /
    • pp.932-940
    • /
    • 1999
  • In this paper, a new neural networks and neural network based sliding mode controller are proposed. The new neural networks are an mor self-recurrent neural networks which use a recursive least squares method for the fast on-line leammg. The error self-recurrent neural networks converge considerably last than the back-prollagation algorithm and have advantage oi bemg less affected by the poor initial weights and learning rate. The controller for suspension system is designed according to sliding mode technique based on new proposed neural networks. In order to adapt shding mode control mnethod, each frame dstance hetween ground and vehcle body is estimated md controller is designed according to estimated neural model. The neural networks based sliding mode controller approves good peiformance throllgh computer sirnulations.

  • PDF

영상 잡음 제거 필터를 위한 퍼지 순환 신경망 연구 (A study on the Fuzzy Recurrent Neural Networks for the image noise elimination filter)

  • 변오성
    • 한국컴퓨터정보학회논문지
    • /
    • 제16권6호
    • /
    • pp.61-70
    • /
    • 2011
  • 본 논문은 퍼지를 적용한 순환 신경망을 이용하여 잡음 제거용 필터를 구현하였다. 제안된 퍼지 순환 신경망 구조는 기본적으로 순환 신경망 구조를 이용하여 가중치 및 반복횟수가 일정한 값에 수렴하도록 하였으며, 하이브리드 퍼지 소속 함수 연산자를 적용하여 수학적인 계산량 및 복잡성를 단순화하였다. 본 논문은 제안된 퍼지 순환 신경망 구조 필터가 일반적인 순환 신경망 구조 필터보다 평균 0.38dB 정도 영상복원이 개선됨을 PSNR을 이용하여 증명하였다. 또한 결과 영상 비교에서 제안된 방법을 적용하여 얻은 영상이 기존 방법을 적용하여 얻은 영상보다 원영상과 더 유사함을 확인하였다.

영상처리를 위한 퍼지화된 대각형 Recurrent 신경망에 관한 연구 (A study on the fuzzified Diagonal Recurrent Neural Networks for the Image Processing)

  • 변오성;문성룡
    • 대한전자공학회:학술대회논문집
    • /
    • 대한전자공학회 1999년도 하계종합학술대회 논문집
    • /
    • pp.478-481
    • /
    • 1999
  • In this paper, we could analyze and compare with the generalized Recurrent neural networks and the Recurrent neural networks applying the fuzzy. The total system is digitalized in order to be filtering the image, and the fuzzy is applied to the generalized Recurrent in order to be fast the operation speed. So the fuzzified Recurrent neural networks are completely removed to the included noise in the image, and could converge on a certain value as controlling the weight and iteration frequency corresponding to the desired target value. Also, that values are compared and analysed using MSE and PSNR. When applying to the image which is included to the noise in the generalized Recurrent and the Recurrent applying the fuzzy, the Recurrent applying the fuzzy is shown the superiority at the noise and the fixed convergence part through MSE and PSNR in the computer simulations.

  • PDF

회귀예측 신경모델과 카오스 신경회로망을 결합한 고립 숫자음 인식 (Isolated Digit Recognition Combined with Recurrent Neural Prediction Models and Chaotic Neural Networks)

  • 김석현;여지환
    • 한국지능시스템학회논문지
    • /
    • 제8권6호
    • /
    • pp.129-135
    • /
    • 1998
  • 본 논문은 서러 다른 접근방식을 사용하는 카오스 회귀 신경예측모델과 다층 신경회로망이 결합하여 고립음의 인식률을 높이고자 하였다. 전반적으로 다층신경회로망은 MLP와 결합한 인식률은 1.2%에서 2.5% 이상이 개선 되었다. 이는 서로 인식하는 방법이 다르기 때문에 서로 상호 보완되고, 카오스의 다이내믹 성질이 인식률을 개선시켰음을 실험으로 밝혔다. MLP와 결합한 인식률은 카오스 다층신경망일 때가 가장 좋았다. 그러나 학습시 알고리즘이 단순하고, 신뢰도 면에서는 오히려 카오스 단층 신경망이 인식률은 0.5%정도 떨어지지만 더욱 좋다고 생각된다. 주로 MLP는 숫자음 “일”과 “오”에서 우수한 성적을 나타내었고, 카오스 예측 신경망은 숫자음 “영”, “삼”, “칠”에서 우수하였다.

  • PDF

축적 컴퓨팅을 위한 멤리스터 소자의 최적화 (Optimization of Memristor Devices for Reservoir Computing)

  • 박경우;심현진;오호빈;이종환
    • 반도체디스플레이기술학회지
    • /
    • 제23권1호
    • /
    • pp.1-6
    • /
    • 2024
  • Recently, artificial neural networks have been playing a crucial role and advancing across various fields. Artificial neural networks are typically categorized into feedforward neural networks and recurrent neural networks. However, feedforward neural networks are primarily used for processing static spatial patterns such as image recognition and object detection. They are not suitable for handling temporal signals. Recurrent neural networks, on the other hand, face the challenges of complex training procedures and requiring significant computational power. In this paper, we propose memristors suitable for an advanced form of recurrent neural networks called reservoir computing systems, utilizing a mask processor. Using the characteristic equations of Ti/TiOx/TaOy/Pt, Pt/TiOx/Pt, and Ag/ZnO-NW/Pt memristors, we generated current-voltage curves to verify their memristive behavior through the confirmation of hysteresis. Subsequently, we trained and inferred reservoir computing systems using these memristors with the NIST TI-46 database. Among these systems, the accuracy of the reservoir computing system based on Ti/TiOx/TaOy/Pt memristors reached 99%, confirming the Ti/TiOx/TaOy/Pt memristor structure's suitability for inferring speech recognition tasks.

  • PDF

Hybrid 리커런트 신경망을 이용한 시스템 식별 (System Identification Using Hybrid Recurrent Neural Networks)

  • 최한고;고일환;김종인
    • 융합신호처리학회논문지
    • /
    • 제6권1호
    • /
    • pp.45-52
    • /
    • 2005
  • 동적 신경망은 temporal 신호처리가 요구되는 여러 분야에 사용되어 왔다. 본 논문에서는 다층 리커런트 신경망(RNN)의 동특성을 더 향상시키기 위해 지역 궤환 신경망(LRNN)과 광역 궤환 신경망(GRNN)으로 구성된 합성 신경망을 사용하여 시스템 식별을 다루고 있다. 합성 신경망의 구조는 LRNN으로 IIR-MLP를, GRNN으로 Elman RNN을 결합하고 있다. 합성신경망은 선형과 비선형 시스템 식별을 통해 평가되었으며 상대적인 성능평가를 위해 Elman RNN과 IIR-MLP 신경망과 비교하고 있다. 시뮬레이션 결과에 의하면 합성 신경망은 학습속도와 정확도에서 더 우수하게 동작하였으며, 이러한 사실은 비선형 시스템 식별에 있어서 합성 신경망이 기존의 다층 리커런트 신경망보다 더 효과적인 신경망이 될 수 있음을 보여주었다.

  • PDF

칼만필터로 훈련되는 순환신경망을 이용한 시변채널 등화 (Equalization of Time-Varying Channels using a Recurrent Neural Network Trained with Kalman Filters)

  • 최종수;권오신
    • 제어로봇시스템학회논문지
    • /
    • 제9권11호
    • /
    • pp.917-924
    • /
    • 2003
  • Recurrent neural networks have been successfully applied to communications channel equalization. Major disadvantages of gradient-based learning algorithms commonly employed to train recurrent neural networks are slow convergence rates and long training sequences required for satisfactory performance. In a high-speed communications system, fast convergence speed and short training symbols are essential. We propose decision feedback equalizers using a recurrent neural network trained with Kalman filtering algorithms. The main features of the proposed recurrent neural equalizers, utilizing extended Kalman filter (EKF) and unscented Kalman filter (UKF), are fast convergence rates and good performance using relatively short training symbols. Experimental results for two time-varying channels are presented to evaluate the performance of the proposed approaches over a conventional recurrent neural equalizer.

지역 및 광역 리커런트 신경망을 이용한 비선형 적응예측 (Nonlinear Adaptive Prediction using Locally and Globally Recurrent Neural Networks)

  • 최한고
    • 대한전자공학회논문지SP
    • /
    • 제40권1호
    • /
    • pp.139-147
    • /
    • 2003
  • 동적 신경망은 신호예측과 같이 temporal 신호처리가 요구되는 여러 분야에 적용되어 왔다. 본 논문에서는 다층 리커런트 신경망(RNN)의 동특성을 향상시키기 위해 지역 궤환 신경망(LRNN)과 광역 궤환 신경망(CRNN)으로 구성된 합성 신경망을 제안하고, 적응필터로 제안된 신경망을 사용하여 비선형 적응예측을 다루고 있다. 합성 신경망은 LRNN으로 IIR-MLP와 CRNN으로 Elman RNN 신경망으로 구성되어 있다. 제안된 신경망은 비선형 신호예측을 통해 평가되었으며, 예측 성능의 상대적인 비교를 위해 Elman RNN과 IIR-MLP 신경망과 상호 비교하였다. 실험결과에 의하면 합성 신경망은 수렴속도과 정확도에서 더 우수한 성능을 보여줌으로써, 제안된 신경망이 기존의 다층 리커런트 신경망보다 비정적 신호에 대한 비선형 예측에 더 효과적인 예측모델임을 확인하였다.

오차 자기순환 신경회로망에 기초한 적응 PID제어기 (Adaptive PID controller based on error self-recurrent neural networks)

  • 이창구;신동용
    • 제어로봇시스템학회논문지
    • /
    • 제4권2호
    • /
    • pp.209-214
    • /
    • 1998
  • In this paper, we are dealing with the problem of controlling unknown nonlinear dynamical system by using neural networks. A novel error self-recurrent(ESR) neural model is presented to perform black-box identification. Through the various outcome of the experiment, a new neural network is seen to be considerably faster than the BP algorithm and has advantages of being less affected by poor initial weights and learning rate. These characteristics make it flexible to design the controller in real-time based on neural networks model. In addition, we design an adaptive PID controller that Keyser suggested by using ESR neural networks, and present a method on the implementation of adaptive controller based on neural network for practical applications. We obtained good results in the case of robot manipulator experiment.

  • PDF