• 제목/요약/키워드: Learn and Memory

검색결과 84건 처리시간 0.035초

FFT 적용을 통한 Convolution 연산속도 향상에 관한 연구 (A Study on the Optimization of Convolution Operation Speed through FFT Algorithm)

  • 임수창;김종찬
    • 한국멀티미디어학회논문지
    • /
    • 제24권11호
    • /
    • pp.1552-1559
    • /
    • 2021
  • Convolution neural networks (CNNs) show notable performance in image processing and are used as representative core models. CNNs extract and learn features from large amounts of train dataset. In general, it has a structure in which a convolution layer and a fully connected layer are stacked. The core of CNN is the convolution layer. The size of the kernel used for feature extraction and the number that affect the depth of the feature map determine the amount of weight parameters of the CNN that can be learned. These parameters are the main causes of increasing the computational complexity and memory usage of the entire neural network. The most computationally expensive components in CNNs are fully connected and spatial convolution computations. In this paper, we propose a Fourier Convolution Neural Network that performs the operation of the convolution layer in the Fourier domain. We work on modifying and improving the amount of computation by applying the fast fourier transform method. Using the MNIST dataset, the performance was similar to that of the general CNN in terms of accuracy. In terms of operation speed, 7.2% faster operation speed was achieved. An average of 19% faster speed was achieved in experiments using 1024x1024 images and various sizes of kernels.

지능형 로보트 시스템을 위한 영역기반 Q-learning (Region-based Q-learning for intelligent robot systems)

  • 김재현;서일홍
    • 제어로봇시스템학회논문지
    • /
    • 제3권4호
    • /
    • pp.350-356
    • /
    • 1997
  • It is desirable for autonomous robot systems to possess the ability to behave in a smooth and continuous fashion when interacting with an unknown environment. Although Q-learning requires a lot of memory and time to optimize a series of actions in a continuous state space, it may not be easy to apply the method to such a real environment. In this paper, for continuous state space applications, to solve problem and a triangular type Q-value model\ulcorner This sounds very ackward. What is it you want to solve about the Q-value model. Our learning method can estimate a current Q-value by its relationship with the neighboring states and has the ability to learn its actions similar to that of Q-learning. Thus, our method can enable robots to move smoothly in a real environment. To show the validity of our method, navigation comparison with Q-learning are given and visual tracking simulation results involving an 2-DOF SCARA robot are also presented.

  • PDF

A Robust Energy Consumption Forecasting Model using ResNet-LSTM with Huber Loss

  • Albelwi, Saleh
    • International Journal of Computer Science & Network Security
    • /
    • 제22권7호
    • /
    • pp.301-307
    • /
    • 2022
  • Energy consumption has grown alongside dramatic population increases. Statistics show that buildings in particular utilize a significant amount of energy, worldwide. Because of this, building energy prediction is crucial to best optimize utilities' energy plans and also create a predictive model for consumers. To improve energy prediction performance, this paper proposes a ResNet-LSTM model that combines residual networks (ResNets) and long short-term memory (LSTM) for energy consumption prediction. ResNets are utilized to extract complex and rich features, while LSTM has the ability to learn temporal correlation; the dense layer is used as a regression to forecast energy consumption. To make our model more robust, we employed Huber loss during the optimization process. Huber loss obtains high efficiency by handling minor errors quadratically. It also takes the absolute error for large errors to increase robustness. This makes our model less sensitive to outlier data. Our proposed system was trained on historical data to forecast energy consumption for different time series. To evaluate our proposed model, we compared our model's performance with several popular machine learning and deep learning methods such as linear regression, neural networks, decision tree, and convolutional neural networks, etc. The results show that our proposed model predicted energy consumption most accurately.

A Personalized English vocabulary learnin g system based on cognitive abilities relat ed to foreign language proficiency

  • Kwon, Dai-Young;Lim, Heui-Seok;Lee, Won-Gyu;Kim, Hyeon-Cheol;Jung, Soon-Young;Suh, Tae-Weon;Nam, Ki-Chun
    • KSII Transactions on Internet and Information Systems (TIIS)
    • /
    • 제4권4호
    • /
    • pp.595-617
    • /
    • 2010
  • This paper proposes a novel of a personalized Computer Assisted Language Learning (CALL) system based on learner's cognitive abilities related to foreign language proficiency. In this CALL system, a strategy of retrieval learning, a method of learning memory cycle, and a method of repeated learning are applied for effective vocabulary memorization. The system is designed to offer personalized learning based on cognitive abilities related to the human language process. For this, the proposed CALL system has a cognitive diagnosis module which can measure five types of cognitive abilities. The results of this diagnosis are used to create dynamic learning scenarios for personalized learning and to evaluate user performance in the learning. This system is also designed in order to have users be able to create learning word lists and to share them simply with various functions based on open APIs. Additionally, through experiments, it has shown that this system helps students to learn English vocabulary effectively and enhances their foreign language skills.

LRCN을 이용한 리튬 이온 배터리의 건강 상태 추정 (State of Health Estimation for Lithium-Ion Batteries Using Long-term Recurrent Convolutional Network)

  • 홍선리;강모세;정학근;백종복;김종훈
    • 전력전자학회논문지
    • /
    • 제26권3호
    • /
    • pp.183-191
    • /
    • 2021
  • A battery management system (BMS) provides some functions for ensuring safety and reliability that includes algorithms estimating battery states. Given the changes caused by various operating conditions, the state-of-health (SOH), which represents a figure of merit of the battery's ability to store and deliver energy, becomes challenging to estimate. Machine learning methods can be applied to perform accurate SOH estimation. In this study, we propose a Long-Term Recurrent Convolutional Network (LRCN) that combines the Convolutional Neural Network (CNN) and Long Short-term Memory (LSTM) to extract aging characteristics and learn temporal mechanisms. The dataset collected by the battery aging experiments of NASA PCoE is used to train models. The input dataset used part of the charging profile. The accuracy of the proposed model is compared with the CNN and LSTM models using the k-fold cross-validation technique. The proposed model achieves a low RMSE of 2.21%, which shows higher accuracy than others in SOH estimation.

자율주행용 자계도로의 3차원 해석 및 차량위치검출시스템 (3-Dimensional Analysis of Magnetic Road and Vehicle Position Sensing System for Autonomous Driving)

  • 유영재
    • 한국지능시스템학회논문지
    • /
    • 제15권1호
    • /
    • pp.75-80
    • /
    • 2005
  • 이 논문에서는 지능형 교통시스템에서 자율주행용 자계도로 3차원적으로 해석하여 차량의 위치를 검출하기 위한 시스템에 관하여 다룬다. 특히 자율주행시스템을 구성하는 핵심요소 중 하나인 위치검출시스템의 새로운 방법을 제안한다. 기존의 위치검출시스템은 자계와 차량의 위치 관계를 맵핑하는 원리를 이용한다. 이는 데이터의 저장이 필수적이며 대용량의 메모리를 요구되어 상용화시 고비용의 문제점을 가지고 있다. 이 논문에서는 기존 위치검출시스템이 가지는 문제점을 극복하기 위한 방법으로 신경망을 이용한 위치검출시스템을 제안한다. 그리고 제안한 위치검출시스템을 적용한 자율주행시스템을 설계한다. 설계한 자율주행시스템의 적용 가능성을 파악하기 위하여 자율주행실험을 행하고 이를 분석한다.

ICT 인프라 이상탐지를 위한 조건부 멀티모달 오토인코더에 관한 연구 (A Study of Anomaly Detection for ICT Infrastructure using Conditional Multimodal Autoencoder)

  • 신병진;이종훈;한상진;박충식
    • 지능정보연구
    • /
    • 제27권3호
    • /
    • pp.57-73
    • /
    • 2021
  • ICT 인프라의 이상탐지를 통한 유지보수와 장애 예방이 중요해지고 있다. 장애 예방을 위해서 이상탐지에 대한 관심이 높아지고 있으며, 지금까지의 다양한 이상탐지 기법 중 최근 연구들에서는 딥러닝을 활용하고 있으며 오토인코더를 활용한 모델을 제안하고 있다. 이는 오토인코더가 다차원 다변량에 대해서도 효과적으로 처리가 가능하다는 것이다. 한편 학습 시에는 많은 컴퓨터 자원이 소모되지만 추론과정에서는 연산을 빠르게 수행할 수 있어 실시간 스트리밍 서비스가 가능하다. 본 연구에서는 기존 연구들과 달리 오토인코더에 2가지 요소를 가미하여 이상탐지의 성능을 높이고자 하였다. 먼저 다차원 데이터가 가지고 있는 속성별 특징을 최대한 부각하여 활용하기 위해 멀티모달 개념을 적용한 멀티모달 오토인코더를 적용하였다. CPU, Memory, network 등 서로 연관이 있는 지표들을 묶어 5개의 모달로 구성하여 학습 성능을 높이고자 하였다. 또한, 시계열 데이터의 특징을 데이터의 차원을 늘리지 않고 효과적으로 학습하기 위하여 조건부 오토인코더(conditional autoencoder) 구조를 활용하는 조건부 멀티모달 오토인코더(Conditional Multimodal Autoencoder, CMAE)를 제안하였다. 제안한 CAME 모델은 비교 실험을 통해 검증했으며, 기존 연구들에서 많이 활용된 오토인코더와 비교하여 AUC, Accuracy, Precision, Recall, F1-score의 성능 평가를 진행한 결과 유니모달 오토인코더(UAE)와 멀티모달 오토인코더(Multimodal Autoencoder, MAE)의 성능을 상회하는 결과를 얻어 이상탐지에 있어 효과적이라는 것을 확인하였다.

이 러닝의 질적 우수성에 대한 재고(再考)무엇이 질을 결정하는가? (Reconsidering of critical factors for high quality e-Learning)

  • 조은순
    • 한국콘텐츠학회:학술대회논문집
    • /
    • 한국콘텐츠학회 2005년도 춘계 종합학술대회 논문집
    • /
    • pp.36-50
    • /
    • 2005
  • 지난 수년 동안 우리나라에서 이 러닝은 특히 기업을 중심으로 빠른 시간에 확산이 되었으며, 양적으로 팽창한 만큼 질적인 부분에 대한 의구심이 팽배한 것이 사실이다. 기존의 오프라인 교육에 비하여 이 러닝의 질적 수준을 분석하는 이유는 그 동안 급속도로 발전된 이 러닝이 학습자들에게 훌륭한 학습경험을 주지 못하였고, 생각보다 결과가 저조하였으며, 무엇보다 투자된 비용에 비해 효과성이 저조하였다는 지적이 많기 때문이다 . 그동안 이 러닝에서의 많은 경험은 오랜 세월동안 익숙해왔던 오프라인수업을 중심으로 구성되어왔으며, 이 러닝에 종사하는 많은 전문가들도 대부분 오프라인에서의 교수-학습에 대한 경험을 바탕으로 이 러닝의 체제를 이해하여 왔다. Dublin&Cross (2003)에 의하면 과연 얼마나 많은 사람들이 이 러닝에 대한 공통된 개념을 가지고 있으며, 학습자들이 단지 문제없이 이 러닝에 접속하여 끝까지 기술적인 문제없이 도달하는데서 끝나지 않고 얼마나 효과적이고 효율적으로 이 러닝이 의도한 학습과정에 흡수되는 가를 분석해 낼 수 있는가에 따라 이 러닝의 성공여부가 달려 있다고 한다. 본 논문은 이 러닝의 확산속도에 맞추어 질적 향상이 쉽게 이루어지지 않는 이 러닝의 현상을 분석해보고 이 러닝의 질적 발전을 위하여 고려하여야 하는 요소들은 무엇이 있으며 이들이 어떻게 조화를 이루어야 이 러닝이 질적으로 우수성을 가질 수 있는지에 대한 방안을 제시해 보고자 한다.

  • PDF

얼굴인식을 위한 해마의 뇌모델링 학습 알고리즘 개발 (Development of Learning Algorithm using Brain Modeling of Hippocampus for Face Recognition)

  • 오선문;강대성
    • 대한전자공학회논문지SP
    • /
    • 제42권5호
    • /
    • pp.55-62
    • /
    • 2005
  • 본 논문에서는 인간의 인지학적인 두뇌 원리인 대뇌피질과 해마 신경망을 공학적으로 모델링하여 얼굴 영상의 특징 벡터들을 고속 학습하고, 각 영상의 최적의 특징을 구성할 수 있는 해마 신경망 모델링 알고리즘인 HNMA(Hippocampal Neuron Modeling Algorithm)을 이용한 얼굴인식 시스템을 제안한다. 시스템은 크게 특징추출 부분과 학습 및 인식 부분으로 구성 되어 있으며, 특징추출 부분에서는 PCA(Principal Component Analysis)와 LDA (Linear Discriminants Analysis)를 순차적으로 적용하여 분별력이 좋은 특징들로 구성한다. 학습부분에서는 해마 신경망 구조의 순서에 따라 입력되는 영상 데이터의 특징들을 치아 이랑 영역에서 호감도 조정에 따라서 반응 패턴으로 이진화 하고, CA3 영역에서 자기 연상 메모리 단계를 거쳐 노이즈를 제거한다. CA3의 정보를 받는 CAI영역에서는 신경망에 의해 학습되어 장기기억이 만들어 진다. 제안한 시스템의 성능을 평가하기 위하여 실험은 표정과 포즈변화 그리고 저 화질 이미지를 각각 구분하여 인식률을 확인하였다. 실험 결과, 본 논문에서 제안하는 특징 추출 방법과 학습 방법을 다른 방법들과 비교하였을 때, 학습시간비용과 인식률에서 우수함을 확인하였다.

실내 사람 위치 추적 기반 LSTM 모델을 이용한 고객 혼잡 예측 연구 (An Approach Using LSTM Model to Forecasting Customer Congestion Based on Indoor Human Tracking)

  • 채희주;곽경헌;이다연;김은경
    • 한국시뮬레이션학회논문지
    • /
    • 제32권3호
    • /
    • pp.43-53
    • /
    • 2023
  • 본 연구는 실내 상업적 공간, 특히 카페에서 보안 카메라를 이용해 방문자 수와 위치를 실시간으로 파악하고, 이를 통해 사용 가능한 좌석 정보와 혼잡도 예측을 제공하는 시스템의 개발을 목표로 한다. 우리는 실시간 객체 탐지 및 추적 알고리즘인 YOLO를 활용하여 방문자 수와 위치를 실시간으로 파악하며, 이 정보를 카페 실내 지도에 업데이트하여 카페 방문자가 사용 가능한 좌석을 확인할 수 있도록 한다. 또한, 우리는 vanishing gradient문제를 해결한 장단기 메모리(Long Short Term Memory, LSTM)와 시간적인 관계를 가지는 데이터를 처리하는데 유용한 시퀀스-투-시퀀스(Sequence-to-Sequence, Seq2Seq)기법을 활용해 다양한 시간 간격에 따른 방문자 수와 움직임 패턴을 학습하고, 이를 바탕으로 카페의 혼잡도를 실시간으로 예측하는 시스템을 개발하였다. 이 시스템은 카페의 관리자와 이용자 모두에게 예상 혼잡도를 제공함으로써, 카페의 운영 효율성을 향상시키고, 고객 만족도를 높일 수 있다. 본 연구에서는 보안 카메라를 활용한 실내 위치 추적 기술의 효용성을 입증하며, 상업적 공간에서의 활용 가능성과 더불어 미래 연구 방향을 제시한다.