• 제목/요약/키워드: Deep neural network (DNN)

검색결과 254건 처리시간 0.029초

Lightweight CNN based Meter Digit Recognition

  • Sharma, Akshay Kumar;Kim, Kyung Ki
    • 센서학회지
    • /
    • 제30권1호
    • /
    • pp.15-19
    • /
    • 2021
  • Image processing is one of the major techniques that are used for computer vision. Nowadays, researchers are using machine learning and deep learning for the aforementioned task. In recent years, digit recognition tasks, i.e., automatic meter recognition approach using electric or water meters, have been studied several times. However, two major issues arise when we talk about previous studies: first, the use of the deep learning technique, which includes a large number of parameters that increase the computational cost and consume more power; and second, recent studies are limited to the detection of digits and not storing or providing detected digits to a database or mobile applications. This paper proposes a system that can detect the digital number of meter readings using a lightweight deep neural network (DNN) for low power consumption and send those digits to an Android mobile application in real-time to store them and make life easy. The proposed lightweight DNN is computationally inexpensive and exhibits accuracy similar to those of conventional DNNs.

Deep neural network-hidden Markov model 하이브리드 구조의 모델을 사용한 사용자 정의 기동어 인식 시스템에 관한 연구 (A study on user defined spoken wake-up word recognition system using deep neural network-hidden Markov model hybrid model)

  • 윤기무;김우일
    • 한국음향학회지
    • /
    • 제39권2호
    • /
    • pp.131-136
    • /
    • 2020
  • 음성 인식기를 대기모드에서 동작 모드로 전환하기 위해 발화하는 짧은 단어를 기동어(Wake Up Word, WUW)라고 하며, 음성 인식기를 실제로 사용하는 사용자가 지정한 기동어를 사용자 정의 기동어라고 한다. 본 논문에서는 이러한 사용자 정의 기동어를 인식하기 위해 기존의 Gaussian Mixture Model-Hidden Markov Model(GMM-HMM) 기반의 시스템, Linear Discriminant Analysis(LDA)를 적용한 LDA-GMM-HMM 기반의 시스템과, LDA-GMM-HMM 모델에서 GMM을 Deep Neural Network(DNN)로 대체한 LDA-DNN-HMM 기반의 시스템을 제작하고 각 시스템의 사용자 정의 기동어 인식 성능 및 비기동어 거절 성능을 비교한다. 또한 기동어 인식기의 체감 성능을 향상시키고자 각 모델에 threshold를 적용하여 기동어 인식 실패율을 약 10 % 수준으로 감소 시킨 후에 비기동어(non-WUW)의 거절 실패율을 비교 평가한다. Threshold 적용시에 LDA-DNN-HMM 기반의 시스템의 경우 기동어 인식 실패율 9.84 % 수준에서 비기동어 거절 실패율이 0.0058 %의 인식 성능을 나타내어 LDA-GMM-HMM 시스템 보다 약 4.82배 향상된 비기동어 거절 성능을 나타낸다. 이러한 결과는 본 논문에서 제작한 LDA-DNN-HMM 모델이 사용자 정의 기동어 인식 시스템을 구축하는데 효과적임을 입증한다.

User-to-User Matching Services through Prediction of Mutual Satisfaction Based on Deep Neural Network

  • Kim, Jinah;Moon, Nammee
    • Journal of Information Processing Systems
    • /
    • 제18권1호
    • /
    • pp.75-88
    • /
    • 2022
  • With the development of the sharing economy, existing recommender services are changing from user-item recommendations to user-user recommendations. The most important consideration is that all users should have the best possible satisfaction. To achieve this outcome, the matching service adds information between users and items necessary for the existing recommender service and information between users, so higher-level data mining is required. To this end, this paper proposes a user-to-user matching service (UTU-MS) employing the prediction of mutual satisfaction based on learning. Users were divided into consumers and suppliers, and the properties considered for recommendations were set by filtering and weighting. Based on this process, we implemented a convolutional neural network (CNN)-deep neural network (DNN)-based model that can predict each supplier's satisfaction from the consumer perspective and each consumer's satisfaction from the supplier perspective. After deriving the final mutual satisfaction using the predicted satisfaction, a top recommendation list is recommended to all users. The proposed model was applied to match guests with hosts using Airbnb data, which is a representative sharing economy platform. The proposed model is meaningful in that it has been optimized for the sharing economy and recommendations that reflect user-specific priorities.

개의 PPG와 DNN를 이용한 혈당 예측 - 선행연구 (Blood glucose prediction using PPG and DNN in dogs - a pilot study)

  • 박철구;최상기
    • 디지털정책학회지
    • /
    • 제2권4호
    • /
    • pp.25-32
    • /
    • 2023
  • 논문은 PPG 기반 센서에서 측정한 심박수(HR), 심박변이도(HRV) 데이터를 기반으로 DNN(Deep Neural Network) 혈당예측 모델을 개발하는 연구이다. 혈당 예측은 다층퍼셉트론(MLP) 신경망을 이용하였다. DNN 심층학습은 11의 독립변수가 있는 입력층, 은닉층, 출력층으로 구성된다. 혈당 예측모델의 학습결과는 MAE=0.3781, MSE=0.8518, 및 RMSE=0.9229이며, 결정계수(R2)는 0.9994이다. PPG기반의 디지털기기를 이용한 비채혈적 생체신호를 이용하여 혈당관리의 가능성을 확인하였다. PPG기반의 표준화된 활력신호 획득 및 해석법, 다량의 데이터기반 심층학습(Deep Learning)의 데이터셋, 정확성를 실증하는 연구가 이어진다면 개의 혈당관리에 편이성과 대안적인 방법을 제공할 수 있을 것이다.

연속적 데이터 처리 심층신경망을 이용한 12 lead 심전도 파라미터의 자동 획득 (Automatic Parameter Acquisition of 12 leads ECG Using Continuous Data Processing Deep Neural Network)

  • 김지운;박성민;최성욱
    • 대한의용생체공학회:의공학회지
    • /
    • 제41권2호
    • /
    • pp.107-119
    • /
    • 2020
  • The deep neural networks (DNN) that can replicate the behavior of the human expert who recognizes the characteristics of ECG waveform have been developed and studied to analyze ECG. However, although the existing DNNs can not provide the explanations for their decisions, those trials have attempted to determine whether patients have certain diseases or not and those decisions could not be accepted because of the absence of relating theoretical basis. In addition, these DNNs required a lot of training data to obtain sufficient accuracy in spite of the difficulty in the acquisition of relating clinical data. In this study, a small-sized continuous data processing DNN (C-DNN) was suggested to determine the simple characteristics of ECG wave that were not required additional explanations about its decisions and the C-DNN can be easily trained with small training data. Although it can analyze small input data that was selected in narrow region on whole ECG, it can continuously scan all ECG data and find important points such as start and end points of P, QRS and T waves within a short time. The star and end points of ECG waves determined by the C-DNNs were compared with the results performed by human experts to estimate the accuracies of the C-DNNs. The C-DNN has 150 inputs, 51 outputs, two hidden layers and one output layer. To find the start and end points, two C-DNNs were trained through deep learning technology and applied to a parameter acquisition algorithms. 12 lead ECG data measured in four patients and obtained through PhysioNet was processed to make training data by human experts. The accuracy of the C-DNNs were evaluated with extra data that were not used at deep learning by comparing the results between C-DNNs and human experts. The averages of the time differences between the C-DNNs and experts were 0.1 msec and 13.5 msec respectively and those standard deviations were 17.6 msec and 15.7 msec. The final step combining the results of C-DNN through the waveforms of 12 leads was successfully determined all 33 waves without error that the time differences of human experts decision were over 20 msec. The reliable decision of the ECG wave's start and end points benefits the acquisition of accurate ECG parameters such as the wave lengths, amplitudes and intervals of P, QRS and T waves.

심층신경망 모델을 이용한 고해상도 KOMPSAT-3 위성영상 기반 토지피복분류 (Land Cover Classification Based on High Resolution KOMPSAT-3 Satellite Imagery Using Deep Neural Network Model)

  • 문갑수;김경섭;정윤재
    • 한국지리정보학회지
    • /
    • 제23권3호
    • /
    • pp.252-262
    • /
    • 2020
  • 원격탐사 분야에서 토지피복분류에는 머신러닝 기반의 SVM 모델이 대표적으로 활용되고 있는 한편, 신경망 모델을 이용한 연구도 지속적으로 수행되고 있다. 다목적실용위성의 고해상도 영상을 이용한 연구는 미흡한 실정이며, 따라서 본 연구에서는 고해상도 KOMPSAT-3 위성영상을 이용하여 신경망 모델의 토지피복분류 정확도를 평가하고자 하였다. 경주시 인근 해안지역의 위성영상을 취득하여 훈련자료를 제작하고, 물과 식생 및 육지의 세 항목에 대해 SVM, ANN 및 DNN 모델로 토지피복을 분류하였다. 분류 결과의 정확도를 오차 행렬을 통해 정량적으로 평가한 결과 DNN 모델을 활용한 토지피복분류가 92.0%의 정확도로 가장 우수한 결과를 나타냈다. 향후 다중 시기의 위성영상을 통해 훈련자료를 보완하고, 다양한 항목에 대한 분류를 수행 및 검증한다면 연구의 신뢰성을 높일 수 있을 것으로 판단된다.

부채널 분석을 이용한 DNN 기반 MNIST 분류기 가중치 복구 공격 및 대응책 구현 (Weight Recovery Attacks for DNN-Based MNIST Classifier Using Side Channel Analysis and Implementation of Countermeasures)

  • 이영주;이승열;하재철
    • 정보보호학회논문지
    • /
    • 제33권6호
    • /
    • pp.919-928
    • /
    • 2023
  • 딥러닝 기술은 자율 주행 자동차, 이미지 생성, 가상 음성 구현 등 다양한 분야에서 활용되고 있으며 하드웨어 장치에서 고속 동작을 위해 딥러닝 가속기가 등장하게 되었다. 그러나 최근에는 딥러닝 가속기에서 발생하는 부채널 정보를 이용한 내부 비밀 정보를 복구하는 공격이 연구되고 있다. 본 논문에서는 DNN(Deep Neural Network) 기반 MNIST 숫자 분류기를 마이크로 컨트롤러에서 구현한 후 상관 전력 분석(Correlation Power Analysis) 공격을 시도하여 딥러닝 가속기의 가중치(weight)를 충분히 복구할 수 있음을 확인하였다. 또한, 이러한 전력 분석 공격에 대응하기 위해 전력 측정 시점의 정렬 혼돈(misalignment) 원리를 적용한 Node-CUT 셔플링 방법을 제안하였다. 제안하는 대응책은 부채널 공격을 효과적으로 방어할 수 있으며, Fisher-Yates 셔플링 기법을 사용하는 것보다 추가 계산량이 1/3보다 더 줄어듦을 실험을 통해 확인하였다.

관상동맥질환 위험인자 유무 판단을 위한 심박변이도 매개변수 기반 심층 신경망의 성능 평가 (Performance Evaluation of Deep Neural Network (DNN) Based on HRV Parameters for Judgment of Risk Factors for Coronary Artery Disease)

  • 박성준;최승연;김영모
    • 대한의용생체공학회:의공학회지
    • /
    • 제40권2호
    • /
    • pp.62-67
    • /
    • 2019
  • The purpose of this study was to evaluate the performance of deep neural network model in order to determine whether there is a risk factor for coronary artery disease based on the cardiac variation parameter. The study used unidentifiable 297 data to evaluate the performance of the model. Input data consists of heart rate parameters, which are SDNN (standard deviation of the N-N intervals), PSI (physical stress index), TP (total power), VLF (very low frequency), LF (low frequency), HF (high frequency), RMSSD (root mean square of successive difference) APEN (approximate entropy) and SRD (successive R-R interval difference), the age group and sex. Output data are divided into normal and patient groups, and the patient group consists of those diagnosed with diabetes, high blood pressure, and hyperlipidemia among the various risk factors that can cause coronary artery disease. Based on this, a binary classification model was applied using Deep Neural Network of deep learning techniques to classify normal and patient groups efficiently. To evaluate the effectiveness of the model used in this study, Kernel SVM (support vector machine), one of the classification models in machine learning, was compared and evaluated using same data. The results showed that the accuracy of the proposed deep neural network was train set 91.79% and test set 85.56% and the specificity was 87.04% and the sensitivity was 83.33% from the point of diagnosis. These results suggest that deep learning is more efficient when classifying these medical data because the train set accuracy in the deep neural network was 7.73% higher than the comparative model Kernel SVM.

Automated optimization for memory-efficient high-performance deep neural network accelerators

  • Kim, HyunMi;Lyuh, Chun-Gi;Kwon, Youngsu
    • ETRI Journal
    • /
    • 제42권4호
    • /
    • pp.505-517
    • /
    • 2020
  • The increasing size and complexity of deep neural networks (DNNs) necessitate the development of efficient high-performance accelerators. An efficient memory structure and operating scheme provide an intuitive solution for high-performance accelerators along with dataflow control. Furthermore, the processing of various neural networks (NNs) requires a flexible memory architecture, programmable control scheme, and automated optimizations. We first propose an efficient architecture with flexibility while operating at a high frequency despite the large memory and PE-array sizes. We then improve the efficiency and usability of our architecture by automating the optimization algorithm. The experimental results show that the architecture increases the data reuse; a diagonal write path improves the performance by 1.44× on average across a wide range of NNs. The automated optimizations significantly enhance the performance from 3.8× to 14.79× and further provide usability. Therefore, automating the optimization as well as designing an efficient architecture is critical to realizing high-performance DNN accelerators.

DNN 및 LSTM 기반 딥러닝 모형을 활용한 태화강 유역의 수위 예측 (Water level prediction in Taehwa River basin using deep learning model based on DNN and LSTM)

  • 이명진;김종성;유영훈;김형수;김삼은;김수전
    • 한국수자원학회논문집
    • /
    • 제54권spc1호
    • /
    • pp.1061-1069
    • /
    • 2021
  • 최근 이상 기후로 인해 극한 호우 및 국지성 호우의 규모 및 빈도가 증가하여 하천 주변의 홍수 피해가 증가하고 있다. 이에 따라 하천 또는 유역 내 수문학적 시스템의 비선형성이 증가하고 있으며, 기존의 물리적 기반의 수문 모형을 활용하여 홍수위를 예측하기에는 선행시간이 부족한 한계점이 존재한다. 본 연구에서는 Deep Neural Network (DNN) 및 Long Short-Term Memory (LSTM)기반의 딥러닝 기법을 적용하여 울산시(태화교) 지점의 수위를 0, 1, 2, 3, 6, 12시간에 대해 선행 예측을 수행하였고 예측 정확도를 비교 분석하였다. 그 결과 sliding window 개념을 적용한 DNN 모형이 선행시간 12시간까지 상관계수 0.97, RMSE 0.82 m로 가장 높은 정확도를 보이고 있음을 확인하였다. 향후 DNN 모형을 활용하여 딥러닝 기반의 수위 예측을 수행한다면 기존의 물리적 모형을 통한 홍수위 예측보다 향상된 예측 정확도와 충분한 선행시간을 확보할 수 있을 것으로 판단된다.