• 제목/요약/키워드: Convolutional Network (CNN)

검색결과 969건 처리시간 0.029초

딥러닝 합성곱에서 데이터 재사용에 최적화된 GPGPU 설계 (Design of an Optimized GPGPU for Data Reuse in DeepLearning Convolution)

  • 남기훈;이광엽;정준모
    • 전기전자학회논문지
    • /
    • 제25권4호
    • /
    • pp.664-671
    • /
    • 2021
  • 본 논문은 합성곱 신경망에 데이터 재사용 방법을 효과적으로 적용하여 연산 횟수와 메모리 접근 횟수를 줄일 수 있는 GPGPU구조를 제안한다. 합성곱은 kernel과 입력 데이터를 이용한 2차원 연산으로 kernel이 slide하는 방법으로 연산이 이루어 진다. 이때, 합성곱 연산이 완료될 때 까지 kernel을 캐시메모리로 부터 전달 받는 것이 아니고 내부 레지스터를 이용하는 재사용 방법을 제안한다. SIMT방법으로 명령어가 실행되는 GPGPU의 원리 이용하여 데이터 재사용의 효과를 높이기 위해 합성곱에 직렬 연산 방식을 적용하였다. 본 논문에서는 레지스터기반 데이터 재사용을 위하여 kernel을 4×4로 고정하고 이를 효과적으로 지원하기 위한 warp 크기와 레지스터 뱅크를 갖는 GPGPU를 설계하였다. 설계된 GPGPU의 합성곱 신경망에 대한 성능을 검증하기 위해 FPGA로 구현한 뒤 LeNet을 실행시키고 TensorFlow를 이용한 비교 방법으로 AlexNet에 대한 성능을 측정하였다. 측정결과 AlexNet기준 1회 학습 속도는 0.468초이며 추론 속도는 0.135초이다.

딥 러닝 기반의 전이 학습을 이용한 이미지 분류에 관한 연구 ( A Study on Image Classification using Deep Learning-Based Transfer Learning)

  • 서정희
    • 한국전자통신학회논문지
    • /
    • 제18권3호
    • /
    • pp.413-420
    • /
    • 2023
  • 오래전부터 연구자들은 CBIR에 대한 많은 연구로 인해 이미지 검색 분야에 우수한 결과를 제시하였다. 그러나 이미지에 대한 이러한 검색 결과와 사람이 인식하는 결과 사이에 의미적 격차는 여전히 존재한다. 적은 수의 이미지를 사용하여 사람이 인식하는 수준의 이미지를 분류하는 것은 아직까지 어려운 문제이다. 따라서 본 논문은 이미지 검색에서 사람과 검색 시스템의 이미지의 의미적 격차를 최소화하기 위해 딥 러닝 기반의 전이 학습을 이용한 이미지 분류 모델을 제안한다. 실험 결과, 학습 모델의 손실률은 0.2451%, 정확도는 0.8922%로 제안한 이미지 분류 방법의 구현은 원하는 목표를 달성할 수 있었다. 그리고 딥 러닝에서 CNN의 전이 학습 모델 방법이 새로운 데이터를 추가하여 이미지 데이터베이스를 구축하는데 효과적인 결과를 확인할 수 있었다.

딥러닝 기반 품종 및 감정인식 SNS를 포함하는 애완동물 관리 시스템 구현 (Implementation of Pet Management System including Deep Learning-based Breed and Emotion Recognition SNS)

  • 정인환;황기태;이재문
    • 한국인터넷방송통신학회논문지
    • /
    • 제23권3호
    • /
    • pp.45-50
    • /
    • 2023
  • 최근 몇 년간 애완동물 소유 비율이 꾸준히 증가함에 따라 효과적인 애완동물 관리 시스템의 필요성이 커졌다. 본 연구에서는 딥러닝 기반 감정인식 SNS를 포함하는 애완동물 관리 시스템을 제안한다. 시스템은 합성곱 신경망(CNN)을 이용하여 애완동물의 표정을 통해 감정을 감지하고, SNS를 통해 사용자 커뮤니티와 공유된다. SNS를 통해 애완동물 주인들은 다른 사용자들과 연결되어 자신의 경험을 공유하고, 애완동물 관리에 대한 지원과 조언을 받을 수 있다. 또한, 시스템은 애완동물 건강 추적 및 예방접종 및 예약 알림 등의 기능을 포함하여 종합적인 애완동물 관리를 제공한다. 이에 더하여, 시스템은 애완동물 산책 기록을 관리하고 공유하는 기능을 추가하여 애완동물 주인들이 자신의 애완동물과 함께한 산책 기록을 다른 사용자들과 공유할 수 있다. 본 연구는 인공지능 기술을 활용하여 애완동물 관리 시스템을 개선하여 애완동물과 그 주인의 복지를 향상시키는 가능성을 보여주고 있다.

Deep Learning-based Rheometer Quality Inspection Model Using Temporal and Spatial Characteristics

  • Jaehyun Park;Yonghun Jang;Bok-Dong Lee;Myung-Sub Lee
    • 한국컴퓨터정보학회논문지
    • /
    • 제28권11호
    • /
    • pp.43-52
    • /
    • 2023
  • 고무생산업체에서 생산된 고무는 레오미터 측정을 통해 품질 적합성 검사가 이루어진 후, 자동차 부품을 위한 2차 가공으로 이어진다. 그러나 레오미터 검사는 인간에 의해 진행되고 있으며, 숙련된 작업자에게 매우 의존적이라는 단점이 존재한다. 이러한 문제점을 해결하기 위해 본 논문에서는 딥러닝 기반 레오미터 품질 검사 시스템을 제안한다. 제안된 시스템은 레오미터의 시간적, 공간적 특성을 활용하기 위해 LSTM과 CNN을 조합하였고, 각 고무의 배합재료를 보조(Auxiliary) 데이터 입력으로 사용해 하나의 모델에서 다양한 고무 제품의 품질 적합성 검사가 가능하도록 구현하였다. 제안된 기법은 30,000개의 데이터셋으로 그 성능을 학습 및 검사하였으며, 평균 f1-점수를 0.9942 달성하여 그 우수성을 증명하였다.

연속학습을 활용한 경량 온-디바이스 AI 기반 실시간 기계 결함 진단 시스템 설계 및 구현 (Design and Implementation of a Lightweight On-Device AI-Based Real-time Fault Diagnosis System using Continual Learning)

  • 김영준;김태완;김수현;이성재;김태현
    • 대한임베디드공학회논문지
    • /
    • 제19권3호
    • /
    • pp.151-158
    • /
    • 2024
  • Although on-device artificial intelligence (AI) has gained attention to diagnosing machine faults in real time, most previous studies did not consider the model retraining and redeployment processes that must be performed in real-world industrial environments. Our study addresses this challenge by proposing an on-device AI-based real-time machine fault diagnosis system that utilizes continual learning. Our proposed system includes a lightweight convolutional neural network (CNN) model, a continual learning algorithm, and a real-time monitoring service. First, we developed a lightweight 1D CNN model to reduce the cost of model deployment and enable real-time inference on the target edge device with limited computing resources. We then compared the performance of five continual learning algorithms with three public bearing fault datasets and selected the most effective algorithm for our system. Finally, we implemented a real-time monitoring service using an open-source data visualization framework. In the performance comparison results between continual learning algorithms, we found that the replay-based algorithms outperformed the regularization-based algorithms, and the experience replay (ER) algorithm had the best diagnostic accuracy. We further tuned the number and length of data samples used for a memory buffer of the ER algorithm to maximize its performance. We confirmed that the performance of the ER algorithm becomes higher when a longer data length is used. Consequently, the proposed system showed an accuracy of 98.7%, while only 16.5% of the previous data was stored in memory buffer. Our lightweight CNN model was also able to diagnose a fault type of one data sample within 3.76 ms on the Raspberry Pi 4B device.

Classification of Aβ State From Brain Amyloid PET Images Using Machine Learning Algorithm

  • Chanda Simfukwe;Reeree Lee;Young Chul Youn;Alzheimer’s Disease and Related Dementias in Zambia (ADDIZ) Group
    • 대한치매학회지
    • /
    • 제22권2호
    • /
    • pp.61-68
    • /
    • 2023
  • Background and Purpose: Analyzing brain amyloid positron emission tomography (PET) images to access the occurrence of β-amyloid (Aβ) deposition in Alzheimer's patients requires much time and effort from physicians, while the variation of each interpreter may differ. For these reasons, a machine learning model was developed using a convolutional neural network (CNN) as an objective decision to classify the Aβ positive and Aβ negative status from brain amyloid PET images. Methods: A total of 7,344 PET images of 144 subjects were used in this study. The 18F-florbetaben PET was administered to all participants, and the criteria for differentiating Aβ positive and Aβ negative state was based on brain amyloid plaque load score (BAPL) that depended on the visual assessment of PET images by the physicians. We applied the CNN algorithm trained in batches of 51 PET images per subject directory from 2 classes: Aβ positive and Aβ negative states, based on the BAPL scores. Results: The binary classification of the model average performance matrices was evaluated after 40 epochs of three trials based on test datasets. The model accuracy for classifying Aβ positivity and Aβ negativity was (95.00±0.02) in the test dataset. The sensitivity and specificity were (96.00±0.02) and (94.00±0.02), respectively, with an area under the curve of (87.00±0.03). Conclusions: Based on this study, the designed CNN model has the potential to be used clinically to screen amyloid PET images.

Parallel Network Model of Abnormal Respiratory Sound Classification with Stacking Ensemble

  • Nam, Myung-woo;Choi, Young-Jin;Choi, Hoe-Ryeon;Lee, Hong-Chul
    • 한국컴퓨터정보학회논문지
    • /
    • 제26권11호
    • /
    • pp.21-31
    • /
    • 2021
  • 최근 코로나(Covid-19)의 영향으로 스마트 헬스케어 관련 산업과 비대면 방식의 원격 진단을 통한 질환 분류 예측 연구의 필요성이 증가하고 있다. 일반적으로 호흡기 질환의 진단은 비용이 많이 들고 숙련된 의료 전문가를 필요로 하여 현실적으로 조기 진단 및 모니터링에 한계가 있다. 따라서, 간단하고 편리한 청진기로부터 수집된 호흡음을 딥러닝 기반 모델을 활용하여 높은 정확도로 분류하고 조기 진단이 필요하다. 본 연구에서는 청진을 통해 수집된 폐음 데이터를 이용하여 이상 호흡음 분류모델을 제안한다. 데이터 전처리로는 대역통과필터(BandPassFilter)방법론을 적용하고 로그 멜 스펙트로그램(Log-Mel Spectrogram)과 Mel Frequency Cepstral Coefficient(MFCC)을 이용하여 폐음의 특징적인 정보를 추출하였다. 추출된 폐음의 특징에 대해서 효과적으로 분류할 수 있는 병렬 합성곱 신경망 네트워크(Parallel CNN network)모델을 제안하고 다양한 머신러닝 분류기(Classifiers)와 결합한 스태킹 앙상블(Stacking Ensemble) 방법론을 이용하여 이상 호흡음을 높은 정확도로 분류하였다. 본 논문에서 제안한 방법은 96.9%의 정확도로 이상 호흡음을 분류하였으며, 기본모델의 결과 대비 정확도가 약 6.1% 향상되었다.

인쇄된 컬러 QR코드의 합성곱 신경망 알고리즘에 의한 진위 판정 시스템 (An Authentic Certification System of a Printed Color QR Code based on Convolutional Neural Network)

  • 최도영;김진수
    • 한국산업정보학회논문지
    • /
    • 제25권3호
    • /
    • pp.21-30
    • /
    • 2020
  • 스마트폰의 대중적인 보급으로 인해 QR 코드는 세상에서 가장 보편적인 코드들 중의 하나가 되었다. 본 논문에서는 새로운 형태의 QR 코드를 제안하여 저장 용량을 증가시키고, 또한, 컬러정보와 패턴 형태를 가변시켜서 개인 정보를 포함할 수 있게 한다. 이와 더불어, 제안된 QR 코드가 인쇄된 형태의 다양한 응용환경에 작용될 수 있도록 본 논문은 효과적인 진위 판정 시스템을 제안한다. 제안한 시스템은 기존의 합성곱 신경망 구조 즉 VGGNet으로 구현되며, 스마트 폰을 통해 손쉽게 진품 또는 가품을 판정하고, 진품으로 판정된 코드에 대해서는 삽입된 개인 정보를 추출하도록 설계된다. 인쇄된 QR 코드에 대한 실제의 다양한 실험을 통해 제안된 시스템은 진품 또는 가품을 거의 완벽하게 분류할 수 있음을 보이고 개인 정보를 효과적으로 추출할 수 있음을 확인한다.

Oil Pipeline Weld Defect Identification System Based on Convolutional Neural Network

  • Shang, Jiaze;An, Weipeng;Liu, Yu;Han, Bang;Guo, Yaodan
    • KSII Transactions on Internet and Information Systems (TIIS)
    • /
    • 제14권3호
    • /
    • pp.1086-1103
    • /
    • 2020
  • The automatic identification and classification of image-based weld defects is a difficult task due to the complex texture of the X-ray images of the weld defect. Several depth learning methods for automatically identifying welds were proposed and tested. In this work, four different depth convolutional neural networks were evaluated and compared on the 1631 image set. The concavity, undercut, bar defects, circular defects, unfused defects and incomplete penetration in the weld image 6 different types of defects are classified. Another contribution of this paper is to train a CNN model "RayNet" for the dataset from scratch. In the experiment part, the parameters of convolution operation are compared and analyzed, in which the experimental part performs a comparative analysis of various parameters in the convolution operation, compares the size of the input image, gives the classification results for each defect, and finally shows the partial feature map during feature extraction with the classification accuracy reaching 96.5%, which is 6.6% higher than the classification accuracy of other existing fine-tuned models, and even improves the classification accuracy compared with the traditional image processing methods, and also proves that the model trained from scratch also has a good performance on small-scale data sets. Our proposed method can assist the evaluators in classifying pipeline welding defects.

컨볼루션 신경망 기반의 TW3 최대신장예측 시스템 (Convolution Neural Network based TW3 Maximum Height Prediction System)

  • 박시현;조영복
    • 한국정보통신학회논문지
    • /
    • 제22권10호
    • /
    • pp.1314-1319
    • /
    • 2018
  • 현재 우리 사회는 아동의 성장발달에 대한 관심이 증가한데 비해 대한성장의학회에서 사용되고 있는 TW3 기반의 최대신장예측 기법은 수동으로 이루어지고 있어 주관적이며, 진료에 있어 다소 많은 시간과 노력을 필요로 한다는 단점이 있다. 또한 현재 딥러닝, 특히 컨볼루션 신경망을 활용해 영상을 분류하는 기술은 인간의 눈보다 더 정확한 수준으로 다양한 분야에 활용되고 있으며 의료분야 또한 예외는 아니다. 따라서 성장 예측의 신뢰도를 높이고, 진단자의 편의성을 증대하기 위해 본 논문에서는 컨볼루션 신경망을 이용해 좌측 수골의 발달 수준을 예측하고 소아청소년의 최대신장예측에 활용되는 딥러닝을 이용한 TW3 알고리즘을 제안한다.