• 한국수자원학회:학술대회논문집
• /
• 한국수자원학회 2023년도 학술발표회
• /
• pp.165-165
• /
• 2023

Streamflow prediction is a critical task in water resources management and essential for planning and decision-making purposes. However, the streamflow prediction is challenging due to the complexity and non-linear nature of hydrological processes. The transfer learning is a powerful technique that enables a model to transfer knowledge from a source domain to a target domain, improving model performance with limited data in the target domain. In this study, we apply the transfer learning using the Informer model, which is a state-of-the-art deep learning model for streamflow prediction. The model was trained on a large-scale hydrological dataset in the source basin and then fine-tuned using a smaller dataset available in the target basin to predict the streamflow in the target basin. The results demonstrate that transfer learning using the Informer model significantly outperforms the traditional machine learning models and even other deep learning models for streamflow prediction, especially when the target domain has limited data. Moreover, the results indicate the effectiveness of streamflow prediction when knowledge transfer is used to improve the generalizability of hydrologic models in data-sparse regions.

• 반도체디스플레이기술학회지
• /
• 제20권1호
• /
• pp.64-69
• /
• 2021

In this paper, a method for improving the defect classification performance in low contrast, ununiformity and featureless steel plate surfaces has been studied based on deep convolution neural network and transfer-learning neural network. The steel plate surface images have low contrast, ununiformity, and featureless, so that the contrast between defect and defect-free regions are not discriminated. These characteristics make it difficult to extract the feature of the surface defect image. A classifier based on a deep convolution neural network is constructed to extract features automatically for effective classification of images with these characteristics. As results of the experiment, AlexNet-based transfer-learning classifier showed excellent classification performance of 99.43% with less than 160 seconds of training time. The proposed classification system showed excellent classification performance for low contrast, ununiformity, and featureless surface images.

• 대한원격탐사학회지
• /
• 제37권6_1호
• /
• pp.1685-1695
• /
• 2021

우수한 성능을 가지는 딥러닝 모델을 생성하기 위해서는 충분한 양의 학습자료가 필요하다. 하지만, 원격탐사 분야에서 충분한 양의 학습자료를 구축하기 위해서는 많은 시간과 비용을 필요로 한다. 따라서 적은 수의 학습자료를 활용한 딥러닝 모델의 전이학습(transfer learning)의 중요성이 증대되고 있다. 본 연구에서는 사전에 제작된 공개데이터셋을 기반으로 국내 정사영상 및 수치지도를 활용한 전이학습을 통해 국내 다시기 정사영상 내 존재하는 건물객체의 변화에 대한 탐지를 수행하였다. 이를 위하여, 변화탐지를 위한 공개데이터셋을 HRNet-v2 모델을 통하여 선행학습을 수행하고, 국내 정사영상 및 수치지도를 이용한 학습자료에 전이학습을 수행하였다. 전이학습에 대한 영향을 분석하기 위하여 두 곳의 실험지역에 전이 학습된 모델을 포함한 다양한 딥러닝 모델의 결과를 평가한 결과, 전이학습을 활용한 연구가 가장 우수함을 확인하였다. 이를 통하여, 전이학습을 활용해 부족한 양의 학습자료 문제를 해결하고, 다양한 원격탐사 자료에 대하여 효과적으로 변화탐지 기법을 적용할 수 있음을 확인하였다.

• 디지털산업정보학회논문지
• /
• 제19권3호
• /
• pp.245-251
• /
• 2023

Facial expression recognition plays a significant role in understanding human emotional states. With the advancement of AI and computer vision technologies, extensive research has been conducted in various fields, including improving customer service, medical diagnosis, and assessing learners' understanding in education. In this study, we develop a model that can infer emotions in real-time from a webcam using transfer learning with TensorFlow.js and MobileNet. While existing studies focus on achieving high accuracy using deep learning models, these models often require substantial resources due to their complex structure and computational demands. Consequently, there is a growing interest in developing lightweight deep learning models and transfer learning methods for restricted environments such as web browsers and edge devices. By employing MobileNet as the base model and performing transfer learning, our study develops a deep learning transfer model utilizing JavaScript-based TensorFlow.js, which can predict emotions in real-time using facial input from a webcam. This transfer model provides a foundation for implementing facial expression recognition in resource-constrained environments such as web and mobile applications, enabling its application in various industries.

• 전기전자학회논문지
• /
• 제23권4호
• /
• pp.1408-1414
• /
• 2019

전이학습을 수행한 심층 인공신경망을 압축센싱 심혈관 자기공명영상에 적용하였다. 전이학습은 선행학습 신경망의 구조나 필터 커널, 가중치를 현재의 학습이나 응용에 활용하는 방법이다. 전이학습은 학습 속도를 향상시키고, 학습 데이터가 제한적일 때 신경망의 일반화에 도움이 된다. 8명의 건강한 지원자가 참여한 심장 자기공명영상 실험에서 전이학습을 수행한 신경망은 단독학습 신경망에 비해 학습시간이 5배 이상 단축되었다. 시험 데이터에 대해서도 전이학습을 수행한 신경망은 전이학습을 수행하지 않은 신경망에 비하여 낮은 정규화 평균제곱오차와 향상된 재구성 영상화질을 보였다.

• 반도체디스플레이기술학회지
• /
• 제18권2호
• /
• pp.1-5
• /
• 2019

As the number of IOT devices is growing rapidly, various 'see-thru connection' techniques have been reported for efficient communication with them. In this paper, we propose a deep learning based IOT device recognition system for interaction with these devices. The overall system consists of a TensorFlow based deep learning server and two Android apps for data collection and recognition purposes. As the basic neural network model, we adopted Google's inception-v3, and modified the output stage to classify 20 types of IOT devices. After creating a data set consisting of 1000 images of 20 categories, we trained our deep learning network using a transfer learning technology. As a result of the experiment, we achieve 94.5% top-1 accuracy and 98.1% top-2 accuracy.

• 한국정보통신학회:학술대회논문집
• /
• 한국정보통신학회 2018년도 추계학술대회
• /
• pp.178-179
• /
• 2018

최근 자율주행 및 음성인식 등 인공지능 분야에서 기계학습을 이용한 방법이 활발히 연구되고 있다. 디지털 영상에서 특정 사물이나 영역을 인식하기 위해 고전적인 경계검출 및 패턴인식 등의 고전적인 영상처리 방법으로는 많은 한계를 가지고 있으나 deep-learning 등 기계학습 방법을 이용하면 사람의 인지수준에 근접한 결과를 얻을 수 있다. 하지만 기본적으로 deep-learning 등 기계학습은 방대한 양의 학습데이터가 확보되어야 한다. 따라서 환경 분석을 위한 항공사진처럼 데이터의 양이 매우 적은 경우 영역 구분을 위해 기계학습을 적용하기 어렵다. 본 연구에서는 입력영상의 dataset 크기가 적고 입력 영상의 형태가 training dataset의 category에 포함되지 않는 경우 사용할 수 있는 transfer-learning 기법을 적용하며 이를 이용하여 영상 내에서 특정 영역 검출을 수행한다.

• 한국컴퓨터정보학회논문지
• /
• 제25권3호
• /
• pp.27-32
• /
• 2020

본 논문에서는 금속스크랩이 쌓이는 스크랩박스의 적치 상태를 측정하는 알고리즘을 제안한다. 적치 상태 측정 문제를 다중 클래스 분류 문제로 정의하여, 딥러닝 기법을 이용해 스크랩박스 촬영 영상만으로 적치 상태를 구분하도록 하였다. Transfer Learning 방식으로 학습을 진행하였으며, 딥러닝 모델은 NASNet-A를 이용하였다. 더불어 분류 모델의 정확도를 높이기 위해 학습된 NASNet-A에 랜덤포레스트 분류기를 결합하였으며, 후처리를 통해 안전성을 높였다. 현장에서 수집된 4,195개의 데이터로 테스트한 결과 NASNet-A만 적용했을때 정확도 55%를 보였으며, 제안 방식인 Random Forest를 결합한 NASNet은 88%로 향상된 정확도를 달성하였다.

• Journal of Information Processing Systems
• /
• 제20권2호
• /
• pp.149-158
• /
• 2024

Traditional manual identification of crop leaf diseases is challenging. Owing to the limitations in manpower and resources, it is challenging to explore crop diseases on a large scale. The emergence of artificial intelligence technologies, particularly the extensive application of deep learning technologies, is expected to overcome these challenges and greatly improve the accuracy and efficiency of crop disease identification. Crop leaf disease identification models have been designed and trained using large-scale training data, enabling them to predict different categories of diseases from unlabeled crop leaves. However, these models, which possess strong feature representation capabilities, require substantial training data, and there is often a shortage of such datasets in practical farming scenarios. To address this issue and improve the feature learning abilities of models, this study proposes a deep transfer learning adaptation strategy. The novel proposed method aims to transfer the weights and parameters from pre-trained models in similar large-scale training datasets, such as ImageNet. ImageNet pre-trained weights are adopted and fine-tuned with the features of crop leaf diseases to improve prediction ability. In this study, we collected 16,060 crop leaf disease images, spanning 12 categories, for training. The experimental results demonstrate that an impressive accuracy of 98% is achieved using the proposed method on the transferred ResNet-50 model, thereby confirming the effectiveness of our transfer learning approach.

• 문화기술의 융합
• /
• 제9권3호
• /
• pp.845-850
• /
• 2023

본 논문에서는 전이학습을 이용하여 볼베어링의 진동진단을 수행하는 방법을 제안한다. 고장을 진단하기 위해 진동신호를 시간-주파수로 분석할 수 있는 STFT을 CNN의 입력으로 이용하였다. CNN 기반의 딥러닝 인공신경망을 빠르게 학습하고 진단 성능을 높이기 위해 전이학습 기반의 딥러닝 학습 기법을 제안하였다. 전이학습은 VGG 기반의 영상 분류 모델을 이용하여 특징 추출기와 분류기를 선택적으로 학습하였고, 학습에 사용한 데이터 세트는 Case Western Reserve University 대학에서 제공하는 공개된 볼베어링 진동 데이터를 사용하였으며, 성능평가는 기존의 CNN 모델과 비교하는 방법으로 수행하였다. 실험 결과 전이학습이 볼베어링 진동 데이터에서 상태 진단에 유용하다는 것을 증명할 수 있을 뿐만 아니라 이를 통해 다른 산업에서도 전이학습을 사용하여 상태 진단을 개선할 수 있다.