• 제목/요약/키워드: Deep neural network (DNN)

검색결과 255건 처리시간 0.028초

비디오 인코더를 통한 딥러닝 모델의 정수 가중치 압축 (Compression of DNN Integer Weight using Video Encoder)

  • 김승환;류은석
    • 방송공학회논문지
    • /
    • 제26권6호
    • /
    • pp.778-789
    • /
    • 2021
  • 최근 다양한 분야에서 뛰어난 성능을 나타내는 Convolutional Neural Network(CNN)모델을 모바일 기기에서 사용하기 위한 다양한 연구가 진행되고 있다. 기존의 CNN 모델은 모바일 장비에서 사용하기에는 가중치의 크기가 크고 연산복잡도가 높다는 문제점이 있다. 이를 해결하기 위해 가중치의 표현 비트를 낮추는 가중치 양자화를 포함한 여러 경량화 방법들이 등장하였다. 많은 방법들이 다양한 모델에서 적은 정확도 손실과 높은 압축률을 나타냈지만, 대부분의 압축 모델들은 정확도 손실을 복구하기 위한 재학습 과정을 포함시켰다. 재학습 과정은 압축된 모델의 정확도 손실을 최소화하지만 많은 시간과 데이터를 필요로 하는 작업이다. Weight Quantization이후 각 층의 가중치는 정수형 행렬로 나타나는데 이는 이미지의 형태와 유사하다. 본 논문에서는 Weight Quantization이후 각 층의 정수 가중치 행렬을 이미지의 형태로 비디오 코덱을 사용하여 압축하는 방법을 제안한다. 제안하는 방법의 성능을 검증하기 위해 ImageNet과 Places365 데이터 셋으로 학습된 VGG16, Resnet50, Resnet18모델에 실험을 진행하였다. 그 결과 다양한 모델에서 2%이하의 정확도 손실과 높은 압축 효율을 달성했다. 또한, 재학습 과정을 제외한 압축방법인 No Fine-tuning Pruning(NFP)와 ThiNet과의 성능비교 결과 2배 이상의 압축효율이 있음을 검증했다.

A machine learning-based model for the estimation of the critical thermo-electrical responses of the sandwich structure with magneto-electro-elastic face sheet

  • Zhou, Xiao;Wang, Pinyi;Al-Dhaifallah, Mujahed;Rawa, Muhyaddin;Khadimallah, Mohamed Amine
    • Advances in nano research
    • /
    • 제12권1호
    • /
    • pp.81-99
    • /
    • 2022
  • The aim of current work is to evaluate thermo-electrical characteristics of graphene nanoplatelets Reinforced Composite (GNPRC) coupled with magneto-electro-elastic (MEE) face sheet. In this regard, a cylindrical smart nanocomposite made of GNPRC with an external MEE layer is considered. The bonding between the layers are assumed to be perfect. Because of the layer nature of the structure, the material characteristics of the whole structure is regarded as graded. Both mechanical and thermal boundary conditions are applied to this structure. The main objective of this work is to determine critical temperature and critical voltage as a function of thermal condition, support type, GNP weight fraction, and MEE thickness. The governing equation of the multilayer nanocomposites cylindrical shell is derived. The generalized differential quadrature method (GDQM) is employed to numerically solve the differential equations. This method is integrated with Deep Learning Network (DNN) with ADADELTA optimizer to determine the critical conditions of the current sandwich structure. This the first time that effects of several conditions including surrounding temperature, MEE layer thickness, and pattern of the layers of the GNPRC is investigated on two main parameters critical temperature and critical voltage of the nanostructure. Furthermore, Maxwell equation is derived for modeling of the MEE. The outcome reveals that MEE layer, temperature change, GNP weight function, and GNP distribution patterns GNP weight function have significant influence on the critical temperature and voltage of cylindrical shell made from GNP nanocomposites core with MEE face sheet on outer of the shell.

Fast Spectral Inversion of the Strong Absorption Lines in the Solar Chromosphere Based on a Deep Learning Model

  • Lee, Kyoung-Sun;Chae, Jongchul;Park, Eunsu;Moon, Yong-Jae;Kwak, Hannah;Cho, Kyuhyun
    • 천문학회보
    • /
    • 제46권2호
    • /
    • pp.46.3-47
    • /
    • 2021
  • Recently a multilayer spectral inversion (MLSI) model has been proposed to infer the physical parameters of plasmas in the solar chromosphere. The inversion solves a three-layer radiative transfer model using the strong absorption line profiles, H alpha and Ca II 8542 Å, taken by the Fast Imaging Solar Spectrograph (FISS). The model successfully provides the physical plasma parameters, such as source functions, Doppler velocities, and Doppler widths in the layers of the photosphere to the chromosphere. However, it is quite expensive to apply the MLSI to a huge number of line profiles. For example, the calculating time is an hour to several hours depending on the size of the scan raster. We apply deep neural network (DNN) to the inversion code to reduce the cost of calculating the physical parameters. We train the models using pairs of absorption line profiles from FISS and their 13 physical parameters (source functions, Doppler velocities, Doppler widths in the chromosphere, and the pre-determined parameters for the photosphere) calculated from the spectral inversion code for 49 scan rasters (~2,000,000 dataset) including quiet and active regions. We use fully connected dense layers for training the model. In addition, we utilize a skip connection to avoid a problem of vanishing gradients. We evaluate the model by comparing the pairs of absorption line profiles and their inverted physical parameters from other quiet and active regions. Our result shows that the deep learning model successfully reproduces physical parameter maps of a scan raster observation per second within 15% of mean absolute percentage error and the mean squared error of 0.3 to 0.003 depending on the parameters. Taking this advantage of high performance of the deep learning model, we plan to provide the physical parameter maps from the FISS observations to understand the chromospheric plasma conditions in various solar features.

  • PDF

해외선물 스캘핑을 위한 강화학습 알고리즘의 성능비교 (Performance Comparison of Reinforcement Learning Algorithms for Futures Scalping)

  • 정득교;이세훈;강재모
    • 문화기술의 융합
    • /
    • 제8권5호
    • /
    • pp.697-703
    • /
    • 2022
  • 최근 Covid-19 및 불안한 국제정세로 인한 경기 침체로 많은 투자자들이 투자의 한 수단으로써 파생상품시장을 선택하고 있다. 하지만 파생상품시장은 주식시장에 비해 큰 위험성을 가지고 있으며, 시장 참여자들의 시장에 대한 연구 역시 부족한 실정이다. 최근 인공지능 분야의 발달로 파생상품시장에서도 기계학습이 많이 활용되고 있다. 본 논문은 해외선물에 분 단위로 거래하는 스캘핑 거래의 분석을 위해 기계학습 기법 중 하나인 강화학습을 적용하였다. 데이터 세트는 증권사에서 거래되는 해외선물 상품들 중 4개 상품을 선정해, 6개월간 1분봉 및 3분봉 데이터의 종가, 이동평균선 및 볼린저 밴드 지표들을 이용한 21개의 속성으로 구성하였다. 실험에는 DNN 인공신경망 모델과 강화학습 알고리즘인 DQN(Deep Q-Network), A2C(Advantage Actor Critic), A3C(Asynchronous A2C)를 사용하고, 학습 데이터 세트와 테스트 데이터 세트를 통해 학습 및 검증 하였다. 에이전트는 스캘핑을 위해 매수, 매도 중 하나의 행동을 선택하며, 행동 결과에 따른 포트폴리오 가치의 비율을 보상으로 한다. 실험 결과 에너지 섹터 상품(Heating Oil 및 Crude Oil)이 지수 섹터 상품(Mini Russell 2000 및 Hang Seng Index)에 비해 상대적으로 높은 누적 수익을 보여 주었다.

딥러닝 알고리즘을 이용한 인쇄된 별색 잉크의 색상 예측 연구 (A Study on A Deep Learning Algorithm to Predict Printed Spot Colors)

  • 전수현;박재상;태현철
    • 산업경영시스템학회지
    • /
    • 제45권2호
    • /
    • pp.48-55
    • /
    • 2022
  • The color image of the brand comes first and is an important visual element that leads consumers to the consumption of the product. To express more effectively what the brand wants to convey through design, the printing market is striving to print accurate colors that match the intention. In 'offset printing' mainly used in printing, colors are often printed in CMYK (Cyan, Magenta, Yellow, Key) colors. However, it is possible to print more accurate colors by making ink of the desired color instead of dotting CMYK colors. The resulting ink is called 'spot color' ink. Spot color ink is manufactured by repeating the process of mixing the existing inks. In this repetition of trial and error, the manufacturing cost of ink increases, resulting in economic loss, and environmental pollution is caused by wasted inks. In this study, a deep learning algorithm to predict printed spot colors was designed to solve this problem. The algorithm uses a single DNN (Deep Neural Network) model to predict printed spot colors based on the information of the paper and the proportions of inks to mix. More than 8,000 spot color ink data were used for learning, and all color was quantified by dividing the visible light wavelength range into 31 sections and the reflectance for each section. The proposed algorithm predicted more than 80% of spot color inks as very similar colors. The average value of the calculated difference between the actual color and the predicted color through 'Delta E' provided by CIE is 5.29. It is known that when Delta E is less than 10, it is difficult to distinguish the difference in printed color with the naked eye. The algorithm of this study has a more accurate prediction ability than previous studies, and it can be added flexibly even when new inks are added. This can be usefully used in real industrial sites, and it will reduce the attempts of the operator by checking the color of ink in a virtual environment. This will reduce the manufacturing cost of spot color inks and lead to improved working conditions for workers. In addition, it is expected to contribute to solving the environmental pollution problem by reducing unnecessarily wasted ink.

일기 예보와 예측 일사 및 일조를 이용한 태양광 발전 예측 (Photovoltaic Generation Forecasting Using Weather Forecast and Predictive Sunshine and Radiation)

  • 신동하;박준호;김창복
    • 한국항행학회논문지
    • /
    • 제21권6호
    • /
    • pp.643-650
    • /
    • 2017
  • 무한한 에너지원을 가진 태양광 발전은 기상 에 의존하기 때문에 발전량이 매우 간헐적이다. 따라서 태양광 발전량의 불확실성을 줄이고 경제성을 향상시키기 위하여 정확한 발전량 예측기술이 필요하다. 기상청은 3일간 기상정보를 예보하지만 태양광 발전 예측에 높은 상관관계가 있는 일조량과 일사량은 예보하지 않는다. 본 연구에서는 기상청에서 3일간 예보하는 기상요소인 기온, 강수량, 풍향, 풍속, 습도, 운량 등을 이용하여, 일조 및 일사량을 예측하였으며, 예측된 일사 및 일조량을 이용하여, 실시간 태양광 발전량을 예측하는 딥러닝 모델을 제안하였다. 결과로서 예측된 기상요소로 발전량을 예측하는 모델보다 제안 모델이 MAE, RMSE, MAPE 등의 오차율 지표에서 더 좋은 결과를 보여주었다. 또한, 기계 학습의 한 종류인 서포트 벡터 머신을 사용하는 것보다 DNN을 사용하는 것이 더 낮은 오차율 지표를 보여주었다.

Impurity profiling and chemometric analysis of methamphetamine seizures in Korea

  • Shin, Dong Won;Ko, Beom Jun;Cheong, Jae Chul;Lee, Wonho;Kim, Suhkmann;Kim, Jin Young
    • 분석과학
    • /
    • 제33권2호
    • /
    • pp.98-107
    • /
    • 2020
  • Methamphetamine (MA) is currently the most abused illicit drug in Korea. MA is produced by chemical synthesis, and the final target drug that is produced contains small amounts of the precursor chemicals, intermediates, and by-products. To identify and quantify these trace compounds in MA seizures, a practical and feasible approach for conducting chromatographic fingerprinting with a suite of traditional chemometric methods and recently introduced machine learning approaches was examined. This was achieved using gas chromatography (GC) coupled with a flame ionization detector (FID) and mass spectrometry (MS). Following appropriate examination of all the peaks in 71 samples, 166 impurities were selected as the characteristic components. Unsupervised (principal component analysis (PCA), hierarchical cluster analysis (HCA), and K-means clustering) and supervised (partial least squares-discriminant analysis (PLS-DA), orthogonal partial least squares-discriminant analysis (OPLS-DA), support vector machines (SVM), and deep neural network (DNN) with Keras) chemometric techniques were employed for classifying the 71 MA seizures. The results of the PCA, HCA, K-means clustering, PLS-DA, OPLS-DA, SVM, and DNN methods for quality evaluation were in good agreement. However, the tested MA seizures possessed distinct features, such as chirality, cutting agents, and boiling points. The study indicated that the established qualitative and semi-quantitative methods will be practical and useful analytical tools for characterizing trace compounds in illicit MA seizures. Moreover, they will provide a statistical basis for identifying the synthesis route, sources of supply, trafficking routes, and connections between seizures, which will support drug law enforcement agencies in their effort to eliminate organized MA crime.

전력 부하와 학습모델 기반의 전기추진선박의 배터리 연동 전력관리 알고리즘 (Battery-loaded power management algorithm of electric propulsion ship based on power load and state learning model)

  • 오지현;오진석
    • 한국정보통신학회논문지
    • /
    • 제24권9호
    • /
    • pp.1202-1208
    • /
    • 2020
  • 현재 4차 산업혁명 시대에 발맞춰서 선박 분야에서는 인공지능 요소를 접목하여 미래를 대비하여야 한다. 그리고 자율운항 선박 등장에 대한 전력관리 분야에서도 이에 대한 대응이 필요하다. 본 연구에서는 머신러닝의 DNN(Deep Neural Network)을 이용한 배터리 연동형 전력관리시스템(BLPMS, Battery Linked Power Management System) 알고리즘을 제안한다. 실험을 위하여 LabView를 통한 선박 데이터를 바탕으로 운항모드별 선박 전력소비량의 패턴을 학습하고 Python을 통해 배터리의 상태를 도출하여 발전기와 배터리의 연동의 유연성을 확인하였다. 실험의 결과 배터리의 충·방전을 통해 발전기의 저부하 운전이 감소되고, LNG의 1%의 연료소모량 감소를 통하여 경제성 및 신뢰성을 확인하였다.

심층인공신경망(DNN)과 다각도 상황 정보 기반의 서울시 도로 링크별 교통 혼잡도 예측 (Prediction of Traffic Congestion in Seoul by Deep Neural Network)

  • 김동현;황기연;윤영
    • 한국ITS학회 논문지
    • /
    • 제18권4호
    • /
    • pp.44-57
    • /
    • 2019
  • 여러 대도시에서 교통 혼잡 문제를 해결하기 위해 정확한 교통 흐름을 예측하는 다양한 연구가 진행되었다. 대부분의 연구가 과거의 교통 흐름 패턴이 미래에도 반복될 것이라는 가정하에 예측 모델을 개발하였으나 교통사고 등과 같은 뜻하지 않은 비반복적 교통 패턴을 예측하는 데에는 신뢰성이 낮게 나타났다. 이런 문제를 해결하기 위한 대안으로 지능형 교통 시스템(ITS)을 통해 얻은 빅데이터와 인공지능을 접목한 교통 흐름 예측 연구가 진행되어 왔다. 하지만 시계열 분석에 일반적으로 사용되는 알고리즘인 RNN의 경우, 단기 예측에 최적화되어 장기 예측 정확도가 낮다는 단점을 가지고 있다. 이런 문제를 해결하기 위해 본 논문에서는 기온과 강수량 등의 기상 정보 외에도 각종 외부 요인들을 고려하여 장기적 시점에서 교통 혼잡도를 예측하는 '심층 인공 신경망 모델'을 제안하였다. TOPIS 자료를 이용한 사례 연구 결과 서울시 주요 도로 링크의 교통 혼잡도를 90%에 가까운 정확도로 예측이 가능하였다. 추후 교통사고나 도로 공사와 같은 도로에 영향을 미치는 이벤트 데이터를 추가로 확보할 수 있다면 정확도는 더욱 높아질 것으로 예상된다.

머신러닝을 이용한 관중 수요 예측에 관한 연구 (Study on Prediction of Attendance Using Machine Learning)

  • 유지현
    • 전기전자학회논문지
    • /
    • 제23권4호
    • /
    • pp.1243-1249
    • /
    • 2019
  • 특정한 이벤트나 콘텐츠를 즐기기 위해 모인 사람들을 관중 또는 관객이라고 하고, 모임의 특성에 따라 다양한 성향을 나타낸다. 그러한 차이점은 있지만, 일반적으로 관중 수는 경영적인 측면과 직결되는 요소로써, 관람료부터 다른 시설의 이용료 등 다양한 수입을 통해 콘텐츠 판매를 위한 안정적인 재정 운영을 가능케 한다. 따라서 관중 수에 대한 예측은 마케팅과 예산 전략 수립에 주요한 요소로 활용될 수 있다. 본 연구에서는 관중 수에 대한 예측을 위한 여러 가지 기존 모델을 검토하고, 그 중에서 효율적인 머신러닝 모델을 제안하고자 한다. 또한 딥러닝과 랜덤포레스트 모델을 혼용하여 일별 관중 수 예측과 비정상적 관중 수 예측에 대한 연구를 진행하였다.