• 제목/요약/키워드: ADAM 10

검색결과 239건 처리시간 0.023초

딥러닝의 가중치 초기화와 갱신에 의한 네트워크 침입탐지의 성능 개선에 대한 접근 (Approach to Improving the Performance of Network Intrusion Detection by Initializing and Updating the Weights of Deep Learning)

  • 박성철;김준태
    • 한국시뮬레이션학회논문지
    • /
    • 제29권4호
    • /
    • pp.73-84
    • /
    • 2020
  • 인터넷이 대중화되기 시작하면서 해킹 및 시스템과 네트워크에 대한 공격이 있어 왔고, 날로 그 기법들이 진화되면서 기업 및 사회에 위험과 부담감을 주었다. 그러한 위험과 부담감을 덜기 위해서는 조기에 해킹 및 공격을 탐지하여 적절하게 대응해야 하는데, 그에 앞서 반드시 네트워크 침입탐지의 신뢰성을 높일 필요가 있다. 본 연구에서는 네트워크 침입탐지 정확도를 향상시키기 위해 가중치 초기화와 가중치 최적화를 KDD'99 데이터셋에 적용하는 연구를 하였다. 가중치 초기화는 Xavier와 He 방법처럼 가중치 학습 구조와 관련된 초기화 방법이 정확도에 영향을 준다는 것을 실험을 통해 알 수 있었다. 또한 가중치 최적화는 현재 가중치를 학습률에 반영할 수 있도록 한 RMSProp와 이전 변화를 반영한 Momentum의 장점을 결합한 Adam 알고리즘이 정확도면에서 단연 돋보임을 네트워크 침입탐지 데이터셋의 실험을 통해 확인하였다.

COVID-19 폐 CT 이미지 인식 (COVID-19 Lung CT Image Recognition)

  • 수징제;김강철
    • 한국전자통신학회논문지
    • /
    • 제17권3호
    • /
    • pp.529-536
    • /
    • 2022
  • 지난 2년 동안 중증급성호흡기증후군 코로나바이러스-2(SARS-CoV-2)는 점점 더 많은 사람들에게 영향을 미치고 있다. 본 논문에서는 COVID-19 폐 CT 이미지를 분할하고 분류하기 위해서 서브코딩블록(SCB), 확장공간파라미드풀링(ASSP)와 어텐션게이트(AG)로 구성된 혼합 모드 특징 추출 방식의 새로운 U-Net 컨볼루션 신경망을 제안한다. 그리고 제안된 모델과 비교하기 위하여 FCN, U-Net, U-Net-SCB 모델을 설계한다. 제안된 U-Net-MMFE 는 COVID-19 CT 스캔 디지털 이미지 데이터에 대하여 atrous rate가 12이고, Adam 최적화 알고리즘을 사용할 때 다른 분할 모델에 비하여 94.79%의 우수한 주사위 분할 점수를 얻었다.

Air Pollution Risk Prediction System Utilizing Deep Learning Focused on Cardiovascular Disease

  • Lee, Jisu;Moon, Yoo-Jin
    • 한국컴퓨터정보학회논문지
    • /
    • 제27권12호
    • /
    • pp.267-275
    • /
    • 2022
  • 이 논문은 대기오염의 심장병에 대한 위험도를 예측하기 위하여 Keras를 활용한 Deep Neural Network Model 시스템을 제안하였다. 연구 데이터로 서울열린데이터광장의 서울시 기간별 시간평균 대기환경 데이터 18,000개의 데이터 셋을 분석하여, 심장병 질병에 미치는 영향에 대한 정보를 얻을 수 있었다. 이 모델은 각각 8개의 노드를 가진 3개의 은닉층, Sigmoid, Binary_crossentropy, Adam과 Accuracy를 사용했을 때 88.92%의 높은 정확도를 얻을 수 있었다. 이 시스템은 각 지역별 대기오염에 따른 심장병 질병 위험도를 예측하여 유용한 질병 예방의 지표로 활용 가능하다고 사료되고, 대기오염과 미세먼지의 각 성분이 유해질환에 미치는 영향에 대한 데이터만 존재한다면 어떠한 호흡기 질환이든 위험도 예측 결과를 알 수 있다는 것에 의미가 있다. 이 시스템을 더욱 발전시킨다면, 마스크 및 공기정화제품 생산기업에게 유용한 정보를 제공하여 기업의 기술개발에 도움이 될 수 있다고 사료된다.

A Unicode based Deep Handwritten Character Recognition model for Telugu to English Language Translation

  • BV Subba Rao;J. Nageswara Rao;Bandi Vamsi;Venkata Nagaraju Thatha;Katta Subba Rao
    • International Journal of Computer Science & Network Security
    • /
    • 제24권2호
    • /
    • pp.101-112
    • /
    • 2024
  • Telugu language is considered as fourth most used language in India especially in the regions of Andhra Pradesh, Telangana, Karnataka etc. In international recognized countries also, Telugu is widely growing spoken language. This language comprises of different dependent and independent vowels, consonants and digits. In this aspect, the enhancement of Telugu Handwritten Character Recognition (HCR) has not been propagated. HCR is a neural network technique of converting a documented image to edited text one which can be used for many other applications. This reduces time and effort without starting over from the beginning every time. In this work, a Unicode based Handwritten Character Recognition(U-HCR) is developed for translating the handwritten Telugu characters into English language. With the use of Centre of Gravity (CG) in our model we can easily divide a compound character into individual character with the help of Unicode values. For training this model, we have used both online and offline Telugu character datasets. To extract the features in the scanned image we used convolutional neural network along with Machine Learning classifiers like Random Forest and Support Vector Machine. Stochastic Gradient Descent (SGD), Root Mean Square Propagation (RMS-P) and Adaptative Moment Estimation (ADAM)optimizers are used in this work to enhance the performance of U-HCR and to reduce the loss function value. This loss value reduction can be possible with optimizers by using CNN. In both online and offline datasets, proposed model showed promising results by maintaining the accuracies with 90.28% for SGD, 96.97% for RMS-P and 93.57% for ADAM respectively.

폐 CT 영상에서 다양한 노이즈 타입에 따른 딥러닝 네트워크를 이용한 영상의 질 향상에 관한 연구 (Study on the Improvement of Lung CT Image Quality using 2D Deep Learning Network according to Various Noise Types)

  • 이민관;박찬록
    • 한국방사선학회논문지
    • /
    • 제18권2호
    • /
    • pp.93-99
    • /
    • 2024
  • 디지털 영상, 특히, 전산화 단층촬영 영상은 X선 신호를 디지털 영상 신호로 변환하는 과정에서 노이즈가 필수적으로 포함되기 때문에 노이즈 저감화에 대한 고려가 필수적이다. 최근, 딥러닝 모델 기반의 노이즈 감소가 가능한 연구가 수행되고 있다. 그러므로, 본 연구의 목적은 폐 CT 영상에서의 다양한 종류의 노이즈를 U-net 딥러닝 모델을 이용하여 노이즈 감소 효과를 평가하였다. 총 800장의 폐 CT 영상을 사용하였고, Adam 최적화 함수와 100회의 반복 학습 횟수, 0.0001의 학습률을 적용한 U-net 모델을 이용하였다. 노이즈를 포함한 입력 영상 생성을 위하여 Gaussian 노이즈, Poisson 노이즈, salt & pepper 노이즈, speckle 노이즈를 적용하였다. 정량적 분석 인자로 평균 제곱 오차, 최대 신호 대 잡음비, 영상의 변동계수를 사용하여 분석하였다. 결과적으로, U-net 네트워크는 다양한 노이즈 조건에서 우수한 성능을 나타냈으며 그 효용성을 입증하였다.

딥러닝을 이용한 벼 도복 면적 추정 (Estimation of the Lodging Area in Rice Using Deep Learning)

  • 반호영;백재경;상완규;김준환;서명철
    • 한국작물학회지
    • /
    • 제66권2호
    • /
    • pp.105-111
    • /
    • 2021
  • 해마다, 강한 바람을 동반한 태풍 및 집중호우로 인해 벼도복이 발생하고 있으며, 이삭이 여무는 등숙기에 도복으로 인한 수발아와 관련된 피해를 발생시키고 있다. 따라서,신속한 피해 대응을 위해 신속한 벼 도복 피해 면적 산정은 필수적이다. 벼 도복과 관련된 이미지들은 도복이 발생된 김제, 부안, 군산일대에서 드론을 이용하여 수집하였고, 수집한 이미지들을 128 × 128 픽셀로 분할하였다. 벼 도복을 예측하기 위해 이미지 기반 딥 러닝 모델인 CNN을 이용하였다. 분할한 이미지들은 도복 이미지(lodging)와 정상 이미지(non-lodging) 2가지로 라벨로 분류하였고, 자료들은 학습을 위한 training-set과 검증을 위한 vali-se을 8:2의 비율로 구분하였다. CNN의 층을 간단하게 구성하여, 3개의 optimizer (Adam, Rmsprop, and SGD)로 모델을 학습하였다. 벼 도복 면적 평가는 training-set과 vali-set에 포함되지 않은 자료를 이용하였으며, 이미지들을 methshape 프로그램으로 전체 농지로 결합하여 총 3개의 농지를 평가하였다. 도복 면적 추정은 필지 전체의 이미지를 모델의 학습 입력 크기(128 × 128)로 분할하여 학습된 CNN 모델로 각각 예측한 후, 전체 분할 이미지 개수 대비 도복 이미지 개수의 비율을 전체 농지의 면적에 곱하여 산정하였다. training-set과 vali-set에 대한 학습 결과, 3개의 optimizer 모두 학습이 진행됨에 따라 정확도가 높아졌으며, 0.919 이상의 높은 정확도를 보였다. 평가를 위한 3개의 농지에 대한 결과는 모든 optimizer에서 높은 정확도를 보였으며, Adam이 가장 높은 정확도를 보였다(RMSE: 52.80 m2, NRMSE: 2.73%). 따라서 딥 러닝을 이용하여 신속하게 벼 도복 면적을 추정할 수 있을 것으로 예상된다.

Evaluation and analytical approximation of Tuned Mass Damper performance in an earthquake environment

  • Tributsch, Alexander;Adam, Christoph
    • Smart Structures and Systems
    • /
    • 제10권2호
    • /
    • pp.155-179
    • /
    • 2012
  • This paper aims at assessing the seismic performance of Tuned Mass Dampers (TMDs) based on sets of recorded ground motions. For the simplest configuration of a structure-TMD assembly, in a comprehensive study characteristic response quantities are derived and statistically evaluated. Optimal tuning of TMD parameters is discussed and evaluated. The response reduction by application of a TMD is quantified depending on the structural period, inherent damping of the stand-alone structure, and ratio of TMD mass to structural mass. The effect of detuning on the stroke of the TMD and on the structural response is assessed and quantified. It is verified that a TMD damping coefficient larger than the optimal one reduces the peak deflection of the TMD spring significantly, whereas the response reduction of the main structure remains almost unaffected. Analytical relations for quantifying the effect of a TMD are derived and subsequently evaluated. These relations allow the engineer in practice a fast and yet accurate assessment of the TMD performance.

Optimization of Model based on Relu Activation Function in MLP Neural Network Model

  • Ye Rim Youn;Jinkeun Hong
    • International journal of advanced smart convergence
    • /
    • 제13권2호
    • /
    • pp.80-87
    • /
    • 2024
  • This paper focuses on improving accuracy in constrained computing settings by employing the ReLU (Rectified Linear Unit) activation function. The research conducted involves modifying parameters of the ReLU function and comparing performance in terms of accuracy and computational time. This paper specifically focuses on optimizing ReLU in the context of a Multilayer Perceptron (MLP) by determining the ideal values for features such as the dimensions of the linear layers and the learning rate (Ir). In order to optimize performance, the paper experiments with adjusting parameters like the size dimensions of linear layers and Ir values to induce the best performance outcomes. The experimental results show that using ReLU alone yielded the highest accuracy of 96.7% when the dimension sizes were 30 - 10 and the Ir value was 1. When combining ReLU with the Adam optimizer, the optimal model configuration had dimension sizes of 60 - 40 - 10, and an Ir value of 0.001, which resulted in the highest accuracy of 97.07%.

Infrared Transmitting Glass Ceramics for Passive and Active Applications

  • Zhang, Xianghua;Adam, J.L.
    • 세라미스트
    • /
    • 제10권3호
    • /
    • pp.48-54
    • /
    • 2007
  • Glass-ceramics transparent above $10\;{\mu}m$ in the infrared, have been synthesized. They are based on germanium and antimony sulphides or selenides associated to alkali halides. They are prepared by heating glass samples at temperatures above the glass transition, as a function of time. Ceramisation can be controlled, so that sub-100 nm crystals are generated in the glass matrix. Then, low light scattering is achieved and the transparency window of the original glass is maintained. When gallium sulphide is added, glass ceramics can be doped with rare-earth ions. Emissions from the $^4F_{3/2}$ and $^4I_{13/2}$ of $Nd^{3+}$ and $Er^{3+}$ ions, respectively, are more intense in glass-ceramics, as compared to their vitreous counterpart. Examination of band profiles and decaytimes show that rare-earth ions are embedded in both crystalline and glassy environments.

  • PDF

Mathematical Analysis and Experiment Validation of Modular Multilevel Converters

  • Zhang, Yushu;Adam, Grain Philip;Lim, Tee-Chong;Finney, Stephen J.;Williams, Barry W.
    • Journal of Power Electronics
    • /
    • 제12권1호
    • /
    • pp.33-39
    • /
    • 2012
  • This paper describes operating and capacitor voltage balancing of the modular multilevel converter. The paper focuses on sizing of the cell capacitor and establishes approximate expressions for the capacitor voltage. Simulations and experiments results obtained from three-level modular converter are used to demonstrate its viability in medium voltage applications. It is shown that the modular converter can operate over the full modulation index linear range independent of load power factor.