• 제목/요약/키워드: Perceptron Neural Network

검색결과 434건 처리시간 0.031초

지터에 내성을 갖는 딥러닝 기반 부채널 분석 방안 (Deep Learning-based Side-Channel Analysis Method with Resistance to Jitter)

  • 김주환;김수진;우지은;박소연;한동국
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2020년도 춘계학술발표대회
    • /
    • pp.180-183
    • /
    • 2020
  • 물리적 정보를 이용해 암호 알고리즘의 비밀정보를 분석하는 부채널분석 분야에서도 딥러닝을 접목한 분석방법들이 활발히 제안되고 있다. 본 논문에서는 소비전력이 시간축상으로 흐트러지는 현상인 지터가 있는 파형을 신경망의 특성을 기반으로 효과적으로 분석하는 방법을 제안한다. 제안한 방법을 실험적으로 검증하기 위해 지터가 있는 AES-128 파형을 Convolutional Neural Network와 Multi-Layer Perceptron을 기반으로 분석한 결과 제안한 방법을 적용한 신경망은 모든 바이트 키 분석에 성공했으나, 이외의 신경망은 일부 혹은 모든 바이트 키 분석에 실패했다.

Optimization of Model based on Relu Activation Function in MLP Neural Network Model

  • Ye Rim Youn;Jinkeun Hong
    • International journal of advanced smart convergence
    • /
    • 제13권2호
    • /
    • pp.80-87
    • /
    • 2024
  • This paper focuses on improving accuracy in constrained computing settings by employing the ReLU (Rectified Linear Unit) activation function. The research conducted involves modifying parameters of the ReLU function and comparing performance in terms of accuracy and computational time. This paper specifically focuses on optimizing ReLU in the context of a Multilayer Perceptron (MLP) by determining the ideal values for features such as the dimensions of the linear layers and the learning rate (Ir). In order to optimize performance, the paper experiments with adjusting parameters like the size dimensions of linear layers and Ir values to induce the best performance outcomes. The experimental results show that using ReLU alone yielded the highest accuracy of 96.7% when the dimension sizes were 30 - 10 and the Ir value was 1. When combining ReLU with the Adam optimizer, the optimal model configuration had dimension sizes of 60 - 40 - 10, and an Ir value of 0.001, which resulted in the highest accuracy of 97.07%.

Bond strength prediction of steel bars in low strength concrete by using ANN

  • Ahmad, Sohaib;Pilakoutas, Kypros;Rafi, Muhammad M.;Zaman, Qaiser U.
    • Computers and Concrete
    • /
    • 제22권2호
    • /
    • pp.249-259
    • /
    • 2018
  • This paper presents Artificial Neural Network (ANN) models for evaluating bond strength of deformed, plain and cold formed bars in low strength concrete. The ANN models were implemented using the experimental database developed by conducting experiments in three different universities on total of 138 pullout and 108 splitting specimens under monotonic loading. The key parameters examined in the experiments are low strength concrete, bar development length, concrete cover, rebar type (deformed, cold-formed, plain) and diameter. These deficient parameters are typically found in non-engineered reinforced concrete structures of developing countries. To develop ANN bond model for each bar type, four inputs (the low strength concrete, development length, concrete cover and bar diameter) are used for training the neurons in the network. Multi-Layer-Perceptron was trained according to a back-propagation algorithm. The ANN bond model for deformed bar consists of a single hidden layer and the 9 neurons. For Tor bar and plain bars the ANN models consist of 5 and 6 neurons and a single hidden layer, respectively. The developed ANN models are capable of predicting bond strength for both pull and splitting bond failure modes. The developed ANN models have higher coefficient of determination in training, validation and testing with good prediction and generalization capacity. The comparison of experimental bond strength values with the outcomes of ANN models showed good agreement. Moreover, the ANN model predictions by varying different parameters are also presented for all bar types.

Tracking Control for Robot Manipulators based on Radial Basis Function Networks

  • Lee, Min-Jung;Park, Jin-Hyun;Jun, Hyang-Sig;Gahng, Myoung-Ho;Choi, Young-Kiu
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국해양정보통신학회 2005년도 춘계종합학술대회
    • /
    • pp.285-288
    • /
    • 2005
  • 신경회로망은 지능제어알고리즘 중의 하나로 학습능력을 가지고 있다. 이러한 학습능력 때문에 많은 분야에서 널리 사용되고 있으나, 지능제어의 단점인 안정도 문제를 수학적으로 증명하기 어렵다는 문제점을 갖고 있다. 본 논문에서는 신경회로망의 한 종류인 RBFN과 적응제어기법을 이용하여 로봇 매니퓰레이터 궤적 제어기를 구성하고 자 한다. 본 논문에서는 RBFN의 파라메터들을 적응제어기법을 이용하여 수학적으로 구하였고, 시스템의 안정도를 수학적으로 UUB를 만족한다는 것을 증명하였다. 그리고 수평다관절로봇 매니퓰레이터 궤적제어기에 적용하였다.

  • PDF

다단계 신경회로망을 이용한 후두질환 감별진단 시스템의 개발 (A Basic Study on the Differential Diagnostic System of Laryngeal Diseases using Hierarchical Neural Networks)

  • 전계록;김기련;권순복;예수영;이승진;왕수건
    • 대한의용생체공학회:의공학회지
    • /
    • 제23권3호
    • /
    • pp.197-205
    • /
    • 2002
  • 본 연구에서는 잡음이 존재하는 공간에서 획득한 음성신호로부터 후두질환을 감별진단 할 수 있는 분류기를 구현하였다. 이를 위해 후두질환 환자로부터 수집한 /아/ 모음에 잡음을 혼입하여 음성 신호를 획득하였고, 여러 가지 후두질환을 감별진단 할 수 있는 파라미터를 추출하였으며. 이를 입력으로 하는 계층적 신경회로망을 구성하여 후두질환을 감별진단 하도록 하였다. 감별진단용 분류기는 다섯 단계의 계층적 신경회로망으로 구성하였다 첫 번째 신경회로망은 정상 양성 후두질환과 악성 후두질환을. 두 번째 신경회로망은 정상과 양성 후두질환을 감별진단 하도록 하였다 그리고 세 번째 신경회로망은 양성 후두질환 중 후두용. 성대결절 후두마비를 감별진단 하도록 하였으며. 네 번째와 다섯 번째 신경회로망은 성문암 1-4기를 감별진단 하도록 구성하였다. 분류기에 적용된 신경회로망은 다층퍼셉트론 구조로써 역전파 알고리듬으로 학습시켰으며, 선형변환 표준점수변환 등 전처리과정을 적용하여 분류기의 성능을 개선하였다. 후두질환의 감별진단 결과 후두용 88.23%. 정상. 성대결절. 후두마비 100%. 성문암 1기 90%, 성문암 2-4기 100%의 감별진단율을 관찰할 수 있었다.

Structural monitoring of movable bridge mechanical components for maintenance decision-making

  • Gul, Mustafa;Dumlupinar, Taha;Hattori, Hiroshi;Catbas, Necati
    • Structural Monitoring and Maintenance
    • /
    • 제1권3호
    • /
    • pp.249-271
    • /
    • 2014
  • This paper presents a unique study of Structural Health Monitoring (SHM) for the maintenance decision making about a real life movable bridge. The mechanical components of movable bridges are maintained on a scheduled basis. However, it is desired to have a condition-based maintenance by taking advantage of SHM. The main objective is to track the operation of a gearbox and a rack-pinion/open gear assembly, which are critical parts of bascule type movable bridges. Maintenance needs that may lead to major damage to these components needs to be identified and diagnosed timely since an early detection of faults may help avoid unexpected bridge closures or costly repairs. The fault prediction of the gearbox and rack-pinion/open gear is carried out using two types of Artificial Neural Networks (ANNs): 1) Multi-Layer Perceptron Neural Networks (MLP-NNs) and 2) Fuzzy Neural Networks (FNNs). Monitoring data is collected during regular opening and closing of the bridge as well as during artificially induced reversible damage conditions. Several statistical parameters are extracted from the time-domain vibration signals as characteristic features to be fed to the ANNs for constructing the MLP-NNs and FNNs independently. The required training and testing sets are obtained by processing the acceleration data for both damaged and undamaged condition of the aforementioned mechanical components. The performances of the developed ANNs are first evaluated using unseen test sets. Second, the selected networks are used for long-term condition evaluation of the rack-pinion/open gear of the movable bridge. It is shown that the vibration monitoring data with selected statistical parameters and particular network architectures give successful results to predict the undamaged and damaged condition of the bridge. It is also observed that the MLP-NNs performed better than the FNNs in the presented case. The successful results indicate that ANNs are promising tools for maintenance monitoring of movable bridge components and it is also shown that the ANN results can be employed in simple approach for day-to-day operation and maintenance of movable bridges.

신경회로망을 이용한 4차원 방사선치료에서의 조사 표적 움직임 예측 (Prediction of Target Motion Using Neural Network for 4-dimensional Radiation Therapy)

  • 이상경;김용남;박경란;정경근;이창걸;이익재;성진실;최원훈;정윤선;박성호
    • 한국의학물리학회지:의학물리
    • /
    • 제20권3호
    • /
    • pp.132-138
    • /
    • 2009
  • 호흡으로 인한 방사선 치료 표적의 움직임을 고려함으로써 치료 성적 향상과 동시에 주변 장기 보호를 지향하는 4차원 방사선 치료의 구현, 성능 개선의 연구가 활발히 진행되고 있다. 환자가 자연스럽게 호흡하도록 하는 장점이 있는 호흡 동기방식이나 종양추적방식을 사용하는 경우, 방사선조사 표적의 움직임을 예측, 방사선조사 시 이를 보정하여 줌으로써 방사선치료 효과를 극대화할 수 있다. 신경회로망은 통계 수식에 의존하지 않고 주어진 자료를 표현하는 일종의 규칙을 찾아내므로, 방사선 치료 표적의 실시간 움직임과 같은 비선형성을 가진 시계열(Time Series)을 표현하는 데에 유리하다. 본 연구에서는 신경회로망 예측 알고리즘의 4차원 방사선치료에 적용 가능성을 평가하였다. Multi-layer Perceptron으로 신경회로망을 구성하였고 Scaled Conjugate Gradient 알고리즘을 신경회로망 학습 알고리즘으로 사용하였다. RPM 시스템을 이용하여 획득한 실제 임상 현장의 환자에 대한 호흡 자료를 기반으로 학습한 신경회로망 예측 결과를 RPM 시스템의 측정치와 상호 비교하였다. 10명의 환자에의 적용 결과, 신경회로망 학습에 사용된 자료가 환자의 호흡 범위 전체를 포함하지 않는 경우를 제외하고는, 최대절대오차 3 mm 미만의 우수한 예측 성능을 보였다. 학습 영역 이외의 호흡 자료 예측 시 발생하는 상당한 오차는 신경회로망의 외삽에 대한 학습능력 부족을 보이는 것으로, 오차의 원인을 제거하기 위한 일환으로, 호흡자료를 측정할 때 최대 호흡을 하도록 하여 충분한 학습 자료를 확보하는 방안을 고려해 볼 수있겠다. 4차원 방사선치료 시스템 성능 개선에의 직접 활용을 위하여, 다양한 시스템 대기시간에 따른 예측 성능 평가와 방사선 조사 장치와 연동, 실용 타당성 검증의 추가 연구가 진행될 것이다.

  • PDF

비정형 정보와 CNN 기법을 활용한 이진 분류 모델의 고객 행태 예측: 전자상거래 사례를 중심으로 (Customer Behavior Prediction of Binary Classification Model Using Unstructured Information and Convolution Neural Network: The Case of Online Storefront)

  • 김승수;김종우
    • 지능정보연구
    • /
    • 제24권2호
    • /
    • pp.221-241
    • /
    • 2018
  • 최근 딥러닝 기술이 주목을 받고 있다. 대중들의 관심을 받았던 국제 이미지 인식 기술 대회(ILSVR)와 알파고(AlphaGo)에서 사용된 딥러닝 기술이 바로 합성곱 신경망(CNN; Convolution Neural Network)이다. 합성곱 신경망은 입력 이미지를 작은 구역으로 나누어 부분적인 특징을 인식하고 이것을 결합하여 전체를 인식하는 특징을 가진다. 이러한 딥러닝 기술이 우리의 생활에 있어 많은 변화를 야기할 것이라는 기대를 주고 있지만 현재까지는 이미지 인식과 자연어 처리 등에 그 성과가 국한되어 있다. 비즈니스 문제에 대한 딥러닝 활용은 아직까지 초기 연구 단계로 향후 마케팅 응답 예측이나 허위 거래 식별, 부도 예측과 같은 전통적 비즈니스 문제들에 대해 보다 깊게 활용되고 그 성능이 입증된다면 딥러닝 기술의 활용 가치가 보다 더 주목받게 될 것으로 기대된다. 이러한 때 비교적 고객 식별이 용이하고 활용 가치가 높은 빅데이터를 보유하고 있는 전자상거래 기업의 사례를 바탕으로 하여 딥러닝 기술의 비즈니스 문제 해결 가능성을 진단해보는 것은 학술적으로 매우 의미 있는 시도라 할 수 있겠다. 이에 본 연구에서는 전자상거래 기업의 고객 행태 예측력을 높이기 위한 방안으로 합성곱 신경망을 활용한 '이종 정보 결합(Heterogeneous Information Integration)의 CNN 모델'을 제시한다. 이는 정형과 비정형 정보를 결합하여 다층 퍼셉트론 구조의 합성곱 신경망에서 학습시키는 모델로서 최적의 성능을 발휘하도록 '이종 정보 결합'과 '비정형 정보의 벡터 전환', 그리고 '다층 퍼셉트론 설계'로 하는 3개의 내부 아키텍처를 정의하고 각 아키텍처 단위로 구성되는 방식에 따른 성능을 평가하여 그 결과를 바탕으로 제안 모델을 확정하고 그 성능을 평가해보고자 한다. 고객 행태 예측을 위한 목표 변수는 전자상거래 기업에서 중요하게 관리하고 있는 재구매 고객, 이탈 고객, 고빈도 구매 고객, 고빈도 반품 고객, 고단가 구매 고객, 고할인 구매 고객 등 모두 6개의 이진 분류 문제로 정의한다. 제안한 모델의 유용성을 검증하기 위해서 국내 특정 전자상거래 기업의 실제 데이터를 활용하여 실험을 수행하였다. 실험 결과 정형과 비정형 정보를 결합하여 CNN을 활용한 제안 모델이 NBC(Naïve Bayes classification)과 SVM(Support vector machine), 그리고 ANN(Artificial neural network)에 비해서 예측 정확도와 F1 Measure가 높게 평가되었다. 또 NBC, SVM, ANN에서 정형 정보만을 사용할 때 보다 정형과 비정형 정보를 결합하여 입력 변수로 함께 활용한 경우에 예측 정확도가 향상되는 것으로 나타났다. 따라서 실험 결과로부터 비정형 정보의 활용이 고객 행태 예측의 정확도 향상에 기여한다는 점과 CNN 기법의 특징 추출 알고리즘이 VOC에 사용된 단어들의 분포와 위치 정보를 해석하여 문장의 의미를 파악하는데 효과적이라는 점을 실증적으로 확인하였다는데 그 의미가 있다고 할 수 있겠다. 이를 통해서 CNN 기법이 지금까지 소개된 이미지 인식이나 자연어 처리 분야 외에 비즈니스 문제 해결에도 활용 가치가 높다는 점을 확인하였다는데 이 연구의 의의가 있다 하겠다.

GOCI를 이용한 동중국해 표층 염분 산출 알고리즘 개발 (A Development for Sea Surface Salinity Algorithm Using GOCI in the East China Sea)

  • 김대원;김소현;조영헌
    • 대한원격탐사학회지
    • /
    • 제37권5_2호
    • /
    • pp.1307-1315
    • /
    • 2021
  • 매년 여름철 양자강에서 유출되는 저염분수는 동중국해 뿐만 아니라 제주도 주변 해역의 염분 변화에 큰 영향을 미치며 때때로 그 영향은 한반도 연안에 국한되지 않고 대한해협을 통과하여 동해 외해 까지 확장되기도 한다. 한반도 주변으로 확장된 양자강 유출수는 해양 물리 및 생태학적으로 많은 영향을 끼치며 어업 및 양식업에 큰 피해를 유발하기도 한다. 그러나 현장조사의 한계점 때문에 동중국해에서 확산되는 저염분수를 지속적으로 관측하기에는 현실적으로 어려움이 있다. 이러한 이유로 양자강 유출수의 확산을 실시간으로 모니터링하기 위해 인공위성을 활용한 표층 염분 산출 연구가 많이 진행되어 왔다. 본 연구에서는 시간 및 공간 해상도가 상대적으로 좋은 GOCI(Geostationary Ocean Color Imager)를 활용한 동중국해 표층 염분 산출 알고리즘을 개발하였다. 알고리즘 개발을 위해 기계학습 기법 중 하나인 MPNN(Multilayer Perceptron Neural Network)을 이용하였으며, 출력층에는 SMAP(Soil Moisture Active Passive) 위성의 표층 염분 자료를 활용하였다. 이전 연구에서 2016년 자료를 이용한 표층 염분 산출 알고리즘이 개발되었으나 본 연구에서는 연구 기간을 2015년 부터 2020년까지로 확장하여 알고리즘 성능을 개선하였다. 2011년부터 2019년까지 동중국해에서 관측된 국립수산과학원의 정선조사자료를 이용하여 알고리즘 성능을 검증한 결과로 R2는 0.61과 RMSE는 1.08 psu로 나타났다. 본 연구는 GOCI를 이용한 동중국해 표층 염분 모니터링 알고리즘 개발을 위해 수행되었으며, 향후 GOCI-II의 표층 염분 산출 알고리즘 개발에 많은 기여를 할 것으로 기대된다.

효과적인 딥러닝 기반 비프로파일링 부채널 분석 모델 설계방안 (Design of an Effective Deep Learning-Based Non-Profiling Side-Channel Analysis Model)

  • 한재승;심보연;임한섭;김주환;한동국
    • 정보보호학회논문지
    • /
    • 제30권6호
    • /
    • pp.1291-1300
    • /
    • 2020
  • 최근 딥러닝 기반 비프로파일링 부채널 분석이 제안됐다. 딥러닝 기반 비프로파일링 분석은 신경망 모델을 모든 추측키에 대해 학습시킨 뒤, 학습된 정도의 차이를 통해 올바른 비밀키를 찾아내는 기법이다. 이때, 신경망 학습모델 설계에 따라 비프로파일링 분석성능이 크게 달라지기 때문에 올바른 모델 설계의 기준이 필요하다. 본 논문은 학습모델 설계에 사용 가능한 2가지 loss 함수와 8가지 label 기법을 설명하고, 비프로파일링 분석과 소비전력모델 관점에서 각 label 기법의 분석성능을 예측했다. 해밍웨이트 소비전력모델을 가정했을 때의 비프로파일링 분석 특징을 고려해서 One-hot 인코딩을 적용하지 않은 HW(Hamming Weight) label과 CO(Correlation Optimization) loss를 적용한 학습모델이 가장 좋은 분석성능을 가질 것으로 예측했다. 그리고 AES-128 1라운드 Subbytes 연산 부분 데이터 집합 3가지에 대해 실제 분석을 수행했다. 제시한 각 label 기법과 loss 함수를 적용한 총 16가지 MLP(Multi-Layer Perceptron)기반 학습모델로 두 데이터 집합을 비프로파일링 분석하여 예측에 대해 검증했다.