• 제목/요약/키워드: Multi-Layer Perceptron Neural Network

검색결과 244건 처리시간 0.025초

도래각 추정을 위한 3단계 인공신경망 알고리듬 (Three Stage Neural Networks for Direction of Arrival Estimation)

  • 박선배;유도식
    • 한국항행학회논문지
    • /
    • 제24권1호
    • /
    • pp.47-52
    • /
    • 2020
  • 도래각추정은 표적으로부터 생성, 혹은 반사된 신호를 분석하여 표적의 방향을 추정하는 것으로 다양한 분야에 활용되고 있다. 인공신경망은 생물의 신경망을 모방한 기계학습의 한 분야로 패턴인식에서 좋은 성능을 보인다. 이러한 인공신경망을 도래각 추정에 활용하는 연구가 진행되어왔으나, 다양한 신호대잡음비 환경에 대응하는데에 제한이 있는 상황이다. 본 논문에서는 도래각 추정을 위한 3단계 인공신경망 알고리듬을 제안한다. 제안하는 알고리듬은 잡음제거과정을 통해 단일 신호대잡음비 환경에서 학습한 모델을 다양한 환경에 적용해도 성능감소를 최소화할 수 있다. 또한 도래각 시프트 과정을 통해 학습 난이도를 낮출 수 있고 효율적인 추정이 가능하다. 우리는, 제안하는 알고리듬과 다른 부공간 기법, Cramer-Rao bound (CRB)와의 성능 비교를 통해 제안하는 알고리듬이 낮은 신호대잡음비 환경, 표적들의 도래각이 가까운 환경 등 특정한 열악한 관측환경에서 타 기법에 비해 좋은 성능을 보이는 것을 확인하였다.

FPGA 상에서 은닉층 뉴런에 최적화된 MLP의 설계 방법 (MLP Design Method Optimized for Hidden Neurons on FPGA)

  • 경동욱;정기철
    • 정보처리학회논문지B
    • /
    • 제13B권4호
    • /
    • pp.429-438
    • /
    • 2006
  • 일반적으로 신경망은 비선형성 문제를 해결하기 위해서 소프트웨어로 많이 구현되었지만, 영상처리 및 패턴인식과 같은 실시간 처리가 요구되는 응용에서는 빠른 처리가 가능한 하드웨어로 구현되고 있다. 다양한 종류의 신경망 중에서 다층 신경망(MLP: multi-layer perceptron)의 하드웨어 설계는 빠른 처리속도와 적은 면적 그리고 구현의 용이성으로 고정소수점 연산을 많이 사용하였다. 하지만 고정소수점 연산을 사용하는 하드웨어 설계는 높은 정확도의 부동소수점 연산을 많이 사용하는 소프트웨어 MLP를 쉽게 적용할 수 없는 문제점을 가진다. 본 논문에서는 높은 정확도와 높은 유연성을 가지는 부동소수점 연산을 사용하면서도 은닉층 뉴런수를 주기(cycle)로 빠르게 수행하는 MLP의 완전 파이프라이닝(fully-pipelining) 설계방법을 제안한다. MLP는 주어진 문제에 의해서 자연스럽게 입력층과 출력층의 구조가 결정되지만, 은닉층 구조는 사용자에 의해서 결정된다. 그러므로 제안된 설계방법은 많은 반복수행이 요구되는 영상처리 및 패턴인식 등의 분야에서 은닉층 뉴런수를 최적화 하여 쉽게 성능 향상을 이룰 수 있다.

이진 분류문제에서의 딥러닝 알고리즘의 활용 가능성 평가 (Feasibility of Deep Learning Algorithms for Binary Classification Problems)

  • 김기태;이보미;김종우
    • 지능정보연구
    • /
    • 제23권1호
    • /
    • pp.95-108
    • /
    • 2017
  • 최근 알파고의 등장으로 딥러닝 기술에 대한 관심이 고조되고 있다. 딥러닝은 향후 미래의 핵심 기술이 되어 일상생활의 많은 부분을 개선할 것이라는 기대를 받고 있지만, 주요한 성과들이 이미지 인식과 자연어처리 등에 국한되어 있고 전통적인 비즈니스 애널리틱스 문제에의 활용은 미비한 실정이다. 실제로 딥러닝 기술은 Convolutional Neural Network(CNN), Recurrent Neural Network(RNN), Deep Boltzmann Machine (DBM) 등 알고리즘들의 선택, Dropout 기법의 활용여부, 활성 함수의 선정 등 다양한 네트워크 설계 이슈들을 가지고 있다. 따라서 비즈니스 문제에서의 딥러닝 알고리즘 활용은 아직 탐구가 필요한 영역으로 남아있으며, 특히 딥러닝을 현실에 적용했을 때 발생할 수 있는 여러 가지 문제들은 미지수이다. 이에 따라 본 연구에서는 다이렉트 마케팅 응답모델, 고객이탈분석, 대출 위험 분석 등의 주요한 분류 문제인 이진분류에 딥러닝을 적용할 수 있을 것인지 그 가능성을 실험을 통해 확인하였다. 실험에는 어느 포르투갈 은행의 텔레마케팅 응답여부에 대한 데이터 집합을 사용하였으며, 전통적인 인공신경망인 Multi-Layer Perceptron, 딥러닝 알고리즘인 CNN과 RNN을 변형한 Long Short-Term Memory, 딥러닝 모형에 많이 활용되는 Dropout 기법 등을 이진 분류 문제에 활용했을 때의 성능을 비교하였다. 실험을 수행한 결과 CNN 알고리즘은 비즈니스 데이터의 이진분류 문제에서도 MLP 모형에 비해 향상된 성능을 보였다. 또한 MLP와 CNN 모두 Dropout을 적용한 모형이 적용하지 않은 모형보다 더 좋은 분류 성능을 보여줌에 따라, Dropout을 적용한 CNN 알고리즘이 이진분류 문제에도 활용될 수 있는 가능성을 확인하였다.

2D 얼굴 영상을 이용한 로봇의 감정인식 및 표현시스템 (Emotion Recognition and Expression System of Robot Based on 2D Facial Image)

  • 이동훈;심귀보
    • 제어로봇시스템학회논문지
    • /
    • 제13권4호
    • /
    • pp.371-376
    • /
    • 2007
  • This paper presents an emotion recognition and its expression system of an intelligent robot like a home robot or a service robot. Emotion recognition method in the robot is used by a facial image. We use a motion and a position of many facial features. apply a tracking algorithm to recognize a moving user in the mobile robot and eliminate a skin color of a hand and a background without a facial region by using the facial region detecting algorithm in objecting user image. After normalizer operations are the image enlarge or reduction by distance of the detecting facial region and the image revolution transformation by an angel of a face, the mobile robot can object the facial image of a fixing size. And materialize a multi feature selection algorithm to enable robot to recognize an emotion of user. In this paper, used a multi layer perceptron of Artificial Neural Network(ANN) as a pattern recognition art, and a Back Propagation(BP) algorithm as a learning algorithm. Emotion of user that robot recognized is expressed as a graphic LCD. At this time, change two coordinates as the number of times of emotion expressed in ANN, and change a parameter of facial elements(eyes, eyebrows, mouth) as the change of two coordinates. By materializing the system, expressed the complex emotion of human as the avatar of LCD.

트랜스포머 기반 MUM-T 상황인식 기술: 에이전트 상태 예측 (Transformer-Based MUM-T Situation Awareness: Agent Status Prediction)

  • 백재욱;전성우;김광용;이창은
    • 로봇학회논문지
    • /
    • 제18권4호
    • /
    • pp.436-443
    • /
    • 2023
  • With the advancement of robot intelligence, the concept of man and unmanned teaming (MUM-T) has garnered considerable attention in military research. In this paper, we present a transformer-based architecture for predicting the health status of agents, with the help of multi-head attention mechanism to effectively capture the dynamic interaction between friendly and enemy forces. To this end, we first introduce a framework for generating a dataset of battlefield situations. These situations are simulated on a virtual simulator, allowing for a wide range of scenarios without any restrictions on the number of agents, their missions, or their actions. Then, we define the crucial elements for identifying the battlefield, with a specific emphasis on agents' status. The battlefield data is fed into the transformer architecture, with classification headers on top of the transformer encoding layers to categorize health status of agent. We conduct ablation tests to assess the significance of various factors in determining agents' health status in battlefield scenarios. We conduct 3-Fold corss validation and the experimental results demonstrate that our model achieves a prediction accuracy of over 98%. In addition, the performance of our model are compared with that of other models such as convolutional neural network (CNN) and multi layer perceptron (MLP), and the results establish the superiority of our model.

리뷰 데이터와 제품 정보를 이용한 멀티모달 감성분석 (Multimodal Sentiment Analysis Using Review Data and Product Information)

  • 황호현;이경찬;유진이;이영훈
    • 한국전자거래학회지
    • /
    • 제27권1호
    • /
    • pp.15-28
    • /
    • 2022
  • 최근 의류 등의 특정 쇼핑몰의 온라인 시장이 크게 확대되면서, 사용자의 리뷰를 활용하는 것이 주요한 마케팅 방안이 되었다. 이를 이용한 감성분석에 대한 연구들도 많이 진행되고 있다. 감성분석은 사용자의 리뷰를 긍정과 부정 그리고 필요에 따라서 중립으로 분류하는 방법이다. 이 방법은 크게 머신러닝 기반의 감성분석과 사전기반의 감성분석으로 나눌 수 있다. 머신러닝 기반의 감성분석은 사용자의 리뷰 데이터와 그에 대응하는 감성 라벨을 이용해서 분류 모델을 학습하는 방법이다. 감성분석 분야의 연구가 발전하면서 리뷰와 함께 제공되는 이미지나 영상 데이터 등을 함께 고려하여 학습하는 멀티모달 방식의 모델들이 연구되고 있다. 리뷰 데이터에서 제품의 카테고리와 사용자별로 사용되는 단어 등의 특징이 다르다. 따라서 본 논문에서는 리뷰데이터와 제품 정보를 동시에 고려하여 감성분석을 진행한다. 리뷰를 분류하는 모델로는 기본 순환신경망 구조에서 Gate 방식을 도입한 Gated Recurrent Unit(GRU), Long Short-Term Memory(LSTM) 그리고 Self Attention 기반의 Multi-head Attention 모델, Bidirectional Encoder Representation from Transformer(BERT)를 사용해서 각각 성능을 비교하였다. 제품 정보는 모두 동일한 Multi-Layer Perceptron(MLP) 모델을 이용하였다. 본 논문에서는 사용자 리뷰를 활용한 Baseline Classifier의 정보와 제품 정보를 활용한 MLP모델의 결과를 결합하는 방법을 제안하며 실제 데이터를 통해 성능의 우수함을 보인다.

방사선 치료 선량 계산을 위한 신경회로망의 적용 타당성 (A Feasibility Study on Using Neural Network for Dose Calculation in Radiation Treatment)

  • 이상경;김용남;김수곤
    • Journal of Radiation Protection and Research
    • /
    • 제40권1호
    • /
    • pp.55-64
    • /
    • 2015
  • 방사선치료계획장치의 핵심기술인 선량분포 계산은 빠르고 정확함을 요구한다. 기존 상용화된 치료계획장치의 선량 계산 방법은 빠르지만 정확성이 부족하고, 몬테칼로 방법은 시뮬레이션 시간과다 문제가 있다. 관심영역의 일부만 몬테칼로 방법이 계산하고 나머지 영역은 비선형함수사상 능력이 뛰어난 신경회로망이 계산하는 시스템은 상대적으로 빠르고 정확한 선량분포를 계산해낼 수 있다. 비균질 매질의 선량분포에 나타나는 불연속점과 변곡점의 특성을 신경회로망이 학습가능 하다는 것을 사전 작업을 통해 확인하였다. 이때 사용된 신경회로망은 Feedforward Multi-Layer Perceptron에 Scaled Conjugated Gradient 알고리즘과 Levenberg-Marquardt 알고리즘으로 각각 학습하여 성능비교를 하였고, 은닉층의 뉴런 개수에 따른 성능비교도 하였다. 마지막으로 균질매질의 팬텀에 대해 상용 치료계획장치의 선량계산 알고리즘으로 계산한 선량분포를 사전작업을 통해 확인된 신경회로망에 학습하여 깊이선량율의 평균제곱오차가 0.00214인 결과를 보여주었다. 균질 및 비균질 매질의 팬텀에 대한 3차원 선량분포를 계산하는 신경회로망 모델 개발 연구가 추가로 진행될 것이다.

Modeling of surface roughness in electro-discharge machining using artificial neural networks

  • Cavaleri, Liborio;Chatzarakis, George E.;Trapani, Fabio Di;Douvika, Maria G.;Roinos, Konstantinos;Vaxevanidis, Nikolaos M.;Asteris, Panagiotis G.
    • Advances in materials Research
    • /
    • 제6권2호
    • /
    • pp.169-184
    • /
    • 2017
  • Electro-Discharge machining (EDM) is a thermal process comprising a complex metal removal mechanism. This method works by forming of a plasma channel between the tool and the workpiece electrodes leading to the melting and evaporation of the material to be removed. EDM is considered especially suitable for machining complex contours with high accuracy, as well as for materials that are not amenable to conventional removal methods. However, several phenomena can arise and adversely affect the surface integrity of EDMed workpieces. These have to be taken into account and studied in order to optimize the process. Recently, artificial neural networks (ANN) have emerged as a novel modeling technique that can provide reliable results and readily, be integrated into several technological areas. In this paper, we use an ANN, namely, the multi-layer perceptron and the back propagation network (BPNN) to predict the mean surface roughness of electro-discharge machined surfaces. The comparison of the derived results with experimental findings demonstrates the promising potential of using back propagation neural networks (BPNNs) for getting a reliable and robust approximation of the Surface Roughness of Electro-discharge Machined Components.

정수장 전염소 공정제어를 위한 침전지 잔류염소농도 예측 머신러닝 모형 (Machine learning model for residual chlorine prediction in sediment basin to control pre-chlorination in water treatment plant)

  • 김주환;이경혁;김수전;김경훈
    • 한국수자원학회논문집
    • /
    • 제55권spc1호
    • /
    • pp.1283-1293
    • /
    • 2022
  • 본 연구는 정수장의 수처리 공정에서 계측되고 있는 수량 및 수질데이터의 활용과 수처리 공정제어의 지능화를 위한 것으로 정수장에서 전염소 공정이 수반되는 처리공정에서 침전지 유출수 잔류염소농도 안정화를 위하여 이를 추정할 수 있는 모형을 구축하고자 하였다. 정수장 침전지 유출수의 잔류염소농도를 예측하기 위하여 중회귀모형과 인공지능 알고리즘 중 다층퍼셉트론 신경망, 랜덤포레스트 및 장단기기억(Long Short Term Memory; LSTM) 모형을 활용하였고 그 결과를 비교, 평가하였다. 모형의 입력변수로는 전염소 공정이 도입된 정수장에서의 잔류염소농도, 수온, 탁도, pH, 전기전도도, 유량, 알칼리도 등이 사용되었고 전염소에 따른 침전지의 안정적 운영을 위해 요구되는 침전지 잔류염소농도를 출력변수로 구성하였다. 적용 결과에서는 랜덤포레스트 모형이 가장 양호한 결과를 보여 주었으며 다음으로 LSTM, 다층퍼셈트론 신경망 순으로 나타났다. 수학적 모형인 중회귀모형은 적합도 측면에서 가장 낮은 결과를 보여 주었는데, 이는 수량과 수질데이터의 수치적인 규모나 차원의 차이뿐만 아니라 계절별 수질특성에 따라 염소소비 특성이 매우 다양하게 반응하기 때문으로 판단된다. 따라서 정수장 수처리 공정에서 인공지능 알고리즘의 적용을 위해서는 랜덤포레스트와 같이 의사결정 트리구조의 도입과 적용이 타당한 것으로 나타났다. 본 연구에서 분석된 결과를 근거로 전염소 공정이 도입된 정수장 수처리 공정에서 염소주입량을 실시간으로 예측 가능하게 함으로써 침전지 유출수에서 잔류염소농도를 일정하게 유지하는데 기여할 수 있을 것으로 기대된다.

Structural monitoring of movable bridge mechanical components for maintenance decision-making

  • Gul, Mustafa;Dumlupinar, Taha;Hattori, Hiroshi;Catbas, Necati
    • Structural Monitoring and Maintenance
    • /
    • 제1권3호
    • /
    • pp.249-271
    • /
    • 2014
  • This paper presents a unique study of Structural Health Monitoring (SHM) for the maintenance decision making about a real life movable bridge. The mechanical components of movable bridges are maintained on a scheduled basis. However, it is desired to have a condition-based maintenance by taking advantage of SHM. The main objective is to track the operation of a gearbox and a rack-pinion/open gear assembly, which are critical parts of bascule type movable bridges. Maintenance needs that may lead to major damage to these components needs to be identified and diagnosed timely since an early detection of faults may help avoid unexpected bridge closures or costly repairs. The fault prediction of the gearbox and rack-pinion/open gear is carried out using two types of Artificial Neural Networks (ANNs): 1) Multi-Layer Perceptron Neural Networks (MLP-NNs) and 2) Fuzzy Neural Networks (FNNs). Monitoring data is collected during regular opening and closing of the bridge as well as during artificially induced reversible damage conditions. Several statistical parameters are extracted from the time-domain vibration signals as characteristic features to be fed to the ANNs for constructing the MLP-NNs and FNNs independently. The required training and testing sets are obtained by processing the acceleration data for both damaged and undamaged condition of the aforementioned mechanical components. The performances of the developed ANNs are first evaluated using unseen test sets. Second, the selected networks are used for long-term condition evaluation of the rack-pinion/open gear of the movable bridge. It is shown that the vibration monitoring data with selected statistical parameters and particular network architectures give successful results to predict the undamaged and damaged condition of the bridge. It is also observed that the MLP-NNs performed better than the FNNs in the presented case. The successful results indicate that ANNs are promising tools for maintenance monitoring of movable bridge components and it is also shown that the ANN results can be employed in simple approach for day-to-day operation and maintenance of movable bridges.