• 제목/요약/키워드: Hidden layer

검색결과 512건 처리시간 0.025초

진화연산을 이용한 동적 귀환 신경망의 구조 저차원화 (Structure Pruning of Dynamic Recurrent Neural Networks Based on Evolutionary Computations)

  • 김대준;심귀보
    • 한국지능시스템학회논문지
    • /
    • 제7권4호
    • /
    • pp.65-73
    • /
    • 1997
  • 본 논문에서는 진화연산을 이용하여 동적 귀환 신경망의 구조를 저차원화하는 방법을 제안한다. 일반적으로 진화연산을 개체군을 이용한 탐색 방법으로서 신경회로망의 여러 가지 다른 성질을 동시에 최적화할 필요가 있을 때 유용한 방법이다. 본 연구에서는 동적 귀환 신경망의 구조를 조차원화하기 위하여 진화 프로그래밍으로 신경망의 구조를 탐색하고, 진화전략으로 신경망의 연결강도를 학습시킴으로서 전체적인 구조를 저차원화하였다.신경망의 중간층 노드의 추가/삭제는 돌연변이 확률에 의하여 결정한다. 노드를 삭제할 경우에는 입력 연결강도의 총합이 가장 작은 노드를 삭제하고, 노드를 추가할 경우에는 미리 지정한 확률함스에 따라 노드를 추가한다. 그리고 추가된 노드와 다른 노드와의 연결방법은 서로 영향을 미칠 수 있는 모든 연결강도 중에서 확률적으로 선택하여 연결하였다. 마지막으로 제안한 저차원화 동적 귀환 신경망이 완전 연결된 신경망보다 더 좋은 성능을 얻을 수 있음을 예제로서 본 논문에서는 도립진자의 안정화 및 제어와 로봇 매니퓰레이터의 비주얼 서보잉에 적용하여 컴퓨터 시뮬레이션을 통하여 그 유효성을 확인한다.

  • PDF

CT 전처리 기법을 이용하여 조명변화에 강인한 얼굴인식 시스템 설계 (Design of Robust Face Recognition System with Illumination Variation Realized with the Aid of CT Preprocessing Method)

  • 진용탁;오성권;김현기
    • 한국지능시스템학회논문지
    • /
    • 제25권1호
    • /
    • pp.91-96
    • /
    • 2015
  • 본 연구는 조명변화에 강인한 CT 전처리 기법 기반 개선된 얼굴인식 시스템을 소개한다. 전처리 알고리즘으로 CT알고리즘은 조명이 없는 환경에서도 얼굴의 지역적인 특징만을 추출한다. 얼굴의 지역적인 특징 추출을 가능하게 해준다. 처리된 데이터는 $(2D)^2$ 기반 대표적인 차원축소 알고리즘인 PCA를 사용하여 특징을 추출하였다. 전처리 알고리즘을 통한 특징 데이터는 제안한 방사형 기저함수 신경회로망의 입력으로 사용하였다. 방사형 기저함수 신경회로망의 은닉층은 FCM으로 구성하였고, 연결가중치는 1차 선형식을 사용하였다. 또한 ABC 알고리즘을 이용하여 제안된 분류기의 파라미터, 즉 입력의 수, 퍼지 클러스터링의 퍼지화 계수를 최적화 한다. 본 연구는 제안된 시스템의 성능 평가를 위해 Yale Face database B와 CMU PIE database로 실험하였다.

오차 역전파 알고리즘을 갖는 MLP를 이용한 한국 지명 인식에 대한 연구 (A Study on the Spoken Korean Citynames Using Multi-Layered Perceptron of Back-Propagation Algorithm)

  • 송도선;이재건;김석동;이행세
    • 한국음향학회지
    • /
    • 제13권6호
    • /
    • pp.5-14
    • /
    • 1994
  • 이 논문은 오차역전달(error back-propagation) 알고리듬을 갖는 다층구조 퍼셉트런(Multi-Layered Perceptron)을 사용하여 우리말 단어음성을 화자종속으로 기계 인식하는 실험에 관한 연구 결과다. 대상단어는 시외 자동전화 지역번호표에서 임의로 선택한 50개 지역명이며, 이 중 43개는 2음절로 구성되어있고 나머지 7개는 3음절이다. 단어를 음소나 음절별로 분리(segmentation)하지 않고, 단어의 각 부분에서 골고루 추출된 특징성분을 신경망에 입력하는 방법을 사용했다. 그렇게 함으로써 발음지속시간에 관계없는 결과를 얻을 수 있으며, 이 때 사용된 특징 성분은 선형예측분석으로 구해진 PARCOR계수다. 전체학습과 구분학습의 비교, 프레임 갯수와 PARCOR차수에 대한 인식률의 의존도, 중간층 뉴런의 갯수에 대한 인식률의 변동, 그리고 출력층 뉴런의 구성 방법에 따른 비교 등 4가지 실험을 통하여 가장 최량의 조건을 찾아보고자 하였다. 이 연구를 발전시킨다면 실시간의 화자독립 소규모어휘 음성인식이 가능해질 것으로 보인다.

  • PDF

Mesh Networks을 위한 다중채널 다중인터페이스 MAC 프로토콜에 관한 연구 (A Study on Multi-Channel Multi-Interface MAC Protocols for Mesh Networks)

  • 김영범
    • 한국정보통신학회논문지
    • /
    • 제15권7호
    • /
    • pp.1465-1470
    • /
    • 2011
  • 본 논문에서는 무선 애드혹 네트워크에서 복수개 채널을 이용한 효율적인 매체접속제어 프로토콜로써 DM-MMAC (Doze Mode Multi-Chanel MAC)을 제안한다. 기존의 IEEE 802.11 프로토콜의 경우 물리계층에서 복수개의 가용 채널이 주어지나 MAC 계층에서는 오직 고정된 단일채널을 통한 접속만이 가능하다. 이를 보완하기 위한 프로토콜로써 여러 가지 멀티채널 MAC 프로토콜이 제안되었으나 대부분의 경우 채널수가 적고 호스트의 수가 많아지면 전송 처리율(throughput)이 급격히 저하되는 문제점이 있다. 본 연구에서는 기존 MMAC 프로토콜의 채널 할당 및 채널점유 과정을 단순화하고 호스트 간 충돌가능성을 줄임으로써 절전효과와 함께 전송률 향상을 도모하였다.

Caffe를 이용한 얼굴 인식 파이프라인 모델 구현 (Implementation of Face Recognition Pipeline Model using Caffe)

  • 박진환;김창복
    • 한국항행학회논문지
    • /
    • 제24권5호
    • /
    • pp.430-437
    • /
    • 2020
  • 제안 모델은 얼굴 검출과 랜드마크 및 얼굴 인식 알고리즘을 이용하여 인공신경망으로 학습을 통해 얼굴 예측률과 인식률을 향상하는 모델을 구현하였다. 제안 모델은 특정 인물의 얼굴 영상에서 랜드마킹을 한 후, 기존에 학습된 Caffe 모델을 이용하여 얼굴검출과 임베딩 벡터 128D를 추출하였다. 학습은 기계학습 알고리즘인 SVM (support vector machine)과 DNN (deep neural network)을 구축하여 학습하였다. 얼굴인식은 학습된 모델을 이용하여 학습된 인물 중 다른 얼굴 영상으로 테스트하였다. 실험 결과, SVM 보다는 DNN으로 학습한 결과가 우수한 예측률과 인식률을 보였다. DNN의 중간층을 증가하게 되면 예측률은 높아지나 인식률이 감소하는 현상이 발생하였다. 이것은 인식하고자 하는 대상이 적음으로써 발생하는 과적합으로 판단된다. 제안 모델은 명확한 얼굴 영상을 추가하여 학습한 결과, 높은 예측률과 인식률의 결과를 얻을 수 있음을 확인할 수 있었다. 본 연구는 좀 더 많은 얼굴 영상 데이터를 이용함으로써 보다 효과적인 딥러닝 구축을 통해 보다 향상된 인식률과 예측률을 얻을 수 있을 것이다.

다층 퍼셉트론에서의 빠른 화자 적응을 위한 선택적 주의 학습 (Selective Attentive Learning for Fast Speaker Adaptation in Multilayer Perceptron)

  • 김인철;진성일
    • 한국음향학회지
    • /
    • 제20권4호
    • /
    • pp.48-53
    • /
    • 2001
  • 본 논문에서는 에러 역전파 알고리듬에 기반한 다층 퍼셉트론의 학습 속도를 개선하기 위해 선택적 주의 학습방식을 제안한다. 제안된 방식은 학습 과정에서 세 가지 선택적 주의 기준을 적용하여 학습 데이터베이스 내의 일부 데이터만을 입력 패턴으로 사용하거나 주어진 입력 패턴에 대해 신경회로망내의 특정 영역만 선택적으로 학습이 이루어지도록 한다. 이러한 선택적 주의 기준은 다층 퍼셉트론의 출력층에서 계산된 평균 자승 에러와 은닉층의 각 노드에서 획득된 클래스 의존적인 적합도(relevance)를 이용하여 설정된다. 학습 속도의 개선은 학습 반복 횟수 당 계산량을 줄임으로써 이루어진다. 본 논문에서는 고립 단어 인식시스템에서의 화자 적응 문제에 대해 제안한 선택적 주의 학습방법을 적용하여 그 유효성을 알아보았다. 실험 결과로부터 제안한 선택적 주의 기법이 학습 속도를 평균 60%이상 개선시킬 수 있음을 확인하였다

  • PDF

개입 승법계절 ARIMA와 인공신경망모형을 이용한 해상운송 물동량의 예측 (Forecasting the Seaborne Trade Volume using Intervention Multiplicative Seasonal ARIMA and Artificial Neural Network Model)

  • 김창범
    • 한국항만경제학회지
    • /
    • 제31권1호
    • /
    • pp.69-84
    • /
    • 2015
  • 본고는 개입 승법계절 ARIMA모형과 인공신경망모형을 이용하여 해상운송 물동량을 추정하고 사전적 예측치를 도출하였다. 개입 ARIMA의 추정결과 오차항에서 자기상관이 존재하지 않고 정규성이 존재함으로써 오차항의 기본가정이 잘 충족되고 있음을 확인하였다. 그리고 개입 승법계절 ARIMA모형과 인공신경망모형에 대해 예측실적 오류를 ME, MAE, RMSE, MSE로 측정한 결과 ARIMA $(2,1,0)(1,0,1)_{12}$이 가장 우수한 예측모형임을 확인할 수 있었다. 2015년부터 2019년까지의 기간에 대해 개입 ARIMA모형을 이용한 해상운송 물동량의 사전적 예측치 결과 4.54%에서 4.99%의 연평균 증가율을 보였고, 인공신경망모형을 이용한 예측결과 2.00%에서 2.44%까지의 연평균 증가율을 나타냈다.

인지적 정신과제 판정을 위한 EEG해석 (EEG Analysis for Cognitive Mental Tasks Decision)

  • 김민수;서희돈
    • 센서학회지
    • /
    • 제12권6호
    • /
    • pp.289-297
    • /
    • 2003
  • 본 논문에서는 정신적 과제수행 동안 EEG 뇌파의 정확한 분류방법에 관하여 기술한다. 피험자는 실험 task에서 시각적 자극에 대한 반응, 문제의 해석, 손동작 제어와 키 선택을 수행한다. 선택시간을 감지하기 위하여 측정한 뇌파로부터 $\alpha$, $\beta$, $\theta$, $\gamma$를 분리하고 4가지의 특징들을 해석한파. 이 특징들을 분석하여 각 피험자별로 공통적인 특징플로 구성된 일반 규칙을 설정한다. 본 시스템의 신경망은 1개의 은닉층을 갖는 3층의 피드포워드 신경망 구조를 가지며 학습에는 역전파 학습 알고리즘을 이용하였다. 4명의 피험자를 대상으로 설정한 알고리즘들을 적용하여 평균 87% 분류 성공률을 보였다. 본 논문에서 제안한 방법은 인지적인 정신과제 판별을 위한 방법들과 결합하여 BCI 기술을 위한 기반 기술로 활용될 수 있다.

HOG-PCA와 객체 추적 알고리즘을 이용한 보행자 검출 및 추적 시스템 설계 (Design of Pedestrian Detection and Tracking System Using HOG-PCA and Object Tracking Algorithm)

  • 전필한;박찬준;김진율;오성권
    • 전기학회논문지
    • /
    • 제66권4호
    • /
    • pp.682-691
    • /
    • 2017
  • In this paper, we propose the fusion design methodology of both pedestrian detection and object tracking system realized with the aid of HOG-PCA based RBFNN pattern classifier. The proposed system includes detection and tracking parts. In the detection part, HOG features are extracted from input images for pedestrian detection. Dimension reduction is also dealt with in order to improve detection performance as well as processing speed by using PCA which is known as a typical dimension reduction method. The reduced features can be used as the input of the FCM-based RBFNNs pattern classifier to carry out the pedestrian detection. FCM-based RBFNNs pattern classifier consists of condition, conclusion, and inference parts. FCM clustering algorithm is used as the activation function of hidden layer. In the conclusion part of network, polynomial functions such as constant, linear, quadratic and modified quadratic are regarded as connection weights and their coefficients of polynomial function are estimated by LSE-based learning. In the tracking part, object tracking algorithms such as mean shift(MS) and cam shift(CS) leads to trace one of the pedestrian candidates nominated in the detection part. Finally, INRIA person database is used in order to evaluate the performance of the pedestrian detection of the proposed system while MIT pedestrian video as well as indoor and outdoor videos obtained from IC&CI laboratory in Suwon University are exploited to evaluate the performance of tracking.

역전파 알고리듬과 사전을 이용한 필기체 영문자 인식 (A Recognition of Handwritten English Characters Using Back Propagation Algorithm and Dictionary)

  • 김응성;조성환;이근영
    • 한국통신학회논문지
    • /
    • 제18권2호
    • /
    • pp.157-168
    • /
    • 1993
  • 본 논문에서는 역전파 알고리듬으로 학습된 신경회로망과 사전을 이용하여 필기체 영문자 인식을 수행하였다. 스캐너를 이용하여 입력된 영상화일로부터 불필요한 데이터 부분을 제거하고 문자의 다양성을 최소화하기 위해서 여러가지 전처리과정, 즉 문자분리, 중심변환, 잡음제거, 배율조정과 세선화과정을 거쳤다. 다음으로 세선화된 문체 패턴으로부터 문자의 특징이 추출되고, 신경회로망에 시험데이터에 대한 특징들을 학습시켰다. 그리고 테스트할 영문자에 대해서도 특징들을 추출하여 이미 학습된 신경회로망에 의해 분류하였다. 마지막으로 학습시간을 줄이고 인식율을 향상시키기 위한 방법과 학습시간과 은닉층의 노드수에 대해 고찰하였다. 실험 결과로서 이와 같은 시스템으로 필기체 영문제에 대하여 학습후에 약 93%의 높은 인식율을 얻을 수 있었을 사전을 이용했을 경우 인식율이 약 97%였다.

  • PDF