• 제목/요약/키워드: 퍼셉트론

검색결과 386건 처리시간 0.025초

다층 퍼셉트론의 층별 학습을 위한 중간층 오차 함수 (A New Hidden Error Function for Layer-By-Layer Training of Multi layer Perceptrons)

  • 오상훈
    • 한국콘텐츠학회:학술대회논문집
    • /
    • 한국콘텐츠학회 2005년도 추계 종합학술대회 논문집
    • /
    • pp.364-370
    • /
    • 2005
  • 다층 퍼셉트론의 학습을 빠르게 하기 위한 방법으로 층별 학습이 제안되었었다. 이 방법에서는 각 층별로 주어진 오차함수를 최적화 방법을 사용하여 감소시키도록 학습이 이루어진다. 이 경우 중간층 오차함수가 학습의 성능에 큰 영향을 미치는 데, 이 논문에서는 층별 학습의 성능을 개선하기 위한 중간층 오차함수를 제안한다. 이 중간층 오차함수는 출력층 오차함수에서 중간층 가중치의 학습에 관계된 성분을 유도하는 형태로 제안된다. 제안한 방법은 필기체 숫자 인식과 고립단어인식 문제의 시뮬레이션으로 효용성을 확인하였다.

  • PDF

유전자 프로그램의 진화를 이용한 자율이동로봇의 행동 학습 (Learning Robot Behaviors by Evolving Genetic Programs)

  • 이광주;장병탁
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2000년도 봄 학술발표논문집 Vol.27 No.1 (B)
    • /
    • pp.259-261
    • /
    • 2000
  • 주어진 환경에 대한 특별한 사전 지식 없이 그 환경에 적응할 수 있는 자율이동로봇을 설계할 때는 우선 특정한 상황에서만 유효한 가정들을 될 수 있는 대로 배제하여야 한다. 본 논문에서는 이러한 적응 능력을 갖춘 자율이동로봇을 설계하기 위한 일환으로 유전자 프로그램을 이용하여 로봇의 제어기를 표현하고, 이를 진화하여 로봇이 현재 자신의 주변에서 얻을 수 있는 정보에만 기초하여 목표물을 찾아가는 행동 규칙을 학습하도록 하였다. 로봇은 현재 자신이 놓여있는 환경에 대한 지도를 작성하지 않은 채 현재 자신의 주변에서 얻을 수 있는 지역적인 정보만으로 특정 목표물을 찾아가도록 학습된다. 로봇은 먼저 단층 퍼셉트론을 사용하여 주어진 공간내의 장애물과 목표물을 인지하도록 학습된다. 그 이후 학습된 퍼셉트론을 유전자 프로그램의 함수 노드로 사용하여 트리를 진화시켰다. Khepera 시뮬레이터를 이용한 실험 결과, 로봇은 제한된 지역 정보만을 사용하여 목표물을 찾아가는 행동 규칙을 매우 안정적으로 학습할 수 있었다.

  • PDF

카테고리분류를 위한 다층퍼셉트론 신경회로망과 최대유사법의 성능비교 (Performance Comparision of Multilayer Perceptron Nueral Network and Maximum Likelihood Classifier for Category Classification)

  • 임태훈;서용수
    • 대한공간정보학회지
    • /
    • 제4권2호
    • /
    • pp.137-147
    • /
    • 1996
  • 본 논문에서는 통계적 분류방법인 최대유사 분류법(MLC: maximum likelihood classifier)과 신경회로망을 이용한 분류법인 다층퍼셉트론(MLP: multiayer perceptron) 분류법간의 분류성능을 비교 평가하였으며, 또한 MLP 분류법에서 문제가 되고 있는 학습률(learning rate), 운동량 상수(,momentum constant), 은닉층의 노드수에 따른 MLP 분류법의 분류성능을 평가하였다. 부산지역에 대한 실제 인공위성 화상데이타인 Landsat TM 화상데이타를 사용하여 MLP 분류법과 MLC 분류법의 성능을 비교한 결과 MLP 분류법의 성능이 더 우사함을 확인할 수 있었으며, 학습률, 운동량 상수 및 은닉층의 노드수에 따른 분류성능도 평가하였다.

  • PDF

Sugeno 퍼지 모델을 이용한 신경망의 학습률 조정 ((Tuning Learning Rate in Neural Network Using Sugeno Fuzzy Model))

  • 라혁주;서재용;김성주;전흥태
    • 한국지능시스템학회:학술대회논문집
    • /
    • 한국퍼지및지능시스템학회 2003년도 춘계 학술대회 학술발표 논문집
    • /
    • pp.77-80
    • /
    • 2003
  • 신경망의 퍼셉트론 학습법에는 이진 또는 연속 활성화 함수가 사용된다. 초기 연결강도는 임의의 값으로 설정하며, 목표치와 실제 출력과의 차이를 이용하는 것이 주된 특징이다. 즉 구해진 오차는 학습률에 따라서 다음 단계의 연결강도에 영향을 주게 된다. 이런 경우 학습률이 너무 크면 수렴성을 보장할 수 없으며, 반대로 너무 작게 선정하면 학습이 매우 느리게 진행되는 단점이 발생한다. 이런 이유로 능동적인 학습률의 변화는 신경망의 퍼셉트론 학습법에 중요한 관건이 리며, 주어진 문제를 최적으로 학습을 위해서는 결국 상황에 따른 적절한 학습률 조정이 필요하다. 본 논문에서는 학습률 조정에 퍼지 모델을 적용하는 신경망 학습 방법을 제안하고자 한다. 제안한 방법에 의한 학습은 오차의 변화에 따라 학습률을 조정하는 방식을 사용하였고, 그 결과 연결강도를 능동적으로 변화시켜 효과적인 학습 결과를 얻었다. 학습률 변화는 'Sugeno 퍼지 모델'을 이용하여 구현하였다.

  • PDF

협력적 추천을 위한 효율적인 통합 방법 (Efficient Combining Methods for a Collaborative Recommendation)

  • 도영아;김종수;류정우;김명원
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2001년도 가을 학술발표논문집 Vol.28 No.2 (2)
    • /
    • pp.130-132
    • /
    • 2001
  • 신경망을 이용한 추천 기술은 항목이나 사용자간의 가중치를 학습할 수 있고, 자료 유형에 상관없이 데이터 처리가 용이하다. 또한 최근 연구를 통해서 그 우수성이 입증되고 있다. 그러나 사용자간의 상관관계로 추천하는 사용자 신경망 모델과 항목간의 상관관계로 추천하는 항목 신경망 모델이 서로 다른 관점으로 다른 선호도를 제시한 경우에 선택한 모델의 선호도에 따라 시스템의 성능이 좌우된다. 그러므로 효율적이고 성능이 우수한 추천 시스템을 위해 사용자와 항목 신경망 모델의 통합 방법을 제안한다. 두 모델 사이에 우선 순위를 결정하여 통합하는 순차적 통합 방법과 두 모델을 동시에 고려하는 병렬적 통합방법을 제안한다. 그러나 두 통합 방법은 선호도 예측 기준에 있어서 정적이고, 문제에 대한 적응성이 없다. 그러므로 신경망(퍼셉트론, 다층 퍼셉트론)을 이용한 통합 방법을 제안한다. 또한 퍼지의 소속함수를 이용하여 퍼지 추론를 적용한 통합 방법을 제안하고, 패턴 인식 분야에서 사용하는 BKS 방법을 적응하여 두 신경망 모델을 통합하여 실험한다. 본 논문에서는 사용자와 항목 신경망 모델을 통합함으로써 기존의 추천 기술인 연관 규칙과 단일 신경망 모델을 이용한 추천보다 우수함을 보이고 있다.

  • PDF

가우스 전위함수를 가지는 신경회로망 모델

  • 오상훈;김명원
    • 전자통신동향분석
    • /
    • 제5권2호
    • /
    • pp.39-50
    • /
    • 1990
  • 다층 퍼셉트론 신경회로망 모델이 여러가지 복잡한 문제를 역전파 학습에 의하여 해결할 수 있다고 보고된 후로, 이 모델을 이용한 응용분야의 연구가 활발하다. 그렇지만, 이 다층 퍼셉트론 모델은 오랜 학습시간이 필요하며, 또 분류경계가 입력층과 숨겨진 층간의 연결가중치에 의해 결정되는 초기하 평면의 조합으로 이루어지기 때문에, 숨겨진 층의 뉴런 수가 부족하면 분류경계를 제대로 나타낼 수 없게 된다. 이러한 단점들을 극복하기 위하여 숨겨진 층의 활성화 함수는 시그모이드 형태가 아닌 가우스 함수가 되도록 하고 이 가우스 함수들의 선형적 합에 의하여 출력층 뉴런들의 값이 결정되는, 즉, 가우스 함수가 출력층의 전위함수(potential function)가 되는 신경회로망이 여러번 제안되었다. 본 논문에서는 가우스 함수를 전위함수로 가지는 신경회로망 모델들에 대하여 이 모델들의 실제 응용 예와 함께 알아보겠다.

기계학습 기법에 의한 비정상행위 탐지기반 IDS의 성능 평가 (Performance Evaluation of IDS based on Anomaly Detection Using Machine Learning Techniques)

  • 노영주;조성배
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2002년도 추계학술발표논문집 (중)
    • /
    • pp.965-968
    • /
    • 2002
  • 침입탐지 시스템은 전산시스템을 보호하는 대표적인 수단으로, 오용탐지와 비정상행위탐지 방법으로 나눌 수 있는데, 다양화되는 침입에 대응하기 위해 비정상행위 탐지기법이 활발히 연구되고 있다. 비 정상행위기반 침임탐지 시스템에서는 정상행위 구축 방법에 따라 다양한 침입탐지율과 오류율을 보인다. 본 논문에서는 비정상행위기반 침입탐지시스템을 구축하였는데, 사용되는 대표적인 기계학습 방법인 동등 매칭(Equality Matching), 다층 퍼셉트론(Multi-Layer Perceptron), 은닉마르코프 모델(Hidden Markov Model)을 구현하고 그 성능을 비교하여 보았다. 실험결과 다층 퍼셉트론과 은닉마르코프모델이 높은 침입 탐지율과 낮은 false-positive 오류율을 내어 정상행위로 사용되는 시스템감사 데이터에 대한 정보의 특성을 잘 반영하여 모델링한다는 것을 알 수 있었다.

  • PDF

귀납적 학습방법들의 분류성능 비교 : 기업신용평가의 경우 (Classification Performance Comparison of Inductive Learning Methods : The Case of Corporate Credit Rating)

  • 이상호;지원철
    • 지능정보연구
    • /
    • 제4권2호
    • /
    • pp.1-21
    • /
    • 1998
  • 귀납적 학습방법들의 분류성능을 비교 평가하기 위하여 대표적 분류문제의 하나인 신용평가 문제를 사용하였다. 분류기로서 사용된 귀납적 학습방법론들은 통계학의 다변량 판별분석(MDA), 기계학습 분야의 C4.5, 신경망의 다계층 퍼셉트론(MLP) 및 Cascade Correlation Network(CCN)의 4 가지이며, 학습자료로는 국내 3개 신용평가기관이 발표한 신용등급 및 공포된 재무제표를 사용하였다. 신용등급 예측의 정확도에 의한 분류성능을 평가하였는데 연도별 평가와 시계열 평가의 두 가지를 실시하였다. Cascade Correlation Network이 가장 좋은 분류성능을 보였지만 4가지 분류기들 사이에 통계적으로 유의한 차이는 발견되지 않았다. 이는 사용된 학습자료가 갖는 한계로 인한 것으로 추정되지만, 성능평가 과정에 있어 학습자료의 전처리 과정이 분류성과의 제고에 매우 유효함이 입증되었다.

  • PDF

퍼셉트론 형태의 SOM : SOM의 일반화 (Perceptron-like SOM : Generalization of SOM)

  • 송근배;이행세
    • 한국정보처리학회논문지
    • /
    • 제7권10호
    • /
    • pp.3098-3104
    • /
    • 2000
  • 본 논문에서는 퍼셉트론 형태의 SOM(PSOM)을 정의한다. 그리고 이 PSOM의 출력뉴런의 목표 값을 적당히 설정할 경우 PSOM은 Kohonen's SOM이 됨을 보인다. 이는 PSOM가 SOM의 일반화된 알고리즘임을 시사한다. 또한 클러스터링 문제를 단위 초구면상(Hyperphere)에 분포한 벡터들로 한정할 경우 SOM은 Dot-product SOM(DSOM)과 동등한 알고리즘임을 보인다. 즉, DSOM은 SOM의 특수한 형태이며, 결론적으로, PSOM은 DSOM도 포함하는 알고리즘이다. 본 논문에서는 이를 증명하고 결론을 맺는다.

  • PDF

학생 중도탈락 예측 모델에 관한 연구 (A Study on the Prediction Model for Student Dropout)

  • 이종혁;김대학;길준민
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2018년도 춘계학술발표대회
    • /
    • pp.37-40
    • /
    • 2018
  • 빅데이터 산업 부상과 함께 교육 데이터 분석 분야가 새롭게 주목받고 있다. 교육 현장에서 학습 데이터의 양과 종류는 꾸준히 증가하고 있고 이를 분석하기 위한 정보기술도 계속 발전하고 있다. 한편, 학교 교육은 사회적 성취와 밀접한 관련이 있어 사회이동의 중요한 수단이 되는 만큼 학교 교육으로부터 이탈할 위험이 있는 학생들을 조기에 발견하여 이탈을 방지하는 것은 매우 중요하다. 본 논문은 대학생의 중도탈락을 예방하기 위해 로지스틱 회귀분석과 다층 퍼셉트론 기법을 이용해 학습 데이터를 분석하여 예측 모델을 생성하고 해당 모델을 평가한다. 평가 결과, 다층 퍼셉트론 모델이 로지스틱 회귀분석 모델에 비해 정확도와 재현율은 우수하였지만 정밀도는 약간 저조하였다.