• Title/Summary/Keyword: 학습계수

Search Result 548, Processing Time 0.034 seconds

A Study on the Digital Hardware Implementation of Self-Organizing feature Map Neural Network with Constant Adaptation Gain and Binary Reinforcement Function (일정 학습계수와 이진 강화함수를 가진 SOFM 신경회로망의 디지털 하드웨어 구현에 관한 연구)

  • 조성원;석진욱;홍성룡
    • Proceedings of the Korean Institute of Intelligent Systems Conference
    • /
    • 1997.10a
    • /
    • pp.402-408
    • /
    • 1997
  • 일정 학습계수와 이진 강화함수를 지닌 자기조직화 형상지도(Self-Organizing Feature Map)신경회로망을 FPGA위에 하드웨어로 구현하였다. 원래의 SOFM 알고리즘에서 학습계수가 시간 종속형인데 반하여, 본 논문에서 하드웨어로 구현한 알고리즘에서는 학습계수가 일정인 값으로 고정되며 이로 인한 성능저하를 보상하기 위하여 이진 강화함수를 부가하였다. 제안한 알고리즘은 복잡한 곱셈 연산을 필요로 하지 않으므로 하드웨어 구현시 보다 쉽게 구현 가능한 특징이 있다. 1개의 덧셈/뺄셈기와 2개의 덧셈기로 구성된 단위 뉴런은 형대가 단순하면서 반복적이므로 하나의 FPGA위에서도 다수의 뉴런을 구현 할 수 있으며 비교적 소수의 제어 신호로서 이들을 모두 제어 가능할 수 있도록 설계하였다. 실험결과 각 구성부분은 모두 이상 없이 올바로 동작하였으며 각 부분이 모두 종합된 전체 시스템도 이상 없이 동작함을 알 수 있었다.

  • PDF

The Effect of Initial Weight, Learning Rate and Regularized Coefficient on Generalization Performance (신경망 학습의 일반화 성능향상을 위한 초기 가중값과 학습률 그리고 계수조정의 효과)

  • Yoon YeoChang
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2004.11a
    • /
    • pp.493-496
    • /
    • 2004
  • 본 연구에서는 신경망 학습의 중요한 평가 척도로써 고려될 수 있는 일반화 성능과 학습속도를 개선시키기 위한 방안으로써 초기 가중값과 학습률과 같은 주요 인자들을 이용한 신경망 학습 영향을 살펴본다. 특히 초기 가중값과 학습률을 고정시킨 후 새롭게 조정된 계수들을 점차적으로 변화시키는 새로운 인자 결합방법을 이용하여 신경망 학습량과 학습속도를 비교해 보고 계수조정을 통한 개선된 학습 영향을 살펴본다. 그리고 단순한 예제를 이용한 실증분석을 통하여 신경망 모형의 일반화 성능과 학습 속도 개선을 위한 각 인자들의 개별 효과와 결합 효과를 살펴보고 그 개선 방안을 제시한다.

  • PDF

The Joint Effect of factors on Generalization Performance of Neural Network Learning Procedure (신경망 학습의 일반화 성능향상을 위한 인자들의 결합효과)

  • Yoon YeoChang
    • The KIPS Transactions:PartB
    • /
    • v.12B no.3 s.99
    • /
    • pp.343-348
    • /
    • 2005
  • The goal of this paper is to study the joint effect of factors of neural network teaming procedure. There are many factors, which may affect the generalization ability and teaming speed of neural networks, such as the initial values of weights, the learning rates, and the regularization coefficients. We will apply a constructive training algerian for neural network, then patterns are trained incrementally by considering them one by one. First, we will investigate the effect of these factors on generalization performance and learning speed. Based on these factors' effect, we will propose a joint method that simultaneously considers these three factors, and dynamically hue the learning rate and regularization coefficient. Then we will present the results of some experimental comparison among these kinds of methods in several simulated nonlinear data. Finally, we will draw conclusions and make plan for future work.

Disease Region Pattern Recognition Algorithm of Gastrointestinal Image using Wavelet Transform and Neural Network (Wavelet변환과 신경회로망에 의한 위장 영상의 질환 부위 패턴 인식 알고리즘)

  • 이상복;이주신
    • Journal of the Korean Institute of Telematics and Electronics S
    • /
    • v.36S no.5
    • /
    • pp.70-77
    • /
    • 1999
  • 본 논문에서는 Wavelet을 이용한 위장 영상의 질환 부위 특징을 추출하여 질환 부위 패턴을 인식할 수 있는 알고리즘을 제안하였다. 전처리 과정으로서 위장 영상이 형태정보는 입력 영상을 DWT(Discrete wavelet transform)에 의해 4레벨 DWT 계수 행렬을 구하고 계수 행렬의 특징에 따라 저주파 계수 행렬로부터 저주파 특징 파라미터 32개, 수평 고주파 계수 행렬로부터 수평 고주파 특징 파라미터 16개, 수직 고주파 계수 행렬로부터 수직 고주파 특징 파라미터 16개, 그리고, 대각 고주파 계수 행렬로부터 대각 고주파 특징 파라미터 32개 등 모두 96개의 특징 파라미터를 추출한 후 각각의 특징 파라미터를 최대 값+0.5로 최소 값을 -0.5로 정규화 하여 신경회로망의 입력 벡터로 사용하였다. 위장 영상 패턴 인식을 위한 신경회로망은 교사 학습을 요구하는 다층 구조의 오차 역전파(Error back propagation)알고리즘으로 하였고 구조적 특성을 이용하여 입력층, 중간층, 출력층의 계층 구조로 설계하였다. 설계된 신경회로망의 학습은 학습계수를 0.2로 모우멘텀을 0.6으로 설정하여 출력층 최대오차가 0.01보다 작을 때까지 수행하였으며 약 8000회 정도 학습한 결과 설정값 보다 작은 결과를 얻었고 질환의 종류나 위치, 크기에 관계없이 100%의 인식률을 얻었다.

  • PDF

Urban flood prediction through the linkage between the statistical characteristics of rainfall and the AI model (강우의 통계적 특성과 AI 모형의 연계를 통한 도시침수예측)

  • Lee, Yeonsu;Yoo, Jaehwan;Kim, Hyun-il;Kim, Byunghyun
    • Proceedings of the Korea Water Resources Association Conference
    • /
    • 2022.05a
    • /
    • pp.97-97
    • /
    • 2022
  • AI 모형을 적용한 도시지역 침수예측에 대한 연구는 꾸준히 수행되어 왔다. AI 모형을 이용해 도시침수예측을 하기 위해서는 모형에 강우자료를 학습시키게 되는데, 시계열 강우분포 자료를AI 모형의 학습자료로 사용하기에 자료의 양이 너무 많기 때문에 총 강우량만을 이용하여 도시침수예측을 수행한 바 있다(Kim et al., 2021). 하지만 총 강우량만을 AI 모형에 학습시킬 경우, 지속기간 동안 강우가 고르게 분포하는지 불규칙적으로 분포하는지에 대한 정보가 포함되지 않았기 때문에 침수예측력이 떨어질 수 있다. 따라서 본 연구에서는 시계열 강우자료의 통계치를 산정하여 AI 모형에 학습시킴으로써 강우분포특성을 고려한 침수예측을 통해 예측력을 높이고자 한다. 총 강우량만을 학습시킬 경우, 같은 지속시간에 같은 양의 강우가 내리더라도 고른 분포를 가진 강우에 의해서는 실제 침수는 작게 일어나므로 과대예측을, 전체 지속시간 중 특정 시간대에 편향된 분포를 가진 강우에 의해서는 실제 침수가 크게 일어나므로 과소예측을 하는 문제가 발생할 수 있다. 따라서 표준편차를 평균 강우량으로 나눈 값인 변동계수, 강우분포의 뾰족한 정도를 나타내는 첨도, 평균값에 대해 어느 방향으로 비대칭인지를 나타내는 왜도 값을 추가로 학습시킴으로써 시계열 강우자료 전체를 학습시키지 않고도 강우분포를 학습시키지 않았을 때 발생하는 과소·과대예측 문제를 해결할 수 있다. 또한 변동계수 대신 표준편차를 학습시키는 모형, 변동계수와 표준편차를 모두 학습시키지 않는 모형, 변동계수와 표준편차를 모두 학습시키는 모형과의 침수예측 결과 비교를 통해 표준편차와 변동계수 중 어떤 통계치를 학습시키는 것이 적합한지와 비슷한 통계치 자료를 모두 학습시켰을 때의 과적합 문제 등에 대한 결론를 얻을 수 있다.

  • PDF

Structural Identification Using substructural and Neural Network Techniques (신경망기법을 사용한 부분구조추정법)

  • 방은영;윤정방
    • Computational Structural Engineering
    • /
    • v.11 no.4
    • /
    • pp.361-370
    • /
    • 1998
  • 본 논문에서는 역전파학습에 의한 신경망기법을 사용하여 구조물의 미지계수를 추정하는 기법을 연구하였다. 대형구조물의 경우 계측 또는 추정하여야 하는 자유도의 수가 많으므로 인하여 구조계수를 추정하는 데에는 많은 어려움이 존재한다. 이러한 어려움을 극복하기 위하여 부구조추정법과 부행렬계수를 사용하여 추정하고자 하는 미지계수의 수를 효율적으로 줄일 수 있도록 하였다. 구조물의 고유주파수 및 모드형상 등의 모드계수를 신경망의 입력자료로 사용하였으며, 추정하고자 하는 부재의 부행렬계수를 신경방의 출력자료로 사용하였다. 입력자료로 사용되는 모드계수에 포함되어 있는 계측오차 및 신호처리오차의 영향을 줄이기 위하여, 신경망의 학습과정에서 노이즈를 첨가하는 기법을 사용하였다. 일반적인 형태의 자켓구조물을 대상으로 수치해석을 수행함으로써 제안기법의 대형구조계에 대한 적용성을 검증하였다.

  • PDF

On the enhancement of the learning efficiency of the self-organization neural networks (자기조직화 신경회로망의 학습능률 향상에 관한 연구)

  • Hong, Bong-Hwa;Heo, Yun-Seok
    • The Journal of Information Technology
    • /
    • v.7 no.3
    • /
    • pp.11-18
    • /
    • 2004
  • Learning procedure in the neural network is updating of weights between neurons. Unadequate initial learning coefficient causes excessive iterations of learning process or incorrect learning results and degrades learning efficiency. In this paper, adaptive learning algorithm is proposed to increase the efficient in the learning algorithms of Self-Organization Neural Networks. The algorithm updates the weights adaptively when learning procedure runs. To prove the efficiency the algorithm is experimented to classification of strokes which is the reference handwritten character. The result shows improved classification rate about 1.44~3.65% proposed method compare with Kohonan and Mao's algorithms, in this paper.

  • PDF

A Structural Analysis of Learner on Adult Female Learners' Learning Outcome (성인여성학습자의 학습성과에 대한 구조분석)

  • Jang, Eun Sook
    • Journal of the Korea Academia-Industrial cooperation Society
    • /
    • v.17 no.3
    • /
    • pp.364-372
    • /
    • 2016
  • This study examined the multi-phrased effects and outcomes of adult female learners who participated in lifelong learning activities, as well as the proposed structural relationships among the five latent variables. Questions established to achieve the purpose of the study are as follow: What effects do the learner's characteristics, lifelong education institutions, learning flow, and learning satisfaction have on the learning come? The participants of the survey numbered 632, but 54 respondents who were unreliable or did not complete their survey were excluded. A total of 578 cases were analyzed for this research. The structural relationships among the five latent variables-learner's characteristics, lifelong education institutions, learning flow and learning satisfaction, and learning outcome of the adult female learners-AMOS 18.0 program were also used for structural analysis. The major findings of this research are as follows. First, the model fitness showed that the hypothetical model provided a reasonable fit to the data ${\chi}^2=224.267$ (df=69, p<.001), RMSEA=.062, TLI=.943, RFI=.920, CFI=.957, IFI=.957, NFI=.939. Second, the learner's characteristics ( =.218, p<.001) and lifelong education institutions ( =.301, p<.001) have a direct effect on the learning outcomes. The learning flow ( =-.149 p=.541) does not have a direct effect on the learning outcome. Learning satisfaction ( =.405 p<.001) have a direct effect on the learning outcome. To put findings above together, in respect to adult female learners' performances, the learning outcomes are influenced directly by the learner characteristics, conditions of the lifelong education institutions, and learning satisfaction, whereas satisfaction indirectly affects the learners' learning outcome.

Comparison of Different Schemes for Speed Sensorless Control of Induction Motor Drives by Neural Network (신경회로망을 이용한 유도전동기의 속도 센서리스 방식에 대한 비교)

  • 국윤상;김윤호;최원범
    • The Transactions of the Korean Institute of Power Electronics
    • /
    • v.5 no.2
    • /
    • pp.131-139
    • /
    • 2000
  • 일반적으로 시스템 인식과 제어에 이용하는 다층 신경회로망은 기존의 역전파 알고리즘을 이용한다. 그러나 결선강도에 대한 오차의 기울기를 구하는 방법이기 때문에 국부적 최소점에 빠지기 쉽고, 수렴속도가 매우 늦으며 초기 결선강도 값들이나 학습계수에 민감하게 반응한다. 이와 같은 단점을 개선하기 위하여 확장된 칼만 필터링 기법을 역전파 알고리즘에 결합하였으나 계산상의 복잡성 때문에 망의 크기가 증가하면 실제 적용할 수 없다. 최근 신경회로망을 선형과 비선형 구간으로 구분하고 칼만 필터링 기법을 도입하여 수렴속도를 빠르게 하고 초기 결선강도 값에 크게 영향을 받지 않도록 개선하였으나, 여전히 은닉층의 선형 오차값을 역전파 알고리즘에 의해서 계산하기 때문에 학습계수에 민감하다는 단점이 있다. 본 논문에서는 위에서 언급한 기존의 신경회로망 알고리즘의 문제점을 개선하기 위하여 은닉층의 목표값을 최적기법에 의하여 직접계산하고 각각의 결선강도 값은 반복최소 자승법으로 온라인 학습하는 알고리즘을 제안하고 이들 신경회로망 알고리즘과 비교하고자 한다. 여러 가지 시뮬레이션과 실험을 통하여 제안된 방법이 초기 결선강도에 크게 영향을 받지 않으며, 기존의 학습계수 선정에 따른 문제점을 해결함으로써 신경회로망 모델에 기초한 실시간 제어기 설계에 응용할 수 있도록 하였다. 또한, 유도전동기의 속도추정과 제어에 적용하여 좋은 결과를 보였다.

  • PDF

Application of Artificial Neural Network to Predict Aerodynamic Coefficients of the Nose Section of the Missiles (인공신경망 기반의 유도탄 노즈 공력계수 예측 연구)

  • Lee, Jeongyong;Lee, Bok Jik
    • Journal of the Korean Society for Aeronautical & Space Sciences
    • /
    • v.49 no.11
    • /
    • pp.901-907
    • /
    • 2021
  • The present study introduces an artificial neural network (ANN) that can predict the missile aerodynamic coefficients for various missile nose shapes and flow conditions such as Mach number and angle of attack. A semi-empirical missile aerodynamics code is utilized to generate a dataset comprised of the geometric description of the nose section of the missiles, flow conditions, and aerodynamic coefficients. Data normalization is performed during the data preprocessing step to improve the performance of the ANN. Dropout is used during the training phase to prevent overfitting. For the missile nose shape and flow conditions not included in the training dataset, the aerodynamic coefficients are predicted through ANN to verify the performance of the ANN. The result shows that not only the ANN predictions are very similar to the aerodynamic coefficients produced by the semi-empirical missile aerodynamics code, but also ANN can predict missile aerodynamic coefficients for the untrained nose section of the missile and flow conditions.