• Proceedings of the Korea Inteligent Information System Society Conference
• /
• 2000.11a
• /
• pp.469-477
• /
• 2000

본 연구에서는 부도예측용 인공신경망 모형의 입력노드를 선정하기 위한 방법론으로 연결강도판별분석(Link Weight Discrimination Analysis)에 의한 약체뉴론제거법(Weak-Linked Neuron Elimination)과 강체뉴론선택법 (Strong-Linked Neurons Selection)을 제안한다. 연결강도판별분석이란 적절한 학습이 끝난 인공신경망 모형에서 입력노드와 연결되는 가중치의 합에 대한 절대값인 연결강도 판별식(Link Weight Discrimination)에 의해 해당 입력노 드가 출력노드에 미치는 영향정도를 분석하는 것이다. 한편 강체연결뉴론선택법은 선처리를 통해 얻어진 학습된 인공신경망의 입력노드 가운데서 연결강도판별식이 큰 뉴론만을 본처리의 입력노드로 선정하는 것인데 비해 약체연결뉴론제거법은 연결강도판별식이 일정 값 즉, 연결강도 판별임계치(Link Weight Discrimination Cut off Value) 보다 낮은 입력노드를 제외하고 나머지 입력노드만을 본처리의 입력노드로 선정하는 것이다. 본 연구에서는 강체연결뉴론선택법과 약체연결뉴론제거법을 각각 정형적인 방법론으로 정립하고 이 방법론에 의해 부도예측용 인공신경망을 구축하여 각각의 모형을 의사결정트리에 의해 선정된 인공신경망 모형 및 선처리 과정을 거치지 않은 인공신경망 모형과 성능을 비교, 분석하여 본 연구에서 제안한 방법론의 타당성을 제시하였다.

• Proceedings of the Korea Information Processing Society Conference
• /
• 2020.11a
• /
• pp.881-882
• /
• 2020

최근 딥 러닝 (deep learning) 기술의 큰 발전으로 기존 기계 학습 분야의 기술들이 성공적으로 해결하지 못하던 많은 문제들을 해결할 수 있게 되었다. 이러한 딥 러닝의 학습 과정은 매우 많은 연산을 요구하기에 다수의 노드들로 모델을 학습하는 분산 학습 (distributed training) 기술이 연구되었다. 대표적인 분산 학습 기법으로 파라미터 서버 기반의 분산 학습 기법들이 있으며, 이 기법들은 파라미터 서버 노드가 학습의 병목이 될 수 있다는 한계를 갖는다. 본 논문에서는 이러한 파라미터 서버 병목 문제를 해결하는 파라미터 샤딩 기법에 대해 소개하고, 각 기법 별 학습 성능을 비교하고 그 결과를 분석하였다.

• The Journal of the Acoustical Society of Korea
• /
• v.17 no.4
• /
• pp.3-13
• /
• 1998

본 논문은 음성 다이어링 시스템을 구현하기 위한 한국어 단독 숫자음 및 연속 숫 자음 인식에 관한 것이다. 단독 숫자음의 인식은 미지의 입력 음성을 재귀 신경망을 이용하 여 모델링된 각 모델에 인가하고, 신경 회로망의 출력 노드의 상태열을 검사하여 적절한 상 태 전이를 하며 최고의 확률값을 출력하는 모델을 인식된 결과로 출력한다. 연속 숫자음의 인식은 미지의 연속 숫자음을 재귀 신경 회로망을 이용한 연속 숫자음 모델에 입력하고, 신 경 회로망의 출력에 대하여 적절한 상태 전이에 대한 검사와 레벨 빌딩(Level Building)을 수행하여 최소의 오차를 가지는 모델열을 인식된 결과로 출력한다. 재귀 신경 회로망을 이 용하여 음절 모델을 만드는 과정에서 재귀 노드는 예상치가 주어지지 않으므로 신경 회로망 의 학습에서 제외되어 현저한 학습 속도의 저하를 가져온다. 따라서 본 논문에서는 재귀 신 경 회로망의 학습 속도를 향상시키기 위한 2가지 방법을 제안 한다. 첫 번째는 재귀 신경 회로망의 재귀 노드의 예상치를 실험적으로 주어줌으로써 학습 속도의 향상을 도모하였다. 두 번째는 음절 모델의 출력노드의 개수와 음절 모델의 세그먼트 경계를 알고리듬을 이용하 여 자동적으로 조절하였다. 실험결과, 단독어의 경우 음절 '에'에 포함하는 한국어 11개의 숫 자음에 대하여 화자 종속의 경우 97.3%, 화자 독립의 경우 80.5%의 인식률을 얻었으며, 연 속 숫자음의 경우는 21종류의 연속 숫자음에 대하여 화자 종속에서 88.2%, 화자 독립의 경 우 81.3%의 인식률을 얻을 수 있었다.

• Journal of KIISE:Software and Applications
• /
• v.29 no.5
• /
• pp.289-294
• /
• 2002

It is known that restructuring feed-forward neural network affects generalization capability and efficiency of the network. In this paper, we introduce a new approach to restructure a neural network using abstraction of the hidden knowledge that the network has teamed. This method involves extracting local rules from non-input nodes and aggregation of the rules into global rule base. The extracted local rules are used for pruning unnecessary connections of local nodes and the aggregation eliminates any possible redundancies arid inconsistencies among local rule-based structures. Final network is generated by the global rule-based structure. Complexity of the final network is much reduced, compared to a fully-connected neural network and generalization capability is improved. Empirical results are also shown.

• Proceedings of the Korea Information Processing Society Conference
• /
• 2024.05a
• /
• pp.777-779
• /
• 2024

현대 사회에서 인공지능은 다양한 분야에서 사용되며 발전하고 있다. 특히 의료, 공업, 경제, 농업, 정치 등에 영향을 미치며, 데이터 프라이버시 문제가 빈번히 발생한다. 이를 해결하기 위해 연합학습이 제안되었는데, 이는 로컬 디바이스에서 학습한 모델만을 중앙 서버로 전송하여 프라이버시를 보장하고 효율성을 높인다. 하지만 연합학습은 중앙 서버를 필요로 하므로 탈중앙적인 환경에서는 사용할 수 없는 단점이 있다. 이를 보완하기 위해 본 논문에서는 서버가 없는 다양한 환경에서 연합학습을 적용할 수 있는 비-완전 연결 분산형 연합학습 알고리즘을 소개한다. 비-완전 연결 분산형 연합학습 알고리즘은 모든 노드가 서로 연결 되어있는 상태가 아닌 특정 노드와만 연결 되어있는 형태로 대부분의 실전 분산형 환경에서 사용할 수 있다. 본 방식의 학습 정확도는 일반적인 머신러닝의 정확도와 비교하여 준수한 성능을 보여주고 있다.

• The Journal of the Institute of Internet, Broadcasting and Communication
• /
• v.9 no.3
• /
• pp.31-36
• /
• 2009

Bayesian networks are known as the best tools to express and predict the domain knowledge with uncertain environments. However, bayesian learning could be too difficult to do effective and reliable searching. To solve the problems of overtime demand, the nodes should be arranged orderly, so that effective structural learning can be possible. This paper suggests the classification learning model to reduce the errors in the independent condition, in which a lot of variables exist and data can increase the reliability by calculating the each entropy of probabilities depending on each circumstances. Also efficient learning models are suggested to decide the order of nodes, that has lowest entropy by calculating the numerical values of entropy of each node in K2 algorithm. Consequently the model of the most suitably settled Bayesian networks could be constructed as quickly as possible.

• Journal of the Korea Society of Computer and Information
• /
• v.19 no.9
• /
• pp.33-38
• /
• 2014

The FCM based hybrid RBF network is a heterogeneous learning network model that applies FCM algorithm between input and middle layer and applies Max_Min algorithm between middle layer and output. The Max-Min neural network uses winner nodes of the middle layer as input but shows inefficient learning in performance when the input vector consists of too many patterns. To overcome this problem, we propose a dynamic learning rate control based on fuzzy logic. The proposed method first classifies accurate/inaccurate class with respect to the difference between target value and output value with threshold and then fuzzy membership function and fuzzy decision logic is designed to control the learning rate dynamically. We apply this proposed RBF network to the character recognition problem and the efficacy of the proposed method is verified in the experiment.

• Proceedings of the Korean Institute of Intelligent Systems Conference
• /
• 1998.03a
• /
• pp.53-56
• /
• 1998

본 논문에서의 공학적인 체계성을 갖고 초기 연결 가중치 및 임계치를 결정해 주면서, 학습까지 가능한 신경망을 제안한다. 기존의 오류 역전파 신경망을 적용할 때 경험에 의하여 은닉층 노드수를 결정하거나 임의의 실수 값으로 초기 연결 가중치 및 임계값을 주었을 때 자주 발생하는 학습 마비 현상을 피할 수 있고, Bose가 제안된 Voronoi 공간 분류에 의한 신경망 구성에서 학습이 불가능하다는 제안적인 단점을 보안하였다. 초기 가중치는 Voronoi 공간 분류가 이루어져 있다고 할 때 Bose가 제안한 초기 가중치 결정법을 개선하여 사용하고, Bose의 경우 신경망 노드가 Step function을 이용하여 정보를 전달하였으나 본 연구에서는 학습이 가능한 함수인 Sigmoid function을 이용하였다. 제안된 새로운 신경망의 성능 및 효율성을 비교하기 위하여 선형분리가 불가능한 XOR문제를 실험한 결과, 기존의 학습 가능한 EBP에서 허용오차 0.05 수준일 때 80%정도 학습마비 현상이 발생하였던 심각한 문제점을 보완할 수 있었고, 또한 학습 속도면에서 8~9배 정도 빠른 성능을 나타내었다.

• Journal of the Institute of Convergence Signal Processing
• /
• v.2 no.3
• /
• pp.79-85
• /
• 2001

We obtain a solution of inverse kinematic of 3 axis manipulator by using a self-organizing neral network(SONN) with a fuzzy compensator. The self-organizing neural network using the gaussian potential function as the activation function has one hidden layer in the first learning time. The network obtains the optimal number of node by increasing the number of hidden layer node through the learning, and the fuzzy compensator has the optimal loaming rate of neutral network. In this results, we can confirmed that the learning rate is improved and the rapid convergence to the steady-state.

• Proceedings of the Korean Society for Emotion and Sensibility Conference
• /
• 2001.05a
• /
• pp.280-285
• /
• 2001

폴리우레탄 코팅포의 촉감을 예측하기 위하여 신경망 이론이 사용되었다. 본 연구에서는 Neural Connection의 MLP(Multi Layer Perceptron)를 신경망 분석에 사용하였으며, 학습 알고리즘은 백프로파게인션(Backpropagation)을 이용하였다. 사용된 변수는 KES-FB시스템에서 측정된 17가지 역학적 특성치를 설명변수, 촉감치를 목표변수로 하였다. 폴리우레탄 코팅포의 촉감을 정확하게 예측할 수 있는 신경망 모델을 찾기 위해, 은닉층의 노드수를 8에서 34로 변화시켜 보았다. 또한 MLP적용함수로 선형함수, 비선형 시그모이드함수, 탄젠트 함수를 사용하여 목표변수를 예측하여 모형의 정확도를 살펴보았다. 구축된 신경망모델은 17가지 역학적특성치 자료를 이용하여 학습되었으며 학습 완료 후 학습에 사용되지 않은 시료를 시스템에 적용하여 학습된 신경망 시스템이 촉감을 평가하게 한 후 주관적으로 평가된 촉감치와 비교하여 본 시스템의 판단의 정확성을 평가하도록 하였다. 은닉층의 노드수와 MLP적용함수는 촉감예측에 영향을 미치는 것으로 나타났는데, 촉감 예측에 가장 적절한 모형은 MLP 적용함수가 탄젠트 함수이고 노드수가 22인 것으로 나타났다. 신경망을 통한 폴리우레탄 코팅포의 촉감 예측력은 선행연구에서 이용된 통계적 방법보다 높게 나타나 폴리우레탄 코팅포의 촉감예측에 신경망의 이용은 효과적인 것으로 밝혀졌다.