• Proceedings of the Korean Information Science Society Conference
• /
• 2005.07b
• /
• pp.694-696
• /
• 2005

본 논문에서는 개선된 유전자 알고리즘과 역전파 신경망 알고리즘의 특징을 살펴보고, 비선형 모의자료를 이용하여 개선된 유전자 알고리즘 기반의 신경망 학습 효과와 역전파 신경망 알고리즘을 이용한 신경망 학습 효과를 비교해 본다. 유전자 알고리즘을 이용한 신경망 학습에는 개선된 신경망 제어기를 이용한다. 역전파 알고리즘을 이용한 신경망 학습에는 일반화 성능향상을 위한 인자들의 결합효과를 이용한다. 모의실험을 통하여 두 가지의 학습에서 학습 수령의 정도와 학습 속도 등을 비교하는 모의실험 결과를 개선된 유전자 알고리즘과 신경망 알고리즘의 학습 결과와 항께 제시한다. 모의실험의 결과로서 유전자 알고리즘을 적용한 개선된 신경망 제어기를 통한 학습 결과가 일반 신경망 학습 결과보다 초기 가중값을 작은 범위에서 발생시킬 때 수렴 정확도 및 학습 속도에서 좋은 결과를 나타내 주고 있다.

• Annual Conference of KIPS
• /
• 2005.05a
• /
• pp.477-480
• /
• 2005

본 논문에서는 신경망과 유전자 알고리즘의 장점을 결합하고, 개선된 유전자 알고리즘 기반의 역전파 신경망 알고리즘을 이용한 신경망 학습 효과를 살펴 본다. 유전자 알고리즘을 이용한 신경망 학습은 비선형 함수를 이용하여 발생시킨 모의 자료를 통하여 수행하고 학습 수렴의 정도와 학습 속도 등을 비교할 수 있는 모의실험 결과를 일반 신경망 학습 결과와 함께 제시한다. 모의실험의 결과로서 유전자 알고리즘을 적용한 신경망 제어기가 일반 신경망 학습 결과보다 수렴 정확도 및 학습 속도에서 더 좋은 결과를 나타내 주고 있다.

• Information and Communications Magazine
• /
• v.33 no.10
• /
• pp.40-48
• /
• 2016

본고에서는 최근 활발하게 연구되고 있는 심층 학습에 대하여 알아본다. 기계 학습 분야 중 하나인 심층 학습은 인공 신경망의 한 형태인 심층 신경망을 통해 구현된다. 심층 신경망은 기존 다층 신경망의 구조와 거의 유사한 학습 구조를 가지지만, 학습 과정에서 발생하는 부정확한 학습 문제를 해결함으로써 최근의 성공을 이끌어낼 수 있었다. 본고에서는 다층 신경망이 가지고 있던 문제점들을 심층 신경망에서 어떻게 극복하였는지 심층 신경망의 발전 과정을 통해 알아보고, 기계 학습의 기본개념을 바탕으로 이를 설명하여 비전문가들의 이해를 돕고자 하였다.

• Proceedings of the IEEK Conference
• /
• 2003.07d
• /
• pp.1259-1262
• /
• 2003

퍼지 최소 최대 신경망(Fuzzy Max Neural Network)은 많은 장점을 가진 분류기로 널리 사용되고 있다. 그러나 최초의 퍼지 최소 최대 신경망은 몇 가지 단점을 가지고 있으며 그 중에 학습 결과가 학습 파라 미터에 민감한 점을 들 수 있다. 본 논문에서는 퍼지 최소 최대 신경망의 학습에 영향을 주는 학습 파라 미터를 사용하지 않고 강화 학습을 이용하여 신경망을 학습하는 방법을 제안한다. 이 방법에서는 학습 파라 미터 없이 하이퍼 박스의 수와 잘못 분류된 결과에 따라 보답(reward)을 주는 강화 학습을 이용하여 퍼지 최소 최대 신경망을 학습시킨다 결과로는 학습 데이터에 대해 오분류가 없고 최초의 학습 방법의 결과 보다 작은 하이퍼 박스 수를 갖는 퍼지 최소 최대 신경망이 얻어졌다. 이는 학습 파라미터를 이용한 학습 방법으로 생긴 많은 수의 하이퍼 박스로 인한 일반화 능력의 감소를 막고 하드웨어 구현 시 많은 하이퍼 박스로 인한 어려움을 덜어 줄 수 있다.

• Journal of the Korean Geotechnical Society
• /
• v.16 no.5
• /
• pp.169-178
• /
• 2000

본 논문에서는 단일 및 군말뚝의 수평변위와 최대 휨모멘트를 예측하기 위하여 인공신경망을 도입하였다. 인공신경망에 의한 결과는 낙동강 모래지반에서 단일 및 군말뚝에 대하여 수행한 일련의 모형실험결과와 비교하였다. 인공신경망 중의 하나인 오류 역전파 신경망(EBIPNN)의 적용성 검증을 위하여 600개의 모형실험결과들을 이용하였다. 그리고 신경망의 구조는 한개의 입력층과 두개의 은닉층 그리고 한개의 출력층으로 구성되었다. 전체 데이터의 25%, 50% 그리고 75% 결과는 각각 신경망의 학습에 이용되었으며 학슴에 이용하지 않은 데이터들은 예측에 이용되었다. 인공신경망 학습결과와 실험결과의 비교에 의하면, 신경망의 최적학습을 위하여 최적학습을 위하여 적합한 은닉층의 뉴런수는 각각 30개로 그리고 학습률은 0.9로 결정되었다. 전체 데이터의 50%이상으로 학습을 수행한 신경망의 모델은 정확한 예측을 하는 것으로 나타났다. 따라서, 인공신경망 모델리 수평하중을 받는 말뚝의 수평변위와 최대 휨모멘트의 예측에 적용될 수 있는 가능성을 보여주었다.

• Proceedings of the Acoustical Society of Korea Conference
• /
• 1995.06a
• /
• pp.73-75
• /
• 1995

연속 음성 인식을 위한 신경망과 학습속도를 줄이기 위한 연결강도 초기화에 관해 다루고 있다. 우선 음소를 여러개의 그룹으로 나눈 후 각각의그룹에 대한 음소를 인식하는 신경망과 자신의 그룹을 판별하는 VGNN 으로 신경망을 구성한다. 여기서 구성되는 신경망은 각각의 음소를 인식하는 출력을 낼 뿐 아니라, 입력이 자신의 그룹에 속하는지 그렇지 않은지를 판별하는 출력을 낸다. 이런 신경망을 학습시키는 데 상당한 시간이 걸리므로 이 신경망의 학습속도를 줄이기 위해 학습 데이터를 사용하여 신경망의 연결 강도를 초기화한다.

• Proceedings of the Korean Information Science Society Conference
• /
• 1998.10c
• /
• pp.333-335
• /
• 1998

에러 역전파 신경망에서 학습속도와 수렴률은 초기 가중의 분포에 따라 크게 영향을 받는다. 본 연구에서는 이를 위하여 비교사 학습 신경망(Hebbian learning rule)을 이용한 새로운 초기 가중치 결정 방법을 제안한다. 또는 비교사 학습 신경망이 에러 역전파 신경망 학습에 적당하도록 은닉층의 각 뉴런과 연결된 가중치의 norm을 이용하여 학습하였다. 시뮬레이션을 통하여 기존 에러 역전파 신경망 학습과 그 성능을 비교한 결과 제안한 초기 가중치 표현이 학습속도와 수렴능력에서 우수함을 나타낸다.

• Journal of the Korean Institute of Telematics and Electronics B
• /
• v.31B no.11
• /
• pp.151-162
• /
• 1994

A new neural network structure called Self-organized Distributed Networks (SODN) is proposed for developing the neural network-based multidimensional system models. The learning with the proposed networks is fast and precise. Such properties are caused from the local learning mechanism. The structure of the networks is combination of dual networks such as self-organized networks and multilayered local networks. Each local networks learns only data in a sub-region. Large number of memory requirements and low generalization capability for the untrained region, which are drawbacks of conventional local network learning, are overcomed in the proposed networks. The simulation results of the proposed networks show better performance than the standard multilayer neural networks and the Radial Basis function(RBF) networks.

• Journal of the Korean Geotechnical Society
• /
• v.17 no.1
• /
• pp.47-56
• /
• 2001

본 논문에서는 단일 및 군말뚝의 수평변위를 예측하기 위하여 신경망 학습속도의 향상과 지역 최소점 수렴을 방지하는 Readjusting 기법을 적용한 인공신경망을 도입하였다. 이 인공신경망을 M-EBPNN 이라고 한다. M-EBPNN에 의한 결과는 낙동강 모래지반에서 단일 및 군말뚝에 대하여 수행한 일련의 모형실험결과와 비교하였으며, 그리고 신경망의 학습속도와 지역 최소점의 수렴성을 평가하기 위하여 오류 역전파 신경망(EBPNN)의 결과와도 비교 분석하였다. M-EBPNN의 적용성 검증을 위하여 200개의 모형실험결과들을 이용하였으며, 신경망의 구조는 EBPNN의 구조와 동일한 한 개의 입력층과 두 개의 은닉층 그리고 한 개의 출력층으로 구성되었다. 전체 데이터의 25%, 50% 그리고 75% 결과는 각각 신경망의 학습에 이용되었으며 학습에 이용하지 않은 데이터들은 예측에 이용되었다. 그리고, 신경망의 최적학습을 위하여 적합한 은닉층의 뉴런 수와 학습률은 EBPNN에서 결정한 값들을 본 신경망에 이용하였다. 해석결과들에 의하면, 동일한 학습패턴에서의 M-EBPNN이 학습 반복횟수는 EBPNN 보다 최고 88% 감소하였으며 지역 최소점에 수렴하는 현상은 거의 나타나지 않았다. 따라서, 인공신경망 모델이 수평하중을 받는 말뚝의 수평변위 예측에 적용될 수 있는 가능성을 보여 주었다.

• Journal of IKEEE
• /
• v.23 no.4
• /
• pp.1408-1414
• /
• 2019

Deep artificial neural network with transfer learning is applied to compressed sensing cardiovascular MRI. Transfer learning is a method that utilizes structure, filter kernels, and weights of the network used in prior learning for current learning or application. The transfer learning is useful in accelerating learning speed, and in generalization of the neural network when learning data is limited. From a cardiac MRI experiment, with 8 healthy volunteers, the neural network with transfer learning was able to reduce learning time by a factor of more than five compared to that with standalone learning. Using test data set, reconstructed images with transfer learning showed lower normalized mean square error and better image quality compared to those without transfer learning.