• 제목/요약/키워드: 가중치 함수

검색결과 540건 처리시간 0.031초

신경회로망을 이용한 적응 고차조화제어 기법 연구 (Study on Adaptive Higher Harmonic Control Using Neural Networks)

  • 박범진;박현전;홍창호
    • 한국항공우주학회지
    • /
    • 제33권3호
    • /
    • pp.39-46
    • /
    • 2005
  • 본 논문에서는 광범위한 함수 근사성질을 갖고 있는 신경회로망을 이용하여, 시스템의 입출력 조화성분의 선형관계를 표현하기 위해 추정된 전달행렬의 적용범위를 확장할 수 있는 적응 고차조화제어(Higher Harmonic Control, HHC) 기법을 제안하고 있다. 신경회로망의 학습신호는 추정된 전달행렬을 기반으로 계산된 최적제어 이득 값 행렬을 이용하여 구성된다. 내부 안정성을 보장하기 위하여 신경회로망의 가중치 학습방법은 Lyapunov 직접 방법을 이용하여 유도하였다. 6개의 입력과 2개의 출력을 갖는 비선형 시스템에 대한 시뮬레이션 결과를 통해 적응 고차조화제어 기법이 불확실한 전달행렬에 적용 가능함을 보였다.

주파수 대역별 수중 순간소음 음원준위 산출 기법 (A Calculation Method of Source Level of Underwater Transient Noise by Frequency Band)

  • 최재용;오준석;이필호
    • 한국군사과학기술학회지
    • /
    • 제13권4호
    • /
    • pp.528-533
    • /
    • 2010
  • This paper describes a calculation method of source level of a ship transient noise, which is one of the important elements for the ship detection. Aim of transient noise measurements is to evaluate of acoustic energy due to singular occurrence, which is therefore defined as non-periodic and short termed events like an attack periscope, a rudder and a torpedo door. In generally, in the case of randomly spaced impulse, the spectrum becomes a broadband random noise with no distinctive pattern. Therefore, frequency analysis is not particularly revealing for type of signal. In the paper, it is performed in time domain to analyze a transient noise. However, a source level of transient noise is required an investigation for multiple frequency band. So, in order to calculate a source level of transient noise, a design of exponential weighting function, convolution, band pass filtering, peak detection, root mean square, and parameter compensation are applied. The effectiveness of this calculation scheme is studied through computer simulations and a sea test. Furthermore, an application of the method is applied in a real case.

종합학습평가를 위한 퍼지추론 시스템 (Fuzzy Inference System for the Synthesis Learning Evaluation)

  • 손창식;김종욱;정구범
    • 한국지능시스템학회논문지
    • /
    • 제16권6호
    • /
    • pp.742-746
    • /
    • 2006
  • 학습자에 대한 학습능력의 평가는 진단평가, 형성평가와 총괄평가 단계로 구분할 수 있다. 이러한 단계적 평가는 학습자의 사전 학습 준비상태부터 학습 과정의 충실성 및 학습 결과까지를 종합적으로 판단할 수 있는 기준이 된다. 본 논문에서는 퍼지추론을 이용하여 각 단계의 평가를 모두 고려한 종합학습평가 방법을 제안하였다. 학습 수행능력에 대한 객관적인 평가를 위하여 각 평가 단계별로 가중치를 부여하였고, 진단, 형성 및 총괄 평가에 대한 퍼지추론에서 획득한 비퍼지화 값을 최종평가의 소속함수 구간으로 적용하였다. 그 결과 객관성을 보장할 수 있는 명확한 추론을 수행할 수 있었으며, 종합적인 학습평가 방법의 타당성을 보였다.

1-Bit 합성곱 신경망을 위한 정확도 향상 기법 (Accuracy Improvement Method for 1-Bit Convolutional Neural Network)

  • 임성훈;이재흥
    • 전기전자학회논문지
    • /
    • 제22권4호
    • /
    • pp.1115-1122
    • /
    • 2018
  • 본 논문에서는 기존 1-Bit 합성곱 신경망의 성능 하락에 대한 분석과 이를 완화하기 위한 방안을 제시한다. 기존의 연구는 첫 번째 층과 마지막 층만 32-Bit 연산을 적용하고 나머지 연산은 1-Bit 연산을 적용한 것과 달리 본 논문에서는 두 번째 층도 32-Bit로 연산한다. 또한 입력과 가중치를 이진화하고 1-Bit 연산을 적용한 후에는 비선형 활성화 함수를 제거할 수 있음을 제시한다. 본 논문에서 제시한 방법을 검증하기 위해 차량 번호판 검출을 위한 객체 검출 신경망을 실험하였다. 기존의 방법으로 학습한 결과보다 정확도가 74%에서 96.1%로 상승하였다.

개선된 그래프 컷 알고리즘을 이용한 비디오 정합 알고리즘 (Video Stitching Algorithm Using Improved Graphcut Algorithm)

  • 윤여경;이광진;이훈민;이윤구
    • 한국방송∙미디어공학회:학술대회논문집
    • /
    • 한국방송∙미디어공학회 2018년도 하계학술대회
    • /
    • pp.112-115
    • /
    • 2018
  • 본 논문에서는 공간적 일관성과 시간적 일관성을 모두 고려하는 그래프 컷(graph cuts, GC) 알고리즘을 적용한 새로운 비디오 정합(video stitching) 방법을 제안한다. 먼저 입력 비디오로부터 취득한 전체 프레임에 대해서 정렬(frame alignment) 작업이 완료된 후, 프레임 합성(frame composition)을 위한 정합선 찾기(seam finding) 과정을 진행한다. 정합선을 찾는 과정에서 개선된 그래프 컷 알고리즘을 이용해 정렬된 프레임들을 자연스럽게 합성할 수 있는 최적의 정합선을 찾는다. 우선, 첫번째 입력 프레임에서 찾은 최적 정합선을 참조 정합선으로 설정한다. 그 다음, 연속된 프레임들의 정합선 찾기 과정을 수행할 때, 참조 정합선과의 거리 값을 가중치로 이용하는 새로운 비용 함수를 적용한다. 본 논문에서 제안하는 알고리즘으로 찾은 최적 정합선은 입력 프레임의 중첩 영역에 움직이는 물체가 존재할 때, 물체의 모양을 손상시키지 않으면서 동시에 연속된 프레임의 정합선을 유사한 형태로 유지시킨다. 결과적으로 공간적, 시간적 자연스러움이 보장되는 고품질의 비디오 정합 결과를 얻을 수 있다.

  • PDF

곡면 배열 소나의 빔 균일화를 위한 빔 패턴 분석 (Beam pattern analysis for beam homogenization of conformal array sonar)

  • 최정웅;홍우영;임준석;이근화
    • 한국음향학회지
    • /
    • 제41권6호
    • /
    • pp.637-646
    • /
    • 2022
  • 임의의 곡면 배열에서 단위 빔 형성에 사용되는 부배열은 조향 방위마다 기하학적 형상이 다르다. 이 때문에 조향 방위 별 부배열의 빔 패턴은 항상 균일하지 않다. 본 논문에서는 볼록 최적화를 이용한 빔 형성 기법을 곡면 배열에 적용하고, 조향 방위별 빔 성능의 균일성이 향상되는 것을 보였다. 시뮬레이션은 절단 구면 형상의 곡면 배열에 대해 수행되었다. 고각 3 dB 빔 폭의 표준 편차가 크게 감소하였으나 반대급부로 지향 지수도 감소하는 것을 관찰했다. 이를 완화시키기 위한 하나의 방법으로 쉐이딩 함수를 이용한 최적화 기법을 제안한다.

지하수위 예측을 위한 경사하강법과 화음탐색법의 결합을 이용한 다층퍼셉트론 성능향상 (Improvement of multi layer perceptron performance using combination of gradient descent and harmony search for prediction of groundwater level)

  • 이원진;이의훈
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2022년도 학술발표회
    • /
    • pp.186-186
    • /
    • 2022
  • 강수 및 침투 등으로 발생하는 지하수위의 변동을 예측하는 것은 지하수 자원의 활용 및 관리에 필수적이다. 지하수위의 변동은 지하수 자원의 활용 및 관리뿐만이 아닌 홍수 발생과 지반의 응력상태 등에 직접적인 영향을 미치기 때문에 정확한 예측이 필요하다. 본 연구는 인공신경망 중 다층퍼셉트론(Multi Layer Perceptron, MLP)을 이용한 지하수위 예측성능 향상을 위해 MLP의 구조 중 Optimizer를 개량하였다. MLP는 입력자료와 출력자료간 최적의 상관관계(가중치 및 편향)를 찾는 Optimizer와 출력되는 값을 결정하는 활성화 함수의 연산을 반복하여 학습한다. 특히 Optimizer는 신경망의 출력값과 관측값의 오차가 최소가 되는 상관관계를 찾는 연산자로써 MLP의 학습 및 예측성능에 직접적인 영향을 미친다. 기존의 Optimizer는 경사하강법(Gradient Descent, GD)을 기반으로 하는 Optimizer를 사용했다. 하지만 기존의 Optimizer는 미분을 이용하여 상관관계를 찾기 때문에 지역탐색 위주로 진행되며 기존에 생성된 상관관계를 저장하는 구조가 없어 지역 최적해로 수렴할 가능성이 있다는 단점이 있다. 본 연구에서는 기존 Optimizer의 단점을 개선하기 위해 지역탐색과 전역탐색을 동시에 고려할 수 있으며 기존의 해를 저장하는 구조가 있는 메타휴리스틱 최적화 알고리즘을 이용하였다. 메타휴리스틱 최적화 알고리즘 중 구조가 간단한 화음탐색법(Harmony Search, HS)과 GD의 결합모형(HS-GD)을 MLP의 Optimizer로 사용하여 기존 Optimizer의 단점을 개선하였다. HS-GD를 이용한 MLP의 성능검토를 위해 이천시 지하수위 예측을 실시하였으며 예측 결과를 기존의 Optimizer를 이용한 MLP 및 HS를 이용한 MLP의 예측결과와 비교하였다.

  • PDF

심층 신경망을 이용한 영상 내 파프리카 인식 알고리즘 연구 (A Study on the Recognition Algorithm of Paprika in the Images using the Deep Neural Networks)

  • 화지호;이봉기;이대원
    • 한국농업기계학회:학술대회논문집
    • /
    • 한국농업기계학회 2017년도 춘계공동학술대회
    • /
    • pp.142-142
    • /
    • 2017
  • 본 연구에서는 파프리카를 자동 수확하기 위한 시스템 개발의 일환으로 파프리카 재배환경에서 획득한 영상 내에 존재하는 파프리카 영역과 비 파프리카 영역의 RGB 정보를 입력으로 하는 인공신경망을 설계하고 학습을 수행하고자 하였다. 학습된 신경망을 이용하여 영상 내 파프리카 영역과 비 파프리카 영역의 구분이 가능 할 것으로 사료된다. 심층 신경망을 설계하기 위하여 MS Visual studio 2015의 C++, MFC와 Python 및 TensorFlow를 사용하였다. 먼저, 심층 신경망은 입력층과 출력층, 그리고 은닉층 8개를 가지는 형태로 입력 뉴런 3개, 출력 뉴런 4개, 각 은닉층의 뉴런은 5개로 설계하였다. 일반적으로 심층 신경망에서는 은닉층이 깊을수록 적은 입력으로 좋은 학습 결과를 기대 할 수 있지만 소요되는 시간이 길고 오버 피팅이 일어날 가능성이 높아진다. 따라서 본 연구에서는 소요시간을 줄이기 위하여 Xavier 초기화를 사용하였으며, 오버 피팅을 줄이기 위하여 ReLU 함수를 활성화 함수로 사용하였다. 파프리카 재배환경에서 획득한 영상에서 파프리카 영역과 비 파프리카 영역의 RGB 정보를 추출하여 학습의 입력으로 하고 기대 출력으로 붉은색 파프리카의 경우 [0 0 1], 노란색 파프리카의 경우 [0 1 0], 비 파프리카 영역의 경우 [1 0 0]으로 하는 형태로 3538개의 학습 셋을 만들었다. 학습 후 학습 결과를 평가하기 위하여 30개의 테스트 셋을 사용하였다. 학습 셋을 이용하여 학습을 수행하기 위해 학습률을 변경하면서 학습 결과를 확인하였다. 학습률을 0.01 이상으로 설정한 경우 학습이 이루어지지 않았다. 이는 학습률에 의해 결정되는 가중치의 변화량이 너무 커서 비용 함수의 결과가 0에 수렴하지 않고 발산하는 경향에 의한 것으로 사료된다. 학습률을 0.005, 0.001로 설정 한 경우 학습에 성공하였다. 학습률 0.005의 경우 학습 횟수 3146회, 소요시간 20.48초, 학습 정확도 99.77%, 테스트 정확도 100%였으며, 학습률 0.001의 경우 학습 횟수 38931회, 소요시간 181.39초, 학습 정확도 99.95%, 테스트 정확도 100%였다. 학습률이 작을수록 더욱 정확한 학습이 가능하지만 소요되는 시간이 크고 국부 최소점에 빠질 확률이 높았다. 학습률이 큰 경우 학습 소요 시간이 줄어드는 반면 학습 과정에서 비용이 발산하여 학습이 이루어지지 않는 경우가 많음을 확인 하였다.

  • PDF

효율적인 자원 할당을 위한 사전 예약과 즉석 예약 간 공유 자원 관리 (Shared Resource Management Scheme in Advance and Immediate Reservations for Effective Resource Allocation)

  • 이동훈;김종원
    • 한국통신학회논문지
    • /
    • 제29권7B호
    • /
    • pp.685-696
    • /
    • 2004
  • 많은 양의 대역폭을 사용하는 실시간 멀티미디어 응용들은 일정 수준의 서비스 품질을 보장받기 위해 필요한 자원을 사전에 예약하고 이를 사용할 수 있어야 한다. 자원의 사전 예약을 위해서는 해당 자원에 대한 사용 기간의 명시와 이를 이용해 자원을 사전에 예약하고 할당하는 자원 관리자가 필요하다. 따라서 자원의 사용 기간에 관계없이 예약 요청 발생시점에서 가용 자원의 양만을 고려하는 전통적인 자원 할당 방식과는 달리 사전 예약을 제공하는 자원 관리자는 사전에 예약된 자원과 사용 기간을 명시하지 않는 즉석 예약을 위해 할당된 자원이 서로충돌하지 않도록 예약 요청들을 처리해야 한다. 일반적으로 자원 예약의 충돌은 예약 형태에 따라 할당 자원을 분리함으로써 해결할 수 있지만 이는 자원의 낭비를 초래하게 된다. 본 논문은 즉석 예약과 사전 예약 요청을 위해 준비된 자원 공간을 변동하는 자원 경계를 이용해 효율적으로 공유하는 자원 관리 방식을 제안한다. 제안하는 자원 관리 방식은 네트워크 비용 함수를 이용해 자원 간 경계를 설정하고, 예약 자원의 충돌에 따라 비용 함수의 가중치 변수를 조정해 경계를 변화시킴으로써 공유 자원을 효과적으로 할당하고 관리한다. 또한, 사용자 효용 함수의 정의를 통해 예약된 자원을 사용하는 서비스의 품질로부터 사용자가 얻는 효용을 정량적으로 측정하며, 자원의 사전 예약이 사용자 효용 및 전체 자원 활용에 미치는 영향을 고찰한다. 네트워크 시뮬레이터(NS-2)를 이용한 실험은 제안한 자원 관리 방식이 자원 공간의 고정 분할과 같은 방식과 비교해 높은 자원 활용율과 더불어 안정적인 서비스 품질을 제공할 수 있음을 보여준다.

다층 퍼셉트론의 학습 성능 개선을 위한 일반화된 시그모이드 베이시스 함수 (Generalized Sigmidal Basis Function for Improving the Learning Performance fo Multilayer Perceptrons)

  • 박혜영;이관용;이일병;변혜란
    • 한국정보과학회논문지:소프트웨어및응용
    • /
    • 제26권11호
    • /
    • pp.1261-1269
    • /
    • 1999
  • 다층 퍼셉트론은 다양한 응용 분야에 성공적으로 적용되고 있는 대표적인 신경회로망 모델이다. 그러나 다층 퍼셉트론의 학습에서 나타나는 플라토에 기인한 느린 학습 속도와 지역 극소는 실제 응용문제에 적용함에 있어서 가장 큰 문제로 지적되어왔다. 이 문제를 해결하기 위해 여러 가지 다양한 학습알고리즘들이 개발되어 왔으나, 계산의 비효율성으로 인해 실제 문제에는 적용하기 힘든 예가 많은 등, 현재까지 만족할 만한 해결책은 제시되지 못하고 있다. 본 논문에서는 다층퍼셉트론의 베이시스 함수로 사용되는 시그모이드 함수를 보다 일반화된 형태로 정의하여 사용함으로써 학습에 있어서의 플라토를 완화하고, 지역극소에 빠지는 것을 줄이는 접근방법을 소개한다. 본 방법은 기존의 변형된 가중치 수정식을 사용한 학습 속도 향상의 방법들과는 다른 접근 방법을 택함으로써 기존의 방법들과 함께 사용하는 것이 가능하다는 특징을 갖고 있다. 제안하는 방법의 성능을 확인하기 위하여 간단한 패턴 인식 문제들에의 적용 실험 및 기존의 학습 속도 향상 방법을 함께 사용하여 시계열 예측 문제에 적용한 실험을 수행하였고, 그 결과로부터 제안안 방법의 효율성을 확인할 수 있었다. Abstract A multilayer perceptron is the most well-known neural network model which has been successfully applied to various fields of application. Its slow learning caused by plateau and local minima of gradient descent learning, however, have been pointed as the biggest problems in its practical use. To solve such a problem, a number of researches on learning algorithms have been conducted, but it can be said that none of satisfying solutions have been presented so far because the problems such as computational inefficiency have still been existed in these algorithms. In this paper, we propose a new learning approach to minimize the effect of plateau and reduce the possibility of getting trapped in local minima by generalizing the sigmoidal function which is used as the basis function of a multilayer perceptron. Adapting a new approach that differs from the conventional methods with revised updating equation, the proposed method can be used together with the existing methods to improve the learning performance. We conducted some experiments to test the proposed method on simple problems of pattern recognition and a problem of time series prediction, compared our results with the results of the existing methods, and confirmed that the proposed method is efficient enough to apply to the real problems.