• 한국방송∙미디어공학회:학술대회논문집
• /
• 한국방송∙미디어공학회 2022년도 하계학술대회
• /
• pp.217-220
• /
• 2022

본 논문에서는 CCTV 영상 화질을 향상하고 해상도를 높이기 위해 딥 러닝(Deep Learning)을 이용하여 잡음 제거(Denoising) 와 초해상도(Super-resolution) 작업을 수행한다. 데이터 증강(Data Augmentation)을 통한 초해상도 성능 향상을 위해서 잡음 제거 네트워크의 출력 영상을 초해상도 네트워크의 입력으로 사용하는 순차적 작업을 사용한다. 또한 딥 러닝을 이용한 영상처리에서 발생하는 평균 밝기 오차 문제를 해결하기 위한 손실함수(Loss Function)와 두 가지 이상의 순차적인 딥 러닝 작업에서 발생하는 문제점을 극복하기 위한 손실함수를 제안한다. 제안하는 손실함수는 네트워크의 출력 영상과 타겟 영상의 밝기 오차를 줄이는 것이 가능하고, 순차적 작업에서 보다 정확한 모델 성능 판단이 가능하다.

• 한국컴퓨터정보학회:학술대회논문집
• /
• 한국컴퓨터정보학회 2020년도 제61차 동계학술대회논문집 28권1호
• /
• pp.25-26
• /
• 2020

본 논문에서는 머신러닝을 이용한 이미지 생성을 위한 새로운 오차 함수모델을 제안한다. 제안된 함수모델은 기존 오차함수가 반영하지 못하던 채널 간 오차비율정보를 반영하여 기존 오차함수에 비해 빠른 초기 수렴속도와 더 좋은 FID값을 보인다. 본 논문에서는 하나의 네트워크 모델을 통해 기존의 오차함수모델에 비해서 우수함을 보인다.

• 한국콘텐츠학회논문지
• /
• 제21권3호
• /
• pp.616-625
• /
• 2021

심층신경망은 임의의 함수를 근사화하는 방법으로 선형모델로 근사화한 후에 비선형 활성함수를 이용하여 추가적 근사화를 반복하는 근사화 방법이다. 이 과정에서 근사화의 성능 평가 방법은 손실함수를 이용한다. 기존 심층학습방법에서는 선형근사화 과정에서 손실함수를 고려한 근사화를 실행하고 있지만 활성함수를 사용하는 비선형 근사화 단계에서는 손실함수의 감소와 관계가 없는 비선형변환을 사용하고 있다. 본 연구에서는 기존의 활성함수에 활성함수의 크기를 변화시킬 수 있는 크기 파라메터와 활성함수의 위치를 변화시킬 수 있는 위치 파라미터를 도입한 파라메트릭 활성함수를 제안한다. 파라메트릭 활성함수를 도입함으로써 활성함수를 이용한 비선형 근사화의 성능을 개선시킬 수 있다. 각 은닉층에서 크기와 위치 파라미터들은 역전파 과정에서 파라미터들에 대한 손실함수의 1차 미분계수를 이용한 학습과정을 통해 손실함수 값을 최소화시키는 파라미터를 결정함으로써 심층신경망의 성능을 향상시킬 수 있다. MNIST 분류 문제와 XOR 문제를 통하여 파라메트릭 활성함수가 기존의 활성함수에 비해 우월한 성능을 가짐을 확인하였다.

• 한국컴퓨터정보학회:학술대회논문집
• /
• 한국컴퓨터정보학회 2023년도 제68차 하계학술대회논문집 31권2호
• /
• pp.517-518
• /
• 2023

본 논문에서는 인공지능 신경망의 하이퍼 파라미터들이 그래프 신경망 모델의 성능에 미치는 영향을 알아보기 위하여 대규모 그래프 데이터를 기반으로 이진 분류 문제를 예측하는 그래프 합성곱 신경망 모델(Graph Convolution Network Model)을 구현하고 모델의 다양한 하이퍼 파라미터 중 손실함수와 활성화 함수를 여러 가지 조합으로 적용하며 모델 학습과 예측 실험을 시행하였다. 실험 결과, 활성화 함수보다는 손실함수의 선택이 모델의 예측 성능에 좀 더 큰 영향을 미치는 것을 확인하였다.

• 한국산학기술학회논문지
• /
• 제21권2호
• /
• pp.189-194
• /
• 2020

본 논문에서는 신경망을 학습하는 데 가장 많이 사용되고 있는 경사하강법에 대해 분석하였다. 학습이란 손실함수가 최소값이 되도록 매개변수를 갱신하는 것이다. 손실함수는 실제값과 예측값의 차이를 수치화 해주는 함수이다. 경사하강법은 오차가 최소화되도록 매개변수를 갱신하는데 손실함수의 기울기를 사용하는 것으로 현재 최고의 딥러닝 학습알고리즘을 제공하는 라이브러리에서 사용되고 있다. 그러나 이 알고리즘들은 블랙박스형태로 제공되고 있어서 다양한 경사하강법들의 장단점을 파악하는 것이 쉽지 않다. 경사하강법에서 현재 대표적으로 사용되고 있는 확률적 경사하강법(Stochastic Gradient Descent method), 모멘텀법(Momentum method), AdaGrad법 그리고 Adadelta법의 특성에 대하여 분석하였다. 실험 데이터는 신경망을 검증하는 데 널리 사용되는 MNIST 데이터 셋을 사용하였다. 은닉층은 2개의 층으로 첫 번째 층은 500개 그리고 두 번째 층은 300개의 뉴런으로 구성하였다. 출력 층의 활성화함수는 소프트 맥스함수이고 나머지 입력 층과 은닉 층의 활성화함수는 ReLu함수를 사용하였다. 그리고 손실함수는 교차 엔트로피 오차를 사용하였다.

• 응용통계연구
• /
• 제27권6호
• /
• pp.1017-1028
• /
• 2014

잘 알려져 있는 것처럼 일반적인 베이즈 추정량(Bayes estimator)과 경험적 베이즈 추정량(empirical Bayes estimator)은 모수를 추정하는데 있어서 오차를 과다축소하는 단점을 가지고 있다. 따라서 이러한 단점을 극복하기 위하여 constrained 베이즈 추정량이 일차 적률과 이차 적률을 일치시키는 성질을 만족시키며 제안되었다. 또한 평균 제곱오차 함수와 같은 전통적인 손실함수에서는 추정의 정확성만을 고려하는 특징을 가지고 있기 때문에, 추정의 정확성과 정합성을 동시에 고려하는 균형 손실함수가 제안되었다. 이러한 이유로 인하여 균형손실 함수하에서의 제한적 베이즈 추정량의 활용이 손해 보험의 가격 산출에 제안되는 것은 타당하다. 그러나 대부분의 연구는 추정의 문제에만 집중하는 경향이 있으며. 이는 새롭게 제안되는 특정 손실함수하에서의 constrained 베이즈 추정량과 constrained empirical 베이즈 추정량의 베이즈 위험의 계산이 어렵다는 점에서 기인한다. 본 연구에서는 다양한 베이즈 추정량들에 대한 베이즈 위험을 서로 다른 두 손실함수하에서 비교하였으며, 그 대상은 자동차 보험 산업에서의 위험도 추정 분야이다. 또한 자동차 보험 산업의 실제 사고 데이터를 이용하여 새롭게 제안된 베이즈 추정량의 베이즈 위험을 비교함으로써 그 효용성을 입증하였다.

• 정보처리학회논문지:소프트웨어 및 데이터공학
• /
• 제9권7호
• /
• pp.213-220
• /
• 2020

합성곱 신경망은 합성곱층과 완전연결층으로 구성되어 있다. 합성곱층과 완전연결층의 각 층에서는 비선형 활성함수를 사용하고 있다. 활성함수는 뉴런 간에 신호를 전달할 때 입력신호가 일정 기준 이상이면 신호를 전달하고 기준에 도달하지 못하면 신호를 보내지 않을 수 있는 뉴런의 정보전달 방법을 모사하는 함수이다. 기존의 활성함수는 손실함수와 관계성을 가지고 있지 않아 최적해를 찾아가는 과정이 늦어지는 점을 개선하기 위해 활성함수를 일반화한 민첩한 활성함수를 제안하였다. 민첩한 활성함수의 매개변수는 역전파 과정에서, 매개변수에 대한 손실함수의 1차 미분계수를 이용한 학습과정을 통해 최적의 매개변수를 선택하는 방법으로 손실함수를 감소시킴으로써 심층신경망의 성능을 향상시킬 수 있다. MNIST 분류문제를 통하여 민첩한 활성함수가 기존의 활성함수에 비해 우월한 성능을 가짐을 확인하였다.

• 응용통계연구
• /
• 제7권2호
• /
• pp.131-143
• /
• 1994

엔트로피와 스타인손실들을 포함한 비대칭 손실함수아래서 포아송 평균이 사전분포 함수를 갖는 경우에서 베이즈적, 경험적 베이즈 추정치들의 집합을 구하였다. 또한 Efron과 Morris의 접근방법에 의하여 앞에서 제안된 추정치와 기존의 추정치들의 상대절약 손실량을 모의실험을 통하여 비교하였다.

• 한국신뢰성학회:학술대회논문집
• /
• 한국신뢰성학회 2000년도 춘계학술대회 발표논문집
• /
• pp.55-61
• /
• 2000

본 연구에서는 열화시스템의 교체정책을 결정할 때 열화에 의한 시스템의 성능의 저하로 인한 제품의 품질 특성치와 목표치(target value)와의 차이를 손실함수를 통해 비용으로 반영하여 교체정책을 제시하였다. 비용함수에는 검사비용, 교체비용, 손실비용이 포함되며, 이 비용들을 최소화하는 교체정책이 제시되었다. 또한 교체정책 결정 시 고려되는 열화에 의한 특성치의 변화, 검사비용, 열화추세 등의 변화에 따른 총비용의 변화와 상호관계를 실험을 통해서 관찰하였고, 실험결과 시스템의 특성에 따라 총비용을 최소화하는 최적검사주기가 존재함을 알 수 있다. 열화에 의한 특성치의 변화가 교체주기와 비용의 변화에 크게 영향을 주는 것으로 나타난 반면 검사비용은 정책결정에 큰 영향을 주지 않는 것으로 관측되었다. 손실함수의 도입을 통해 품질 특성치와 목표치와의 차이로 인한 비용을 줄일 수 있으며 이는 교체주기의 감소경향을 나타낸다.

• 한국추진공학회:학술대회논문집
• /
• 한국추진공학회 1999년도 제12회 학술강연회논문집
• /
• pp.23-23
• /
• 1999

후류손실을 가지는 혼합 전단층에 대하여 밀도변화가 없는 유동 및 밀도변화가 있는 유동의 선형 불안정성 해석을 수행하였다. 기본 유동의 속도장 및 밀도장은 tanh 함수를 사용하였으며, Gaussian 형태의 해석적 함수를 사용하여 두 유동을 분리시키는 평판 바로 다음에 존재하는 후류 손실 유동을 포함시켰다. 공간적 선형 불안정성 해석을 수행하여 불안정성 모드의 성장률과 파장속도를 주파수의 함수로서 구하였다. 해석 결과로부터 후류 손실을 가지는 혼합층은 sinuous 모드와 varicose 모드의 두 개의 불안정성 모드를 가짐을 알았다. 밀도가 균일한 경우에는 varicose 모드보다 sinuous 모드가 지배적이다. 밀도가 균일한 경우에는 varicose 모드보다 sinuous 모드가 지배적이다. 밀도구배가 존재하나 빠른 자유유동의 밀도가 높은 경우에는 밀도가 균일한 경우와 마찬가지로 sinuous 모드가 지배적인 모드가 된다. 그러나 느린 자유 유동의 밀도가 높은 경우에는 밀도장의 두께가 속도장의 두께보다 상대적으로 얇아지면 varicose 모드가 sinuous 모드보다 더욱 불안정하여질 수 있다. varicose 모드와 sinuous 모드의 성장률이 비슷한 밀도장의 두께에서는 두 불안정성 모드가 주파수 변화에 따라 분지 되어지는 경향을 보인다.