• 스마트미디어저널
• /
• 제11권3호
• /
• pp.26-30
• /
• 2022

스파이킹 신경망은 실제 두뇌 뉴런의 작동원리를 적용한 신경망으로, 뉴런의 생물학적 메커니즘으로 인해 기존 신경망보다 학습과 추론에 소모되는 전력이 적다. 최근 딥러닝 모델이 거대해지며 운용에 소모되는 비용 또한 기하급수적으로 증가함에 따라 스파이킹 신경망은 합성곱, 순환 신경망을 잇는 3세대 신경망으로 주목받으며 관련 연구가 활발히 진행되고 있다. 그러나 스파이킹 신경망 모델을 산업에 적용하기 위해서는 아직 선행되어야 할 연구가 많이 남아있고, 새로운 모델을 적용하기 위한 모델 재학습 문제 역시 해결해야 한다. 본 논문에서는 기존의 학습된 딥러닝 모델의 가중치를 추출하여 스파이킹 신경망 모델의 가중치로 변환하는 것으로 모델 재학습 비용을 최소화하는 방법을 제안한다. 또한, 변환된 가중치를 사용한 추론 결과와 기존 모델의 결과를 비교해 가중치 변환이 올바르게 작동함을 보인다.

• 방송공학회논문지
• /
• 제26권6호
• /
• pp.778-789
• /
• 2021

최근 다양한 분야에서 뛰어난 성능을 나타내는 Convolutional Neural Network(CNN)모델을 모바일 기기에서 사용하기 위한 다양한 연구가 진행되고 있다. 기존의 CNN 모델은 모바일 장비에서 사용하기에는 가중치의 크기가 크고 연산복잡도가 높다는 문제점이 있다. 이를 해결하기 위해 가중치의 표현 비트를 낮추는 가중치 양자화를 포함한 여러 경량화 방법들이 등장하였다. 많은 방법들이 다양한 모델에서 적은 정확도 손실과 높은 압축률을 나타냈지만, 대부분의 압축 모델들은 정확도 손실을 복구하기 위한 재학습 과정을 포함시켰다. 재학습 과정은 압축된 모델의 정확도 손실을 최소화하지만 많은 시간과 데이터를 필요로 하는 작업이다. Weight Quantization이후 각 층의 가중치는 정수형 행렬로 나타나는데 이는 이미지의 형태와 유사하다. 본 논문에서는 Weight Quantization이후 각 층의 정수 가중치 행렬을 이미지의 형태로 비디오 코덱을 사용하여 압축하는 방법을 제안한다. 제안하는 방법의 성능을 검증하기 위해 ImageNet과 Places365 데이터 셋으로 학습된 VGG16, Resnet50, Resnet18모델에 실험을 진행하였다. 그 결과 다양한 모델에서 2%이하의 정확도 손실과 높은 압축 효율을 달성했다. 또한, 재학습 과정을 제외한 압축방법인 No Fine-tuning Pruning(NFP)와 ThiNet과의 성능비교 결과 2배 이상의 압축효율이 있음을 검증했다.

• 한국정보처리학회:학술대회논문집
• /
• 한국정보처리학회 2010년도 춘계학술발표대회
• /
• pp.471-474
• /
• 2010

질의와 질의 주변에 나오는 어휘는 의미적으로 연관되어있다는 가정하에 질의뿐만 아니라 질의 주변에 나오는 문맥 어휘들도 가중치를 높여준다면 검색에 효율을 높일 수 있을 것이다. 본 논문에서는 질의와 질의 주변에 나오는 문맥 어휘들에게 가중치를 주어 질의 어휘의 위치 가중치를 반영한 문서를 표현하고, 위치 가중치가 반영된 문서 벡터들 사이의 유사도를 계산하여 클러스터 기반 재순위화를 하여 성능을 향상시키는 방법을 제안한다. 뉴스 집합인 TREC AP 문서를 이용하여 언어모델, 위치 가중치를 이용한 언어모델, 클러스터 기반 재순위화 모델의 비교실험을 통해 유효성을 검증한다.

• 정보관리학회지
• /
• 제40권2호
• /
• pp.243-262
• /
• 2023

정보관리기관은 기관의 디지털 성숙도를 효과적으로 평가하고 개선 방향을 명확히 하여 급속도로 발전하는 정보기술 환경에 대응할 필요가 있다. 본 연구는 급변하는 정보환경 속에서 정보관리기관의 효과적인 평가 및 방향설정이 용이하도록 디지털 전환의 관점에서 KISTI가 개발한 디지털 큐레이션 성숙도 모델의 가중치를 도출하였다. AHP기법을 통해 모델의 대분류와 중분류에서 상대적 중요도를 가중치로서 도출하였다. 그 결과를 정리해 보면, 전체 모형의 대분류를 100점 기준으로 측정할 때 기술은 27점, 데이터는 24점, 전략은 19점, 조직(인력)은 16점, (사회적)영향력은 14점으로 계산 가능하였다. 그리고 각 대분류 내 중분류에 대해서도 세부항목 별 가중치를 각각 100점 만점을 기준으로 제시하였다. 본 연구에서 도출한 영역별 가중치를 디지털전환 성숙도 평가 모델에 적용함으로써 보다 객관적이고 합리적인 평가가 가능할 것으로 기대된다.

• 한국정보과학회논문지:컴퓨팅의 실제 및 레터
• /
• 제12권5호
• /
• pp.326-338
• /
• 2006

본 논문에서는 시간에 따라 다양한 컨텐츠를 제공하는 방송 환경에서 고객의 최근 시청 정보를 이용하여 바로 다음에 고객이 시청하기를 선호하는 컨텐츠를 추천하기 위한 방법으로 가중치 지용 Markov 모델을 제안한다. 일반적으로 TV 시청자들은 최근에 시청한 자신이 선호하는 컨텐츠를 다시 시청하는 성향이 있다. 본 논문에서 제안하는 가중치 적용 Markov 모델은 TV 시청자들의 이와 같은 성향을 고려하여 고객이 연속적으로 시청한 정도에 따라 컨텐츠 선호도 전이 행렬에 가중치를 적용한다. 제안된 모델의 실험을 위해 고객으로부터 수집된 TV 시청 정보를 이용하여 고객의 선호 장르를 추천하는데 제안 모델을 적용하였다. 실험 결과 제안된 방법이 기존 방법에 비해 추천의 정확도가 향상되었음을 보인다.

• 한국방송∙미디어공학회:학술대회논문집
• /
• 한국방송공학회 2015년도 추계학술대회
• /
• pp.104-105
• /
• 2015

본 논문에서는 다수 객체 모델을 통해 잘못된 객체 모델 갱신의 영향을 줄이고 객체 추적의 정확도를 향상시키기 위한 방법을 제안한다. 객체 모델 집합은 다수의 객체 모델과 대응하는 가중치들로 정의된다. 각 델과의 유사도 가중 합을 고려 하여 객체 위치를 추정하고, 각 모델의 추정 신뢰도를 계산하여 가중치를 갱신한다. 실험 결과를 통해 제안하는 기법이 오클루젼, 밝기 변화로 인하여 객체 외형이 왜곡되었을 때 추적 성능을 크게 개선함을 보이고 기존 기법들보다 더 정확한 추적 결과를 제공함을 확인한다.

• 한국전산구조공학회:학술대회논문집
• /
• 한국전산구조공학회 2010년도 정기 학술대회
• /
• pp.226-229
• /
• 2010

본 연구에서는 데이터 저장의 질적 향상을 도모하는 XML 스키마 매칭의 효율적 활용방안을 제시하였다. 이를 위하여 매칭의 가중치의 변화에 따라 달라지는 정확도 데이터를 수집하고, 수집한 데이터를 활용하여 데이터 마이닝 기법 중 하나인 의사결정나무 모델을 수립하였다. 수립모델을 응용하여 구현한 가중치 자동선정 모듈은 설명변수인 교량의 형식, 문서가 포함하고 있는 요소의 수, 문서를 작성한 회사 등의 값에 따라 의사결정나무 모델의 목표변수인 정확도뿐만 아니라, 가장 높은 정확도를 보일 수 있는 가중치까지 간접적으로 제안가능하다. 본 연구로 구현한 모듈을 통해 제안된 XML 스키마 매칭 가중치를 활용하면 그렇지 않은 경우에 비하여 약 10% 정확도 상승효과가 있음을 알 수 있었다.

• 한국수자원학회:학술대회논문집
• /
• 한국수자원학회 2018년도 학술발표회
• /
• pp.99-99
• /
• 2018

기상이변으로 인해 국지성 호우의 발생 증가와 그로 인한 수재해 피해가 증가하고 있다. 따라서 수재해를 사전에 예측하고 저감하기 위해 비구조물적 대책인 실시간 홍수예보시스템 개발 및 운영에 관한 연구들이 수행되고 있다. 일반적으로 홍수예보시스템은 대피선행시간 확보를 위해서 초단시간 혹은 단기 수치예보모델을 수문해석모형이나 예보기법의 입력으로 활용하고 있다. 초단시간 예측은 기상레이더를 기반으로 외삽, 이류, 셀 추적 등의 기법을 활용하여 0~3시간 이내의 강수예측을 수행한다. 그러나 역학이나 물리적 과정이 동반되지 못하여 0~ 2시간 이내에서의 예측성은 높은 반면, 예측시간이 길어질수록 예측력이 낮아진다. 단기수치예보모델은 종관관측에 의존하면서 역학이나 물리과정을 동반하므로 0~6시간 혹은 12시간 이상의 예측을 수행하지만, 수치모델의 고유특성인 스핀업 등의 예측 불확실성이 내재되어 있어 예측 초기시간에서의 예측력이 낮은 한계가 있다. 따라서 강수예측의 정확도 향상을 위해 레이더와 수치예보모델의 병합기법이 필요하다. 본 연구에서는 통계분석을 통해 경험적으로 산출된 시간적 가중치를 이용한 기존 병합기법의 한계를 극복하면서 호우에 따른 가변성을 반영하는 실시간 병합기법을 개발하고, 수문학적인 활용성을 평가하고자 하였다. 사용된 예측강우 자료는 레이더 기반인 MAPLE, KONOS, 공간규모분할 예측강우와 수치예보모델 기반인 UM와 ASAPS의 예측강우이며, 제시한 가중치 산정기법은 직전 예측강우의 오차가 현 시점의 예측강우의 오차와 유사하다는 가정하에 오차항을 포함한 과거 1시간 예측강우들간의 가중치 조합이 과거 지상관측강우와의 평균제곱근오차가 최소가 되도록 화음 탐색법을 이용하여 찾는 것이다. 가중치 조합은 예측강우의 생산 시간 간격을 고려하여 매 10분마다 산정하며, 미래 3시간 예측까지 산정된 가중치를 적용한다. 수도권 영역을 대상으로 병합된 예측강우와 레이더 관측강우를 비교한 결과, 정량적 정확도가 향상됨을 확인할 수 있었다. 또한, 예측강우의 수문학적 활용성은 도시유출해석모의를 통해 평가하였다. 그 결과, 병합된 예측강우로 모의된 수심이 관측수심과 유사하여 수문학적 활용성 확인할 수 있었다.

• 방송과미디어
• /
• 제28권1호
• /
• pp.61-80
• /
• 2023

인공신경망 모델이 다양한 분야에서 뛰어난 성능을 보이고 있지만, 동시에 모델의 복잡도도 크게 증가하였다. 따라서, 모바일 같은 저전력 디바이스에 인공신경망 모델이 실시간으로 추론/배포되기 위해서는 모델의 가중치 파라미터의 수 혹은 메모리 소모량을 줄이는 경량화 기술이 필수적이다. 이에 MPEG에서는 인공신경망 모델을 다양한 프레임워크에서 상호 운용 가능하고 파라미터를 압축 표현하는 NNC (Compression of Neural Networks) 표준화를 진행 중에 있다. 본고에서는 NNC 표준의 개요와 가중치 파라미터를 압축하는 압축 기술, 그리고 HLS (High-Level Syntax)들을 소개하고자 한다.

• 한국방송∙미디어공학회:학술대회논문집
• /
• 한국방송∙미디어공학회 2020년도 하계학술대회
• /
• pp.662-663
• /
• 2020

최근 MPEG 에서는 인공신경망 모델을 다양한 딥러닝 프레임워크에서 상호운용 가능한 포맷으로 압축 표현할 수 있는 NNR(Compression of Neural Network for Multimedia Content Description and Analysis) 표준화를 진행하고 있다. 본 논문에서는 MPEG-NNR 에서 CNN 모델을 압축하기 위한 지역 비선형 양자화(Local Non-linear Quantization: LNQ) 기법을 제시한다. 제안하는 LNQ 는 균일 양자화된 CNN 모델의 각 계층의 가중치 행렬 블록 단위로 추가적인 비선형 양자화를 적용한다. 또한, 제안된 LNQ 는 가지치기(pruning)된 모델의 경우 블록내의 영(zero) 값의 가중치들은 그대로 전송하고 영이 아닌 가중치만을 이진 군집화를 적용한다. 제안 기법은 음성 분류를 위한 CNN 모델(DCASE Task)의 압축 실험에서 기존 균일 양자화를 대비 동일한 분류 성능에서 약 1.78 배 압축 성능 향상이 있음을 확인하였다.