• 제목/요약/키워드: 누적 가중치

검색결과 62건 처리시간 0.025초

누적 가중치 변화의 시각화를 통한 심층 신경망 분석시스템 (Deep Neural Network Analysis System by Visualizing Accumulated Weight Changes)

  • 양태린;박진호
    • 한국컴퓨터그래픽스학회논문지
    • /
    • 제29권3호
    • /
    • pp.85-92
    • /
    • 2023
  • 최근 ChatGPT나 자율주행 자동차 등의 인공지능 분야의 급속한 발전으로 인해 인공지능에 대한 관심이 높아졌다. 그러나 아직 인공지능은 학습 과정에서 알 수 없는 요소가 많이 존재하여 모델을 개선하거나 최적화하기 위해서 필요 이상의 시간과 노력을 들여야 하는 경우가 많다. 따라서, 인공지능 모델의 학습 과정에서 가중치 변화를 명확하게 이해하고 해당 변화를 효과적으로 분석할 수 있는 도구 또는 방법론이 절실하게 요구되고 있다. 본 연구에서는 이러한 점을 해결하기 위해 누적 가중치 변화량을 시각화해주는 시스템을 제안한다. 시스템은 학습의 일정한 기간마다 가중치를 구하고 가중치의 변화를 누적시켜서 누적 가중치로 저장하여 3차원 공간상에 나타내게 된다. 이로 인해 보는 이로 하여금 한눈에 레이어의 구조와 현재의 가중치 변화량이 이해되기 쉽게 구성하였다. 이러한 연구를 통해 인공지능 모델의 학습 과정이 어떻게 진행되는지에 대한 이해와 모델의 성능 향상에 도움이 되는 방향으로 하이퍼 파라미터를 변경할 수 있는 지표를 얻게 되는 등 인공지능 학습 과정의 다양한 측면을 탐구할 수 있을 것이다. 이러한 시도를 통해 아직 미지의 영역으로 여겨지는 인공지능 학습 과정의 일부를 보다 효과적으로 탐색하고 인공지능 모델의 발전과 적용에 기여할 수 있을 것으로 기대된다.

적응적 가중치를 이용한 RAM 기반 누적 신경망 (A RAM-based Cumulative Neural Net with Adaptive Weights)

  • 이동형;김성진;권영철;이수동
    • 한국멀티미디어학회논문지
    • /
    • 제13권2호
    • /
    • pp.216-224
    • /
    • 2010
  • RAM 기반 신경망은 빠른 처리 속도와 하드웨어 구현의 용이성 등의 장점을 가지고 있지만 반면에 메모리의 포화 문제, 반복학습, 일반화 패턴 추출의 어려움 등의 단점도 가지고 있다. 이런 단점을 극복하기 위해 누적 다중 판별자를 가지는 3차원 뉴로 시스템(3DNS) 등이 제안되었지만 메모리 포화 문제는 해결하지는 못하였다. 본 논문에서는 메모리 포화 문제를 해결하기 위하여 적응적 가중치를 가지는 AWN (Adaptive Weight Neuron)을 사용한 적응적 가중치 누적 신경망(AWCNN)을 제안한다. 제안된 모델은 AWN으로 3DNS을 개선하여 인식률과 메모리 포화 문제 해결을 향상하였다. 제안된 시스템의 평가는 전처리 과정 없이 NIST의 MNIST에서 제공하는 자료를 이용하여 실험하였다. AWCNN은 3DNS보다 1.5%이상의 향상된 인식률을 보였고 일반화 패턴을 이용한 인식에서는 모든 입력 패턴의 교육된 것과 비슷한 성능을 얻었다.

단일서버에서의 누적적 공정서비스 모델 (A Cumulative Fair Service Model in Single Server)

  • 이주현;박경호;황호영;민상렬
    • 한국정보과학회논문지:시스템및이론
    • /
    • 제33권9호
    • /
    • pp.585-591
    • /
    • 2006
  • Generalized Processor Sharing(GPS) 모델은 세션에게 서비스를 제공시 순시적 공정서비스를 통해 서버 용량을 분배한다. 이 공정서비스는 단지 현재 서버 내에 대기 중인 세션만을 고려하여 서버 용량을 분배하기 때문에, 서비스를 제공하는 순간 서비스를 받는 세션 간에는 공정한 서비스가 제공된다고 볼 수 있다. 그러나 긴 시간의 관점에서 보면 같은 가중치를 가지는 한 세션이 다른 세션에 비해 평균적으로 다른 용량으로 서비스 받는 문제가 발생한다. 본 연구에서는 긴 시간의 관점에서 모든 세션이 항상 공평한 서비스용량을 제공받을 수 있는 누적 공정서비스 모델(CFS)을 제안한다. 이 CFS 모델은 각 세션에게 누적적 공정 서비스 용량을 제공하기 때문에 세션관점 공정 서비스를 제공한다. 그리고 이 모델과 이 모델을 참조하여 각 세션의 패킷을 스케줄링 하는 패킷 누적공정 서비스(P_CFS)알고리즘의 특성과 성능을 분석하였다. 또한 성능평가를 통해 각 세션에게 긴 시간의 관점에서 세션의 가중치에 비례하는 서비스용량이 제공되는 것을 검증하였다.

질의어 의미별 사용자 선호도를 이용한 웹 검색의 성능 향상 (Improving Performance of Web Search using The User Preference in Query Word Senses)

  • 김형일;김준태
    • 한국정보과학회논문지:소프트웨어및응용
    • /
    • 제31권8호
    • /
    • pp.1101-1112
    • /
    • 2004
  • 본 논문에서는 웹 검색의 성능 향상을 위해 질의어 의미별 사용자 선호도를 이용한 웹 페이지의 가중치 부여 방식을 제안한다. 일반적으로 검색엔진들은 검색 질의어와 웹 페이지의 어휘 비교에 의한 관련도 측정만을 사용하여 웹 페이지의 가중치를 부여한다. 웹과 같이 방대한 자료를 대상으로 검색을 할 경우 유사한 관련도를 가진 검색 결과가 매우 많으므로 어휘 비교만으로는 중요한 웹 페이지를 선별하기 어렵다. 본 논문에서는 질의어의 의미를 구분하도록 워드넷(WordNet)을 이용한 사용자 인터페이스를 구축하고, 사용자의 클릭 수를 각 웹 페이지의 가중치에 누적함으로써 다수 사용자의 검색 행위에 의한 묵시적 평가가 웹 페이지의 검색 순위에 반영되는 검색 시스템을 구현하였다. 클릭수의 누적에 있어서 질의 어 의미별로 가중치를 구분하여 저장함으로써 일반적인 검색엔진보다 정확한 검색이 되었으며, 웹 페이지의 범주별 가중치와 질의어의 의미별 사용자 선호도를 이용함으로써 검색 시스템의 성능을 향상시킬 수 있다는 것을 20개의 어휘에 관련된 41개의 의미들을 대상으로 실험한 결과로 확인하였다.

극한 강수 이벤트 예측을 위한 격자별 가중치를 적용한 ConvLSTM 기반 딥러닝 모델 (A ConvLSTM-based deep learning model with grid-weighting for predicting extreme precipitation events)

  • 최효정;김동균
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2023년도 학술발표회
    • /
    • pp.207-207
    • /
    • 2023
  • 데이터 기반 강수 예측 모델은 극한 강수 이벤트의 크기를 과소 추정하는 경향이 있다. 이는 훈련 데이터에 극한 강수 이벤트보다 일반적인 강수 이벤트가 많이 포함되어 있기 때문이다. 본 연구는 이러한 딥러닝의 데이터 불균형 문제를 해소하고자 모델을 학습시킬 때 격자별 극한 강수에 더 큰 가중치를 주어 극한 강수 예측의 정확성을 높이는 방법을 제안한다. 딥러닝 모델 중 공간-시간 필드를 정확하게 예측할 수 있는 ConvLSTM 기반 강수 예측 모델을 활용하여 레이더 강수량을 예측하였다. 먼저, 훈련 기간 동안의 강수 이벤트의 누적 분포 함수 CDF(Cummulative distribution funcion)을 그린 후 극한 강수 이벤트와 일반적인 강수 이벤트의 분포를 확인하였다. 그다음, 적은 분포를 가진 극한 강수 이벤트의 더 큰 가중치를 두어 모델을 학습시켰다. 이 모델은 대한민국 중부 지역 (200km x 200km)의 5km-10분 해상도 레이더-계량기 복합 강수 필드에 대해 2009-2014년 기간 동안 훈련 되었고 2015-2016년 동안 모델의 훈련을 검증 하였고, 2017-2018년 동안 테스트 되었다. 다양한 가중치 함수를 기반으로 훈련 시킨 결과 최적화 가중치 함수 모델의 평균 NSE는 0.6 평균 RMSE는 0.00015 그리고 극한 강수 이벤트만 따로 추출한 평균 MAE는 6이다. 결과적으로 제안된 모델은 기존 방법에 비해 예측 성능을 향상 시켰으며, 격자별 가중치를 두었을 경우 일반적인 강수 이벤트 뿐만 아니라 극한 강수 이벤트의 예측의 정확도를 향상시켰다.

  • PDF

워드넷 기반 협동적 평가와 하이퍼링크를 이용한 검색엔진의 성능 향상 (Improving Performance of Search Engine By Using WordNet-based Collaborative Evaluation and Hyperlink)

  • 김형일;김준태
    • 정보처리학회논문지B
    • /
    • 제11B권3호
    • /
    • pp.369-380
    • /
    • 2004
  • 본 논문에서는 정색엔진의 성능 향상을 위하여 질의어의 모호성 해결과 새로운 가중치 부여 방식을 제안한다. 일반적인 검색엔진은 질의어의 형태와 같은 것들이 포함되어 있는 웹 페이지를 결과로 보여주는 내용기만 방식을 사용하고 있다. 검색 결과로 나타난 웹 페이지들의 순위를 결정하는데 있어서도 주어진 질의어와 웹 페이지 사이의 키워드 매칭에 의한 내용기반 방식을 사용한다. 이와 같이 질의어의 형태만으로 웹페이지들과 유사도를 비교한다는 것은 정확한 검색에 많은 장애를 준다. 또한 질의어의 의미에 모호성이 존재할 경우에는 사용자의 의도와 관련 없는 것들이 결과로 나타나기도 한다. 이러한 원인의 발생은 일반적인 검색엔진들이 내용기반 방법을 기반으로 웹 검색에 이용되기 때문이다. 본 논문에서는 질의어에 모호성이 있는 경우 워드넷을 이용하여 모호성을 해결하도록 하는 사용자 인터페이스를 구현했다. 그리고 사용자의 클릭 수를 각 웹 페이지의 가중치에 누적함으로써 다수 사용자의 협동적 평가에 따른 웹 페이지의 중요도가 검색 순위에 반영되도록 하였다. 클릭수의 누적에 있어서 질의어의 의미 카테고리별로 가중치를 구분하여 저장함으로써 보다 세분화된 웹 페이지 가중치 부여 방식을 사용하였다 그리고 점 페이지의 하이퍼링크를 웹 페이지의 가중치에 적용하였다. 웹 페이지의 가중치에 하이퍼링크를 적용함으로써 웹 페이지의 대표성을 가중치에 부여하여 가중치에 신뢰도를 증가시켰다. 실험용 정색엔진이 일반 검색엔진에 비해 높은 검색 정확도를 나타내는 것을 실험을 통해 확인하였다.

순차 램 기반 누적 신경망을 이용한 수화 인식 (Sign Language recognition Using Sequential Ram-based Cumulative Neural Networks)

  • 이동형;강만모;김영기;이수동
    • 한국인터넷방송통신학회논문지
    • /
    • 제9권5호
    • /
    • pp.205-211
    • /
    • 2009
  • 가중치가 없는 램 기반 신경망은 가중치를 재조정하는 기존 신경망에 비해 계산량 및 인식 시간이 적은 장점을 가지고 있다. 특히 연속적인 연관성을 갖는 제스처와 같은 행위 정보는 각각의 정보들이 시계열적 상관관계를 갖는다. 이와 같은 행위 정보를 인식하려면 일반적으로 많은 계산량과 처리 시간이 요구된다. 이런 문제점을 해결하기 위해 일반적으로 전처리 과정의 삽입 및 하드웨어 인터페이스 활용 등을 이용한다. 본 논문에서는 이와 같은 추가적인 방법 없이 순차 램 기반 누적 신경망으로 연속적인 행위 정보인 한글 복합어 수화 인식 시스템을 구현하였다. 제안된 모델의 성능을 검증하기 위하여 카메라로부터 입력받은 연속적인 복합어 수화 영상을 최소한의 이미지 처리인 경계선 검출만으로 수화 인식을 실험하였다. 경계선 검출 후 이진 영상을 전처리 과정 없이 제안된 순차 램 기반 누적 신경망 시스템으로 처리된 결과는 93%의 인식률을 얻었다.

  • PDF

IR-UWB 시스템을 위한 선택적 가중치 결합 에너지 검출기(S-WED)와 동기 알고리즘 (Selective-Weighted Energy Detector(S-WED) and Synchronization algorithm for IR-UWB systems)

  • 지신애;김재석
    • 전자공학회논문지
    • /
    • 제50권7호
    • /
    • pp.3-9
    • /
    • 2013
  • 본 논문에서는 IR-UWB (Ultra Wideband-Impulse Radio) 시스템을 위한 선택적 가중치를 적용한 에너지 검출기와 이에 적합한 동기 방법이 제안되었다. 구현이 용이한 에너지 검출기(ED)는 IR-UWB 시스템의 수신기로 많이 사용되나, 심볼 주기로 샘플링 된 에너지를 데이터 검출에 이용하기 때문에 수신 성능이 좋지 않은 단점이 있다. 이러한 단순한 에너지 검출기의 성능을 개선하고자 가중치를 적용한 에너지 검출기가 제안 되었다. 가중치를 적용한 에너지 검출기는 데이터 검출 이전에 동기 획득과 함께 가중치의 결정이 요구된다. 한편, 에너지를 이용한 검출 방법에서 최적의 가중치는 에너지 값이 되기 때문에 동기 획득과 가중치 획득이 동시에 이루어질 수 있다. 본 논문에서는 이러한 점을 이용하여 심볼 동기와 가중치 획득을 동시에 얻는 간단한 동기 방법을 제안한다. 또한, 제안된 알고리즘에서는 잡음 레벨 이하의 구간은 에너지 누적에서 제외함으로써 기존의 WED 보다 간단하지만 낮은 SNR에서 좀 더 향상된 성능을 가진 수신기를 얻을 수 있게 된다. 제안된 알고리즘은 IEEE 802.15.4a의 프리앰블 심볼과 채널 모델을 이용해 모의실험을 통해 검증되었다.

Logistic 접근법에 의한 홍수취약지구의 매핑 및 평가 (Mapping and Evaluation of Flood Vulnerable Area by Logistic Approach)

  • 이재영;금호준;김범진;김현일;한건연
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2019년도 학술발표회
    • /
    • pp.215-215
    • /
    • 2019
  • 우리나라 뿐만 아니라 세계 각지에서 태풍이나 집중호우로 인한 침수피해가 증가하고 있다. 그 원인으로는 수공구조물의 설계빈도를 초과하는 강우, 도시지역 확장으로 인한 불투수지역의 확대, 배수시설의 용량부족 등이 있다. 본 연구에서는 수치지형도, 토양도, 토지이용도 등 누구나 쉽게 구할 수 있는 자료를 이용하여 홍수로 인한 피해가 발생하기 쉬운 지역을 선별하고자 하였다. 우선 강우가 지표면에 도달하게 되면 지표면의 경사, 토양의 특성, 토지이용 등에 영향을 받아 침투되지 못하고 표면에 고이게 되는데 이를 유출생성지도로 표현하였다. 그리고 이렇게 생성된 표면유출수가 지표면의 경사, 지표면의 요철(凹凸), 도로나 철도 등의 인공선형축 등에 영향을 받아 흐르기 쉬우며 이를 유출이동지도로 표현하였다. 또한, 이동된 유출수가 고이기 쉬운 저지대, 지표면의 요철 등으로 인해 누적되는 유출누적지도로 표현하였다. 유출생성지도는 이동, 누적지도의 입력자료가 되어 상류의 유출생성의 정도가 하류지역에 영향을 주도록 하였으며, 최종적으로 유출이 동지도와 누적지도가 실제 침수흔적도와 얼마나 일치하는지 확인하기 위해 서울시 침수흔적도와 비교하였다. 기존의 재해 지도를 얻기 위해서는 강우량을 조사하여 수치모형에 입력함으로써 1차원 또는 2차원의 침수예상도를 작성하는 반면에 본 연구에서는 지형 정보만을 가지고 취약지구를 선정하기 때문에 유역전체 또는 시, 도 단위로 광범위한 연구 영역에 적용이 가능하다. 또한, Spatial MCDM 등을 통해 여러 Raster 자료를 하나의 지표로 나타내기보다 유출수가 생성(또는 이동, 누적)되기 쉬운 지역을 1, 그렇지 않은 지역은 0으로 표현하는 이분법적 분석을 통해 가중치설정과 모호한 경계의 처리 때문에 사용자 및 자료에 따라 취약한 지역이 달라지는 것을 방지하고자 하였다. 이를 통해 표면 유출수로 인해 침수피해가 발생하기 쉬운 지역을 홍수취약지구로 선정하여 침수재해 중점관리 우선순위가 될 수 있도록 하였다.

  • PDF

3차원 객체 복원을 위한 SIFT 특징점 가중치 기반 반복적 점군 정합 방법 (SIFT Weighting Based Iterative Closest Points Method in 3D Object Reconstruction)

  • 신동원;호요성
    • 한국방송∙미디어공학회:학술대회논문집
    • /
    • 한국방송∙미디어공학회 2016년도 하계학술대회
    • /
    • pp.309-312
    • /
    • 2016
  • 최근 실세계에 존재하는 물체의 3차원 형상과 색상을 디지털화하는 3차원 객체 복원에 대한 관심이 날로 증가하고 있다. 3차원 객체 복원은 영상 획득, 영상 보정, 점군 획득, 반복적 점군 정합, 무리 조정, 3차원 모델 표현과 같은 단계를 거처 통합된 3차원 모델을 생성한다. 그 중 반복적 점군 정합 방법은 카메라 궤적의 초기 값을 획득하는 방법으로서 무리 조정 단계에서 전역 최적 값으로의 수렴을 보장하기 위해 중요한 단계이다. 기존의 반복적 점군 정합 (iterative closest points) 방법에서는 시간이 지남에 따라 누적된 궤적 오차 때문에 발생하는 객체 표류 문제가 발생한다. 본 논문에서는 이 문제를 해결하기 위해 색상 영상에서 SIFT 특징점을 획득하고 3차원 점군을 얻은 뒤 가중치를 부여함으로써 점 군 간의 더 정확한 정합을 수행한다. 실험결과에서 기존의 방법과 비교하여 제안하는 방법이 절대 궤적 오차 (absolute trajectory error)가 감소하는 것을 확인 했고 복원된 3차원 모델에서 객체 표류 현상이 줄어드는 것을 확인했다.

  • PDF