• Title/Summary/Keyword: residual learning

검색결과 196건 처리시간 0.024초

대조 학습 기반 초해상도 모델 경량화 기법 (Compression of Super-Resolution model Using Contrastive Learning)

  • 문현철;권용훈;정진우;김성제
    • 한국방송∙미디어공학회:학술대회논문집
    • /
    • 한국방송∙미디어공학회 2022년도 하계학술대회
    • /
    • pp.1322-1324
    • /
    • 2022
  • 최근 딥러닝의 발전에 따라 단일 이미지 초해상도 분야에 좋은 성과를 보여주고 있다. 그러나 보다 더 높은 성능을 획득하기 위해 네트워크의 깊이 및 파라미터의 수가 크게 증가하였고, 모바일 및 엣지 디바이스에 원활하게 적용되기 위하여 딥러닝 모델 경량화의 필요성이 대두되고 있다. 이에 본 논문에서는 초해상도 모델 중 하나인 EDSR(Enhanced Deep Residual Network)에 대조 학습 기반 지식 전이를 적용한 경량화 기법을 제안한다. 실험 결과 제안한 지식 전이 기법이 기존의 다른 지식 증류 기법보다 향상된 성능을 보임을 확인하였다.

  • PDF

딥러닝을 이용한 반려견 개체 인식 시스템 (Dog recognition system using Deep Learning)

  • 김동욱;이지현;공지혁;김황;곽호영
    • 한국컴퓨터정보학회:학술대회논문집
    • /
    • 한국컴퓨터정보학회 2023년도 제68차 하계학술대회논문집 31권2호
    • /
    • pp.519-520
    • /
    • 2023
  • 본 논문에서는 최근 반려동물 등록제가 확대되고 있는 바, 기존의 마이크로 칩 삽입 방법을 회피하고 반려견 이미지를 통하여 개체를 인식하는 방법을 연구하였다. 반려견의 전체 이미지를 학습시켜 해당 개체를 식별하는 지능형 시스템을 ResNet 알고리즘을 이용하여 구현하고, 수집된 반려견의 개체 사진을 학습시켜 필요한 개체를 식별할 수 있도록 하였다.

  • PDF

최소 Disturbance 기법을 적용한 향상된 CMA 적응 등화 알고리즘 (Adaptive Equalization Algorithm of Enhanced CMA using Minimum Disturbance Technique)

  • 강대수
    • 한국인터넷방송통신학회논문지
    • /
    • 제14권6호
    • /
    • pp.55-61
    • /
    • 2014
  • 본 논문은 CMA 적응등화기에서 최소 disturbance 기법을 적용하여 진폭과 위상의 동시 보상이 가능한 ECMA (Enchanced CMA) 알고리즘의 성능에 관한 것이다. ECMA는 적응등화기 탭 계수의 변화량을 squared euclidean norm 관점에서 최소화하는 최소 disturbance 기법과 decision directed mode에 의한 gradient noise amplification 문제와 안정도 및 roburstness 성능을 알고리즘 연산량의 큰 증가없이 개선할 수 있고, 수신신호에서 진폭과 위상의 동시 보상이 가능하도록 새로운 비용함수를 제안하였다. 논문에서는 ECMA 알고리즘의 성능을 MCMA와 비교하기 위하여 컴퓨터 시뮬레이션을 수행하였다. 이를 위하여 수신측에서의 등화기 출력신호인 복원된 신호 성상도, 수렴 성능을 나타내는 성능지수인 잔류 isi 및 MD (Maximum Distortion), MSE 특성곡선과 채널과 등화기의 종합 주파수 특성을 성능 비교 지수로 사용하였다. 시뮬레이션 결과 ECMA가 복원성상도에서 진폭과 위상보상 능력 및 적응등화를 위한 수렴시간에서 MCMA보다 우월함을 알 수 있었다.

위상 보상을 위한 개선된 CMA 적응 등화 알고리즘 (Adaptive Equalization Algorithm of Improved-CMA for Phase Compensation)

  • 임승각
    • 한국인터넷방송통신학회논문지
    • /
    • 제14권3호
    • /
    • pp.63-68
    • /
    • 2014
  • 본 논문은 다중 경로 페이딩과 대역폭 제한 특성을 갖는 채널에서 부호간 간섭을 제거시킬 수 있는 CMA 적응 등화기에서 위상 보상이 가능한 I-CMA (Improved-CMA) 알고리즘에 관한 것이다. 기존 CMA 알고리즘의 오차신호를 얻기 위한 비용 함수를 개량하여 진폭과 위상의 동시 제거가 가능토록 새로운 비용 함수가 제안되며 이의 성능을 컴퓨터 시뮬레이션 확인하였다. 알고리즘의 단순성과 등화 후 위상 보상을 위한 별도의 PLL을 제거할 수 있는 장점을 가지며, 이를 위해 수신측에서의 등화기 출력 신호인 복원된 신호 성상도, 수렴 성능을 나타내는 성능 지수인 잔류 isi 및 MD (Maximum Distortion) 특성 곡선과 채널과 등화기의 종합 주파수 특성을 사용하였다. 시뮬레이션 결과 I-CMA가 복원 성상도에서 진폭과 위상 보상 능력이 CMA보다 우월하였지만, 수렴 시간에서는 동시 위상 보상으로 인하여 CMA보다 늦어짐을 알 수 있었다.

Adaptive Modulus를 이용한 MCMA 등화 알고리즘의 성능 개선 (Performance Improvement of MCMA Equalization Algorithm Using Adaptive Modulus)

  • 임승각
    • 한국인터넷방송통신학회논문지
    • /
    • 제14권3호
    • /
    • pp.57-62
    • /
    • 2014
  • 본 논문에서는 대역폭 제한과 시분산 특성을 갖는 통신 채널에서 부호간 간섭을 제거시킬 수 있는 MCMA 블라인드 등화 기에 Adaptive Modulus 개념을 적용하여 등화 성능을 개선시킬 수 있는 알고리즘을 제안한다. 학습열의 도움없이 채널에서 발생되는 부호간 간섭의 진폭과 위상 회전을 동시에 경감시킬 수 있는 MCMA 블라인드 알고리즘에서 송신 신호의 통계적 특성인 Constant Modulus를 고정시켜 사용하지만, 제안 방식에서는 등화기 출력 신호에 따라 Modulus를 적응적으로 변화시킴으로서 개선된 성능을 얻을 수 있음을 컴퓨터 시뮬레이션을 통해 확인하였다. 이를 위해 수신측에서의 등화기 출력 신호인 복원된 신호 성상도, 수렴 성능을 나타내는 성능 지수인 MSE, MD(Maximum Distortion) 및 잔류 isi 특성 곡선을 사용하였으며, 동일한 조건의 적응 등화 알고리즘에서 제안 방식이 기존 MCMA 알고리즘보다 우월함을 확인하였다.

임베디드 보드에서 실시간 의미론적 분할을 위한 심층 신경망 구조 (A Deep Neural Network Architecture for Real-Time Semantic Segmentation on Embedded Board)

  • 이준엽;이영완
    • 정보과학회 논문지
    • /
    • 제45권1호
    • /
    • pp.94-98
    • /
    • 2018
  • 본 논문은 자율주행을 위한 실시간 의미론적 분할 방법으로 최적화된 심층 신경망 구조인 Wide Inception ResNet (WIR Net)을 제안한다. 신경망 구조는 Residual connection과 Inception module을 적용하여 특징을 추출하는 인코더와 Transposed convolution과 낮은 층의 특징 맵을 사용하여 해상도를 높이는 디코더로 구성하였고 ELU 활성화 함수를 적용함으로써 성능을 올렸다. 또한 신경망의 전체 층수를 줄이고 필터 수를 늘리는 방법을 통해 성능을 최적화하였다. 성능평가는 NVIDIA Geforce gtx 1080과 TX1 보드를 사용하여 주행환경의 Cityscapes 데이터에 대해 클래스와 카테고리별 IoU를 평가하였다. 실험 결과를 통해 클래스 IoU 53.4, 카테고리 IoU 81.8의 정확도와 TX1 보드에서 $640{\times}360$, $720{\times}480$ 해상도 영상처리에 17.8fps, 13.0fps의 실행속도를 보여주는 것을 확인하였다.

디지털 영상 픽셀값의 경사도를 이용한 Downscaling Forgery 검출 (Downscaling Forgery Detection using Pixel Value's Gradients of Digital Image)

  • 이강현
    • 전자공학회논문지
    • /
    • 제53권2호
    • /
    • pp.47-52
    • /
    • 2016
  • 스마트 기기와 소형 디스플레이에 사용되는 디지털 영상은 다운스케일링 (Downscaling)된 영상이 사용된다. 본 논문에서는 영상 픽셀값의 경사도에 따른 특징벡터를 이용한 다운스케일링 포저리 (Forgery) 영상 검출 알고리즘을 제안한다. 제안된 알고리즘에서, 원영상의 픽셀값 경사도로부터 자기회귀 (AR: Autoregressive) 계수를 계산한다. 이는 다운스케일링 포저리 영상 검출기의 SVM (Support Vector Machine) 분류를 위한 학습에 사용된다. 제안된 다운스케일링 검출 알고리즘은 동일 10-Dim. 특징벡터의 MFR (Median Filter Residual) 스킴과 686-Dim.의 SPAM (Subtractive Pixel Adjacency Matrix) 스킴과 비교하여 다운스케일링 90% 영상 포저리에서 성능이 우수하며, 평균필터링 ($3{\times}3$) 영상과 미디언필터링 ($3{\times}3$) 영상에서 높은 검출율을 보여 주었다. 특히, 평균필터링과 미디언필터링 영상에서는 성능평가 전체 항목에서 민감도 (Sensitivity; TP: True Positive rate)와 1-특이도 (1-Specificity; FP: False Positive rate)의 AUC (Area Under Curve)가 모두 1에 수렴하여 'Excellent (A)' 등급임을 확인하였다.

다양한 합성곱 신경망 방식을 이용한 폐음 분류 방식의 성능 비교 (Performance comparison of lung sound classification using various convolutional neural networks)

  • 김지연;김형국
    • 한국음향학회지
    • /
    • 제38권5호
    • /
    • pp.568-573
    • /
    • 2019
  • 폐질환 진단에서 청진은 다른 진단 방식에 비해 단순하고, 폐음을 이용하여 폐질환 환자식별뿐 아니라 폐음과 관련된 질병을 예측할 수 있다. 따라서 본 논문에서는 다양한 합성곱 신경방 방식을 기반으로 폐음을 이용하여 폐질환 환자를 식별하고, 소리특성에 따른 폐음을 분류하여 각 신경망 방식의 분류 성능을 비교한다. 먼저 폐질환 소견을 갖는 흉부 영역에서 단채널 폐음 녹음기기를 이용하여 폐음 데이터를 수집하고, 수집된 시간축 신호를 스펙트럼 형태의 특징값으로 추출하여 각 분류 신경망 방식에 적용한다. 폐 사운드 분류 방식으로는 일반적인 합성곱 신경망, 병렬 구조, 잔류학습이 적용된 구조의 합성곱 신경망을 사용하고 실험을 통해 각 신경망 모델의 폐음 분류 성능을 비교한다.

음향 장면 분류를 위한 경량화 모형 연구 (Light weight architecture for acoustic scene classification)

  • 임소영;곽일엽
    • 응용통계연구
    • /
    • 제34권6호
    • /
    • pp.979-993
    • /
    • 2021
  • 음향 장면 분류는 오디오 파일이 녹음된 환경이 어디인지 분류하는 문제이다. 이는 음향 장면 분류와 관련한 대회인 DCASE 대회에서 꾸준하게 연구되었던 분야이다. 실제 응용 분야에 음향 장면 분류 문제를 적용할 때, 모델의 복잡도를 고려하여야 한다. 특히 경량 기기에 적용하기 위해서는 경량 딥러닝 모델이 필요하다. 우리는 경량 기술이 적용된 여러 모델을 비교하였다. 먼저 log mel-spectrogram, deltas, delta-deltas 피쳐를 사용한 합성곱 신경망(CNN) 기반의 기본 모델을 제안하였다. 그리고 원래의 합성곱 층을 depthwise separable convolution block, linear bottleneck inverted residual block과 같은 효율적인 합성곱 블록으로 대체하고, 각 모델에 대하여 Quantization를 적용하여 경량 모델을 제안하였다. 경량화 기술을 고려한 모델은 기본 모델에 대비하여 성능이 비슷하거나 조금 낮은 성능을 보였지만, 모델 사이즈는 503KB에서 42.76KB로 작아진 것을 확인하였다.

잔차 신경망과 팽창 합성곱 신경망을 이용한 라이트 필드 각 초해상도 기법 (Light Field Angular Super-Resolution Algorithm Using Dilated Convolutional Neural Network with Residual Network)

  • 김동명;서재원
    • 한국정보통신학회논문지
    • /
    • 제24권12호
    • /
    • pp.1604-1611
    • /
    • 2020
  • 마이크로렌즈 어레이 기반의 카메라로 촬영된 라이트필드 영상은 낮은 공간해상도 및 각해상도로 인하여 실제 사용하기에는 많은 제약이 따른다. 고해상도의 공간해상도 영상은 최근 많이 연구되고 있는 단일 영상 초해상도 기법으로 쉽게 얻을 수 있으나 고해상도의 각해상도 영상은 영상사이에 내재된 시점차 정보를 이용하는 과정에서 왜곡이 발생하여 좋은 품질의 각해상도 영상을 얻기 힘든 문제가 있다. 본 논문에서는 영상 사이에 내재된 시점차 정보를 효과적으로 추출하기 위해서 팽창 합성곱 신경망을 이용하여 초기 특징맵을 추출하고 잔차 신경망으로 새로운 시점 영상을 생성하는 라이트 필드 각 초해상도 영상 기법을 제안한다. 제안하는 네트워크는 기존의 각 초해상도 네트워크와 비교하여 PSNR 및 주관적 화질 비교에서 우수한 성능을 보였다.