• Title/Summary/Keyword: 가중치 손실

검색결과 147건 처리시간 0.036초

셀 손실 QoS 향상을 위한 셀 스케줄링에 관한 연구 (A Study about the Cell Scheduling for the Cell Loss QoS Improvement)

  • 이영교;이영숙
    • 한국콘텐츠학회논문지
    • /
    • 제2권4호
    • /
    • pp.85-92
    • /
    • 2002
  • 본 논문에서는 고속 ATM 스위치에 적합한 셀 스케줄링 알고리즘을 제안하고 있다. 제안한 셀 스케줄링 방식은 기존의 FRR(Fixed weight Round Robin: 고정 가중치 라운드 로빈) 방식과 QLT(Queue Length Threshold) 변형방을 결합한 가변 가중치 라운드 로빈(VRR: Variable weight Round Robin) 셀 스케줄링 방식이다. FRR 방식은 각 버퍼별로 고정 가중치를 부여하여 고정 라운드 로빈 방식에 의해 셀 스케줄링을 수행하므로 고속 스위치의 구현 관점에서는 매우 큰 장점을 지니고 있지만 ATM 서비스 클래스들이 요구하는 QoS를 만족시키거나 네트워크 상황에 융통성 있게 대처할 수는 없으므로 VRR 방식은 FRR 방식을 기반으로 고정 가중치를 수행하고 버퍼 상황에 따라 가변 가중치로 확장하는 방식을 적용하여 셀 손실 QoS를 향상시키면서 셀 지연률 QoS를 만족시킬 수 있는 방식임을 시뮬레이션을 통하여 입증하였다.

  • PDF

비디오 인코더를 통한 딥러닝 모델의 정수 가중치 압축 (Compression of DNN Integer Weight using Video Encoder)

  • 김승환;류은석
    • 방송공학회논문지
    • /
    • 제26권6호
    • /
    • pp.778-789
    • /
    • 2021
  • 최근 다양한 분야에서 뛰어난 성능을 나타내는 Convolutional Neural Network(CNN)모델을 모바일 기기에서 사용하기 위한 다양한 연구가 진행되고 있다. 기존의 CNN 모델은 모바일 장비에서 사용하기에는 가중치의 크기가 크고 연산복잡도가 높다는 문제점이 있다. 이를 해결하기 위해 가중치의 표현 비트를 낮추는 가중치 양자화를 포함한 여러 경량화 방법들이 등장하였다. 많은 방법들이 다양한 모델에서 적은 정확도 손실과 높은 압축률을 나타냈지만, 대부분의 압축 모델들은 정확도 손실을 복구하기 위한 재학습 과정을 포함시켰다. 재학습 과정은 압축된 모델의 정확도 손실을 최소화하지만 많은 시간과 데이터를 필요로 하는 작업이다. Weight Quantization이후 각 층의 가중치는 정수형 행렬로 나타나는데 이는 이미지의 형태와 유사하다. 본 논문에서는 Weight Quantization이후 각 층의 정수 가중치 행렬을 이미지의 형태로 비디오 코덱을 사용하여 압축하는 방법을 제안한다. 제안하는 방법의 성능을 검증하기 위해 ImageNet과 Places365 데이터 셋으로 학습된 VGG16, Resnet50, Resnet18모델에 실험을 진행하였다. 그 결과 다양한 모델에서 2%이하의 정확도 손실과 높은 압축 효율을 달성했다. 또한, 재학습 과정을 제외한 압축방법인 No Fine-tuning Pruning(NFP)와 ThiNet과의 성능비교 결과 2배 이상의 압축효율이 있음을 검증했다.

데이터 불균형 기법의 부작용 완화를 위한 어텐션 기반 앙상블 (Attention-Based Ensemble for Mitigating Side Effects of Data Imbalance Method)

  • 박요한;최용석;;이공주
    • 한국정보과학회 언어공학연구회:학술대회논문집(한글 및 한국어 정보처리)
    • /
    • 한국정보과학회언어공학연구회 2023년도 제35회 한글 및 한국어 정보처리 학술대회
    • /
    • pp.546-551
    • /
    • 2023
  • 일반적으로 딥러닝 모델은 모든 라벨에 데이터 수가 균형을 이룰 때 가장 좋은 성능을 보인다. 그러나 현실에서는 특정라벨에 대한 데이터가 부족한 경우가 많으며 이로 인해 불균형 데이터 문제가 발생한다. 이에 대한 해결책으로 오버샘플링과 가중치 손실과 같은 데이터 불균형 기법이 연구되었지만 이러한 기법들은 데이터가 적은 라벨의 성능을 개선하는 동시에 데이터가 많은 라벨의 성능을 저하시키는 부작용을 가지고 있다. 본 논문에서는 이 문제를 완화시키고자 어텐션 기반의 앙상블 기법을 제안한다. 어텐션 기반의 앙상블은 데이터 불균형 기법을 적용한 모델과 적용하지 않은 모델의 출력 값을 가중 평균하여 최종 예측을 수행한다. 이때 가중치는 어텐션 메커니즘을 통해 동적으로 조절된다. 그로므로 어텐션 기반의 앙상블 모델은 입력 데이터 특성에 따라 가중치를 조절할 수가 있다. 실험은 에세이 자동 평가 데이터를 대상으로 수행하였다. 실험 결과로는 제안한 모델이 데이터 불균형 기법의 부작용을 완화하고 성능이 개선되었다.

  • PDF

라플라시안 피라미드 부호화에 의한 영상 압축에 관한 연구 (A Study on Image Compression Using Laplacian Pyramid Encoding)

  • 박유경;박지환
    • 한국멀티미디어학회:학술대회논문집
    • /
    • 한국멀티미디어학회 2000년도 추계학술발표논문집
    • /
    • pp.175-178
    • /
    • 2000
  • 인접한 화소들간의 상관성에 대한 오류 정보만을 추출하여 전송하는 기법인 라플라시안 피라미드는 알고리즘 구성이 간단하며, 낮은 엔트로피 전송이 가능한 무손실 예측 압축과 점진적인 전송이 가능한 이점을 가지고 있다. 이러한 라플라시안 피라미드를 효율적으고 구성하기 위하여 기존의 5$\times$5 가중치 행렬을 3$\times$3 가중치 행렬로 구성하는 새로운 기법을 보인다. 3$\times$3 가중치행렬을 이용하는 방법이 5$\times$5 가중치 행렬에 의한 알고리즘의 구성보다 간단하면서도 압축효율이 좋음을 시뮬레이션을 통하여 보인다.

  • PDF

태깅 오류 간 중요도 차별화에 기반한 비용 의존 품사 태깅 (A Cost Sensitive Part-of-Speech Tagging: Differentiating Serious Errors from Minor Errors)

  • 손정우;노태길;박성배;고준호
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2011년도 한국컴퓨터종합학술대회논문집 Vol.38 No.1(C)
    • /
    • pp.236-239
    • /
    • 2011
  • 품사 태깅에서 오류는 같은 가중치를 가지는 것으로 간주되어 왔다. 하지만 품사 태깅의 결과를 활용하는 다른 자연어 처리 기술에 태깅 오류가 얼마나 영향을 미칠 수 있는가에 따라 품사 태깅 시 발생하는 오류가 가지는 가중치를 다르게 보아야 한다. 심각한 오류는 이를 활용하는 자연어 처리 기술의 성능 저하를 크게 야기하지만, 사소한 오류는 성능의 저하를 야기하지 않거나 그 영향이 미미하다. 본 논문에서는 품사 태깅 시, 전체적인 성능을 유지하면서 심각한 오류를 줄이는 것을 목표로 한다. 이를 위해 두 가지 점진적 손실 함수(gradient loss function)를 제안한다. 제안한 손실 함수는 심각한 오류에 사소한 오류보다 더 큰 가중치를 줌으로써 품사 태깅 모델이 심각한 오류에 더 집중하여 성능을 최적화하도록 한다. 실험에서 제안한 손실 함수를 활용한 태깅 모델은 기존의 방법에 비해 심각한 오류를 효과적으로 줄일 뿐만 아니라 전체적으로 더 높은 정확도를 보였다.

개선된 IFAM 알고리즘을 이용한 칼라 영상 복원 (Restoring Color Image Using The Enhanced IFAM Algorithm)

  • 김민지;김혜란;박효빈;임태경;김광백
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국정보통신학회 2017년도 추계학술대회
    • /
    • pp.497-498
    • /
    • 2017
  • 기존의 영상 복원 방법에서는 영상에 퍼지 스트레칭 기법을 이용하여 명암 대비를 강조하였다. 강조된 영상에서 Max-Min 연산을 위해서 칼라 채널의 최대값을 이용하여 각 픽셀 값을 정규화 하였다. 정규화 된 픽셀 값에 Min 연산을 적용하여 연결 가중치를 계산하여 훼손된 영상의 복원에 적용하였다. 그러나 일부 손실된 영상에서 손실된 부분을 탐색하기 위해 $10{\times}10$을 가진 마스크를 이용하여 훼손된 영역을 탐색한 후, 탐색된 훼손된 영역에 연결 가중치를 적용하여 임계값보다 적은 경우에는 임계값으로 설정하여 손실된 부분을 복원하였으나 원 영상과의 차이가 나는 경우가 자주 발생하여 복원의 정확성이 낮아지는 문제점이 있다. 따라서 본 논문에서는 영상의 복원의 정확성을 높이기 위하여 그레이 영상뿐만 아니라 칼라 영상에서도 복원의 정확성을 높일 수 있는 방법을 제안한다. 제안된 방법을 다양한 칼라 영상을 대상으로 실험한 결과, 제안된 방법이 기존의 방법보다 복원의 정확성이 높아진 것을 확인할 수 있었다.

  • PDF

차량내 잡음 환경에서 적응적 경계값을 이용한 가중치 주파수 차감에 관한 연구 (A Study on Weighted Spectral Subtraction Using Adaptive Threshold In Car Noise Environment)

  • 전선도
    • 한국음향학회:학술대회논문집
    • /
    • 한국음향학회 1998년도 학술발표대회 논문집 제17권 1호
    • /
    • pp.185-188
    • /
    • 1998
  • 실제의 음성 인식 및 음성 통신 등의 음성 처리 시스템에서는 음성 신호를 손상시키는 배경 잡음 신호의 존재로 그 성능이 많이 저하된다. 특히 차량 내와 같은 잡음이 극심한 상황에서는 전처리 부분에서 이러한 잡음을 제거시켜 주어야한다. 본 연구는 자동차 내의 배경 잡음에 의해 손상된 음성에서 배경 잡음을 주파수 차감에 의하여 제거시킨다. 특히 음성 정보의 손실이 적은 잡음 추정 방법으로 가중치를 이용하여 잡음을 추정하는 가중치 주파수 차감법을 이용하였다. 이러한 가중치 주파수 차감법 사용의 전제 조건은 잡음의 변화가 완만한 경우에 적당하다. 그러나 실제적인 상황에서 배경잡음신호의 변화가 큰 경우가 존재한다. 이러한 이유에서 본 연구는 잡은 추정시 잡음 추정값을 이용하여 추정 잡음 경계값을 적응적으로 변화하는 차감법을 제안한다. 이러한 방법은 추정된 잡음 신호의 변화율을 이용하여 경계값을 상황에 따라 적응적으로 변화시키는 방법이다. 모의 실험에 의하여 고정적인 경계값을 갖는 가중치 주파수 차감법에 비해 제안한 적응적 경계값을 갖는 가중치 주파수 차감법의 출력 SNR이 증가함을 확인하였고, 음성 인식 시스템에 정용한 인식 실험에서도 성능이 향상됨을 확인하였다.

  • PDF

차량내 잡음 환경에서 적응적 경계값을 이용한 가중치 주파수 차감에 관한 연구 (A Study on Weighted Spectral Subtraction Using Adaptive Threshold in Car Noise Environment)

  • 전선도;강철호;김종찬;김순협
    • 한국음향학회지
    • /
    • 제17권8호
    • /
    • pp.73-77
    • /
    • 1998
  • 본 연구는 자동차내 배경 잡음에 의해 손상된 음성에서 배경 잡음을 주파수 차감에 의하여 제거시킨다. 특히 음성정보의 손실이 적은 잡음 추정 방법으로 가중치를 이용하여 잡음을 가중치 주파수 차감법을 이용하였다. 이러한 가중치 주파수 차감법은 잡음의 변화가 완만한 경우에 적당하다. 그러나 실제적인 상황에서 배경잡음신호의 변화가 큰 경우가 존재 한다. 이러한 이유는 본 연구는 잡음 추정시 잡음 추정값을 이용하여 추정 잡음 경계값을 적응적으로 변화시키는 차감법을 제안한다. 이 방법은 추정된 잡음 신호의 변화율을 이용하 여 경계값을 상황에 따라 적응적으로 변화시키는 방법이다. 모의 실험에 의하여 고정적인 경계값을 갖는 가중치 주파수 차감법에 비해 제안한 적응적 경계값을 갖는 가중치 주파수 차감법의 출력 SNR이 증가함을 확인하였고, 음성 인식 시스템에 적용한 인식 실험에서도 성능이 향상됨을 확인하였다.

  • PDF

다특성치 파라미터 설계의 평가척도에 관한 연구 (Performance measures for correlated multiple characteristics in parameter design)

  • 김욱일;강창욱
    • 한국경영과학회:학술대회논문집
    • /
    • 대한산업공학회/한국경영과학회 1994년도 춘계공동학술대회논문집; 창원대학교; 08월 09일 Apr. 1994
    • /
    • pp.367-369
    • /
    • 1994
  • 지금까지 다구치 방법에서는 다특성치 문제에 있어서 특성치들 간의 관계를 무시하고 특성치들은 서로 독립이라는 가정 하에, 각 특성치에 대한 최적공 정조건을 찾아 다특성치로 확장시키는 방법이 사용되었다. 그러나 현실적으 로 많은 다특성치 문제에서 특성치들 간의 상관관계가 존재한다. 따라서 본 연구에서는 특성치들 간의 상관관계를 고려한 새로운 평가척도를 제시하고 자 한다. 본 연구에서는 각 특성치와 특성치들 간의 상관관계에 가중치를 부 여하는 방법을 사용하였다. 다특성치 손실함수를 단일 특성치 종류의 조합에 따라 여섯개의 모형으로 구분하였고, 각 모형의 다특성치 손실함수는 특성치 자체에 의해 야기되는 손실과 특성치들간의 관계에 의해 야기되는 손실로 나누었다. 또한 새로운 평가척도로는 다특성치 손실함수의 각 항에 의해 야 기되는 기대손실의 합인 다특성치의 기대손실을 선택하였다. 본 연구의 타당 성에 대해서는 기존의 데이터를 이용. 분석하여 기존 논문과 비교하였다.

의료 영상 바이오마커 추출을 위한 딥러닝 손실함수 성능 비교 (Comparison of Deep Learning Loss Function Performance for Medical Video Biomarker Extraction)

  • 서진범;조영복
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국정보통신학회 2021년도 춘계학술대회
    • /
    • pp.72-74
    • /
    • 2021
  • 다양한 분야에서 현재 활용되고 있는 딥러닝 과정은 데이터 준비, 데이터 전처리, 모델 생성, 모델 학습, 모델 평가로 구성 된다. 이중 모델 학습 과정에서 손실함수는 모델이 학습하면서 출력한 값을 실제 값과 비교하여 그 차이를 출력하게 되고, 출력된 손실값을 기반으로 모델은 역전파 알고리즘을 통해 손실값이 감소하는 방향으로 가중치를 수정해가며 학습을 진행한다. 본 논문에서는 바이오마커 추출을 위한 딥러닝 모델에서 사용될 신경망 출력 값의 손실도를 측정하여 출력해주는 다양한 손실함수를 분석하고 실험을 통해 최적의 손실함수를 찾아내고자 한다.

  • PDF