• 제목/요약/키워드: 제한된 압축성 모델

검색결과 37건 처리시간 0.029초

임베디드 보드에서의 인공신경망 압축을 이용한 CNN 모델의 가속 및 성능 검증 (Acceleration of CNN Model Using Neural Network Compression and its Performance Evaluation on Embedded Boards)

  • 문현철;이호영;김재곤
    • 한국방송∙미디어공학회:학술대회논문집
    • /
    • 한국방송∙미디어공학회 2019년도 추계학술대회
    • /
    • pp.44-45
    • /
    • 2019
  • 최근 CNN 등 인공신경망은 최근 이미지 분류, 객체 인식, 자연어 처리 등 다양한 분야에서 뛰어난 성능을 보이고 있다. 그러나, 대부분의 분야에서 보다 더 높은 성능을 얻기 위해 사용한 인공신경망 모델들은 파라미터 수 및 연산량 등이 방대하여, 모바일 및 IoT 디바이스 같은 연산량이나 메모리가 제한된 환경에서 추론하기에는 제한적이다. 따라서 연산량 및 모델 파라미터 수를 압축하기 위한 딥러닝 경량화 알고리즘이 연구되고 있다. 본 논문에서는 임베디트 보드에서의 압축된 CNN 모델의 성능을 검증한다. 인공지능 지원 맞춤형 칩인 QCS605 를 내장한 임베디드 보드에서 카메라로 입력한 영상에 대해서 원 CNN 모델과 압축된 CNN 모델의 분류 성능과 동작속도 비교 분석한다. 본 논문의 실험에서는 CNN 모델로 MobileNetV2, VGG16 을 사용했으며, 주어진 모델에서 가지치기(pruning) 기법, 양자화, 행렬 분해 등의 인공신경망 압축 기술을 적용하였을 때 원래의 모델 대비 추론 시간 및 분류의 정확도 성능을 분석하고 인공신경망 압축 기술의 유용성을 확인하였다.

  • PDF

모델 재료를 이용한 대형 개방형 단조품의 성형에 관한 연구

  • 이근안;임용택;이종수;홍성석;조남춘
    • 소성∙가공
    • /
    • 제1권2호
    • /
    • pp.52-62
    • /
    • 1992
  • 본 연구에서는 모델재료를 이용한 모사실험을 통하여 고온의 강을 단조하였을 때의 유동과 변형 그리고 하중을 검토하고, 이어 성형에 관한 연구를 하였다. 모델재료인 플라스티신은 고용의 강을 모사하는데 많이 쓰이는데, 실험을 통하여 플라스티신과 강과의 변형저항식을 비교 검토하였다. 이 실험결과 상사성이 어느정도 일치함을 알았고, 이 상사성 결과를 이용하여 실제와 모델사이의 하중과 응력비를 검출하였다. 이로써 플라스티신을 이용한 단조 압축 실험을 통하여 실제의 하중을 예측하였다. 또한 예비 성형체를 설계하기 위하여 앞서 실험한 결과들을 이용하여 초기의 실린더의 체적과 치수를 결정하고 이에 단계에 따른 성형과정을 통하여 예비 성형체를 만들었는데, 이는 제한된 용량으로 성형하여야 하는 문제를 해결하기 위함이었다. 실험 결과 8단계에 따른 성형과정에 의해 우리가 원하는 대형 단조품을 성형할 수 있음을 알았다.

  • PDF

재료비 최소화를 위한 RC 빌딩 구조물의 최적설계 (Design Optimization of a RC Building Structure for Minimizing Material Cost)

  • 안희재;박창현;최동훈;정철규
    • 한국전산구조공학회:학술대회논문집
    • /
    • 한국전산구조공학회 2010년도 정기 학술대회
    • /
    • pp.568-573
    • /
    • 2010
  • 본 논문에서는 압축하중 및 풍하중, 지진하중을 받는 RC (Reinforced Concrete) 빌딩 시공에 필요한 부재의 재료비를 최소화하기 위해 부재의 부피를 최소화하는 최적설계를 수행한다. 최적설계 수행을 위해 상용 PIDO (Process Integration and Design Optimization) 툴인 PIAnO (Process Integration, Automation and Optimization)에서 제공하는 다양한 설계기법들을 이용한다. 먼저 실험계획법을 사용하여 실험계획을 세우고, 실험점에 따라 범용 구조해석 프로그램인 MIDAS Gen을 사용하여 구조해석을 수행한다. 그리고 해석결과를 바탕으로 각 응답에 대한 근사모델을 생성한 후 근사모델과 최적화기법을 이용하여 최적설계를 수행하고, 제한조건을 만족하면서 부재의 부피를 최소화함으로써 제안된 설계방법의 유효성을 보인다.

  • PDF

다중 신경망으로부터 해석 중심의 적응적 지식 증류 (Explanation-focused Adaptive Multi-teacher Knowledge Distillation)

  • 이자윤;조인휘
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2024년도 춘계학술발표대회
    • /
    • pp.592-595
    • /
    • 2024
  • 엄청난 성능에도 불구하고, 심층 신경망은 예측결과에 대한 설명이 없는 블랙 박스로 작동한다는 비판을 받고 있다. 이러한 불투명한 표현은 신뢰성을 제한하고 모델의 대한 과학적 이해를 방해한다. 본 연구는 여러 개의 교사 신경망으로부터 설명 중심의 학생 신경망으로 지식 증류를 통해 해석 가능성을 향상시키는 것을 제안한다. 구체적으로, 인간이 정의한 개념 활성화 벡터 (CAV)를 통해 교사 모델의 개념 민감도를 방향성 도함수를 사용하여 계량화한다. 목표 개념에 대한 민감도 점수에 비례하여 교사 지식 융합을 가중치를 부여함으로써 증류된 학생 모델은 양호한 성능을 달성하면서 네트워크 논리를 해석으로 집중시킨다. 실험 결과, ResNet50, DenseNet201 및 EfficientNetV2-S 앙상블을 7 배 작은 아키텍처로 압축하여 정확도가 6% 향상되었다. 이 방법은 모델 용량, 예측 능력 및 해석 가능성 사이의 트레이드오프를 조화하고자 한다. 이는 모바일 플랫폼부터 안정성이 중요한 도메인에 걸쳐 믿을 수 있는 AI 의 미래를 여는 데 도움이 될 것이다.

실시간 고압축 MPEG-4 비디오 코딩을 위한 전처리 시스템 (Preprocessing System for Real-time and High Compression MPEG-4 Video Coding)

  • 김준기;홍성수;이호석
    • 한국정보과학회논문지:컴퓨팅의 실제 및 레터
    • /
    • 제9권5호
    • /
    • pp.509-520
    • /
    • 2003
  • 본 논문에서는 MPEG-4 비디오 부호화와 복호화 시스템의 실용성과 고효율의 압축을 위한 새로운 알고리즘을 개발하였다. MPEG-4 비디오 그룹에서는 실험과 경험을 통하여 비디오 검증 모델인 VM(Verification Model)을 개발하였다 또한 MPEG-4 표준화 과정을 통하여 ISO/IEC 14496-2 표준 문서와 VM에 기반하여 다양한 참조 소프트웨어가 개발되었다. MS-FDAM은 MPEG-4 참조 소프트웨어로서 표준 부호화와 복호화로 개발되었으나 고효율의 압축과 실용성에 제한이 있다. 이에 본 논문은 기본 MS-FDAM모델에 내용 기반 비디오 코딩의 핵심인 VOP 추출 알고리즘, 실시간 입력 시스템, 압축율을 높일 수 있는 움직임 감지 알고리즘을 추가하여 최대 180:1의 압축율을 보여주는 실시간 고압축 MPEG-4 시스템을 개발하였다.

몰입형 비디오 압축을 위한 화면 내 블록 카피 성능 분석 (Intra Block Copy Analysis to Improve Coding Efficiency for Immersive Video)

  • 이순빈;정종범;류일웅;김성빈;김인애;류은석
    • 한국방송∙미디어공학회:학술대회논문집
    • /
    • 한국방송∙미디어공학회 2020년도 하계학술대회
    • /
    • pp.1-5
    • /
    • 2020
  • 최근 MPEG-I 그룹에서는 표준화가 진행중인 몰입형 미디어(Immersive Media)에 대한 압축 성능 탐색이 이루어지고 있다. 몰입형 비디오는 다수의 시점 영상과 깊이 맵을 통한 깊이 맵 기반 이미지 렌더링(DIBR)을 바탕으로 제한적 6DoF 을 제공하고자 하는 기술이다. 현재 MIV(Model for Immersive Video) 기술에서는 바탕 시점(Basic View)과 각 시점의 고유한 영상 정보를 패치 단위로 모아둔 추가 시점(Additional View)으로 처리하는 모델을 채택하고 있다. 그 중에서 추가 시점은 일반적인 영상과는 달리 시간적/공간적 상관성이 떨어지는 분절적인 형태로 이루어져 있어 비디오 인코더에 대해 최적화가 되어 있지 않으며, 처리 방법의 특성에 따라 자기 유사적인 형태를 지니게 된다. 따라서 MIV 에서 스크린 콘텐츠 코딩 성능과 함께 화면 내 블록 카피(IBC: intra block copy) 기술에 대한 성능을 분석 결과를 제시한다. IBC 미적용 대비 최대 7.56%의 Y-PSNR BD-rate 감소가 가능함을 확인하였으며, 영상의 특성에 따라 IBC 의 선택 비율을 확인하여 추가 시점의 효율적인 압축 형태를 고찰한다.

  • PDF

딥러닝을 이용한 부채널 데이터 압축 프레임 워크 (Side-Channel Archive Framework Using Deep Learning-Based Leakage Compression)

  • 정상윤;진성현;김희석
    • 정보보호학회논문지
    • /
    • 제34권3호
    • /
    • pp.379-392
    • /
    • 2024
  • 데이터의 급속한 증가와 함께 저장 공간 절약과 데이터 전송의 효율성이 중요한 문제로 대두되면서, 데이터 압축기술의 효율성 연구가 중요해졌다. 무손실 알고리즘은 원본 데이터를 정확히 복원할 수 있지만, 압축 비율이 제한적이며, 손실 알고리즘은 높은 압축률을 제공하지만 데이터의 일부 손실을 수반한다. 이에 딥러닝 기반 압축 알고리즘, 특히 오토인코더 모델이 데이터 압축 분야에서 활발한 연구가 진행됐다. 본 연구에서는 오토인코더를 활용한 새로운 부채널 분석 데이터 압축기를 제안한다. 제안하는 부채널 데이터 대상 압축기는 부채널데이터 특성을 잘 유지할 뿐만 아니라, 기존의 널리 사용되는 Delfate 압축방식 대비 높은 압축률을 보인다. 로컬 연결 레이어를 사용한 인코더는 부채널 데이터의 시점별 특성을 효과적으로 보존하고, 디코더는 멀티 레이어 퍼셉트론을 사용하여 빠른 압축해제 시간을 유지한다. 상관 전력 분석을 통해 제안된 압축기가 부채널 데이터의 특성을 손실 없이 데이터 압축이 가능을 증명하였다.

RBM을 이용한 언어의 분산 표상화 (RBM-based distributed representation of language)

  • 유희조;남기춘;남호성
    • 인지과학
    • /
    • 제28권2호
    • /
    • pp.111-131
    • /
    • 2017
  • 연결주의 모델은 계산주의적 관점에서 언어 처리를 연구하는 한 가지 접근법이다. 그리고 연결주의 모델 연구를 진행하는데 있어서 표상(representation)을 구축하는 것은, 모델의 학습 수준 및 수행 능력을 결정한다는 점에서 모델의 구조를 만드는 것만큼이나 중요한 일이다. 연결주의 모델은 크게 지역 표상(localist representation)과 분산 표상(distributed representation)이라는 두 가지 서로 다른 방식으로 표상을 구축해 왔다. 하지만 종래 연구들에서 사용된 지역 표상은 드문 목표 활성화 값을 갖고 있는 출력층의 유닛이 불활성화 하는 제한점을, 그리고 과거의 분산 표상은 표상된 정보의 불투명성에 의한 결과 확인의 어려움이라는 제한점을 갖고 있었으며 이는 연결주의 모델 연구 전반의 제한점이 되어 왔다. 본 연구는 이와 같은 과거의 표상 구축의 제한점에 대하여, 제한된 볼츠만 머신(restricted Boltzmann machine)이 갖고 있는 특징인 정보의 추상화를 활용하여 지역 표상을 가지고 분산 표상을 유도하는 새로운 방안을 제시하였다. 결과적으로 본 연구가 제안한 방법은 정보의 압축과 분산 표상을 지역 표상으로 역변환하는 방안을 활용하여 종래의 표상 구축 방법이 갖고 있는 문제를 효과적으로 해결함을 보였다.

구조적 압축을 통한 FPGA 기반 GRU 추론 가속기 설계 (Implementation of FPGA-based Accelerator for GRU Inference with Structured Compression)

  • 채병철
    • 한국정보통신학회논문지
    • /
    • 제26권6호
    • /
    • pp.850-858
    • /
    • 2022
  • 리소스가 제한된 임베디드 장치에 GRU를 배포하기 위해 이 논문은 구조적 압축을 가능하게 하는 재구성 가능한 FPGA 기반 GRU 가속기를 설계한다. 첫째, 조밀한 GRU 모델은 하이브리드 양자화 방식과 구조화된 top-k 프루닝에 의해 크기가 대폭 감소한다. 둘째, 본 연구에서 제시하는 재사용 컴퓨팅 패턴에 의해 외부 메모리 액세스에 대한 에너지 소비가 크게 감소한다. 마지막으로 가속기는 알고리즘-하드웨어 공동 설계 워크플로의 이점을 얻는 구조화된 희소 GRU 모델을 처리할 수 있다. 또한 모든 차원, 시퀀스 길이 및 레이어 수를 사용하여 GRU 모델에 대한 추론 작업을 유연하게 수행할 수 있다. Intel DE1-SoC FPGA 플랫폼에 구현된 제안된 가속기는 일괄 처리가 없는 구조화된 희소 GRU 네트워크에서 45.01 GOPs를 달성하였다. CPU 및 GPU의 구현과 비교할 때 저비용 FPGA 가속기는 대기 시간에서 각각 57배 및 30배, 에너지 효율성에서 300배 및 23.44배 향상을 달성한다. 따라서 제안된 가속기는 실시간 임베디드 애플리케이션에 대한 초기 연구로서 활용, 향후 더 발전될 수 있는 잠재력을 보여준다.

피에조 잉크젯 헤드의 음향파 거동의 수치 해석 (Numerical Simulation of Hydro-Acoustic Flow in Piezo Inkjet Print Head)

  • 이유섭;위상권;오세영;정재우
    • 대한기계학회논문집B
    • /
    • 제31권1호
    • /
    • pp.51-61
    • /
    • 2007
  • This paper presents numerical and theoretical studies of acoustic wave interactions in slightly compressible liquids within piezoelectrically driven inkjet print heads. The interconnected flow channels may cause jet crosstalk, resulting in poor printing quality. It should be reduced by modifying the channel structure with the acoustic wave interactions considered. Compressible gas flow driven by the sudden movement of a top wall in the channel is calculated using Flow3D and is validated with the narrow gap theory. Limited compressibility model of the Flow3D is employed to calculate pressure waves of slightly compressible ink flow. It is found that reducing restrictor width can damp out the jet crosstalk by inhibiting the pressure wave propagation. The degree of crosstalk has been quantified using the maximum values of cross-correlations between neighboring channels and a critical channel dimension for acceptable crosstalk has been proposed. This finding is verified by drop visualization experiments using silicon-micromachined piezo inkjet print heads that are fabricated by our group.