• 제목/요약/키워드: 희소 행렬

검색결과 52건 처리시간 0.024초

회로 최적화를 위한 효율적인 희소 행렬 간 곱셈 연산에 관한 연구 (Efficient Sparse Matrix-Matrix Multiplication for circuit optimization)

  • 임은진;김경훈
    • 한국멀티미디어학회:학술대회논문집
    • /
    • 한국멀티미디어학회 2003년도 추계학술발표대회(하)
    • /
    • pp.994-997
    • /
    • 2003
  • 행렬 연산은 계산 과학을 사용하는 공학 물리, 화학, 생명 과학, 경제학 등에서 다양하게 사용되고 있으며 이 행렬은 크기가 크고 대부분의 원소가 0 값을 갖는 희소 행렬일 경우가 많다. 본 논문에서는 희소 행렬의 연산 중, 회로 설계 시 최적화 과정에 사용되는 연산에서 문제가 되는 희소 행렬 A 와 블록 대각 행렬 H에 대하여 AH$A^{T}$ 의 연산을 효율적으로 행하는 방법들을 검토하고 메모리 접근 횟수를 모델링하여 수행 속도와 메모리 사용량 면에서 비교한다.

  • PDF

랜덤워크 기법을 위한 GPU 기반 희소행렬 벡터 곱셈 방안에 대한 성능 평가 (GPU-based Sparse Matrix-Vector Multiplication Schemes for Random Walk with Restart: A Performance Study)

  • 유재서;배홍균;강석원;유용승;박영준;김상욱
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2020년도 추계학술발표대회
    • /
    • pp.96-97
    • /
    • 2020
  • 랜덤워크 기반 노드 랭킹 방식 중 하나인 RWR(Random Walk with Restart) 기법은 희소행렬 벡터 곱셈 연산과 벡터 간의 합 연산을 반복적으로 수행하며, RWR 의 수행 시간은 희소행렬 벡터 곱셈 연산 방법에 큰 영향을 받는다. 본 논문에서는 CSR5(Compressed Sparse Row 5) 기반 희소행렬 벡터 곱셈 방식과 CSR-vector 기반 희소행렬 곱셈 방식을 채택한 GPU 기반 RWR 기법 간의 비교 실험을 수행한다. 실험을 통해 데이터 셋의 특징에 따른 RWR 의 성능 차이를 분석하고, 적합한 희소행렬 벡터 곱셈 방안 선택에 관한 가이드라인을 제안한다.

희소 행렬 연산의 성능 최적화에 관한 연구 (Performance Optimization of Sparse Matrix Operation)

  • 김경훈;김병수;임은진
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2003년도 봄 학술발표논문집 Vol.30 No.1 (A)
    • /
    • pp.130-132
    • /
    • 2003
  • 계산 과학을 사용하는 응용 분야는 공학, 물리, 화학, 생명 과학에서 경제학까지 다양하다. 계산 과학에 사용되는 많은 알고리즘들은 행렬 연산을 포함하고 있으며 이 행렬은 크기가 크고 대부분의 원소가 0값을 갖는 희소 행렬일 경우가 많다. 본 논문에서는 희소 행렬의 연산 중, 희소 행렬 A와 밀집 벡터 x, y에 대하여 ylongleftarrowy+Ax와 ylongleftarrowy+$A^{T}$ Ax 의 두 가지 연산에 대한 계산 속도 개선 방법으로서 레지스터 재사용을 높이는 레지스터 블록화와 캐쉬 미스를 줄이기 위한 캐쉬 최적화 방법을 제안하며 또한 희소 행렬의 특성과 target 컴퓨터의 구조에 따라 정해지는 레지스터 블록 크기를 결정하는 방법을 설명한다. Preliminary결과로 이 방법을 Pentium III system상에서 실험한 결과를 보이는데 ylongleftarrowy+Ax 의 연산에 대하여는 2.5 배, ylongleftarrowy+$A^{T}$ Ax 의 연산에 대하여는 3.5 배까지의 성능 개선을 이룰 수 있다.

  • PDF

다중 희소 행렬-행렬 곱셈 하드웨어 가속기 연구 (Study on Multiple sparse matrix-matrix multiplication hardware accelerator)

  • 김태형;조영필
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2024년도 춘계학술발표대회
    • /
    • pp.47-50
    • /
    • 2024
  • 희소 행렬은 대부분의 요소가 0 인 행렬이다. 이러한 희소 행렬-행렬 곱셈을 수행할 경우 0 인 데이터 또한 곱셈을 수행하니 불필요한 연산이 발생한다. 이러한 문제를 해결하고자 행렬 압축 알고리즘 또는 곱셈의 부분합의 수를 줄이는 연구들이 활발히 진행 중이다. 하지만 현재의 연구들은 주로 단일 행렬 연산에 집중되어 있어 FPGA(Field Programmable Gate Array)와 특정 용도로 사용하는 가속기에서는 리소스를 충분히 활용하지 못해 비효율적이다. 본 연구는 FPGA 의 모든 리소스를 사용하여 다중 희소 행렬 곱셈을 수행하는 아키텍처를 제안한다.

선형계획법 프로그램의 수치오차보정과 행렬희소도 유지

  • 서용원;김우제;박순달
    • 한국경영과학회:학술대회논문집
    • /
    • 한국경영과학회 1995년도 추계학술대회발표논문집; 서울대학교, 서울; 30 Sep. 1995
    • /
    • pp.363-369
    • /
    • 1995
  • 본 연구에서는 선형계획법 프로그램의 수치오차보정과 행렬희소도 유지를 통하여 수행 속도를 향상시키는 방안에 대해 다룬다. 수치오차를 줄이기 위 해 규모화를 도입하였으며, 계산 과정에서의 상하삼각행렬의 수치오차를 근 사적으로 측정하는 방법을 고려하였다. 기저행렬의 상하분해에 널리 사용되 는 Markowitz 순서화의 효율적인 구현에 대해 연구하였으며, Reid의 기저수 정방법의 효율성에 대해 실험적으로 검토하였다. 또, 행렬의 희소도에 의한 재역산 기준을 수립하여 수행 속도를 개선하였다.

  • PDF

희소 투영행렬 획득을 위한 RSR 개선 방법론 (An Improved RSR Method to Obtain the Sparse Projection Matrix)

  • 안정호
    • 디지털콘텐츠학회 논문지
    • /
    • 제16권4호
    • /
    • pp.605-613
    • /
    • 2015
  • 본 논문은 패턴인식에서 자주 사용되는 투영행렬을 희소화하는 문제를 다룬다. 최근 임베디드 시스템이 널리 사용됨에 따라 탑재되는 프로그램의 용량이 제한받는 경우가 빈번히 발생한다. 개발된 프로그램은 상수 데이터를 포함하는 경우가 많다. 예를 들어, 얼굴인식과 같은 패턴인식 프로그램의 경우 고차원 벡터를 저차원 벡터로 차원을 축소하는 투영행렬을 사용하는 경우가 많다. 인식성능 향상을 위해 영상으로부터 매우 높은 차원의 고차원 특징벡터를 추출하는 경우 투영행렬의 사이즈는 매우 크다. 최근 라소 회귀분석 방법을 이용한 RSR(rotated sparse regression) 방법론[1]이 제안되었다. 이 방법론은 여러 실험을 통해 희소행렬을 구하는 가장 우수한 알고리즘 중 하나로 평가받고 있다. 우리는 본 논문에서 RSR을 개선할 수 있는 세 가지 방법론을 제안한다. 즉, 학습데이터에서 이상치를 제거하여 일반화 성능을 높이는 방법, 학습데이터를 랜덤 샘플링하여 희소율을 높이는 방법, RSR의 목적함수에 엘라스틱 넷 회귀분석의 패널티 항을 사용한 E-RSR(elastic net-RSR) 방법을 제안한다. 우리는 실험을 통해 제안한 방법론이 인식률을 희생하지 않으며 희소율을 크게 증가시킴으로써 기존 RSR 방법론을 개선할 수 있음을 보였다.

반복-직접 희소 솔버 조합에 의한 대규모 유한요소 모델의 주파수 영역 해석의 계산 효율 (Computational Efficiency on Frequency Domain Analysis of Large-scale Finite Element Model by Combination of Iterative and Direct Sparse Solver)

  • 조정래;조근희
    • 한국전산구조공학회논문집
    • /
    • 제32권2호
    • /
    • pp.117-124
    • /
    • 2019
  • 대규모 유한요소 모델을 빠르게 해석하기는 위해서 병렬 희소 솔버를 필수적으로 적용해야 한다. 이 논문에서는 미세하게 변화하는 시스템 행렬을 대상으로 연속적으로 해를 구해야 하는 문제에서 효율적으로 적용가능한 반복-직접 희소 솔버 조합 기법을 소개한다. 반복-직접 희소 솔버 조합 기법은 병렬 희소 솔버 패키지인 PARDISO에 제안 및 구현된 기법으로 새롭게 행렬값이 갱신된 선형 시스템의 해를 구할 때 이전 선형 시스템에 적용된 직접 희소 솔버의 행렬 분해(factorization) 결과를 Krylov 반복 희소 솔버의 preconditioner로 활용하는 방법을 의미한다. PARDISO에서는 미리 설정된 반복 회수까지 해가 수렴하지 않으면 직접 희소 솔버로 해를 구하며, 이후 이어지는 갱신된 선형 시스템의 해를 구할 때는 최종적으로 사용된 직법 희소 솔버의 행렬 분해 결과를 preconditioner로 사용한다. 이 연구에서는 첫 번째 Krylov 반복 단계에서 소요되는 시간을 동적으로 계산하여 최대 반복 회수를 설정하는 기법을 제안하였으며, 주파수 영역 해석에 적용하여 그 효과를 검증하였다.

음원 희소성 추정 및 비음수 행렬 인수분해 기반 신호분리 기법 (A Signal Separation Method Based on Sparsity Estimation of Source Signals and Non-negative Matrix Factorization)

  • 홍세린;남시연;윤덕규;최승호
    • 한국방송∙미디어공학회:학술대회논문집
    • /
    • 한국방송∙미디어공학회 2017년도 추계학술대회
    • /
    • pp.202-203
    • /
    • 2017
  • 비음수 행렬 인수분해(Non-negative Matrix Factorization, NMF)의 신호분리 성능을 개선하기 위해 희소조건을 인가한 방법이 희소 비음수 행렬 인수분해 알고리즘(Sparse NMF, SNMF)이다. 기존의 SNMF 알고리즘은 개별 음원의 희소성을 고려하지 않고 임의로 결정한 희소 조건을 사용한다. 본 논문에서는 음원의 특성에 따른 희소성을 추정하고 이를 SNMF 학습알고리즘에 적용하는 새로운 신호분리 기법을 제안한다. 혼합 신호에서의 잡음제거 실험을 통해, 제안한 방법이 기존의 NMF와 SNMF에 비해 성능이 더 우수함을 보였다.

  • PDF

희소행렬 계산과 혼합모형의 추론 (Sparse Matrix Computation in Mixed Effects Model)

  • 손원;박용태;김유경;임요한
    • 응용통계연구
    • /
    • 제28권2호
    • /
    • pp.281-288
    • /
    • 2015
  • 본 연구에서는 혼합모형의 추론을 위한 벌점-최대우도추정량의 빠른 계산절차를 제안하다. 제안된 절차는 벌점-최대우도추정량을 위한 추정방정식에서 헷시안 행렬을 화살촉형태를 지닌 희소행렬을 통하여 근사 시킴으로써 계산속도의 향상을 가져왔다. 두 가지 가상실험을 통하여 제안된 근사식을 사용함으로써 얻게되는 계산시간의 감소와 동시에 이를 위하여 지불하여야 하는 근사오차에 대하여 살펴보았다.

확률적 희소 신호 복원 알고리즘 개발 (Development of A Recovery Algorithm for Sparse Signals based on Probabilistic Decoding)

  • 성진택
    • 한국정보전자통신기술학회논문지
    • /
    • 제10권5호
    • /
    • pp.409-416
    • /
    • 2017
  • 본 논문은 유한체(finite fields)에서 압축센싱(compressed sensing) 프레임워크를 살펴본다. 하나의 측정 샘플은 센싱행렬의 행과 희소 신호 벡터와의 내적으로 연산되며, 본 논문에서 제안하는 확률적 희소 신호 복원 알고리즘을 이용하여 그 압축센싱의 해를 찾고자 한다. 지금까지 압축센싱은 실수(real-valued)나 복소수(complex-valued) 평면에서 주로 연구되어 왔지만, 이와 같은 원신호를 처리하는 경우 이산화 과정으로 정보의 손실이 뒤따르게 된다. 이에 대한 연구배경은 이산(discrete) 신호에 대한 희소 신호를 복원하고자 하는 노력으로 이어지고 있다. 본 연구에서 제안하는 프레임워크는 센싱행렬로써 코딩 이론에서 사용된 LDPC(Low-Density Parity-Check) 코드의 패러티체크 행렬을 이용한다. 그리고 본 연구에서 제안한 확률적 복원 알고리즘을 이용하여 유한체의 희소 신호를 복원한다. 기존의 코딩 이론에서 발표한 LDPC 복호화와는 달리 본 논문에서는 희소 신호의 확률분포를 이용한 반복적 알고리즘을 제안한다. 그리고 개발된 복원 알고리즘을 통하여 우리는 유한체의 크기가 커질수록 복원 성능이 우수한 결과를 얻었다. 압축센싱의 센싱행렬이 LDPC 패러티체크 행렬과 같은 저밀도 행렬에서도 좋은 성능을 보여줌에 따라 이산 신호를 고려한 응용 분야에서 적극적으로 활용될 것으로 기대된다.