• Title/Summary/Keyword: NVIDIA

Search Result 163, Processing Time 0.039 seconds

A Performance Study on CPU-GPU Data Transfers of NVIDIA Tegra and Tesla GPUs (NVIDIA Tegra와 Tesla GPU에서의 CPU-GPU 데이터 전송성능 연구)

  • Kwon, Oh-Kyoung;Gu, Gibeom
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2021.11a
    • /
    • pp.39-42
    • /
    • 2021
  • 최근 HPC, 인공지능에서 GPU 성능이 향상되면서 사용이 보편화되고 있지만 GPU 프로그래밍은 난이도 측면에서 여전히 큰 장애물이다. 특히 호스트(host) 메모리와 GPU 메모리를 따로 관리해야 하는 어려움 때문에 편의성과 성능 측면에서 연구가 활발히 진행되고 있으며, 다양한 CPU-GPU 메모리 전송프로그래밍 방법들이 제시되고 있다. 본 연구는 NVIDIA Tegra 장치들과 NVIDIA SMX 기반 V100 GPU 카드에서 CPU-GPU 데이터 전송 기법별로 성능비교를 하고자 한다. 특히 NVIDIA Tegra 장치는 CPU와 GPU 통합메모리를 제공하고 있어서 CPU-GPU 메모리 전송방법의 관점에서 기존 GPU 장치와 다른 성능 특징을 보여준다. 성능비교를 위한 실험 워크로드는 HPC 응용프로그램에서 빈번하게 사용하는 2차원 행렬 전치 예제를 사용하였다. 실험을 통해 각 GPU 장치별로 CPU-GPU 메모리 전송 방법에 따른 GPU 커널 성능차이, 페이지 잠긴 메모리와 페이지 가능 메모리의 전송 성능차이, 마지막으로 전체 성능비교를 하였다.

Block Chain Conformance in Modular NVIDIA Jetson TX 2 Embedded Products (모듈형 NVIDIA Jetson TX2 임베디드 제품에서의 블록체인 적합성)

  • Choi, Hyo Hyun;Lee, Gyeong young;Won, Son Dong
    • Proceedings of the Korean Society of Computer Information Conference
    • /
    • 2018.07a
    • /
    • pp.297-298
    • /
    • 2018
  • 본 논문에서는 모듈형 NVIDIA Jetson TX2 임베디드 제품에서 채굴을 통해 블록체인의 적합성 여부를 보인다. 범용성과 적합성의 평가기준은 TPS (Transactions Per Second), 블록생성시간(Block Generation Time)과 확정시간(Confirmation Time)이다. 채굴 준비 시 TX2 임베디드 제품의 특성상 하드웨어 드라이버를 자립적으로 설치 할 수 없기 때문에 HOST PC와 함께 사용하였다. HOST PC는 TX2 제품과 호환성이 높은 OS인 Ubuntu 14.04를 사용했으며, 하드웨어 드라이버 설치를 위해 NVIDIA 공식 TX2 제품 소프트웨어 중 JetPack 3.1 Release Version 을 사용하였다. 코인은 이더리움(Ethereum), 라이트코인(Litecoin)과 제트캐쉬(Zcash) 총 3종 코인으로, 채굴 시 나온 결과물로 TX2 제품에서 블록체인의 적합성 여부를 보였다.

  • PDF

A Performance Study on CPU-GPU Data Transfers of Unified Memory Device (통합메모리 장치에서 CPU-GPU 데이터 전송성능 연구)

  • Kwon, Oh-Kyoung;Gu, Gibeom
    • KIPS Transactions on Computer and Communication Systems
    • /
    • v.11 no.5
    • /
    • pp.133-138
    • /
    • 2022
  • Recently, as GPU performance has improved in HPC and artificial intelligence, its use is becoming more common, but GPU programming is still a big obstacle in terms of productivity. In particular, due to the difficulty of managing host memory and GPU memory separately, research is being actively conducted in terms of convenience and performance, and various CPU-GPU memory transfer programming methods are suggested. Meanwhile, recently many SoC (System on a Chip) products such as Apple M1 and NVIDIA Tegra that bundle CPU, GPU, and integrated memory into one large silicon package are emerging. In this study, data between CPU and GPU devices are used in such an integrated memory device and performance-related research is conducted during transmission. It shows different characteristics from the existing environment in which the host memory and GPU memory in the CPU are separated. Here, we want to compare performance by CPU-GPU data transmission method in NVIDIA SoC chips, which are integrated memory devices, and NVIDIA SMX-based V100 GPU devices. For the experimental workload for performance comparison, a two-dimensional matrix transposition example frequently used in HPC applications was used. We analyzed the following performance factors: the difference in GPU kernel performance according to the CPU-GPU memory transfer method for each GPU device, the transfer performance difference between page-locked memory and pageable memory, overall performance comparison, and performance comparison by workload size. Through this experiment, it was confirmed that the NVIDIA Xavier can maximize the benefits of integrated memory in the SoC chip by supporting I/O cache consistency.

Efficient Parallel CUDA Random Number Generator on NVIDIA GPUs (NVIDIA GPU 상에서의 난수 생성을 위한 CUDA 병렬프로그램)

  • Kim, Youngtae;Hwang, Gyuhyeon
    • Journal of KIISE
    • /
    • v.42 no.12
    • /
    • pp.1467-1473
    • /
    • 2015
  • In this paper, we implemented a parallel random number generation program on GPU's, which are known for high performance computing, using LCG (Linear Congruential Generator). Random numbers are important in all fields requiring the use of randomness, and LCG is one of the most widely used methods for the generation of pseudo-random numbers. We explained the parallel program using the NVIDIA CUDA model and MPI(Message Passing Interface) and showed uniform distribution and performance results. We also used a Monte Carlo algorithm to calculate pi(${\pi}$) comparing the parallel random number generator with cuRAND, which is a CUDA library function, and showed that our program is much more efficient. Finally we compared performance results using multi-GPU's with those of ideal speedups.

Parallel Implementation of SPECK, SIMON and SIMECK by Using NVIDIA CUDA PTX (NVIDIA CUDA PTX를 활용한 SPECK, SIMON, SIMECK 병렬 구현)

  • Jang, Kyung-bae;Kim, Hyun-jun;Lim, Se-jin;Seo, Hwa-jeong
    • Journal of the Korea Institute of Information Security & Cryptology
    • /
    • v.31 no.3
    • /
    • pp.423-431
    • /
    • 2021
  • SPECK and SIMON are lightweight block ciphers developed by NSA(National Security Agency), and SIMECK is a new lightweight block cipher that combines the advantages of SPECK and SIMON. In this paper, a large-capacity encryption using SPECK, SIMON, and SIMECK is implemented using a GPU with efficient parallel processing. CUDA library provided by NVIDIA was used, and performance was maximized by using CUDA assembly language PTX to eliminate unnecessary operations. When comparing the results of the simple CPU implementation and the implementation using the GPU, it was possible to perform large-scale encryption at a faster speed. In addition, when comparing the implementation using the C language and the implementation using the PTX when implementing the GPU, it was confirmed that the performance increased further when using the PTX.

NVIDIA Jetson TX1 based Real-Time Stixel Extraction Method (NVIDIA Jetson TX1 기반 실시간 Stixel 추출 기법)

  • Lee, Gyu-Cheol;Yoo, Jisang
    • Proceedings of the Korean Society of Broadcast Engineers Conference
    • /
    • 2017.06a
    • /
    • pp.12-13
    • /
    • 2017
  • 자율 주행 자동차에서 스테레오 카메라를 이용하여 실시간으로 깊이 정보를 추출하는 것은 매우 중요한 문제 중 하나이다. 널리 사용되는 방법 중에 하나인 Semi-Global Matching (SGM)은 영상에서 여러 방향에 대한 비용 함수를 이용하여 평탄한 변이 지도를 획득하는 알고리즘이다. 알고리즘의 특성 상 병렬화가 용이하기 때문에 실시간으로 구동해야 되는 어플리케이션에 자주 사용되는 알고리즘이다. 하지만 픽셀 단위로 표현되는 dense한 특성은 영상 내의 관심 객체를 추출하고 추적하기에는 부적합하다. 따라서 제안하는 기법에서는 픽셀과 객체 레벨 사이의 표현인 stixel을 이용하여 관심 객체들을 추출하고 NVIDIA에서 출시한 Jetson TX1을 이용하여 실시간으로 구동한다.

  • PDF

HEVC Trans-Rating using NVIDIA Transcoder Library (NVIDIA Transcoder 라이브러리를 이용한 HEVC 비트율 변경 방법)

  • Kim, Gi-Cheol;Choi, Haechul
    • Proceedings of the Korean Society of Broadcast Engineers Conference
    • /
    • 2017.11a
    • /
    • pp.221-222
    • /
    • 2017
  • 최근 방송 기술과 디스플레이 기기의 발전으로 인해 대형 파노라마 영상, 4K Ultra High Definition (UHD) 방송 등 초고해상도 영상의 수요가 점차 증가되고 있다. 특히 초고해상도 영상을 HEVC로 인코딩 혹은 디코딩 할 때 매우 높은 복잡도가 요구된다. 이러한 복잡한 인코딩 및 디코딩 과정뿐만 아니라 HEVC로 부호화된 비트스트림의 비트율 변경을 가속화하기 위해서 최근 GPU 기반의 방법들이 연구되고 있다. 본 논문은 NVIDIA에서 제공하는 라이브러리 Transcoder를 이용하여 관련 옵션 및 관심 영역의 QP 값을 제어하여 원하는 영역의 화질을 조절함으로써 방법을 실험하였다. 본 방법은 향후 다수가 촬영한 영상들에서의 중복 비트율 감소를 통한 영상 콘텐츠 관리에 유용할 것으로 판단된다.

  • PDF

Development of People Counting Algorithm using Stereo Camera on NVIDIA Jetson TX2

  • Lee, Gyucheol;Yoo, Jisang;Kwon, Soonchul
    • International journal of advanced smart convergence
    • /
    • v.7 no.3
    • /
    • pp.8-14
    • /
    • 2018
  • In the field of surveillance cameras, it is possible to increase the people detection accuracy by using depth information indicating the distance between the camera and the object. In general, depth information is obtained by calculating the parallax information of the stereo camera. However, this method is difficult to operate in real time in the embedded environment due to the large amount of computation. Jetson TX2, released by NVIDIA in March 2017, is a high-performance embedded board with a GPU that enables parallel processing using the GPU. In this paper, a stereo camera is installed in Jetson TX2 to acquire depth information in real time, and we proposed a people counting method using acquired depth information. Experimental results show that the proposed method had a counting accuracy of 98.6% and operating in real time.

A Study on the Performance of Stereo Matching Algorithms in NVIDIA Jetson TX2 (NVIDIA Jetson TX2에서 스테레오 매칭 알고리즘들에 대한 성능에 관한 연구)

  • Lee, Gyu-Cheol;Yoo, Jisang
    • Proceedings of the Korean Society of Broadcast Engineers Conference
    • /
    • 2018.06a
    • /
    • pp.164-165
    • /
    • 2018
  • 2017년 3월에 NVIDIA에서 출시한 Jetson TX2는 GPU를 탑재한 고성능의 임베디드 보드이다. 이 제품은 GPU를 이용한 병렬 처리를 통해 임베디드 시스템 상에서 연산량이 많은 알고리즘을 동작시킬 수 있다. 스테레오 매칭 기법은 스테레오 카메라를 이용하여 깊이 정보를 획득할 수 있으며, 획득한 깊이 정보는 다양한 어플리케이션의 메타 데이터로써 활용될 수 있다. 하지만 알고리즘의 연산량이 매우 많아 GPU를 탑재한 데스크톱에서만 동작하는 것이 일반적이었다. 이에 본 논문은 임베디드 보드인 Jetson TX2에서 기존에 개발되었던 스테레오 매칭 알고리즘들을 동작시키고 성능 분석을 통해 실시간 동작 여부에 대한 연구를 진행하였다.

  • PDF