• 제목/요약/키워드: Edge AI device

검색결과 19건 처리시간 0.026초

An Edge AI Device based Intelligent Transportation System

  • Jeong, Youngwoo;Oh, Hyun Woo;Kim, Soohee;Lee, Seung Eun
    • Journal of information and communication convergence engineering
    • /
    • 제20권3호
    • /
    • pp.166-173
    • /
    • 2022
  • Recently, studies have been conducted on intelligent transportation systems (ITS) that provide safety and convenience to humans. Systems that compose the ITS adopt architectures that applied the cloud computing which consists of a high-performance general-purpose processor or graphics processing unit. However, an architecture that only used the cloud computing requires a high network bandwidth and consumes much power. Therefore, applying edge computing to ITS is essential for solving these problems. In this paper, we propose an edge artificial intelligence (AI) device based ITS. Edge AI which is applicable to various systems in ITS has been applied to license plate recognition. We implemented edge AI on a field-programmable gate array (FPGA). The accuracy of the edge AI for license plate recognition was 0.94. Finally, we synthesized the edge AI logic with Magnachip/Hynix 180nm CMOS technology and the power consumption measured using the Synopsys's design compiler tool was 482.583mW.

지능형 엣지 컴퓨팅 기기를 위한 온디바이스 AI 비전 모델의 경량화 방식 분석 (Analysis on Lightweight Methods of On-Device AI Vision Model for Intelligent Edge Computing Devices)

  • 주혜현;강남희
    • 한국인터넷방송통신학회논문지
    • /
    • 제24권1호
    • /
    • pp.1-8
    • /
    • 2024
  • 실시간 처리 및 프라이버시 강화를 위해 인공지능 모델을 엣지에서 동작시킬 수 있는 온디바이스 AI 기술이 각광받고 있다. 지능형 사물인터넷 기술이 다양한 산업에 적용되면서 온디바이스 AI 기술을 활용한 서비스가 크게 증가하고 있다. 그러나 일반적인 딥러닝 모델은 추론 및 학습을 위해 많은 연산 자원을 요구하고 있다. 따라서 엣지에 적용되는 경량 기기에서 딥러닝 모델을 동작시키기 위해 양자화나 가지치기와 같은 다양한 경량화 기법들이 적용되어야 한다. 본 논문에서는 다양한 경량화 기법 중 가지치기 기술을 중심으로 엣지 컴퓨팅 기기에서 딥러닝 모델을 경량화하여 적용할 수 있는 방안을 분석한다. 특히, 동적 및 정적 가지치기 기법을 적용하여 경량화된 비전 모델의 추론 속도, 정확도 그리고 메모리 사용량을 시험한다. 논문에서 분석된 내용은 실시간 특성이 중요한 지능형 영상 관제 시스템이나 자율 이동체의 영상 보안 시스템에 적용될 수 있다. 또한 사물인터넷 기술이 적용되는 다양한 서비스와 산업에 더욱 효과적으로 활용될 수 있을 것으로 기대된다.

온디바이스 AI 비전 모델이 탑재된 지능형 엣지 컴퓨팅 기기 개발 (Development of an intelligent edge computing device equipped with on-device AI vision model)

  • 강남희
    • 한국인터넷방송통신학회논문지
    • /
    • 제22권5호
    • /
    • pp.17-22
    • /
    • 2022
  • 본 논문에서는 지능형 엣지 컴퓨팅을 지원할 수 있는 경량 임베디드 기기를 설계하고, 영상 기기로부터 입력되는 이미지에서 객체를 실시간으로 빠르게 검출할 수 있음을 보인다. 제안하는 시스템은 산업 현장이나 군 지역과 같이 사전에 설치된 인프라가 없는 환경에 적용되는 지능형 영상 관제 시스템이나 드론과 같은 자율이동체에 탑재된 영상 보안 시스템에 적용될 수 있다. 지능형 비전 인지 시스템이 확산 적용되기 위해 온디바이스 AI(On-Device Artificial intelligence) 기술 적용 필요성이 증대되고 있다. 영상 데이터 취득 장치에서 가까운 엣지 기기로의 컴퓨팅 오프 로딩은 클라우드를 중심으로 수행되는 인공지능 서비스 대비 적은 네트워크 및 시스템 자원으로도 빠른 서비스 제공이 가능하다. 또한, 다양한 해킹 공격에 취약한 공격 표면의 감소와 민감한 데이터의 유출을 최소화 할 수 있어 다양한 산업에 안전하게 적용될 수 있을것으로 기대된다.

EdgeCPS 플랫폼을 위한 지식 공유 그래프를 활용한 컴포넌트 기반 AI 응용 지원 시스템 (Component-based AI Application Support System using Knowledge Sharing Graph for EdgeCPS Platform)

  • 김영주
    • 한국정보통신학회논문지
    • /
    • 제26권8호
    • /
    • pp.1103-1110
    • /
    • 2022
  • AI 관련 산업의 급속한 발전으로 인해 무수히 많은 엣지 디바이스가 실세계에서 동작되고 있고, 이들 디바이스로 구성된 스마트 공간에서 발생하는 데이터가 상상을 초월함으로, 엣지 디비이스가 처리하는 것이 점점 어려워지고 있다. 이러한 문제를 해결하기 위해서 EdgeCPS 기술이 등장하게 되었다. EdgeCPS는 엣지 디바이스와 엣지 서버간 연동과 자원 증강 및 기능 증강을 통하여 AI 응용 서비스를 포함한 다양한 응용 서비스의 원활한 수행을 지원하기 위한 기술이다. 따라서, 본 논문에서는 EdgeCPS 플랫폼에 적용 가능한 지식 공유 그래프 기반의 컴포넌트화된 AI 응용 지원 시스템을 제안한다. 지식 공유 그래프는 AI 응용 작성에 필수적인 요소인 학습데이터, 학습된모델, 학습알고리즘, 디바이스 등에 대한 정보를 효과적으로 저장할 수 있도록 설계된다. 그리고 EdgeCPS 플랫폼의 지원 하에서 자원증강 및 기능증강을 손쉽게 변경할 수 있도록 AI 응용이 컴포넌트화 되어 동작한다. AI 응용 지원 시스템은 사용자가 손쉽게 응용을 작성할 수 있고 테스트 해 볼 수 있도록 지식 공유 그래프와 연동되고, 응용에 대한 파이프라인을 통해서 응용의 실행 양상을 사용자에게 시각화를 해 준다.

임베디드 엣지 플랫폼에서의 경량 비전 트랜스포머 성능 평가 (Performance Evaluation of Efficient Vision Transformers on Embedded Edge Platforms)

  • 이민하;이성재;김태현
    • 대한임베디드공학회논문지
    • /
    • 제18권3호
    • /
    • pp.89-100
    • /
    • 2023
  • Recently, on-device artificial intelligence (AI) solutions using mobile devices and embedded edge devices have emerged in various fields, such as computer vision, to address network traffic burdens, low-energy operations, and security problems. Although vision transformer deep learning models have outperformed conventional convolutional neural network (CNN) models in computer vision, they require more computations and parameters than CNN models. Thus, they are not directly applicable to embedded edge devices with limited hardware resources. Many researchers have proposed various model compression methods or lightweight architectures for vision transformers; however, there are only a few studies evaluating the effects of model compression techniques of vision transformers on performance. Regarding this problem, this paper presents a performance evaluation of vision transformers on embedded platforms. We investigated the behaviors of three vision transformers: DeiT, LeViT, and MobileViT. Each model performance was evaluated by accuracy and inference time on edge devices using the ImageNet dataset. We assessed the effects of the quantization method applied to the models on latency enhancement and accuracy degradation by profiling the proportion of response time occupied by major operations. In addition, we evaluated the performance of each model on GPU and EdgeTPU-based edge devices. In our experimental results, LeViT showed the best performance in CPU-based edge devices, and DeiT-small showed the highest performance improvement in GPU-based edge devices. In addition, only MobileViT models showed performance improvement on EdgeTPU. Summarizing the analysis results through profiling, the degree of performance improvement of each vision transformer model was highly dependent on the proportion of parts that could be optimized in the target edge device. In summary, to apply vision transformers to on-device AI solutions, either proper operation composition and optimizations specific to target edge devices must be considered.

AI 엣지 디바이스를 이용한 스마트 팩토리 시스템 설계 (The Design of Smart Factory System using AI Edge Device)

  • 한성일;이대식;한지환;신한재
    • 한국정보전자통신기술학회논문지
    • /
    • 제15권4호
    • /
    • pp.257-270
    • /
    • 2022
  • 본 논문에서는 AI 엣지 디바이스를 이용한 스마트 팩토리 위험도 개선시스템 및 위험도 개선방법을 설계한다. 스마트 팩토리 위험도 개선시스템은 AI 엣지 디바이스를 이용하여 스마트 팩토리에서 작업자의 작업수행 과정을 수집, 분석, 예방 및 신속 대처하고, 작업자의 작업 수행시 불량률을 개선하면서 작업시 발생 가능한 위험을 저감할 수 있다. 특히 작업자 이미지 정보, 작업자 생체정보, 장비 구동 정보 및 제조된 제품의 품질정보에 기초하여 위험도 이상 조건을 설정할 수 있고, 효율적이고 정확도 높은 작업이 되도록 위험도 개선이 가능하다. 또한 스마트 팩토리 내부의 카메라 및 IoT 센서 등에서 수집된 데이터는 모두 클라우드로 보내지 않고 AI 엣지 디바이스에서 처리하고, 필요한 데이터만 클라우드 등으로 전송할 수 있으므로 처리 속도가 빠르고, 보안에 관한 문제가 적다는 장점이 있다. 추가적으로 AI 엣지 디바이스를 사용함으로써 클라우드로 데이터 전송량이 감소하여 데이터 통신비 및 데이터 전송 대역폭을 확보하는 비용이 절감되는 장점이 있다.

태양 에너지 수집형 IoT 엣지 컴퓨팅 환경에서 효율적인 오디오 딥러닝을 위한 에너지 적응형 데이터 전처리 기법 (Energy-Aware Data-Preprocessing Scheme for Efficient Audio Deep Learning in Solar-Powered IoT Edge Computing Environments)

  • 유연태;노동건
    • 대한임베디드공학회논문지
    • /
    • 제18권4호
    • /
    • pp.159-164
    • /
    • 2023
  • Solar energy harvesting IoT devices prioritize maximizing the utilization of collected energy due to the periodic recharging nature of solar energy, rather than minimizing energy consumption. Meanwhile, research on edge AI, which performs machine learning near the data source instead of the cloud, is actively conducted for reasons such as data confidentiality and privacy, response time, and cost. One such research area involves performing various audio AI applications using audio data collected from multiple IoT devices in an IoT edge computing environment. However, in most studies, IoT devices only perform sensing data transmission to the edge server, and all processes, including data preprocessing, are performed on the edge server. In this case, it not only leads to overload issues on the edge server but also causes network congestion by transmitting unnecessary data for learning. On the other way, if data preprocessing is delegated to each IoT device to address this issue, it leads to another problem of increased blackout time due to energy shortages in the devices. In this paper, we aim to alleviate the problem of increased blackout time in devices while mitigating issues in server-centric edge AI environments by determining where the data preprocessed based on the energy state of each IoT device. In the proposed method, IoT devices only perform the preprocessing process, which includes sound discrimination and noise removal, and transmit to the server if there is more energy available than the energy threshold required for the basic operation of the device.

엣지 디바이스인 소셜 로봇에서의 영상 딥러닝을 위한 모듈 교체형 인공지능 서버 설계 및 개발 (Design and Development of Modular Replaceable AI Server for Image Deep Learning in Social Robots on Edge Devices)

  • 강아름;오현정;김도연;정구민
    • 한국정보전자통신기술학회논문지
    • /
    • 제13권6호
    • /
    • pp.470-476
    • /
    • 2020
  • 본 논문에서는 인공지능 블록을 구동할 수 있도록 Edge Device와 서버를 분리하는 영상 딥러닝용 모듈 교체형 인공지능 서버의 설계와 데이터 송수신 방법을 제시한다. 영상 딥러닝용 모듈 교체형 인공지능 서버를 통해 소셜 로봇과 로봇의 플랫폼이 구동될 Edge Device 간의 종속성을 줄여 구동 안정성을 향상할 수 있다. 사용자가 소셜 로봇과의 상호작용을 위해서 인공지능 서버에 기능을 요청하면 모듈화된 기능들을 이용해 결과만을 반환받을 수 있다. 인공지능 서버에서 모듈화되어있는 기능들은 서버 관리자에 의해 모듈별로 유지 보수 및 변경이 쉽게 가능하다. 기존 서버 시스템과 비교했을 때 모듈 교체형 인공지능 서버는 수행되는 프로그램의 규모 차이와 서버 유지 보수 면에서 더 효율적인 성능을 낸다. 이를 통해 사람-로봇 간의 상호작용이 가능한 로봇 시나리오에 더 다양한 영상 딥러닝을 포함 시킬 수 있으며, 로봇 플랫폼 외에 영상 딥러닝을 위한 인공지능 서버에 적용할 때 더 효율적인 성능을 낼 수 있다.

에지 컴퓨팅 기반 객체탐지 서비스를 위한 이미지/동영상 데이터 처리 기법에 관한 연구 (A Study on the Image/Video Data Processing Methods for Edge Computing-Based Object Detection Service)

  • 장신원;홍용근
    • 정보처리학회논문지:컴퓨터 및 통신 시스템
    • /
    • 제12권11호
    • /
    • pp.319-328
    • /
    • 2023
  • 에지 컴퓨팅 기술은 클라우드 컴퓨팅과 달리 기기와 사용자와 가까운 곳에서 데이터를 분석하고 판단하여 실시간 서비스, 민감한 데이터 보호, 네트워크 트래픽 감소와 같은 장점을 제공한다. 에지 컴퓨팅 플랫폼의 대표적인 오픈소스인 EdgeX Foundry는 현실 세계의 다양한 장치와 IT 시스템 사이에서 서비스를 제공하는 오픈소스 기반 엣지 미들웨어 플랫폼이다. EdgeX Foundry는 기존의 센싱된 데이터를 다루기 위한 서비스와 함께 카메라 장치를 다루기 위한 서비스를 제공하는데, 이 서비스는 단순 스트리밍 및 카메라 장치 관리만 지원할 뿐 EdgeX 내부에 장치에서 얻은 이미지 데이터를 저장하거나 처리하지 않는다. 본 논문에서는 EdgeX Foundry에서 제공하는 서비스 일부를 응용하여 EdgeX 내부에 이미지 데이터를 저장하고 처리할 수 있는 기법을 제시한다. 제시한 기법을 기반으로 실험 및 성능 평가를 위해 자율주행 분야에서 핵심적으로 사용되는 객체탐지 서비스를 위한 서비스 파이프라인을 만든 후 기존 방법과 비교 분석하였다. 이 실험을 통해 에지 컴퓨팅 플랫폼에서 이미지/동영상 데이터를 저장하고 처리하는 과정 등이 추가되었음에도 기존 방법에 비해 지연시간이 거의 없는 것을 확인할 수 있었다.

Development of Multi-Sensor Convergence Monitoring and Diagnosis Device based on Edge AI for the Modular Main Circuit Breaker of Korean High-Speed Rolling Stock

  • Byeong Ju, Yun;Jhong Il, Kim;Jae Young, Yoon;Jeong Jin, Kang;You Sik, Hong
    • International Journal of Advanced Culture Technology
    • /
    • 제10권4호
    • /
    • pp.569-575
    • /
    • 2022
  • This is a research thesis on the development of a monitoring and diagnosis device that prevents the risk of an accident through monitoring and diagnosis of a modular Main Circuit Breaker (MCB) using Vacuum Interrupter (VI) for Korean high-speed rolling stock. In this paper, a comprehensive MCB monitoring and diagnosis was performed by converging vacuum level diagnosis of interrupter, operating coil monitoring of MCB and environmental temperature/humidity monitoring of modular box. In addition, to develop an algorithm that is expected to have a similar data processing before the actual field test of the MCB monitoring and diagnosis device in 2023, the cluster analysis and factor analysis were performed using the WEKA data mining technique on the big data of Korean railroad transformer, which was previously researched by Tae Hee Evolution with KORAIL.