• Title/Summary/Keyword: 자원 추론

Search Result 163, Processing Time 0.033 seconds

Analyzing problem of job failures due to low GPU memory when concurrent running inference jobs in a container environment (컨테이너 환경에서 추론 작업 동시 실행 시 GPU 메모리 부족으로 인한 작업 실패 문제 분석)

  • HyungJun Kim;Jihun Kang
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2023.11a
    • /
    • pp.71-74
    • /
    • 2023
  • 인공지능의 추론 작업은 대규모 연산 자원을 필요로 하는 학습 작업과는 다르게 단일 서버에서 다수의 작업을 동시 실행하는 것이 가능하며, 실행 시간이 상대적으로 빠르다는 특성으로 인해 작업 실행을 위해 컴퓨팅 자원을 점유하고 빠르게 작업을 완료한 후 자원을 반환하기 때문에 다수의 추론 작업을 동시에 운용하는데 용이하다. 하지만, 단일 서버의 컴퓨팅 자원은 제한적이다. 이로 인해 컴퓨팅 자원의 허용 범위 내에서 작업을 운용해야 하며, 허용 범위를 초과하는 규모의 추론 작업이 동시에 실행되면 자원 부족으로 인한 경쟁이 발생한다. 본 논문에서는 컨테이너 환경에서 다수의 추론 작업이 동시에 실행될 때 GPU 메모리 부족으로 인한 작업 실패 문제를 실험을 통해 확인한다. 또한, 다수의 추론 작업 사이에서 발생하는 GPU 자원 경쟁과 실행을 실패하는 추론 작업의 GPU 메모리 낭비로 인한 자원 활용률 저하 문제를 분석한다.

An Inference Verification Tool based on a Context Information Ontology (상황 정보 온톨로지 기반 추론 검증 도구)

  • Kim, Mok-Ryun;Park, Young-Ho
    • Journal of KIISE:Computer Systems and Theory
    • /
    • v.36 no.6
    • /
    • pp.488-501
    • /
    • 2009
  • In ubiquitous environments, invisible devices and software are connected to one another to provide convenient services to users. In order to provide such services, we must have mobile devices that connect users and services. But such services are usually limited to those served on a single mobile device. To resolve the resource limitation problem of mobile devices, a nearby resource sharing research has been studied. Also, not only the nearby resource share but also a resource recommendation through context-based resource reasoning has been studied such as an UMO Project. The UMO Project share and manage the various context information for the personalization resource recommendation and reason based on current context information. Also, should verify resource inference rules for reliable the resource recommendation. But, to create various context information requires huge cost and time in actuality. Thus, we propose a inference verification tool called USim to resolve problem. The proposed inference verification tool provides convenient graphic user interfaces and it easily creates context information. The USim exactly verifies new inference rules through dynamic changes of context information.

A Task Decomposition Scheme for Context Aggregation in Personal Smart Space (개인 지능형 공간에서의 상황정보 추론을 위한 작업 분배 기법)

  • Ryu, Ho-Seok;Park, In-Suk;Hyun, Soon-J.;Lee, Dong-Man;Kim, Jeong-Seon
    • 한국HCI학회:학술대회논문집
    • /
    • 2007.02a
    • /
    • pp.308-315
    • /
    • 2007
  • 상황 인지 컴퓨팅에서 상황정보 추론 기능은 상황정보 관리를 위해 중요한 기능 중의 하나이다. 상황정보 추론 기능은 하위 레벨의 상황정보들로부터 사용자의 상황을 나타내는 상위 레벨의 상황정보를 제공한다. 인프라 기반 지능형 공간에서 중앙 집중 형의 상황정보 관리 시스템은 상황정보 추론을 위한 자원 소모를 고려할 필요가 없었다. 하지만 자원이 제약된 장치들로만 구성된 개인 지능형 공간에서는 공간 내 전체의 자원 소모뿐만 아니라 상황정보 관리자 역할을 하는 장치 (coordinator)들의 자원 소모가 최소화 되어야 한다. 본 논문에서는 중앙 집중적인 상황정보 추론 작업을 분배하여 개인 지능형 공간 내의 다른 장치들에게 작업을 분산시키는 상황정보 추론 작업 분배 기법을 제안한다. 제안된 분배 기법은 건강정보, 환경정보, 지리정보 같이 상황정보가 자주 발생하는 환경에서 더 효율적이다. 상황정보 추론작업을 분배 함으로써 상황정보 추론을 위한 개인 지능형 공간의 전체의 처리량을 크게 증가시키지 않으면서 코디네이터의 처리량을 줄일 수 있다. 본 논문의 작업분배 기법은 상황정보 추론의 역할을 하는 코디네이터와 분산된 로컬 상황정보 추론기능을 제안한다. 본 논문에서는 제안된 상황정보 추론 기능을 개인 지능형 공간을 구성하는 장치들에 각각 구현하고 상황정보 추론을 위한 처리부하를 측정하여 제안된 기법의 실행 가능성을 보였다.

  • PDF

Ontology and Rule-Based Resource Reasoning for a Personalized Service in Ubiquitous Environments (유비쿼터스 환경에서 개인화된 서비스를 위한 오톨로지와 규치 기반 자원 추론)

  • Sun-Hee Kang;Jong-Hyun Park;SungBum Hong;Young-Kuk Kim;Ji-Hoon Kang
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2008.11a
    • /
    • pp.985-988
    • /
    • 2008
  • 유비쿼터스 컴퓨팅 환경에서는 공유 가능한 자원들이 산재되어 존재하며 사용자는 이를 기반으로 최적의 서비스를 제공받기를 원한다. 그러나 환경 내에는 다양한 상황과 서비스들이 존재하며 사용자 개인의 선호 정보 역시 매우 다양한 것이 현실이다. 그러므로 사용자가 원하는 서비스의 제공을 위해서는 사용자가 어떠한 상황에서 어떠한 서비스를 요청했으며, 어떤 자원이 사용자의 현재 상황에 적절한지를 판단하여, 사용자 요구사항에 맞는 자원을 추론하는 과정이 반드시 필요하다. 본 논문에서는 사용자가 최적의 서비스를 제공받을 수 있도록 주변의 공유 가능한 자원들을 추론하고 이들을 추천하기 위한 방법을 제안한다. 이를 위하여 사용자의 상황을 인식하기 위한 방안으로 온톨로지를 이용한 상황추론 방법을 제안한다. 또한 사용자 선호 정보를 반영하여 개인 맞춤형 자원을 추천하기 위한 추론방법의 하나로 규칙을 이용한 추론방법을 제안한다.

OWL-Based Semantic Search using SPARQL (OWL 기반의 SPARQL을 이용한 시맨틱 검색)

  • Ha, Sang-Bum;Han, Eun-Young;Choi, Ho-Jun
    • Proceedings of the Korean Information Science Society Conference
    • /
    • 2005.11b
    • /
    • pp.706-708
    • /
    • 2005
  • 시맨틱 웹의 등장으로 시맨틱 검색에 대한 관심이 높아졌다. 이에 본 논문에서는 시맨틱 웹 환경의 자원들을 이용하여 시맨틱 검색을 수행하는 검색방법을 제안한다. 기존의 SPARQL(Simple Protocol and RDF Query Language) 시맨틱 질의언어는 추론의 기능 없이 RDF(Resource Description Framework)에서 제공하는 SPO(subiect, predicate, object) 형태의 트리플 패턴 매치만을 제공한다. 본 논문의 시스템은 기존의 SPARQL질의 시스템에 시맨틱 추론기능을 추가하여 검색 결과에 효율성을 증가 시키는 것을 목적으로 한다. 본 논문에서의 시스템은 다음과 같은 특징을 갖는다. 첫째, 시맨틱 웹 환경의 온톨로지 구축을 위해서 W3C에서 온톨로지 언어로 표준화된 OWL(Web Ontology Language)를 사용하여 검색 환경을 구축한다. 둘째, 온톨로지와 메타데이터를 추론하여 시맨틱 검색을 유도하는 OWL추론기를 사용한다. 시맨틱 추론은 온롤로지의 공리(Axiom)을 충분히 활용하는 온톨로지기반 시맨틱 추론과 검색 도메인에 맞는 규칙을 활용하는 사용자 컨텍스트 기반의 시맨틱 추론으로 이루어진다. 셋째, 다양한 시맨틱 검색을 위해 W3C에서 제안되어 차세대 시맨틱 검색 질의언어로 연구중인 SPARQL을 사용한다. 이와 같은 특징은 시맨틱 검색 시스템이 시맨틱 웹 환경의 자원을 충분히 활용하는 결과를 가져온다.

  • PDF

First Order Predicate Logic Representation and Management for Information Resource Dictionary (정보자원사전에 대한 서술논리 표현과 관리)

  • 김창화
    • The Journal of Information Technology and Database
    • /
    • v.5 no.1
    • /
    • pp.13-37
    • /
    • 1998
  • 인터넷 등의 컴퓨터 통신 네트워크의 발달로 인하여 분산된 정보자원의 공유를 통한 자원에 대한 재사용성의 필요성이 대두되었다. IRD(Information Resource Dictionary)는 조직 내에서 관련된 모든 정보에 대한 데이터가 논리적으로 중앙화된 정보저장소(repository)이다. IRD 내의 데이터는 다른 데이터를 기술하므로 이른바 메타 데이터라고 하기도 한다. IRD의 사전(dictionary) 요소는 정보자원의 종류, 정보자원의 의미, 정보자원의 논리적 구조, 정보자원의 위치, 그리고 정보자원의 접근방법 등을 기술한다. FIPS ANSI의 IRDS는 이항 관계를 이용하여 무결성 제약조건을 표현하므로 제약조건 규칙의 표현과 일반적인 추론 규칙의 표현이 제한되어 있으며, 다양한 형태의 무결성 제약조건의 표현과 IRD와 관련된 여러 정보의 도출 또는 추론 및 관리에 관한 사항은 IRD 응용 고유의 문제로 간주하여 언급하고 있지 않다. 한편, FIPS IRDS는 사용자가 SQL 및 IRD에 대한 전문적 지식이 없이는 사용자 질의 작성이 어려운 점등에 대한 문제점을 안고 있다. 본 논문은 FIPS IRDS의 기본모델에서 정보자원 표현, 정보자원들간의 관계, 정보자원의 관리 정보 구분을 명확히 하기 위해 정보자원 모델을 정보자원 표현요소와 정보자원 관리요소의 두 부류로 나누어 구분하고, 각 부류에 대한 자격 질의(competency question)를 통하여 유추된 요소들을 FIPS ANSI IRDS 기본 모델의 스키마 기술 레벨과 스키마 레벨에 첨가함으로써 그 기본 모델을 확장한다. 그리고, FIPS ANSI IRDS가 제공하는 IRD 기술과 관리 기능을 그대로 포함하면서 앞에서 문제점으로 지적된 제약조건 표현과 추론규칙 표현을 위하여 확장된 기본 모델을 중심으로 각 레벨의 구성 요소들의 형식적 의미(formal semantics)와 레벨 내 혹은 레벨 구성요소들간의 관계성(relationship), 그리고 제약조건의 표현과 질의 추론 규칙들을 식별하여 FOPL(First Order Predicate Logic)로 표현한다. 또한, 본 논문은 FOPL로 표현된 predicate들과 규칙들을 구현하기 위하여 Prolog로 변환하기 위한 이론적 방법론을 제시하고 정보자원 관리를 위한 기본 함수들과 스키마 진화(schema evolution)를 위한 방법론을 제안한다.

  • PDF

Analysis of CNN Inference Using Xilinx DPU (Xilinx DPU를 사용한 CNN 추론 분석)

  • Kim, Chaeyoung;Suh, Taeweon
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2019.10a
    • /
    • pp.60-62
    • /
    • 2019
  • 지능형 IoT 애플리케이션들을 효과적으로 사용하기 위해서는 추론 엔진을 Edge device로 포팅하는 것이 필수적이다. 그러나 컴퓨팅 자원이 제한적인 Edge 환경에서 computational cost가 상당히 큰 CNN 추론을 실시간으로 하는 것은 쉽지 않다. 이에, CNN 추론의 하드웨어 가속화의 필요성이 제기되어 활발한 연구가 진행되고 있으며, Xilinx, Intel 등에서도 하드웨어 가속화를 도와주는 툴을 개발하여 지속적으로 업그레이드하고 있다. 본 연구에서는 CIFAR-10 데이터베이스의 테스트 이미지 10,000개를 Xilinx 사의 CNN 추론 엔진인 DPU를 사용하여 Zynq UltraScale+ 보드에서 추론해보고, DPU 아키텍처에 따른 결과를 비교·분석했다. 병렬처리 수준을 높게 한 DPU는 그렇지 않은 DPU보다 소비전력 및 자원 사용량이 3배 이상 높았지만, 1.65배 좋은 성능을 보여 Trade-off 관계를 확인할 수 있었다.

Ontology based reasoning for resource sharing in ubiquitous smart space (유비쿼터스 지능 공간에서 자원 공유를 위한 온톨로지기반 추론)

  • Kang, Sun-Hee;Park, Jong-Hyun;Kim, Young-Kuk;Kang, Ji-Hoon
    • Proceedings of the Korea Contents Association Conference
    • /
    • 2008.05a
    • /
    • pp.489-493
    • /
    • 2008
  • One of the main goals of ubiquitous computing is to share a variety of resources existing to smart space and compose an efficient services by reasoning the most user-suitable resources, However, each applications describe the resources and services in different expression ways and these heterogeneous expression ways make it difficult for sharing and reasoning of the resources. Therefore, it is necessary to unify the information for resources sharing and ontology is one of the solution for the unification. In this paper, we define the possible services in the ubiquitous smart space and its ontology. Also, we propose a resource ontology to represent the usable resources in the space. our ontologies are used to reason resource set for composing user-suitable service in the ubiquitous smart space.

  • PDF

Development and Study of Cloud-Edge AI Inference Service Based on Microservices (마이크로서비스 기반의 클라우드 엣지 AI 추론 서비스 개발 및 연구)

  • Seo, Ji-Hyun;Jang, Su-min;Cha, Jae-geun;Choi, Hyun-hwa;Kim, Dae-won;Kim, Sun-wook
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2022.05a
    • /
    • pp.78-80
    • /
    • 2022
  • 최근 딥러닝을 이용한 영상 분석은 자율주행, 감시카메라 등 다양한 서비스에 필수적으로 활용되고 있으며 실시간 처리 및 보안 요소를 만족하기 위해 기존의 클라우드 컴퓨팅 방식의 단점을 개선한 클라우드 엣지 컴퓨팅 방식을 적용하는 사례가 크게 증가하고 있다. 하지만 사용자 및 단말과 가까운 위치에서 딥러닝 추론을 진행하는 클라우드 엣지 서버는 클라우드 서버와 비교하여 컴퓨팅 자원이 충분하지 않을 경우가 많으며 기존의 딥러닝 모델을 그대로 클라우드 엣지 환경에 적용하는 것은 자원 활용 측면에서 여러가지 문제점들을 갖고 있다. 따라서 본 논문에서는 마이크로서비스 구조를 통해 자원을 보다 유연하게 활용할 수 있도록 개선된 딥러닝 모델로 대규모의 클라이언트 요청을 처리 가능한 동영상 데이터 추론 서비스인 G-Edge AI 추론 서비스 개발에 대해 설명한다.

Automatic Creating Inference net method in Expert System (전문가 시스템에서 추론망 자동 생성 기법)

  • 김찬일
    • Proceedings of the Korean Institute of Intelligent Systems Conference
    • /
    • 2002.05a
    • /
    • pp.135-139
    • /
    • 2002
  • 전문가 시스템은 여려 분야에서 활용되고 있으나 여러 가지 문제점을 발생시키고 있다. 그 문제점 중 하나로 전문가로부터 지식을 추출해 내는 과정에서 발생하는 어려움들이 있다. 즉, 전문가로부터의 지식들을 추출하여 그것들을 지식 베이스화하는 작업과 그 지식을 추론할 수 있도록 추론 망으로 구성하는 것이다. 비록 이런 문제점들을 해결한다고 하여도 규칙화 된 추론망을 구성하는 데는 시간적 요소와 전문적인 지식을 가진 인적 자원이 많이 소모되므로 전문가 시스템을 구성하는 것은 실질적으로 불가능하다. 본 논문에서는 전문가는 단순히 자신이 가진 단편적인 지식들의 특징들을 입력하고, 이 특징들로부터 지식을 추출하여 지식 베이스화하고, 이를 이용한 추론망 구성을 자동 추론망 생성 시스템이 대신하는 기법을 제시한다. 실제 구성된 추론망은 규칙 기반의 추론 망으로 구성하여 지식 베이스화 한다.

  • PDF