• 제목/요약/키워드: 자원 추론

검색결과 163건 처리시간 0.035초

컨테이너 환경에서 추론 작업 동시 실행 시 GPU 메모리 부족으로 인한 작업 실패 문제 분석 (Analyzing problem of job failures due to low GPU memory when concurrent running inference jobs in a container environment)

  • 김형준;강지훈
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2023년도 추계학술발표대회
    • /
    • pp.71-74
    • /
    • 2023
  • 인공지능의 추론 작업은 대규모 연산 자원을 필요로 하는 학습 작업과는 다르게 단일 서버에서 다수의 작업을 동시 실행하는 것이 가능하며, 실행 시간이 상대적으로 빠르다는 특성으로 인해 작업 실행을 위해 컴퓨팅 자원을 점유하고 빠르게 작업을 완료한 후 자원을 반환하기 때문에 다수의 추론 작업을 동시에 운용하는데 용이하다. 하지만, 단일 서버의 컴퓨팅 자원은 제한적이다. 이로 인해 컴퓨팅 자원의 허용 범위 내에서 작업을 운용해야 하며, 허용 범위를 초과하는 규모의 추론 작업이 동시에 실행되면 자원 부족으로 인한 경쟁이 발생한다. 본 논문에서는 컨테이너 환경에서 다수의 추론 작업이 동시에 실행될 때 GPU 메모리 부족으로 인한 작업 실패 문제를 실험을 통해 확인한다. 또한, 다수의 추론 작업 사이에서 발생하는 GPU 자원 경쟁과 실행을 실패하는 추론 작업의 GPU 메모리 낭비로 인한 자원 활용률 저하 문제를 분석한다.

상황 정보 온톨로지 기반 추론 검증 도구 (An Inference Verification Tool based on a Context Information Ontology)

  • 김목련;박영호
    • 한국정보과학회논문지:시스템및이론
    • /
    • 제36권6호
    • /
    • pp.488-501
    • /
    • 2009
  • 유비쿼터스 환경에서 모바일 단말기의 제한적인 자원 문제를 해결하기 위해 주변 자원을 실시간으로 공유하는 연구들이 진행되고 있다. 그리고 자원의 공유뿐만 아니라 상황 정보에 기반한 추론을 통해 개인 맞춤형 자원을 추천하는 연구도 활발히 진행되고 있다. 개인 맞춤형 자원 추천을 위하여 사용자의 기본 정보, 자원에 대한 선호도, 공유 대상이 되는 자원의 정보, 단말기의 위치, 시간과 같은 다양한 상황 정보는 효과적으로 공유 및 관리되어야 한다. 또한 신뢰성 있는 자원 추론을 위해 필요한 추론규칙을 검증하는 단계는 매우 중요하다. 이를 위해서 다양한 상황 정보를 구성하여 실제 단말기 상에서 자원 추론규칙이 올바르게 동작하는지 검증해야 하지만 이는 현실적으로 많은 비용과 시간이 필요하다. 따라서 본 논문애서는 이러한 문제점을 해결하기 위하석 추론 검증 도구를 제안한다. 제안하는 추론 검증도구는 편리한 그래픽 사용자 인터페이스를 제공하여 원하는 상황 정보를 쉽게 생성할 수 있고, 실제 단말기를 대신하여 동적인 상황 정보의 변경에 따른 추론을 정확하게 검증한다.

개인 지능형 공간에서의 상황정보 추론을 위한 작업 분배 기법 (A Task Decomposition Scheme for Context Aggregation in Personal Smart Space)

  • 유호석;박인석;현순주;이동만;김정선
    • 한국HCI학회:학술대회논문집
    • /
    • 한국HCI학회 2007년도 학술대회 1부
    • /
    • pp.308-315
    • /
    • 2007
  • 상황 인지 컴퓨팅에서 상황정보 추론 기능은 상황정보 관리를 위해 중요한 기능 중의 하나이다. 상황정보 추론 기능은 하위 레벨의 상황정보들로부터 사용자의 상황을 나타내는 상위 레벨의 상황정보를 제공한다. 인프라 기반 지능형 공간에서 중앙 집중 형의 상황정보 관리 시스템은 상황정보 추론을 위한 자원 소모를 고려할 필요가 없었다. 하지만 자원이 제약된 장치들로만 구성된 개인 지능형 공간에서는 공간 내 전체의 자원 소모뿐만 아니라 상황정보 관리자 역할을 하는 장치 (coordinator)들의 자원 소모가 최소화 되어야 한다. 본 논문에서는 중앙 집중적인 상황정보 추론 작업을 분배하여 개인 지능형 공간 내의 다른 장치들에게 작업을 분산시키는 상황정보 추론 작업 분배 기법을 제안한다. 제안된 분배 기법은 건강정보, 환경정보, 지리정보 같이 상황정보가 자주 발생하는 환경에서 더 효율적이다. 상황정보 추론작업을 분배 함으로써 상황정보 추론을 위한 개인 지능형 공간의 전체의 처리량을 크게 증가시키지 않으면서 코디네이터의 처리량을 줄일 수 있다. 본 논문의 작업분배 기법은 상황정보 추론의 역할을 하는 코디네이터와 분산된 로컬 상황정보 추론기능을 제안한다. 본 논문에서는 제안된 상황정보 추론 기능을 개인 지능형 공간을 구성하는 장치들에 각각 구현하고 상황정보 추론을 위한 처리부하를 측정하여 제안된 기법의 실행 가능성을 보였다.

  • PDF

유비쿼터스 환경에서 개인화된 서비스를 위한 오톨로지와 규치 기반 자원 추론 (Ontology and Rule-Based Resource Reasoning for a Personalized Service in Ubiquitous Environments)

  • 강선희;박종현;홍성범;김영국;강지훈
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2008년도 추계학술발표대회
    • /
    • pp.985-988
    • /
    • 2008
  • 유비쿼터스 컴퓨팅 환경에서는 공유 가능한 자원들이 산재되어 존재하며 사용자는 이를 기반으로 최적의 서비스를 제공받기를 원한다. 그러나 환경 내에는 다양한 상황과 서비스들이 존재하며 사용자 개인의 선호 정보 역시 매우 다양한 것이 현실이다. 그러므로 사용자가 원하는 서비스의 제공을 위해서는 사용자가 어떠한 상황에서 어떠한 서비스를 요청했으며, 어떤 자원이 사용자의 현재 상황에 적절한지를 판단하여, 사용자 요구사항에 맞는 자원을 추론하는 과정이 반드시 필요하다. 본 논문에서는 사용자가 최적의 서비스를 제공받을 수 있도록 주변의 공유 가능한 자원들을 추론하고 이들을 추천하기 위한 방법을 제안한다. 이를 위하여 사용자의 상황을 인식하기 위한 방안으로 온톨로지를 이용한 상황추론 방법을 제안한다. 또한 사용자 선호 정보를 반영하여 개인 맞춤형 자원을 추천하기 위한 추론방법의 하나로 규칙을 이용한 추론방법을 제안한다.

OWL 기반의 SPARQL을 이용한 시맨틱 검색 (OWL-Based Semantic Search using SPARQL)

  • 하상범;한은영;최호준
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2005년도 가을 학술발표논문집 Vol.32 No.2 (2)
    • /
    • pp.706-708
    • /
    • 2005
  • 시맨틱 웹의 등장으로 시맨틱 검색에 대한 관심이 높아졌다. 이에 본 논문에서는 시맨틱 웹 환경의 자원들을 이용하여 시맨틱 검색을 수행하는 검색방법을 제안한다. 기존의 SPARQL(Simple Protocol and RDF Query Language) 시맨틱 질의언어는 추론의 기능 없이 RDF(Resource Description Framework)에서 제공하는 SPO(subiect, predicate, object) 형태의 트리플 패턴 매치만을 제공한다. 본 논문의 시스템은 기존의 SPARQL질의 시스템에 시맨틱 추론기능을 추가하여 검색 결과에 효율성을 증가 시키는 것을 목적으로 한다. 본 논문에서의 시스템은 다음과 같은 특징을 갖는다. 첫째, 시맨틱 웹 환경의 온톨로지 구축을 위해서 W3C에서 온톨로지 언어로 표준화된 OWL(Web Ontology Language)를 사용하여 검색 환경을 구축한다. 둘째, 온톨로지와 메타데이터를 추론하여 시맨틱 검색을 유도하는 OWL추론기를 사용한다. 시맨틱 추론은 온롤로지의 공리(Axiom)을 충분히 활용하는 온톨로지기반 시맨틱 추론과 검색 도메인에 맞는 규칙을 활용하는 사용자 컨텍스트 기반의 시맨틱 추론으로 이루어진다. 셋째, 다양한 시맨틱 검색을 위해 W3C에서 제안되어 차세대 시맨틱 검색 질의언어로 연구중인 SPARQL을 사용한다. 이와 같은 특징은 시맨틱 검색 시스템이 시맨틱 웹 환경의 자원을 충분히 활용하는 결과를 가져온다.

  • PDF

정보자원사전에 대한 서술논리 표현과 관리 (First Order Predicate Logic Representation and Management for Information Resource Dictionary)

  • 김창화
    • 정보기술과데이타베이스저널
    • /
    • 제5권1호
    • /
    • pp.13-37
    • /
    • 1998
  • 인터넷 등의 컴퓨터 통신 네트워크의 발달로 인하여 분산된 정보자원의 공유를 통한 자원에 대한 재사용성의 필요성이 대두되었다. IRD(Information Resource Dictionary)는 조직 내에서 관련된 모든 정보에 대한 데이터가 논리적으로 중앙화된 정보저장소(repository)이다. IRD 내의 데이터는 다른 데이터를 기술하므로 이른바 메타 데이터라고 하기도 한다. IRD의 사전(dictionary) 요소는 정보자원의 종류, 정보자원의 의미, 정보자원의 논리적 구조, 정보자원의 위치, 그리고 정보자원의 접근방법 등을 기술한다. FIPS ANSI의 IRDS는 이항 관계를 이용하여 무결성 제약조건을 표현하므로 제약조건 규칙의 표현과 일반적인 추론 규칙의 표현이 제한되어 있으며, 다양한 형태의 무결성 제약조건의 표현과 IRD와 관련된 여러 정보의 도출 또는 추론 및 관리에 관한 사항은 IRD 응용 고유의 문제로 간주하여 언급하고 있지 않다. 한편, FIPS IRDS는 사용자가 SQL 및 IRD에 대한 전문적 지식이 없이는 사용자 질의 작성이 어려운 점등에 대한 문제점을 안고 있다. 본 논문은 FIPS IRDS의 기본모델에서 정보자원 표현, 정보자원들간의 관계, 정보자원의 관리 정보 구분을 명확히 하기 위해 정보자원 모델을 정보자원 표현요소와 정보자원 관리요소의 두 부류로 나누어 구분하고, 각 부류에 대한 자격 질의(competency question)를 통하여 유추된 요소들을 FIPS ANSI IRDS 기본 모델의 스키마 기술 레벨과 스키마 레벨에 첨가함으로써 그 기본 모델을 확장한다. 그리고, FIPS ANSI IRDS가 제공하는 IRD 기술과 관리 기능을 그대로 포함하면서 앞에서 문제점으로 지적된 제약조건 표현과 추론규칙 표현을 위하여 확장된 기본 모델을 중심으로 각 레벨의 구성 요소들의 형식적 의미(formal semantics)와 레벨 내 혹은 레벨 구성요소들간의 관계성(relationship), 그리고 제약조건의 표현과 질의 추론 규칙들을 식별하여 FOPL(First Order Predicate Logic)로 표현한다. 또한, 본 논문은 FOPL로 표현된 predicate들과 규칙들을 구현하기 위하여 Prolog로 변환하기 위한 이론적 방법론을 제시하고 정보자원 관리를 위한 기본 함수들과 스키마 진화(schema evolution)를 위한 방법론을 제안한다.

  • PDF

Xilinx DPU를 사용한 CNN 추론 분석 (Analysis of CNN Inference Using Xilinx DPU)

  • 김채영;서태원
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2019년도 추계학술발표대회
    • /
    • pp.60-62
    • /
    • 2019
  • 지능형 IoT 애플리케이션들을 효과적으로 사용하기 위해서는 추론 엔진을 Edge device로 포팅하는 것이 필수적이다. 그러나 컴퓨팅 자원이 제한적인 Edge 환경에서 computational cost가 상당히 큰 CNN 추론을 실시간으로 하는 것은 쉽지 않다. 이에, CNN 추론의 하드웨어 가속화의 필요성이 제기되어 활발한 연구가 진행되고 있으며, Xilinx, Intel 등에서도 하드웨어 가속화를 도와주는 툴을 개발하여 지속적으로 업그레이드하고 있다. 본 연구에서는 CIFAR-10 데이터베이스의 테스트 이미지 10,000개를 Xilinx 사의 CNN 추론 엔진인 DPU를 사용하여 Zynq UltraScale+ 보드에서 추론해보고, DPU 아키텍처에 따른 결과를 비교·분석했다. 병렬처리 수준을 높게 한 DPU는 그렇지 않은 DPU보다 소비전력 및 자원 사용량이 3배 이상 높았지만, 1.65배 좋은 성능을 보여 Trade-off 관계를 확인할 수 있었다.

유비쿼터스 지능 공간에서 자원 공유를 위한 온톨로지기반 추론 (Ontology based reasoning for resource sharing in ubiquitous smart space)

  • 강선희;박종현;김영국;강지훈
    • 한국콘텐츠학회:학술대회논문집
    • /
    • 한국콘텐츠학회 2008년도 춘계 종합학술대회 논문집
    • /
    • pp.489-493
    • /
    • 2008
  • 유비쿼터스 컴퓨팅의 주요 목적 가운데 하나는 지능 공간에 존재하는 다양한 자원들을 공유하고 최적의 자원을 추론하여 사용자를 위한 효과적인 서비스를 구성하는 것이다. 그러나 각 응용들은 서로 다른 표현 방법으로 자원과 서비스들을 기술하고 있으며 이러한 이질적인 정보 표현 형식은 공유와 추론을 어렵게 하는 요인이 된다. 그러므로 자원 공유를 위해 필요한 정보를 단일화하는 것이 필요하며 온톨로지는 이를 표현하기위한 한 가지 방안이다. 본 논문에서는 유비쿼터스 지능 공간 내에서 제공 가능한 서비스들을 정의하고 이를 위한 온톨로지를 제안한다. 또한 서비스를 구성하기 위하여 주변의 자원을 공유하기 위한 자원 온톨로지를 정의한다. 이렇게 정의된 우리의 온톨로지들은 유비쿼터스 지능 공간에서 사용자에게 효과적인 서비스를 구성하기위한 자원 집합을 추론하기위해서 사용된다.

  • PDF

마이크로서비스 기반의 클라우드 엣지 AI 추론 서비스 개발 및 연구 (Development and Study of Cloud-Edge AI Inference Service Based on Microservices)

  • 서지현;장수민;차재근;최현화;김대원;김선욱
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2022년도 춘계학술발표대회
    • /
    • pp.78-80
    • /
    • 2022
  • 최근 딥러닝을 이용한 영상 분석은 자율주행, 감시카메라 등 다양한 서비스에 필수적으로 활용되고 있으며 실시간 처리 및 보안 요소를 만족하기 위해 기존의 클라우드 컴퓨팅 방식의 단점을 개선한 클라우드 엣지 컴퓨팅 방식을 적용하는 사례가 크게 증가하고 있다. 하지만 사용자 및 단말과 가까운 위치에서 딥러닝 추론을 진행하는 클라우드 엣지 서버는 클라우드 서버와 비교하여 컴퓨팅 자원이 충분하지 않을 경우가 많으며 기존의 딥러닝 모델을 그대로 클라우드 엣지 환경에 적용하는 것은 자원 활용 측면에서 여러가지 문제점들을 갖고 있다. 따라서 본 논문에서는 마이크로서비스 구조를 통해 자원을 보다 유연하게 활용할 수 있도록 개선된 딥러닝 모델로 대규모의 클라이언트 요청을 처리 가능한 동영상 데이터 추론 서비스인 G-Edge AI 추론 서비스 개발에 대해 설명한다.

전문가 시스템에서 추론망 자동 생성 기법 (Automatic Creating Inference net method in Expert System)

  • 김찬일
    • 한국지능시스템학회:학술대회논문집
    • /
    • 한국퍼지및지능시스템학회 2002년도 춘계학술대회 및 임시총회
    • /
    • pp.135-139
    • /
    • 2002
  • 전문가 시스템은 여려 분야에서 활용되고 있으나 여러 가지 문제점을 발생시키고 있다. 그 문제점 중 하나로 전문가로부터 지식을 추출해 내는 과정에서 발생하는 어려움들이 있다. 즉, 전문가로부터의 지식들을 추출하여 그것들을 지식 베이스화하는 작업과 그 지식을 추론할 수 있도록 추론 망으로 구성하는 것이다. 비록 이런 문제점들을 해결한다고 하여도 규칙화 된 추론망을 구성하는 데는 시간적 요소와 전문적인 지식을 가진 인적 자원이 많이 소모되므로 전문가 시스템을 구성하는 것은 실질적으로 불가능하다. 본 논문에서는 전문가는 단순히 자신이 가진 단편적인 지식들의 특징들을 입력하고, 이 특징들로부터 지식을 추출하여 지식 베이스화하고, 이를 이용한 추론망 구성을 자동 추론망 생성 시스템이 대신하는 기법을 제시한다. 실제 구성된 추론망은 규칙 기반의 추론 망으로 구성하여 지식 베이스화 한다.

  • PDF