• Title/Summary/Keyword: 도메인 지식

Search Result 292, Processing Time 0.027 seconds

OK-KGD:Open-domain Korean Knowledge Grounded Dialogue Dataset (OK-KGD:오픈 도메인 한국어 지식 기반 대화 데이터셋 구축)

  • Seona Moon;San Kim;Jinyea Jang;Minyoung Jeung;Saim Shin
    • Annual Conference on Human and Language Technology
    • /
    • 2023.10a
    • /
    • pp.342-345
    • /
    • 2023
  • 최근 자연어처리 연구 중 오픈 도메인 지식 기반 대화는 많은 관심을 받고 있다. 연구를 위해서는 오픈 도메인 환경을 갖추고 적절한 지식을 사용한 대화 데이터셋이 필요하다. 지금까지 오픈 도메인 환경을 갖춘 한국어 지식 기반 대화 데이터셋은 존재하지 않아 한국어가 아닌 데이터셋을 한국어로 기계번역하여 연구에 사용하였다. 이를 사용할 경우 두 가지 단점이 존재한다. 먼저 사용된 지식이 한국 문화에 익숙하지 않아 한국인이 쉽게 알 수 없는 대화 내용이 담겨있다. 그리고 번역체가 남아있어 대화가 자연스럽지 않다. 그래서 본 논문에서는 자연스러운 대화체와 대화 내용을 담기 위해 새로운 오픈 도메인 한국어 지식 기반 대화 데이터셋을 구축하였다. 오픈 도메인 환경 구축을 위해 위키백과와 나무위키의 지식을 사용하였고 사용자와 시스템의 발화로 이루어진 1,773개의 대화 세트를 구축하였다. 시스템 발화는 크게 지식을 사용한 발화, 사용자 질문에 대한 답을 주지 못한 발화, 그리고 지식이 포함되지 않은 발화 3가지로 구성된다. 이렇게 구축한 데이터셋을 통해 KE-T5와 Long-KE-T5를 사용하여 간단한 실험을 진행하였다.

  • PDF

A Study on the Domain Knowledge Development of Expert System for the Project Management in the Defense Information Systems (국방정보체계 사업관리용 전문가 시스템의 도메인 지식 개발에 관한 연구)

  • 김화수;문세진;장호석
    • Journal of Intelligence and Information Systems
    • /
    • v.5 no.2
    • /
    • pp.43-61
    • /
    • 1999
  • 국방정보체계는 종류가 다양하고 대규모로 추진되기 때문에 소프트웨어 개발을 위한 사업관리에 어려움이 많이 따른다. 더구나, 현재 국방정보체계의 사업관리는 자동화시스템을 이용하여 체계적으로 실시하지 않고 수동으로 처리하기 때문에 많은 문제점이 야기되고 있고 현재의 소프트웨어 개발 표준인 ISO 12207을 수정 없이 그대로 대규모 실시간 국방정보체계의 소프트웨어 개발사업에 적용하는 것도 한계가 있다. 따라서 본 논문의 목적은 효율적인 국방정보체계 소프트웨어 개발 사업관리를 위해서 국방정보체계별로 적절한 개발 생명주기 모델을 선정하고, 각 단계별로 사업관리자가 수행할 태스크를 식별하는 등의 도메인 지식을 개발하여 궁극적으로 국방정보체계 사업관리용 전문가 시스템을 개발할 때 활용함과 동시에 국방정보체계 사업관리의 일환으로 최종 산출물에 대한 품질을 높일 수 있도록 체계적인 시험평가 방안에 대한 도메인 지식도 개발하여 사업관리용 전문가 시스템 구축 시에 활용하고자 하는 것이다. 이를 위해서 국방정보체계의 소프트웨어 개발 사업관리에 영향을 미치는 요소들을 식별하고 이를 이용하여 국방정보체계 소프트웨어 개발 사업관리를 위한 전문가 시스템을 구축할 수 있도록 생명주기 모델 선정을 위한 도메인 지식, 생명주기 각 단계별 세부활동을 위한 도메인 지식, 시험평가 방안선정을 위한 도메인 지식을 개발하여 제시하였다. 본 논문에서는 이러한 도메인 지식을 전문가 시스템 개발도구에서 지원되는 각종 에디터에 사용되는 형태나 IF A, THEN B 형태로 개발하지 않고 사업관리용 전문가 시스템의 지식베이스에 포함될 지식들을 식별하는 것을 중심으로 개발하였다. 즉, 본 논문에서는 국방정보체계 사업관리용 전문가 시스템 개발의 필요성과 가능성을 검증하는 용역연구과제로써 프로토타입 혹을 완벽한 사업관리용 전문가 시스템을 개발한 것이 아니며, 전문가 시스템 개발 시 가장 어렵고 중요한 지식베이스 모듈속에 포함될 도메인 지식을 개발하는 것이 이 연구의 목적이다. 이러한 연구는 궁극적으로는 이러한 도메인 지식이 국방정보체계의 사업관리를 위한 전문가 시스템의 지식베이스 모듈 구축 시 기초/기반 및 핵심 지식으로 활용될 수 있을 것이다.

  • PDF

Improvement of Knowledge Retriever Performance of Open-domain Knowledge-Grounded Korean Dialogue through BM25-based Hard Negative Knowledge Retrieval (BM25 기반 고난도 부정 지식 검색을 통한 오픈 도메인 지식 기반 한국어 대화의 지식 검색 모듈 성능 향상)

  • Seona Moon;San Kim;Saim Shin
    • Annual Conference on Human and Language Technology
    • /
    • 2022.10a
    • /
    • pp.125-130
    • /
    • 2022
  • 최근 자연어처리 연구로 지식 기반 대화에서 대화 내용에 자유로운 주제와 다양한 지식을 포함하는 연구가 활발히 이루어지고 있다. 지식 기반 대화는 대화 내용이 주어질 때 특정 지식 정보를 포함하여 이어질 응답을 생성한다. 이때 대화에 필요한 지식이 검색 가능하여 선택에 제약이 없는 오픈 도메인(Open-domain) 지식 기반 대화가 가능하도록 한다. 오픈 도메인 지식 기반 대화의 성능 향상을 위해서는 대화에 이어지는 자연스러운 답변을 연속적으로 생성하는 응답 생성 모델의 성능 뿐만 아니라, 내용에 어울리는 응답이 생성될 수 있도록 적합한 지식을 선택하는 지식 검색 모델의 성능 향상도 매우 중요하다. 본 논문에서는 오픈 도메인 지식 기반 한국어 대화에서 지식 검색 성능을 높이기 위해 밀집 벡터 기반 검색 방식과 주제어(Keyword) 기반의 검색 방식을 함께 사용하는 것을 제안하였다. 먼저 밀집 벡터 기반의 검색 모델을 학습하고 학습된 모델로부터 고난도 부정(Hard negative) 지식 후보를 생성하고 주제어 기반 검색 방식으로 고난도 부정 지식 후보를 생성하여 각각 밀집 벡터 기반의 검색 모델을 학습하였다. 성능을 측정하기 위해 전체 지식 중에서 하나의 지식을 검색했을 때 정답 지식인 경우를 계산하였고 고난도 부정 지식 후보로 학습한 주제어 기반 검색 모델의 성능이 6.175%로 가장 높은 것을 확인하였다.

  • PDF

Improving Rule Generation Precision for Wrappers using Domain Knowledge (도메인 지식을 이용한 랩퍼에서 규칙 생성 정확도 향상)

  • 정창후;서정현;류범종;맹성현
    • Proceedings of the Korean Information Science Society Conference
    • /
    • 2003.04a
    • /
    • pp.662-664
    • /
    • 2003
  • 기존의 도메인 지식 기반의 랩퍼 학습 방법은 도메인에 대한 정보를 바탕으로 해당 정보 소스에 대한 렙퍼를 생성한다. 응응 분야에 맞게 정의된 도메인 지식을 이용함으로써 정보 소스에서 제공하는 다양한 텍스트의 의미와 형태를 이해할 수 있다. 그러나 정보 소스에서 제공되는 모든 텍스트에 의미 인식의 근거가 되는 레이블이 붙어서 제공되는 것이 아니기 매문에, 도메인 지식만을 이용해서 랩퍼를 학습하는 방법은 한계에 부딪힐 수 밖에 없다. 이러한 문제를 해결하기 위해서 본 논문은 인터넷에 존재하는 다양한 웹 정보 소스에서 효율적이고 정확하게 랩퍼를 생성할 수 있도록 하는 도매인 지식 기반의 확률적 랩퍼 생성 시스템을 제안한다. 효율적이고 정확한 랩퍼 생성 시스템을 구축하기 위해서 도메인 지식뿐 아니라 상세 정보로 연결되어 있는 하이퍼렁크와 엔티티 인식을 위한 확률모델을 이용하였다. 이렇게 여러 가지 방법을 적용함으로써 사용자의 개입없이 다양한 정보 소스에 대해서 보다 추출 성능이 좋은 랩퍼를 생성할 수 있다.

  • PDF

베이지안 망을 이용한 온톨로지의 구축에 관한 연구

  • Jang, Seong-Won;Lee, Geon-Chang
    • 한국경영정보학회:학술대회논문집
    • /
    • 2008.06a
    • /
    • pp.288-293
    • /
    • 2008
  • 의미적 지식기반인 온톨로지(ontology)에 대한 관심이 높아지고 있다. 온톨로지란 어휘나 개념의 정의 또는 명세로서, 인간과 컴퓨터의 의사소통 또는 지식의 표현과 저장, 활용 및 재사용을 위해 이용된다. 그러나 온톨로지를 구축하는 대부분의 방법은 체계적이거나 자동적이지 못하다. 도메인 전문가에 의존하는 전통적인 온톨로지 구축 방법은 시간과 비용이 많이 소요된다. 온톨로지 구축 툴은 많이 있지만 아직 인간의 노력을 필요로 한다. 또한 변화하는 도메인 지식을 온톨로지에 신속하게 반영하는 것은 어려운 일이다. 본 연구는 이러한 한계를 해결하기 위해, 도메인 전문가의 지식이나 경험을 최소화하면서 자동적으로 도메인 지식을 얻을 수 있는 방법을 제시하였다. 이 방법은, 데이터 기반의 도메인 지식을 대상으로, 베이지안 망(Bayesian network)이 갖고 있는 데이터 분석에서의 장점과 온톨로지와의 관련성을 이용하여 온톨로지를 자동적으로 구축하는 것이다. 평판(flat panel) TV 경기예측 사례를 통하여 온톨로지를 구축하는 과정을 알아보았다. 구축과정의 타당성을 확보하기 위하여 디스플레이 산업 전문가들과의 인터뷰를 통하여 온톨로지를 완성하고, 해당 온톨로지의 타당성 검증을 위하여 멤버체크를 한 결과 매우 높은 타당성을 얻을 수 있었다. 본 연구에서 제안하는 온톨로지는, 실제로 산업경기 예측을 계획하고 구축하며 미래 의사결정지원시스템을 설계하기 위한 주요 구성요인으로 제공될 수 있을 것이다.

  • PDF

Multi-Session Open Domain Knowledge-based dialog collection Tool (멀티-세션 오픈 도메인 지식기반 대화 수집 툴)

  • Tae-Yong Kim;San Kim;Saim Shin
    • Annual Conference on Human and Language Technology
    • /
    • 2022.10a
    • /
    • pp.491-496
    • /
    • 2022
  • 최근 멀티-세션 데이터로 장기간 페르소나와 대화 일관성을 유지하며 인터넷에서 대화와 관련된 지식을 활용하는 대화모델 연구가 활발히 진행되고 있다. 하지만 이를 위한 한국어 멀티-세션 오픈 도메인 지식 기반 대화 데이터는 공개되지 않아 한국어 대화모델 연구에 어려움이 있다. 따라서 본 논문에서는 한국어 멀티-세션 오픈 도메인 지식 기반 데이터의 필요성을 시사하고, 데이터 수집을 위한 툴을 제안한다. 제안하는 수집 툴은 양질의 데이터 수집을 위해 작업자들이 사용하기 편하도록 UI/UX를 구성하였으며, 대화 생성 시 텍스트뿐만 아니라 정보가 밀집된 테이블도 대화에 활용할 지식으로 참조할 수 있도록 구현하였다. 제안하는 수집 툴은 웹 랜덤채팅 시스템에 기반을 두어 작업자가 여러 다른 작업자와 같은 확률로 매칭되게 구현되었으며, 일정 확률로 기존 대화로부터 대화를 시작하도록 함으로써 멀티-세션 대화 수집이 가능하도록 하였다.

  • PDF

Development of a Dialogue System Model for Korean Restaurant Reservation with End-to-End Learning Method Combining Domain Specific Knowledge (도메인 특정 지식을 결합한 End-to-End Learning 방식의 한국어 식당 예약 대화 시스템 모델 개발)

  • Lee, Dong-Yub;Kim, Gyeong-Min;Lim, Heui-Seok
    • 한국어정보학회:학술대회논문집
    • /
    • 2017.10a
    • /
    • pp.111-115
    • /
    • 2017
  • 목적 지향적 대화 시스템(Goal-oriented dialogue system)은 텍스트나 음성을 통해 특정한 목적을 수행할 수 있는 시스템이다. 최근 RNN(recurrent neural networks)을 기반으로 대화 데이터를 end-to-end learning 방식으로 학습하여 대화 시스템을 구축하는데에 활용한 연구가 있다. End-to-end 방식의 학습은 도메인에 대한 지식 없이 학습 데이터 자체만으로 대화 시스템 구축을 위한 학습이 가능하다는 장점이 있지만 도메인 지식을 학습하기 위해서는 많은 양의 데이터가 필요하다는 단점이 존재한다. 이에 본 논문에서는 도메인 특정 지식을 결합하여 end-to-end learning 방식의 학습이 가능한 Hybrid Code Network 구조를 기반으로 한국어로 구성된 식당 예약에 관련한 대화 데이터셋을 이용하여 식당 예약을 목적으로하는 대화 시스템을 구축하는 방법을 제안한다. 실험 결과 본 시스템은 응답 별 정확도 95%와 대화 별 정확도 63%의 성능을 나타냈다.

  • PDF

Study on the Improvement of Extraction Performance for Domain Knowledge based Wrapper Generation (도메인 지식 기반 랩퍼 생성의 추출 성능 향상에 관한 연구)

  • Jeong Chang-Hoo;Choi Yun-Soo;Seo Jeong-Hyeon;Yoon Hwa-Mook
    • Journal of Internet Computing and Services
    • /
    • v.7 no.4
    • /
    • pp.67-77
    • /
    • 2006
  • Wrappers play an important role in extracting specified information from various sources. Wrapper rules by which information is extracted are often created from the domain-specific knowledge. Domain-specific knowledge helps recognizing the meaning the text representing various entities and values and detecting their formats However, such domain knowledge becomes powerless when value-representing data are not labeled with appropriate textual descriptions or there is nothing but a hyper link when certain text labels or values are expected. In order to alleviate these problems, we propose a probabilistic method for recognizing the entity type, i.e. generating wrapper rules, when there is no label associated with value-representing text. In addition, we have devised a method for using the information reachable by following hyperlinks when textual data are not immediately available on the target web page. Our experimental work shows that the proposed methods help increasing precision of the resulting wrapper, particularly extracting the title information, the most important entity on a web page. The proposed methods can be useful in making a more efficient and correct information extraction system for various sources of information without user intervention.

  • PDF

Knowledge-grounded Dialogue Generation Using Domain-level Learning Approach for Practical Services (현업 서비스를 위한 도메인 수준 학습 방법을 활용한 지식 기반 대화생성)

  • Chae-Gyun Lim;Young-Seob Jeong;ChangWon Ok;Ho-Jin Choi
    • Annual Conference on Human and Language Technology
    • /
    • 2022.10a
    • /
    • pp.619-623
    • /
    • 2022
  • 대화생성은 대규모 학습 데이터로부터 사전 학습된 언어모델을 활용한 도전적인 다운스트림 태스크 중 하나이다. 대화에서 특정한 지식에 대한 맥락이 보존된 응답 문장을 생성하기 위한 기술의 일환으로써 지식 기반 대화생성이 연구되고 있으며, 현업에서는 사업목표에 따른 대화 서비스를 제공하는 목적으로 이러한 기술을 적용할 수 있다. 본 논문에서는, 각각의 서비스 도메인에 특화된 모델을 적절히 활용 가능하도록 전체 데이터를 도메인별로 구분하여 학습한 다수의 대화생성 모델을 구축한다. 또한, 특정 도메인의 데이터로 학습된 모델이 나머지 도메인에서 어떤 수준의 대화생성이 가능한지 비교 분석함으로써 개별 학습된 모델들이 도메인의 특성에 따라 서로 다른 영향력이나 연관성을 나타낼 가능성을 확인한다. 이러한 실험적인 분석 결과를 바탕으로 현업의 서비스에서 개별 도메인에 특화된 모델이 적절히 활용하는 것이 유용함을 확인하고자 한다.

  • PDF

Small Intestine-Centric Knowledge Modeling Method for Supporting Diagnosis using Capsule Endoscopy Image (캡슐내시경 영상의 진단 보조를 위한 소장 기관 중심 지식 모델링 기법)

  • Hwang, Gyubon;Park, Ye-Seul;Lee, Jung-Won
    • Annual Conference of KIPS
    • /
    • 2017.04a
    • /
    • pp.900-903
    • /
    • 2017
  • 캡슐내시경은 일반적인 내시경의 접근이 어려운 소장을 관찰하는 데 특화되어 있다. 보통 캡슐내시경 영상을 판독하기 위해 의사는 해부학적 지식과 병리학적 지식과 같은 도메인 지식을 활용하여 영상에 내재된 정보를 획득한다. 이와 같은 내재된 정보는 도메인 지식을 활용하여 분석될 수 있는 의미적 정보라고 할 수 있다. 본 논문에서는 의미적 정보를 추출하는 과정을 의미 기반 분석이라 정의하고, 의미 기반 분석 과정에서 요구되는 도메인 지식 모델링 기법을 제안하고자 한다. 캡슐내시경의 의미 기반 분석 과정은 크게 이미지 특징 추출, 해부학적 분석, 병리학적 분석으로 구성되며, 이와 같은 분석 과정에 활용될 수 있는 해부학 모델과 병리학 모델을 제안한다. 제안하는 모델은 캡슐내시경 영상의 주요 대상 기관인 소장에 특화된 모델로 효과적인 영상 판독을 보조할 수 있음을 보인다.