• 제목/요약/키워드: 용어 품질

검색결과 97건 처리시간 0.022초

토픽모델의 성능 향상을 위한 불용어 자동 생성 기법 (Automatic Generating Stopword Methods for Improving Topic Model)

  • 이정빈;인호
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2017년도 춘계학술발표대회
    • /
    • pp.869-872
    • /
    • 2017
  • 정보검색(Information retrieval) 및 텍스트 분석을 위해 수집하는 비정형 데이터 즉, 자연어를 전처리하는 과정 중 하나인 불용어(Stopword) 제거는 모델의 품질을 높일 수 있는 쉽고, 효과적인 방법 중에 하나이다. 특히 다양한 텍스트 문서에 잠재된 주제를 추출하는 기법인 토픽모델링의 경우, 너무 오래되거나, 수집된 문서의 도메인이나 성격과 무관한 불용어의 제거로 인해, 해당 토픽 모델에서 학습되어 생성된 주제 관련 단어들의 일관성이 떨어지게 된다. 따라서 분석가가 분류된 주제를 올바르게 해석하는데 있어 많은 어려움이 따르게 된다. 본 논문에서는 이러한 문제점을 해결하기 위해 일반적으로 사용되는 표준 불용어 대신 관련 도메인 문서로부터 추출되는 점별 상호정보량(PMI: Pointwise Mutual Information)을 이용하여 불용어를 자동으로 생성해주는 기법을 제안한다. 생성된 불용어와 표준 불용어를 통해 토픽 모델의 품질을 혼잡도(Perplexity)로써 측정한 결과, 본 논문에서 제안한 기법으로 생성한 30개의 불용어가 421개의 표준 불용어보다 더 높은 모델 성능을 보였다.

패턴생성을 통한 인터넷 문서의 한글-영문용어 추출 (Mining Korean-English Terminologies by Pattern Generation in Internet)

  • 강재호;김종성;류광렬
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2003년도 가을 학술발표논문집 Vol.30 No.2 (1)
    • /
    • pp.148-150
    • /
    • 2003
  • 전문용어의 가짓수가 많고 생성빈도 또한 높은 분야에서 고품질의 정보검색과 기계번역 결과를 얻기 위해서는 상당 분량의 번역용어사전의 확보가 필수적이다. 이러한 분야에서 번역용어사전을 수작업으로 구축하는 것은 큰 부담이 된다. 본 논문에서는 이미 알고 있는 용어(원어)와 번역용어를 말뭉치에서 함께 표기한 부분을 찾아 패턴화하는 작업과, 생성된 패턴으로 추가의 용어-번역용어를 추출하는 작업을 반복하여 수행함으로써 번역용어사전을 자동으로 구축하는 방안을 제안한다. 인터넷 문서를 대상으로 본 제안방법을 적용해 본 결과 상당분량의 유효한 한글-영문용어들을 추출할 수 있었다.

  • PDF

국방과학기술 전문용어 사전 구축을 위한 프로세스 및 워크벤치 개발 (Science and Technology Terminology Dictionary Building Process and Workbench Development in Defense Area)

  • 최중환;박정호;김경선;김평
    • 한국콘텐츠학회논문지
    • /
    • 제12권8호
    • /
    • pp.420-428
    • /
    • 2012
  • 용어 의미 표준화를 통한 업무의 효율성을 높이기 위해서 다양한 분야에서 전문용어가 구축 활용되고 있으며, 국방분야에서도 국방용어 사전 발간을 통해 각 군의 효율적인 업무 연계 및 표준화된 국방 용어 유통체계를 정립하는데 노력하고 있다. 국방기술품질원에서도 3년을 주기로 국방과학기술분야의 전문용어 사전을 발간함으로써 전문용어 구축 표준화 연구는 물론, 전문용어의 활용성 제고에 힘쓰고 있다. 본 연구에서는 국방기술품질원에서 전문용어 사전을 실제로 구축하는데 필요한 구축 프로세스와 조직, 이를 지원하기 위한 워크벤치에 대해서 기술하고 있다. 즉, 국방과학기술 전문용어 사전을 구축하기 위한 전문용어 사전구축 프로세스 및 조직의 구성, 표제어 정의, 전문용어 후보 추출을 위한 대상 문서의 선정, 전문용어 후보추출, 전문용어 후보군 생성, 워크벤치 등록, 사전 구축, 사전 검증 과정에 대해서 설명하고 있다, 또한 전문 용어 사전의 활용성 제고를 위해서 시소러스를 구축 활용하는 내용은 물론, 전문용어 사전 구축을 위해서 개발된 워크벤치의 기능을 중심으로 효율적인 전문용어 사전 구축 지원 방법에 대해서도 기술한다.

용어 사전의 특성이 문서 분류 정확도에 미치는 영향 연구 (Analyzing the Effect of Characteristics of Dictionary on the Accuracy of Document Classifiers)

  • 정해강;김남규
    • 경영과정보연구
    • /
    • 제37권4호
    • /
    • pp.41-62
    • /
    • 2018
  • 다양한 소셜 미디어 활동과 인터넷 뉴스 기사, 블로그 등을 통해 유통되는 비정형 데이터의 양이 급증함에 따라 비정형 데이터를 분석하고 활용하기 위한 연구가 활발히 진행되고 있다. 텍스트 분석은 주로 특정 도메인 또는 특정 주제에 대해 수행되므로, 도메인별 용어 사전의 구축과 적용에 대한 중요성이 더욱 강조되고 있다. 용어 사전의 품질은 비정형 데이터 분석 결과의 품질에 직접적인 영향을 미치게 되며, 분석 과정에서 정제의 역할을 수행함으로써 분석의 관점을 정의한다는 측면에서 그 중요성이 더욱 강조된다. 이렇듯 용어 사전의 중요성은 기존의 많은 연구에서도 강조되어 왔으나, 용어 사전이 분석 결과의 품질에 어떤 방식으로 어떤 영향을 미치는지에 대한 엄밀한 분석은 충분히 이루어지지 않았다. 따라서 본 연구에서는 전체 문서에서의 용어 빈도수에 기반을 두어 사전을 구축하는 일괄 구축 방식, 카테고리별 주요 용어를 추출하여 통합하는 용어 통합 방식, 그리고 카테고리별 주요 특질(Feature)을 추출하여 통합하는 특질 통합 방식의 세 가지 방식으로 사전을 구축하고 각 사전의 품질을 비교한다. 품질을 간접적으로 평가하기 위해 각 사전을 적용한 문서 분류의 정확도를 비교하고, 각 사전에 고유율의 개념을 도입하여 정확도의 차이가 나타나는 원인을 심층 분석한다. 본 연구의 실험에서는 5개 카테고리의 뉴스 기사 총 39,800건을 분석하였다. 실험 결과를 심층 분석한 결과 문서 분류의 정확도가 높게 나타나는 사전의 고유율이 높게 나타남을 확인하였으며, 이를 통해 사전의 고유율을 높임으로써 분류의 정확도를 더욱 향상시킬 수 있는 가능성을 발견하였다.

국방분야 전문용어 사전 및 워크벤치 개발 (The Construction of Terminology Dictionary and Workbench in Defense Area)

  • 최중환;박정호;김경선;김평
    • 한국콘텐츠학회:학술대회논문집
    • /
    • 한국콘텐츠학회 2012년도 춘계 종합학술대회 논문집
    • /
    • pp.67-68
    • /
    • 2012
  • 국방분야에서는 국방용어 사전 발간을 통해 각군의 효율적인 업무 연계 및 표준화된 국방 용어 유통 체계를 정립하는데 노력하고 있다. 국방기술품질원에서도 국방 과학기술 분야의 전문용어 사전 발간을 통해 각군의 과학기술 용어를 표준화함으로써 업무 연계 및 효율성 제고에 노력하고 있다. 본 연구에서는 전문용어 사전 구축 표준화 프로세스를 준용해서 국방 과학기술 전문용어 사전의 후보 용어 선정부터 정제, 시소러스 구축, 검수에 이르는 전주기 과정에 대한 실제 구축 내용을 기술하고 있다. 또한 전문용어 사전의 효율적 구축 및 관리를 위해 개발된 워크벤치의 기능을 중심으로 용어 선정, 정보 입력, 관리 기능을 기술하고 한다.

  • PDF

한과류의 관능적 품질특성에 관한 연구 (Studies on the Sensory Characteristics of traditional Korean Cookies, Hankwa)

  • 이철호;맹영선;안현숙
    • 한국식생활문화학회지
    • /
    • 제2권1호
    • /
    • pp.71-79
    • /
    • 1987
  • 한과류의 관능적 품질특성을 조사하기 위하여 약과, 세반강정, 산자, 송화다식, 들깨엿강정에 대한 품질표현용어를 77명의 설문자를 대상으로 조사하였으며 이 결과 90여종의 표현용어를 수집하였다. 이들 용어중 58종의 표현용어는 국어대사전에 수록되어 있었으며 한과의 종류별 주요품질요소를 표현빈도수에 근거하여 결정하였다. 한과류를 실온에서 10일간 상대습도 $0{\sim}68%$ 범위에서 저장하였을 때 주요품질요소의 변화를 관능검사로 평가하였다. 저장상대습도의 변화에 따른 한과류 종류별 주요 관능적 품질요소의 변화 양상을 정량적 묘사 분석법으로 도해함으로서 일목요연하게 표시할 수 있었다.

  • PDF

표준품질지수

  • 한근식
    • 한국통계학회:학술대회논문집
    • /
    • 한국통계학회 2004년도 학술발표논문집
    • /
    • pp.41-48
    • /
    • 2004
  • 2002년 10월 유럽통계협회는 품질지수개발을 위해 협회소속국가들이 연합하여 특별연구팀을 발족시켰다. 이 팀의 주목적은 유럽통계협회에서 생산되는 자료의 품질을 측정하기 위해 대표성이 있으며, 계산하기 쉽고, 이해하기 쉬운 지수를 개발하는 것이었다. 유럽 통계협회는 연구팀에서 개발한 지수를 이용하여 내부품질보고서를 작성하도록 결정하였다. 개발된 풀질지수들은 유럽 통계협회 소속 국가에 의해 생산된 통계에 적용하기 적합해야하며 유럽전체를 위해 Eurostat 이 보유하고 있는 통계에도 적합해야한다. 그러므로 지수들은 각 국이 합의한 용어, 공식, 변수, 도메인, 분석의 정도를 고려하여 개발되도록 하였다. 이러한 지수는 정기적으로 생산되도록 규정하고 있으며 이 규정이 지켜지기 위해서는 동일한 변수, 공식 통이 적용되어야함은 물론이고 시계열의 유지를 위해 관련된 메타데이터가 제공되어야한다. 서로 다른 조사결과로부터 관련된 통계량의 측정과 개념들간의 차이를 확인하기 위해서 메타데이터는 반드시 필요하며 품질보고서가 있는 경우 많은 도움이 릴 것이다. 본 연구에서는 동계생산자의 관점에서 본 각각의 품질 요소에 따라서 생산된 다양한 통계의 풀질을 평가하기 위해서 개발된 일련의 표준화된 품질지수를 제시할 것이다. 각 지수들의 정의와 가장 대표적인 지수산출을 제안하고 지수산출을 위해 필요한 메타데이터를 선명한 것이다.

  • PDF

세탄가와 세탄 지수

  • 문풍길
    • 한국윤활학회:학술대회논문집
    • /
    • 한국윤활학회 1987년도 제5회 학술강연회초록집
    • /
    • pp.26-40
    • /
    • 1987
  • 경유을 디젤 엔진의 연료로 사용하기 위해서는 세탄가가 맞아야 한다. 경유를 엔진에 주입하면 쉽게 착화되지 않는다. 개솔린은 점화가 너무 잘 되어 탈인데, 경유는 착화가 더디어서 탈이다. 착화 지연을 수치로 표시하는 용어로서 세탄가, 세탄지수, 디젤지수의 세 가지가 있다. 세낱가는 경유의 품질을대표하는 가장 중요한 규격 항목이다. 세낱가의 높고 낮음에 따라 경유의 품질을 쉽게 판정할 수 있다. 세탄가가 낮으면, 연소가 거칠어 지고 검은 연기가 치솟는다. 미국 ASTM은 경유의 세탄가 규격을 40으로 정하고 있다. 우리나라 경유의 세탄가 규격은 45로 정하고 있다. 미국의 경유 세탄가 규격은 40이지만, 미국 대도시의 버스, 트럭에서는 검은 연기가 치솟는 일이 드물다. 우리나라의 경유 세탄가 규격은 미국보다 훨씬 높지마, 우리나라 대도시의 버스, 트럭에서는 검은 연기가 치솟는 일이 많다.

  • PDF