• 제목/요약/키워드: word representation

검색결과 165건 처리시간 0.024초

Latent Semantic Analysis Approach for Document Summarization Based on Word Embeddings

  • Al-Sabahi, Kamal;Zuping, Zhang;Kang, Yang
    • KSII Transactions on Internet and Information Systems (TIIS)
    • /
    • 제13권1호
    • /
    • pp.254-276
    • /
    • 2019
  • Since the amount of information on the internet is growing rapidly, it is not easy for a user to find relevant information for his/her query. To tackle this issue, the researchers are paying much attention to Document Summarization. The key point in any successful document summarizer is a good document representation. The traditional approaches based on word overlapping mostly fail to produce that kind of representation. Word embedding has shown good performance allowing words to match on a semantic level. Naively concatenating word embeddings makes common words dominant which in turn diminish the representation quality. In this paper, we employ word embeddings to improve the weighting schemes for calculating the Latent Semantic Analysis input matrix. Two embedding-based weighting schemes are proposed and then combined to calculate the values of this matrix. They are modified versions of the augment weight and the entropy frequency that combine the strength of traditional weighting schemes and word embedding. The proposed approach is evaluated on three English datasets, DUC 2002, DUC 2004 and Multilingual 2015 Single-document Summarization. Experimental results on the three datasets show that the proposed model achieved competitive performance compared to the state-of-the-art leading to a conclusion that it provides a better document representation and a better document summary as a result.

문장제 해결에서 구조-표현을 강조한 학습의 교수학적 효과 분석 (Analysis of Effect of Learning to Solve Word Problems through a Structure-Representation Instruction.)

  • 이종희;김부미
    • 대한수학교육학회지:학교수학
    • /
    • 제5권3호
    • /
    • pp.361-384
    • /
    • 2003
  • 본 연구는 연립일차방정식에 관한 문장제에서 IDEAL 문제 해결 모형을 바탕으로 "구조-표현"을 강조한 교수-학습을 실시하였을 때 학생들의 문제해결 과정을 탐구하였다. 연구 결과, 구조-표현을 강조한 학급의 학생들이 이를 강조하지 않은 학급의 학생들보다 문제해결 능력이 향상되었으며, 동치문제, 동형문제, 유사문제를 더 정확하게 구별하였다. 또한, 구조-표현을 강조한 학급의 학생들이 그렇지 않은 학급의 학생들보다 문맥에 대한 이해 및 불완전한 정보 추출에서의 오류, 미지수간의 내적 관계에 대한 수학적 기호표현으로의 불완전한 전이 오류, 적절하지 않은 방정식 생성 오류의 발생 빈도가 적었다. 그리고, IDEAL 문제 해결 모형의 문제의 확인 단계(I)와 문제의 정의 단계(D)에서 학생들이 문제 해결 계획을 수립하기 위해 문제를 읽고 이해하여 문제를 해결하는 과정을 중점적으로 분석한 결과, 직접 변환 모델과 구조 도식 모델이 나타났다.

  • PDF

수학 문장제 표상능력 향상을 위한 웹 기반 시스템의 설계 (A Design of Web-Based System for Mathematical Word Problem Representation Ability Improvement)

  • 박정식;고대곤
    • 정보교육학회논문지
    • /
    • 제5권2호
    • /
    • pp.185-196
    • /
    • 2001
  • 초등학생들은 수식보다 문장으로 나타낸 문제를 더 어려워한다. 이것은 수학적인 계산 기능보다도 문제표상에 요인이 있는 것으로 생각할 수 있다. 수학 문장제 표상능력을 높이기 위해서는 문제의 요구를 정확히 이해하는 것이 요구된다. 이를 위해서는 멀티미디어 자료와 의사소통을 필요로 하는데, 웹은 멀티미디어 구현과 상호작용적 의사소통을 촉진할 수 있기 때문에 수학 문장제 표상학습을 위한 최적의 환경을 제공한다. 따라서 본 논문에서는 수학 문장제 표상능력 향상을 위한 웹 기반 시스템을 설계하여 초등학교 6학년을 대상으로 실험적으로 적용하였다.

  • PDF

5~8세 아동의 철자지식과 음운인식이 시각적 단어 해독과 부호화에 미치는 영향 (Effects of Orthographic Knowledge and Phonological Awareness on Visual Word Decoding and Encoding in Children Aged 5-8 Years)

  • 나예주;하지완
    • 디지털융복합연구
    • /
    • 제14권6호
    • /
    • pp.535-546
    • /
    • 2016
  • 철자지식과 음운인식이 시각적 단어 해독과 부호화에 미치는 영향을 알아보기 위하여, 5세에서 8세의 아동 각 15명씩 총 60명을 대상으로 철자지식(자모지식, 소리-글자 대응지식, 철자표상), 음운인식(단어인식, 음절인식, 음소인식), 시각적 단어 해독(자소-음소 일치 단어 읽기, 불일치 단어 읽기), 시각적 단어 부호화(자소-음소 일치 단어 받아쓰기, 불일치 단어 받아쓰기) 과제를 실시하였다. 그 결과 철자지식, 음운인식, 시각적 단어 해독, 시각적 단어 부호화의 모든 과제에서 연령 집단 간 수행력 차이가 유의하였고, 각 과제 수행력 간 유의한 정적 상관관계가 있었다. 이 중 불일치 단어 철자표상, 음절인식, 음소인식이 본 연구 대상자들을 연령에 따라 보다 민감하게 구분하는 것으로 나타났다. 시각적 단어 해독과 부호화 능력을 예측하는 변인으로 음운인식보다는 자모지식과 철자표상과 같은 철자지식 능력이 포함되었다. 본 연구결과는 학령기 전후 철자에 보다 익숙해지면 음운인식보다 철자지식이 시각적 단어 해독과 부호화에 더 많은 영향을 미친다는 것을 시사한다.

Word2vec과 앙상블 분류기를 사용한 효율적 한국어 감성 분류 방안 (Effective Korean sentiment classification method using word2vec and ensemble classifier)

  • 박성수;이건창
    • 디지털콘텐츠학회 논문지
    • /
    • 제19권1호
    • /
    • pp.133-140
    • /
    • 2018
  • 감성 분석에서 정확한 감성 분류는 중요한 연구 주제이다. 본 연구는 최근 많은 연구가 이루어지는 word2vec과 앙상블 방법을 이용하여 효과적으로 한국어 리뷰를 감성 분류하는 방법을 제시한다. 연구는 20 만 개의 한국 영화 리뷰 텍스트에 대해, 품사 기반 BOW 자질과 word2vec를 사용한 자질을 생성하고, 두 개의 자질 표현을 결합한 통합 자질을 생성했다. 감성 분류를 위해 Logistic Regression, Decision Tree, Naive Bayes, Support Vector Machine의 단일 분류기와 Adaptive Boost, Bagging, Gradient Boosting, Random Forest의 앙상블 분류기를 사용하였다. 연구 결과로 형용사와 부사를 포함한 BOW자질과 word2vec자질로 구성된 통합 자질 표현이 가장 높은 감성 분류 정확도를 보였다. 실증결과, 단일 분류기인 SVM이 가장 높은 성능을 나타내었지만, 앙상블 분류기는 단일 분류기와 비슷하거나 약간 낮은 성능을 보였다.

A Semantic Representation Based-on Term Co-occurrence Network and Graph Kernel

  • Noh, Tae-Gil;Park, Seong-Bae;Lee, Sang-Jo
    • International Journal of Fuzzy Logic and Intelligent Systems
    • /
    • 제11권4호
    • /
    • pp.238-246
    • /
    • 2011
  • This paper proposes a new semantic representation and its associated similarity measure. The representation expresses textual context observed in a context of a certain term as a network where nodes are terms and edges are the number of cooccurrences between connected terms. To compare terms represented in networks, a graph kernel is adopted as a similarity measure. The proposed representation has two notable merits compared with previous semantic representations. First, it can process polysemous words in a better way than a vector representation. A network of a polysemous term is regarded as a combination of sub-networks that represent senses and the appropriate sub-network is identified by context before compared by the kernel. Second, the representation permits not only words but also senses or contexts to be represented directly from corresponding set of terms. The validity of the representation and its similarity measure is evaluated with two tasks: synonym test and unsupervised word sense disambiguation. The method performed well and could compete with the state-of-the-art unsupervised methods.

Bidirectional LSTM CRF 기반의 개체명 인식을 위한 단어 표상의 확장 (Expansion of Word Representation for Named Entity Recognition Based on Bidirectional LSTM CRFs)

  • 유홍연;고영중
    • 정보과학회 논문지
    • /
    • 제44권3호
    • /
    • pp.306-313
    • /
    • 2017
  • 개체명 인식이란 문서 내에서 인명, 기관명, 지명, 시간, 날짜 등 고유한 의미를 가지는 개체명을 추출하여 그 종류를 결정하는 것을 말한다. 최근 개체명 인식 연구에서 가장 우수한 성능을 보여주고 있는 모델은 Bidirectional LSTM CRFs 모델이다. 이러한 LSTM 기반의 딥 러닝 모델은 입력이 되는 단어 표상에 의존적이다. 따라서 입력이 되는 단어를 잘 표현하기 위하여 단어 표상을 확장하는 방법에 대한 연구가 많이 진행되어지고 있다. 본 논문에서는 한국어 개체명 인식을 위하여 Bidirectional LSTM CRFs모델을 사용하고, 그 입력으로 사용되는 단어 표상을 확장하기 위해 사전 학습된 단어 임베딩 벡터, 품사 임베딩 벡터, 음절 기반에서 확장된 단어 임베딩 벡터, 그리고 개체명 사전 자질 벡터를 사용한다. 최종 단어 표상 확장 결과 사전 학습된 단어 임베딩 벡터만 사용한 것 보다 8.05%p의 성능 향상을 보였다.

LSA모형에서 다의어 의미의 표상 (Representation of ambiguous word in Latent Semantic Analysis)

  • 이태헌;김청택
    • 인지과학
    • /
    • 제15권2호
    • /
    • pp.23-31
    • /
    • 2004
  • 잠재의미분석은 단어 의미를 동일한 맥락 (문장/문서) 하에서 동시에 제시되는 단어들의 공기성(co-occurence)으로 정의한다. 이 분석에서 한 단어는 맥락들을 대표하는 측들로 구성된 다차원 상의 한 점으로 표상 되며, 단어 의미는 각 단어가 맥락 속에서 등장한 빈도로 정의된다. 이 다차원 의미공간은 SVD를 통하여 차원이 축소되어 추상된 의미를 표상 한다. 이 연구는 다의어의 표상이 가능하도록 LSA를 발전시켰다. 제안된 LSA는 축에 대한 해석이 가능하도록 축의 회전을 도입하였으며 다의어 표상을 가능하게 하였다. 시뮬레이션에서는, 먼저 LSA에 의해 산출된 단어-맥락 빈도표에서 다의어를 포함하고 있는 문서들만을 재 수집한 다음 문서들을 다의어 의미별로 분류하였다. 두 번째 단계에서는 다의어의 특정의미에 대한 표상을 분류된 단어-맥락 빈도표에서 비해당 의미에 대한 맥락들을 제거한 후 LSA를 적용하여 구성하였다. 시뮬레이션 결과는 다의어의 의미들을 LSA가 표상 할 수 있음을 보여주었다. 이는 축회전을 포함한 LSA가 다의어 다중의미를 표상 할 수 있고 실용적인 측면에서 웹검색 엔진에도 적용될 수 있음을 시사한다.

  • PDF

시각적 스키마 프로그램이 문장제 표상과 문제해결력에 미치는 효과 (Effects of the Schema-Based Instructional Program on Word Problem Representation and Solving Ability)

  • 김종백;이성원
    • 대한수학교육학회지:학교수학
    • /
    • 제13권1호
    • /
    • pp.155-173
    • /
    • 2011
  • 본 연구는 문장제를 표상하는 능력의 신장을 목적으로, 문장제를 시각적 스키마의 형태로 유형화하여 학생들에게 제시하는 스키마 기반 프로그램을 구성하고 그 효과성을 검증하고자 하였다. 초등학교 2학년 60명 학생들을 실험조건과 비교조건에 무선배치하고 초등학교 2학년 수학-가 두 개 단원의 내용을 정하여 실험조건에는 시각적 스키마 기반 프로그램(Visual Schema Based Program)을 제시하고 비교조건에는 현교육현장에서 활용되는 교사용 지도서에 근거하여 다이어그램이나 그래프와 같은 문제해결 전략을 제시하는 수업을 실시하였다. 프로그램 효과를 검증하기 위해 사전 검사를 공변인으로 하는 일원 공변량분석(Oneway ANCOVA)을 실시한 결과 스키마 조건의 학생들이 유의미하게 높은 문제해결력을 보여주었으며 이와 같은 결과는 사전 및 사후검사에서 사용된 문장제의 난이도를 고려했을 때 더욱 두드러지는 차이를 보여주었다. 더 나아가서 실험조건에 있는 학생들이 스키마를 사용하는 빈도와 문제에서 요구되는 스키마를 얼마나 정확하게 활용했는지에 따라 문제해결능력에 관계가 있는 지 분석한 결과 도구의 사용빈도와는 .50, 그리고 도구 사용의 정확성과 는 .58의 높은 상관관계가 있는 것으로 나타났다. 이와 같은 결과는 문제의 표상과 문장제 해결이 서로 높은 관계가 있으며 스키마 기반 프로그램이 문제의 표상능력을 높이며 문제해결력 향상에 긍정적인 영향을 미친다는 것을 보여준다.

  • PDF

바이오 마커와 질병 용어의 단어 표현 분석 (Word Representation Analysis of Bio-marker and Disease Word)

  • 윤영신;남경민;김유섭
    • 한국정보과학회 언어공학연구회:학술대회논문집(한글 및 한국어 정보처리)
    • /
    • 한국정보과학회언어공학연구회 2015년도 제27회 한글 및 한국어 정보처리 학술대회
    • /
    • pp.165-168
    • /
    • 2015
  • 기계학습 기반의 자연어처리 모듈에서 중요한 단계 중 하나는 모듈의 입력으로 단어를 표현하는 것이다. 벡터의 사이즈가 크고, 단어 간의 유사성의 개념이 존재하지 않는 One-hot 형태와 대조적으로 유사성을 표현하기 위해서 단어를 벡터로 표현하는 단어 표현 (word representation/embedding) 생성 작업은 자연어 처리 작업의 기계학습 모델의 성능을 개선하고, 몇몇 자연어 처리 분야의 모델에서 성능 향상을 보여 주어 많은 관심을 받고 있다. 본 논문에서는 Word2Vec, CCA, 그리고 GloVe를 사용하여 106,552개의 PubMed의 바이오메디컬 논문의 요약으로 구축된 말뭉치 카테고리의 각 단어 표현 모델의 카테고리 분류 능력을 확인한다. 세부적으로 나눈 카테고리에는 질병의 이름, 질병 증상, 그리고 난소암 마커가 있다. 분류 능력을 확인하기 위해 t-SNE를 이용하여 2차원으로 단어 표현 결과를 맵핑하여 가시화 한다.

  • PDF