• 제목/요약/키워드: CRFs

검색결과 68건 처리시간 0.029초

Using Non-Local Features to Improve Named Entity Recognition Recall

  • Mao, Xinnian;Xu, Wei;Dong, Yuan;He, Saike;Wang, Haila
    • 한국언어정보학회:학술대회논문집
    • /
    • 한국언어정보학회 2007년도 정기학술대회
    • /
    • pp.303-310
    • /
    • 2007
  • Named Entity Recognition (NER) is always limited by its lower recall resulting from the asymmetric data distribution where the NONE class dominates the entity classes. This paper presents an approach that exploits non-local information to improve the NER recall. Several kinds of non-local features encoding entity token occurrence, entity boundary and entity class are explored under Conditional Random Fields (CRFs) framework. Experiments on SIGHAN 2006 MSRA (CityU) corpus indicate that non-local features can effectively enhance the recall of the state-of-the-art NER systems. Incorporating the non-local features into the NER systems using local features alone, our best system achieves a 23.56% (25.26%) relative error reduction on the recall and 17.10% (11.36%) relative error reduction on the F1 score; the improved F1 score 89.38% (90.09%) is significantly superior to the best NER system with F1 of 86.51% (89.03%) participated in the closed track.

  • PDF

의존 경로와 음절단위 의존 관계명 분포 기반의 Bidirectional LSTM CRFs를 이용한 한국어 의존 관계명 레이블링 (Korean Dependency Relation Labeling Using Bidirectional LSTM CRFs Based on the Dependency Path and the Dependency Relation Label Distribution of Syllables)

  • 안재현;이호경;고영중
    • 한국정보과학회 언어공학연구회:학술대회논문집(한글 및 한국어 정보처리)
    • /
    • 한국정보과학회언어공학연구회 2016년도 제28회 한글 및 한국어 정보처리 학술대회
    • /
    • pp.14-19
    • /
    • 2016
  • 본 논문은 문장에서의 어절 간 의존관계가 성립될 때 의존소와 지배소가 어떠한 관계를 가지는지 의존 관계명을 부착하는 모델을 제안한다. 국내에서 한국어 의존구문분석에 관한 연구가 활발히 진행되고 있지만 의존 관계만을 결과로 제시하고 의존 관계명을 제공하지 않는 경우가 많았다. 따라서 본 논문에서는 의존 경로(Dependency Path)와 음절의 의존 관계명 분포를 반영하는 음절 임베딩를 이용한 의존 관계명 부착 모델을 제안한다. 문장에서 나올 수 있는 최적의 입력 열인 의존 경로(Dependency Path)를 순차 레이블링에서 좋은 성능을 나타내고 있는 bidirectional LSTM-CRFs의 입력 값으로 사용하여 의존 관계명을 결정한다. 제안된 기법은 자질에 대한 많은 노력 없이 의존 경로에 따라 어절 및 음절 단어표상(word embedding)만을 사용하여 순차적으로 의존 관계명을 부착한다. 의존 경로를 사용하지 않고 전체 문장의 어절 순서를 바탕으로 자질을 추출하여 CRFs로 분석한 기존 모델보다 의존 경로를 사용했을 때 4.1%p의 성능향상을 얻었으며, 의존 관계명 분포를 반영하는 음절 임베딩을 사용한 bidirectional LSTM-CRFs는 의존 관계명 부착에 최고의 성능인 96.01%(5.21%p 개선)를 내었다.

  • PDF

의생명 분야의 개체명 인식에서 순환형 신경망과 조건적 임의 필드의 성능 비교 (Performance Comparison of Recurrent Neural Networks and Conditional Random Fields in Biomedical Named Entity Recognition)

  • 조병철;김유섭
    • 한국정보과학회 언어공학연구회:학술대회논문집(한글 및 한국어 정보처리)
    • /
    • 한국정보과학회언어공학연구회 2016년도 제28회 한글 및 한국어 정보처리 학술대회
    • /
    • pp.321-323
    • /
    • 2016
  • 최근 연구에서 기계학습 중 지도학습 방법으로 개체명 인식을 하고 있다. 그러나 지도 학습 방법은 데이터를 만드는 비용과 시간이 많이 필요로 한다. 본 연구에서는 주석 된 말뭉치를 사용하여 지도 학습 방법을 사용 한다. 의생명 개체명 인식은 Protein, RNA, DNA, Cell type, Cell line 등을 포함한 텍스트 처리에 중요한 기초 작업입니다. 그리고 의생명 지식 검색에서 가장 기본과 핵심 작업 중 하나이다. 본 연구에서는 순환형 신경망과 워드 임베딩을 자질로 사용한 조건적 임의 필드에 대한 성능을 비교한다. 조건적 임의 필드에 N_Gram만을 자질로 사용한 것을 기준점으로 설정 하였고, 기준점의 결과는 70.09% F1 Score이다. RNN의 jordan type은 60.75% F1 Score, elman type은 58.80% F1 Score의 성능을 보여준다. 조건적 임의 필드에 CCA, GLOVE, WORD2VEC을 사용 한 결과는 각각 72.73% F1 Score, 72.74% F1 Score, 72.82% F1 Score의 성능을 얻을 수 있다.

  • PDF

연속된 수화 인식을 위한 자동화된 Coarticulation 검출 (Automatic Coarticulation Detection for Continuous Sign Language Recognition)

  • 양희덕;이성환
    • 한국정보과학회논문지:소프트웨어및응용
    • /
    • 제36권1호
    • /
    • pp.82-91
    • /
    • 2009
  • 수화 적출은 연속된 손 동작에서 의미 있는 수화 단어를 검출 및 인식하는 것을 말한다. 수화는 손의 움직임과 모양의 변화가 다양하기 때문에 수화 문장에서 수화를 적출하는 것은 쉬운 문제가 아니다. 특히, 자연스러운 수화 문장에는 의미 있는 수화, 수화가 아닌 손동작이 무작위로 발생한다. 본 논문에서는 CRF(Conditional Random Field)에 기반한 적응적 임계치 모델을 제안한다. 제한된 모델은 수화 어휘집에 정의된 수화 손동작과 수화가 아닌 손동작을 구별하기 위한 적응적 임계치 역할을 수행한다. 또한, 수화 적출 및 인식의 성능 향상을 위해 손 모양 기반 수화 인증기, 짧은 수화 적출기, 부사인(subsign) 추론기를 제안된 시스템에 적용하였다. 실험 결과, 제안된 방법은 연속된 수화 동작 데이타에서 88%의 적출률, 사전에 적출된 수화 동작 데이타에서 94%의 인식률을 보였으며, 적응적 임계치 모델, 짧은 수화 적출기, 손 모양 기반 수화 인증기, 부사인 추론기를 사용하지 않은 CRF 모델은 연속된 수화 동작 데이터에서 74%의 적출률, 사전에 적출된 수화 동작 데이타에서 90%의 인식률을 보였다.

한국 전통문화 말뭉치구축 및 Bi-LSTM-CNN-CRF를 활용한 전통문화 개체명 인식 모델 개발 (Constructing for Korean Traditional culture Corpus and Development of Named Entity Recognition Model using Bi-LSTM-CNN-CRFs)

  • 김경민;김규경;조재춘;임희석
    • 한국융합학회논문지
    • /
    • 제9권12호
    • /
    • pp.47-52
    • /
    • 2018
  • 개체명 인식(Named Entity Recognition)시스템은 문서로부터 고유한 의미를 가질 수 있는 인명(PS), 지명(LC), 기관명(OG) 등의 개체명을 추출하고 추출된 개체명의 범주를 결정하는 시스템이다. 최근 딥러닝 방식을 이용한 개체명 인식 연구에서 입력 데이터의 앞, 뒤 방향을 고려한 LSTM 기반의 Bi-LSTM 모델로부터 출력 데이터 간의 전이 확률을 이용한 CRF를 결합한 방식의 Bi-LSTM-CRF가 우수한 성능을 보이고, 문자 및 단어 단위의 효율적인 임베딩 벡터생성에 관한 연구와 CNN, LSTM을 활용한 모델에서도 좋은 성능을 보여주고 있다. 본 연구에서는 한국어 개체명 인식시스템 성능 향상을 위해 자질을 보강한 Bi-LSTM-CNN-CRF 모델에 관해 기술하고 전통문화 말뭉치구축 방식에 대해 제안한다. 그리고 구축한 말뭉치를 한국어 개체명 인식 성능 향상을 위한 자질 보강 모델 Bi-LSTM-CNN-CRF로 학습한 결과에 대해 제안한다.

순환대사위험요인의 관련성에서 비만지표인자인 허리둘레와 체질량지수의 비교 (General and abdominal obesity and risk of cardiometabolic factors in the community dwelling women)

  • 신소희;소위영;김현수
    • 한국융합학회논문지
    • /
    • 제9권1호
    • /
    • pp.233-240
    • /
    • 2018
  • 이 연구는 체질량지수(Body mass index, BMI)가 정상이고 허리둘레(Waist circumference; WC)가 높은 여성과 WC가 정상이고 BMI가 비만인 성인여성들의 순환대사위험요인을 검토하는 것이었다. 대상자는 여성 1,447명(30-60세)이었으며 BMI와 WC에 따라 4 그룹, 즉 그룹 1 (BMI<$25kg/m^2$, WC<85cm) 그룹 2 (BMI<$25kg/m^2$, WC>85cm) 그룹 3(BMI>$25kg/m^2$, WC<85cm) 그룹 4 (BMI>$25kg/m^2$, WC>85cm)로 구분하였다. 그룹 2는 그룹 1에 비해 위험요인을 1개 이상 가지고 있을 확률이 1.89배 높았으며, 2개 이상인 경우도 1.75배 높았다(p<0.05). 결론적으로 정상체중이지만 허리둘레가 높은 복부비만자들을 초기에 조사하여 더 악화되기 이전에 적절한 개인별 운동 및 식사 처방을 제공함으로써 이들이 건강하지 못한 형태로 악화되는 것을 예방할 수 있을 것이다. 또한 이들을 위한 적절한 운동내용에 대한 연구도 추후 이루어져야 할 것이다.

접사 구조 분석과 기계 학습에 기반한 한국어 의미 역 결정 (Korean Semantic Role Labeling Based on Suffix Structure Analysis and Machine Learning)

  • 석미란;김유섭
    • 정보처리학회논문지:소프트웨어 및 데이터공학
    • /
    • 제5권11호
    • /
    • pp.555-562
    • /
    • 2016
  • 의미 역 결정은 한 문장에서 술어와 그것의 논항간의 의미 관계를 결정해주는 것을 말한다. 한편 한국어 의미 역 결정은 영어와는 다른 한국어 고유의 특이한 언어 구조 때문에 많은 어려움을 가지고 있는데, 이러한 어려움 때문에 지금까지 제안된 다양한 방법들을 곧바로 적용하기에 어려움이 있었다. 다시 말하자면, 지금까지 제안된 방법들은 영어나 중국어에 적용했을 때에 비해서 한국어에 적용하면 낮은 성능을 보여주었던 것이다. 이러한 어려움을 해결하기 위하여 본 연구에서는 조사나 어미와 같은 접사구조를 분석하는 것에 초점을 맞추었다. 한국어는 일본어와 같은 교착어의 하나인데, 이들 교착어에서는 매우 잘 정리되어 있는 접사구조가 어휘에 반영되어 있다. 교착어는 바로 이들 잘 정의된 접사 구조 때문에 매우 자유로운 어순이 가능하다. 또한 본 연구에서는 단일 형태소로 이루어진 논항은 기초 통계량을 기준으로 의미 역 결정을 하였다. 또한 지지 벡터 기계(Support Vector Machine: SVM)과 조건부 무작위장(Conditional Random Fields: CRFs)와 갗은 기계 학습 알고리즘을 사용하여 앞에서 결정되지 못한 논항들의 의미 역을 결정하였다. 본 논문에서 제시된 방법은 기계 학습 접근 방식이 처리해야 하는 논항의 범위를 줄여주는 역할을 하는데, 이는 기계 학습 접근은 상대적으로 불확실하고 부정확한 의미 역 결정을 하기 때문이다. 실험에서는 본 연구는 15,224 논항을 사용하였는데, 약 83.24%의 f1 점수를 얻을 수 있었는데, 이는 한국어 의미 역 결정 연구에 있어서 해외에서 발표된 연구 중 가장 높은 성능으로 알려진 것에 비해 약 4.85%의 향상을 보여준 것이다.

약선효소 분말식이가 Loperamide의 투여로 유발된 변비 쥐의 장 운동과 지질 함량 및 혈액학적 성분 변화에 미치는 영향 (Effects of Medicinal Enzyme Powder on Intestinal Mobility, Lipid Level, and Blood Parameters of Loperamide-Induced Constipation in Rats)

  • 박찬성;박경수;김미림;공현주;양경미
    • 생명과학회지
    • /
    • 제23권2호
    • /
    • pp.228-236
    • /
    • 2013
  • 변비는 일상생활에서 식욕저하와 복부 팽만을 일으키며 더 나아가서 피부 노화, 두통, 피부 질환, 그리고 대장암을 일으킨다고 알려져 있다. 본 연구는 정상식이에 비해 약선효소 분말식이가 loperamide로 유도된 변비 쥐의 장 운동과 간 기능, 지질상태, 그리고 혈액학적 성분에 개선에 대한 효능을 검증하고자 실시하였다. 3일 동안 loperamide 투여로 유발된 변비 쥐의 일일 체중증가와 사료효율은 높았으며, 이때 효소식이의 공급으로 일일 체중 증가량이 조절되었다. 또한 변비 쥐의 변 개수, 변 중량 및 수분함량, 그리고 장 운동은 정상 쥐에 비해서 감소하는 경향을 보였으며, 효소식이를 공급시켰을 때 장 운동이 증가되었다. 간 기능 지표인 GOT와 GPT 활성도는 정상식이 섭취군에서는 변비로 인하여 유의적으로 낮은 활성도를 보였다. 그러나 효소식이 섭취군에서는 변비유도로 GOT 활성도는 증가 된 반면에, GPT 활성도는 감소되었다. 변비 쥐의 혈액 내 중성지방, 총 콜레스테롤, LDL-콜레스테롤 농도는 효소식이에 의한 저하효과는 없었으나, HDL-콜레스테롤과 동맥경화 및 심혈관계 지수에 대해서는 효소식이가 보호효과를 보였다. 혈액학적 성분으로 단백질 농도는 변비와 식이에 의한 영향을 받지 않았으나, 변비로 인하여 저하된 헤모글로빈 농도와 헤마토크리트치는 효소식이 공급으로 증가시킬 수 있었다. 이상의 실험 결과에서는 loperamide로 유도한 변비 쥐에서 장 운동성 저하, 동맥경화와 심혈관계지수, 그리고 헤모글로빈농도와 헤마토크리트치 등에 대해서 약선효소 식이가 다소 효과를 보인 것으로 나타났다. 그러나 향후 만성적 변비에 대한 약선효소 식이효과에 대한 보다 심층적이 연구가 필요하며, 이러한 결과를 바탕으로 변비에 대한 약선효소 분말과 같은 천연물질의 기능성식품으로 연결된 산업화로 경제적 이익 창출과 변비의 예방으로 심혈관계 질환과 암의 발병률을 줄이고 변비 대한 식단개발을 위한 기초자료로 활용할 수 있을 것이라고 생각된다.