• 제목/요약/키워드: 언어 변칙

검색결과 8건 처리시간 0.018초

KoBERT와 KR-BERT의 은닉층별 통사 및 의미 처리 성능 평가 (How are they layerwisely 'surprised', KoBERT and KR-BERT?)

  • 최선주;박명관;김유희
    • 한국정보과학회 언어공학연구회:학술대회논문집(한글 및 한국어 정보처리)
    • /
    • 한국정보과학회언어공학연구회 2021년도 제33회 한글 및 한국어 정보처리 학술대회
    • /
    • pp.340-345
    • /
    • 2021
  • 최근 많은 연구들이 BERT를 활용하여, 주어진 문맥에서 언어학/문법적으로 적절하지 않은 단어를 인지하고 찾아내는 성과를 보고하였다. 하지만 일반적으로 딥러닝 관점에서 NLL기법(Negative log-likelihood)은 주어진 문맥에서 언어 변칙에 대한 정확한 성격을 규명하기에는 어려움이 있다고 지적되고 있다. 이러한 한계를 해결하기 위하여, Li et al.(2021)은 트랜스포머 언어모델의 은닉층별 밀도 추정(density estimation)을 통한 가우시안 확률 분포를 활용하는 가우시안 혼합 모델(Gaussian Mixture Model)을 적용하였다. 그들은 트랜스포머 언어모델이 언어 변칙 예문들의 종류에 따라 상이한 메커니즘을 사용하여 처리한다는 점을 보고하였다. 이 선행 연구를 받아들여 본 연구에서는 한국어 기반 언어모델인 KoBERT나 KR-BERT도 과연 한국어의 상이한 유형의 언어 변칙 예문들을 다른 방식으로 처리할 수 있는지를 규명하고자 한다. 이를 위해, 본 연구에서는 한국어 형태통사적 그리고 의미적 변칙 예문들을 구성하였고, 이 예문들을 바탕으로 한국어 기반 모델들의 성능을 놀라움-갭(surprisal gap) 점수를 계산하여 평가하였다. 본 논문에서는 한국어 기반 모델들도 의미적 변칙 예문을 처리할 때보다 형태통사적 변칙 예문을 처리할 때 상대적으로 보다 더 높은 놀라움-갭 점수를 보여주고 있음을 발견하였다. 즉, 상이한 종류의 언어 변칙 예문들을 처리하기 위하여 다른 메커니즘을 활용하고 있음을 보였다.

  • PDF

병행객체지향 언어에서 행위 방정식을 이용한 상속 변칙 (Inheritance Anomaly using Behavior Equation in Concurrent Object-Oriented Programming Languages)

  • 이호영;이준
    • 한국정보통신학회논문지
    • /
    • 제3권3호
    • /
    • pp.587-595
    • /
    • 1999
  • 상속 변칙이 발생하는 기본적인 이유는 병행객체에 대해 동기화 코드가 메소드 코드와 적당하게 분할되지 않을 때, 파생 클래스를 만들어내기 위한 코드의 확장이 슈퍼 클래스에 존재하는 동기화 코드와 메소드 코드를 변경하도록 할 때, 그리고 병행 객체지향 언어에서 상속성과 병행성이 결합할 때 발생한다. 강조할 점은 상속 변칙을 피하는 방법이다. 그래서 본 논문에서는 새로운 모델인 객체 모델을 제안하고 행위 방정식을 사용하여 병행 객체지향 언어에서 나타나는 상속 변칙의 문제를 최소화시키고자 한다.

  • PDF

병행 객체지향 언어에서 상태 추상화를 이용한 상속 변칙의 해결 (Solving Inheritance Anomaly using State Abstraction in Concurrent Object Oriented Programming Languages)

  • 이광;이준
    • 한국정보통신학회논문지
    • /
    • 제3권2호
    • /
    • pp.373-382
    • /
    • 1999
  • 상속성과 병행성은 병행 객체지향 언어에서 가장 주된 개념이며 특히 코드의 재사용에 있어서 매우 중요하다. 이들은 객체의 병행 수행을 통해 최대의 계산력과 모델링 능력을 제공한다. 하지만, 병행 객체와 상속성은 서로 상충되는 특성을 가지고 있으며, 이들의 동시 사용은 병행 객체들의 무결성을 유지하기 위해 상속된 메소드들의 코드 재정의를 요구하는 상속 변칙 문제를 발생시킨다. 본 논문에서는 상속 변칙의 해결을 위해 캡슐화된 객체의 내부 상태들이 객체의 외부 인터페이스의 한 부분으로 이용될 수 있는 상태 추상화 개념을 도입하였다. 또한, 메소드들을 효과적으로 상속할 수 있는 상속 인터페이스 메커니즘을 설계하였으며 이를 통해 전형적인 상속 변칙 문제를 해결하였다.

  • PDF

상속변칙 해결을 위한 상태 추상화 기반 상속 인터페이스 설계 (Design of Inheritance Interface based on State Abstraction to Solve the Inheritance Anomaly)

  • 이광;이준
    • 한국정보과학회논문지:소프트웨어및응용
    • /
    • 제29권5호
    • /
    • pp.336-344
    • /
    • 2002
  • 병행 객체지향언어에서 상속성과 병행성은 가장 중요한 특성이다. 하지만, 상속성과 병행성은 상충적인 특성을 가지고 있기 때문에 이들을 병행으로 사용할 경우, 객체 내부의 코드 재정의를 요구하는 상속변칙이 발생된다. 본 논문에서는 캡슐화의 손상 없이 상속변칙을 해결하기 위해 상태 추상화 개념을 도입하였다 이를 통해 캡슐화된 객체의 내부 상태를 추상형 상태로 사상하였고, 효율적인 상속을 위해 상속 인터페이스를 설계하였다. 추상형 상태 집합을 가진 상속 인터페이스를 통해 메소드의 재정의가 발생하더라도 상속 계층 내에 존재하는 클래스들에 미치는 영향을 제거함으로써 상속변칙 문제를 해결하였다.

상속성과 병행성 통합에서 오는 상속 변칙 분석 (Analysis of Inheritance Anomaly due to Integrated of Inheritance and Concurrency)

  • 오승재
    • 한국컴퓨터정보학회논문지
    • /
    • 제6권4호
    • /
    • pp.38-44
    • /
    • 2001
  • 병행성(concurrency)과 객체지향 패러다임을 통합하는 문제가 여러 해 동안 많은 사람들의 목표가 되어 왔다. 병행 프로그래밍과 객체지향 프로그래밍 기법을 결합한 병행 객체지향 프로그래밍 언어는 병행 응용 프로그램을 개발하는데 여러 가지 이점을 얻을 수 있다. 그러나 병행성과 상속성은 서로 충돌하는 특성을 가지기 때문에 캡슐화를 심각하게 파괴하지 않고는 동시에 사용하는 것이 어렵게 된다. 이러한 상속변칙 현상은 응용성을 제한하게 되고, 동기화가 발생하는 모든 문제를 처리하지 못하게 된다. 본 논문에서는 상속성과 객체 기반의 병행성 사이의 충돌 현상 해결에 행위 기술 방정식을 도입하였다. 그 결과, 여러 가지 상속 변칙 문제를 해결할 수 있고 메소드의 재정의가 불필요하게 되었다. 따라서 동기화와 함수 코드의 재사용을 인하여 유연성을 가진 병행성 모델을 제공할 수 있다.

  • PDF

상속성과 병행성에서 오는 상속변칙 문제 해결에 관한 연구 (A Study on Solution of Anomaly due to Integrated of Inheritance and Concurrency)

  • 박영옥;문정환;이철승;홍성표;이호영;이준
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국해양정보통신학회 2002년도 춘계종합학술대회
    • /
    • pp.485-489
    • /
    • 2002
  • 병행 객체지향 프로그래밍 언어는 병행 프로그래밍을 위한 객체의 병행성과 객체지향 프로그래밍 언어의 중요한 장점인 상속성과 재사용성, 캡슐화를 동시에 지원하기 위한 목적을 가진 언어이다. 병행 객체지향 프로그래밍의 병행성과 객체지향 프로그래밍 언어의 특성이 통합된 여러 가지 모델이 제안되어 왔다. 병행프로그래밍과 객체지향프로그래밍 기법을 결합한 병행객체지향 언어는 병행 응용프로그램을 개발하는데 여러 가지 이점을 얻을 수 있다. 병행성과 상속성의 결합으로 인하여 객체의 재사용성을 현저하게 떨어뜨리게 되거나 서브 클래스에서 상속된 코드의 재 정의를 요구하게 된다. 이렇게 병행성과 상속성을 결합할 때 두 특성 사이에 서 발생하는 충돌 또는 간섭현상을 상속변칙이라고 하는데, 이 상속 변칙의 영향을 최소화하고 코드 재사용을 개선하기 위한 접근 방법에 대해 많은 연구 결과가 발표되었다. 이와 같이 상속성과 병행성 사이의 간섭 문제를 해결하기 위해서 동기화 코드와 메소드 코드로 구분하여 본 논문에서는 접근하고자 한다.

  • PDF

병행 객체지향 언어에서 상속 인터페이스 메커니즘을 이용한 상속 변칙의 해결 (Solving Inheritance Anomaly using Inheritance Interface Mechanism in Concurrent Object-Oriented Programming Languages)

  • 김국세;이광;방극인;박영옥;이준
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국해양정보통신학회 1999년도 춘계종합학술대회
    • /
    • pp.230-234
    • /
    • 1999
  • 상속과 병행성은 병행 객체지향 언어에서 가장 주된 개념이며 특히 코드의 재사용에 있어서 매우 중요하다. 이들은 객체의 병행 수행을 통해 최대의 계산력과 모델링 능력을 제공한다. 하지만, 병행 객체와 상속은 서로 상충되는 특성을 가지고 있으며, 이들의 동시 사용은 병행 객체들의 무결성을 유지하기 위해 상속된 메소드들의 코드 재정의를 요구하는 상속 변칙 문제를 발생시킨다. 본 논문에서는 상속 이상의 해결을 위해 캡슐화된 객체의 내부 상태들이 객체의 외부 인터페이스의 한 부분으로 이용될 수 있는 상태 추상화 개념을 도입하였다. 또한, 메소드들을 효과적으로 상속할 수 있는 상속 인터페이스 메커니즘을 설계하였고 이를 통해 전형적인 상속 이상을 해결하였다.

  • PDF

웹크롤러의 비표준 링크에 관한 링크 추출 방안 (A Method of Link Extraction on Non-standard Links in Web Crawling)

  • 정준영;장문수;강선미
    • 한국지능시스템학회:학술대회논문집
    • /
    • 한국지능시스템학회 2008년도 춘계학술대회 학술발표회 논문집
    • /
    • pp.79-82
    • /
    • 2008
  • 웹크롤러는 웹페이지 내의 URL링크를 추적하여 다른 문서를 수집한다. 국내의 상당수 웹사이트는 웹 표준에 맞지 않는 링크방식으로 웹문서를 연결하고 있다. 일반적인 웹크롤러는 링크의 비표준적인 사용을 가정하지 않기 때문에 이러한 문서는 수집할 수 없다. 비표준적인 링크가 가능한 것은 사용자의 실수에 강인한 마크업 언어인 HTML에 자바스크립트 기능이 추가되면서 자바스크립트의 변칙적인 사용이 허용되었기 때문이다. 본 논문에서는 230여개의 웹사이트를 조사하여 기존 웹크롤러에서 해결하지 못한 링크 추출 문제를 찾아내고, 이를 수집하기 위한 알고리즘을 제안한다. 또한 자바스크립트 문제 해결을 위한 무거운 자바스크립트 엔진을 대신하여 필요한 기능만으로 구성된 모듈을 사용함으로써 효율적인 문서 수집기 모델을 제안한다.

  • PDF