• 제목/요약/키워드: Distributed Representation

검색결과 151건 처리시간 0.039초

Combining Distributed Word Representation and Document Distance for Short Text Document Clustering

  • Kongwudhikunakorn, Supavit;Waiyamai, Kitsana
    • Journal of Information Processing Systems
    • /
    • 제16권2호
    • /
    • pp.277-300
    • /
    • 2020
  • This paper presents a method for clustering short text documents, such as news headlines, social media statuses, or instant messages. Due to the characteristics of these documents, which are usually short and sparse, an appropriate technique is required to discover hidden knowledge. The objective of this paper is to identify the combination of document representation, document distance, and document clustering that yields the best clustering quality. Document representations are expanded by external knowledge sources represented by a Distributed Representation. To cluster documents, a K-means partitioning-based clustering technique is applied, where the similarities of documents are measured by word mover's distance. To validate the effectiveness of the proposed method, experiments were conducted to compare the clustering quality against several leading methods. The proposed method produced clusters of documents that resulted in higher precision, recall, F1-score, and adjusted Rand index for both real-world and standard data sets. Furthermore, manual inspection of the clustering results was conducted to observe the efficacy of the proposed method. The topics of each document cluster are undoubtedly reflected by members in the cluster.

A New Integral Representation of the Coverage Probability of a Random Convex Hull

  • Son, Won;Ng, Chi Tim;Lim, Johan
    • Communications for Statistical Applications and Methods
    • /
    • 제22권1호
    • /
    • pp.69-80
    • /
    • 2015
  • In this paper, the probability that a given point is covered by a random convex hull generated by independent and identically-distributed random points in a plane is studied. It is shown that such probability can be expressed in terms of an integral that can be approximated numerically by function-evaluations over the grid-points in a 2-dimensional space. The new integral representation allows such probability be computed efficiently. The computational burdens under the proposed integral representation and those in the existing literature are compared. The proposed method is illustrated through numerical examples where the random points are drawn from (i) uniform distribution over a square and (ii) bivariate normal distribution over the two-dimensional Euclidean space. The applications of the proposed method in statistics are are discussed.

이종분산 고장 진단을 위한 지식표현 방법 및 진단 방법의 개발 (Development of a Knowledge Representation Scheme and Diagnosis Mechanism for Heterogeneous Distributed Fault Diagnosis)

  • 안영애;박종희
    • 전자공학회논문지B
    • /
    • 제32B권12호
    • /
    • pp.1687-1696
    • /
    • 1995
  • An integrated fault diagnosis system for heterogeneous manufacturing environments is developed. This system has a contrast with existing diagnosis systems in the respect that they are mostly for diagnosing faults on individual machines. In addition to the usual (e.g., audio, electrical) diagnostic signals, the characteristics of products from the machines are considered as the unifying diagnostic parameters among heterogeneous machines in the diagnosis. The system is composed of a knowledge representation scheme and a diagnostic query processing mechanism. Its knowledge representation scheme allows the diagnostic knowledges from heterogeneous unit diagnostic systems to be uniformly expressed in terms of the causal relations among relevant data items. It is flexible in the sense that causes for one relation can be effects for another may be reflected on our knowledge representation scheme. The diagnosis mechanism is based on a probabilistic inferencing method. This probablistic diagnosis mechanism provides more general diagnosis than existing ones in that it accommodates multiple causes and takes complication among causes into account. These scheme and mechanism are applied to a typical example to demonstrate how our system works.

  • PDF

Delay-Dependent Control for Time-Delayed T-S Fuzzy Systems Using Descriptor Representation

  • Jeung, Eun-Tae;Oh, Do-Chang;Park, Hong-Bae
    • International Journal of Control, Automation, and Systems
    • /
    • 제2권2호
    • /
    • pp.182-188
    • /
    • 2004
  • This paper presents a design method of delay-dependent control for T-S fuzzy systems with time delays. Based on parallel distributed compensation (PDC) and a descriptor model transformation of the system, a delay-dependent control is utilized. An appropriate Lyapunov-Krasovskii functional is chosen for delay-dependent stability analysis. A sufficient condition for delay-dependent control is represented in terms of linear matrix inequalities (LMIs).

Strong Representations for LAD Estimators in AR(1) Models

  • Kang, Hee-Jeong;Shin, Key-Il
    • Journal of the Korean Statistical Society
    • /
    • 제27권3호
    • /
    • pp.349-358
    • /
    • 1998
  • Consider the AR(1) model $X_{t}$=$\beta$ $X_{t-1}$+$\varepsilon$$_{t}$ where $\beta$ < 1 is an unknown parameter to be estimated and {$\varepsilon$$_{t}$} denotes the independent and identically distributed error terms with unknown common distribution function F. In this paper, a strong representation for the least absolute deviation (LAD) estimate of $\beta$ in AR(1) models is obtained under some mild conditions on F. on F.F.

  • PDF

분산주의와 초점주의의 신경기제 및 시각 통계표상과의 관계 (The neural mechanism of distributed and focused attention and their relation to statistical representation of visual displays)

  • 정상철;주성준
    • 인지과학
    • /
    • 제18권4호
    • /
    • pp.399-415
    • /
    • 2007
  • 통상적인 시각 장면은 다수의 물체를 포함한다. 하지만 시각시스템이 동시에 처리할 수 있는 용량에는 한계가 있기 때문에, 시각 장면에 제시된 다수의 자극을 어떻게 처리할 것인지는 시각 체계의 매우 중요한 과제 중 하나이다. 선택적 주의와 통계표상은 이 문제를 해결하는 서로 다른 두 방법이다. 이 둘 간의 신경 기제를 밝히기 위해 fMRI를 사용하여 하나의 원에 주의를 주었을 때(초점주의)와 평균 크기 판단을 위해 모든 원에 주의를 주었을 때(분산주의) 억제적 상호작용의 변화를 조사하였다. 시각 영역 V4에서 무주의 조건에 비해 초점주의는 억제적 상호작용을 감소시킨 반면, 분산주의는 억제적 상호작용에 영향을 주지 않았다. 이 결과는 초점주의는 현재의 목적에 맞지 않는 자극을 여과하고 선택된 자극만을 편향되게 처리하지만, 분산주의는 다수의 자극에 대한 신경 반응을 각 자극에 대한 반응들의 평균값으로 수렴시켜 평균표상을 하게 한다는 것을 시사한다.

  • PDF

Sparse Autoencoder의 데이터 특징 추출과 ProGReGA-KF를 결합한 새로운 부하 분산 알고리즘 (Combing data representation by Sparse Autoencoder and the well-known load balancing algorithm, ProGReGA-KF)

  • 김차영;박정민;김혜영
    • 한국게임학회 논문지
    • /
    • 제17권5호
    • /
    • pp.103-112
    • /
    • 2017
  • 많은 사용자가 함께 즐기는 온라인 게임(MMOGs)에서 IoT의 확장은 서버에 엄청난 부하를 지속적으로 증가시켜, 모든 데이터들이 Big-Data화 되어가는 환경에 있다. 이에 본 논문에서는 딥러닝 기법 중에서 가장 많이 사용되는 Sparse Autoencoder와 이미 잘 알려진 부하분산 알고리즘(ProGReGA-KF)을 결합한다. 기존 알고리즘 ProGReGA-KF과 본 논문에서 제안한 알고리즘을 이동 안정성으로 비교하였고, 제안한 알고리즘이 빅-데이터 환경에서 좀 더 안정적이고 확장성이 있음 시뮬레이션을 통해 보였다.

의미적 계층정보를 반영한 단어의 분산 표현 (Distributed Representation of Words with Semantic Hierarchical Information)

  • 김민호;최성기;권혁철
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2017년도 춘계학술발표대회
    • /
    • pp.941-944
    • /
    • 2017
  • 심층 학습에 기반을 둔 통계적 언어모형에서 가장 중요한 작업은 단어의 분산 표현(Distributed Representation)이다. 단어의 분산 표현은 단어 자체가 가지는 의미를 다차원 공간에서 벡터로 표현하는 것으로서, 워드 임베딩(word embedding)이라고도 한다. 워드 임베딩을 이용한 심층 학습 기반 통계적 언어모형은 전통적인 통계적 언어모형과 비교하여 성능이 우수한 것으로 알려져 있다. 그러나 워드 임베딩 역시 자료 부족분제에서 벗어날 수 없다. 특히 학습데이터에 나타나지 않은 단어(unknown word)를 처리하는 것이 중요하다. 본 논문에서는 고품질 한국어 워드 임베딩을 위하여 단어의 의미적 계층정보를 이용한 워드 임베딩 방법을 제안한다. 기존연구에서 제안한 워드 임베딩 방법을 그대로 활용하되, 학습 단계에서 목적함수가 입력 단어의 하위어, 동의어를 반영하여 계산될 수 있도록 수정함으로써 단어의 의미적 계층청보를 반영할 수 있다. 본 논문에서 제안한 워드 임베딩 방법을 통해 생성된 단어 벡터의 유추검사(analog reasoning) 결과, 기존 방법보다 5%가 증가한 47.90%를 달성할 수 있었다.

분산 시맨틱웹 환경에서의 온톨로지 데이터 처리 기법 연구 (Ontology data processing method in distributed semantic web environment)

  • 김병곤;오성균
    • 디지털콘텐츠학회 논문지
    • /
    • 제9권2호
    • /
    • pp.277-284
    • /
    • 2008
  • 인터넷 서비스가 일반화되고 복잡해지면서 차세대 인터넷 서비스인 시맨틱웹의 중요한 구성요소로 활발히 연구되고 있는 분야가 온톨로지이다. 현재까지의 많은 연구들은 중앙 집중형 사이트에서의 온톨로지 구축을 통한 데이터의 통합에 관한 연구가 대부분이었다. 그러나 인터넷 환경은 기본적으로 분산 데이터 환경이며, 이러한 분산된 사이트의 모든 데이터를 대상으로 질의를 처리해야 한다. 이때 사이트간의 온톨로지 분산 데이터 처리에 대한 해결 기법들이 없이는 빠른 변화에 대응할 수 있는 차세대 시맨틱웹 구축을 기대할 수 없다. 본 연구는 분산된 인터넷 환경에서 각기 다른 방법으로 구축되어 있는 온톨로지간의 관계를 OWL언어가 지니는 확장요소를 이용하여 온톨로지 요소간의 분산관계를 기술하여 통합 질의 처리가 가능한 시스템을 구축하는 방법을 제시한다.

  • PDF

XML 기반 강건 타입형 유전자 프로그램의 이식${\cdot}$독립적 표현 (XML-based Portable Self-containing Representation of Strongly-typed Genetic Program)

  • 이승익
    • 한국정보과학회논문지:소프트웨어및응용
    • /
    • 제32권4호
    • /
    • pp.277-289
    • /
    • 2005
  • 선택과 재생산을 특징으로 하는 계통적 학습에서 유전자 프로그램이 가지는 긴 설계시간/높은 계산노력/낮은 계산효율을 극복하고자, 이 논문은 XML에 기반을 둔 유전적 표현 방법을 제안한다. 이 방법에서 유전자 프로그램과 유전자 연산은 기성 DOM 파서의 API 호출에 의하여 관리되기 때문에, 유전자 프로그램을 설계하는데 소비되는 시간이 상당히 단축되는 특징이 있다. 또 표준 XML 스키마를 기반으로 의미적으로 올바른 유전자 프로그램만을 다루기 때문에 탐색공간과 계산노력이 감소된다. 그리고 이형 분산 컴퓨팅 환경에서 유전자 프로그램의 이주에 적합한 시스템 및 형식인 XML을 사용하기 때문에 유전자 프로그램이 병렬적으로 수행될 수 있고, 이에 따라 계산효율이 향상된다. 제안된 방법의 검증을 위하여 포식자-피식자 문제에서 다중 에이전트의 사회적 행동의 진화에 적용한 결과, 유전자 프로그램에 대한 계산시간이 단축됨을 .보인다