• 제목/요약/키워드: Connectionist model

검색결과 20건 처리시간 0.018초

한갓 구현이 아닌 구성적 구조 (The Compositional Structure without a Mere lmplementation)

  • 최훈
    • 인지과학
    • /
    • 제6권1호
    • /
    • pp.5-30
    • /
    • 1995
  • 포더와 그의 동조자들은 연결주의 모형이 구성적 구조를 보여주지 못하고,또 보여줄 수 있더라도 자신들의 고전주의 모형을 물리적인 차원에서 구현하는 이론일 뿐이라고 공격한다. 연결주의가 구성적 구조를 보여주지 못한다고 주장할때 중요하게 쓰이는 개념이 '고전적 요소성'이다.그런데 글쓴이는 구성적 구조를 보이기 위해서는 고전적 요소성이 필요없으며, 연결주의 모형이 고전적 요소성을 갖추고 있지 못하기 때문에 고전주의의 한갓 구현 노릇에서 빠져 나올수 있다고 주장하겠다.

  • PDF

전력계통 사고구간 판정을 위한 Commectionist Expert System (A Connectionist Expert System for Fault Diagnosis of Power System)

  • 김광호;박종근
    • 대한전기학회논문지
    • /
    • 제41권4호
    • /
    • pp.331-338
    • /
    • 1992
  • The application of Connectionist expert system using neural network to fault diagnosis of power system is presented and compared with rule-based expert system. Also, the merits of Connectionist model using neural network is presented. In this paper, the neural network for fault diagnosis is hierarchically composed by 3 neural network classes. The whole power system is divided into subsystems, the neural networks (Class II) which take charge of each subsystem and the neural network (Class III) which connects subsystems are composed. Every section of power system is classified into one of the typical sections which can be applied with same diagnosis rules, as line-section, bus-section, transformer-section. For each typical section, only one neural network (Class I) is composed. As the proposed model has hierarchical structure, the great reduction of learning structure is achieved. With parallel distributed processing, we show the possibility of on-line fault diagnosis.

  • PDF

ERP 기반의 비즈니스 프로세스 재설계 방법 (A Business Process Redesign Method within an ERP Framework)

  • Dong-Gill Jung
    • 한국전자거래학회지
    • /
    • 제7권1호
    • /
    • pp.87-106
    • /
    • 2002
  • The behavioral and dynamic implications of an ERP implementation/installation are, to say the least, not well understood. Getting the switches set to enable the ERP software to go live is becoming straightforward. The really difficult part is understanding all of the dynamic interactions that accrue as a consequence. Dynamic causal and connectionist models are employed to facilitate an understanding of the dynamics and to enable control of the information-enhanced processes to take place. The connectionist model ran be analyzing (behind the scenes) the information accesses and transfers and coming If some conclusions about strong linkages that are getting established and what the behavioral implications of those new linkages and information accesses we. Ultimately, the connectionist model will come to an understanding of the dynamic, behavioral implications of the larger ERP implementation/installation per se. The underlying connectionist model will determine information transfers and workflow. Once a map of these two infrastructures is determined by the model, it becomes a relatively easy job for an analyst to suggest improvements in both. Connectionist models start with analog object structures and then use learning to produce mechanisms for managerial problem diagnoses. These mechanisms are neural models with multiple-layer structures that support continuous input/output. Based on earlier work performed and published by the author[10][11], a Connectionist ReasOning and LEarning System(CROLES) is developed that mimics the real-world reasoning infrastructure. Coupled with an explanation subsystem, this system can provide explanations as to why a particular reasoning structure behaved the way it did. Such a system operates in the backgmund, observing what is happening as every information access, every information response coming from each and every intelligent node (whether natural or artificial) operating within the ERP infrastructure is recorded and encoded. The CROLES is also able to transfer all workflows and map these onto the decision-making nodes of the organization.

  • PDF

신경회로망을 이용한 퍼지제어기 설계 알고리즘에 관한 연구 (The study on the Algorithm for Desing of Fuzzy Logic Controller Using Neural Network)

  • 채명기;이상배
    • 한국지능시스템학회:학술대회논문집
    • /
    • 한국퍼지및지능시스템학회 1996년도 추계학술대회 학술발표 논문집
    • /
    • pp.243-248
    • /
    • 1996
  • In this paper, a general neural-network-based connectionist model, called Fuzzy Neural Network(FNN), is proposed for the realization of a fuzzy logic control system. The proposed FNN is a feedforward multi-layered network which integrates the basic elements and functions of a traditional fuzzy logic controller into a connectionist structure which has distributed learning abilities. Such FNN can be constructed from training examples by learning rule, and the connectionist structure can be trained to develop fuzzy logic rules and find optimal input/output membership functions. Computer simulation examples will be presented to illustrate the performance and applicability of the proposed FNN, and their associated learning algorithms.

  • PDF

CTC를 이용한 LSTM RNN 기반 한국어 음성인식 시스템 (LSTM RNN-based Korean Speech Recognition System Using CTC)

  • 이동현;임민규;박호성;김지환
    • 디지털콘텐츠학회 논문지
    • /
    • 제18권1호
    • /
    • pp.93-99
    • /
    • 2017
  • Long Short Term Memory (LSTM) Recurrent Neural Network (RNN)를 이용한 hybrid 방법은 음성 인식률을 크게 향상시켰다. Hybrid 방법에 기반한 음향모델을 학습하기 위해서는 Gaussian Mixture Model (GMM)-Hidden Markov Model (HMM)로부터 forced align된 HMM state sequence가 필요하다. 그러나, GMM-HMM을 학습하기 위해서 많은 연산 시간이 요구되고 있다. 본 논문에서는 학습 속도를 향상하기 위해, LSTM RNN 기반 한국어 음성인식을 위한 end-to-end 방법을 제안한다. 이를 구현하기 위해, Connectionist Temporal Classification (CTC) 알고리즘을 제안한다. 제안하는 방법은 기존의 방법과 비슷한 인식률을 보였지만, 학습 속도는 1.27 배 더 빨라진 성능을 보였다.

RBM을 이용한 언어의 분산 표상화 (RBM-based distributed representation of language)

  • 유희조;남기춘;남호성
    • 인지과학
    • /
    • 제28권2호
    • /
    • pp.111-131
    • /
    • 2017
  • 연결주의 모델은 계산주의적 관점에서 언어 처리를 연구하는 한 가지 접근법이다. 그리고 연결주의 모델 연구를 진행하는데 있어서 표상(representation)을 구축하는 것은, 모델의 학습 수준 및 수행 능력을 결정한다는 점에서 모델의 구조를 만드는 것만큼이나 중요한 일이다. 연결주의 모델은 크게 지역 표상(localist representation)과 분산 표상(distributed representation)이라는 두 가지 서로 다른 방식으로 표상을 구축해 왔다. 하지만 종래 연구들에서 사용된 지역 표상은 드문 목표 활성화 값을 갖고 있는 출력층의 유닛이 불활성화 하는 제한점을, 그리고 과거의 분산 표상은 표상된 정보의 불투명성에 의한 결과 확인의 어려움이라는 제한점을 갖고 있었으며 이는 연결주의 모델 연구 전반의 제한점이 되어 왔다. 본 연구는 이와 같은 과거의 표상 구축의 제한점에 대하여, 제한된 볼츠만 머신(restricted Boltzmann machine)이 갖고 있는 특징인 정보의 추상화를 활용하여 지역 표상을 가지고 분산 표상을 유도하는 새로운 방안을 제시하였다. 결과적으로 본 연구가 제안한 방법은 정보의 압축과 분산 표상을 지역 표상으로 역변환하는 방안을 활용하여 종래의 표상 구축 방법이 갖고 있는 문제를 효과적으로 해결함을 보였다.

SymCSN : 유연한 지식 표현 및 추론을 위한 기호-연결주의 모델 (SymCSN : a Neuro-Symbolic Model for Flexible Knowledge Representation and Inference)

  • 노희섭;안홍섭;김명원
    • 인지과학
    • /
    • 제10권4호
    • /
    • pp.71-83
    • /
    • 1999
  • 기존의 기호주의 적 추론 시스템은 경직성 문제로 인하여 유연성을 결여하고 있다. 이는 기호주의 적 지식표현 체계가 지식의 유연한 의미구조를 충분히 반영하고 있지 못할 뿐 아니라 추론 방법도 논리를 바탕으로 하기 때문이다. 이러한 문제를 해결하기 위하여, 우리는 최근 인공 신경 망에 기반 한 유연한 지식표현과 추론을 위한 연결주의 적 의미 망(CSN)을 제안한 바 있다. CSN은 인간의 유사성과 연관성에 기반 하여 근사 추론과 상식추론을 수행할 수 있다. 그러나 CSN 모델에서는 상위개념간의 관계를 표현하는 데 있어서 단순한 전향 신경 망을 이용함으로써 상위개념간의 일반적이고 구조화된 관계를 표현하거나 변수의 표현 및 바인딩의 어려움과 같은 문제점이 있었다. CSN모델의 이런 문제점을 해결하기 위해 본 논문에서는 상위개념간의 일반적이고 구조화된 지식표현을 가능하게 하고 추론이 용이한 기호주의 표현 체계와 이 표현 체계 안에서 의미구조를 표현하고 학습할 수 있는 연결주의 학습 모델인 CSN을 결합한 기호-연결주의 통합 시스템 SymCSN(Symbolic CSN)을 제안하고, 실험을 통하여 제안한 시스템이 인간과 유사한 유연한 지식표현과 추론을 위한 모델임을 보인다.

  • PDF

일본어의 단어인지과정에서 표기형태의 역할:연결주의 모형 (The Role of Script Type in Janpanese Word Recognition:A Connectionist Model)

  • 이광오
    • 인지과학
    • /
    • 제2권2호
    • /
    • pp.487-513
    • /
    • 1990
  • 일본어의 단어인지과정에서 표기형태의 역할을 개관하였다. 인지심리학적 연구결과를 종합한 결과, 어휘근접과정에서 카나와 한자의 서로 다른 역할을 확인하였다. 이것은 일본어 난독증의 사례에서 관찰되는 한자와 카나의 선택적 장애와도 일치한다. 이러한 사실들을 설명하기 위하여 McClelland 와 Rumelhart(1981)의 상호작용활성화 모형을 개정한 JIA(Japanese I nteractive Activation)모형을 제안하였다. 이 제안에는 카나문자단원과 한자단원의 추가, 그리고 문자노드-단어노드 연결형태의 세분화가 포함되었다. 또한 JIA모형의 컴퓨터 시뮬레이션 프로그램을 작성하여 실행하였다.

Integration of WFST Language Model in Pre-trained Korean E2E ASR Model

  • Junseok Oh;Eunsoo Cho;Ji-Hwan Kim
    • KSII Transactions on Internet and Information Systems (TIIS)
    • /
    • 제18권6호
    • /
    • pp.1692-1705
    • /
    • 2024
  • In this paper, we present a method that integrates a Grammar Transducer as an external language model to enhance the accuracy of the pre-trained Korean End-to-end (E2E) Automatic Speech Recognition (ASR) model. The E2E ASR model utilizes the Connectionist Temporal Classification (CTC) loss function to derive hypothesis sentences from input audio. However, this method reveals a limitation inherent in the CTC approach, as it fails to capture language information from transcript data directly. To overcome this limitation, we propose a fusion approach that combines a clause-level n-gram language model, transformed into a Weighted Finite-State Transducer (WFST), with the E2E ASR model. This approach enhances the model's accuracy and allows for domain adaptation using just additional text data, avoiding the need for further intensive training of the extensive pre-trained ASR model. This is particularly advantageous for Korean, characterized as a low-resource language, which confronts a significant challenge due to limited resources of speech data and available ASR models. Initially, we validate the efficacy of training the n-gram model at the clause-level by contrasting its inference accuracy with that of the E2E ASR model when merged with language models trained on smaller lexical units. We then demonstrate that our approach achieves enhanced domain adaptation accuracy compared to Shallow Fusion, a previously devised method for merging an external language model with an E2E ASR model without necessitating additional training.

딥러닝 모형을 사용한 한국어 음성인식 (Korean speech recognition using deep learning)

  • 이수지;한석진;박세원;이경원;이재용
    • 응용통계연구
    • /
    • 제32권2호
    • /
    • pp.213-227
    • /
    • 2019
  • 본 논문에서는 베이즈 신경망을 결합한 종단 간 딥러닝 모형을 한국어 음성인식에 적용하였다. 논문에서는 종단 간 학습 모형으로 연결성 시계열 분류기(connectionist temporal classification), 주의 기제, 그리고 주의 기제에 연결성 시계열 분류기를 결합한 모형을 사용하였으며. 각 모형은 순환신경망(recurrent neural network) 혹은 합성곱신경망(convolutional neural network)을 기반으로 하였다. 추가적으로 디코딩 과정에서 빔 탐색과 유한 상태 오토마타를 활용하여 자모음 순서를 조정한 최적의 문자열을 도출하였다. 또한 베이즈 신경망을 각 종단 간 모형에 적용하여 일반적인 점 추정치와 몬테카를로 추정치를 구하였으며 이를 기존 종단 간 모형의 결괏값과 비교하였다. 최종적으로 본 논문에 제안된 모형 중에 가장 성능이 우수한 모형을 선택하여 현재 상용되고 있는 Application Programming Interface (API)들과 성능을 비교하였다. 우리말샘 온라인 사전 훈련 데이터에 한하여 비교한 결과, 제안된 모형의 word error rate (WER)와 label error rate (LER)는 각각 26.4%와 4.58%로서 76%의 WER와 29.88%의 LER 값을 보인 Google API보다 월등히 개선된 성능을 보였다.