• 제목/요약/키워드: 학습 가능 파라미터

검색결과 74건 처리시간 0.023초

인공 신경망을 이용한 토석류 퇴적 모델 파라미터 추정 (Parameter Estimation for Debris Flow Deposition Model Using Artificial Neural Networks)

  • 허경용;박충식;이창우;윤호중
    • 한국컴퓨터정보학회:학술대회논문집
    • /
    • 한국컴퓨터정보학회 2012년도 제46차 하계학술발표논문집 20권2호
    • /
    • pp.33-34
    • /
    • 2012
  • 토석류 퇴적 모델은 토석류에 의한 피해지 예측을 위해 그 효용성이 입증된 모델이지만 이를 이용하기 위해서는 몇 가지 파라미터를 필요로 한다. 파라미터를 자동으로 추정하기 위한 방법은 여러 가지가 있지만 토석류에 의한 피해지 예측을 위한 데이터는 충분히 양을 확보하기가 어려우므로 기존의 학습 기법을 적용하는데 어려움이 있다. 본 논문에서는 인공 신경망을 학습시키는 과정에서 기존 샘플로부터 의사 샘플을 생성하고 이를 학습에 사용함으로써 보다 안정적인 학습이 가능한 의사 샘플 신경망을 제안하였다. 제안한 의사 샘플 신경망은 해공간을 평탄화시킴으로써 잘못된 국부 최적해에 빠질 확률을 줄여주고 따라서 보다 안정적인 파라미터 추정이 가능하다는 사실을 실험을 통해 확인할 수 있다.

  • PDF

EM 알고리즘 및 메타휴리스틱을 통한 다이나믹 환경에서의 베이지안 네트워크 학습 전파 프레임웍 (Learning and Propagation Framework of Bayesian Network using Meta-Heuristics and EM algorithm considering Dynamic Environments)

  • 추상현;이현수
    • 한국지능시스템학회논문지
    • /
    • 제26권5호
    • /
    • pp.335-342
    • /
    • 2016
  • 기 구축되어있는 베이지안 네트워크에서 다이나믹한 환경 변화가 발생 할 때, 관련된 베이지안 네트워크의 파라미터는 새롭게 형성된 데이터의 패턴에 적응하여 새로운 파라미터로 변경되어야 한다. 이때, 새로운 파라미터는 베이지안 네트워크의 인과관계를 고려하여 변경되어야 한다. 본 논문에서는 Expectation Maximization(EM)알고리즘과 Meta-Heuristics 기법 중 하나인 Harmony Search(HS)알고리즘을 이용한 다이나믹한 파라미터 업데이트 프레임웍을 제안한다. 일반적으로, EM 알고리즘은 숨겨진 파라미터를 추정하는데 유효한 알고리즘이지만 지역 최적값에 수렴한다는 단점을 가지고 있다. 이 문제를 해결하기 위해서 본 논문은 Maximum Likelihood Estimator(MLE)의 파라미터가 글로벌 최적값을 지향하도록 하기위하여 메타휴리스틱 방법론의 하나인 HS를 적용한다. 제안된 방법은 EM 알고리즘의 단점을 보완하고 글로벌 최적값에 수렴하는 MLE의 파라미터를 추정하여 다이나믹하게 변화하는 환경에서도 사용 가능한 베이지안 네트워크의 학습 및 전파프레임웍을 제시한다.

ICLAL: 인 컨텍스트 러닝 기반 오디오-언어 멀티 모달 딥러닝 모델 (ICLAL: In-Context Learning-Based Audio-Language Multi-Modal Deep Learning Models)

  • 박준영;여진영 ;이고은 ;최창환;최상일
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2023년도 추계학술발표대회
    • /
    • pp.514-517
    • /
    • 2023
  • 본 연구는 인 컨택스트 러닝 (In-Context Learning)을 오디오-언어 작업에 적용하기 위한 멀티모달 (Multi-Modal) 딥러닝 모델을 다룬다. 해당 모델을 통해 학습 단계에서 오디오와 텍스트의 소통 가능한 형태의 표현 (Representation)을 학습하고 여러가지 오디오-텍스트 작업을 수행할 수 있는 멀티모달 딥러닝 모델을 개발하는 것이 본 연구의 목적이다. 모델은 오디오 인코더와 언어 인코더가 연결된 구조를 가지고 있으며, 언어 모델은 6.7B, 30B 의 파라미터 수를 가진 자동회귀 (Autoregressive) 대형 언어 모델 (Large Language Model)을 사용한다 오디오 인코더는 자기지도학습 (Self-Supervised Learning)을 기반으로 사전학습 된 오디오 특징 추출 모델이다. 언어모델이 상대적으로 대용량이기 언어모델의 파라미터를 고정하고 오디오 인코더의 파라미터만 업데이트하는 프로즌 (Frozen) 방법으로 학습한다. 학습을 위한 과제는 음성인식 (Automatic Speech Recognition)과 요약 (Abstractive Summarization) 이다. 학습을 마친 후 질의응답 (Question Answering) 작업으로 테스트를 진행했다. 그 결과, 정답 문장을 생성하기 위해서는 추가적인 학습이 필요한 것으로 보였으나, 음성인식으로 사전학습 한 모델의 경우 정답과 유사한 키워드를 사용하는 문법적으로 올바른 문장을 생성함을 확인했다.

머신러닝 학습 부산물 추적을 위한 프레임워크 (An Efficient Dynamic Workload Balancing Strategy)

  • 김은진;이영섭;이성진
    • 한국컴퓨터정보학회:학술대회논문집
    • /
    • 한국컴퓨터정보학회 2020년도 제61차 동계학술대회논문집 28권1호
    • /
    • pp.41-42
    • /
    • 2020
  • 머신러닝이 보편화되면서 모델 학습을 돕기 위한 머신러닝 및 데이터과학 도구의 수요가 증가하고 있다. 머신 러닝을 사용하는 연구에서는 다양한 파라미터에 대한 실험이 진행되어 많은 학습 부산물이 생성 된다. 하지만 기존의 학습 부산물을 관리하는 프레임워크는 하나의 실험을 진행하는데 모든 경우의 수를 진행해 그 규모가 크다. 본 연구는 기존의 도구가 가지는 규모 문제를 개선하고, 주기적으로 메일을 사용자에게 전송해 실험과정을 보고하는 새로운 도구를 제안한다. 이러한 시스템은 학습과정에서 사용자가 의도한 파라미터의 학습이 진행되는지 추적가능하다.

  • PDF

의사 샘플 신경망을 이용한 토석류 퇴적 모델의 파라미터 추정 (Parameter Estimation in Debris Flow Deposition Model Using Pseudo Sample Neural Network)

  • 허경용;이창우;박충식
    • 한국컴퓨터정보학회논문지
    • /
    • 제17권11호
    • /
    • pp.11-18
    • /
    • 2012
  • 토석류 퇴적 모델은 토석류에 의한 피해지 예측을 위해 random walk model(RWM)을 사용하여 구성한 모델로 피해지 예측에서 그 효용성이 입증되었지만 몇 개의 자유 파라미터가 실험적으로 결정되어야 하는 문제점이 있다. 파라미터를 자동으로 추정하기 위한 방법은 여러 가지가 있지만 토석류 데이터는 학습 데이터의 크기가 작아 기존 학습 기법을 적용하는데 어려움이 있다. 이 논문에서는 학습 데이터 크기 문제를 완화할 수 있는 신경망의 변형인 의사 샘플 신경망을 제안하였다. 의사 샘플 신경망은기존 샘플로부터 의사 샘플을생성하고 이를 학습에 사용한다. 의사 샘플은 해공간을 평탄화시키고 국부 최적해에 빠질 확률을 줄여줌으로써 기존 신경망에 비해 안정적인 파라미터 추정이 가능해진다. 이러한 사실은 실험 결과 통해 확인할 수 있다.

적응적 학습파라미터를 이용한 독립성분분석의 성능개선 (Performance Improvement of Independent Component Analysis by Adaptive Learning Parameters)

  • 조용현;민성재
    • 한국멀티미디어학회:학술대회논문집
    • /
    • 한국멀티미디어학회 2003년도 춘계학술발표대회논문집
    • /
    • pp.210-213
    • /
    • 2003
  • 본 연구에서는 뉴우턴법의 고정점 알고리즘에 적응 조정이 가능한 학습파라미터를 이용한 신경망 기반 독립성분분석기법을 제안하였다. 이는 고정점 알고리즘의 1차 미분을 이용하는 뉴우턴법에서 역혼합행렬의 경신 상태에 따라 학습율과 모멘트가 적응조정되도록 함으로써 분리속도와 분리성능을 개선시키기 위함이다. 제안된 기법을 512$\times$512 픽셀의 10개 영상으로부터 임의의 혼합행렬에 따라 발생되는 영상들의 분리에 적용한 결과, 기존의 고정점 알고리즘에 의한 결과보다 우수한 분리성능과 빠른 분리속도가 있음을 확인하였다.

  • PDF

간단한 신경회로망 구조를 갖는 비선형 PID 제어기 (Nonlinear PID Controller with Simple Neural Network Structure)

  • 정경권;김주웅;정성부;김한웅;엄기환
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국해양정보통신학회 1998년도 춘계종합학술대회
    • /
    • pp.96-101
    • /
    • 1998
  • 많은 분야에서 널리 사용되고 있는 PID 제어기의 형태는 오차를 갖는 폐루프 시스템으로 구성되며, PID 제어기는 비례, 적분, 미분 제어기로 나누어진다. PID 제어기의 형태가 여러 가지로 제안되고 있지만 보다 중요한 것은 PID 제어기의 파라미터들을 어떻게 적절히 정하느냐 하는 파라미터 조정 문제이다. 실제로 산업 현장에 설치되어 있는 PID 제어기는 대부분 숙련된 기술자에 의해 수동 조작에 의한 시행 착오(trial and error) 법으로 동조되고 있다. 이 경우는 많은 노력과 시간이 소비되고, 외란(disturbance)이 첨가될 경우 적절히 동조된다는 보장도 없다. 본 논문에서는 이러한 문제를 해결하고자 신경회로망을 이용하여 PID 제어기의 파라미터를 동조하는 제어 방법을 제안하였다. 단일 뉴런으로 구성하여 구조가 간단하고, 학습에 의한 성능 개선이 가능하다. 오차 역전파(Error Back-Propagation) 알고리즘에 의하여 PID 파라미터가 되는 가중치를 자동 동조하는 방법이다. 제안한 방식의 유용성을 보이기 위해 DC 서보 모터와 비선형 시스템인 단일 관절 매니퓰레이터를 대상으로 시뮬레이션을 하였다.

  • PDF

다양한 특징 파라미터와 선형변별분석을 이용한 후두암의 선별검사

  • 이원범;왕수건;권순복;전경명;전계록;김수미;김형순;양병곤;조철우
    • 대한음성언어의학회:학술대회논문집
    • /
    • 대한음성언어의학회 2003년도 제19회 학술대회
    • /
    • pp.149-149
    • /
    • 2003
  • 후두질환 감별용 음성 분석방법인 multi-dimensional voice program (MDVP)으로 분석이 불가능할 정도로 주기성이 크게 훼손된 후두암 말기의 음성 에 대하여 효과적인 감별을 하기 위하여, 몇 가지 켑스트럼(cepstrum) 파라미터를 비롯하여, 주기성 및 그 동요 정도, 영교차율(zero-crossing rate, ZCR), 스텍트럼 중심 (spectral centroid, SC) 등 다양한 특징 파라미터를 이용한 감별 실험을 수행하였다. 후두암 감별 실험을 위해 부산대학교 병원 이비인후과에서 수집한 정상 남자 음성 데이터 50개, 양성 후두질환 남자 음성 데이터 50개 및 남성 후두암 환자 음성 데이터 105개를 사용하였다. 음성 데이터는 단모음 /아/ 발성만을 사용하였고, 정상인과 양성후두질환 환자, 그리고 MDVP 분석이 가능한 후두암 환자 음성 데이터 중 2/3는 학습에, 나머지 113은 감별실험에 사용하였다. 후두암 감별을 위한 분류기로는 Gaussian Mixture Model(GMM) 분류기를 사용하였으며, 이때 모델의 복잡도를 표현하는 mixture 수는 1에서 10까지 가변시키면서 가장 좋은 성능을 나타내는 값으로 결정하였다. 또한 모든 실험에서 켑스트럼 분석의 차수는 동일하게 12차로 고정시켰다. (중략)

  • PDF

발성장애아동을 위한 발성훈련시스템 설계 및 구현 (Design and Implementation of Speech-Training System for Voice Disorders)

  • 정은순;김봉완;양옥렬;이용주
    • 인터넷정보학회논문지
    • /
    • 제2권1호
    • /
    • pp.97-106
    • /
    • 2001
  • 본 논문에서는 발성장애아의 음성적 특징을 중심으로 컴퓨터 기반 발성훈련시스템을 설계 및 구현하였다. 본 발성훈련시스템은 선행훈련, 발성인지훈련, 발성강화훈련 단계로 구성되어 있으며, 발성장애 아동의 발성의 상황과 레벨을 분석하고 반복학습 및 개별학습이 가능하도록 하였다. 컴퓨터를 기반으로 발성장애아의 음성을 디지털 신호처리하기 위해 음성적 파라미터 즉, 음성의 강도, 음성의 고저, 유 무성음을 추출하였다. 추출된 음성적 파라미터는 이동체의 움직임 벡터 값으로 변환하여 이미지, 애니메이션, 게임적 요소와 같이 시각적으로 피드백 할 수 있도록 하였다.

  • PDF

적응적 학습 파라미터의 고정점 알고리즘에 의한 독립성분분석의 성능개선 (Performance Improvement of Independent Component Analysis by Fixed-point Algorithm of Adaptive Learning Parameters)

  • 조용현;민성재
    • 정보처리학회논문지B
    • /
    • 제10B권4호
    • /
    • pp.397-402
    • /
    • 2003
  • 본 연구에서는 뉴우턴법의 고정점 알고리즘에 적응 조정이 가능한 학습 파라미터를 이용한 효율적인 신경망 기반 독립성분분석기법을 제안하였다. 이는 엔트로피 최적화 함수의 1차 미분을 이용하는 뉴우턴법의 고정점 알고리즘에서 학습율과 모멘트를 역혼합행렬의 경신 상태에 따나 적응조정되도록 함으로써 분리속도와 분리성능을 개선시키기 위함이다 제안된 기법을 256$\times$256 픽셀의 8개 지문과 512$\times$512 픽셀의 10개 영상으로부터 임의의 혼합행렬에 따라 발생되는 지문과 영상의 분리에 적용한 결과, 기존의 고정점 알고리즘에 의한 결과보다 우수한 분리성능과 빠른 분리속도가 있음을 확인하였다. 특히 제안된 알고리즘은 문제의 규모가 클수록 분리성능과 분리속도의 개선 정도가 큼을 확인하였다.