• 제목/요약/키워드: learning distribution

검색결과 966건 처리시간 0.027초

라벨 노이즈 환경에서 확률분포 예측 성능 향상 방법 (Probability distribution predicted performance improvement in noisy label)

  • 노준호;우승범;황원준
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국정보통신학회 2021년도 춘계학술대회
    • /
    • pp.607-610
    • /
    • 2021
  • 지도학습에서 모델을 학습함에 있어 입력 데이터와 해당 데이터의 라벨이 필요하다. 하지만 신뢰성 있는 라벨링은 비용과 시간적인 면에서 많이 소요되며 이를 자동화할 경우 라벨이 언제나 맞는다는 보장이 없어 노이즈가 들어가게 된다. 이러한 라벨 노이즈 환경에서 지도학습을 진행할 경우 모델은 학습 초기에는 정확도가 올라가지만, 어느 정도 학습 후 정확도가 크게 감소되는 경향을 보인다. 라벨 노이즈 문제를 해결하기 위해 다양한 방법이 있지만, 대다수의 경우 모델이 예측한 확률을 수도라벨로 사용해 이용하는 경우가 많다. 여기에 대해서 우리는 모델이 예측한 확률을 정제하여 좀 더 빠르게 참 라벨을 예측하는 방법을 제시한다. 기존의 논문 중 모델이 예측한 확률을 사용하는 방법에 우리가 제안하는 방법을 적용하여 같은 환경, 데이터셋에 대해 실험을 진행한 결과 성능개선과 더 빠르게 수렴하는 것을 확인할 수 있었다. 이를 통해 기존 연구들 중 모델이 예측하는 확률분포를 사용하는 방법들에 적용할 수 있고 같은 환경에서도 더 빠르게 수렴시킬 수 있기에 학습 소요시간을 줄일 수 있다.

  • PDF

열화상 영상 데이터 기반 배전반 화재 발생 판별을 위한 딥러닝 모델 설계 (Design of a deep learning model to determine fire occurrence in distribution switchboard using thermal imaging data)

  • 박동준;김민영
    • 문화기술의 융합
    • /
    • 제9권5호
    • /
    • pp.737-745
    • /
    • 2023
  • 본 논문은 열화상 이미지를 활용하여 배전반 화재 발생을 감지하기 위한 인공지능 모델을 개발하는 연구에 대해 다룬다. 연구의 목표는 수집한 열화상 이미지를 전처리하여 객체 탐지 모델에 적합한 데이터로 가공하고, 이를 이용하여 배전반 내 화재 발생 여부를 판단하는 모델을 설계하는 것이다. 연구에서는 AI-HUB의 산업단지 내 학습용 열화상 이미지 데이터를 활용하였으며, CNN 기반 딥러닝 객체 검출 알고리즘 중 대표적인 모델인 Faster R-CNN과 RetinaNet을 사용하여 모델을 구축하고 두 개의 모델을 비교 분석하여 최적의 모델을 제안하고 있다.

랜덤 심볼에 기반한 정보이론적 학습법의 스텝 사이즈 정규화 (Step-size Normalization of Information Theoretic Learning Methods based on Random Symbols)

  • 김남용
    • 인터넷정보학회논문지
    • /
    • 제21권2호
    • /
    • pp.49-55
    • /
    • 2020
  • 랜덤 심볼열을 기반으로 한 정보이론적 학습법 (ITL)은 특정 확률분포를 갖도록 랜덤하게 발생시킨 심볼열을 타겟 데이터로 활용하고, 입력 데이터 사이의 확률분포 거리 최소화를 비용함수로 하여 설계된다. 이 방식의 단점으로, 고정상수를 알고리듬 갱신의 스텝사이즈로 사용하므로 입력 전력의 통계적 추이를 활용할 수 없다. 정보포텐셜 출력(information potential output, IPO)와 연관된 기울기에서는 정보포텐셜 입력(information potential input, IPI)이, 정보포텐셜 오차(information potential error, IPE)와 관련된 기울기에서는 입력자체가 입력으로 작용함을 이 연구에서 밝혀내고, 입력의 전력 추이를 따로 계산하여 스텝사이즈 (step size)를 정규화하도록 제안하였다. 제안된 알고리듬은 충격성잡음과 다중경로 페이딩 환경의 통신시스템 실험에서 기존 방식보다 약 4dB 정도 더 낮은 정상상태 오차 전력, 약 2배 이상 빠른 수렴속도를 나타냈다.

핸드오프 호 손실율 가능성 분포에 의한 무선망의 퍼지 신경망 호 수락제어 (Fuzzy Neural Networks-Based Call Admission Control Using Possibility Distribution of Handoff Calls Dropping Rate for Wireless Networks)

  • 이진이
    • 한국항행학회논문지
    • /
    • 제13권6호
    • /
    • pp.901-906
    • /
    • 2009
  • 본 논문에서는 퍼지추론과 신경망 학습을 이용하여 무선망의 핸드오프호 손실율 가능성 분포의 상한계 값을 추정하고, 이를 기반으로 한 호 수락제어를 제안한다. 퍼지규칙의 소속함수는 신경망 오류역전파 알고리즘으로 튜닝하고, 핸드오프호 손실율의 상한계 값은 퍼지집합의 가중치 평균에 기초하여 추정한다. 이 방법은 호 손실율 값을 실제보다 과도하게 큰 값으로 추정하는 것을 방지하고, 추정된 값이 실제값보다 작을 때는 실시간적으로 자기보상을 실시하여 호 수락 제어시 호 손실율을 줄인다. 시뮬레이션을 통하여 제안한 방법에 의한 핸드오프 호 손실율의 상한계 값의 추정성능을 보이고, 이를 이용한 호 수락제어 방법이 핸드오프 호 손실율을 사용자가 원하는 핸드오프 호 손실율 이하로 유지할 수 있음을 보인다.

  • PDF

딥러닝 이미지 인식 기술을 활용한 소고기 등심 세부 부위 분류 (Deep Learning based Image Recognition Models for Beef Sirloin Classification)

  • 한준희;정성훈;박경수;유태선
    • 산업경영시스템학회지
    • /
    • 제44권3호
    • /
    • pp.1-9
    • /
    • 2021
  • This research examines deep learning based image recognition models for beef sirloin classification. The sirloin of beef can be classified as the upper sirloin, the lower sirloin, and the ribeye, whereas during the distribution process they are often simply unified into the sirloin region. In this work, for detailed classification of beef sirloin regions we develop a model that can learn image information in a reasonable computation time using the MobileNet algorithm. In addition, to increase the accuracy of the model we introduce data augmentation methods as well, which amplifies the image data collected during the distribution process. This data augmentation enables to consider a larger size of training data set by which the accuracy of the model can be significantly improved. The data generated during the data proliferation process was tested using the MobileNet algorithm, where the test data set was obtained from the distribution processes in the real-world practice. Through the computational experiences we confirm that the accuracy of the suggested model is up to 83%. We expect that the classification model of this study can contribute to providing a more accurate and detailed information exchange between suppliers and consumers during the distribution process of beef sirloin.

참조점의 불규칙적 배치를 통한 PIC보의 하중 충실도 향상에 관한 연구 (Load Fidelity Improvement of Piecewise Integrated Composite Beam by Irregular Arrangement of Reference Points)

  • 함석우;조재응;전성식
    • Composites Research
    • /
    • 제32권5호
    • /
    • pp.216-221
    • /
    • 2019
  • Piecewise Integrated Composite (PIC) 보는 하중 유형에 따라 구간을 나누어, 각 구간마다 하중 유형에 강한 복합재료의 적층 순서를 배열한 보이다. 본 연구에서는 보의 거동을 고려하여 PIC 보의 구간을 머신 러닝을 통해 나누어 기존에 제시되었던 PIC 보에 비해 우수한 굽힘 특성을 갖게 하는 것이 목적이다. FE 모델의 240개 요소가 참조점으로 선택되었다. 선행 유한요소해석은 머신 러닝의 학습데이터 생성을 위하여 규칙적으로 분포된 참조점에서 3축 특성 값(Triaxiality)으로 나타냈다. 3축 특성 값은 인장, 압축 그리고 전단의 하중유형을 나타낸다. 머신 러닝 모델은 하이퍼파라미터(Hyperparameter)와 학습데이터로 구성되었으며, 하이퍼파라미터 튜닝을 통해 적절한 하중 충실도를 도출하였지만, 거동이 큰 보의 옆면에서는 적절하지 않은 하중 충실도가 도출되었다. 이를 해결하기 위하여 고르게 배치한 참조점을 보의 거동에 따라 배치하여 학습 데이터를 얻었고, 머신 러닝 모델이 생성되었다. 앞서 생성된 머신 러닝 모델을 통하여 보가 매핑 되었고, PIC 보에 대하여 유한요소 해석을 진행한 결과, 기존에 제시되었던 PIC 보에 비해 최대하중과 흡수 에너지가 커지는 특성이 나타났다.

미분류 데이터의 초기예측을 통한 군집기반의 부분지도 학습방법 (A Clustering-based Semi-Supervised Learning through Initial Prediction of Unlabeled Data)

  • 김응구;전치혁
    • 한국경영과학회지
    • /
    • 제33권3호
    • /
    • pp.93-105
    • /
    • 2008
  • Semi-supervised learning uses a small amount of labeled data to predict labels of unlabeled data as well as to improve clustering performance, whereas unsupervised learning analyzes only unlabeled data for clustering purpose. We propose a new clustering-based semi-supervised learning method by reflecting the initial predicted labels of unlabeled data on the objective function. The initial prediction should be done in terms of a discrete probability distribution through a classification method using labeled data. As a result, clusters are formed and labels of unlabeled data are predicted according to the Information of labeled data in the same cluster. We evaluate and compare the performance of the proposed method in terms of classification errors through numerical experiments with blinded labeled data.

뉴런의 생성 및 병합 학습 기능을 갖는 자기 조직화 신경망을 이용한 n-각형 공업용 부품의 중심추정 (Center estimation of the n-fold engineering parts using self organizing neural networks with generating and merge learning)

  • 성효경;최흥문
    • 전자공학회논문지C
    • /
    • 제34C권11호
    • /
    • pp.95-103
    • /
    • 1997
  • A robust center estimation tecnique of n-fold engineering parts is presented, which use self-organizing neural networks with generating and merging learning for training neural units. To estimate the center of the n-fold engineering parts using neural networks, the segmented boundaries of the interested part are approximated to strainght lines, and the temporal estimated centers by thecosine theorem which formed between the approximaged straight line and the reference point, , are indexed as (.sigma.-.theta.) parameteric vecstors. Then the entries of parametric vectors are fed into self-organizing nerual network. Finally, the center of the n-fold part is extracted by mean of generating and merging learning of the neurons. To accelerate the learning process, neural network uses an adaptive learning rate function to the merging process and a self-adjusting activation to generating process. Simulation results show that the centers of n-fold engineering parts are effectively estimated by proposed technique, though not knowing the error distribution of estimated centers and having less information of boundaries.

  • PDF

데이터 유사도를 이용한 지속적 학습방법 (Continual Learning using Data Similarity)

  • 박성현;강석훈
    • 전기전자학회논문지
    • /
    • 제24권2호
    • /
    • pp.514-522
    • /
    • 2020
  • Continuous Learning 환경에서 인공 신경망의 학습이 진행됨에 따라 이전에 학습했던 데이터의 정보를 잊는 Catastrophic Forgetting 현상이 있다. 서로 다른 Domain을 갖는 데이터 사이에서 쉽게 발생한다. 이 현상을 제어하기 위해 신경망의 출력 분포를 통해 이전에 학습된 데이터와 새로 학습할 데이터들의 관계를 측정하는 방법과 이 측정값을 사용하여 Catastrophic Forgetting 현상을 완화하는 방법을 제시한다. 평가를 위해 MNIST, EMNIST 데이터를 사용하였고 실험 결과, 이전 데이터에 대한 정확도가 평균적으로 약 22.37% 향상되었다.

동적으로 출력 뉴런을 생성하는 경쟁 학습 신경회로망 (Competitive Learning Neural Network with Dynamic Output Neuron Generation)

  • 김종완;안제성;김종상;이흥호;조성원
    • 전자공학회논문지B
    • /
    • 제31B권9호
    • /
    • pp.133-141
    • /
    • 1994
  • Conventional competitive learning algorithms compute the Euclidien distance to determine the winner neuron out of all predetermined output neurons. In such cases, there is a drawback that the performence of the learning algorithm depends on the initial reference(=weight) vectors. In this paper, we propose a new competitive learning algorithm that dynamically generates output neurons. The proposed method generates output neurons by dynamically changing the class thresholds for all output neurons. We compute the similarity between the input vector and the reference vector of each output neuron generated. If the two are similar, the reference vector is adjusted to make it still more like the input vector. Otherwise, the input vector is designated as the reference vector of a new outputneuron. Since the reference vectors of output neurons are dynamically assigned according to input pattern distribution, the proposed method gets around the phenomenon that learning is early determined due to redundant output neurons. Experiments using speech data have shown the proposed method to be superior to existint methods.

  • PDF