• 제목/요약/키워드: forward neural network

검색결과 272건 처리시간 0.026초

A hybrid algorithm for the synthesis of computer-generated holograms

  • Nguyen The Anh;An Jun Won;Choe Jae Gwang;Kim Nam
    • 한국광학회:학술대회논문집
    • /
    • 한국광학회 2003년도 하계학술발표회
    • /
    • pp.60-61
    • /
    • 2003
  • A new approach to reduce the computation time of genetic algorithm (GA) for making binary phase holograms is described. Synthesized holograms having diffraction efficiency of 75.8% and uniformity of 5.8% are proven in computer simulation and experimentally demonstrated. Recently, computer-generated holograms (CGHs) having high diffraction efficiency and flexibility of design have been widely developed in many applications such as optical information processing, optical computing, optical interconnection, etc. Among proposed optimization methods, GA has become popular due to its capability of reaching nearly global. However, there exits a drawback to consider when we use the genetic algorithm. It is the large amount of computation time to construct desired holograms. One of the major reasons that the GA' s operation may be time intensive results from the expense of computing the cost function that must Fourier transform the parameters encoded on the hologram into the fitness value. In trying to remedy this drawback, Artificial Neural Network (ANN) has been put forward, allowing CGHs to be created easily and quickly (1), but the quality of reconstructed images is not high enough to use in applications of high preciseness. For that, we are in attempt to find a new approach of combiningthe good properties and performance of both the GA and ANN to make CGHs of high diffraction efficiency in a short time. The optimization of CGH using the genetic algorithm is merely a process of iteration, including selection, crossover, and mutation operators [2]. It is worth noting that the evaluation of the cost function with the aim of selecting better holograms plays an important role in the implementation of the GA. However, this evaluation process wastes much time for Fourier transforming the encoded parameters on the hologram into the value to be solved. Depending on the speed of computer, this process can even last up to ten minutes. It will be more effective if instead of merely generating random holograms in the initial process, a set of approximately desired holograms is employed. By doing so, the initial population will contain less trial holograms equivalent to the reduction of the computation time of GA's. Accordingly, a hybrid algorithm that utilizes a trained neural network to initiate the GA's procedure is proposed. Consequently, the initial population contains less random holograms and is compensated by approximately desired holograms. Figure 1 is the flowchart of the hybrid algorithm in comparison with the classical GA. The procedure of synthesizing a hologram on computer is divided into two steps. First the simulation of holograms based on ANN method [1] to acquire approximately desired holograms is carried. With a teaching data set of 9 characters obtained from the classical GA, the number of layer is 3, the number of hidden node is 100, learning rate is 0.3, and momentum is 0.5, the artificial neural network trained enables us to attain the approximately desired holograms, which are fairly good agreement with what we suggested in the theory. The second step, effect of several parameters on the operation of the hybrid algorithm is investigated. In principle, the operation of the hybrid algorithm and GA are the same except the modification of the initial step. Hence, the verified results in Ref [2] of the parameters such as the probability of crossover and mutation, the tournament size, and the crossover block size are remained unchanged, beside of the reduced population size. The reconstructed image of 76.4% diffraction efficiency and 5.4% uniformity is achieved when the population size is 30, the iteration number is 2000, the probability of crossover is 0.75, and the probability of mutation is 0.001. A comparison between the hybrid algorithm and GA in term of diffraction efficiency and computation time is also evaluated as shown in Fig. 2. With a 66.7% reduction in computation time and a 2% increase in diffraction efficiency compared to the GA method, the hybrid algorithm demonstrates its efficient performance. In the optical experiment, the phase holograms were displayed on a programmable phase modulator (model XGA). Figures 3 are pictures of diffracted patterns of the letter "0" from the holograms generated using the hybrid algorithm. Diffraction efficiency of 75.8% and uniformity of 5.8% are measured. We see that the simulation and experiment results are fairly good agreement with each other. In this paper, Genetic Algorithm and Neural Network have been successfully combined in designing CGHs. This method gives a significant reduction in computation time compared to the GA method while still allowing holograms of high diffraction efficiency and uniformity to be achieved. This work was supported by No.mOl-2001-000-00324-0 (2002)) from the Korea Science & Engineering Foundation.

  • PDF

전이학습 기반 다중 컨볼류션 신경망 레이어의 활성화 특징과 주성분 분석을 이용한 이미지 분류 방법 (Transfer Learning using Multiple ConvNet Layers Activation Features with Principal Component Analysis for Image Classification)

  • 바트후 ?바자브;주마벡 알리하노브;팡양;고승현;조근식
    • 지능정보연구
    • /
    • 제24권1호
    • /
    • pp.205-225
    • /
    • 2018
  • Convolutional Neural Network (ConvNet)은 시각적 특징의 계층 구조를 분석하고 학습할 수 있는 대표적인 심층 신경망이다. 첫 번째 신경망 모델인 Neocognitron은 80 년대에 처음 소개되었다. 당시 신경망은 대규모 데이터 집합과 계산 능력이 부족하여 학계와 산업계에서 널리 사용되지 않았다. 그러나 2012년 Krizhevsky는 ImageNet ILSVRC (Large Scale Visual Recognition Challenge) 에서 심층 신경망을 사용하여 시각적 인식 문제를 획기적으로 해결하였고 그로 인해 신경망에 대한 사람들의 관심을 다시 불러 일으켰다. 이미지넷 첼린지에서 제공하는 다양한 이미지 데이터와 병렬 컴퓨팅 하드웨어 (GPU)의 발전이 Krizhevsky의 승리의 주요 요인이었다. 그러므로 최근의 딥 컨볼루션 신경망의 성공을 병렬계산을 위한 GPU의 출현과 더불어 ImageNet과 같은 대규모 이미지 데이터의 가용성으로 정의 할 수 있다. 그러나 이러한 요소는 많은 도메인에서 병목 현상이 될 수 있다. 대부분의 도메인에서 ConvNet을 교육하기 위해 대규모 데이터를 수집하려면 많은 노력이 필요하다. 대규모 데이터를 보유하고 있어도 처음부터 ConvNet을 교육하려면 많은 자원과 시간이 소요된다. 이와 같은 문제점은 전이 학습을 사용하면 해결할 수 있다. 전이 학습은 지식을 원본 도메인에서 새 도메인으로 전이하는 방법이다. 전이학습에는 주요한 두 가지 케이스가 있다. 첫 번째는 고정된 특징점 추출기로서의 ConvNet이고, 두번째는 새 데이터에서 ConvNet을 fine-tuning 하는 것이다. 첫 번째 경우, 사전 훈련 된 ConvNet (예: ImageNet)을 사용하여 ConvNet을 통해 이미지의 피드포워드 활성화를 계산하고 특정 레이어에서 활성화 특징점을 추출한다. 두 번째 경우에는 새 데이터에서 ConvNet 분류기를 교체하고 재교육을 한 후에 사전 훈련된 네트워크의 가중치를 백프로퍼게이션으로 fine-tuning 한다. 이 논문에서는 고정된 특징점 추출기를 여러 개의 ConvNet 레이어를 사용하는 것에 중점을 두었다. 그러나 여러 ConvNet 레이어에서 직접 추출된 차원적 복잡성을 가진 특징점을 적용하는 것은 여전히 어려운 문제이다. 우리는 여러 ConvNet 레이어에서 추출한 특징점이 이미지의 다른 특성을 처리한다는 것을 발견했다. 즉, 여러 ConvNet 레이어의 최적의 조합을 찾으면 더 나은 특징점을 얻을 수 있다. 위의 발견을 토대로 이 논문에서는 단일 ConvNet 계층의 특징점 대신에 전이 학습을 위해 여러 ConvNet 계층의 특징점을 사용하도록 제안한다. 본 논문에서 제안하는 방법은 크게 세단계로 이루어져 있다. 먼저 이미지 데이터셋의 이미지를 ConvNet의 입력으로 넣으면 해당 이미지가 사전 훈련된 AlexNet으로 피드포워드 되고 3개의 fully-connected 레이어의 활성화 틀징점이 추출된다. 둘째, 3개의 ConvNet 레이어의 활성화 특징점을 연결하여 여러 개의 ConvNet 레이어의 특징점을 얻는다. 레이어의 활성화 특징점을 연결을 하는 이유는 더 많은 이미지 정보를 얻기 위해서이다. 동일한 이미지를 사용한 3개의 fully-connected 레이어의 특징점이 연결되면 결과 이미지의 특징점의 차원은 4096 + 4096 + 1000이 된다. 그러나 여러 ConvNet 레이어에서 추출 된 특징점은 동일한 ConvNet에서 추출되므로 특징점이 중복되거나 노이즈를 갖는다. 따라서 세 번째 단계로 PCA (Principal Component Analysis)를 사용하여 교육 단계 전에 주요 특징점을 선택한다. 뚜렷한 특징이 얻어지면, 분류기는 이미지를 보다 정확하게 분류 할 수 있고, 전이 학습의 성능을 향상시킬 수 있다. 제안된 방법을 평가하기 위해 특징점 선택 및 차원축소를 위해 PCA를 사용하여 여러 ConvNet 레이어의 특징점과 단일 ConvNet 레이어의 특징점을 비교하고 3개의 표준 데이터 (Caltech-256, VOC07 및 SUN397)로 실험을 수행했다. 실험결과 제안된 방법은 Caltech-256 데이터의 FC7 레이어로 73.9 %의 정확도를 얻었을 때와 비교하여 75.6 %의 정확도를 보였고 VOC07 데이터의 FC8 레이어로 얻은 69.2 %의 정확도와 비교하여 73.1 %의 정확도를 보였으며 SUN397 데이터의 FC7 레이어로 48.7%의 정확도를 얻었을 때와 비교하여 52.2%의 정확도를 보였다. 본 논문에 제안된 방법은 Caltech-256, VOC07 및 SUN397 데이터에서 각각 기존에 제안된 방법과 비교하여 2.8 %, 2.1 % 및 3.1 %의 성능 향상을 보였다.

인공지능을 이용한 과일 가격 예측 모델 연구 (Fruit price prediction study using artificial intelligence)

  • 임진모;김월용;변우진;신승중
    • 문화기술의 융합
    • /
    • 제4권2호
    • /
    • pp.197-204
    • /
    • 2018
  • 현재 우리가 사는 21세기에서 가장 핫한 이슈중 하나는 AI이다. 농경사회에서 산업혁명을 통해 육체노동의 자동화를 이루었듯이 정보사회에서 SW혁명을 통해 지능정보사회가 도래햇다. Google '알파고'의 등장으로 인해 컴퓨터가 스스로 학습하고 예측하는 machine learning (머신러닝) 사례를 보면서 이제 바둑의 세계 까지 인간이 컴퓨터를 이길 수 없는, 다시 말하면 컴퓨터가 인간을 뛰어넘는 시대가 왔다. 기계학습ML(machine learning)은 인공 지능 분야로, 인공지능 컴퓨터가 인간을 뛰어넘는 시대가 도래했다. 기계학습ML(machine learning)은 인공지능의 분야로, 인공지능 컴퓨터가 혼자 학습 하도록 알고리즘 기술 개발을 하는 뜻을 의미하는데, 많은 기업들이 머신러닝을 바둑의 세계까지 인간이 컴퓨터를 이길 수 없는, 다시 말하면 컴퓨터가 인간을 뛰어넘는 시대가 왔다. 많은 기업들이 머신러닝을 용하는데 그 예로는 Facebook에서 이미지를 계속 학습하여 나중에 그 이미지가 누구인지 알려주는 것도 머신러닝의 한 사례이다. 또한 구글의 데이터 센터 최적화를 위해서 효율적인 에너지 사용 모델 구축을 위해 neural network(신경망)을 활용하였다. 또 다른 사례로 마이크로소프트의 실시간 통역 모델은 번역 학습을 통해 언어관련 인풋 데이터가 증가할수록 더 정교한 번역을 해주는 모델이다. 이처럼 많은 분야에 머신러닝이 점차 쓰이면서 이제 우리 21세기 사회에서 앞으로 나아가려면 AI산업으로 뛰어들어야 한다.

신경망 이론을 이용한 탄성파 주시 토모그래피의 연구 (Seismic Traveltime Tomography using Neural Network)

  • 김태연;윤왕중
    • 지구물리와물리탐사
    • /
    • 제2권4호
    • /
    • pp.167-173
    • /
    • 1999
  • 탄성파 토모그래피 중에서 많이 사용되는 2차원 시추공-시추공 주시 토모그래피는 파선각이 제한됨에 따라 분해능이 저하되므로, 본 논문에서는 감소된 분해능을 향상시키기 위한 방법들을 검토해 보았다. 토모그래피 역산 과정은 파선의 위치 및 주시에 대한 오차에 민감하므로 선형 주시 보간법을 사용하여 파선을 추적하였으며, 다른 파선 추적법들에 의한 역산결과와 비교하여 좋은 결과를 얻을 수 있었다. 반복적 비선형 역산 과정에 있어서, 파선경로의 추적에 소요되는 계산 시간을 줄이기 위해서 일정 계산과정 동안 선형성을 고려하였으며 그 결과 빠른 수렴을 얻을 수 있었다. 일반적으로 역산과정에서는 적절한 초기 모델의 선정이 계산 결과에 많은 영향을 미치므로, 인공 신경망을 이용하여 획득된 주시로부터 초기속도 모델을 계산하였다. 지구물리학에서 인공 신경망법으로 많이 쓰이는 다층 전향 신경망은 내재된 단점들 때문에 좋은 결과를 얻을 수 없었으므로, 본 연구에서는 GRNN신경망을 이용하였다. 인공 신경망으로부터 계산된 초기모델을 역산에 사용함으로써 분해능을 향상시킬 수 있었다. 그러나 파선 투과각이 넓은 경우나 탐사 대상체가 매우 복잡한 구조를 가지는 경우에는 초기모델이 역산결과에 큰 영향을 주지 않았다. 지구물리학적 토모그래피에서는 파선의 투과각이 제한을 받게되는 경우가 많으므로, 이럴 경우 인공 신경망을 이용하여 초기 모델값을 계산함으로써 역산 결과 생성되는 단면도의 분해능을 향상시킬 수 있다.

  • PDF

Prediction of the remaining time and time interval of pebbles in pebble bed HTGRs aided by CNN via DEM datasets

  • Mengqi Wu;Xu Liu;Nan Gui;Xingtuan Yang;Jiyuan Tu;Shengyao Jiang;Qian Zhao
    • Nuclear Engineering and Technology
    • /
    • 제55권1호
    • /
    • pp.339-352
    • /
    • 2023
  • Prediction of the time-related traits of pebble flow inside pebble-bed HTGRs is of great significance for reactor operation and design. In this work, an image-driven approach with the aid of a convolutional neural network (CNN) is proposed to predict the remaining time of initially loaded pebbles and the time interval of paired flow images of the pebble bed. Two types of strategies are put forward: one is adding FC layers to the classic classification CNN models and using regression training, and the other is CNN-based deep expectation (DEX) by regarding the time prediction as a deep classification task followed by softmax expected value refinements. The current dataset is obtained from the discrete element method (DEM) simulations. Results show that the CNN-aided models generally make satisfactory predictions on the remaining time with the determination coefficient larger than 0.99. Among these models, the VGG19+DEX performs the best and its CumScore (proportion of test set with prediction error within 0.5s) can reach 0.939. Besides, the remaining time of additional test sets and new cases can also be well predicted, indicating good generalization ability of the model. In the task of predicting the time interval of image pairs, the VGG19+DEX model has also generated satisfactory results. Particularly, the trained model, with promising generalization ability, has demonstrated great potential in accurately and instantaneously predicting the traits of interest, without the need for additional computational intensive DEM simulations. Nevertheless, the issues of data diversity and model optimization need to be improved to achieve the full potential of the CNN-aided prediction tool.

Optimization-based method for structural damage detection with consideration of uncertainties- a comparative study

  • Ghiasi, Ramin;Ghasemi, Mohammad Reza
    • Smart Structures and Systems
    • /
    • 제22권5호
    • /
    • pp.561-574
    • /
    • 2018
  • In this paper, for efficiently reducing the computational cost of the model updating during the optimization process of damage detection, the structural response is evaluated using properly trained surrogate model. Furthermore, in practice uncertainties in the FE model parameters and modelling errors are inevitable. Hence, an efficient approach based on Monte Carlo simulation is proposed to take into account the effect of uncertainties in developing a surrogate model. The probability of damage existence (PDE) is calculated based on the probability density function of the existence of undamaged and damaged states. The current work builds a framework for Probability Based Damage Detection (PBDD) of structures based on the best combination of metaheuristic optimization algorithm and surrogate models. To reach this goal, three popular metamodeling techniques including Cascade Feed Forward Neural Network (CFNN), Least Square Support Vector Machines (LS-SVMs) and Kriging are constructed, trained and tested in order to inspect features and faults of each algorithm. Furthermore, three wellknown optimization algorithms including Ideal Gas Molecular Movement (IGMM), Particle Swarm Optimization (PSO) and Bat Algorithm (BA) are utilized and the comparative results are presented accordingly. Furthermore, efficient schemes are implemented on these algorithms to improve their performance in handling problems with a large number of variables. By considering various indices for measuring the accuracy and computational time of PBDD process, the results indicate that combination of LS-SVM surrogate model by IGMM optimization algorithm have better performance in predicting the of damage compared with other methods.

이미지 인식 기술의 산업 적용 동향 연구 (A Study on the Industrial Application of Image Recognition Technology)

  • 송재민;이새봄;박아름
    • 한국콘텐츠학회논문지
    • /
    • 제20권7호
    • /
    • pp.86-96
    • /
    • 2020
  • 본 연구는 이미지 인식기술 서비스의 산업 적용 사례를 기반으로 인공지능이 이미지 인식기술에 어떠한 역할을 하고 있는지 살펴보았다. 이미지 인식 기술을 사용하여 위성사진을 인공지능으로 분석해 특정 국가의 원유 저장탱크의 산출 내역을 밝혀내거나, 사용자가 촬영하거나 다운로드한 이미지와 유사한 이미지나 제품을 검색해주기도 하며, 과일의 산출량을 정렬한다거나 식물의 질병을 탐지해 낼 수도 있다. 딥러닝과 신경망 알고리즘을 기반으로 사람의 나이, 성별, 기분까지도 인식할 수 있어 이미지 인식 기술이 다양한 산업에서 적용되고 있음을 확인하였다. 본 연구에서는 국내 및 해외의 이미지 인식 기술의 활용 사례를 살펴보는 것 뿐 아니라, 어떠한 형태로 산업에 적용되고 있는지 확인을 할 수 있다. 또한, 본 연구를 통하여 여러 산업에서 이미지 인식기술을 구현하고 적용하여 발전시킨 여러 성공 사례들을 중심으로 향후 연구의 방향성을 제시했으며, 향후 국내 이미지 인식 기술이 나아가야 할 방향을 고찰해 볼 수 있다.

적외선영상에서 질감 특징과 신경회로망을 이용한 표적탐지 (Target Detection Using Texture Features and Neural Network in Infrared Images)

  • 선선구
    • 전자공학회논문지SC
    • /
    • 제47권5호
    • /
    • pp.62-68
    • /
    • 2010
  • 적외선영상에서 표적을 효율적으로 탐지하는 새로운 자동표적탐지 알고리즘을 제안한다. 이 연구의 목적은 실제 야지환경에서 획득된 적외선영상에서 낮은 오경보 확률로 표적의 위치를 정확히 찾는 것이다. 제안한 방법이 기존의 방법과 다른 점은 초기 탐지단계에서 사용되는 모폴로지 필터링 기법을 밝기정보를 갖고 있는 원래 입력 영상이 아닌 가버(Gabor) 응답 영상에 적용한 것과 표적과 클러터를 구분하기 위해 표적의 정확한 윤곽선 추출을 필요로 하지않는 것이다. 제안한 방법은 크게 3단계로 구성된다. 첫째로, 영상에서 돌출된 영역을 찾기 위해 입력영상으로부터 4 방향의 가버 응답을 구하고 픽셀별로 가버응답 합 영상을 구한다. 이 영상에 모폴로지 기법을 적용하여 돌출된 영역의 위치를 찾는다. 둘째로, 원래의 입력영상의 돌출된 영역에서 지역적인 질감특징 정보들을 찾는다. 마지막 단계로, 찾아진 지역적 특징 정보들이 신경회로망인 다층퍼셉트론 (Multi-Layer Perceptron)으로 입력되어 학습된 훈련 데이터들과의 비교를 통해 실제 표적과 클러터를 구분한다. 실험에서는 제안한 방법을 군사용 적외선 영상장비를 사용하여 실제 야지 환경에 획득된 영상에 적용하여 우수성과 실용가능성을 확인한다.

GRNN 알고리즘을 이용한 비선형적 움직임 벡터 추정 및 프레임 보간연구 (A Study on Frame Interpolation and Nonlinear Moving Vector Estimation Using GRNN)

  • 이승주;방민석;윤기방;김기두
    • 전기전자학회논문지
    • /
    • 제17권4호
    • /
    • pp.459-468
    • /
    • 2013
  • 본 논문에서는 비선형적 움직임에 대하여 시각적 화질 향상에 목적을 둔 프레임 보간 기법을 제안한다. 그러므로 블록 현상과 영상의 중첩을 감소시키고자 블록 크기를 128x128부터 1x1까지 순차적으로 전역탐색을 실시하여 최소 오차값이 가장 작은 블록이 포함된 프레임을 선택하고, 비선형적인 움직임 벡터를 GRNN(General Regression Neural Network) 알고리즘을 이용하여 재 추정함으로써 프레임을 보간하는 알고리즘을 제안한다. 이러한 알고리즘의 성능 분석을 위해 프레임 반복, 단방향 움직임 보상, 양방향 움직임 보상의 기법들과 비교한다. 객체의 움직임이 크거나 카메라 초점의 이동과 줌인(zoom-in), 줌아웃(zoom-out) 효과가 들어간 대상 영상에 대하여 주관적 화질면에서 성능이 향상됨을 보인다.

상황 인식 기반 해양 디지털 선박 상황 진단 시스템 구현 및 설계 (A Design and Implementation of Digital Vessel Context Diagnosis System Based on Context Aware)

  • 송병호;최명수;권장우;이성로
    • 한국통신학회논문지
    • /
    • 제35권6B호
    • /
    • pp.859-866
    • /
    • 2010
  • 예기치 못한 상황에 의한 선박 내 화재나 선체 파손 등 긴급 상황 발생 시에 대형의 해난 사고가 발생할 수 있다. 특히, 해수와 직접적으로 접촉하는 선체는 파도와 조류 등에 의해 다양한 저항과 흔들림 운동의 영향을 받게 되는 데 이를 고려한 선박 USN 미들웨어와 선박 내 상황 인식을 기반으로 한 시스템이 필요할 것이다. 이에 본 논문에서는 해양 디지털 선박의 무선 센서를 이용하여 수집된 위험 상황 정보를 분석하는 시스템을 제안하였으며, 센싱된 데이터를 분석하기 위하여 역전파 신경망을 설계하였다. 위험 상황별로 각 300개의 데이터 집합을 사용하여 역전파 신경망을 실험한 결과 화재 위험 상황에 대해서는 96%의 정확도를 가졌고 선체 위험 상황에 대해서는 약 88.7%의 정확도를 나타냈다. 제안된 시스템은 시스템의 정확도를 개선하기 위하여 전방향 에러 정정 시스템(LDPC)을 구현하였고 진단된 결과는 CDMA 방식으로 전송하여 해양 디지털선박 상황 모니터링 시스템을 구현했다.