• International Journal of Internet, Broadcasting and Communication
• /
• 제11권4호
• /
• pp.31-36
• /
• 2019

Unsupervised neural networks have not caught enough attention until Generative Adversarial Network (GAN) was proposed. By using both the generator and discriminator networks, GAN can extract the main characteristic of the original dataset and produce new data with similarlatent statistics. However, researchers understand fully that training GAN is not easy because of its unstable condition. The discriminator usually performs too good when helping the generator to learn statistics of the training datasets. Thus, the generated data is not compelling. Various research have focused on how to improve the stability and classification accuracy of GAN. However, few studies delve into how to improve the training efficiency and to save training time. In this paper, we propose a novel optimizer, named FAST-ADAM, which integrates the Lookahead to ADAM optimizer to train the generator of a semi-supervised generative adversarial network (SSGAN). We experiment to assess the feasibility and performance of our optimizer using Canadian Institute For Advanced Research - 10 (CIFAR-10) benchmark dataset. From the experiment results, we show that FAST-ADAM can help the generator to reach convergence faster than the original ADAM while maintaining comparable training accuracy results.

• 지구물리와물리탐사
• /
• 제22권4호
• /
• pp.202-209
• /
• 2019

본 연구에서는 Adam 최적화 기법을 이용한 음향매질에서의 탄성파 파형역산 방법을 제안하였다. 탄성파 파형역산에서 최적화에 사용되는 기본적인 최대 경사법은 계산이 빠르고 적용이 간편하다는 장점이 있다. 하지만 속도 모델의 갱신에 일정한 갱신 크기를 사용함에 따라 오차가 정확하게 수렴하지 않는다. 이에 대한 대안으로 제시된 다양한 최적화 기법들의 경우 정확성은 높지만 많은 계산 시간을 필요로 한다는 한계가 있다. Adam 최적화 기법은 최근 딥 러닝 분야에서 학습 모델의 최적화를 위해 사용되는 기법으로 다양한 형태의 모델에 대한 최적화 문제에서 가장 효율적인 성능을 보이고 있다. 따라서 Adam 최적화 기법을 이용한 파형역산 방법을 개발하여 탄성파 파형역산에서의 오차가 빠르고 정확하게 수렴하도록 하였다. 제안된 역산 기법의 성능을 검증하기 위해, 일정한 갱신 크기를 가지는 최대 경사법을 이용하여 수행된 역산 결과와 제안된 Adam 최적화 기반 파형역산을 수행하여 갱신된 P파 속도 모델을 비교하였다. 그 결과 제안된 기법을 통해 빠른 오차 수렴 속도와 높은 정확도의 결과를 확인할 수 있었다.

• KSII Transactions on Internet and Information Systems (TIIS)
• /
• 제17권3호
• /
• pp.816-839
• /
• 2023

In a random vector functional link (RVFL) network, shortcomings such as local optimal stagnation and decreased convergence performance cause a reduction in the accuracy of illumination correction by only inputting the weights and biases of hidden neurons. In this study, we proposed an improved regularized random vector functional link (RRVFL) network algorithm with an optimized grey wolf optimizer (GWO). Herein, we first proposed the moth-flame optimization (MFO) algorithm to provide a set of excellent initial populations to improve the convergence rate of GWO. Thereafter, the MFO-GWO algorithm simultaneously optimized the input feature, input weight, hidden node and bias of RRVFL, thereby avoiding local optimal stagnation. Finally, the MFO-GWO-RRVFL algorithm was applied to ameliorate the performance of illumination correction of various test images. The experimental results revealed that the MFO-GWO-RRVFL algorithm was stable, compatible, and exhibited a fast convergence rate.

• Smart Structures and Systems
• /
• 제26권3호
• /
• pp.263-275
• /
• 2020

This research is dedicated to slope stability analysis using novel intelligent models. By coupling a neural network with spotted hyena optimizer (SHO), salp swarm algorithm (SSA), shuffled frog leaping algorithm (SFLA), and league champion optimization algorithm (LCA) metaheuristic algorithms, four predictive ensembles are built for predicting the factor of safety (FOS) of a single-layer cohesive soil slope. The data used to develop the ensembles are provided from a vast finite element analysis. After creating the proposed models, it was observed that the best population size for the SHO, SSA, SFLA, and LCA is 300, 400, 400, and 200, respectively. Evaluation of the results showed that the combination of metaheuristic and neural approaches offers capable tools for estimating the FOS. However, the SSA (error = 0.3532 and correlation = 0.9937), emerged as the most reliable optimizer, followed by LCA (error = 0.5430 and correlation = 0.9843), SFLA (error = 0.8176 and correlation = 0.9645), and SHO (error = 2.0887 and correlation = 0.8614). Due to the high accuracy of the SSA in properly adjusting the computational parameters of the neural network, the corresponding FOS predictive formula is presented to be used as a fast yet accurate substitution for traditional methods.

• 한국정보기술학회 영문논문지
• /
• 제8권2호
• /
• pp.119-127
• /
• 2018

Training a very large deep neural network can be painfully slow and prone to overfitting. Many researches have done for overcoming the problem. In this paper, a combination of early stopping and ADAM based deep neural network was presented. This form of deep network is useful for handling the big data because it automatically stop the training before overfitting occurs. Also generalization ability is better than pure deep neural network model.

• International Journal of Fluid Machinery and Systems
• /
• 제3권4호
• /
• pp.352-359
• /
• 2010

In recent years, the market has shown increasing interest in pump-turbines. The prompt availability of pumped storage plants and the benefits to the power system achieved by peak lopping, providing reserve capacity, and rapid response in frequency control are providing a growing advantage. In this context, there is a need to develop pumpturbines that can reliably withstand dynamic operation modes, fast changes of discharge rate by adjusting the variable diffuser vanes, as well as fast changes from pumping to turbine operation. In the first part of the present study, various flow patterns linked to operation of a pump-turbine system are discussed. In this context, pump and turbine modes are presented separately and different load cases are shown in each operating mode. In order to create modern, competitive pump-turbine designs, this study further explains what design challenges should be considered in defining the geometry of a pump-turbine impeller. The second part of the paper describes an innovative, staggered approach to impeller development, applied to a low head pump-turbine project. The first level of the process consists of optimization strategies based on evolutionary algorithms together with 3D in-viscid flow analysis. In the next stage, the hydraulic behavior of both pump mode and turbine mode is evaluated by solving the full 3D Navier-Stokes equations in combination with a robust turbulence model. Finally, the progress in hydraulic design is demonstrated by model test results that show a significant improvement in hydraulic performance compared to an existing reference design.

• 대한기계학회논문집A
• /
• 제29권2호
• /
• pp.303-310
• /
• 2005

The systems with probe and SIL(Solid Immersion Lens) mechanisms have been researched as the technology to perform NFR(Near Field Recording). Most of them use the flying head mechanism to accomplish high recording density and fast data transfer rate. In this paper, ABS shape of flying head was optimized with the object of securing the maximum compliance ability of OFH. We suggest low different optimization processes to predict the static flying characteristics for the OFH. Two different approximation methods, regression analysis and back propagation neural network were used. And we compared the result of directly connected(between CAE and optimizer) method and two approximated optimization results. Design Optimization Tool(DOT) and ${\mu}GA$ were used as the optimizers.

• 한국자원식물학회지
• /
• 제14권3호
• /
• pp.235-240
• /
• 2001

Polyphenol 화합물이 다량 함유된 식물종의 유연관계 분석이나 형질전환 유전자 확인 등을 위해 PCR을 이용할 경우 다량의 재료로부터 신속 간편하게 분리한 DNA를 이용할 수 있는 조건을 설정 하였다. 폴리페놀 함량이 높은 포도, 사과, 복분자와 같은 과수류에서 간편법에 의해 추출된 DNA를 이용한 PCR 반응액에 2%의 BLOTTO를 첨가함으로서 DNA의 재현적 증폭이 가능하였다. 간편 추출 DNA를 이용한 PCR에서 의 BLOTTO효과는 primer, 품종, 식물종에 관계없이 일반적으로 발현되었다. 상추의 형질전환 유전자 검색을 위한 PCR에서 도 BLOTTO 효과가 확인되었다. 따라서 PCR 반응액에 2% BLOTTO를 첨가하면 간편 법 에 의해 추출된 polyphenol 화합물 고함유 식물종의 DNA를 이용하여서도 PCR에 의한 유전배경 및 특정 유전자의 대량 신속 분석이 가능할 것이다.

• 한국정보과학회논문지:컴퓨팅의 실제 및 레터
• /
• 제16권11호
• /
• pp.1031-1040
• /
• 2010

데이터베이스 관리 시스템의 핵심 알고리즘인 해쉬 조인은 해싱을 위한 메모리가 부족한 경우(즉, 해쉬 테이블 오버플로우) 디스크 입출력를 유발하게 된다 하드디스크를 임시 저장공간으로 사용할 경우, 해쉬 조인의 probing 단계에서 과도한 임의 읽기로 인해 I/O 시간이 성능을 저하시키게 된다. 한편, 플래시메모리 SSD가 저장장치로 각광을 받고 있으며, 머지않아 엔터프라이즈 환경에서 하드디스크를 대체할 것으로 예상 된다 하드디스크와 달리, 기계적인 동작 장치가 없는 플래시메모리 SSD의 경우 임의 읽기에서 빠른 성능을 보이기 때문에 해쉬 조인의 성능을 크게 향상시킬 수 있다. 본 논문에서는 플래시 메모리 SSD를 해쉬 조인을 위한 임시 저장공간으로 사용할 경우의 몇 가지 중요하고 현실적인 이슈들을 다룬다. 우선, 해쉬 조인의 I/O 패턴을 자세히 설명하고, 하드디스크에 비해 플래시메모리 SSD가 수십 배에 가까운 성능 향상을 보이는 이유를 설명한다. 다음으로, 클러스터 크기(즉, 해쉬 조인 알고리즘에서 사용하는 I/O 단위)가 성능에 미치는 영향을 제시하고 분석한다. 마지막으로, 하드디스크의 경우, DBMS의 질의 최적화기가 산출하는 비용이 실 수행시간과 편차가 클 수 있는데 반해, 플래시메모리 SSD의 경우 비용 산출을 정확히 하게 됨을 실험적으로 보인다. 결론적으로, 플래시메모리 SSD를 해쉬 조인을 위한 임시 저장공간으로 사용할 경우, 빠른 성능과 더불어 질의 최적화기의 비용 산출이 훨씬 더 신뢰할 수 있음을 보인다.