• 제목/요약/키워드: Metaheuristic

검색결과 174건 처리시간 0.029초

HS 알고리즘을 이용한 CNN의 Hyperparameter 결정 기법 (Method that determining the Hyperparameter of CNN using HS algorithm)

  • 이우영;고광은;김종우;심귀보
    • 한국지능시스템학회논문지
    • /
    • 제27권1호
    • /
    • pp.22-28
    • /
    • 2017
  • Convolutional Neural Network(CNN)는 특징 추출과 분류의 두 단계로 나눌 수 있다. 그 중 특징 추출 단계의 커널의 크기, 채널의 수, stride 등의 hyperparameter는 CNN의 구조를 결정할 뿐만 아니라 특징을 추출하는 데에도 영향을 주기 때문에 CNN의 전체적인 성능에도 영향을 준다. 본 논문에서는 Parameter-Setting-Free Harmony Search(PSF-HS) 알고리즘을 이용하여 CNN의 특징 추출 단계에서의 hyperparameter를 최적화 하는 방법을 제안하였다. CNN의 전체 구조를 설정한 뒤 hyperparameter를 변수로 설정하였고 PSF-HS 알고리즘을 적용하여 hyperparameter를 최적화 하였다. 시뮬레이션은 MATLAB을 이용하여 진행하였고 CNN은 mnist 데이터를 이용하여 학습과 테스트를 했다. 총 500번 동안 변수를 업데이트했고 제안하는 방법을 이용하여 구한 CNN 구조 중 가장 높은 정확도를 가지는 구조는 99.28%의 정확도로 mnist 데이터를 분류하는 것을 확인할 수 있었다.

장기 저수지운영률 도출을 위한 메타휴리스틱 기법의 비교 (Comparision of metaheuristic methods for generating long-term reservoir operation rule)

  • 강신욱;이상호;김현식
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2011년도 학술발표회
    • /
    • pp.226-226
    • /
    • 2011
  • 최적 저수지운영을 위한 운영률 도출이나 강우-유출 및 수질 모형의 매개변수 추정 문제처럼 비선형적이고 추정해야할 변수의 수가 많은 경우, 수학적으로 모형화하기에 너무 복잡해서 선형계획법, 비선형계획법, 동적계획법 등을 사용하여 최적해를 구할 수 없는 경우도 있다. 이러한 문제에 대해서는 구조적 진화를 통해 최적해를 구하는 방법들이 사용된다. 일반적으로 미지수의 개수가 많아지면 전역최적해를 찾기가 어려워진다. 전역최적해를 찾는 여러 가지 방법들이 수자원 분야에서는 강우-유출모형의 매개변수를 추정하는데 많이 사용되고 있으며, 특히 유전자 알고리즘, SCE-UA 알고리즘 등 전역최적해를 찾는 메타휴리스틱 방법이 많이 사용되고 있다. 전역최적화 방법을 개발하는 연구자들은 최적화방법의 성능을 평가하기 위해 다양한 검사함수(test function)를 만들어 성능을 평가하고 있다. 본 연구에 사용한 검사함수는 Mishra의 연구(2006a, 2006b)에서 사용한 중요하고 복잡한 검사함수이다. 유전자 알고리즘, SCE-UA 알고리즘, DDS 알고리즘을 검사함수 중 전역해를 찾기 어려운 2 차원 함수 2 가지, 다차원 함수 4 가지 함수에 적용하여 각각의 탐색 성능을 평가하였다. 2차원 함수인 Bukin 함수에 대해서는 모든 최적화 방법이 전역최적해를 찾을 수 없었지만, 유전자 알고리즘이 가장 전역최적해에 가까웠고 다음으로 DDS 알고리즘 순서였다. 지역수렴 영역이 많을 것으로 판단되는 10, 30, 50 차원 Michalewicz 함수에 대해서는 DDS 알고리즘으로 구한 최적해가 전역최적해와 매우 근접하였고 다음으로 SCE-UA 알고리즘, 유전자 알고리즘 순이었다. 지역수렴 영역이 상대적으로 다른 함수보다 넓은 10 차원 Schwefel 함수에 대해서는 DDS 알고리즘으로 구한 최적해가 전역최적해와 거의 근접하였고 유전자 알고리즘과 SCE-UA 알고리즘은 매우 큰 편차를 보였다. 40, 80 차원 Schwefel 함수에 대해서는 3 가지 알고리즘 모두 전역최적해와 편차를 보였지만 DDS 알고리즘에 의한 최적해와 다른 두 알고리즘에 의한 최적해는 1 오더(order) 정도의 차이가 났다. 지역수렴 영역이 큰 Michalewicz 함수와 Schwefel 함수에 대한 결과는 매우 흡사한 결과이다. 이상과 같은 결과로, 유전자 알고리즘은 매개변수의 수가 적을 경우 우수한 탐색성능을 가졌으며, SCE-UA 알고리즘은 Griewank, Rastrigin 함수와 같은 형태인 경우 우수한 성능을 보였다. DDS 알고리즘은 전체적으로 우수한 탐색 능력을 가진 것으로 판단된다. 그러므로 수위구간 영역별 저수지운영률 도출을 위한 적절한 최적화방법으로 DDS 알고리즘을 선정하였다.

  • PDF

운전기사 일정계획 문제의 교환-삽입 알고리즘 (Swap-Insert Algorithm for Driver Scheduling Problem)

  • 이상운
    • 한국컴퓨터정보학회논문지
    • /
    • 제19권11호
    • /
    • pp.175-181
    • /
    • 2014
  • 본 논문은 NP-완전인 DSP에 대해 O(m)의 다항시간으로 근사 해를 찾는 규칙을 제시한 휴리스틱 알고리즘을 제안하였다. 제안된 알고리즘은 m개의 주어진 운행계획에 대해, 최소의 운전기사인 n명을 배정한 초기 배정 결과를 얻는다. 다음으로, 교환 또는 삽입의 5개 규칙들을 적용하여 초과시간 (OT)과 유휴시간 (IT)를 감소시켜 최소의 비용 (TC)을 얻었다. 제안된 알고리즘은 최적 (또는 근사) 해를 찾는 규칙을 제안한 O(m) 복잡도의 휴리스틱 다항시간 알고리즘임에도 불구하고, 5개의 실험 데이터에 적용한 결과 메타 휴리스틱 기법들과 필적하는 결과를 얻었다. 결론적으로, 본 논문에서는 CSP에 있어서 최적 해를 찾아가는 규칙이 전혀 없는 NP-완전이 아닌 다항시간의 규칙이 존재하는 P-문제가 될 수 있음을 보였다.

혼합분포모형의 매개변수 추정방법 비교 (Comparison of Three Parameter Estimation Methods for Mixture Distributions)

  • 신주영;김수영;김태림;허준행
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2017년도 학술발표회
    • /
    • pp.45-45
    • /
    • 2017
  • 상이한 자연현상으로 발생된 자료들은 때때로 통계적으로 다른 특성을 가지는 경우가 있다. 이런 자료들은 다른 두 개 이상의 모집단에서 자료가 발생한 것으로 가정할 수 가 있다. 기존에 널리 사용되어온 분포형 모형의 경우 단일한 모집단으로부터 자료가 발생한다는 가정하에서 개발된 모형들로 위에서 언급한 자료들을 적절히 모의할 수 없다. 이런 상이한 모집단에서 발생된 자료를 모형화 하기 위해서 혼합분포모형(mixture distribution)이 개발되었다. 홍수나 가뭄 등과 같은 극치 사상의 경우 다양한 자연현상들로부터 발생하기에 혼합분포모형을 적용할 경우 보다 정확한 모의가 가능하다. 혼합분포모형은 두 개 이상의 비혼합분포모형들을 가중합하여 만들어진다. 혼합 분포모형의 형태로 인하여 기존의 분포형 모형의 매개변수 추정 모형으로 널리 사용되던 최우도법 (maximum likelihood method), 모멘트법(method of moment), 확률가중모멘트법 (probability weighted moment method) 등을 이용하여 혼합분포모형의 매개변수를 추정하는 것이 용이 하지 않다. 혼합분포모형의 매개변수 추정 방법으로는 Expectation-Maximization (EM) 알고리즘, Meta-Heuristic Maximum Likelihood (MHML) 방법, Markov Chain Monte Carlo (MCMC) 방법 등이 적용되고 있다. 현재까지 수자원 분야에서 사용되는 극치 자료를 혼합분포모형을 이용하여 모의할 때 매개변수 추정방법에 따른 특성에 대한 연구가 진행되지 않았다. 본 연구에서는 우리나라 연최대강우량 자료를 이용하여 혼합분포모형의 매개변수 추정방법 (EM 알고리즘, MHML 방법, MCMC 방법) 들의 특성들을 비교 분석하였다. 혼합분포모형으로는 Gumbel-Gumbel 혼합분포 모형을 적용하였다. 본 연구의 결과는 향후 혼합분포모형을 이용한 연구에 좋은 기초자료로 사용될 수 있을 것으로 판단된다.

  • PDF

무선 센서 네트워크에서 부하 균형 연결 지배 집합을 구성하기 위한 타부서치 알고리즘 (Tabu Search Algorithm for Constructing Load-balanced Connected Dominating Sets in Wireless Sensor Networks)

  • 장길웅
    • 한국정보통신학회논문지
    • /
    • 제26권4호
    • /
    • pp.571-581
    • /
    • 2022
  • 무선 센서 네트워크는 효과적인 라우팅과 브로드캐스팅을 위하여 가상 백본을 구성할 수 있는 연결 지배 집합 개념을 사용한다. 본 논문에서는 노드의 부하를 균형있게 분산하여 네트워크 수명을 늘리고 효과적인 라우팅을 수행하기 위하여 연결 지배 집합을 구성하는 최적화 알고리즘을 제안한다. 본 논문에서 제안한 최적화 알고리즘은 메타휴리스틱방식인 타부 서치 알고리즘을 사용하였으며, 구성되는 연결 지배 집합에서 각 지배자에 피지배자의 수를 균형있게 배치되도록 설계하였다. 제안된 알고리즘으로 부하 균형 연결 지배 집합을 구축함으로써 지배자의 부하를 균형있게 분산시킴으로써 네트워크 수명을 연장할 수 있게 하였다. 제안된 타부서치 알고리즘의 성능평가는 무선 센서 네트워크상에서 부하 균형과 관련된 항목들을 평가하였으며, 성능평가 결과에서 기존에 제안된 방식보다 우수한 성능을 확인할 수 있었다.

GPU-based Parallel Ant Colony System for Traveling Salesman Problem

  • Rhee, Yunseok
    • 한국컴퓨터정보학회논문지
    • /
    • 제27권2호
    • /
    • pp.1-8
    • /
    • 2022
  • 본 논문에서는 개미 집단 시스템(ant colony system)을 통한 순회 외판원 문제(traveling salesman problem)를 효과적으로 해결하기 위해 GPU 기반 병렬 알고리즘을 설계 구현하였다. TSP에서 동시에 수백 또는 수천의 탐색 여정(tour)을 생성하는 반복 과정을 GPU의 작업 병렬성을 활용하여 처리성능을 개선하고, 페로몬 자취 데이터의 업데이트 과정은 32x32의 쓰레드 블럭을 사용하여 데이터 병렬성을 적극 활용하였다. 특히 다중 쓰레드의 메모리 동시 접근을 통해 연속 메모리공간의 병합 접근 효과와 공유 메모리의 동시 접근을 지원하였다. 본 실험은 TSPLIB에서 제공되는 127개부터 1002개에 이르는 도시 데이터를 사용하였고, Intel Core i9-9900K CPU와 Nvidia Titan RTX 시스템을 사용하여 순차 알고리즘과 병렬 알고리즘의 성능을 비교하였다. GPU 병렬화에 의한 성능 향상은 약 10.13~11.37배의 성능 개선 효과를 보였다.

양방향 군집 알고리즘을 적용한 교차혼합 U자형 조립라인 균형문제 (Balancing Problem of Cross-over U-shaped Assembly Line Using Bi-directional Clustering Algorithm)

  • 이상운
    • 한국인터넷방송통신학회논문지
    • /
    • 제22권2호
    • /
    • pp.89-96
    • /
    • 2022
  • 본 논문은 NP-난제로 알려진 단일모델 교차혼합 조립라인 균형문제에 대해 휴리스틱 알고리즘을 제안하였다. 조립라인 균형문제는 주로 메타휴리스틱 방법들을 적용하고 있는 추세로 다항시간의 정확한 해를 찾는 알고리즘이 제안되지 않고 있어 실무에 적용하기가 매우 어렵다. 제안된 알고리즘은 주어진 총 조립시간 W와 순환시간 c에 대해 m* = ⌈W/c⌉의 최소 작업자수와 c* = ⌈W/m*⌉의 목표 순환시간을 구하고, i=1,2,…,m* 개의 작업대에 Ti=c* ±α≤ c가 되도록 양방향의 공정들을 배정하는 양방향 군집방법을 적용하였다. 7개의 다양한 실험 데이터에 적용한 결과 제안된 양방향 군집 알고리즘은 타 방법들과 동일한 성능을 보였다.

Greedy-based Neighbor Generation Methods of Local Search for the Traveling Salesman Problem

  • Hwang, Junha;Kim, Yongho
    • 한국컴퓨터정보학회논문지
    • /
    • 제27권9호
    • /
    • pp.69-76
    • /
    • 2022
  • 순회 외판원 문제는 가장 유명한 조합 최적화 문제 중 하나이다. 지금까지 이 문제를 해결하기 위해 많은 메타휴리스틱 탐색 알고리즘들이 제안되어 왔으며, 그중의 하나가 지역 탐색이다. 지역 탐색에 있어서 매우 중요한 요소 중 하나가 이웃해 생성 방법으로 주로 역전(inversion)과 같은 무작위 기반 이웃해 생성 방법들이 사용되어 왔다. 본 논문에서는 4가지의 새로운 그리디 기반 이웃해 생성 방법들을 제안한다. 3가지 방법은 그리디 삽입 휴리스틱을 기반으로 하는데, 선택된 도시들을 하나씩 차례로 현재 가장 좋은 위치로 삽입한다. 나머지 하나는 그리디 회전을 기반으로 한다. 제안된 방법들은 대표적인 지역 탐색 알고리즘인 first-choice 언덕 오르기 탐색과 시뮬레이티드 어닐링에 적용된다. 실험을 통해 제안된 그리디 기반 방법들이 기존의 무작위 기반 방법들보다 성능이 우수함을 확인하였다. 또한 일부 그리디 기반 방법들은 기존의 지역 탐색 기법들보다 더 우수함을 확인하였다.

랜덤형 2차원 할당문제의 최소 거리-최대 물동량 점진적 증대 매칭 알고리즘 (Algorithm for the Incremental Augmenting Matching of Min-Distance Max-Quantity in Random Type Quadratic Assignment Problem)

  • 이상운
    • 한국인터넷방송통신학회논문지
    • /
    • 제22권3호
    • /
    • pp.177-183
    • /
    • 2022
  • 2차원 할당 문제는 다항시간 알고리즘이 알려지지 않은 NP-완전 문제이다. 본 논문은 위치간 거리가 일정하지 않은 랜덤형 2차원 할당 문제의 최적 해를 O(n2) 수행 복잡도로 찾을 수 있는 알고리즘을 제안하였다. 제안된 알고리즘은 위치 행렬 L에서의 최소 거리 합 위치 li와 시설 행렬 F에서의 최대 물동량 시설 fj를 M={(li,fj)}으로 매치키시고, M을 기준으로 최소 거리 합 li와 시설 행렬 F에서의 최대 물동량 시설 fj의 매칭 쌍 (li,fj)을 점진적으로 증대시키는 전략을 수행하고, 위치별 거리와 시설별 물동량 상관관계를 최적으로 반영하기 위해 시설들을 교환하는 전략을 적용하였다. 실험 데이터에 적용한 결과, 제안 알고리즘은 O(n2) 의 다항시간 알고리즘임에도 불구하고 메타휴리스틱 방법의 일종인 유전자 알고리즘의 해를 개선할 수 있었다.

Genetic algorithm-based geometric and reinforcement limits for cost effective design of RC cantilever retaining walls

  • Mansoor Shakeel;Rizwan Azam;Muhammad R. Riaz
    • Structural Engineering and Mechanics
    • /
    • 제86권3호
    • /
    • pp.337-348
    • /
    • 2023
  • The optimization of reinforced concrete (RC) cantilever retaining walls is a complex problem and requires the use of advanced techniques like metaheuristic algorithms. For this purpose, an optimization model must first be developed, which involves mathematical complications, multidisciplinary knowledge, and programming skills. This task has proven to be too arduous and has halted the mainstream acceptance of optimization. Therefore, it is necessary to unravel the complications of optimization into an easily applicable form. Currently, the most commonly used method for designing retaining walls is by following the proportioning limits provided by the ACI handbook. However, these limits, derived manually, are not verified by any optimization technique. There is a need to validate or modify these limits, using optimization algorithms to consider them as optimal limits. Therefore, this study aims to propose updated proportioning limits for the economical design of a RC cantilever retaining wall through a comprehensive parametric investigation using the genetic algorithm (GA). Multiple simulations are run to examine various design parameters, and trends are drawn to determine effective ranges. The optimal limits are derived for 5 geometric and 3 reinforcement variables and validated by comparison with their predecessor, ACI's preliminary proportioning limits. The results indicate close proximity between the optimized and code-provided ranges; however, the use of optimal limits can lead to additional cost optimization. Modifications to achieve further optimization are also discussed. Besides the geometric variables, other design parameters not covered by the ACI building code, like reinforcement ratios, bar diameters, and material strengths, and their effects on cost optimization, are also discussed. The findings of this investigation can be used by experienced engineers to refine their designs, without delving into the complexities of optimization.