A Study on Portfolios Using Simulated Annealing and Tabu Search Algorithms

시뮬레이티드 어닐링와 타부 검색 알고리즘을 활용한 포트폴리오 연구

Abstract

Metaheuristics' impact is profound across many fields, yet domestic financial portfolio optimization research falls short, particularly in asset allocation. This study delves into metaheuristics for portfolio optimization, examining theoretical and practical benefits. Findings indicate portfolios optimized via metaheuristics outperform the Dow Jones Index in Sharpe ratios, underscoring their potential to enhance risk-adjusted returns significantly. Tabu search, in comparison to Simulated Annealing, demonstrates superior performance by efficiently navigating the search space. Despite these advancements, practical application remains challenging due to the complexities in metaheuristic implementation. The study advocates for broader algorithmic exploration, including population-based metaheuristics, to refine asset allocation strategies further. This research marks a step towards optimizing portfolios from an extensive array of financial assets, aiming for maximum efficacy in investment outcomes.

1. 서론

투자이론에서 위험을 줄이기 위해 상호 간의 상관계수가 낮은 다양한 자산들을 조합하여 투자하는 전략을 ‘분산 투자’라고 한다[1]. 투자이론에 있어 분산 투자는 기본적인 원칙이며, 이 원리를 바탕으로 ‘현대 포트폴리오 이론’이 발전하고 체계화되었다[1]. 현대 포트폴리오 이론은 1952년 해리 마코위츠(Harry M. Markowitz)가 제안한 평균-분산 최적화 모델이며, 이 모델에서는 분산 투자를 통해 포트폴리오의 위험을 감소시키는 데에 긍정적 영향을 미친다 [1][2]. 포트폴리오 최적화 이론의 초석인 마코위츠의 평균-분산 최적화 모델이 발표된 이후, 최적화(Optimization)는 현대 포트폴리오 관리에서 중추적인 역할을 하고 있다. 효율적인 자산 배분은 투자자의 수익률을 극대화하고, 위험을 최소화하는데 필수적이다. 이를 위해 복잡한 제약 조건을 다루는 수리계획법(Mathematical Programming)이 포트폴리오 문제를 해결하는 데 널리 사용되고 효과적인 도구로 입증되어오고 있다 [3].

하지만 수리계획법에 거래 비용, 포트폴리오 규모 등 다양한 현실적인 제약 조건들을 포함하면 복잡성의 증가와 계산 요구 등 복잡한 최적화 문제를 해결하는 데 있어 한계를 가지고 있다. 즉 포트폴리오 최적화 모델은 대상이 되는 실제 문제의 규모가 매우 커서 최적해를 찾는 것이 실질적으로 어렵다 [4]. 이를 해결하기 위해 휴리스틱 최적화(Heuristic Optimization)와 이보다 탐색 공간을 효율적으로 탐색하며, 전역 최적해에 가까운 해결책을 발견할 가능성을 높인 메타 휴리스틱 최적화(Meta-Heuristic Optimization)과 같은 대안적 접근법이 제시되었다. Soleimani et al [5]는 마코위츠 모델에 최소 거래 로트 크기 설정을 포함하는 포트폴리오 선택 문제에 유전 알고리즘을 적용하였다. Mohammadi [6]는 2015년부터 2021년까지 테헤란 증권 거래소에서 발생한 14차례의 가격 버블 기간 동안, 최대 수익과 최소 위험을 달성할 수 있는 주식 포트폴리오를 선별하기 위해 인공 벌 군집(Artificial Bee Colony) 알고리즘과 침입성 잡초 최적화(Invasive Weed Optimization) 알고리즘의 효율성을 비교 분석하였다. Erwin [7]은 포트폴리오 최적화 문제에 적용된 여러 메타휴리스틱 알고리즘들을 검토하였고, 유전 알고리즘(Genetic Algorithm)과 입자 군집 최적화(Particle Swarm Optimization)가 특히 포트폴리오 최적화에 많이 사용되었다는 것을 분석하였다.

최근까지도 다양한 기법과 새로운 실험을 시도함으로써 자산 배분의 다양성을 증진시키고 기존 자산 배분 방법의 한계를 보완하는 데 기여하고 있다. 하지만 국내 연구에서는 포트폴리오 최적화 문제에 적용된 여러 메타 휴리스틱 최적화 연구가 미흡하다. 기존 연구 중 박준기와 김도욱의 연구[8]는 유전 알고리즘과 슬라이딩 윈도우 기법을 활용해 주식 포트폴리오의 최적화 방법을 탐색하고, 샤프 비율을 기준으로 한 최적화가 코스피 200을 상회하는 성과를 보였으며, 김정현과 이주홍 [9]은 자산의 수 증가로 인한 탐색 공간의 기하급수적 확대 문제를 몬테카를로 시뮬레이션으로 해결하였고, 이를 통해 축소된 탐색 공간에서 유전 알고리즘을 사용하여 찾은 부최적 포트폴리오의 성능이 최적 포트폴리오에 근접함을 보였으며, 실제 주식 시장에 적용하여 그 유효성을 입증하였다. 장필식 [10]은 유전 알고리즘을 이용하여 그래디언트 부스팅으로 학습 및 예측 시 성능을 극대화할 수 있는 최적의 변수 조합을 찾는 연구를 수행하였다. 이렇듯 국내 선행 연구들은 여러 메타휴리스틱 중 오직 유전 알고리즘에 국한되어 있다. 이에 반해, 본 연구는 위험조정 수익 극대화 측면에서 타부 검색(Tabu Search, TS) 알고리즘과 시뮬레이티드 어닐링(Simulated Annealing, SA)을 활용하여 포트폴리오의 성능을 향상시킬 수 있는지 검토하고자 하였다.

본 논문은 다음과 같은 구조로 구성되어 있다. 제1장 서론에서는 연구의 배경과 필요성에 대해 설명한다. 제2장에서는 이 연구의 핵심인 타부 검색과 시뮬레이티드 어닐링 알고리즘에 대한 이론적 배경을 검토하고 요약하여 제공한다. 제3장에서는 실증 연구를 수행하기 위한 방법론을 설정하고, 실제 데이터분석을 통해 얻은 결과를 설명한다. 마지막으로, 제4장에서는 연구 결과의 의미와 함의를 논의하여, 이 연구의 결론을 제시한다.

2. 이론적 배경

메타휴리스틱 알고리즘은 그 범용성과 유연성 덕분에 특정 문제에 국한되지 않고 널리 사용된다. 즉, 이러한 알고리즘들은 전역 최적화(Global Optimization) 문제는 물론, 지역 최적화(Local Optimization) 문제에서도 효과적인 해결책을 제공할 수 있으며, 계산 비용이 매우 높거나 해결이 어려운 문제에 대해서도 유용한 접근 방법을 제시한다.

2.1 시뮬레이티드 어닐링

시뮬레이티드 어닐링은 물리학에서의 어닐링 과정 - 고체를 일정한 온도의 열탕에 넣고 가열하여 액체 상태로 전환시킨 후, 천천히 온도를 낮춰 가장 안정적인 상태의 결정체를 얻는 과정 – 을 모방하여 개발된 최적화 알고리즘이다. 이 알고리즘은 물체 온도를 변수 x로 설정하고, 해당 시점에서의 상태를 목적 함수(Object Function) 간주함으로써, 온도가 최저점에 도달했을 때 안정적인 최적해를 식별하는 방식으로 작동한다. 이 과정에서, 분자의 자유로운 움직임을 모방한 무작위 탐색을 통해, 시뮬레이티드 어닐링은 현재 해의 상태를 유지하면서 온도를 조절해가며 더 나은 해를 탐색하고, 만약 개선된 해를 찾지 못하면 다른 확률적 접근을 통해 현재 해보다 목적함수값이 높은 이웃 해로의 방향을 허용하며, 온도가 감소함에 따라 이웃해가 현재 해보다 우수할 경우 현재 해를 대체하도록 설계되었다. 이러한 반복적인 절차를 통해 시뮬레이티드 어닐링은 최종적으로 가장 안정된 상태, 즉 최적의 해(Optimal Solution)에 도달하도록 유도된다.

이 알고리즘은 최적화 문제와의 명확한 연관성, 간결한 변수 처리 그리고 이론적으로 입증된 수렴성 등의 장점을 가지며, 실제 응용 분야에서의 유효성이 검증되었다 [11]. 특히, 배송 경로 최적화, 통신 네트워크 라우팅 최적화 그리고 기계 학습모델의 하이퍼파라미터 최적화 등 다양한 분야에서 그 효과를 인정받고 있다.

Table 1. Pseudocode for the Simulating Annealing

2.2 타부 검색

타부 검색은 문제의 형태에 관계없이 사용될 수 있는 메타휴리스틱 알고리즘으로, 다양한 분야의 최적화 문제를 해결하는 데 널리 적용되고 있다. 이 알고리즘은 지역 탐색 방법과 유사하게 작동하며, 한 해에서 다른 해로 이동하면서 최적의 해를 찾는다. 이 과정은 종료 조건에 도달할 때까지 반복되어 문제를 해결한다. 타부 검색은 '타부리스트(Tabu List)'라는 메커니즘을 활용하여 최근에 탐색된 해들을 기록함으로써, 이 해들을 재탐색하는 것을 방지한다. 이를 통해 탐색 공간 내에서 더 다양한 영역을 효율적으로 탐색할 수 있다. 타부 리스트에 기록된 해들은 일정 기간 동안 '타부' 상태로 유지되며, 이는 알고리즘이 과거의 해를 반복하는 것을 방지하고 새로운 해를 탐색할 가능성을 높인다.

Table 2. Pseudocode for the Tabu Search

3. 실증 분석

3.1 자료의 구성

본 연구에서 분석한 데이터는 다우존스 산업 평균 지수로, 미국 주식 시장의 전체를 완전히 반영하지는 않으나, 30개의 구성 기업을 통해 상대적으로 단순화된 지수 변화 추적이 가능한 포트폴리오를 만들 수 있다. 이것은 국내 투자자들에게 미국 주식 시장 진입을 용이하게 하고, 포트폴리오의 다변화를 지양할 수 있도록 돕는다. 연구 기간은 2016년 1월 4일부터 2022년 12월 30일까지 일간 수정 종가데이터를 기반으로 하며, 모델성능 평가는 2023년의 투자 기간 데이터를 이용하여 이루어졌다.

3.2 모델의 추정 및 분석

시뮬레이티드 어닐링과 타부 검색을 활용한 자산 배분을 통해 포트폴리오 성과를 비교 및 검증함으로써 최적의 자산 배분 전략을 확인할 수 있었다. 시뮬레이티드 어닐링을 활용한 자산 배분의 경우, 초기 온도를 10,000으로 설정하였다. 이때 냉각률을 0.995로 정하여 시스템의 '열'을 점진적으로 낮추는 전략을 채택했다. 이 과정의 마지막 단계에서는 최소 온도, 즉 알고리즘의 종료 조건을 1로 설정함으로써, 초기에는 탐색 공간을 넓게하여 더 나쁜 솔루션을 수락할 확률을 높이고, 점차적으로 온도를 낮추면서 지역 최적해에 갇히는 것을 방지하였다. 한편, 타부 검색을 이용한 자산배분 방법에서는 총 100회의 반복과 함께 각 반복마다 고려되는 이웃 해의 수를 30으로 설정하였다. 타부 검색에서는 최적의 해를 찾기 위해 최대 50개의 해를 저장할 수 있는 타부 리스트를 사용하여 이전에 탐색한 해들을 기록하였다. 그리고 이 타부 리스트를 통해 최근에 방문한 해들을 다시 방문하는 것을 방지함으로써 탐색 과정의 다양성을 보장하였다. 공매도와 증권거래세 등의 거래비용은 고려하지 않았다.

결과적으로, Table 3에서 볼 수 있듯이 모든 포트폴리오가 양(+)의 샤프 비율을 나타냄으로써, 위험 대비 투자수익이 발생했음을 의미한다. 샤프비율이 가장 높을 경우는 타부 검색을 사용하여 자산을 배분했을 때(1.41)로 나타났으며, 시뮬레이티드 어닐링을 적용한 경우에도 다우지수보다 높은 위험조정 수익률(1.28)을 기록했다. 특히, 타부검색은 지역 탐색 기법의 기본 원리에 타부 리스트를 사용하여 이미 평가한 해를 반복적으로 탐색하지 않음으로써, 탐색 공간 내에서 새롭고 유망한 영역을 보다 효율적으로 탐색하기 때문에 위험 대비 높은 투자수익이 발생했다고 판단된다.

Table 3. Performance of Asset Allocation

마지막으로, Fig. 1에서 볼 수 있듯이 타부 검색과 시뮬레이티트 어닐링을 이용한 자산 배분의 누적 수익률을 비교했을 때, 타부 검색을 사용한 자산 배분이 상대적으로 더 높은 성과를 나타냈다.

Fig. 1 Cumulative Returns of SA and TS

3.3 결과 고찰

메타 휴리스틱을 활용한 자산 배분 전략 연구는 거래 비용, 포트폴리오 규모 등 다양한 현실적인 제약 조건뿐 아니라 수익 극대화, 위험 최소화, 유동성 관리 등 투자자가 다양한 목표사이의 균형을 찾을 수 있도록 필요하다. 본 연구의 주요 분석 결과는 다음과 같다.

첫째, 메타 휴리스틱을 이용한 포트폴리오의 샤프 비율이 다우지수를 초과하는 높은 값을 기록했다. 이는 포트폴리오에 대한 유연한 해결책을 탐색함으로써, 위험 조정 수익률의 극대화를 추구할 수 있다. 이론적 및 실용적인 측면에서 볼 때, 메타 휴리스틱 최적화 기법은 비선형, 비볼록, 미분 불가능한 목표 함수 해결에 도움이 될 수 있다. 따라서, 메타 휴리스틱은 샤프 비율을 최대화하는 포트폴리오 최적화에 크게 기여할 수 있으며, 이는 주어진 위험 수준에 대해 최대의 기대 수익을 달성하는데 중대한 영향을 미칠 수 있는 가능성을 제시한다.

둘째, 시뮬레이티드 어닐링과 타부 검색을 활용한 포트폴리오의 위험 대비 높은 투자 성능을 비교해 보면, 타부 검색에서 약간 더 높은 성과를 보여 주었다. 이러한 결과는 타부 검색이 지역 탐색 기법의 기본 원리에 타부 리스트를 사용하여 이미 평가한 해를 반복적으로 탐색하지 않음으로서, 탐색 공간 내에서 새롭고 유망한 영역을 보다 효율적으로 탐색하기 때문에 위험 대비 높은 투자 수익이 발생했다고 판단된다.

4. 결론

메타 휴리스틱이 제조, 물류, 에너지, 통신, 생명과학, 컴퓨터 과학 등의 다양한 분야에서 큰 영향을 미치고 있음에도 불구하고, 국내 연구에서는 포트폴리오 최적화 문제에 적용된 여러 메타 휴리스틱 최적화 연구가 미흡하다.

본 연구에서는 최적화에 범용적으로 사용되는 메타 휴리스틱을 활용한 포트폴리오의 성과를 비교ㆍ분석함으로써 이론적 및 실용적인 가치가 있다고 할 수 있다. 즉, 마코위츠는 현대 포트폴리오 이론을 창시하고, 적절한 포트폴리오 가중치를 선정하여 분산 투자를 최적화하는 수학적 방법을 제공했다. 하지만 수리계획법에 거래 비용, 포트폴리오 규모 등 다양한 현실적인 제약 조건들을 포함하면 복잡성의 증가와 계산 요구 등 복잡한 최적화 문제를 해결하는 데 있어 한계를 가지고 있다. 이를 해결하기 위해 탐색 공간을 효율적으로 탐색하며, 전역 최적해에 가까운 해결책을 발견할 가능성을 높인 메타 휴리스틱 최적화를 통해 위험 조정 수익 극대화 측면에서 최적의 자산 배분을 수행할 수 있는지 시뮬레이티드 어닐링와 타부 검색 알고리즘을 활용한 자산 배분과 비교·분석하였다.

메타 휴리스틱을 활용한 자산 배분의 유용성을 인정한다 하더라도, 실제로 자산을 배분하고, 성과를 내는 것은 어려운 일이다. 메타 휴리스틱의 세부적인 구현 설정이 요구되는 등의 이유로 인해 포트폴리오 최적화에 어려움이 따르며, 이를 적절하게 최적화하지 못하면 투자 성과를 달성하기 어렵다.

본 연구가 중요한 결과와 의미를 제공함에도 불구하고, 향후 연구에서 해결해야 할 보완점이 여전히 남아있다. 본 연구에서 활용된 최적화 알고리즘은 시뮬레이티드 어닐링과 타부 검색로 단일 해(Single Solution) 기반 메타휴리스틱 알고리즘이다. 단일 해 기반 메타휴리스틱 알고리즘은 최적화 문제를 해결하기 위해 시작점에서부터 단일 해를 점진적으로 개선해 나가는 방식 취한다. 이 알고리즘은 초기에 생성된 하나의 해를 기반으로, 반복적인 과정을 통해 해의 품질을 개선해 나가며 최종적으로 최적해나 근사해를 찾아낸다. 이에 단일 해 기반 메타휴리스틱 알고리즘은 일반적으로 계산 비용이 낮지만, 한 번에 하나의 해만 고려하기 때문에 지역 최적해에 갇힐 위험도 존재한다. 따라서 자산 배분 전략 성능 평가의 질적 향상을 위해서는 집단(Population) 기반 메타휴리스틱 알고리즘을 포함하는 다양한 알고리즘들을 기반으로 한 분석이 필요하다. 또한, 소규모 자산을 이용해 최적 포트폴리오를 구성하는 과정에서 메타 휴리스틱 알고리즘이 효과적임을 보였으나, 실제 수천 개의 금융 자산 종목들로부터 자산 선택을 통해 최적 포트폴리오를 구성하는 연구 분석이 필요하다.