• 제목/요약/키워드: 볼록최적화

검색결과 59건 처리시간 0.029초

통계적 기계학습에서의 ADMM 알고리즘의 활용 (ADMM algorithms in statistics and machine learning)

  • 최호식;최현집;박상언
    • Journal of the Korean Data and Information Science Society
    • /
    • 제28권6호
    • /
    • pp.1229-1244
    • /
    • 2017
  • 최근 여러 분야에서 데이터에 근거한 분석방법론에 대한 수요가 증대됨에 따라 이를 처리할 수 있는 최적화 방법이 발전되고 있다. 특히 통계학과 기계학습 분야의 문제들에서 요구되는 다양한 제약 조건은 볼록 최적화 (convex optimization) 방법으로 해결할 수 있다. 본 논문에서 리뷰하는 alternating direction method of multipliers (ADMM) 알고리즘은 선형 제약 조건을 효과적으로 처리할 수 있으며, 합의 방식을 통해 병렬연산을 수행할 수 있어서 범용적인 표준 최적화 툴로 자리매김 되고 있다. ADMM은 원래의 문제보다 최적화가 쉬운 부분문제로 분할하고 이를 취합함으로써 복잡한 원 문제를 해결하는 방식의 근사알고리즘이다. 부드럽지 않거나 복합적인 (composite) 목적 함수를 최적화할 때 유용하며, 쌍대이론과 proximal 작용소 이론을 토대로 체계적으로 알고리즘을 구성할 수 있기 때문에 통계 및 기계학습 분야에서 폭 넓게 활용되고 있다. 본 논문에서는 최근 통계와 관련된 여러 분야에서 ADMM알고리즘의 활용도를 살펴보고자 하며 주요한 두 가지 주제에 중점을 두고자 한다. (1) 목적식의 분할 전략과 증강 라그랑지안 방법 및 쌍대문제의 설명과 (2) proximal 작용소의 역할이다. 알고리즘이 적용된 사례로, 별점화 함수 추정 등의 조정화 (regularization)를 활용한 방법론들을 소개한다. 모의 자료를 활용하여 lasso 문제의 최적화에 대한 실증결과를 제시한다.

저장대모형의 매개변수 산정을 위한 최적화 기법의 적합성 분석 (Analysis of the applicability of parameter estimation methods for a transient storage model)

  • 노효섭;백동해;서일원
    • 한국수자원학회논문집
    • /
    • 제52권10호
    • /
    • pp.681-695
    • /
    • 2019
  • Transient Stroage Model (TSM)은 하천을 본류대와 저장대로 나누어 각각에 대한 오염물의 혼합거동을 해석함으로써 복잡한 하천에 유입된 오염물질 혼합을 이해하는 데에 가장 많이 이용되는 모형 중 하나이다. TSM의 매개변수들은 역산모형을 통해 산정하게 되는데 이는 자연하천에서 추적자실험을 통해 계측된 농도곡선에 가장 잘 맞는 TSM 모의 농도곡선을 찾는 최적화 문제이다. 저장대모형의 매개변수 산정에 관한 선행 연구들에 의해 매개변수를 산정하는 최적화 문제의 비볼록(non-convex) 특성에서 오는 불확실성이 보고되어 왔다. 본 연구에서는 청미천에서 수행된 추적자실험으로부터 취득된 농도곡선을 이용해 최상의 최적화 기법과 목적함수의 조합에 대해 분석하였다. 최적화 문제의 수렴성과 수렴 속도를 모두 만족하는 최적화 조건을 결정하기 위해 SCE-UA의 CCE와 SP-UCI의 MCCE와 같은 진화 알고리즘 기반의 전역 최적화 방법들과 오차 기반 목적함수들을 Shuffled Complex-Self Adaptive Hybrid EvoLution (SC-SAHEL)을 활용해 비교하였다. 전반적인 변수 산정 결과 여러 EA를 동시에 적용한 SC-SAHEL을 평균 제곱오차를 목적함수로 한 방법이 가장 빠르고 가장 안정적으로 최적해에 수렴하는 것으로 나타났다.

Dantzig 위험을 사용한 포트폴리오 최적화 선형계획법 모형 (Linear programming models using a Dantzig type risk for portfolio optimization)

  • 안다영;박세영
    • 응용통계연구
    • /
    • 제35권2호
    • /
    • pp.229-250
    • /
    • 2022
  • 포트폴리오 최적화 이론의 초석인 Markowitz의 평균-분산 포트폴리오 모형 (1952)이 발표된 이후로 많은 분야에서 포트폴리오 최적화에 대한 다양한 연구가 진행되었다. 기존의 평균-분산 포트폴리오 모형은 주로 목적함수나 제약식에 비선형 볼록 형태를 포함한다. 이를 Dantzig의 선형계획법을 적용하여 선형으로 변환시켜 알고리즘 계산 시간을 효율적으로 감소시켰다. 또한 시계열 데이터 특성을 반영하여 시간에 따른 가중치를 고려하는 가우시안 커널 가중치 공분산을 제안하였다. 여기에 일정 부분은 벤치마크에 투자하고 나머지는 포트폴리오 최적화 모형으로 제안된 자산들에 투자하는 퍼터베이션 방법을 적용하여 평균 수익률과 위험도를 목적에 맞게 조절하도록 하였다. 또한, 본 논문에서는 안정적이면서도 적은 자산을 보유하게 포트폴리오를 구성하여 관리비용(management costs)과 거래비용(transaction costs)를 낮출 수 있는 Dantzig-type 퍼터베이션 포트폴리오 모형을 제안하였다. 제안된 모형의 성능은 5개의 실제 데이터 세트로 벤치마크 포트폴리오와 비교 분석하여 평가하였다. 최종적으로 제안한 최적화 모형은 벤치마크보다 높은 기대수익률이나 낮은 위험도를 갖는 포트폴리오를 구성하여 퍼터베이션 목적을 만족하며, 투자한 자산의 수와 시간에 따른 자산 구성 변화를 일정 수준 이하로 조절하는 희소하며 안정적인 결과를 얻었다.

추계학적 최적화방법에 의한 기존관수로시스템의 병열관로 확장 (Stochastic Optimization Approach for Parallel Expansion of the Existing Water Distribution Systems)

  • 안태진;최계운;박정응
    • 물과 미래
    • /
    • 제28권2호
    • /
    • pp.169-180
    • /
    • 1995
  • 관망상배관(Looped networks)시스템에서 관수로시스템의 전체비용은 폐회로유량(Loop flows)에 따라 영향을 받는다. 따라서 관망상배관의 최적설계를 위한 수학적모형을 추계학적 최적화방법에 적용하기 위하여 폐회로유량의 섭동(Perturbations)으로 전체비용이 변하게 하였다. 관망상 배관문제의 분석가능영역은 수많은 국지해(Local optimum)를 갖는 비볼록(Nonconvex)이므로 분석가능영역의 효율적인 심사를 위하여 수정추계학적 심사방법을 제안하였으며 이 방법은 국부심사단계(Global search phase)와 국지심사단계(Local search phase)로 구성되어 있다. 국부탐사에서는 점차적으로 국지해를 증진시키며 국지탐사에서는 국부탐사단계에서 교착상태에 있는 국지해로 부터 벗어나게 하거나 최종국지해를 증진시킨다. 제안한 방법의 효율성을 검정하기 위하여 참고문헌에 있는 기존관수로시스템의 병열관로(Parallel pipe line) 확장문제를 표본으로 채택하여 제안한 방법을 적용한 결과 먼저 발표된 연구자들의 비용보다 적은 비용으로 설계할 수 있었다.

  • PDF

유전자 알고리즘을 이용한 변동부등식 제약하의 연속형 가로망 설계 (A Genetic Algorithm Approach to the Continuous Network Design Problem with Variational Inequality Constraints)

  • 김재영;임강원
    • 대한교통학회지
    • /
    • 제18권1호
    • /
    • pp.61-73
    • /
    • 2000
  • 이 논문은 변동부등식을 제약조건으로 하는 연속형 변수의 가로망 설계 문제를 풀기 위한 해석 알고리즘을 제시하는 것을 목적으로 한다. 가로망 설계 문제는 문제의 특성상 비선형의 목적함수와 비선형. 비볼록한 제약식으로 인해 다수의 국지해를 갖으며, 이러한 여러 국지해 중 가장 최적의 해를 구하는 것에 관심이 모아지고 있다. 전역 최적해를 찾을 수 있는 기존의 방법들은 확률적 최적화 방법에 속하는데 이 논문에서는 유전자 알고리즘의 접근법을 사용하여 2개의 다른 예제 가로망에서 5개의 서로 다른 해석 알고리즘에 대한 비교를 행하였으며. 그 해석결과를 기술하였다. 이 논문에서 사용된 정책결정자의 설계 변수는 가로망상 링크의 용량 변수이며, 연속형 변수의 어떤 설계 변수에도 적절한 변환과정을 거쳐 사용이 가능하다.

  • PDF

부분 반사 프로브를 사용한 공통경로 OCT 이미지 획득 (Common-path OCT Image Using Partial Reflecting Probe)

  • 박재석;정명영;김창석
    • 한국광학회지
    • /
    • 제19권2호
    • /
    • pp.103-107
    • /
    • 2008
  • 기존 OCT 시스템의 Michelson 간섭계와 다르게 간섭신호가 프로브 끝단에서 유도되어 기준신호와 샘플신호가 동일한 경로를 통해 진행하는 공통경로 OCT 시스템을 제작하였다. 최적의 기준신호가 생성되도록 하기 위해 부분반사 프로브(Probe)의 굴절률을 최적화하였고 생체 샘플의 이미지 획득이 가능하도록 프로브의 끝단에서 초점이 맺히도록 볼록 렌즈형 프로브를 제작하였다. 이를 통해서 실제 샘플의 2차원 이미지의 획득이 가능하였다.

스마트 스페이스 구축을 위한 강인 지능형 디지털 제어기 개발 (Development of Robust Intelligent Digital Controller for Smart Space)

  • 주영훈
    • 한국지능시스템학회논문지
    • /
    • 제18권1호
    • /
    • pp.60-65
    • /
    • 2008
  • 본 논문에서는 강인 디지털 제어기를 통한 스마트 스페이스의 안정도에 대해 논의하고자 한다. 제안된 제어기 설계 방법은 지능형 디지털 재 설계 기법을 적용하는 것이다. 좀 더 구체적으로, 불확실성 및 비선형성이 포함된 아날로그 시스템을 Takagi-Sugeno 퍼지 모델을 사용하여 나타낸다. 그리고 전역적 지능형 디지털 재 설계를 위하여 해당 문제를 볼록 최적화 관점으로 변환 한 후, 에러가 가질 수 있는 놈의 영역을 최소화하여 상태 정합을 이루고자 하였다. 전역적 접근을 통해 정리된 식은 선형 행렬 부등식으로 나타나게 된다. 마지막으로, 설계된 제어기를 HVAC (Heating, ventilating, and air conditioning) 시스템에 적용함으로써 효율성을 입증하고자 한다.

디지털 재설계를 이용한 관측기 기반 디지털 퍼지 제어기 설계 (Observer-Based Digital fuzzy Controller Design Using Digital Redesign)

  • 이호재;주영훈;박진배
    • 한국지능시스템학회논문지
    • /
    • 제13권5호
    • /
    • pp.520-525
    • /
    • 2003
  • 본 논문은 지능형 디지털 재설계 기법을 이용한 Takagi-Sugeno (T-S) 퍼지 시스템의 관측기 기반 출력 궤환 디지털 제어기 설계 기법을 제안한다. 지능형 디지털 재설계란 아날로그 퍼지 모델 기반 제어기를 등가의 성능을 발휘하는 퍼지 모델 기반 디지털 제어기로 변환하는 기법을 일컫는다. 여기서 등가의 성능은 상태 정합의 정확도를 의미한다. 본 연구에서 고려된 지능형 디지털 재설계 기법은 정합되어야 할 두개의 선형 작용소의 놈(norm)을 최소화하는 볼록 최적화 문제로 간주한다. 선형 행렬 부등식의 형태로 문제를 구성함으로써 재설계된 디지털 제어기에 의한 시스템의 안정가능성을 증명할 수 있다. 또한 제어기와 관측기의 재설계는 독립적으로 설계될 수 있음을 증명한다.

최소 위상 오차를 갖는 곡선 배열안테나용 Rotman 렌즈의 설계 (Design of Rotman Lens for Curved Array Antenna with Minimal Phase Error)

  • 박주래;박동철
    • 한국전자파학회논문지
    • /
    • 제25권10호
    • /
    • pp.1077-1086
    • /
    • 2014
  • 컨포멀 배열에 적용할 수 있는 곡선 배열안테나용 Rotman 렌즈의 설계 방법을 제안한다. 본 논문에서는 곡선 배열안테나와 연동하여 Rotman 렌즈의 평행판 영역에 존재하는 배열 포트의 위치와, 배열 포트와 배열안테나 소자를 연결하는 전송선의 길이를 구하는 설계식을 유도하고, 이 설계식을 바탕으로 빔 곡선 최적화 절차와 재초점 절차를 통하여 위상 오차를 최소화하고 있다. 제안된 설계식과 설계 절차에 의해 설계된 Rotman 렌즈는 정확히 3초점을 보유한 채 직선 배열안테나뿐만 아니라, 원곡선, 포물선, V자형 곡선 등의 오목하거나 볼록한 배열안테나를 급전할 수 있으며, 최소의 위상 오차를 나타내고 있다.

연속적인 스카이라인 질의의 정적 유효 영역을 이용한 효율적인 처리 (Efficient Processing using Static Validity Circle for Continuous Skyline Queries)

  • 이종혁;박영배
    • 한국정보과학회논문지:데이타베이스
    • /
    • 제33권6호
    • /
    • pp.631-643
    • /
    • 2006
  • 시간이 변함에 따라 위치 좌표를 변경하는 모바일 환경에서 이동 객체는 자신의 위치를 기준으로 질의를 요청한다. 연속적인 스카이라인 질의 처리를 위한 효율적인 영역 결정 기법에서는 이동 객체의 속도와 방향과는 무관한 최적화된 스카이라인 영역(OSR: Optimal Skyline Region)을 미리 계산하여 질의에 답할 수 있다. 이에 따라 이동 객체의 위치를 중심으로 하고 가장 가까운 영역 변까지의 거리를 반경으로 하는 원(Vcircle: Validity Circle)을 유효 영역으로 결정하여 질의 발생 빈도를 감소하는 기법이 제안되고 있다. 그러나 원은 최초 질의가 발생한 시점의 이동 객체 위치에 따라 면적이 가변적이므로 질의 발생 빈도도 가변적이고, 객체가 최적화된 스카이라인 영역 내에서 이동하는 경우에 재질의가 빈번하게 발생하는 문제점이 발생한다. 예를 들어 사용자는 '현재 위치에서 가깝고 숙박료가 싸고, 해변과의 거리가 가까운 호텔을 검색하라'는 질의를 할 수 있다. 이 경우, 이동 객체와 대상 객체의 거리뿐만 아니라 대상 객체의 다중 속성을 고려해야하고, 스카이라인 질의 결과는 이동 객체의 현재 위치와 대상 객체의 거리에 따라 유효하지 않을 수 있으므로 이동 객체의 위치 변경에 따라 스카이라인을 재계산해야 하며, 새로운 결과를 요청하기 위해 연속적인 질의가 발생한다. 이 논문에서는 항상 볼록 다각형을 형성하는 최적화된 스카이라인 영역의 특징을 이용하여 스카이라인 영역의 최대내부원(IVcircle: Interior Validity Circle)을 정적 유효 영역으로 결정하는 기법을 제안한다. 실험을 통하여 영역내의 평균 질의 발생 빈도를 기존의 Vcircle을 이용한 동적 유효 영역 결정 기법보다 평균 52.55%가 감소함을 보인다.