• 제목/요약/키워드: linear operator.

검색결과 501건 처리시간 0.032초

통계적 기계학습에서의 ADMM 알고리즘의 활용 (ADMM algorithms in statistics and machine learning)

  • 최호식;최현집;박상언
    • Journal of the Korean Data and Information Science Society
    • /
    • 제28권6호
    • /
    • pp.1229-1244
    • /
    • 2017
  • 최근 여러 분야에서 데이터에 근거한 분석방법론에 대한 수요가 증대됨에 따라 이를 처리할 수 있는 최적화 방법이 발전되고 있다. 특히 통계학과 기계학습 분야의 문제들에서 요구되는 다양한 제약 조건은 볼록 최적화 (convex optimization) 방법으로 해결할 수 있다. 본 논문에서 리뷰하는 alternating direction method of multipliers (ADMM) 알고리즘은 선형 제약 조건을 효과적으로 처리할 수 있으며, 합의 방식을 통해 병렬연산을 수행할 수 있어서 범용적인 표준 최적화 툴로 자리매김 되고 있다. ADMM은 원래의 문제보다 최적화가 쉬운 부분문제로 분할하고 이를 취합함으로써 복잡한 원 문제를 해결하는 방식의 근사알고리즘이다. 부드럽지 않거나 복합적인 (composite) 목적 함수를 최적화할 때 유용하며, 쌍대이론과 proximal 작용소 이론을 토대로 체계적으로 알고리즘을 구성할 수 있기 때문에 통계 및 기계학습 분야에서 폭 넓게 활용되고 있다. 본 논문에서는 최근 통계와 관련된 여러 분야에서 ADMM알고리즘의 활용도를 살펴보고자 하며 주요한 두 가지 주제에 중점을 두고자 한다. (1) 목적식의 분할 전략과 증강 라그랑지안 방법 및 쌍대문제의 설명과 (2) proximal 작용소의 역할이다. 알고리즘이 적용된 사례로, 별점화 함수 추정 등의 조정화 (regularization)를 활용한 방법론들을 소개한다. 모의 자료를 활용하여 lasso 문제의 최적화에 대한 실증결과를 제시한다.

퍼지제어 셀을 이용한 퍼지논리제어기의 조직적인 설계방법 (Systematic Design Method of Fuzzy Logic Controllers by Using Fuzzy Control Cell)

  • 남세규;김종식;유완석
    • 대한기계학회논문집
    • /
    • 제16권7호
    • /
    • pp.1234-1243
    • /
    • 1992
  • 본 연구에서는 국부적인 퍼지제어 셀(fuzzy control cell:cell)을 도입하여 계산량 감소를 달성하고, 추론과정을 선형근사화한 조직적인 설계를 통하여 선형제어 이론을 FLC의 실용적인 면에 접목하고자 한다. 이를 위하여, 확률밀도함수 형태의 멤버쉽함수(membership function)와 선형화된 제어공간이 얻어지도록 전반적인 제어방 책을 결정한 다음, 주어진 상태에 가장 지배적(dominant)인 규칙을 갖는 몇 개의 대표 점을 찾아서 그 점들로 구성된 퍼지제어 셀을 생성하고, 퍼지연산을 생성된 셀에서만 수행하여 알고리즘과 계산을 단순화시킨다. 평가기준을 공평함에 두어서 조건부연결 어 'AND'에 T-norm인 대수곱을 적용하여 적합도를 취하고, 규칙들의 작용이 병렬발화 라는 관점으로 규칙연결어 'ALSO'는 'AND'의 공액인 'OR'에 해당되는 대수합연산 대신 에 확률측도와 유사한 산술평균을 적용하여 퍼지추론을 한다. 그리고, 각각의 제어 규칙에 대하여 퍼지추론한 결과와 그것의 평균중심을 곱하여 통합한 후, 무게중심법으 로 역퍼지화하여 일반화된 제어값을 얻는다. 이 값을 PID제어기를 이용하여 구현한 디지틀 보상기를 통과시켜 시스템에 한 제어를 얻는 조직적인 방법을 제안한다.

CIFER®를 이용한 무인 헬리콥터의 동특성 분석 (I) - 조종기 제어 입력 데이터 획득을 위한 비행시험 - (Flight Dynamic Identification of a Model Helicopter using CIFER®(I) - Flight test for the acquisition of transmitter input data -)

  • 박희진;구영모;배영환;오민석;양철오;송명현
    • Journal of Biosystems Engineering
    • /
    • 제36권6호
    • /
    • pp.467-475
    • /
    • 2011
  • Aerial spraying technology using a small unmanned helicopter is an efficient and practical tool to achieve stable agricultural production to improve the working condition. An attitude controller for the agricultural helicopter would be helpful to aerial application operator. In order to construct the flight controller, a state space model of the helicopter should be identified using a dynamic analysis program, such as CIFER$^{(R)}$. To obtain the state space a model of the helicopter, frequency-sweep flight tests were performed and time history data were acquired using a custom-built stick position transmitter. Four elements of stick commands were accessed for the collective pitch (heave), aileron (roll), elevator (pitch), rudder (yaw) maneuvers. The test results showed that rudder stick position signal was highly linear with rudder input channel signal of the receiver; however, collective pitch stick position signal was exponentially manipulated for the convenience of control stick handling. The acquired stick position and flight dynamic data during sweep tests would be analyzed in the followed study.

A GENERAL ITERATIVE ALGORITHM FOR A FINITE FAMILY OF NONEXPANSIVE MAPPINGS IN A HILBERT SPACE

  • Thianwan, Sornsak
    • Journal of applied mathematics & informatics
    • /
    • 제28권1_2호
    • /
    • pp.13-30
    • /
    • 2010
  • Let C be a nonempty closed convex subset of a real Hilbert space H. Consider the following iterative algorithm given by $x_0\;{\in}\;C$ arbitrarily chosen, $x_{n+1}\;=\;{\alpha}_n{\gamma}f(W_nx_n)+{\beta}_nx_n+((1-{\beta}_n)I-{\alpha}_nA)W_nP_C(I-s_nB)x_n$, ${\forall}_n\;{\geq}\;0$, where $\gamma$ > 0, B : C $\rightarrow$ H is a $\beta$-inverse-strongly monotone mapping, f is a contraction of H into itself with a coefficient $\alpha$ (0 < $\alpha$ < 1), $P_C$ is a projection of H onto C, A is a strongly positive linear bounded operator on H and $W_n$ is the W-mapping generated by a finite family of nonexpansive mappings $T_1$, $T_2$, ${\ldots}$, $T_N$ and {$\lambda_{n,1}$}, {$\lambda_{n,2}$}, ${\ldots}$, {$\lambda_{n,N}$}. Nonexpansivity of each $T_i$ ensures the nonexpansivity of $W_n$. We prove that the sequence {$x_n$} generated by the above iterative algorithm converges strongly to a common fixed point $q\;{\in}\;F$ := $\bigcap^N_{i=1}F(T_i)\;\bigcap\;VI(C,\;B)$ which solves the variational inequality $\langle({\gamma}f\;-\;A)q,\;p\;-\;q{\rangle}\;{\leq}\;0$ for all $p\;{\in}\;F$. Using this result, we consider the problem of finding a common fixed point of a finite family of nonexpansive mappings and a strictly pseudocontractive mapping and the problem of finding a common element of the set of common fixed points of a finite family of nonexpansive mappings and the set of zeros of an inverse-strongly monotone mapping. The results obtained in this paper extend and improve the several recent results in this area.

돌연변이 연산 기반 효율적 심층 신경망 모델 (A Deep Neural Network Model Based on a Mutation Operator)

  • 전승호;문종섭
    • 정보처리학회논문지:소프트웨어 및 데이터공학
    • /
    • 제6권12호
    • /
    • pp.573-580
    • /
    • 2017
  • 심층 신경망은 많은 노드의 층을 쌓아 만든 거대한 신경망이다. 심층 신경망으로 대표되는 딥 러닝은 오늘날 많은 응용 분야에서 괄목할만한 성과를 거두고 있다. 하지만 다년간의 연구를 통해 심층 신경망에 대한 다양한 문제점이 식별되고 있다. 이 중 일반화는 가장 널리 알려진 문제점들 중 하나이며, 최근 연구 결과인 드롭아웃은 이러한 문제를 어느 정도 성공적으로 해결하였다. 드롭아웃은 노이즈와 같은 역할을 하여 신경망이 노이즈에 강건한 데이터 표현형을 학습할 수 있도록 하는데, 오토인코더와 관련된 연구에서 이러한 효과가 입증되었다. 하지만 드롭아웃은 빈번한 난수 연산과 확률연산으로 인해 신경망의 학습 시간이 길어지고, 신경망 각 계층의 데이터 분포가 크게 변화하여 작은 학습율을 사용해야하는 단점이 있다. 본 논문에서는 돌연변이 연산을 사용하여 비교적 적은 횟수의 연산으로 드롭아웃과 동등 이상의 성능을 나타내는 모델을 제시하고, 실험을 통하여 논문에서 제시한 방법이 드롭아웃 방식과 동등한 성능을 보임과 동시에 학습 시간 문제를 개선함을 보인다.

Development of Autonomous Sprayer Considering Tracking Performance on Geometrical Complexity of Ground in Greenhouse

  • Lee, Dong Hoon;Lee, Kyou Seung;Cho, Yong Jin;Lee, Je Yong;Chung, Sun-Ok
    • Journal of Biosystems Engineering
    • /
    • 제37권5호
    • /
    • pp.287-295
    • /
    • 2012
  • Purpose: Some of the most representative approaches are to apply next generation technologies to save energy consumption, fully automated control system to appropriately maintain environmental conditions, and autonomous assistance system to reduce labor load and ensure operator's safety. Nevertheless, improvement of upcoming method for soil cultured greenhouse has not been sufficiently achieved. Geometrical complexity of ground in protected crop cultivation might be one of the most dominant factors in design of autonomous vehicle. While there is a practical solution fairly enough to promise an accurate travelling, such as autonomous sprayer guided by rail or induction coil, for various reasons including the limitation of producer's budget, the previously developed sprayer has not been widely distributed to market. Methods: In this study, we developed an autonomous sprayer considering travelling performance on geometrical complexity of ground in soil cultured greenhouse. To maintain a stable travelling and to acquire a real time feedback, common wire with 80 mm thick and body frame and sprayer boom. To evaluate performance of the prototype, tracking performance, climbing performance and spraying boom's uniform leveling performance were individually evaluated by corresponding experimental tests. Results: The autonomous guidance system was proved to be sufficiently suitable for accurate linear traveling with RMS as lower than approximately 10 cm from designated path. Also the prototype could climb $10^{\circ}$ of ground's slope angle with 40 kg of water weight. Uniform leveling of spraying boom was successfully performed within $0.5^{\circ}$ of sprayer boom's slope. Conclusions: Considering more complex pathways and coarse ground conditions, evaluations and improvements of the prototype should be performed for promising reliability to commercialization.

환승지체 및 가변수요를 고려한 대중교통 운행빈도 모형 개발 (Transit Frequency Optimization with Variable Demand Considering Transfer Delay)

  • 유경상;김동규;전경수
    • 대한교통학회지
    • /
    • 제27권6호
    • /
    • pp.147-156
    • /
    • 2009
  • 본 논문에서는 기 운영되고 있는 도시부 대중교통을 대상으로 노선의 운행빈도 설계 문제의 모델링 및 해법 개발을 위한 방법론을 제시하였다. 개발된 운행빈도 모형은 이중구조 모형으로서 상위 운영자 모형은 이용 가능한 총 차량 대수제약과 최소/최대 운행빈도 제약 하에 비용과 수익을 모두 포함한 순비용을 최소화하는 비선형 최적화 모형이고, 하위 사용자 모형은 가변수요와 용량제약으로 인한 노선의 혼잡, 그리고 노선 간환승에 따른 지체를 고려한 확률적 사용자 평형수단/경로선택 모형이다. 모형의 해법으로는 상위 모형의 경우 목적함수의 그레디언트를 기반으로 하는 "그레디언트 투사 해법"을 제안하였고, 하위모형의 경우는 기존의 "반복조정해법"을 활용하였다. 또한, 구축된 모형과 해법을 소규모 예제네트워크에 적용하여 그 수렴성과 도출된 해를 분석하였다. 본 논문의 운행빈도 설계방법론은 노선의 운영 효율성을 진단 평가하고, 투입 차량대수 제약 하에 대중교통 운영 효율을 개선하는 방안을 마련하는 데 있어 이론적인 토대로 활용될 수 있을 것으로 기대된다.

Numerical simulation of wave interacting with a free rolling body

  • Jung, Jae Hwan;Yoon, Hyun Sik;Chun, Ho Hwan;Lee, Inwon;Park, Hyun
    • International Journal of Naval Architecture and Ocean Engineering
    • /
    • 제5권3호
    • /
    • pp.333-347
    • /
    • 2013
  • The present study numerically models the interaction between a regular wave and the roll motion of a rectangular floating structure. In order to simulate two-dimensional incompressible viscous two-phase flow in a numerical wave tank with the rectangular floating structure, the present study used the volume of fluid method based on the finite volume method. The sliding mesh technique is adopted to handle the motion of the rectangular floating structure induced by fluid-structure interaction. The effect of the wave period on the flow, roll motion and forces acting on the structure is examined by considering three different wave periods. The time variations of the wave height and the roll motion of the rectangular structure are in good agreement with experimental results for all wave periods. The present response amplitude operator is in good agreement with experimental results with the linear potential theory. The present numerical results effectively represent the entire process of vortex generation and evolution described by the experimental results. The longer wave period showed a different mechanism of the vortex evolution near each bottom corner of the structure compared to cases of shorter wave periods. In addition, the x-directional and z-directional forces acting on the structure are analyzed.

모양공간 모델을 이용한 영상분할 알고리즘 (An Image Segmentation Algorithm using the Shape Space Model)

  • 김대희;안충현;호요성
    • 대한전자공학회논문지SP
    • /
    • 제41권2호
    • /
    • pp.41-50
    • /
    • 2004
  • MPEG-4 표준에서는 객체 단위의 부호화를 수행하기 위해 자연영상으로부터 비디오 객체를 분리하는 영상분할(segmentation) 기술이 필요하다. 영상분할 방법은 크게 자동 영상분할(automatic segmentation)과 반자동 영상분할(semi-automatic segmentation)의 두 부류로 나눌 수 있다. 지금까지 개발된 대부분의 자동 영상분할 방법은 비디오 객체의 명확한 수학적인 모델을 제시하기 곤란하며 한 화면에서 개별 객체를 추출하기 어렵기 때문에 그 성능에 한계가 있다. 본 논문에서는 이러한 문제점을 극복하기 위해 active contour 알고리즘을 이용한 반자동 영상분할 알고리즘을 제안한다. 초기 곡선으로부터 변화 가능한 모든 곡선의 집합을 모양공간으로 정의하고 그 공간을 선형공간이라고 가정하면, 모양공간(shape space)은 모양 행렬에 의해 행(column) 공간과 남은 빈(left null) 공간으로 나뉘어진다. 본 논문에서 제안하는 알고리즘은 행공간의 모양공간 벡터를 이용하여 초기 곡선으로부터 영상의 특징점까지의 변화를 기술하고 동적 그래프 검색 알고리즘을 이용하여 객체의 세밀한 부분을 묘사한다. 모양 행렬과 객체의 윤곽을 추정하기 위한 SUSAN 연산자의 사용으로 제안한 알고리즘은 저수준 영상처리로부터 생성되는 불필요한 특징점을 무시할 수 있다. 또한, 모양 행렬의 사용으로 생긴 제약은 동적 그래프 검색 알고리즘으로 보상한다.

계층적 ZP-스플라인을 이용한 곡선 복구 기법 (Curve Reconstruction from Oriented Points Using Hierarchical ZP-Splines)

  • 김현준;김민호
    • 한국컴퓨터그래픽스학회논문지
    • /
    • 제22권5호
    • /
    • pp.1-16
    • /
    • 2016
  • 본 논문에서는 최소자승법에 기반한 효율적인 곡선 복구 기법을 제안한다. 구체적으로는, 법선 벡터를 포함한 평면상의 샘플포인트가 주어졌을 때 계층적인 ZP(Zwart-Powell)-스플라인의 레벨로 곡선을 복구하는데, 세밀한 부문을 복구하면서도 비교적 큰 구멍도 효율적으로 메꾸고 있다. 정규화를 위해서는, (1) 선형시스템의 특이성을 피하기 위한 티코노프 정규항과 (2) 아이소커브를 부드럽게 하기 위한 이산 라플라스 정규항 두 가지를 사용하고 있다. 정량적인 벤치마크 테스트를 통해 비교한 결과, 본 방법은 다항식에 기반한 기법들에 비해 훨씬 우수한 결과를 보여준다는 것을 확인할 수 있다. 구멍이 있는 데이터의 경우, 계층적인 B-스플라인과 비교해본 결과 엇비슷한 품질을 보이지만 약 90%의 계산량만을 필요로 한다.