• Proceedings of the Korea Water Resources Association Conference
• /
• 2023.05a
• /
• pp.229-229
• /
• 2023

강화학습은 에이전트(agent)가 주어진 환경(environment)과의 상호작용을 통해서 상태(state)를 변화시켜가며 최대의 보상(reward)을 얻을 수 있도록 최적의 행동(action)을 학습하는 기계학습법을 의미한다. 최근 알파고와 같은 게임뿐만 아니라 자율주행 자동차, 로봇 제어 등 다양한 분야에서 널리 사용되고 있다. 상수도관망 분야의 경우에도 펌프 운영, 밸브 운영, 센서 최적 위치 선정 등 여러 문제에 적용되었으나, 설계에 강화학습을 적용한 연구는 없었다. 설계의 경우, 관망의 크기가 커짐에 따라 알고리즘의 탐색 공간의 크기가 증가하여 기존의 최적화 알고리즘을 이용하는 것에는 한계가 존재한다. 따라서 본 연구는 강화학습을 이용하여 상수도관망의 구성요소와 환경요인 간의 복잡한 상호작용을 고려하는 설계 방법론을 제안한다. 모델의 에이전트를 딥 강화학습(Deep Reinforcement Learning)으로 구성하여, 상태 및 행동 공간이 커 발생하는 고차원성 문제를 해결하였다. 또한, 해당 모델의 상태 및 보상으로 절점에서의 압력 및 수요량과 설계비용을 고려하여 적절한 수량과 수압의 용수 공급이 가능한 경제적인 관망을 설계하도록 하였다. 모델의 행동은 실제로 공학자가 설계하듯이 절점마다 하나씩 차례대로 다른 절점과의 연결 여부를 결정하는 것으로, 이를 통해 관망의 레이아웃(layout)과 관경을 결정한다. 본 연구에서 제안한 방법론을 규모가 큰 그리드 네트워크에 적용하여 모델을 검증하였으며, 고려해야 할 변수의 개수가 많음에도 불구하고 목적에 부합하는 관망을 설계할 수 있었다. 모델 학습과정 동안 에피소드의 평균 길이와 보상의 크기 등의 변화를 비교하여, 제안한 모델의 학습 능력을 평가 및 보완하였다. 향후 강화학습 모델을 통해 신뢰성(reliability) 또는 탄력성(resilience)과 같은 시스템의 성능까지 고려한 설계가 가능할 것으로 기대한다.

• Transactions of the Korean Society of Automotive Engineers
• /
• v.15 no.1
• /
• pp.8-15
• /
• 2007

Freeway corridors consist of urban freeways and parallel arterials that drivers can use alternatively. Ramp metering in freeways and signal control in arterials are contemporary traffic control methods that have been developed and applied in order to improve traffic conditions of freeway corridors. However, most of the existing studies have focused on either optimal ramp metering in freeways, or progression signal strategies between arterial intersections. There have been no traffic control systems in Korea that integrates the freeway ramp metering and arterial signal control. The effective control strategies for freeway operations may cause negative effects on arterial traffic. On the other hand, traffic congestion and bottleneck phenomenon of arterials due to the increasing peak-hour travel demand and ineffective signal operation may generate an accessibility problem to freeway ramps. Thus, the main function of the freeway which is the through-traffic process has not been successful. The purpose of this study is to develop an integrated control model that connects freeway ramp metering systems and signal control systems in arterial intersections. And Optimization of integrated control model which consists of ramp metering and signal control is another purpose. The design of experiment, neural network, and simulated annealing are used for optimization.

• Proceedings of the Korean Information Science Society Conference
• /
• 2005.11a
• /
• pp.262-264
• /
• 2005

네트워크가 이동하는 환경을 지원하기 위하여 IETF에서는 NEMO(Network Mobility)를 제안하였다. NEMO에서는 이동 네트워크 내부에 이동하는 노드를 가질 수 있기 때문에 이동 네트워크 노드와 이동 네트워크 간의 복잡한 구조로 인하여 중첩되는 라우팅 문제가 발생한다. 이로 인하여 이동 네트워크 환경에서의 라우팅 최적화에 관한 연구가 진행되고 있다. 하지만 라우팅 최적화는 홈 에이전트 또는 상대 노드와 직접 통신을 하기 때문에 이동 네트워크가 이동 시마다 갱신된 위치를 알려주어야 하며 이로 인하여 바인딩 갱신 폭풍 문제가 발생한다. 본 논문에서는 분산 바인딩 갱신기법을 제안하여 바인딩 갱신 폭풍으로 인하여 발생되는 대역폭 감소와 바인딩 갱신 지연 문제를 해결하고 시뮬레이션을 통하여 제안기법의 성능을 분석하였다.

• Proceedings of the Korean Information Science Society Conference
• /
• 2001.10c
• /
• pp.391-393
• /
• 2001

이동컴퓨팅 환경에서 호스트의 이동성으로 야기되는 멀티미디어 데이터전송 문제 해결에 관한 연구가 활발히 진행되고 있다 . 멀티캐스트는 멀티미디어 데이터가 차지하는 많은 네트워크 트래픽을 수신자에게 효율적으로 분배함으로써 네트워크 트래픽을 줄일수 있다. 그러나 이동 호스트를 대상으로 하는 멀티캐스트는 무선자원의 효율적 사용을 위해 셀 반경이 작아짐에 따라 빈번하게 그룹의 멤버와 위치를 변화시키기 때문에 라우팅 경로의 최적화, 투명성 제공, 잦은 핸드오프로 인한 등록지연에 따른 서비스 단절과 패킷손실의 증가에 대한 명확한 대책이 제시되지 못하고 있다. 또한 멀티캐스트를 지원하지 않는 영역으로 이동했을 때의 데이터전송에 관한 문제점도 내포하고 있다. 본 논문에서는 이러한 문제의 해결방안으로 이동컴퓨팅환경에서 Hop Counter로 정의된 서비스 범위를 하나의 그룹이라 정의하고 그룹기반의 멀티캐스트 라우팅 방법을 제안한다. 제안 방법은 셀이 마이크로화됨에 따라 나타나는 Hop 증가에 따른 전송 오버로드와 터널링 문제를 해결하고, 광역 네트워크에서의 멀티캐스팅을 담당하는 에이전트의 부하를 감소시킴으로써 성능 향상을 기대할 수 있다. 또한 호스트가 이동한 FA가 멀티캐스트를 지원하지 않을 때 MA가 그룹의 특정 호스트로부터 보낸 데이터를 받기 위해서 주변에 인접해 있는 MA중 멀티캐스트를 지원하고 가장 작은 Hop을 갖은 MA를 터널의 대리자로 등록해 놓음으로써 멀티캐스팅이 지원되지 않은 환경에서의 멀티캐스팅이 이루어질 수 있다.

• Journal of the Institute of Electronics Engineers of Korea TC
• /
• v.44 no.10
• /
• pp.148-155
• /
• 2007

The routing optimization mode, which Mobile IPv6 provides for the direct communication between a mobile node and its correspond node, introduces various security threats, thus causing several protocols to be proposed for the secure binding update procedure. In particular, the Kang-Park protocol, which Kang and Park presented in 2005, achieves the optimized cryptographic operations and the strong security, while based on its unique security proxy structure. In spite of such advantages, it has some drawbacks in terms of security and efficiency. This paper improves the Kang-Park protocol through the strong CoA validation and early binding update methods. Also, we show that the improved protocol is better than others.

• Journal of Korea Game Society
• /
• v.8 no.1
• /
• pp.79-90
• /
• 2008

This paper describes a motivation-based hierarchical behavior planning framework to allow autonomous agents to select adaptive actions in simulation game environments. The combined behavior planning system is formed by four levels of specification, which are motivation extraction, goal list generation, action list determination and optimization. Our model increases the complexity of virtual human behavior planning by adding motivation with sudden and cumulative attributes. The motivation selection by probability distribution allows NPC to make multiple decisions in certain situations in order to embody realistic virtual humans. Hierarchical goal tree enhances the effective reactivity. Optimizing for potential actions provides NPC with safe and satisfying actions to adapt to the virtual environment. A restaurant simulation game was used to elucidate the mechanism of the framework.

• Journal of Intelligence and Information Systems
• /
• v.12 no.1
• /
• pp.139-161
• /
• 2006

In this paper, we introduce a new combinatorial auction mechanism - N-Bilateral Optimized Combinatorial Auction (N-BOCA). N-BOCA is a flexible iterative combinatorial auction model that offers optimized trading for multi-suppliers and multi-purchasers in the supply chain. We design the N-BOCA system from the perspectives of architecture, protocol, and trading strategy. Under the given N-BOCA architecture and protocol, auctioneers and bidders have diverse decision strategies f3r winner determination. This needs flexible modeling environments. Hence, we propose an optimization modeling agent for bid and auctioneer selection. The agent has the capability to automatic model formulation for Integer Programming modeling. Finally, we show the viability of N-BOCA through prototype and experiments. The results say both higher allocation efficiency and effectiveness compared with 1-to-N general combinatorial auction mechanisms.

• The KIPS Transactions:PartB
• /
• v.10B no.7
• /
• pp.751-756
• /
• 2003

Ant Colony Optimization (ACO) is new meta heuristics method to solve hard combinatorial optimization problem. It is a population based approach that uses exploitation of positive feedback as well as greedy search. It was firstly proposed for tackling the well known Traveling Salesman Problem (TSP) . In this paper, we introduce Multi Colony Ant Model that achieve positive interaction and negative interaction through Intensification and Diversification to improve original ACS performance. This algorithm is a method to solve problem through interaction between ACS groups that consist of some agent colonies to solve TSP problem. In this paper, we apply this proposed method to TSP problem and evaluates previous method and comparison for the performance and we wish to certify that qualitative level of problem solution is excellent.

• Journal of Internet Computing and Services
• /
• v.22 no.4
• /
• pp.13-28
• /
• 2021

Reinforcement Learning (RL) is a machine learning algorithm that repeat the closed-loop process that agents perform actions specified by the policy, the action is evaluated with a reward function, and the policy gets updated accordingly. The key benefit of RL is the ability to optimze the policy with action evaluation. Hence, it can effectively be applied to developing advanced intelligent systems and autonomous systems. Conventional RL incoporates a single policy, a reward function, and relatively simple policy update, and hence its utilization was limited. In this paper, we propose an extended RL model that considers multiple instances of RL elements. We define a formal model of the key elements and their computing model of the extended RL. Then, we propose design methods for applying to system development. As a case stud of applying the proposed formal model and the design methods, we present the design and implementation of an advanced car navigator system that guides multiple cars to reaching their destinations efficiently.

• Journal of Institute of Control, Robotics and Systems
• /
• v.22 no.9
• /
• pp.693-698
• /
• 2016

A decentralized control method is proposed to enable a group of robots to achieve maximum performance in multisensory target tracking while avoiding collision with the target. The decentralized control was designed based on navigation function formalism. The study showed that the multiple agent system converged to the positions providing the maximum performance by the decentralized controller, based on Lyapunov and Hessian theory. An exemplary simulation was given for a multiple agent system tracking a stationary target.