• 제목/요약/키워드: Agent Model

검색결과 1,660건 처리시간 0.027초

Reward Shaping for a Reinforcement Learning Method-Based Navigation Framework

  • Roland, Cubahiro;Choi, Donggyu;Jang, Jongwook
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국정보통신학회 2022년도 추계학술대회
    • /
    • pp.9-11
    • /
    • 2022
  • Applying Reinforcement Learning in everyday applications and varied environments has proved the potential of the of the field and revealed pitfalls along the way. In robotics, a learning agent takes over gradually the control of a robot by abstracting the navigation model of the robot with its inputs and outputs, thus reducing the human intervention. The challenge for the agent is how to implement a feedback function that facilitates the learning process of an MDP problem in an environment while reducing the time of convergence for the method. In this paper we will implement a reward shaping system avoiding sparse rewards which gives fewer data for the learning agent in a ROS environment. Reward shaping prioritizes behaviours that brings the robot closer to the goal by giving intermediate rewards and helps the algorithm converge quickly. We will use a pseudocode implementation as an illustration of the method.

  • PDF

Towards More Accurate Space-Use Prediction: A Conceptual Framework of an Agent-Based Space-Use Prediction Simulation System

  • Cha, Seung Hyun;Kim, Tae Wan
    • 국제학술발표논문집
    • /
    • The 6th International Conference on Construction Engineering and Project Management
    • /
    • pp.349-352
    • /
    • 2015
  • Size of building has a direct relationship with building cost, energy use and space maintenance cost. Therefore, minimizing building size during a project development is of paramount importance against such wastes. However, incautious reduction of building size may result in crowded space, and therefore harms the functionality despite the fact that building is supposed to satisfactorily support users' activity. A well-balanced design solution is, therefore, needed at an optimum level that minimizes building size in tandem with providing sufficient space to maintain functionality. For such design, architects and engineers need to be informed accurate and reliable space-use information. We present in this paper a conceptual framework of an agent-based space-use prediction simulation system that provides individual level space-use information over time in a building in consideration of project specific user information and activity schedules, space preference, ad beavioural rules. The information will accordingly assist architects and engineers to optimize space of the building as appropriate.

  • PDF

에이전트 행동에 기반한 의도 인식 컴퓨팅 (Agent's Activities based Intention Recognition Computing)

  • 김진옥
    • 인터넷정보학회논문지
    • /
    • 제13권2호
    • /
    • pp.87-98
    • /
    • 2012
  • 에이전트의 의도를 인식하는 것은 사물지능형 컴퓨팅에서 인간컴퓨터 상호작용의 주요 부분이다. 컴퓨팅 시스템에서 인식 대상의 의도를 정확하게 유추하면 다수의 에이전트간의 협력 상황 이해와 특정 행동이 취해질 때의 상황 파악이 쉽기 때문이다. 본 연구는 다른 이의 행동을 해석하고 행동의 근거가 되는 의도와 목적을 추론하는 인간의 기제를 바탕으로, 컴퓨팅 시스템이 행동을 인식하여 습득한 사전 경험 데이터를 이용, 대상의 의도를 빠르게 인식하는 방법을 제안한다. 의도 인식을 수행하기 위해 제안 방법은 에이전트의 목적에 따른 행동 변화를 검출하고 시스템이 사전에 학습한 행동 정보를 모델링하기 위해 특정 형태의 행동 은닉마코프 형식을 이용한다. 에이전트의 의도를 추론하는 데 관점을 다양하게 취함으로써 시스템이 에이전트의 행동이 끝나기 전에 미리 의도를 추론하도록 한다. 의도 인식의 정확도, 조기 검출률과 정확 지속률에 대한 실험으로 여러 가지 행동을 취하는 에이전트의 의도 검출 결과를 정량적으로 제시함으로써 제안 연구가 효과적인 의도 인식 시스템 구현에 기여함을 보여준다.

공동물류 환경의 혼합추천시스템 기반 차주-화주 중개서비스 구현 (Hybrid Recommendation Based Brokerage Agent Service System under the Compound Logistics)

  • 장상영;최명진;양재경
    • 산업경영시스템학회지
    • /
    • 제39권4호
    • /
    • pp.60-66
    • /
    • 2016
  • Compound logistics is a service aimed to enhance logistics efficiency by supporting that shippers and consigners jointly use logistics facilities. Many of these services have taken place both domestically and internationally, but the joint logistics services for e-commerce have not been spread yet, since the number of the parcels that the consigners transact business is usually small. As one of meaningful ways to improve utilization of compound logistics, we propose a brokerage service for shipper and consigners based on the hybrid recommendation system using very well-known classification and clustering methods. The existing recommendation system has drawn a relatively low satisfaction as it brought about one-to-one matches between consignors and logistics vendors in that such matching constrains choice range of the users to one-to-one matching each other. However, the implemented hybrid recommendation system based brokerage agent service system can provide multiple choice options to mutual users with descending ranks, which is a result of the recommendation considering transaction preferences of the users. In addition, we applied feature selection methods in order to avoid inducing a meaningless large size recommendation model and reduce a simple model. Finally, we implemented the hybrid recommendation system based brokerage agent service system that shippers and consigners can join, which is the system having capability previously described functions such as feature selection and recommendation. As a result, it turns out that the proposed hybrid recommendation based brokerage service system showed the enhanced efficiency with respect to logistics management, compared to the existing one by reporting two round simulation results.

안전한 망 관리를 위한 보안정책 협상모델 설계 (Security Policy Negotiation Model Design for Secure Network Management)

  • Park, Jin-Ho;Chung, Jin-Wook
    • 정보처리학회논문지C
    • /
    • 제11C권2호
    • /
    • pp.171-176
    • /
    • 2004
  • 본 논문에서는 IPSec(IP Security) 환경에서 이동 에이전트 시스템을 이용한 안전한 망 관리를 위한 보안정책 협상모델을 설계하고자 한다. 기존의 안전한 망 관리를 위한 IP 보안 시스템들은 약간의 문제점들이 있다. 각 보안영역과 구현 환경에 따라 각기 다른 보안정책을 내부적으로 정의하여 사용하고 있다. 이로 인하여 패킷 전송시 보안 영역간 정책 요구사항이 서로 달라 패킷이 목적지까지 전달되지 않을 수도 있고, 패킷이 양방향으로 같은 경로를 따라 전송되고 같은 정책으로 보호되는지 보장할 수 없는 문제점을 내포하고 있다. 본 논문에서는 이러한 문제들을 이동 에이전트를 이용하여 해결할 수 있는 모델을 설계하였다. 각각의 보안 영역별로 보안정책의 협상이 필요하다면, 이동 에이전트는 보안정책 협상결과를 패스포트 형태로 관리하고, 이 패스포트를 이용하여 서로간의 인증 및 신뢰성을 보증해 준다.

국내 자동차 시장에서 소비자 에이전트 모형 기반의 제품 확산 다이나믹스 민감도 분석 (Consumer-Agent Based Sensitivity Analysis of Product Diffusion Dynamics for Domestic Automobile Market)

  • 김신태;김창욱
    • 한국시뮬레이션학회논문지
    • /
    • 제20권2호
    • /
    • pp.29-40
    • /
    • 2011
  • 본 연구에서는 에이전트 모형 기반 시뮬레이션 기법을 이용하여 국내 중형 고급승용차 제품시장에서 경쟁 제품들의 확산 다이나믹스를 예측하기 위한 환경조건을 도출하고자 민감도 분석을 실시하였다. 본 연구에서는 소비자의 구매 특성과 행동을 모방한 소비자 에이전트 모형을 이용하며 사회적 네트워크로 연결된 소비자 에이전트들의 집단은 하나의 가상시장을 이룬다. 제품을 구매한 소비자 에이전트가 이웃 에이전트들에게 제품정보를 전달함으로써 실제 시장처럼 구전현상이 나타나고 이는 잠재적 소비자 에이전트들의 제품선택에 영향을 주게 되어 확산 다이나믹스 패턴이 변화하게 된다. 가상시장의 확산 다이나믹스가 실제 시장의 확산다이나믹스를 반영하기 위해서는 초기채택자 비율, 사회적 네트워크의 구조, 소비자 에이전트의 구매시점 결정방법 등의 가상시장 환경설정이 중요하다. 그러나 이러한 환경조건들은 실제시장에서 측정하기가 어렵기 때문에 본 연구에서는 다양한 환경조건하에서의 확산다이나믹스패턴을 실제 데이터와 비교 분석하여 적합한 환경조건을 찾고자 한다.

등가재령을 이용한 초지연 모르타르의 응결시간 예측식 제안 (Prediction Equation of Setting Time for Mortar Using Super Retarding Agent Using Equivalent Age)

  • 한민철;현승용;김종
    • 한국건설순환자원학회논문집
    • /
    • 제10권1호
    • /
    • pp.80-91
    • /
    • 2022
  • 본 연구에서는 초지연제 혼입률, 양생온도 및 강도수준 변화에 따른 응결지연 특성을 실험적으로 고찰하고, 응결시간과 수화반응속도 관점에서 이들의 영향을 정량적으로 평가할 수 있는 적산온도를 이용한 응결시간 예측식을 제안하고자 하였다. 그 결과, 양생온도, 강도수준(물결합재비) 및 초지연제 혼입률을 결정한 뒤 본 연구에서 제안한 모델식에 대입하면 응결시간을 예측할 수 있다. 모델식의 경우에는 결정계수가 0.9 이상으로 나타났으며, F-검정을 통해 그 신뢰성을 확인하였다. 최종적으로 본 논문에서 제안한 모델식을 활용하면 실무에서 초지연 콘크리트의 응결과 관련하여 합리적인 품질관리가 가능할 것으로 판단된다.

뇌척수액 미세순환을 통한 래트 내이 외림프의 가돌리늄 조영제 증강 특성 (Enhancement Characteristics of Gadolinium Contrast Agent in the Rat Inner Ear Perilymph through CSF microcirculation)

  • 김민정;이상열;이희중;이태관;장용민
    • 대한의용생체공학회:의공학회지
    • /
    • 제43권4호
    • /
    • pp.193-198
    • /
    • 2022
  • Contrast enhanced magnetic resonance imaging using gadolinium-based contrast agent (GBCA) is a very useful in vivo technique to visualize the inner ear pathology including endolymphatic hydrops. Although systemic intravenous (IV) administration can visualize the perilymph space, the visualization was possible by indirect passage of contrast agent through blood-perilymph barrier. All animal experimental procedures were performed under anesthesia with 5% isoflurane. Lipopolysaccharide (LPS) was instilled into the left tympanic cavity through the tympanic membrane using a sterile 27gauge needle to induce hydrops model. Tucker-Davis Technologies system was used to measure Auditory Brainstem Responses (ABRs). For intracerebroven-tricular (ICV) administration, 25 µmol of GADOVIST (Bayer, Berlin, Germany) was used and diluted GADOVIST injection was 10 µl. MR imaging was acquired with a 9.4 Tesla MRI scanner. Transmit-receive volume coil with 40 mm inner diameter and 75 mm out diameter was used. ICV administration well demonstrated the strong enhancement along the cerebrospinal fluid (CSF) microcirculation pathway including CSF fluid in the subarachnoid space and CSF space of the inner ear structures. On the other hand, IV administration showed no contrast enhancement along the CSF microcirculation pathway and showed weak enhancement in the inner ear structures. In case of rat hydrops model, ICV administration showed that the reduced contrast enhancement in the perilymph space of the hydrops induced inner ear compared to the contrast enhancement in the perilymph space of the normal inner ear. New systemic ICV administration method provide contrast enhancement of GBCA in the inner ear through CSF microcirculation pathway.

스마트 안전도시 조성을 위한 도로망 특성과 범죄발생 멀티에이전트(Multi-Agent) 시뮬레이션 (Road Networks and Crime Occurrence Multi-Agent Simulation for Smart Safe City)

  • 문태헌;조정훈
    • 한국지리정보학회지
    • /
    • 제18권2호
    • /
    • pp.120-134
    • /
    • 2015
  • 본 연구는 범죄로부터 안전한 생활환경 조성을 위해 도로망의 형태도 범죄발생에 영향을 미칠 것이라는 가정하에 공간구문론(Space Syntax)을 활용하여 사례지역을 대상으로 실증 분석하였다. 즉 도로별로 통합도, 통제도, 연결도를 공간구문론으로 계산하고, 각 도로별 실제 범죄발생 건수와 상관성을 분석하였다. 다음으로 분석결과를 일반화할 수 있는지를 확인하기 위해 멀티에이전트모형(Multi-Agent Model)을 개발하여 컴퓨터상의 가상공간에서 시나리오를 설정하고 시뮬레이션 하였다. 그 결과 도로망의 통합도가 범죄발생과 가장 연관성이 높은 것으로 분석되었으며, 가상공간 시뮬레이션 결과에도 통합도가 가장 영향을 많이 주는 것으로 나타났다. 본 연구는 멀티에이전트 시뮬레이션에서 실험공간 규모나 에이전트 행동의 프로그래밍에 한계가 있었지만 현실 데이터와 가상공간 시뮬레이션에 의해 도로망 체계와 범죄발생간의 관계를 규명하였다는데 의의가 있다. 또한 본 연구에서 개발된 시뮬레이션 플랫폼은 다양한 실험이 가능하므로 경찰력이나 방범시설의 배치 등 보다 현실적인 문제에 대한 해결방안 모색과 스마트 안전도시를 앞당기는데 기여할 것이다.

물류시스템 분석을 위한 행위자 기반 모형 적용에 대한 제언 (A Proposition on Applying Agent-based Model for Analyzing Logistics System)

  • 김준혁
    • 한국항만경제학회지
    • /
    • 제26권3호
    • /
    • pp.130-142
    • /
    • 2010
  • 현대 물류시스템은 점점 더 다각화되고 복잡한 형태로 변화하고 있다. 그 결과 시스템의 거시적인 행태 분석과 예측은 더욱 더 어려워지고 있다. 전통적 분석 방법은 하향식 분석 방법으로 복잡성이 높은 물류시스템에 대한 적용에 있어 한계를 갖는다. 행위자 기반 모형은 상향식 분석 방법으로 시스템 모형화에 있어 새로운 사고방식의 틀을 제공한다. 행위자 기반 모형은 전체시스템의 하위시스템, 즉 행위자의 상호작용에 초점을 맞춘다. 전체시스템의 거시적인 행태는 행위자의 미시적인 상호작용을 결집시킴으로서 발현된다. 행위자 기반 모형은 행위자 기능의 정의에 따라, 분석의 영역을 자유롭게 조정할 수 있고, 각 행위자의 상호작용 모형화와 이를 통해 얻어진 전체시스템의 거시적인 행태와의 인과관계 분석도 가능하다. 물류시스템의 복잡성은 시스템 내 존재하는 다수의 참가자들의 복잡한 상호작용과 시스템의 목적과 독립적인 의사결정 등에 기인한다. 행위자 기반 모형은 행위자를 자신의 목적 달성을 위하여 외부, 다른 행위자 간 상호작용을 통해 습득한 단순명료한 규칙에 기반하여 행동한다고 가정한다. 행위자 기반 모형의 이점은 모형화 과정을 보다 단순하게 만들고 이를 통하여 각 하위시스템의 특성만으로는 설명할 수 없는 현상, 즉 창발성을 파악할 수 있다는 점이다. 따라서 행위자 기반 모형은 물류시스템과 같은 복잡하고 동적인 시스템의 분석에 매우 유용한 기법으로 이에 대한 많은 연구와 적용이 이루어져야 한다.