• Proceedings of the Korean Society of Computer Information Conference
• /
• 2023.01a
• /
• pp.311-313
• /
• 2023

병렬 기계 작업장에서 자원을 효율적으로 활용하기 위해서는 처리할 작업을 적절한 기계에 할당해야 한다. 특정 작업을 처리할 기계를 선택할 때 휴리스틱을 사용할 수도 있으나, 특정 작업장에 맞춤화된 휴리스틱을 개발하는 것은 쉽지 않다. 반면, 본 논문에서는 이종 병렬 기계 작업장을 위한 작업 할당 모형을 개발하는데 강화학습을 응용하고자 한다. 작업 할당 모형을 학습하는데 필요한 에피소드들은 상용 시뮬레이션 소프트웨어인 FlexSim을 이용하여 생성하였다. 아울러, stable-baseline3 라이브러리를 이용하여 강화학습 알고리즘을 생성된 에피소드들에 적용하였다. 실험 결과를 통해 시뮬레이션과 강화학습이 작업장 운영관리에 유용함을 알 수 있었다.

• Proceedings of the Korean Society of Computer Information Conference
• /
• 2016.07a
• /
• pp.13-15
• /
• 2016

에너지 소비가 큰 건물은 내부 온/습도, 이산화탄소 농도, 미세먼지 농도 등의 일정 공기 질을 유지하면서 에너지 비용을 최소화할 수 있는 제어계획을 수립하는 것이 필요하다. 기존 건물에서 실내 환경의 운영은 설정된 실내 환경 값을 기준을 벗어나면 설비 기기를 제어하는 방식으로 이루어진다. 이는 단 시간에 고에너지를 투입하여 장비를 가동시키므로 에너지 소모가 크며 peak 전력이 높아 에너지 비용이 크다는 문제가 있다. 따라서 온도를 포함한 환경이 변해가는 상황을 예측하고 사전에 에너지 사용 계획을 수립하여 관리 제어를 수행함으로써 예열부하 등의 불필요한 에너지 손실을 절감하려 한다. 이를 위해 실내 환경이 변화하는 것을 예측하고 후보 제어계획으로 제어를 수행할 때 소요되는 에너지가 어느 정도인지 시뮬레이션하여 제어계획의 적합도를 평가한다. 기존 EnergyPlus와 같은 시뮬레이션 도구는 모델이 복잡하여 시뮬레이션에 많은 시간이 필요하기 때문에 환경 변화를 반영하기 위해 주기적으로 재수립되는 수많은 제어계획 데이터를 단시간에 시뮬레이션하기에 부적합하다. 본 논문에서는 빠른 시뮬레이션을 위해 실제 운영 데이터와 에뮬레이션을 통해 획득한 운영 데이터를 기반으로 학습 알고리즘을 이용하여 제어계획 적용 시의 미래 상황을 예측한다.

• Journal of the Korea Society of Computer and Information
• /
• v.29 no.2
• /
• pp.61-66
• /
• 2024

This paper aims to design a simulation for path-finding of objects in a simulation or game environment using reinforcement learning techniques. The main feature of this study is that the objects in the simulation are trained to avoid obstacles at random locations generated on a given track and to automatically explore path to get items. To implement the simulation, ML Agents provided by Unity Game Engine were used, and a learning policy based on PPO (Proximal Policy Optimization) was established to form a reinforcement learning environment. Through the reinforcement learning-based simulation designed in this study, we were able to confirm that the object moves on the track by avoiding obstacles and exploring path to acquire items as it learns, by analyzing the simulation results and learning result graph.

• Proceedings of the Korea Information Processing Society Conference
• /
• 2009.11a
• /
• pp.267-268
• /
• 2009

많은 컴퓨터들이 기존의 단일코어 컴퓨터에서 벗어나 멀티코어를 장착한 컴퓨터로 변화하는 과정에서 기존의 단일 스레드 프로그래밍에서 다중처리가 중요해지는 세상이 되었다. 이러한 다중처리는 지능로봇 시뮬레이션 교육에 창의적 학습방법을 아주 잘 지원하고 있다. 지능로봇의 형태나 모형 그리고 센서 융합분야에서 동시처리는 중요한 역할을 하고 있다. 본 논문에서는 다중처리 기반 지능로봇 시뮬레이션 환경을 통해 창의적 학습방법에 관한 연구를 제안한다. 무한한 상상력과 창의성을 발휘하여 지능로봇의 모형 설계부터 직접 인공지능 프로그램까지 구현할 수 있는 방법을 소개한다.

• The Journal of Korean Association of Computer Education
• /
• v.15 no.2
• /
• pp.57-66
• /
• 2012

It is the advantage of robot programming to improve the learners' interest. However, the drawback is existed in the fact that it is not easy to determine whether the problem lies in the hardware factor or programmed logic when an error takes place. This study is an attempt to develop a simulation tool which assists learners to concentrate on the problems not relating to robot assembling but to robot program. It aims to enable beginners make a sketch of their ideas and examine their logic through simulation. Therefore, an Etoys-based robot programming tool is developed to allows user to download and execute the simulated program into an assembled robot. The significance of this study is that easy activity of sketch-based simulation can support learners to understand how the principles of computer science are applied in daily life such as an automatic door system.

• Journal of the Korea Society of Computer and Information
• /
• v.25 no.7
• /
• pp.39-46
• /
• 2020

Recently, for designing virtual characters in the battle game field effectively, some methods are very needed to predicate the win rates of the battle of them efficiently. In this paper, we propose a method to solve this problem by combining simulation and machine learning. Firstly, a simulation is used to analyze the win rates of the battle of virtual characters in the battle game. In addition, we apply a regression model based machine learning scheme to predict win rates of the battle of virtual characters according to their abilities. Our experimental results using suggested method show that it is almost no difference between the win rates of the simulation and the prediction results using the machine learning scheme. And also, we can obtain good performance in the experiment using only simple regression based machine learning model.

• The Journal of Korean Association of Computer Education
• /
• v.11 no.1
• /
• pp.75-83
• /
• 2008

The prior data structure coursewares have been limited to using a simple screen structure with text, pictures or plain animation so that they have been failed to promote favorable interaction between learners and instructors, and unnecessarily charges the screen. In order to overcome these problems, this paper provides an applet-based simulation environment which enables learner to operate and control the data structure operation with their own data, therefore, the learners can actively and positively participate in a study with this courseware. The instructors can easily deliver the education contents to the learners by using web simulation suitable for IT education media. Also, the courseware can offer a class feedback and required data for students estimation by recording a log.

• Journal of the Korea Computer Graphics Society
• /
• v.27 no.5
• /
• pp.55-61
• /
• 2021

The character motion control based on physics simulation using reinforcement learning continue to being carried out. In order to solve a problem using reinforcement learning, the network structure, hyperparameter, state, action and reward must be properly set according to the problem. In many studies, various combinations of states, action and rewards have been defined and successfully applied to problems. Since there are various combinations in defining state, action and reward, many studies are conducted to analyze the effect of each element to find the optimal combination that improves learning performance. In this work, we analyzed the effect on reinforcement learning performance according to the state representation, which has not been so far. First we defined three coordinate systems: root attached frame, root aligned frame, and projected aligned frame. and then we analyze the effect of state representation by three coordinate systems on reinforcement learning. Second, we analyzed how it affects learning performance when various combinations of joint positions and angles for state.

• Proceedings of the Korea Information Processing Society Conference
• /
• 2020.05a
• /
• pp.559-562
• /
• 2020

시각-언어 이동 문제는 시각 이해와 언어 이해 능력을 함께 요구하는 복합 지능 문제이다. 본 논문에서는 시각-언어 이동 에이전트를 위한 새로운 학습 모델을 제안한다. 이 모델은 데모 데이터에 기초한 모방 학습과 행동 보상에 기초한 강화 학습을 함께 결합한 복합 학습을 채택하고 있다. 따라서 이 모델은 데모 데이타에 편향될 수 있는 모방 학습의 문제와 상대적으로 낮은 데이터 효율성을 갖는 강화 학습의 문제를 상호 보완적으로 해소할 수 있다. 또한, 제안 모델은 서로 다른 두 학습 간에 발생 가능한 학습 불균형도 고려하여 손실 정규화를 포함하고 있다. 또, 제안 모델에서는 기존 연구들에서 사용되어온 목적지 기반 보상 함수의 문제점을 발견하고, 이를 해결하기 위해 설계된 새로은 최적 경로 기반 보상 함수를 이용한다. 본 논문에서는 Matterport3D 시뮬레이션 환경과 R2R 벤치마크 데이터 집합을 이용한 다양한 실들을 통해, 제안 모델의 높은 성능을 입증하였다.

• Proceedings of the Korean Information Science Society Conference
• /
• 2006.10a
• /
• pp.124-129
• /
• 2006

정보 통신 기술의 발달로 컴퓨터를 활용한 교육 영역이 계속 발전해 나가고 있고, 교수-학습에 도움을 주기 위한 많은 코스웨어 들이 개발되어 사용되고 있다. 기존의 코스웨어는 수업시간에 이미 배운 내용을 단순 반복하거나 형성 평가 형식의 예제를 풀어보는 유형으로, 학습자는 미리 계획된 커리큘럼과 프로그램에 수동적으로 반응하게 되어 코스웨어에서도 교수 중심의 학습이 이루어 지는 것을 극복하기 위해 본 연구에서는 학습자가 능동적으로 학습 과정에 참여하여 학습자 중심의 교육이 이루어 질 수 있고 텍스트가 아닌 프로그래밍 언어나 아이콘화 된 메뉴를 이용해 쉽게 접근이 가능하며 실제 상황과 유사하게 학습환경을 제공하고 수행결과를 확인해 학습의 효과를 극대화 시킬 수 있는 응용 프로그램 인터페이스(Application Program Interface) 기반의 시뮬레이션형 코스웨어를 설계해보고자 한다.