• The Journal of the Korea institute of electronic communication sciences
• /
• v.16 no.1
• /
• pp.95-100
• /
• 2021

This paper introduces model-based meta reinforcement learning as a control for the manipulator of an underwater construction robot. Model-based meta reinforcement learning updates the model fast using recent experience in a real application and transfers the model to model predictive control which computes control inputs of the manipulator to reach the target position. The simulation environment for model-based meta reinforcement learning is established using MuJoCo and Gazebo. The real environment of manipulator control for underwater construction robot is set to deal with model uncertainties.

• Journal of IKEEE
• /
• v.24 no.4
• /
• pp.991-997
• /
• 2020

Reinforcement learning has been applied mainly in sequential decision-making problems. Especially in recent years, reinforcement learning combined with neural networks has brought successful results in previously unsolved fields. However, reinforcement learning using deep neural networks has the disadvantage that it is too complex for immediate use in the field. In this paper, we implemented path planning algorithm for mobile robots using Q-learning, one of the easy-to-learn reinforcement learning algorithms. We used real-time Q-learning to update the Q-table in real-time since the Q-learning method of generating Q-tables in advance has obvious limitations. By adjusting the exploration strategy, we were able to obtain the learning speed required for real-time Q-learning. Finally, we compared the performance of real-time Q-learning and DQN.

• KIPS Transactions on Computer and Communication Systems
• /
• v.10 no.2
• /
• pp.39-46
• /
• 2021

Damages by malware have recently been increasing. Conventional signature-based antivirus solutions are helplessly vulnerable to unprecedented new threats such as Zero-day attack and ransomware. Despite that, many enterprises have retained signature-based antivirus solutions as part of the multiple endpoints security strategy. They do recognize the problem. This paper proposes a solution using the blockchain and deep learning technologies as the next-generation antivirus solution. It uses the antivirus software that updates through an existing DB server to supplement the detection unit and organizes the blockchain instead of the DB for deep learning using various samples and forms to increase the detection rate of new malware and falsified malware.

• Proceedings of the Korea Water Resources Association Conference
• /
• 2023.05a
• /
• pp.233-233
• /
• 2023

효율적인 수자원 관리에 필수적인 요소 중 하나는 유역 유출의 정확한 예측이다. 동일한 유역이라 할지라도 과거 기후조건에 대해 매개변수나 모형구조가 최적화된 수문모형은 현재나 미래 기후에 대해 최적이라 할수 없으며, 이에 따라 유역 유출 해석의 불확실성 또한 증가하고 있다. 수문자료동화는 모형의 입력 자료에 따른 불확실성을 줄이고 예측정확도를 향상 시킬 수 있는 방법으로, 수문모형의 상태량이나 매개변수를 업데이트하여 모형 초기 조건의 가능성 높은 추정치를 생성하는 기법이다. 본 연구에서는 국내 댐 상류 유역에 대해 집중형 수문모형과 순차자료동화 기법의 연계 패키지인 airGRdatassim 모형을 적용하여, 앙상블 칼만 필터와 파티클 필터 기법의 수문자료동화 특성을 비교 분석하고, 자료동화와 관련된 하이퍼-매개변수의 불확실성이 수문모의 성능에 미치는 영향을 분석하였다. 자료동화 적용 결과, 두 자료동화 기법 중 파티클 필터에 의한 모의성능이 높았으며 기상강제력 노이즈의 범위, 갱신 대상 상태량 설정, 앙상블 설정 등 수문자료동화의 설정과 관련된 하이퍼 매개변수의 불확실성은 두 기법별 뚜렷한 차이를 보였다. 또한, 본 연구에서는 일단위에서 시단위로 확장한 유량 예측 자료동화의 시험 모의결과 및 앙상블 수문동화기법의 도전과제에 대해서도 논의한다.

• Journal of Platform Technology
• /
• v.11 no.4
• /
• pp.80-88
• /
• 2023

To construct a learning model in the field of artificial intelligence, a dataset should be collected and be delivered to the central server where the learning model is constructed. Federated learning is a machine learning method building a global learning model without transmitting data located in a client side in a collaborative manner. It can be used to protect privacy, and after constructing a local trained model on individual clients, the parameters of the local model are aggregated centrally to update the global model. In this paper, we reuse the existing learning parameter to improve federated learning, describe incremental federated learning. For this work, we do experiments using the federated learning framework named Flower, and evaluate the experiment results with regard to elapsed time and precision when executing optimization algorithms.

• Proceedings of the Korea Water Resources Association Conference
• /
• 2021.06a
• /
• pp.368-368
• /
• 2021

기후 변화로 인한 극한사상의 크기와 빈도 변화를 예측하는 것은 수공 인프라 설계에 있어 주된 관심사 중 하나이다. 보통 극한사상에 대한 강도, 빈도, 지속시간에 대한 정보가 필요하며, 이는 일반적으로 IDF(Intensity-Duration-Frequency) 곡선으로부터 추출된다. 최근 CMIP(Coupled Model Intercomparison Project) 6단계에서 새로운 이산화탄소 배출 시나리오와 업데이트된 기후모델을 이용하여 미래의 기후에 대한 예측 시계열을 발표했으므로, 미래 기후 변화 시나리오를 기반으로 IDF 곡선을 새로 추정하고 미래 기간의 변화를 평가할 필요가 있다. 본 연구에서는 한국의 40개 지역에 대해 일단위 자료를 시단위로 축소(downscaling)한 후, 확률론적 일기생성기(stochastic weather generator)를 이용하여 30년 시단위 시계열을 100개의 앙상블로 생성하였다. 생성된 시계열로부터 연최대강수량 시계열을 재구성하여 GEV 분포와 gumbel 분포에 적용하였다. 적합도 검정(Anderson-Darling(AD) 검정 및 Kolmogorov-Smirnov(KS) 검정)을 수행하였으며, 과거 자료를 기반으로 생성된 IDF 곡선과 비교 검증하였다. CMIP5의 기후변화 자료를 사용한 결과와 CMIP6 기후변화의 결과를 비교하였으며, 본 연구의 주요 결과는 다음과 같다. (1) 향후 강우 강도는 증가할 것이며 강우 강도의 증가는 말기에 현저하게 관찰될 것이다. (2) 시간별 강우 강도의 미래 변화가 일단위 강우 강도보다 더 크다. (3) 강우 강도의 불확실성을 정량화하기 위해 앙상블을 사용해야 한다. (4) 강우 강도의 미래 변화에 대한 공간적인 경향이 확인된다. 시단위 시계열 앙상블을 생성하여 추정된 IDF 곡선에 대한 정보는 기후 변화의 영향을 평가하고 적절한 적응 및 대응 전략을 개발하는 데 도움이 될 것이다.

• Proceedings of the Korea Water Resources Association Conference
• /
• 2020.06a
• /
• pp.153-153
• /
• 2020

우리나라에선 크고 작은 가뭄 피해가 자주 일어나고 있으며 최근엔 유래 없는 다년가뭄이 발생하면서 가뭄에 대한 경각심이 커지고 있다. 가뭄에 적절하게 대응하여 피해를 경감시키기 위해서는 신뢰도 높은 가뭄 예측이 선행되어야 한다. 이에 본 연구는 앙상블 예측과 베이즈이론(Bayes' theorem)을 수문학적 가뭄지수 중 하나인 SRI(Standardized Runoff Index)에 적용해 가뭄 확률 전망을 실시했으며 이를 EDP(Ensemble Drought Prediction)라고 칭하였다. 국내 8개 댐유역에서 EDP를 생성하고 개선하는 과정은 다음과 같이 진행된다. 우선 TANK모형을 활용한 1개월 선행 유량 예측(Ensemble Streamflow Prediction, ESP)의 결과를 SRI로 변환하여 EDP 확률분포를 생성한다. 그런 다음, EDP를 개선하기 위해 그 기초인 ESP에서 미흡한 토양수분 초기조건을 보완하고자 베이즈이론을 활용했다. APCC(APEC Climate Center)의 위성 관측 SMI(Soil Moisture Index) 자료로 SRI와의 회귀식을 구축, 이를 우도함수로 정의해 사전 EDP 분포를 업데이트한 EDP+ 확률분포를 생성했다. 그 결과, EDP와 EDP+ 모두 심도가 깊은 가뭄을 전망할수록 예측력이 기후학적 예측보다 좋지 않았다. 그럼에도 우도함수로 사용한 회귀식의 정확도가 높을수록 EDP+의 정확도도 향상되는 경향이 나타났으며, 이는 베이즈이론을 사용한다면 가뭄 확률 전망을 개선할 수 있다는 것을 의미하고 있다. 하지만, 확정 전망 정확도는 확률 전망 정확도와는 관계가 없었는데 이는 확정 전망과 확률 전망이 본질적으로 다르기 때문인 것으로 사료된다.

• Proceedings of the Korean Society of Broadcast Engineers Conference
• /
• 2020.07a
• /
• pp.701-704
• /
• 2020

이미지 초해상도는 딥러닝의 발전과 함께 이를 활용하며 눈에 띄는 성능향상을 이루었다. 딥러닝을 기반으로 한 대부분의 이미지 초해상도 연구는 딥러닝 네트워크 모델의 구조에 대한 연구 위주로 진행되어 왔다. 그러나 최근 들어 딥러닝 기반의 이미지 초해상도가 합성된 데이터에 대해서는 높은 성능을 보이지만 실제 데이터에 대해서는 높은 성능을 보이지 못한다는 사실이 주목받고 있다. 이에 따라 모델 구조를 바꿔 성능을 향상 시키는 것에는 한계가 있어 데이터의 활용이나 학습 방법에 대한 연구의 필요성이 증대되고 있다. 따라서 본 논문은 이미지 초해상도를 위한 난이도 조절 기반 전이학습법(transfer learning)을 제안한다. 제안된 방법에서는 이미지 초해상도를 배율을 난이도가 쉬운 낮은 배율부터 순차적으로 전이학습을 진행한다. 이는 이미지 초해상도의 배율이 높아질수록 학습이 어렵기 때문이다. 결과적으로 본 논문에서는 높은 배율의 이미지 초해상도를 진행하기 위해 낮은 배율의 이미지 초해상도, 즉 난이도가 쉬운 학습부터 점진적으로 학습을 진행하였을 때 더욱 빠르고 효과적으로 학습할 수 있음을 보여준다. 제안된 전이학습 방법을 통해 적은 횟수의 업데이트로 학습을 진행하였을 때 일반적인 학습방법 대비 약 0.18 dB 의 PSNR 상승을 얻어, RealSR [9] 데이터셋에서 28.56 dB의 성능으로 파라미터 수 대비 높은 성능을 얻을 수 있었다.

• Proceedings of the Korean Society of Computer Information Conference
• /
• 2023.07a
• /
• pp.141-143
• /
• 2023

콘솔 및 PC 게임이 모바일 플랫폼으로 진출하는 경우 기존에 출시했던 플랫폼과 다르게 모바일 플랫폼에 맞는 조작, UI, 과금 정책 등의 다양한 부분을 고려할 필요가 있다. 모바일 플랫폼의 화면 크기 조작의 한계를 반영해 전투, 퀘스트 진행, 파티 조합, 장비 장착, 캐릭터 육성 등 게임 플레이 전반의 자동 시스템을 구축해 유저에게 조작 편의성을 제공할 필요가 있다. 또한 기존의 유료화 게임 형태의 판매 전략에서 부분 유료화의 전환에 따른 기존의 유저가 느낄 수 있는 과금 거부감을 해소하기 위해 시즌 패스, 월정액 시스템 등을 도입해 소 과금으로 유저들에게 게임 내에서 만족감을 느낄 수 있도록 하는 것이 중요하다. 본 논문에서는 게임의 일회적인 판매량이 매출에 영향을 주는 것과 다르게 주기적인 유저들의 접속(DAU, MAU)에 따른 과금 정도가 매출 및 게임 순위 등에 영향을 주게 된다. 따라서 꾸준한 업데이트와 이벤트 제공을 통해 기존 유저들이 장기적으로 게임에 접속하도록 유도하고, 신규 유저들이 게임에 유입될 수 있도록 하는 과정과 같은 발전 방안을 제시해 본다.

• Proceedings of the Korean Society of Computer Information Conference
• /
• 2023.07a
• /
• pp.659-660
• /
• 2023

코로나19의 엔데믹 선언으로 일상생활이 코로나19 이전으로 빠르게 되돌아가고 있다. 또한 소비자들의 취향이 세분화되고 여가생활의 트렌드가 급속하게 변화하면서 장소 추천 플랫폼의 이용이 증가하고 있다. 그러나 기존 장소, 코스 추천 앱의 경우 자체적으로 제작한 추천 콘텐츠로 인해 제공되는 데이터의 범위가 제한적이고 업데이트가 느리다. 이러한 문제를 해결하기 위해, 본 연구에서는 사용자가 선호하는 장소를 기반으로 테마별 카테고리로 나들이 장소를 랜덤으로 추천해 준다. 또한 추천 장소들을 기반으로 최적의 동선을 계산한 코스를 제공해주는 동시에 빠르고 쉽게 계획할 수 있는 맞춤형 나들이 추천 앱을 개발하였다.