• 제목/요약/키워드: Distributed Training

검색결과 369건 처리시간 0.025초

쿠버네티스에서 ML 워크로드를 위한 분산 인-메모리 캐싱 방법 (Distributed In-Memory Caching Method for ML Workload in Kubernetes)

  • 윤동현;송석일
    • Journal of Platform Technology
    • /
    • 제11권4호
    • /
    • pp.71-79
    • /
    • 2023
  • 이 논문에서는 기계학습 워크로드의 특징을 분석하고 이를 기반으로 기계학습 워크로드의 성능 향상을 위한 분산 인-메모리 캐싱 기법을 제안한다. 기계학습 워크로드의 핵심은 모델 학습이며 모델 학습은 컴퓨팅 집약적 (Computation Intensive)인 작업이다. 쿠버네티스 기반 클라우드 환경에서 컴퓨팅 프레임워크와 스토리지를 분리한 구조에서 기계학습 워크로드를 수행하는 것은 자원을 효과적으로 할당할 수 있지만, 네트워크 통신을 통해 IO가 수행되야 하므로 지연이 발생할 수 있다. 이 논문에서는 이런 환경에서 수행되는 머신러닝 워크로드의 성능을 향상하기 위한 분산 인-메모리 캐싱 기법을 제안한다. 특히, 제안하는 방법은 쿠버네티스 기반의 머신러닝 파이프라인 관리 도구인 쿠브플로우를 고려하여 머신러닝 워크로드에 필요한 데이터를 분산 인-메모리 캐시에 미리 로드하는 새로운 방법을 제안한다.

  • PDF

이동 에이전트를 이용한 병렬 인공신경망 시뮬레이터 (The Parallel ANN(Artificial Neural Network) Simulator using Mobile Agent)

  • 조용만;강태원
    • 정보처리학회논문지B
    • /
    • 제13B권6호
    • /
    • pp.615-624
    • /
    • 2006
  • 이 논문은 이동 에이전트 시스템에 기반을 둔 가상의 병렬분산 컴퓨팅 환경에서 병렬로 수행되는 다층 인공신경망 시뮬레이터를 구현하는 것을 목적으로 한다. 다층 신경망은 학습세션, 학습데이터, 계층, 노드, 가중치 수준에서 병렬화가 이루어진다. 이 논문에서는 네트워크의 통신량이 상대적으로 적은 학습세션 및 학습데이터 수준의 병렬화가 가능한 신경망 시뮬레이터를 개발하고 평가하였다. 평가결과, 학습세션 병렬화와 학습데이터 병렬화 성능분석에서 약 3.3배의 학습 수행 성능 향상을 확인할 수 있었다. 가상의 병렬 컴퓨터에서 신경망을 병렬로 구현하여 기존의 전용병렬컴퓨터에서 수행한 신경망의 병렬처리와 비슷한 성능을 발휘한다는 점에서 이 논문의 의의가 크다고 할 수 있다. 따라서 가상의 병렬 컴퓨터를 이용하여 신경망을 개발하는데 있어서, 비교적 시간이 많이 소요되는 학습시간을 줄임으로서 신경망 개발에 상당한 도움을 줄 수 있다고 본다.

A General Distributed Deep Learning Platform: A Review of Apache SINGA

  • Lee, Chonho;Wang, Wei;Zhang, Meihui;Ooi, Beng Chin
    • 정보과학회지
    • /
    • 제34권3호
    • /
    • pp.31-34
    • /
    • 2016
  • This article reviews Apache SINGA, a general distributed deep learning (DL) platform. The system components and its architecture are presented, as well as how to configure and run SINGA for different types of distributed training using model/data partitioning. Besides, several features and performance are compared with other popular DL tools.

호스피스 자원봉사자 교육이 영적 안녕에 미치는 효과

  • 민순;정경인;주리애
    • 호스피스학술지
    • /
    • 제3권2호
    • /
    • pp.12-18
    • /
    • 2003
  • The purpose of this study was to promote the popularization of hospice services by providing the information about the influences of hospice training on participants. We compared differences of pre-training and post-training by use of questionnaire. This study involved 59 volunteers participating in the hospice training held by one hospice center located in K-city. The questionnaire was composed of 41 items, 21 items of general information and 20 items of information about spiritual welling-being. We applied Choi's translated version(1990), originally distributed by Paloutzion and Ellison(1982), in the assessment of participants' changed spiritual welling-being score. Participants were asked to fill out the questionnaire before and after the hospice training. The data were analyzed by frequency, paired t-test. The results were as follows, There were significant differences in participants' spiritual welling-being score. Compared with pretraining(3.51), more spiritual well-being score were improved in post-training(3.69)(t=-2.45, p<.05). The results of this study indicate that hospice training improve spiritual well-being score to the participants. In conclusion, hospice training should be popularized in the near future.

  • PDF

Energy-efficient data transmission technique for wireless sensor networks based on DSC and virtual MIMO

  • Singh, Manish Kumar;Amin, Syed Intekhab
    • ETRI Journal
    • /
    • 제42권3호
    • /
    • pp.341-350
    • /
    • 2020
  • In a wireless sensor network (WSN), the data transmission technique based on the cooperative multiple-input multiple-output (CMIMO) scheme reduces the energy consumption of sensor nodes quite effectively by utilizing the space-time block coding scheme. However, in networks with high node density, the scheme is ineffective due to the high degree of correlated data. Therefore, to enhance the energy efficiency in high node density WSNs, we implemented the distributed source coding (DSC) with the virtual multiple-input multiple-output (MIMO) data transmission technique in the WSNs. The DSC-MIMO first compresses redundant source data using the DSC and then sends it to a virtual MIMO link. The results reveal that, in the DSC-MIMO scheme, energy consumption is lower than that in the CMIMO technique; it is also lower in the DSC single-input single-output (SISO) scheme, compared to that in the SISO technique at various code rates, compression rates, and training overhead factors. The results also indicate that the energy consumption per bit is directly proportional to the velocity and training overhead factor in all the energy saving schemes.

A Federated Multi-Task Learning Model Based on Adaptive Distributed Data Latent Correlation Analysis

  • Wu, Shengbin;Wang, Yibai
    • Journal of Information Processing Systems
    • /
    • 제17권3호
    • /
    • pp.441-452
    • /
    • 2021
  • Federated learning provides an efficient integrated model for distributed data, allowing the local training of different data. Meanwhile, the goal of multi-task learning is to simultaneously establish models for multiple related tasks, and to obtain the underlying main structure. However, traditional federated multi-task learning models not only have strict requirements for the data distribution, but also demand large amounts of calculation and have slow convergence, which hindered their promotion in many fields. In our work, we apply the rank constraint on weight vectors of the multi-task learning model to adaptively adjust the task's similarity learning, according to the distribution of federal node data. The proposed model has a general framework for solving optimal solutions, which can be used to deal with various data types. Experiments show that our model has achieved the best results in different dataset. Notably, our model can still obtain stable results in datasets with large distribution differences. In addition, compared with traditional federated multi-task learning models, our algorithm is able to converge on a local optimal solution within limited training iterations.

Entrepreneurship and Training Programs for Young Entrepreneurs in the New Era: An Empirical Study from Indonesia

  • MUSLIM, Abdul;NADIROH, Nadiroh;ARINI, Dewi Eka
    • The Journal of Asian Finance, Economics and Business
    • /
    • 제10권1호
    • /
    • pp.169-179
    • /
    • 2023
  • This study aims to determine the factors that influence training programs in increasing entrepreneurial success as a new model for developing entrepreneurship training in a new era. It intended to provide a suggestion for building an entrepreneurship training model for Beginner Young Entrepreneurs (BYE) organized by the Ministry of Youth and Sports of Indonesia. The study used a quantitative method by collecting data through a Google form questionnaire distributed via the WhatsApp group. This study employs samples from 358 BYE training participants for 2017-2020, and data was processed using Amos SEM software to analyze factors that influence the success of entrepreneurship. The results showed that entrepreneurial motivation is a partial mediator in increasing the effect of training on its success by BYE participants. Furthermore, the key factor for increasing entrepreneurial motivation is challenging young people to start businesses. This study recommends that BYE program policymakers build a training model by considering many practical case studies to increase motivation as an important mediator in influencing entrepreneurial success. Meanwhile, to boost the morale of training participants, it is necessary to add significant real challenges for participants to start entrepreneurship. Moreover, future studies should add other independent variables, such as personality.

다중협업이 가능한 AR 기반 화학공정 운전원 교육 시뮬레이터(OTS-Simulator) 개발 (Development on AR-Based Operator Training Simulator(OTS) for Chemical Process Capable of Multi-Collaboration)

  • 이준서;마병철;안수빈
    • 융합정보논문지
    • /
    • 제12권1호
    • /
    • pp.22-30
    • /
    • 2022
  • 인적오류로 발생하는 화학사고를 예방하고자 첨단 기술을 응용한 화학사고 예방 및 대응 훈련 프로그램을 개발하였다. 기존에 구축된 파일롯 플랜트(pilot plant)를 바탕으로 가상의 공정을 설계한 후, 화학사고 대응 컨텐츠를 개발하였다. 컨텐츠 구현을 위하여 파일롯 설비 일부를 개조하여 원격제어기능을 부여하였다. 또한, 가상환경에서 설비를 제어할 수 있는 DCS 프로그램을 개발하였으며, AR과 연동하여 최종적으로 가상의 화학사고를 대응할 수 있는 화학공정 운전원 교육(OTS)을 개발하였다. 이를 통해 훈련자가 직접 장치를 조작해봄으써 운전역량을 쌓을 수 있고, 가상의 화학사고를 대응함으로써 비상시 대처능력을 기를 수 있었다. 본 연구와 같은 차세대 OTS가 화학산업에 널리 보급된다면 인적오류에 의한 화학사고를 예방하는데 크게 기여할 것으로 기대된다.

분포형 합성환경자료의 군사시뮬레이션 적용 (The Application of Distributed Synthetic Environment Data to a Military Simulation)

  • 조내현;박종철;김만규
    • 한국시뮬레이션학회논문지
    • /
    • 제19권4호
    • /
    • pp.235-247
    • /
    • 2010
  • 군사훈련을 지원하는 워게임 모델은 환경요소가 매우 중요하다. 한국군의 대부분 워게임 모델들은 동일한 기상을 모든 작전지역에 적용하고 있다. 이에 따라 충실도가 높은 모의결과를 도출하지 못하고 있다. 이러한 실정에 비추어 본 연구는 분포형 합성환경 모델링 자료를 군사시뮬레이션에 적용할 수 있는 충실도 높은 워게임을 위한 요소기술을 개발 하는 것이다. 그것은 본 연구를 위해 개발한 2D GIS기반의 "단순 탐지확률 모델"과 이 모델에 지역별로 상이한 분포형 강수량 자료의 적용 기술이다. 이로써 군사시뮬레이션 수행 시 모델 해상도(전구급~공학급), 용도(훈련용, 분석용), 묘사 수준(군단급~대대급)에 따라 다양하게 작전지역별 상이한 국지기상을 반영하는 분포형 합성환경의 제공과 사용이 가능해졌다.

프라이버시를 보호하는 분산 기계 학습 연구 동향 (Systematic Research on Privacy-Preserving Distributed Machine Learning)

  • 이민섭;신영아;천지영
    • 정보처리학회 논문지
    • /
    • 제13권2호
    • /
    • pp.76-90
    • /
    • 2024
  • 인공지능 기술은 스마트 시티, 자율 주행, 의료 분야 등 다양한 분야에서 활용 가능성을 높이 평가받고 있으나, 정보주체의 개인정보 및 민감정보의 노출 문제로 모델 활용이 제한되고 있다. 이에 따라 데이터를 중앙 서버에 모아서 학습하지 않고, 보유 데이터셋을 바탕으로 일차적으로 학습을 진행한 후 글로벌 모델을 최종적으로 학습하는 분산 기계 학습의 개념이 등장하였다. 그러나, 분산 기계 학습은 여전히 협력하여 학습을 진행하는 과정에서 데이터 프라이버시 위협이 발생한다. 본 연구는 분산 기계 학습 연구 분야에서 프라이버시를 보호하기 위한 연구를 서버의 존재 유무, 학습 데이터셋의 분포 환경, 참여자의 성능 차이 등 현재까지 제안된 분류 기준들을 바탕으로 유기적으로 분석하여 최신 연구 동향을 파악한다. 특히, 대표적인 분산 기계 학습 기법인 수평적 연합학습, 수직적 연합학습, 스웜 학습에 집중하여 활용된 프라이버시 보호 기법을 살펴본 후 향후 진행되어야 할 연구 방향을 모색한다.