• Title/Summary/Keyword: 메모리 기반 학습

Search Result 138, Processing Time 0.028 seconds

Hypernetwork Memory-Based Model for Infant's Language Learning (유아 언어학습에 대한 하이퍼망 메모리 기반 모델)

  • Lee, Ji-Hoon;Lee, Eun-Seok;Zhang, Byoung-Tak
    • Journal of KIISE:Computing Practices and Letters
    • /
    • v.15 no.12
    • /
    • pp.983-987
    • /
    • 2009
  • One of the critical themes in the language acquisition is its exposure to linguistic environments. Linguistic environments, which interact with infants, include not only human beings such as its parents but also artificially crafted linguistic media as their functioning elements. An infant learns a language by exploring these extensive language environments around it. Based on such large linguistic data exposure, we propose a machine learning based method on the cognitive mechanism that simulate flexibly and appropriately infant's language learning. The infant's initial stage of language learning comes with sentence learning and creation, which can be simulated by exposing it to a language corpus. The core of the simulation is a memory-based learning model which has language hypernetwork structure. The language hypernetwork simulates developmental and progressive language learning using the structure of new data stream through making it representing of high level connection between language components possible. In this paper, we simulates an infant's gradual and developmental learning progress by training language hypernetwork gradually using 32,744 sentences extracted from video scripts of commercial animation movies for children.

A Study on the Analysis of RocksDB Parameters Based on Machine Learning to Improve Database Performance (데이터베이스 성능 향상을 위한 기계학습 기반의 RocksDB 파라미터 분석 연구)

  • Jin, Huijun;Choi, Won Gi;Choi, Jonghwan;Sung, Hanseung;Park, Sanghyun
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2020.11a
    • /
    • pp.69-72
    • /
    • 2020
  • Log Structured Merged Tree(LSM-Tree)구조를 사용하여 빠른 데이터 쓰기 성능을 보유한 RocksDB에는 쓰기 증폭과 공간 증폭 현상이 발생한다. 쓰기 증폭은 과도한 쓰기 연산을 유발하여 데이터 처리 성능 저하와 플래시 메모리 기반 장치의 수명 저하를 초래하며, 공간 증폭은 데이터 저장 공간 점유로 인한 저장 공간 부족 문제를 야기한다. 본 논문에서는 쓰기 증폭과 공간 증폭 완화를 위해 RocksDB 의 성능에 영향 주는 주요 파라미터를 추출하고, 기계학습 기법인 랜덤 포레스트를 사용하여 추출한 파라미터가 쓰기 증폭과 공간 증폭에 미치는 영향을 분석하였다. 실험결과 쓰기 증폭과 공간 증폭에 영향을 많이 주는 주요 요소를 선별하였고 다른 파라미터에 대비해서 성능 격차가 61.7% 더 나타낸 것을 발견하였다.

Grammatical Relation Analysis using Support Vector Machine in BioText (바이오 문서에서 지지 벡터 기계를 이용한 문법관계 분석)

  • Park, Kyung-Mi;Hwang, Young-Sook;Rim, Hae-Chang
    • Annual Conference on Human and Language Technology
    • /
    • 2003.10d
    • /
    • pp.287-292
    • /
    • 2003
  • 동사와 기본구 사이의 문법관계 분석은 품사부착과 기본구 인식이 수행된 상태에서, 동사와 의존관계를 갖는 기본구를 찾고 각 구의 구문적, 의미적 역할을 나타내는 기능태그를 인식하는 작업이다. 본 논문에서는 바이오 문서에서 단백질과 단백질, 유전자와 유전자 사이의 상호작용관계를 자동으로 추출하기 위해서 제안한 문법관계 분석 방법을 적용하고 따라서 동사와 명사고, 전치사고, 종속 접속사의 관계만을 분석하며 기능태그도 정보추출에 유용한 주어, 목적어를 나타내는 태그들로 제한하였다. 기능태그 부착과 의존관계 분석을 통합해 수행하였으며, 지도학습 방법 중 분류문제에서 좋은 성능을 보이는 지지 벡터 기계를 분류기로 사용하였고, 메모리 기반 학습을 사용하여 자질을 추출하였으며, 자료부족문제를 완화하기 위해서 저빈도 단어는 품사 타입 또는 워드넷의 최상위 클래스의 개념을 이용해서 대체하였다. 시험 결과지지 벡터 기계를 이용한 문법관계 분석은 실제 적용시 빠른 수행시간과 적은 메모리 사용으로 상호작용관계 추출에서 효율적으로 사용될 수 있음을 보였다.

  • PDF

Study of the Fall Detection System Applying the Parameters Claculated from the 3-axis Acceleration Sensor to Long Short-term Memory (3축 가속 센서의 가공 파라미터를 장단기 메모리에 적용한 낙상감지 시스템 연구)

  • Jeong, Seung Su;Kim, Nam Ho;Yu, Yun Seop
    • Proceedings of the Korean Institute of Information and Commucation Sciences Conference
    • /
    • 2021.10a
    • /
    • pp.391-393
    • /
    • 2021
  • In this paper, we introduce a long short-term memory (LSTM)-based fall detection system using TensorFlow that can detect falls occurring in the elderly in daily living. 3-axis accelerometer data are aggregated for fall detection, and then three types of parameter are calculated. 4 types of activity of daily living (ADL) and 3 types of fall situation patterns are classified. The parameterized data applied to LSTM. Learning proceeds until the Loss value becomes 0.5 or less. The results are calculated for each parameter θ, SVM, and GSVM. The best result was GSVM, which showed Sensitivity 98.75%, Specificity 99.68%, and Accuracy 99.28%.

  • PDF

A RAM-based Cumulative Neural Net with Adaptive Weights (적응적 가중치를 이용한 RAM 기반 누적 신경망)

  • Lee, Dong-Hyung;Kim, Seong-Jin;Gwon, Young-Chul;Lee, Soo-Dong
    • Journal of Korea Multimedia Society
    • /
    • v.13 no.2
    • /
    • pp.216-224
    • /
    • 2010
  • A RAM-based Neural Network(RNN) has the advantages of processing speed and hardware implementation. In spite of these advantages, it has a saturation problem, weakness of repeated learning and extract of a generalized pattern. To resolve these problems of RNN, the 3DNS model using cumulative multi discriminator was proposed. But that model does not solve the saturation problem yet. In this paper, we proposed a adaptive weight cumulative neural net(AWCNN) using the adaptive weight neuron (AWN) for solving the saturation problem. The proposed nets improved a recognition rate and the saturation problem of 3DNS. We experimented with the MNIST database of NIST without preprocessing. As a result of experimentations, the AWCNN was 1.5% higher than 3DNS in a recognition rate when all input patterns were used. The recognition rate using generalized patterns was similar to that using all input patterns.

Implications for Memory Reference Analysis and System Design to Execute AI Workloads in Personal Mobile Environments (개인용 모바일 환경의 AI 워크로드 수행을 위한 메모리 참조 분석 및 시스템 설계 방안)

  • Seokmin Kwon;Hyokyung Bahn
    • The Journal of the Institute of Internet, Broadcasting and Communication
    • /
    • v.24 no.1
    • /
    • pp.31-36
    • /
    • 2024
  • Recently, mobile apps that utilize AI technologies are increasing. In the personal mobile environment, performance degradation may occur during the training phase of large AI workload due to limitations in memory capacity. In this paper, we extract memory reference traces of AI workloads and analyze their characteristics. From this analysis, we observe that AI workloads can cause frequent storage access due to weak temporal locality and irregular popularity bias during memory write operations, which can degrade the performance of mobile devices. Based on this observation, we discuss ways to efficiently manage memory write operations of AI workloads using persistent memory-based swap devices. Through simulation experiments, we show that the system architecture proposed in this paper can improve the I/O time of mobile systems by more than 80%.

The Learning system design and the implementation using Basic Ubiquitous (Ubiquitous 기반을 이용한 학습시스템 설계 및 구현)

  • Lee, Duck Ju;Lim, Dong Gyun;Shin, Seung Jung
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2010.04a
    • /
    • pp.190-193
    • /
    • 2010
  • 본 논문은 최근 전세계적으로 유통물류를 비롯한 산업 전반에 걸쳐 RFID(Radio Frequency Identification) 기술이 새로운 성장 동력으로 각광을 받고 있다. 유비쿼터스 시대에서 RFID는 빼놓을 수 없는 시스템 이다. RFID/USN 사업 추진시 공부하는 학생들이 RFID 시스템을 학습하기 위해서 자료를 구할 때는 비밀유지계약서를 체결해야 한다. RFID 시스템을 대부분 수입에 의존하고 있고, 기술 인력도 현재 부족하여 어려움을 겪고 있다. 이런 문제점을 보안하기 위하여 공부하는 학생들이 RFID 시스템을 쉽게 접근할 수 있도록 제작하였다. 여러 가지 규약에 의해 제안되었던 문제점을 해결하는데 의의가 있다. 별도의 RFID 전용칩을 사용하지 않고, 마이크로콘트롤러를 사용하여 저가격 RFID 학습 시스템을 구현하였다. 13.56MHz RFID 시스템의 ISO14443A 읽기/쓰기 방법에 대해 설명하고, HF 대역의 13.56MHz RFID 시스템의 구성에 대해서 소개한다. 구현한 RFID 시스템을 활용하여 응용 프로그램을 제작하여 실습을 진행하였다. RFID 시스템의 구조를 쉽게 이해하기 위하여 각각의 모듈로 분류하여 나누어 제작하였다. 태그의 EEPROM 메모리에 정보가 어떻게 저장 되는지를 학습할 수 있도록 C#을 사용하여 응용 프로그램을 설계 및 구현하여 실습하였다. 학습자가 RFID 시스템이 산업분야에서 어떻게 활용되는지 이해를 돕기 위하여 학생증 발급 시스템을 구현하였다.

Hot Data Identification based on Naive Bayes Classifier (나이브 베이즈 분류 기반의 핫 데이터 구분 기법)

  • Lee, Hyerim;Yun, Yibin;Park, Dongchul
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2022.11a
    • /
    • pp.721-723
    • /
    • 2022
  • 최근 낸드 플래시 메모리 기반의 Solid State Drive(SSD)가 기존 Hard Disk Drive(HDD)를 대신하여 개인용과 산업용으로도 널리 쓰이고 있다. 핫 데이터 구분 기법은 이러한 SSD 의 성능과 수명에 중요한 역할을 하는 Garbage Collection(GC)과 Wear Leveling(WL) 기술의 기반이 된다. 본 논문에서는 핫 데이터를 예측하기 위한 나이브 베이즈 분류 기반의 새로운 핫 데이터 구분 기법을 제안한다. 제안 기법은 워크로드 액세스 패턴의 학습 단계인 초기 단계와 실제 운영 단계를 통해 다시 액세스 될 확률이 높은 데이터를 그렇지 않은 데이터와 효과적으로 구분한다. 다양한 실제 trace 기반 실험을 통해 본 제안 기법이 기존 대표적인 기법보다 평균 19.3% 높은 성능을 확인했다.

Design and Verification of Pipelined Face Detection Hardware (파이프라인 구조의 얼굴 검출 하드웨어 설계 및 검증)

  • Kim, Shin-Ho;Jeong, Yong-Jin
    • Journal of Korea Multimedia Society
    • /
    • v.15 no.10
    • /
    • pp.1247-1256
    • /
    • 2012
  • There are many filter based image processing algorithms and they usually require a huge amount of computations and memory accesses making it hard to attain a real-time performance, expecially in embedded applications. In this paper, we propose a pipelined hardware structure of the filter based face detection algorithm to show that the real time performance can be achieved by hardware design. In our design, the whole computation is divided into three pipeline stages: resizing the image (Resize), Transforming the image (ICT), and finding candidate area (Find Candidate). Each stage is optimized by considering the parallelism of the computation to reduce the number of cycles and utilizing the line memory to minimize the memory accesses. The resulting hardware uses 507 KB internal SRAM and occupies 9,039 LUTs when synthesized and configured on Xilinx Virtex5LX330 FPGA. It can operate at maximum 165MHz clock, giving the performance of 108 frame/sec, while detecting up to 20 faces.

Denoising ISTA-Net: learning based compressive sensing with reinforced non-linearity for side scan sonar image denoising (Denoising ISTA-Net: 측면주사 소나 영상 잡음제거를 위한 강화된 비선형성 학습 기반 압축 센싱)

  • Lee, Bokyeung;Ku, Bonwha;Kim, Wan-Jin;Kim, Seongil;Ko, Hanseok
    • The Journal of the Acoustical Society of Korea
    • /
    • v.39 no.4
    • /
    • pp.246-254
    • /
    • 2020
  • In this paper, we propose a learning based compressive sensing algorithm for the purpose of side scan sonar image denoising. The proposed method is based on Iterative Shrinkage and Thresholding Algorithm (ISTA) framework and incorporates a powerful strategy that reinforces the non-linearity of deep learning network for improved performance. The proposed method consists of three essential modules. The first module consists of a non-linear transform for input and initialization while the second module contains the ISTA block that maps the input features to sparse space and performs inverse transform. The third module is to transform from non-linear feature space to pixel space. Superiority in noise removal and memory efficiency of the proposed method is verified through various experiments.