• 제목/요약/키워드: 실시간 기계 학습

검색결과 181건 처리시간 0.033초

실시간 데이터 처리를 위한 아파치 스파크 기반 기계 학습 라이브러리 성능 비교 (A Performance Comparison of Machine Learning Library based on Apache Spark for Real-time Data Processing)

  • 송준석;김상영;송병후;김경태;윤희용
    • 한국컴퓨터정보학회:학술대회논문집
    • /
    • 한국컴퓨터정보학회 2017년도 제55차 동계학술대회논문집 25권1호
    • /
    • pp.15-16
    • /
    • 2017
  • IoT 시대가 도래함에 따라 실시간으로 대규모 데이터가 발생하고 있으며 이를 효율적으로 처리하고 활용하기 위한 분산 처리 및 기계 학습에 대한 관심이 높아지고 있다. 아파치 스파크는 RDD 기반의 인 메모리 처리 방식을 지원하는 분산 처리 플랫폼으로 다양한 기계 학습 라이브러리와의 연동을 지원하여 최근 차세대 빅 데이터 분석 엔진으로 주목받고 있다. 본 논문에서는 아파치 스파크 기반 기계 학습 라이브러리 성능 비교를 통해 아파치 스파크와 연동 가능한 기계 학습라이브러리인 MLlib와 아파치 머하웃, SparkR의 데이터 처리 성능을 비교한다. 이를 위해, 대표적인 기계 학습 알고리즘인 나이브 베이즈 알고리즘을 사용했으며 학습 시간 및 예측 시간을 비교하여 아파치 스파크 기반에서 실시간 데이터 처리에 적합한 기계 학습 라이브러리를 확인한다.

  • PDF

기계학습 기반의 실시간 이미지 인식 알고리즘의 성능 (Performance of Real-time Image Recognition Algorithm Based on Machine Learning)

  • 선영규;황유민;홍승관;김진영
    • 한국위성정보통신학회논문지
    • /
    • 제12권3호
    • /
    • pp.69-73
    • /
    • 2017
  • 본 논문에서는 기계학습 기반의 실시간 이미지 인식 알고리즘을 개발하고 개발한 알고리즘의 성능을 테스트 하였다. 실시간 이미지 인식 알고리즘은 기계 학습된 이미지 데이터를 바탕으로 실시간으로 입력되는 이미지를 인식한다. 개발한 실시간 이미지 인식 알고리즘의 성능을 테스트하기 위해 자율주행 자동차 분야에 적용해보았고 이를 통해 개발한 실시간 이미지 인식 알고리즘의 성능을 확인해보았다.

실시간 침입탐지 시스템에 관한 연구 (A Study on Realtime Intrusion Detection System)

  • 김병주
    • 한국정보통신학회논문지
    • /
    • 제9권1호
    • /
    • pp.40-44
    • /
    • 2005
  • 인공지능, 기계학습 및 데이터마이닝 기법들을 침입탐지 시스템에 적용하는 연구가 활발히 진행되고 있다. 그러나 많은 연구가 공격패턴의 분류를 위한 분류기(classifier)의 학습 알고리즘 성능 개선에 목적을 두고 있다. 그리고 이러한 학습 알고리즘은 대부분 일괄처리(batch) 방식으로 동작하여 실시간 침입탐지 시스템의 적용에는 적합하지 못하다. 본 논문에서는 실시간 침입탐지 시스템을 위한 점증적 특징 추출 기법과 분류가 가능한 실시간 침입탐지 시스템을 제안한다. 제안된 방법을 KDD CUP 99 자료에 적용한 결과 실시간 기법임에도 불구하고 일괄처리 방식과 비슷한 결과를 나타내었다.

실시간 데이터 분석의 성능개선을 위한 적응형 학습 모델 연구 (A Study on Adaptive Learning Model for Performance Improvement of Stream Analytics)

  • 구진희
    • 융합정보논문지
    • /
    • 제8권1호
    • /
    • pp.201-206
    • /
    • 2018
  • 최근 인공지능을 구현하기 위한 기술들이 보편화되면서 특히, 기계 학습이 폭넓게 사용되고 있다. 기계 학습은 대량의 데이터를 수집하고 일괄적으로 처리하며 최종 조치를 취할 수 있는 통찰력을 제공하나, 작업의 효과가 즉시 학습 과정에 통합되지는 않는다. 본 연구에서는 비즈니스의 큰 이슈로서 실시간 데이터 분석의 성능을 개선하기 위한 적응형 학습 모델을 제안하였다. 적응형 학습은 데이터세트의 복잡성에 적응하여 앙상블을 생성하고 알고리즘은 샘플링 할 최적의 데이터 포인트를 결정하는데 필요한 데이터를 사용한다. 6개의 표준 데이터세트를 대상으로 한 실험에서 적응형 학습 모델은 학습 시간과 정확도에서 분류를 위한 단순 기계 학습 모델보다 성능이 우수하였다. 특히 서포트 벡터 머신은 모든 앙상블의 후단에서 우수한 성능을 보였다. 적응형 학습 모델은 시간이 지남에 따라 다양한 매개변수들의 변화에 대한 추론을 적응적으로 업데이트가 필요한 문제에 폭넓게 적용될 수 있을 것으로 기대한다.

실시간 현장관측과 기계학습을 이용한 토양수분 예측기술의 개발 및 적용 (Development and application of soil moisture prediction using real-time in-situ observation and machine learning)

  • 우현아;이예원;김민영;노성진
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2023년도 학술발표회
    • /
    • pp.286-286
    • /
    • 2023
  • 물의 전체 순환 구조에서 토양수분이 차지하는 정량적 비중은 상대적으로 작지만, 강우-유출 과정의 비선형에 영향을 미치는 지배적 요인 중 하나이고, 토양 침식과 산사태, 농업생산량, 기후 변화 대응 등 광범위한 주제와 연관되어 있어, 토양수분의 물리과정에 대한 이해 증진과 예측 기술의 지속적인 개선이 필요하다. 본 연구에서는 금오공과대학교 유역 내에서 토양수분과 기상 요소를 실시간 관측하고, 기계학습 기법을 이용하여 토양수분을 단기 예측하는 기술을 개발하고 평가한다. 구체적으로는, 토양 관측 장비인 TEROS를 사용하여 표층 지점의 10cm, 심층 지점의 40cm에서의 토양수분, 토양장력과 토양온도를, 기상 관측 장비인 ATMOS를 사용하여 태양복사, 강수량, 기온, 풍속, 대기압 등 다양한 기상 요소를, 실시간 클라우드 방식으로 1여 년간 수집한 데이터를 활용한다. 또한, 과거 및 실시간 데이터를 기반으로 LSTM(Long-Short Term Memory) 기법을 사용하여 토양수분 예측 모형을 구축하고, 선행 예측 시간에 따른 모의 정확도를 평가한다. 기상 요소의 누적 등 자료 분석 방법이 표층 및 심층 토양수분 예측에 미치는 영향, 그리고 예측 모형 개선 방향에 대해 토의한다. 실시간 현장 관측 자료 및 인공지능 기반 단기 토양수분 예측 모의 기술은 소규모 유역의 수문순환 분석 및 물리기반 모형의 개선 등 다양한 분야에서 활용할 수 있을 것으로 기대된다.

  • PDF

도시홍수 위험도 실시간 표출을 위한 수치해석 모형과 기계학습의 연계 (Linkage of Numerical Analysis Model and Machine Learning for Real-time Flood Risk Prediction)

  • 김현일;한건연;김태형;최규현;조효섭
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2021년도 학술발표회
    • /
    • pp.332-332
    • /
    • 2021
  • 도시화가 상당히 이뤄지고 기습적인 폭우의 발생이 불확실하게 나타나는 시점에서 재산 및 인명피해를 야기할 수 있는 내수침수에 대한 위험도가 증가하고 있다. 내수침수에 대한 예측을 위하여 실측강우 또는 확률강우량 시나리오를 참조하고 연구대상 지역에 대한 1차원 그리고 2차원 수리학적 해석을 실시하는 연구가 오랫동안 진행되어 왔으나, 수치해석 모형의 경우 다양한 수문-지형학적 자료 및 계측 자료를 요구하고 집약적인 계산과정을 통한 단기간 예측에 어려움이 있음이 언급되어 왔다. 본 연구에서는 위와 같은 문제점을 해결하기 위하여 단일 도시 배수분구를 대상으로 관측 강우 자료, 1, 2차원 수치해석 모형, 기계학습 및 딥러닝 기법을 적용한 실시간 홍수위험지도 예측 모형을 개발하였다. 강우자료에 대하여 실시간으로 홍수량을 예측할 수 있도록 LSTM(Long-Short Term Memory) 기법을 적용하였으며, 전국단위 강우에 대한 다양한 1차원 도시유출해석 결과를 학습시킴으로써 예측을 수행하였다. 침수심의 공간적 분포의 경우 로지스틱 회귀를 이용하여, 기준 침수심에 대한 예측을 각각 수행하였다. 홍수위험 등급의 경우 침수심, 유속 그리고 잔해인자를 고려한 홍수위험등급 공식을 적용하여 산정하였으며, 이 결과를 랜덤포레스트(Random Forest)에 학습함으로써 실시간 예측을 수행할 수 있도록 개발하였다. 침수범위 및 홍수위험등급에 대한 예측은 격자 단위로 이뤄졌으며, 검증 자료의 부족으로 침수 흔적도를 통하여 검증된 2차원 침수해석 결과와 비교함으로써 예측력을 평가하였다. 본 기법은 특정 관측강우 또는 예측강우 자료가 입력되었을 때에, 도시 유역 단위로 접근이 불가하여 통제해야 할 구간을 실시간으로 예측하여 관리할 수 있을 것으로 판단된다.

  • PDF

실시간 건설기계 데이터 처리 및 이상 유무 예측 시스템 (Real-time construction machine data processing and fault prediction system)

  • 김찬협;안재훈;한재승;김영환
    • 한국컴퓨터정보학회:학술대회논문집
    • /
    • 한국컴퓨터정보학회 2018년도 제58차 하계학술대회논문집 26권2호
    • /
    • pp.364-366
    • /
    • 2018
  • 본 논문에서는 Digital Twin 기반 건설기계 지능화를 위한 실시간 건설기계 데이터 처리 및 이상 유무 예측 시스템을 제안한다. 이 시스템은 빅 데이터 분산처리 기반으로 실시간 스트리밍 처리가 가능하며, CEP(Complex Event Processing)의 Sliding Window Operator를 활용한 Rule 적용을 통해 건설기계 데이터 처리 및 분석한다. 분석된 결과로 건설기계의 실시간 이상 유무를 판단할 수 있으며, 결과를 기반으로 Deep Learning 기술을 적용하고 학습된 모델을 통해 건설기계의 이상 유무를 예측하여 원활한 부품관리를 할 수 있다.

  • PDF

Edge Computing 환경을 위한 기계학습 모델 유형 조사 (Type of Machine Learning Model for Edge Computing Environment: A Survey)

  • 김민우;이태호;이병준;김경태;윤희용
    • 한국컴퓨터정보학회:학술대회논문집
    • /
    • 한국컴퓨터정보학회 2019년도 제60차 하계학술대회논문집 27권2호
    • /
    • pp.111-112
    • /
    • 2019
  • Edge computing 환경에서는 노드끼리 직접 또는 간접적으로 전송되는 많은 수의 데이터가 Computing 노드에 의해 수집된다. Computing 노드에 실시간 적으로 전송되어지는 데이터의 저장 및 처리를 위해 기계학습(Machine learning) 기법이 사용된다. 기존의 기계학습 모델의 학습방법의 경우 Edge computing 노드의 지능화에 다소 맞지 않는 방법이며 노드들 간의 협업 시스템을 기계학습 모델에 구축하는 것 또한 중요개선사항 중 하나이다. 본 논문에서는 Edge computing 환경에서 적용 가능한 기계학습 모델을 조사하였다. 본 조사를 통하여 향후 edge computing 환경에서의 제약사항에 대해 더 구체적이며 다양한 연구방향을 제시할 수 있으며 효율적인 모델 적용을 목표로 한다.

  • PDF

룰 클러스터링에 의한 실시간 적응행동 분류자 시스템 (Classifier System for Real time Adaptive Behavior Based on Rule Clustering)

  • 황철민;김지윤;김현영;심귀보
    • 한국지능시스템학회:학술대회논문집
    • /
    • 한국퍼지및지능시스템학회 2003년도 춘계 학술대회 학술발표 논문집
    • /
    • pp.47-50
    • /
    • 2003
  • 기계학습의 한 종류인 분류자 시스템은 간단한 문제에 대하여 실시간 처리와 온라인 학습이 가능하다. 그러나 복잡한 환경에서는 빠른 적응이 힘들다. 본 논문에서는 복잡한 환경에서 분류자 시스템의 적응 성능을 개선함으로써 실시간이 가능하도록 전체 환경을 분류하고 각기 다른 룰 셋을 이용하는 룰 클러스터링에 의한 분류자 시스템을 제안한다 환경을 상황에 따라 나눔으로써 전체 환경이 변화하였을 경우 각 상황에 따른 변화에 대해서만 추가적으로 학습함으로써 탐색 공간을 줄여 학습 시간을 감소시킨다. 제안한 시스템은 분류자 시스템 중 ZCS을 이용하여 로봇축구 시스템에 적용하여 기존의 방법과 그 성능을 비교 검토한다.

  • PDF

교육환경에서의 기계독해 기반 질의응답 시스템 (Machine Reading Comprehension-based Q&A System in Educational Environment)

  • 주준하;박상현;남승완;임경태
    • 한국정보과학회 언어공학연구회:학술대회논문집(한글 및 한국어 정보처리)
    • /
    • 한국정보과학회언어공학연구회 2022년도 제34회 한글 및 한국어 정보처리 학술대회
    • /
    • pp.541-544
    • /
    • 2022
  • 코로나19 이후로 교육의 형태가 오프라인에서 온라인으로 변화되었다. 하지만 온라인 강의 교육 서비스는 실시간 소통의 한계를 가지고 있다. 이러한 단점을 해결하기 위해 본 논문에서는 기계독해 기반 실시간 강의 질의응답 시스템을 제안한다. 본 논문연구에서는 질의응답 시스템을 만들기 위해 KorQuAD 1.0 학습 데이터를 활용해 BERT를 fine-tuning 했고 그 결과를 이용해 기계독해 기반 질의응답 시스템을 구축했다. 하지만 이렇게 구축된 챗봇은 강의 내용에 대한 질의응답에 최적화되어있지 않기 때문에 강의 내용 질의응답에 관한 문장형 데이터 셋을 구축하고 추가 학습을 수행하여 문제를 해결했다. 실험 결과 질의응답 표를 통해 문장형 답변에 대한 성능이 개선된 것을 확인할 수 있다.

  • PDF