• 제목/요약/키워드: 행동 패턴 학습

검색결과 119건 처리시간 0.028초

매크로 행동을 이용한 내시 Q-학습의 성능 향상 기법 (A Performance Improvement Technique for Nash Q-learning using Macro-Actions)

  • 성연식;조경은;엄기현
    • 한국멀티미디어학회논문지
    • /
    • 제11권3호
    • /
    • pp.353-363
    • /
    • 2008
  • 단일 에이전트 환경에서는 Q-학습의 학습 시간을 줄이기 위해서 학습결과를 전파시키거나 일렬의 행동을 패턴으로 만들어 학습한다. 다중 에이전트 환경에서는 동적인 환경과 다수의 에이전트 상태를 고려해야하기 때문에 학습에 필요한 시간이 단일 에이전트 환경보다 길어지게 된다. 이 논문에서는 단일 에이전트 환경에서 시간 단축을 위해서 유한개의 행동으로 정책을 만들어 학습하는 매크로 행동을 다중 에이전트 환경에 적합한 내시 Q-학습에 적용함으로써 다중 에이전트 환경에서 Q-학습 시간을 줄이고 성능을 높이는 방법을 제안한다. 실험에서는 다중 에이전트 환경에서 매크로 행동을 이용한 에이전트와 기본 행동만 이용한 에이전트의 내시 Q-학습 성능을 비교했다. 이 실험에서 네 개의 매크로 행동을 이용한 에이전트가 목표를 수행할 성공률이 기본 행동만 이용한 에이전트 보다 9.46% 높은 결과를 얻을 수 있었다. 매크로 행동은 기본 행동만을 이용해서 적합한 이동 행동을 찾아도 매크로 행동을 이용한 더 낳은 방법을 찾기 때문에 더 많은 Q-값의 변화가 발생되었고 전체 Q-값 합이 2.6배 높은 수치를 보였다. 마지막으로 매크로 행동을 이용한 에이전트는 약 절반의 행동 선택으로도 시작위치에서 목표위치까지 이동함을 보였다. 결국 에이전트는 다중 에이전트 환경에서 매크로 행동을 사용함으로써 성능을 향상시키고 목표위치까지 이동하는 거리를 단축해서 학습 속도를 향상시킨다.

  • PDF

이동 객체 좌표의 시간적 히스토그램 기반 행동패턴분석시스템 (Behavior Pattern Analysis System based on Temporal Histogram of Moving Object Coordinates.)

  • 이재광;이규원
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국정보통신학회 2015년도 춘계학술대회
    • /
    • pp.571-575
    • /
    • 2015
  • 실시간으로 입력되는 영상으로부터 이동객체의 움직임 특징을 분석하는 시간적 히스토그램 기반의 행동패턴분석 알고리즘을 제안한다. 이동객체의 추적 및 분석을 위해 배경과 이동객체를 분리하는 배경학습을 행한다. 배경학습으로 추출된 이동객체는 무게중심 및 좌표연관성을 이용하여 객체를 식별한 후 객체별 추적을 행한다. 추적된 각 객체의 시작프레임, 종료프레임, 좌표정보, 크기정보를 연결리스트에 저장하여 관리한다. 시간적 히스토그램은 x, y좌표와 시간을 이용해 움직임 특징 패턴을 정의한 것으로 각 객체의 좌표정보와 비교하여 움직임특징 및 행동패턴을 파악한다. 시간적 히스토그램 기반 행동패턴분석시스템은 자체 수집한 데모영상에 대한 실험을 통해 초당 45~50 fps의 높은 처리속도를 유지하며 95%이상의 높은 추적율을 확인하였다.

  • PDF

프로세스 마이닝을 활용한 온라인 교육 오픈 플랫폼 내 학습 패턴 분석 방법 개발 (Toward understanding learning patterns in an open online learning platform using process mining)

  • 김태영;김효민;조민수
    • 지능정보연구
    • /
    • 제29권2호
    • /
    • pp.285-301
    • /
    • 2023
  • 비대면 교육의 중요성 및 필요에 따른 수요가 증가함에 따라 국내외 온라인 교육 오픈 플랫폼이 활성화되고 있다. 본 플랫폼은 대학 등 교육 전문기관과 달리 학습자의 자율성이 높은 특징을 가지며 이에 따라 개인화된 학습 도구를 지원하기 위한 학습 행동 데이터의 분석 연구가 중요시 되고 있다. 실제적인 학습 행동을 이해하고 패턴을 도출하기 위하여 프로세스 마이닝이 다수 활용되었지만 온라인 교육 플랫폼과 같이 자기 관리형(Self-regulated) 환경에서의 학습 로그를 기반한 사례는 부족하다. 또한, 대부분 프로세스 모델 도출 등의 모델 관점에서의 접근이며 분석 결과의 실제적인 적용을 위한 개별 패턴 및 인스턴스 관점에서의 방법 제시는 미흡하다. 본 연구에서는 온라인 교육 오픈 플랫폼 내 학습 패턴을 파악하기 위하여 프로세스 마이닝을 활용한 분석 방법을 제시한다. 학습 패턴을 다각도로 분석하기 위하여 모델, 패턴, 인스턴스 관점에서의 분석 방법을 제시하며, 프로세스 모델 발견, 적합도 검사, 군집화 기법, 예측 알고리즘 등 다양한 기법을 활용한다. 본 방법은 국내 오픈 교육 플랫폼 내 기계학습 관련 강좌의 학습 로그를 추출하여 분석하였다. 분석 결과 온라인 강의의 특성에 맞게 비구조화된 프로세스 모델을 도출할 수 있었으며 구체적으로 한 개의 표준 학습 패턴과 세 개의 이상 학습 패턴으로 세분화할 수 있었다. 또한, 인스턴스별 패턴 분류 예측 모델을 도출한 결과 전체 흐름 중 초기 30%의 흐름을 바탕으로 예측하였을 때 0.86의 분류 정확도를 보였다. 본 연구는 프로세스 마이닝을 활용하여 학습자의 패턴을 체계적으로 분석한다는 점에서 기여점을 가진다.

다층 퍼셉트론을 이용한 유해물질 유입에 따른 송사리의 행동 반응 분석 및 인식 (Analysis and Recognition of Behavior of Medaka in Response to Toxic Chemical Inputs by using Multi-Layer Perceptron)

  • 김철기;김광백;차의영
    • 한국멀티미디어학회논문지
    • /
    • 제6권6호
    • /
    • pp.1062-1070
    • /
    • 2003
  • 본 논문에서는 자동 추적 시스템을 이용하여 반자연적인 조건에서 화학 약물의 아치사량 투석에 반응하는 수중 생물중 하나인 물고기(송사리)의 행동을 관찰하였다. 결과의 분석을 위하여, 약물 투여 전의 대표적인 행동을 패턴 A로 정의하였으며, 약물 투여 후의 대표적인 행동을 패턴 B로 정의하였다. 실험 결과, 패턴 B가 약물 투여 후에 빈번하게 관찰되는 반면, 패턴 A는 약물 투여 전에 많이 관찰되었다. 또한, 물고기의 움직임 패턴을 자동으로 탐지하기 위하여 대표 패턴들을 인공신경망의 학습을 위하여 추출하였다. 독성 물질(다이아지논) 투여 후 패턴 B에 대한 평균 탐지율은 크게 증가하였으나, 패턴 A에 대한 탐지율은 크게 감소함을 볼 수 있었다 본 논문에서는 지표종의 행동 모니터링을 통하여 환경에서 독성 물질의 존재를 탐지하는 방법으로 인공 신경망의 적용을 보여주고 있다.

  • PDF

장단기 메모리 기반 노인 낙상감지에 대한 연구 (Study of fall detection for the elderly based on long short-term memory(LSTM))

  • 정승수;유윤섭
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국정보통신학회 2021년도 춘계학술대회
    • /
    • pp.249-251
    • /
    • 2021
  • 본 논문에서는 노령층 인구가 도보시 일어날 수 있는 낙상상황을 텐서플로워를 이용하여 인지하기 위한 시스템에 대하여 소개한다. 낙상감지는 고령자의 몸에 착용한 가속센서 데이터에 대해서 텐서플로워를 이용하여 학습된 LSTM(long short-term memory)을 기반하여 낙상과 일상생활을 판별한다. 각각 7가지의 행동 패턴들에 대하여 학습을 실행하며, 4가지는 일상생활에서 일어나는 행동 패턴이고, 나머지 3가지는 낙상시의 패턴에 대하여 학습한다. 3축 가속도 센서의 가공하지 않은 데이터와 가공한 SVM(Sum Vector Magnitude)를 이용하여 LSTM에 적용해서 학습하였다. 이 두 가지 경우에 대해서 테스트한 결과 데이터를 혼합하여 학습하면 더 좋은 결과를 기대할 수 있을 것으로 예상된다.

  • PDF

능동적 행동 패턴 분석 알고리즘을 이용한 홈 네트워크 제어 시스템 구축에 관한 연구 (A Study on the Design of Home Network Controlling System using Active Action Pattern Analysis Algorithm)

  • 성경상;오해석
    • 한국컴퓨터정보학회지
    • /
    • 제15권1호
    • /
    • pp.125-129
    • /
    • 2007
  • 지능형 홈 네트워크 서비스의 일반적 보급화로 사용자의 필요와 욕구에 밀착한 개인화 서비스를 위한 사용자의 프로파일 및 다양한 상태 정보, 센서 및 기타 환경정보를 통한 동적 상황인지가 가능토록 하는 상황인지(context-aware) 서비스에 대한 필요성이 증대되고 있다. 사용자 행위 학습에 따른 지능적 자동 제어 시스템 구축에서 먼저 고려해야 할 사항은 사용자 행위 학습에 따른 지능적 자동 제어에 대한 기준을 마련하는 것이다. 홈 네트워크 내의 정보가전기기들 환경에 대한 정보를 지속적으로 수집하고 학습 알고리즘을 통하여 분석하며, 분석되어진 정보를 바탕으로 사용자의 성향을 파악하는 것을 주요인으로 간주해야 할 것이다. 이에 따라 본 논문에서는 사용자 능동적 행위에 따른 지능형 홈 제어 시스템을 제안하였다. 또한 지속적인 모니터링을 통하여 사용자의 성향이 파악되면 상황에 따른 최적의 환경을 제공할 수 있도록 홈 네트워크 제어 시스템을 구축하는 것으로 목적으로 하였다. 사용자의 행동 패턴을 분석하고 이를 기반으로 지능적인 서비스를 제공함으로써 사용자 중심의 능동적 서비스 효과들을 얻을 수 있을 것으로 기대한다.

  • PDF

XML 기반의 FSM 시스템에 관한 연구 (A Study of XML-based FSM Definition System)

  • 이정훈;신성운;오상권
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2004년도 봄 학술발표논문집 Vol.31 No.1 (B)
    • /
    • pp.550-552
    • /
    • 2004
  • 가상공간에는 PC(Playerable Character), NPC(Non-Playerable Character)등의 동적 객체와 건물, 지형 등의 정적 객체들이 존재하게 된다. 동적 객체들의 경우, 현실감을 위해 인공지능이 자주 이용된다 현재까지 인공지능에 대한 연구는 유한상태기계(Finite State Machine. FSM). 학습 알고리즘, 유전자 알고리즘, 신경망 알고리즘 등을 중심으로 진행되어 왔다. 이중 유한상태기계는 비교적 알고리즘이 간단하고, 시스템의 부담이 적어 간단한 객체의 인공지능으로 가장 널리 사용되고 있다. 본 논문은 유찬상태기계를 확장하여 모드변경(Mode Change)과 그룹행동을 보여줄 수 있는 XML을 활용한 FSM 시스템을 제안한다. 여기서 모드변경이란 하나의 행동 패턴에서 다른 행동 패턴으로 변경하는 것을, 그룹행동은 여러 객체가 함께 행동하는 Flocking기법을 지칭한파. 이러한 XML을 활용한 FSM 시스템은 다양한 패턴의 정의는 물론, 객체의 상태 정의 및 수정, 확장이 용이하여, 다양한 응용 분야에서 활용될 수 있다.

  • PDF

Dynamic-FSM을 위한 사용자 모델링 방법 (User Modeling Method for Dynamic-FSM)

  • 윤태복;박두경;박교현;이지형
    • 한국지능시스템학회:학술대회논문집
    • /
    • 한국퍼지및지능시스템학회 2006년도 춘계학술대회 학술발표 논문집 제16권 제1호
    • /
    • pp.317-321
    • /
    • 2006
  • 게임의 재미요소를 증대 시키고, 게임 생명주기(Life-Cycle)를 늘어나게 하기 위해 다양한 방법이 연구 중이다. 현실감 있는 그래픽 효과와 뛰어난 음향 효과 등과 함께 게임 플레이어의 게임 스타일이 반영된 게임을 만들기 위한 방법이 대표적이 예라 할 수 있다. 그 중 게임 플레이어의 스타일을 게임에 다시 이용하기 위해서는 플레이어의 인지과정이 요구되며, 인지된 결과를 이용하여 플레이어를 모델링(User Modeling)한다. 하지만, 게임의 종류와 특성에 따라 다양한 게임이 존재하기 때문에 플레이어를 모델링하기 어렵다는 문제를 가지고 있다. 본 논문에서는 게임에서 정의된 FSM(Finite State machine)을 이용하여 플레이어가 선택한 행동 패턴을 분석하고 적용하는 방법과 다양한 게임에서 이용 할 수 있는 스크립트 형태의 NPC 행동 패턴 변경 방법을 제안한다. 플레이어의 데이터를 분석하여 얻은 결과는 FSM을 변경하여 새로운 행동을 보이는 NPC(Non-Player Characters)를 생성하는데 사용되며, 이 캐릭터는 게임의 특성과 플레이어의 최신 행동 패턴 경향을 학습한 적용형 NPC라 할 수 있다. 실험을 통하여 사용자의 행동과 유사한 패턴을 보이는 NPC의 생성을 확인할 수 있었으며, 게임에서 상대적인 또는 적대적인 캐릭터로 유용하게 사용 될 수 있다.

  • PDF

침입탐지 감사자료 분석을 위한 연관규칙 생성 기술 (Generating Technology of the Association Rule for Analysis of Audit Data on Intrusion Detection)

  • 소진;이상훈
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2002년도 추계학술발표논문집 (중)
    • /
    • pp.1011-1014
    • /
    • 2002
  • 최근 대규모 네트워크 데이터에 대한 패턴을 분석하기 위한 연구에 대하여 관심을 가지고 침입탐지 시스템을 개선하기 위해 노력하고 있다. 특히, 이러한 광범위한 네트워크 데이터 중에서 침입을 목적으로 하는 데이터에 대한 탐지 능력을 개선하기 위해 먼저, 광범위한 침입항목들에 대한 탐지 적용기술을 학습하고, 그 다음에 데이터 마이닝 기법을 이용하여 침입패턴 인식능력 및 새로운 패턴을 빠르게 인지하는 적용기술을 제안하고자 한다. 침입 패턴인식을 위해 각 네트워크에 돌아다니는 관련된 패킷 정보와 호스트 세션에 기록되어진 자료를 필터링하고, 각종 로그 화일을 추출하는 프로그램들을 활용하여 침입과 일반적인 행동들을 분류하여 규칙들을 생성하였으며, 생성된 새로운 규칙과 학습된 자료를 바탕으로 침입탐지 모델을 제안하였다. 마이닝 기법으로는 학습된 항목들에 대한 연관 규칙을 찾기 위한 연역적 알고리즘을 이용하여 규칙을 생성한 사례를 보고한다. 또한, 추출 분석된 자료는 리눅스 기반의 환경 하에서 다양하게 모아진 네트워크 로그파일들을 분석하여 제안한 방법에 따라 적용한 산출물이다.

  • PDF

스마트 관제를 위한 딥러닝 기반 이상행동 기술 동향 분석 (Brief Overview of Deep Learning based Anomaly Detection for Smart Surveillance System)

  • 이지애;문성철
    • 한국방송∙미디어공학회:학술대회논문집
    • /
    • 한국방송∙미디어공학회 2019년도 추계학술대회
    • /
    • pp.14-16
    • /
    • 2019
  • 스마트관제 시스템은 딥러닝 서버내 학습된 백본 네트워크 모델이 실시간으로 스트리밍 되는 CCTV 영상으로부터 이상행동 패턴을 선별적으로 탐지하고 관제요원에게 전달하여, 사전에 사건사고를 예방하거나 즉시 대응 체계의 유연한 운영을 가능케하는 시스템이다. 최근 지능형 CCTV(Closed Circuit Television) 서비스가 일부 지역에 선별 관제의 형태로 시범적으로 운영되고 있는 상황이다. 지능형 시범서비스는 공공 영역에서 선별 CCTV 관제의 형태로 이상행동 상황을 즉각 인지하여 사건사고를 예방하거나 피해를 최소화하고자 하는 목적으로 주로 사용되고 있다. 그러나, 범죄 등의 특정 시나리오에만 한정해서도 이상 행동 유형이 너무나 다양하기 때문에 이상행동 영상의 사전분류(Annotation)를 통해 딥러닝 모델을 학습시키는 것이 현실적으로 어려운 상황이다. 따라서 본고에서는 최신 이상 행동 탐지(Anomaly detection) 알고리즘과 응용사례를 분석하여 실제 현장에 적용할 수 있는 현장 중심의 기법을 제안하고자 한다.

  • PDF