• 제목/요약/키워드: 장단기 메모리

검색결과 50건 처리시간 0.032초

양방향 장단기 메모리 신경망을 이용한 욕설 검출 (Abusive Detection Using Bidirectional Long Short-Term Memory Networks)

  • 나인섭;이신우;이재학;고진광
    • 한국빅데이터학회지
    • /
    • 제4권2호
    • /
    • pp.35-45
    • /
    • 2019
  • 욕설과 비속어를 포함한 악성 댓글에 대한 피해는 최근 언론에 나오는 연애인의 자살뿐만 아니라 사회 전반에서 다양한 형태로 증가하고 있다. 이 논문에서는 양방향 장단기 메모리 신경망 모델을 이용하여 욕설을 검출하는 기법을 제시하였다. 웹 크룰러를 통해 웹상의 댓글을 수집하고, 영어나 특수문자 등의 사용하지 않은 글에 대해 불용어 처리를 하였다. 불용어 처리된 댓글에 대해 문장의 전·후 관계를 고려한 양방향 장단기 메모리 신경망 모델을 적용하여 욕설 여부를 판단하고 검출하였다. 양방향 장단기 메모리 신경망을 사용하기 위해 검출된 댓글에 대해 형태소 분석과 벡터화 과정을 거쳤으며 각 단어들에 욕설 해당 여부를 라벨링하여 진행하였다. 실험 결과 정제하고 수집된 총 9,288개의 댓글에 대해 88.79%의 성능을 나타내었다.

  • PDF

합성곱 신경망과 장단기 메모리를 이용한 사격음 분석 기법 (Shooting sound analysis using convolutional neural networks and long short-term memory)

  • 강세혁;조지웅
    • 한국음향학회지
    • /
    • 제41권3호
    • /
    • pp.312-318
    • /
    • 2022
  • 본 논문은 딥러닝기법 중 하나인 합성곱 신경망과 순환 신경망 중 하나인 장단기 메모리를 이용하여 사격시 발생하는 소음(이하 사격음)만으로 화기의 종류, 사격음 발생지점에 관한 정보(거리와 방향)을 추정하는 모델을 다루었다. 이를 위해 미국 법무부 산하 연구소의 지원하에 생성된 Gunshot Audio Forensic Dataset을 이용하였으며, 음향신호를 멜 스펙트로그램(Mel-Spectrogram)으로 변환한 후, 4종의 합성곱 신경망과 1종의 장단기 메모리 레이어로 구성된 딥러닝 모델에 학습 및 검증 데이터로 제공하였다. 제안 모델의 성능을 확인하기 위해 합성곱 신경망으로만 구성된 대조 모델과 비교·분석하였으며, 제안 모델의 정확도가 90 % 이상으로 대조모델보다 우수한 성능을 보였다.

Yolo-pose를 이용한 장단기 메모리의 낙상감지 시스템 연구 (Study of Fall Detection System of Long Short-term Memory Using Yolo-pose)

  • 정승수;김남호;유윤섭
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국정보통신학회 2022년도 추계학술대회
    • /
    • pp.123-125
    • /
    • 2022
  • 본 논문에서는 Yolo-pose를 이용하여 장단기 메모리(Long short-term Memory)에 적용하는 시스템을 소개한다. 영상데이터로부터 Yolo-pose를 이용하여 일상생활과 낙상으로 구분된 데이터를 추출하여 LSTM에 적용하여 학습시킨다. 학습은 오버피팅을 방지하기 위하여 8대2의 Validation을 진행하며 Confusion matrix로 나타낸다. Yolo-pose의 결과값은 sensitivity와 specificity 모두 100%를 기록하여 일상생활과 낙상을 잘 구분하는 것을 확인 하였다.

  • PDF

장단기 메모리를 이용한 노인 낙상감지시스템의 정규화에 대한 연구 (Study of regularization of long short-term memory(LSTM) for fall detection system of the elderly)

  • 정승수;김남호;유윤섭
    • 한국정보통신학회논문지
    • /
    • 제25권11호
    • /
    • pp.1649-1654
    • /
    • 2021
  • 본 논문에서는 고령자의 낙상상황을 감지할 수 있는 텐서플로우 장단기 메모리 기반 낙상감지 시스템의 정규화에 대하여 소개한다. 낙상감지는 고령자의 몸에 부착한 3축 가속도 센서 데이터를 사용하며, 총 7가지의 행동 패턴들에 대하여 학습하며, 각각 4가지는 일상생활에서 일어나는 패턴이고, 나머지 3가지는 낙상에 대한 패턴이다. 학습시에는 손실함수(loss function)를 효과적으로 줄이기 위하여 정규화 과정을 진행하며, 정규화 과정은 데이터에 대하여 최대최소 정규화, 손실함수에 대하여 L2 정규화 과정을 진행한다. 3축 가속도 센서를 이용하여 구한 다양한 파라미터에 대하여 정규화 과정의 최적의 조건을 제시한다. 낙상 검출율면에서 SVM을 이용하고 정규화 127과 정규화율 λ 0.00015일 때 Sensitivity 98.4%, Specificity 94.8%, Accuracy 96.9%로 가장 좋은 모습을 보였다.

비메모리 반도체 기술과 사업전개 방향 (Non-memory technology and it's business strategy)

  • 김석기
    • E2M - 전기 전자와 첨단 소재
    • /
    • 제8권2호
    • /
    • pp.237-241
    • /
    • 1995
  • 반도체 사업의 영역을 어떻게 분류하느냐에 따라 다르겠으나, 우리나라가 메모리 분야에서는 세계의 선진회사와 어깨를 나란히 한다는 점에서 메모리분야와 비메모리분야를 분류해 보고, 특히 비메모리분야의 기술동향과 이 분야에서의 우리나라 반도체 업체들의 사업전개 방향에 대해 방향을 제시해 보고자 한다. 메모리는 국내업체가 세계시장의 30%이상을 공급하고 있고, 256메가디램등 메모리분야에서 최첨단 제품의 개발이 속속 발표되고 있다. 반면에 그의 반도체 (비메모리분야)의 경우는 세계시장의 수 퍼센트도 공급하지 못하는 실정으로 반도체의 75% 가량을 차지하는 이 시장의 진입을 위해 장단기 계획을 수립하여 적극적으로 추진해야 할 것이다. 이 논문에서는 반도체 기술의 현재 상황을 국내외로 비교검토하고 우리나라와 기업의 발전방향을 제시해 보고자 한다.

  • PDF

인공신경망과 장단기메모리 모형의 유출량 모의 성능 분석 (Comparing the Performance of Artificial Neural Networks and Long Short-Term Memory Networks for Rainfall-runoff Analysis)

  • 김지혜;강문성;김석현
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2019년도 학술발표회
    • /
    • pp.320-320
    • /
    • 2019
  • 유역의 수문 자료를 정확하게 분석하는 것은 수리 구조물을 효율적으로 운영하기 위한 중요한 요소이다. 인공신경망(Artificial Neural Networks, ANNs) 모형은 입 출력 자료의 비선형적인 관계를 해석할 수 있는 모형으로 강우-유출 해석 등 수문 분야에 다양하게 적용되어 왔다. 이후 기존의 인공신경망 모형을 연속적인(sequential) 자료의 분석에 더 적합하도록 개선한 회귀신경망(Recurrent Neural Networks, RNNs) 모형과 회귀신경망 모형의 '장기 의존성 문제'를 개선한 장단기메모리(Long Short-Term Memory Networks, 이하 LSTM)가 차례로 제안되었다. LSTM은 최근에 주목받는 딥 러닝(Deep learning) 기법의 하나로 수문 자료와 같은 시계열 자료의 분석에 뛰어난 성능을 보일 것으로 예상되며, 수문 분야에서 이에 대한 적용성 평가가 요구되고 있다. 본 연구에서는 인공신경망 모형과 LSTM 모형으로 유출량을 모의하여 두 모형의 성능을 비교하고 향후 LSTM 모형의 활용 가능성을 검토하고자 하였다. 나주 수위관측소의 수위 자료와 인접한 기상관측소의 강우량 자료로 모형의 입 출력 자료를 구성하여 강우 사상에 대한 시간별 유출량을 모의하였다. 연구 결과, 1시간 후의 유출량에 대해서는 두 모형 모두 뛰어난 모의 능력을 보였으나, 선행 시간이 길어질수록 LSTM의 정확성은 유지되는 반면 인공신경망 모형의 정확성은 점차 떨어지는 것으로 나타났다. 앞으로의 연구에서 유역 내 다양한 수리 구조물에 의한 유 출입량을 추가로 고려한다면 LSTM 모형의 활용성을 보다 더 확장할 수 있을 것이다.

  • PDF

3축 가속 센서의 가공 파라미터를 장단기 메모리에 적용한 낙상감지 시스템 연구 (Study of the Fall Detection System Applying the Parameters Claculated from the 3-axis Acceleration Sensor to Long Short-term Memory)

  • 정승수;김남호;유윤섭
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국정보통신학회 2021년도 추계학술대회
    • /
    • pp.391-393
    • /
    • 2021
  • 본 논문에서는 일상생활에서의 고령자에게 나타날 수 있는 낙상상황을 감지할 수 있는 텐서플로우를 이용한 장단기 메모리 기반 낙상감지 시스템에 대하여 소개한다. 낙상감지를 위해서 3축 가속도 센서 데이터를 이용하고, 이를 처리하여 다양한 파라미터화하며 일상생활 패턴 4가지, 낙상상황 패턴 3가지로 분류한다. 파라미터화한 데이터는 정규화 과정을 따르며, 학습이 진행된다. 학습은 Loss값이 0.5 이하가 될 때까지 진행된다. 각각의 파라미터인 θ, SVM (Sum Vector Magnitude), GSVM (gravity-weight SVM)에 대하여 결과를 산출한다. 가장 좋은 결과는 GSVM으로 Sensitivity 98.75%, Specificity 99.68%, Accuracy 99.28%로 가장 좋은 결과를 보였다.

  • PDF

3축 가속도 데이터를 이용한 장단기 메모리의 노드수에 따른 낙상감지 시스템 연구 (Study of Fall Detection System According to Number of Nodes of Hidden-Layer in Long Short-Term Memory Using 3-axis Acceleration Data)

  • 정승수;김남호;유윤섭
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국정보통신학회 2022년도 춘계학술대회
    • /
    • pp.516-518
    • /
    • 2022
  • 본 논문에서는 낙상상태를 감지할 수 있는 장단기 메모리(Long Short-Term Memory)를 이용한 낙상감지 시스템에서 은닉층 노드 수 변경에 따른 영향을 소개한다. 3축 가속도 센서를 이용하여 x, y, z축 데이터를 중력 방향과 이루는 각도를 나타내는 파라미터 theta(θ)를 이용하여 훈련을 진행한다. 학습에서는 validation이 진행되어 8:2의 비율로 훈련 데이터와 테스트 데이터로 나뉘며, 효율성을 높이기 위해 은닉층의 노드 수를 변화하며 훈련을 진행한다. 노드 수가 128일 때 Accuracy 99.82%, Specificity 99.58%, Sensitivity 100%로 가장 좋은 정확도를 나타내었다.

  • PDF

Application of Informer for time-series NO2 prediction

  • Hye Yeon Sin;Minchul Kang;Joonsung Kang
    • 한국컴퓨터정보학회논문지
    • /
    • 제28권7호
    • /
    • pp.11-18
    • /
    • 2023
  • 본 논문에서는 딥러닝 시계열 예측 모형을 평가한다. 최근 연구에 따르면 이 모형은 ARIMA와 같은 기존 예측 모형보다 성능이 우수하다고 결론짓는다. 그 중 히든 레이어에 이전 정보를 저장하는 순환 신경망이 이를 위한 예측 모형 중 하나이다. 네트워크의 그래디언트 소실 문제를 해결하기 위해 LSTM은 데이터 흐름의 반대 방향으로 숨겨진 레이어가 추가되는 BI-LSTM과 함께 순환 신경망 내부의 작은 메모리로 사용된다. 본 논문은 서울의 2018년 1월 1일부터 2022년도 1월 1일까지의 NO2 자료에 대해 Informer의 성능을 LSTM, BI-LSTM, Transformer와 비교하였다. 이에 실제 값과 예측값 사이의 평균 제곱근 오차와 평균 절대 오차를 구하였다. 그 결과 Test 데이터(2021.09.01.~2022.01.01.)에 대해 Informer는 다른 방법에 비해 가장 높은 예측 정확도 (가장 낮은 예측 오차: 평균 제곱근 오차: 0.0167, 평균 절대 오차: 0.0138)를 보여 타 방법에 비해 그 우수성을 입증하였다. Informer는 당초 취지와 부합되게 다른 방법들이 갖고 있는 장기 시계열 예측에 있어서의 문제점을 개선하는 결과를 나타내고 있다.

딥러닝 기법을 활용한 컨테이너선 운임 예측 모델 (Estimation Model for Freight of Container Ships using Deep Learning Method)

  • 김동균;최정석
    • 해양환경안전학회지
    • /
    • 제27권5호
    • /
    • pp.574-583
    • /
    • 2021
  • 해운 시황을 예측하는 것은 중요한 문제이다. 투자 방식의 결정, 선대 편성 방법, 운임 등을 결정하기 위한 판단 근거가 되며 이는 기업의 이익과 생존에 큰 영향을 미치기 때문이다. 이를 위해 본 연구에서는 기계학습 모델인 장단기 메모리 및 간소화된 장단기 메모리 구조의 Gated Recurrent Units를 활용하여 컨테이너선의 해상운임 예측 모델을 제안한다. 운임 예측 대상은 중국 컨테이너 운임지수(CCFI)이며, 2003년 3월부터 2020년 5월까지의 CCFI 데이터를 학습에 사용하였다. 각 모델에 따라 2020년 6월 이후의 CCFI를 예측한 후 실제 CCFI와 비교, 분석하였다. 실험 모델은 하이퍼 파라메터의 설정에 따라 총 6개의 모델을 설계하였다. 또한 전통적인 분석 방법과의 성능을 비교하기 위해 ARIMA 모델도 실험에 추가하였다. 최적 모델은 두 가지 방법에 따라 선정하였다. 첫 번째 방법으로 각 모델을 10회 반복 실험하여 얻은 RMSE의 평균값이 가장 작은 모델을 선정하는 것이다. 두 번째 방법으로는 모든 실험에서 가장 낮은 RMSE를 기록한 모델을 선정하는 것이다. 실험 결과 전통적 시계열 예측모델인 ARIMA 모델과 비교하여 딥러닝 모델의 정확도를 입증하였으며, 정확한 예측모델을 통해 운임 변동의 위험관리 능력을 제고시키는데 기여했다. 반면 코로나19와 같은 외부 효과에 따른 운임의 급격한 변화상황이 발생한 경우, 예측모델의 정확도가 감소하는 한계점을 나타냈다. 제안된 모델 중 GRU1 모델이 두 가지 평가 방법 모두에서 가장 낮은 RMSE(69.55, 49.35)를 기록하며 최적 모델로 선정되었다.