Abusive Detection Using Bidirectional Long Short-Term Memory Networks

양방향 장단기 메모리 신경망을 이용한 욕설 검출

  • 나인섭 (조선대학교 SW융합교육원) ;
  • 이신우 (조선대학교 컴퓨터공학과) ;
  • 이재학 (송원대학교 전기전자공학과) ;
  • 고진광 (순천대학교 컴퓨터공학과4)
  • Received : 2019.11.26
  • Accepted : 2019.12.31
  • Published : 2019.12.30

Abstract

Recently, the damage with social cost of malicious comments is increasing. In addition to the news of talent committing suicide through the effects of malicious comments. The damage to malicious comments including abusive language and slang is increasing and spreading in various type and forms throughout society. In this paper, we propose a technique for detecting abusive language using a bi-directional long short-term memory neural network model. We collected comments on the web through the web crawler and processed the stopwords on unused words such as English Alphabet or special characters. For the stopwords processed comments, the bidirectional long short-term memory neural network model considering the front word and back word of sentences was used to determine and detect abusive language. In order to use the bi-directional long short-term memory neural network, the detected comments were subjected to morphological analysis and vectorization, and each word was labeled with abusive language. Experimental results showed a performance of 88.79% for a total of 9,288 comments screened and collected.

욕설과 비속어를 포함한 악성 댓글에 대한 피해는 최근 언론에 나오는 연애인의 자살뿐만 아니라 사회 전반에서 다양한 형태로 증가하고 있다. 이 논문에서는 양방향 장단기 메모리 신경망 모델을 이용하여 욕설을 검출하는 기법을 제시하였다. 웹 크룰러를 통해 웹상의 댓글을 수집하고, 영어나 특수문자 등의 사용하지 않은 글에 대해 불용어 처리를 하였다. 불용어 처리된 댓글에 대해 문장의 전·후 관계를 고려한 양방향 장단기 메모리 신경망 모델을 적용하여 욕설 여부를 판단하고 검출하였다. 양방향 장단기 메모리 신경망을 사용하기 위해 검출된 댓글에 대해 형태소 분석과 벡터화 과정을 거쳤으며 각 단어들에 욕설 해당 여부를 라벨링하여 진행하였다. 실험 결과 정제하고 수집된 총 9,288개의 댓글에 대해 88.79%의 성능을 나타내었다.

Keywords

References

  1. dc api 0.4.6, https://pypi.org/project/dc-api/, 2019. 11.
  2. 고동우, 양정진, "KoNLPy와 Word2Vec을 활용한 한국어 자연어 처리 및 분석", 2018년 한국컴퓨터종합학술대회 논문집, 한국정보과학회, pp. 2140-2142, 2018.
  3. 박은정, 조성준, "KoNLPy: 쉽고 간결한 한국어 정보처리 파이썬 패키지", 제 26회 한글 및 한국어 정보처리 학술대회 논문집, 2014.
  4. KoNLP, https://konlpy-ko.readthedocs.io/ko/v0.4.3/#, 2019.11.
  5. Alex Graves, Supervised Sequence Labelling with Recurrent Neural Networks, Part of the Studies in Computational Intelligencebook series (SCI, volume 385), 2008.
  6. 솔라리스, 텐서플로로 배우는 딥러닝, 2018.11
  7. CuDNNLSTM, https://keras.io/layers/recurrent/#cudnnlstm, 2019.11
  8. Nitish Srivastava, Geoffrey Hinton, Alex Krizhevsky, Ilya Sutskever, Ruslan Salakhutdinov, "Dropout: A Simple Way to Prevent Neural Networks from Overfitting", Journal of Machine Learning Research, 15, pp. 1929-1958, 2014.
  9. David E. Rumelhart, Geoffrey E. Hinton & Ronald J. Williams, "Learning representations by backpropagating errors", Nature, Vol. 323, pp. 533-536, 1986. https://doi.org/10.1038/323533a0
  10. Bengio, Yoshua, Patrice Simard, and Paolo Frasconi, "Learning long-term dependencies with gradient descent is difficult", IEEE Transactions on Neural Networks Vol. 5 No. 2, pp. 157-166, 1994. https://doi.org/10.1109/72.279181
  11. 방성혁, 배석현, 박현규, 전명중, 김제민, 박영택, "순환신경망 기반의 사용자 의도 예측 모델", 정보과학회논문지, Vol. 45, No. 4, pp. 360-369, 2018.
  12. Yann LeCun, Yoshua Bengio & Geoffrey Hinton",Deep learning", Nature, Vol. 521, pp. 436-444, 2015. https://doi.org/10.1038/nature14539
  13. 정호철, 선영규, 이동구, 김수현, 황유민, 심이삭, 오상근, 송승호, 김진영, "에너지인터넷에서 1D-CNN과 양방향 LSTM을 이용한 에너지 수요예측", 전기전자학회논문지, Vol. 23, No. 1, pp. 134-142, 2019. https://doi.org/10.7471/ikeee.2019.23.1.134
  14. Alex Graves, Abdel-rahman Mohamed and Geoffrey Hinton, "Speech Recognition with Deep Recurrent Neural Networks",, https://arxiv.org/pdf/1303.5778.pdf, 2013.
  15. Mike Schuster and Kuldip K. Paliwal, "Bidirectional Recurrent Neural Networks", IEEE Transactions on Signal Processing, Vol. 45, No. 11, pp.2673-2681, 1997. https://doi.org/10.1109/78.650093
  16. 홍진주, 김세한, 박제원, 최재현, "감성분석과 SVM을 이용한 인터넷 악성댓글 탐지 기법", 한국정보통신학회논문지, Vol. 20, No. 2, pp.260-267, 2016. https://doi.org/10.6109/jkiice.2016.20.2.260
  17. 장원구, 이경호, "효과적인 사이버공간 작전수행을 위한 빅데이터 거버넌스 모델", 한국빅데이터학회 학회지, Vol. 4, No. 1, pp. 39-51,2019.
  18. 우종필, 이병욱 등,"빅데이터를 이용한 독감, 폐렴 및 수졲구 환자수 예측 모델 연구," Vol.3, No.1, pp.55-62, 2018.
  19. Alberto, Tulio & Lochter, Johannes & Almeida, Tiago. "TubeSpam: Comment Spam Filtering on YouTube", 10.1109/ICMLA.2015.37., pp. 138-143, Dec. 2015.
  20. Thulfiqar, A., Hussein, A. and Samir, Q. A. "YouTube Spam Comments Detection Using Artificial Neural Network", Journal of Engineering and Applied Sciences, 13: pp. 9638-9642, 2018.
  21. 정민철, 이지현, 오하영, "머신러닝 기반 유튜브 스팸 댓글 탐지,"한국통신학회 학술대회 논문집, pp.555-556, 2019.11.