• The Journal of Korean Association of Computer Education
• /
• v.16 no.1
• /
• pp.33-42
• /
• 2013

In this paper, through conducting a survey from 547 male and female high school students in Busan, we found their favorite computer games are about five and the highest linguistic problem in on-line computer games was vulgar languages. Most of respondents thought that the vulgar languages on the on-line games were serious and said that we have experienced the vulgar languages before high school. Therefore, in this paper, we suggest it is necessary to prepare a countermeasure system about adolescents' vulgar languages on the on-line games and for adolescents to take etiquette lessons on the on-line games from either the primary school or before then.

• Proceedings of the Korea Information Processing Society Conference
• /
• 2018.10a
• /
• pp.721-724
• /
• 2018

최근 청소년들은 욕설, 폭력적, 선정적, 비하적 표현을 일상생활에서 자연스럽게 사용하고 있다. 현재 청소년들은 자극적이고 폭력적인 개인 방송을 시청하며 유해 표현을 학습한다. 그래서 여러 기업에서는 모니터링 요원을 배치하거나 사용자들의 신고를 통해 유해 영상을 제재하는 중이다. 하지만 방대한 규모의 동용상 때문에 사람이 직접 모든 영상을 확인하는 것은 물리적으로 불가능하다. 따라서 본 논문에서는 자연어 처리 기술을 활용하여 자동으로 유해 영상을 탐지하는 시스템을 제안하고자 한다. 본 시스템은 데이터 수집, 텍스트 변환, 형태소 분석, 유해 사전 구성, 유해 판단 5가지 과정으로 이루어진다.

• Journal of Digital Convergence
• /
• v.13 no.4
• /
• pp.211-217
• /
• 2015

Recently, school violence problem has increased serious. And this is not only an individual issue but also this is a social problem. Realistically, not only physical violence, cyber violence using the smartphone is very serious. And if the elementary school students are exposed to cyber violence, it becomes even more serious problem. Therefore, we proposed an Smart Monitoring app that protect the smart safety such as as a countermeasure against cyber violence to elementary school students. This Conversion Smart app can support grasp service for children using location based service on the smartphone when he will come to the home. And it can support another service that abuse or vulgar language in messenger. Grasps the degree of use of the language that is prohibited friendship in elementary school through this process, it can be derived. And we have future works that is the search rate and response time an inappropriate word on the proposed system.

• Annual Conference on Human and Language Technology
• /
• 2021.10a
• /
• pp.518-523
• /
• 2021

챗봇과 같은 대화형 에이전트 사용이 증가하면서 채팅에서의 혐오 표현 사용도 더불어 증가하고 있다. 혐오 표현을 자동으로 탐지하려는 노력은 다양하게 시도되어 왔으나, 챗봇 데이터를 대상으로 한 혐오 표현 탐지 연구는 여전히 부족한 실정이다. 이 연구는 혐오 표현을 포함한 챗봇-사용자 대화 데이터 35만 개에 한국어 말뭉치로 학습된 KoELETRA 기반 혐오 탐지 모델을 적용하여, 챗봇-사람 데이터셋에서의 혐오 표현 탐지의 성능과 한계점을 검토하였다. KoELECTRA 혐오 표현 분류 모델은 챗봇 데이터셋에 대해 가중 평균 F1-score 0.66의 성능을 보였으며, 오탈자에 대한 취약성, 맥락 미반영으로 인한 편향 강화, 가용한 데이터의 정확도 문제가 주요한 한계로 포착되었다. 이 연구에서는 실험 결과에 기반해 성능 향상을 위한 방향성을 제시한다.

• Proceedings of the Korean Information Science Society Conference
• /
• 2012.06b
• /
• pp.264-266
• /
• 2012

인터넷 상에서의 변형 단어들을 처리하는 문제는 정보 검색, 기계 번역, 웹 마이닝, 욕설 및 스팸 필터링과 같은 다양한 분야에서 사용될 수 있다. 특히 단어의 변형 추이를 파악하는 등 데이터 수집 및 분석을 위해서는 주어진 단어가 어떤 변형 단어의 집합으로 이루어진 부류에 포함되는지 여부를 파악해야 할 필요성이 있다. 본 논문에서는 같은 부류에 속한 변형 단어 집합에 대하여 다중 서열 정렬(multiple sequence alignment)을 수행함으로써 해당 집합을 하나의 대표 문자열로 취급하는 변환 기법을 제안하고, 이를 이용해 주어진 단어가 해당 부류에 속하는지 여부를 효과적으로 분류하는 기법을 소개한다. 실험결과 제안 기법의 분류 성능은 민감도 93.4% 수준에서 89.1%의 특이도를 보여 전수 비교를 통한 분류에 비하여 결코 성능은 하락하지 않으면서 분류 속도는 16.5배 향상되었음을 확인할 수 있었다.

• Proceedings of the Korea Information Processing Society Conference
• /
• 2021.05a
• /
• pp.543-546
• /
• 2021

최근 온라인 매체에서 무분별한 비속어나 욕설 사용이 늘어남에 따라 유해한 텍스트를 자동으로 필터링하는 시스템의 필요성이 증가하고 있다. 유해 텍스트 필터링 관련 기존의 접근방법은 채팅 프로그램 등 특정 프로그램에 한하여 적용이 되거나 특정 포탈의 웹페이지에 국한되어 적용이 되는 한계가 있다. 따라서 본 연구에서는 AI를 활용하여 모든 웹 페이지의 유해 텍스트를 필터링할 수 있는 Chrome Extension을 구현하고 그 유효성을 검증한다.

• Proceedings of the Korea Information Processing Society Conference
• /
• 2022.11a
• /
• pp.457-458
• /
• 2022

인터넷 시대에 소셜 미디어는 사람들의 삶에 완전히 침투했다. 많은 사용자 기반을 보유한 성숙한 온라인 플랫폼 중 하나인 Twitter를 통해 사용자는 최신 뉴스, 삶의 경험 및 흥미로운 삶의 이야기를 독립적으로 게시할 수 있다. 하지만 때론 부정적인 뉘앙스를 풍기며 기업이나 개인의 브랜드에 영향을 미치며 이익을 훼손하는 경우가 있기 때문에 욕설을 식별해 트위터 발신을 차단할 필요가 있다. 이 기사의 가장 큰 혁신은 Twitter 데이터를 사용하여 다양한 방법을 동시에 비교한다는 것입니다. 더 많은 데이터를 처리할수록 딥 러닝을 시도하면 좋은 결과를 얻을 수 있다. Transformer 분류기를 통합하여 최상의 결과를 얻었다

• Journal of the Korea Institute of Information and Communication Engineering
• /
• v.7 no.2
• /
• pp.334-343
• /
• 2003

This paper suggests the education method of information communication ethics by harmful word filtering on web boards as a way to solve the malfunctioning problem occurring in making informations at the step of their positive activities of information offers. The harmful word filtering system for the education of information communication ethics describes the method to construct a harmful word dictionary by extracting harmful words related with improper doing of writing, sexual insult, abusive language and expressions of criticizing others shown in web boards. Decrease by more than 90% in writing with harmful words and inappropriate writing was shown as the result of application of the harmful word filtering system on school home pages.

• Journal of KIISE:Software and Applications
• /
• v.37 no.10
• /
• pp.788-801
• /
• 2010

Advancing of mobile device is remarkable, so the research on mobile input device is getting more important issue. There are lots of input devices such as keypad, QWERTY keypad, touch and speech recognizer, but they are not as convenient as typical keyboard-based desktop input devices so input strings usually contain many typing errors. These input errors are not trouble with communication among person, but it has very critical problem with searching in database, such as dictionary and address book, we can not obtain correct results. Especially, Hangeul has more than 10,000 different characters because one Hangeul character is made by combination of consonants and vowels, frequency of error is higher than English. Generally, suffix tree is the most widely used data structure to deal with errors of query, but it is not enough for variety errors. In this paper, we propose fast approximate Korean word searching system, which allows variety typing errors. This system includes several algorithms for applying general approximate string searching to Hangeul. And we present profanity filters by using proposed system. This system filters over than 90% of coined profanities.

• Journal of Internet Computing and Services
• /
• v.13 no.3
• /
• pp.107-114
• /
• 2012

In this paper, we proposed an automatic monitoring system for contact center in order to manage customer's complaint and agent's quality. The proposed system allows more accurate monitoring using emotion recognition and keyword spotting method for neutral/anger voice emotion. The system can provide professional consultation and management for the customer with language violence, such as abuse and sexual harassment. We developed a method of building robust algorithm on heterogeneous speech DB of many unspecified customers. Experimental results confirm the stable and improved performance using real contact center speech data.