• 제목/요약/키워드: 데이터 필터링

검색결과 981건 처리시간 0.041초

광고 글 필터링 모델 적용 및 성능 향상 방안 (Application of Advertisement Filtering Model and Method for its Performance Improvement)

  • 박래근;윤혁진;신의철;안영진;정승도
    • 한국산학기술학회논문지
    • /
    • 제21권11호
    • /
    • pp.1-8
    • /
    • 2020
  • 최근 기하급수적인 인터넷 데이터의 증가로 딥러닝 등의 많은 분야가 발전하였지만 바이럴 마케팅(viral marketing)과 같은 상업적 목적의 광고가 발견되면서 정보증가의 부작용이 발생하고 있다. 이는 양질의 정보를 공유하고자 하는 인터넷의 본질을 훼손하고 있을 뿐만 아니라 사용자는 양질의 정보를 습득하기 위해 검색시간이 증가하는 문제가 야기된다. 이에 본 연구에서는 광고(Ad: Advertisement, 이하 Ad) 글을 정보 전달의 본질을 흐리는 내용의 글이라 정의하였으며 본 정의에 부합하는 정보로 필터링하는 모델을 제안하였다. 제안하는 모델은 광고 필터링 경로와 광고 필터링 성능 개선경로로 구성되었으며 지속적으로 성능이 개선되도록 설계하였다. 광고 글 필터링을 위해 데이터를 수집하고 KorBERT를 사용하여 문서분류를 학습하였다. 본 모델의 성능을 검증하기 위해 실험을 진행하였으며 5개의 주제를 통합한 데이터에 대한 정확도(Accuracy), 정밀도(Precision)는 각각 89.2%, 84.3%의 결과를 나타냈고 광고의 비정형적 특성을 고려하더라도 높은 성능이 보임을 확인하였다. 본 모델을 통해 바이럴 마케팅으로 구성된 문서에서 광고 문단을 판단하고 필터링하여 사용자에게 양질의 정보를 효과적으로 전달하며 검색하는 과정에서 낭비되는 시간과 피로가 감소할 것으로 기대된다.

VOD 서비스 플랫폼에서 협력 필터링을 이용한 TV 프로그램 개인화 추천 (Personalized TV Program Recommendation in VOD Service Platform Using Collaborative Filtering)

  • 한성희;오연희;김희정
    • 방송공학회논문지
    • /
    • 제18권1호
    • /
    • pp.88-97
    • /
    • 2013
  • 개인화된 추천을 제공하기 위한 협력 필터링은 추천 시스템에서 성공적으로 활용되어 온 기법이다. 그러나 협력 필터링이 주로 연구 및 적용된 분야들은 사용자로부터의 명시적 피드백이 존재하는 독립된 아이템들을 추천하는 것에 초점을 두고 있다. VOD 서비스 플랫폼에서 개인화된 TV 프로그램을 추천하기 위해서는 해당 도메인의 특성과 제한들을 고려하는 것이 필요하다. 본 논문에서는 TV 프로그램의 시리즈 속성을 이용하여, 선호를 판단하기 힘든 비명시적 피드백인 회별 프로그램 시청기록을 명시적이고 지속적인 프로그램 선호도로 변환하는 방법을 고안하였다. 데이터 수집과 최종 추천은 회별 프로그램 단위로 이루어지면서 협력 필터링 처리 단위는 프로그램으로 변경되어 TV 프로그램 VOD 추천 환경에 가장 적당한 형태로 협력 필터링을 변형 적용하였다. 실험 결과는 고안된 추천 시스템이 단순히 협력 필터링을 적용했을 때보다 높은 정확도와 더 적은 계산량을 가지는 것을 보여준다. 도메인 특화된 이러한 변형은 추천 시스템의 알고리즘 모듈로 구성되어 기존에 알려진 다양한 협력 필터링 기법과 결합하여 사용될 수 있다.

센서 레지스트리 시스템을 위한 개선된 센서 필터링 기법 (Improved Sensor Filtering Method for Sensor Registry System)

  • 천하오티엔;정현준;이석훈;온병원;정동원
    • 한국정보통신학회논문지
    • /
    • 제26권1호
    • /
    • pp.7-14
    • /
    • 2022
  • 센서 레지스트리 시스템(Sensor Registry System, SRS)은 이기종 센서 네트워크에서 의미적 상호운용성 유지를 위해 개발되었다. SRS는 위치 정보를 기반으로 주변 센서와 모바일 기기와의 연결 여부를 확인하며, 연결이 되었을 때 센서의 메타데이터를 제공한다. 성공적으로 연결되는 주위의 센서를 식별하는 과정을 센서 필터링이라고 정의한다. 이러한 센서 필터링의 성능 개선이 SRS 연구의 핵심 주제 중 하나이다. 실제 상황에서, GPS에서 제공된 잘못된 위치 정보로 인해 센서 필터링이 실패하는 경우가 발생한다. 따라서 이 논문에서는 지리적 임베딩과 뉴럴 네트워크 기반 경로 예측을 이용한 새로운 센서 필터링 방법을 제안하고 몬테카를로 접근방법을 통해 서비스 제공률을 평가한다. 실증 연구에서, 제안 방법이 위치 정보 이상 문제를 개선하고 SRS 센서 필터링에 효과적인 모델임을 보였다.

스마트 홈 미러를 이용한 의상 추천 시스템 (The Costume Recommendation System Using Smart Home Mirror)

  • 이기훈;조재현;문남미
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2017년도 춘계학술발표대회
    • /
    • pp.708-711
    • /
    • 2017
  • 최근 의류업계에서는 데이터마이닝을 이용하여 의상을 추천하는 시스템에 대한 연구가 활발하게 진행되고 있다. 하지만 기존 연구들은, 의상구매가 온 오프라인 모두에서 활발함에도 불구하고 온라인 쇼핑몰에서 얻을 수 있는 데이터에 국한되어 연구가 진행되고 있다. 본 논문에서는 온라인 데이터 위주의 기존 의상 추천 시스템을 스마트 홈 미러의 가상 착의시스템을 사용하여 온 오프라인 데이터를 모두 반영한 추천시스템을 구현했다. 또한 사용자에게 적합한 추천시스템을 제공하기 위해 지역별 인구분포와 사용자 기본DB를 단계별로 그룹화 했다. 정확도와 사용자 만족도를 향상 시키고자 단계별로 가중치를 부여해 협업 필터링과 날씨, 종류, 색상을 속성으로 한 내용기반 필터링을 결합하는 시스템을 제시했다.

최소 DTW 거리 기반의 데이터 시퀀스 색인 기법 (Sequence Data Indexing Method based on Minimum DTW Distance)

  • 길기정;송석일;송재종;이석필;장세진;이종설
    • 한국콘텐츠학회논문지
    • /
    • 제11권12호
    • /
    • pp.52-59
    • /
    • 2011
  • 이 논문에서는 시퀀스 데이터베이스에서 효과적인 유사 검색을 지원하기 위한 색인 기법을 제안한다. 제안하는 색인 기법에서는 데이터 시퀀스에 대한 필터링 효과를 얻기 위해, 최소 DTW 거리를 새롭게 제안한다. 최소 DTW 거리는 유사한 데이터 시퀀스 그룹과 질의 시퀀스 사이의 최소거리를 측정하는 방법이다. 최소 DTW 거리는 계층적인 색인 구조를 통해서 시퀀스 데이터베이스를 필터링하면서 유사도 검색을 수행할 수 있도록 한다. 마지막으로, 실험을 통해서 제안하는 방법의 우수성을 입증한다.

차원 감소 기법을 이용한 전자 상거래 추천 시스템의 개발 (Development of a recommender system for e-commerce sites using a dimension reduction technique)

  • 김용수;염봉진;김도현
    • 한국경영과학회:학술대회논문집
    • /
    • 대한산업공학회/한국경영과학회 2006년도 춘계공동학술대회 논문집
    • /
    • pp.299-304
    • /
    • 2006
  • 최근 전자상거래 사이트에서는 각 고객에게 개별화된 서비스를 제공하기 위한 노력을 기울이고 있으며, 추천시스템은 이러한 개별화된 서비스를 제공하는데 중요한 역할을 하고 있다. 전자상거래 추천시스템에 대한 최근 연구 동향 중 하나는 고객의 탐색 및 행동 패턴 데이터를 이용하여 각 상품에 대한 선호도를 추정하고, 이를 바탕으로 한 추천시스템을 개발하는 것이다. 본 논문에서는 이와 같이 추정한 선호도 데이터에 차원 감소 기법을 적용한 추천시스템을 개발하였으며, 이를 기존의 협업적 필터링을 이용한 방법과 비교하였다. 실험용 전자상거래 사이트로부터 수집한 데이터를 바탕으로 두 방법을 비교하여, 추천 상품 수가 지나치게 크지 않을 때에는 차원 감소 기법을 이용한 방법의 성능이 협업적 필터링을 이용한 방법의 성능과 유사하거나 더 우수하다는 것을 보였다.

  • PDF

협동적 필터링을 이용한 전자상거래에서의 추천시스템 (Recommender Systems in E-Commerce using Collaborative Filtering)

  • 김영설;장수현;윤병주
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2000년도 추계학술발표논문집 (상)
    • /
    • pp.289-292
    • /
    • 2000
  • 인터넷이 생활의 일부분이 되어감에 따라 인터넷상에서 이루어지는 전자상거래는 빠르게 발전하고 있다. 지금까지의 전자상거래는 고객이 요구하는 제품을 판매하는 단순한 형태였다. 하지만 앞으로의 전자상거래에서는 고객이 선호할 만한 제품을 예상하여 고객에게 해당 제품을 추천해 줌으로서 양질의 서비스를 제공하고 더 많은 이익을 창출 할 수 있는 전자상거래 시스템이 요구되고 있다. 본 논문에서는 전자상거래시스템에서 이용될 수 있는 추천시스템을 개발하기 위하여 추천시스템의 핵심이 되는 사용자간 유사도에 기초한 GroupLens의 협동적 필터링 알고리즘을 실제 Data Set을 통해서 실험하였다. 또한 Data Set을 분석하여 아이템을 대표할 수 있는 장르를 결정하여 전체 학습데이터로부터 대표장르에 속하는 데이터들만을 분리하여 학습데이터로 사용하는 추천시스템을 제안하였고, 실험을 통하여 제안한 추천시스템의 타당성을 보였다.

  • PDF

데이터 마이닝과 필터링을 이용한 내비게이션에서의 정보제공 (Offering Information in Car Navigation using Data Mining Techniques and Filtering)

  • 정순원;이은주;김응모
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2008년도 추계학술발표대회
    • /
    • pp.241-244
    • /
    • 2008
  • 내비게이션 시장의 확대에 따라 주요 서비스인 길안내 외에 다양한 콘텐츠 제공 기술개발로 경쟁력을 갖춰 나갈 필요성이 대두되었다. 이러한 흐름에 발맞추어 운전자의 특성, 관심사를 고려, 운전자가 선호할 만한 서비스 정보를 제공하여 내비게이션의 경쟁력을 갖출 수 있는 방법을 제안한다. 본 논문에서는 데이터 마이닝, 필터링과 추천방법을 통하여 기존의 내비게이션이 경로를 탐색할 때 운전자의 기호와는 상관없는 정보를 제공한 것과 다르게 운전자가 선호할 만한 서비스 정보를 효율적으로 도출하는 방법을 제안 한다. 또한 내비게이션이 제공하는 불필요한 정보를 제함으로써 빠르고 효율적인 데이터관리를 할 수 있도록 한다.

분산 컴퓨팅 환경에서 효율적인 유사 조인 질의 처리를 위한 행렬 기반 필터링 및 부하 분산 알고리즘 (Matrix-based Filtering and Load-balancing Algorithm for Efficient Similarity Join Query Processing in Distributed Computing Environment)

  • 양현식;장미영;장재우
    • 한국콘텐츠학회논문지
    • /
    • 제16권7호
    • /
    • pp.667-680
    • /
    • 2016
  • 하둡 맵리듀스와 같은 분산 컴퓨팅 플랫폼이 개발됨에 따라, 기존 단일 컴퓨터 상에서 수행되는 질의 처리 기법을 분산 컴퓨팅 환경에서 효율적으로 수행하는 것이 필요하다. 특히, 주어진 두 데이터 집합에서 유사도가 높은 모든 데이터 쌍을 탐색하는 유사 조인 질의를 분산 컴퓨팅 환경에서 수행하려는 연구가 있어 왔다. 그러나 분산 병렬 환경에서의 기존 유사 조인 질의처리 기법은 데이터 전송 비용만을 고려하기 때문에 클러스터 간에 비균등 연산 부하 분산의 문제점이 존재한다. 본 논문에서는 분산 컴퓨팅 환경에서 효율적인 유사 조인 처리를 위한 행렬 기반 부하 분산 알고리즘을 제안한다. 제안하는 알고리즘은 클러스터의 균등 부하 분산을 위해 행렬을 이용하여 예상되는 연산 부하를 측정하고 이에 따라 파티션을 생성한다. 아울러, 클러스터에서 질의 처리에 사용되지 않는 데이터를 필터링함으로서 연산 부하를 감소시킨다. 마지막으로 성능 평가를 통해 제안하는 알고리즘이 기존 기법에 비해 질의 처리 성능 측면에서 우수함을 보인다.

웹 말뭉치에 대한 문장 필터링 데이터 셋 구축 방법 (Sentence Filtering Dataset Construction Method about Web Corpus)

  • 남충현;장경식
    • 한국정보통신학회논문지
    • /
    • 제25권11호
    • /
    • pp.1505-1511
    • /
    • 2021
  • 자연어 처리 분야 내 다양한 작업들에서 높은 성능을 보인 사전 학습된 모델은 대량의 말뭉치를 이용하여 문장들의 언어학적 패턴을 스스로 학습함으로써 입력 문장 내 각 토큰들을 적절한 특징 벡터로 표현할 수 있다는 장점을 갖고 있다. 이러한 사전 학습된 모델의 학습에 필요한 말뭉치를 구축하는 방법 중 웹 크롤러를 이용하여 수집한 경우 웹사이트에 존재하는 문장은 다양한 패턴을 갖고 있기 때문에 문장의 일부 또는 전체에 불필요한 단어가 포함되어 있을 수 있다. 본 논문에서는 웹으로부터 수집한 말뭉치에 대해 신경망 모델을 이용하여 불필요한 단어가 포함된 문장을 필터링하기 위한 데이터 셋 구축 방법에 대해 제안한다. 그 결과, 총 2,330개의 문장을 포함한 데이터 셋을 구축하였다. 또한 신경망 모델을 이용하여 구축한 데이터 셋을 학습시켜 성능을 평가하였으며, BERT 모델이 평가 데이터에 대해 93.75%의 정확도로 가장 높은 성능을 보였다.