• 제목/요약/키워드: 다양한 속성의 편향

검색결과 3건 처리시간 0.017초

한국어 언어모델의 속성 및 정량적 편향 분석: 영어 언어모델과의 비교 및 개선 제안 (Properties and Quantitative Analysis of Bias in Korean Language Models: A Comparison with English Language Models and Improvement Suggestions)

  • 김재민;채동규
    • 한국정보과학회 언어공학연구회:학술대회논문집(한글 및 한국어 정보처리)
    • /
    • 한국정보과학회언어공학연구회 2023년도 제35회 한글 및 한국어 정보처리 학술대회
    • /
    • pp.558-562
    • /
    • 2023
  • 최근 ChatGPT의 등장으로 텍스트 생성 모델에 대한 관심이 높아지면서, 텍스트 생성 태스크의 성능평가를 위한 지표에 대한 연구가 활발히 이뤄지고 있다. 전통적인 단어 빈도수 기반의 성능 지표는 의미적인 유사도를 고려하지 못하기 때문에, 사전학습 언어모델을 활용한 지표인 BERTScore를 주로 활용해왔다. 하지만 이러한 방법은 사전학습 언어모델이 학습한 데이터에 존재하는 편향으로 인해 공정성에 대한 문제가 우려된다. 이에 따라 한국어 사전학습 언어모델의 편향에 대한 분석 연구가 필요한데, 기존의 한국어 사전학습 언어모델의 편향 분석 연구들은 사회에서 생성되는 다양한 속성 별 편향을 고려하지 못했다는 한계가 있다. 또한 서로 다른 언어를 기반으로 하는 사전학습 언어모델들의 속성 별 편향을 비교 분석하는 연구 또한 미비하였다. 이에 따라 본 논문에서는 한국어 사전학습 언어모델의 속성 별 편향을 비교 분석하며, 영어 사전학습 언어모델이 갖고 있는 속성 별 편향과 비교 분석하였고, 비교 가능한 데이터셋을 구축하였다. 더불어 한국어 사전학습 언어모델의 종류 및 크기 별 편향 분석을 통해 적합한 모델을 선택할 수 있도록 가이드를 제시한다.

  • PDF

한국의 사회적 맥락에서의 ChatGPT의 독성 및 편향성 분석 (Analysis of Toxicity and Bias of ChatGPT within Korean Social Context)

  • 이승윤;박찬준;김경민;임희석
    • 한국정보과학회 언어공학연구회:학술대회논문집(한글 및 한국어 정보처리)
    • /
    • 한국정보과학회언어공학연구회 2023년도 제35회 한글 및 한국어 정보처리 학술대회
    • /
    • pp.539-545
    • /
    • 2023
  • 초거대 언어모델은 심화된 언어적 이해를 요구하는 여러 분야에 높은 영향력을 미치고 있으나, 그에 수반되는 편향성과 윤리성에 대한 우려 또한 함께 증대되었다. 특히 편향된 언어모델은 인종, 성적 지향 등과 같은 다양한 속성을 가진 개인들에 대한 편견을 강화시킬 수 있다. 그러나 이러한 편향성에 관한 연구는 대부분 영어 문화권에 한정적이며 한국어에 관한 연구 또한 한국에서 발생하는 지역 갈등, 젠더 갈등 등의 사회적 문제를 반영하지 못한다. 이에 본 연구에서는 ChatGPT의 내재된 편향성을 도출하기 위해 의도적으로 다양한 페르소나를 부여하고 한국의 사회적 쟁점들을 기반으로 프롬프트 집합을 구성하여 생성된 문장의 독성을 분석하였다. 실험 결과, 특정 페르소나 또는 프롬프트에 관해서는 지속적으로 유해한 문장을 생성하는 경향성이 나타났다. 또한 각 페르소나-쟁점에 대해 사회가 갖는 편향된 시각이 모델에 그대로 반영되어, 각 조합에 따라 생성된 문장의 독성 분포에 유의미한 차이를 보이는 것을 확인했다.

  • PDF

2000년대 한국 대중영화를 통해 바라본 사회·정치적 담론과 미디어적 현상 연구 (Study on the Media Phenomenon and Social & Political Discourse in 2000s Korean Public Movie)

  • 김민수;한화성;김건
    • 만화애니메이션 연구
    • /
    • 통권42호
    • /
    • pp.125-150
    • /
    • 2016
  • 2000년대 들어 한국영화는 천만 관객 동원과 한국형 블록버스터의 성공에 힘입어 산업적인 성장세를 이어가고 있다. 영화의 소재로 남북한 분단 이데올로기뿐만 아니라 역사, 정치, 사회문제 등의 다양한 소재가 다루어지며 실화를 바탕으로 한 영화도 인기를 끌었다. 이에 따라 영화산업의 외형적 규모도 점점 더 확대되고 있다. 이러한 배경에는 다양한 원인이 존재할 것이다. 그 중에서도 한국 상업영화의 발전은 문화소비로서의 대중문화 속성과 다양한 대중의 속성을 파악하여 만든 웰 메이드(well made)영화 그리고 이에 적극적으로 반응하는 미디어적 현상이 주원인일 것이다. 한국 대중영화가 영화 시장에서 확고한 위치를 점하며 자연스럽게 미디어 매체의 관심을 받게 되면서 많은 담론들이 생성되고 있다. 또한 대중영화의 파급력을 인지한 미디어 매체와 소셜 미디어의 영향력은 사회 정치적으로 변화를 이끌기도 하지만 이데올로기의 논란으로 이어지기도 한다. 왜냐하면 대중문화 연구와 관련된 이데올로기적 의미는 의식적 혹은 무의식적이거나 작가(예술가) 자신의 의도와는 관계없이, 언제나 세상에 대한 특정한 이미지를 재현하거나 표현하기 때문이다. 따라서 본 논문은 우선적으로 1990년대 말부터 한국영화가 대중영화로 확고히 자리 잡을 수 있었던 요인과 계기에 대한 논의를 검토하였다. 그런 다음, 2000년대 들어서 더욱 빈번한 정치, 사회, 역사에 대한 수많은 담론들을 형성한 대중영화와 미디어 그리고 소셜 미디어의 관계에 대해 고찰하였다. 이러한 흐름의 논의는 대중영화의 폭과 변화를 이해하는데 도움을 줄 것이다. 또한 편향적인 미디어의 홍수 속에서 사회 정치적인 영화보기나 읽기란 무엇인가에 대해서도 자문하는 계기가 될 것이다.