• 한국정보과학회 언어공학연구회:학술대회논문집(한글 및 한국어 정보처리)
• /
• 한국정보과학회언어공학연구회 2023년도 제35회 한글 및 한국어 정보처리 학술대회
• /
• pp.222-227
• /
• 2023

환각 현상이란 LLM이 생성 태스크에서 사실이 아닌 내용을 생성하거나 근거가 없는 내용을 생성하는 현상을 말한다. 환각 현상은 LLM이 생성한 출력물에 대한 사용자의 신뢰를 떨어뜨리기 때문에 환각을 완화할 수 있는 방법이 필요하다. 최근 사후 편집 모델 중 하나인 RARR는 입력 텍스트를 질문들 순서에 따라 순차적으로 편집하여 환각을 완화하였지만 이전 단계의 편집 오류가 전파되거나 같은 작업을 반복하는 등의 단점이 있었다. 본 논문은 환각 현상 완화를 위한 단위 사실 기반 사후 교정을 제안한다. 제안한 방법은 입력 텍스트를 단위 사실로 분해하고 각 사실에 대응하는 질문을 생성한 후 검색된 관련 문서로 환각 여부를 판단한다. 환각이라 판단되면 편집을 수행하여 환각을 완화한다. 병렬적으로 편집을 진행하기 때문에 기존 연구의 순차적인 오류 전파 문제를 해결하고 기존 연구에 비해 더 빠른 사후 편집을 진행할 수 있다. 실험 결과, 제안 방법이 RARR보다 Preservation Score, 원문과의 사실성 일치여부, 의도 보존 여부에서 모두 우수한 성능을 보인다.

• 정보화정책
• /
• 제31권2호
• /
• pp.3-38
• /
• 2024

환각은 대형언어모형이나 대형 멀티모달 모형의 활용을 막는 큰 장벽이다. 본 연구에서는 최신 환각 연구 동향을 살펴보기 위해 챗 GPT 등장 이후인 2022년 12월부터 2024년 1월까지 아카이브(arXiv)에서 초록에 '환각'이 포함된 컴퓨터과학 분야 논문 654건을 수집해 빈도분석, 지식연결망 분석, 문헌 검토를 수행했다. 이를 통해 분야별 주요 저자, 주요 키워드, 주요 분야, 분야 간 관계를 분석했다. 분석 결과 '계산 및 언어'와 '인공지능', '컴퓨터비전 및 패턴인식', '기계학습' 분야의 연구가 활발했다. 이어 4개 주요 분야 연구 동향을 주요 저자를 중심으로 데이터 측면, 환각 탐지 측면, 환각 완화 측면으로 나눠 살펴보았다. 주요 연구 동향으로는 지도식 미세조정(SFT)과 인간 피드백 기반 강화학습(RLHF)을 통한 환각 완화, 생각의 체인(CoT) 등 추론 강화, 자동화와 인간 개입의 병행, 멀티모달 AI의 환각 완화에 대한 관심 증가 등을 들 수 있다. 본 연구는 환각 연구 최신 동향을 파악함으로써 공학계는 물론 인문사회계 후속 연구의 토대가 될 것으로 기대한다.

• 한국정보과학회 언어공학연구회:학술대회논문집(한글 및 한국어 정보처리)
• /
• 한국정보과학회언어공학연구회 2023년도 제35회 한글 및 한국어 정보처리 학술대회
• /
• pp.690-693
• /
• 2023

언어 모델의 파라미터 수의 지속적인 증가로 100B 단위의 거대 언어모델 LLM(Large Language Model)을 구성 할 정도로 언어 모델의 크기는 증가 해 왔다. 이런 모델의 크기와 함께 성장한 다양한 Task의 작업 성능의 향상과 함께, 발전에는 환각(Hallucination) 및 윤리적 문제도 함께 떠오르고 있다. 이러한 문제 중 특히 환각 문제는 모델이 존재하지도 않는 정보를 실제 정보마냥 생성한다. 이러한 잘못된 정보 생성은 훌륭한 성능의 LLM에 신뢰성 문제를 야기한다. 환각 문제는 정보 검색을 통하여 입력 혹은 내부 표상을 증강하면 증상이 완화 되고 추가적으로 성능이 향상된다. 본 논문에서는 한국어 질의 응답에서 검색 증강을 통하여 모델의 개선점을 확인한다.

• Journal of Hospice and Palliative Care
• /
• 제22권2호
• /
• pp.100-104
• /
• 2019

아편유사제는 중증의 암성통증 조절의 중요한 약제이며 천장효과가 없다. 그러나 의식저하, 인지기능 저하, 환각, 섬망, 호흡저하, 근간대경련, 발작, OIH 등의 합병증으로 인해 용량증량에 제한이 있다. 아편유사제 유발 OIH증은 아편유사제에 노출된 환자에서 역설적으로 통증이 증가하는 현상이다. 이 경우 아편유사제의 용량을 줄이거나, 중단하거나 다른 종류의 아편유사제로 변경하거나 NMDA 길항제를 추가하는 것이 조절에 도움이 된다. 아편 주사제에 노출된 이후 발생한 OIH를 조절한 증례를 보고하고자 한다.

• 생명과학회지
• /
• 제31권7호
• /
• pp.677-685
• /
• 2021

대마(Cannabis sativa L.)는 삼과에 속하는 1년생 초본식물로, 바람에 의해 수정되는 풍매화이면서 자웅이주식물이다. 대마는 중독성 마리화나와 비중독성 헴프로 구분 가능하다. 대마는 인류 역사와 가장 밀접한 관련성을 가진 식물 중 하나로, 과거로부터 다양한 부위를 식용, 약용, 화장품, 섬유, 생활용품 등으로 이용하여 왔다. 그러나 대마꽃, 잎, 종실 등에 포함된 중독, 환각 성분으로 인해, 국내에서는 1977년 1월부터 시행한 [대마관리법]에 의거하여, 대마 줄기를 이용한 섬유산업 이외에는 실질적인 연구 및 산업화가 진행되지 못하였다. 최근 대마로부터 400여종의 cannabinoids 물질, terpene 및 필수지방산 등이 확인되고, 이들의 신경세포 보호, 항염증, 항혈전, 항균, 통증완화 및 뇌전증 치료 등의 유용 생리활성이 알려지고, 테트라히드로칸나비놀(tetrahydrocannabinol)로 대표되는 환각 중독성 물질의 제거 및 저감화, 비환각성 물질의 분석, 정제 기술이 빠르게 보고되면서 2018년 12월 국내 의료용 대마의 합법화 및 2020년 12월 UN 마약위원회의 대마와 대마수지의 마약목록 삭제가 확정되었다. 따라서 국내외에서 대마의 다양한 부위를 이용한 고부가가치 식품, 화장품, 의약품 개발이 시작되고 있다. 본 보에서는 국내 2021년 헴프 기반의 바이오산업 규제자유특구 지정과 함께, 국내 대마생물산업의 현황과 대마산업 활성화를 위한 필수기술, 향후 전망을 제시하여 국내 대마 생물산업의 발전방안을 제시하고자 하였다.