• Molecules and Cells
• /
• 제45권7호
• /
• pp.465-478
• /
• 2022

MicroRNAs (miRNAs) are a class of small non-coding RNAs that regulate the expression of target messenger RNA (mRNA) complementary to the 3' untranslated region (UTR) at the post-transcriptional level. Hsa-miR-422a, which is commonly known as miRNA derived from transposable element (MDTE), was derived from short interspersed nuclear element (SINE). Through expression analysis, hsa-miR-422a was found to be highly expressed in both the small intestine and liver of crab-eating monkey. AT-Rich Interaction Domain 5 B (ARID5B) was selected as the target gene of hsa-miR-422a, which has two binding sites in both the exon and 3'UTR of ARID5B. To identify the interaction between hsa-miR-422a and ARID5B, a dual luciferase assay was conducted in HepG2 cell line. The luciferase activity of cells treated with the hsa-miR-422a mimic was upregulated and inversely downregulated when both the hsa-miR-422a mimic and inhibitor were administered. Nuclear factor erythroid-2 (NF-E2) was selected as the core transcription factor (TF) via feed forward loop analysis. The luciferase expression was downregulated when both the hsa-miR-422a mimic and siRNA of NF-E2 were treated, compared to the treatment of the hsa-miR-422a mimic alone. The present study suggests that hsa-miR-422a derived from SINE could bind to the exon region as well as the 3'UTR of ARID5B. Additionally, hsa-miR-422a was found to share binding sites in ARID5B with several TFs, including NF-E2. The hsa-miR-422a might thus interact with TF to regulate the expression of ARID5B, as demonstrated experimentally. Altogether, hsa-miR-422a acts as a super enhancer miRNA of ARID5B by collaborating with TF and NF-E2.

• 한국음향학회지
• /
• 제41권3호
• /
• pp.359-366
• /
• 2022

본 논문에서는 콘포머 기반 FastSpeech2를 이용한 한국어 메뉴 음성합성기를 제안한다. 콘포머는 본래 음성 인식 분야에서 제안된 것으로, 합성곱 신경망과 트랜스포머를 결합하여 광역과 지역 정보를 모두 잘 추출할 수 있도록 한 구조다. 이를 위해 순방향 신경망을 반으로 나누어 제일 처음과 마지막에 위치시켜 멀티 헤드 셀프 어텐션 모듈과 합성곱 신경망을 감싸는 마카론 구조를 구성했다. 본 연구에서는 한국어 음성인식에서 좋은 성능이 확인된 콘포머 구조를 한국어 음성합성에 도입하였다. 기존 음성합성 모델과의 비교를 위하여 트랜스포머 기반의 FastSpeech2와 콘포머 기반의 FastSpeech2를 학습하였다. 이때 데이터셋은 음소 분포를 고려한 자체 제작 데이터셋을 이용하였다. 특히 일반대화 뿐만 아니라, 음식 주문 문장 특화 코퍼스를 제작하고 이를 음성합성 훈련에 사용하였다. 이를 통해 외래어 발음에 대한 기존 음성합성 시스템의 문제점을 보완하였다. ParallelWave GAN을 이용하여 합성음을 생성하고 평가한 결과, 콘포머 기반의 FastSpeech2가 월등한 성능인 MOS 4.04을 달성했다. 본 연구를 통해 한국어 음성합성 모델에서, 동일한 구조를 트랜스포머에서 콘포머로 변경하였을 때 성능이 개선됨을 확인하였다.

• 대한의용생체공학회:의공학회지
• /
• 제19권5호
• /
• pp.455-468
• /
• 1998

이 연구에서는 간질 환자의 F-18-FDG 뇌 PET 영상을 공간정규화 기법으로 표준지도 위에 정규화한 후 표준지도의 해부학적 위치 정보를 이용하여 뇌기능영상의 영역을 자동적으로 분할하고 각 해부학적 위치의 F-18-FDG 섭취율을 추출하였다. 뇌 각 영역의 F-18-FDG 섭취율을 데이터베이스화한 것을 입력으로 하는 인공신경회로망을 구성하고 학습시켜 핵의학 전문의가 판독한 결과와 얼마나 일치되는지를 분석하였다. 핵의학 전문의 2명이 좌측측두엽간질(112명), 우측측두엽간질(81명) 혹은 정상(64명)으로 판독한 F-18-FDG 뇌 PET 영상을 대상으로, 학습의 치우침을 줄이기 위해 각 질환 군에서 동일한 수(40명)를 선택하여 학습군을 구성하고 학습군을 제외한 정상 24명, 좌측측두엽간질 72명, 우측 측두엽간질 41명의 F-18-FDG PET을 시험군으로 하였다. 모든 영상을 SPM76을 이용하여 MNI 표준지도 위에 공간정규화하고 전체 뇌영역의 평균 계수를 100으로 정규화하였다. 영역 분할 프로그램을 개발하여 표준지도를 34개 영역으로 분할하고 모든 영상에서 각 뇌영역엔 대한 평균 계수를 추출하였다. 비선형 패턴분류에 효과적인 다층퍼셉트론 신경회로망 모델을 써서 오류역전파 알고리즘으로 학습시켰다. 한 층의 은닉층을 부여하고 은닉층의 뉴런 수를 5개부터 차츰 늘려가며 최적의 개수를 선택하였다. 초기 가중치와 바이어스 값은 무작위 값을 갖게 하였다. 출력단은 세 개의 뉴런을 갖고 각 뉴런은 입력이 정상이면 [1 0 0], 좌측측두엽간질이면 [0 1 0], 우측측두엽간질이면 [0 1 0]의 값을 탐 값으로 하였다. 뉴런의 활성화 함수는 시그모이드 함수를 사용하였다. 입력단은 17개의 뉴런으로 구성하고 서로 마주보는 뇌영역의 계수 타이(오른쪽-왼쪽)를 입력으로 하였다 회로망의 학습 횟수를 10,000번으로 제한하여 오타의 허용치를 1로 설정하고 학습 횟수가 넘거나 오차가 허용치보다 작을 때 학습을 중단하게 하였다. 모멘텀과 적응형 학습율을 사용하여 신경회로망의 성능을 향상시키고 학습 속도를 빠르게 하였다. 모든 PET 영상에서 성공적으로 공간정규화 파라메터를 추출하여 표준지도에 정규화할 수 있었다 다층퍼셉트론 모델을 기반으로 한 인공신경회로망으로 27개의 은닉층 뉴런을 사용했을 때 최적의 결과를 얻을 수 있었다. 학습군에 대해서 1508번의 반복 학습을 시킨 결과 오차율 0%인 신경 회로망을 얻었으며 시험군에 대해 적용한 결과 전문가의 판독결과와 80.3%의 일치율을 보였다. 은닉층의 뉴런 수가 10개나 30개인 경우에도 학습군에 대해 오타율 0%인 신경회로망을 얻을 수 있었으며 이때의 시험군에 대한 일치율 역시 75∼80%의 값을 보였다.

• 한국임상수의학회지
• /
• 제23권2호
• /
• pp.105-110
• /
• 2006

2003년 5월부터 2005년 11월까지 산란계의 전염성기관지염(IB) 예찰 프로그램에 등록한 농장에 대한 역학조사에서 얻은 자료에 근거하여 IB 감염을 확인할 수 있는 모형을 구축하기 위하여 16개의 입력 뉴런, 3 개의 은닉 뉴런, 1개의 출력 뉴런으로 구성된 3층 인공신경망 모형을 개발하였다. 총 86개의 계군 중 77개는 훈련자료에 할당하고 나머지 9개는 검정자료로 무작위로 할당하여 back-propagation algorithm으로 신경망 훈련을 수행하였다. 입력 뉴런은 산란계군의 특성, 사양관리, 계군의 크기 등 16개의 역학조사 항목을 사용하였으며 출력 뉴런은 IB 감염의 유무로 투입하였다. 훈련된 신경망을 검정자료에 적용하여 민감도와 특이도를 산출하였으며 진단의 정확도는 receiver operating characteristic (ROC) 곡선을 사용하여 곡선 밑의 면적(AUC)을 계산하여 평가하였다. 입력 뉴런의 특성과 훈련모수를 변경하면서 다양한 신경망을 구성하였으며 최적의 신경망으로 확인된 IBV_D1 신경망의 경우 훈련자료에 대하여 77건 중 73건을 올바르게 판단하여 94.8%의 정확도를 보였다. 민감도와 특이도는 각각 95.5% (42/44, 95% CI, 84.5-99.4)와 93.9% (31/33, 95% CI, 79.8-99.3)로 나타났다. 훈련된 신경망을 검정자료에 적용하여 ROC 곡선을 작성한 결과 AUC는 전체의 94.8% (SE=0.086, 95% CI 0.592-0.961)를 차지하는 우수한 모형으로 나타났다. ROC 곡선에서 기준을 0.7149 이상으로 판단할 때 진단의 정확도가 88.9%로 가장 높았으며 100%의 민감도를 달성하였다. 이러한 민감도와 특이도에서 44%의 IB 유병률을 가정할 때 IBV_D1 모형은 80%의 양성예측도와 100%의 음성예측도를 보였다. 이러한 소견에 근거할 때 본 연구에서 구축한 신경망 모형은 산란계군에서 IB의 존재를 확인하기 위한 목적에 성공적으로 응용될 수 있을 것으로 판단되었다.

• 지능정보연구
• /
• 제24권1호
• /
• pp.205-225
• /
• 2018

Convolutional Neural Network (ConvNet)은 시각적 특징의 계층 구조를 분석하고 학습할 수 있는 대표적인 심층 신경망이다. 첫 번째 신경망 모델인 Neocognitron은 80 년대에 처음 소개되었다. 당시 신경망은 대규모 데이터 집합과 계산 능력이 부족하여 학계와 산업계에서 널리 사용되지 않았다. 그러나 2012년 Krizhevsky는 ImageNet ILSVRC (Large Scale Visual Recognition Challenge) 에서 심층 신경망을 사용하여 시각적 인식 문제를 획기적으로 해결하였고 그로 인해 신경망에 대한 사람들의 관심을 다시 불러 일으켰다. 이미지넷 첼린지에서 제공하는 다양한 이미지 데이터와 병렬 컴퓨팅 하드웨어 (GPU)의 발전이 Krizhevsky의 승리의 주요 요인이었다. 그러므로 최근의 딥 컨볼루션 신경망의 성공을 병렬계산을 위한 GPU의 출현과 더불어 ImageNet과 같은 대규모 이미지 데이터의 가용성으로 정의 할 수 있다. 그러나 이러한 요소는 많은 도메인에서 병목 현상이 될 수 있다. 대부분의 도메인에서 ConvNet을 교육하기 위해 대규모 데이터를 수집하려면 많은 노력이 필요하다. 대규모 데이터를 보유하고 있어도 처음부터 ConvNet을 교육하려면 많은 자원과 시간이 소요된다. 이와 같은 문제점은 전이 학습을 사용하면 해결할 수 있다. 전이 학습은 지식을 원본 도메인에서 새 도메인으로 전이하는 방법이다. 전이학습에는 주요한 두 가지 케이스가 있다. 첫 번째는 고정된 특징점 추출기로서의 ConvNet이고, 두번째는 새 데이터에서 ConvNet을 fine-tuning 하는 것이다. 첫 번째 경우, 사전 훈련 된 ConvNet (예: ImageNet)을 사용하여 ConvNet을 통해 이미지의 피드포워드 활성화를 계산하고 특정 레이어에서 활성화 특징점을 추출한다. 두 번째 경우에는 새 데이터에서 ConvNet 분류기를 교체하고 재교육을 한 후에 사전 훈련된 네트워크의 가중치를 백프로퍼게이션으로 fine-tuning 한다. 이 논문에서는 고정된 특징점 추출기를 여러 개의 ConvNet 레이어를 사용하는 것에 중점을 두었다. 그러나 여러 ConvNet 레이어에서 직접 추출된 차원적 복잡성을 가진 특징점을 적용하는 것은 여전히 어려운 문제이다. 우리는 여러 ConvNet 레이어에서 추출한 특징점이 이미지의 다른 특성을 처리한다는 것을 발견했다. 즉, 여러 ConvNet 레이어의 최적의 조합을 찾으면 더 나은 특징점을 얻을 수 있다. 위의 발견을 토대로 이 논문에서는 단일 ConvNet 계층의 특징점 대신에 전이 학습을 위해 여러 ConvNet 계층의 특징점을 사용하도록 제안한다. 본 논문에서 제안하는 방법은 크게 세단계로 이루어져 있다. 먼저 이미지 데이터셋의 이미지를 ConvNet의 입력으로 넣으면 해당 이미지가 사전 훈련된 AlexNet으로 피드포워드 되고 3개의 fully-connected 레이어의 활성화 틀징점이 추출된다. 둘째, 3개의 ConvNet 레이어의 활성화 특징점을 연결하여 여러 개의 ConvNet 레이어의 특징점을 얻는다. 레이어의 활성화 특징점을 연결을 하는 이유는 더 많은 이미지 정보를 얻기 위해서이다. 동일한 이미지를 사용한 3개의 fully-connected 레이어의 특징점이 연결되면 결과 이미지의 특징점의 차원은 4096 + 4096 + 1000이 된다. 그러나 여러 ConvNet 레이어에서 추출 된 특징점은 동일한 ConvNet에서 추출되므로 특징점이 중복되거나 노이즈를 갖는다. 따라서 세 번째 단계로 PCA (Principal Component Analysis)를 사용하여 교육 단계 전에 주요 특징점을 선택한다. 뚜렷한 특징이 얻어지면, 분류기는 이미지를 보다 정확하게 분류 할 수 있고, 전이 학습의 성능을 향상시킬 수 있다. 제안된 방법을 평가하기 위해 특징점 선택 및 차원축소를 위해 PCA를 사용하여 여러 ConvNet 레이어의 특징점과 단일 ConvNet 레이어의 특징점을 비교하고 3개의 표준 데이터 (Caltech-256, VOC07 및 SUN397)로 실험을 수행했다. 실험결과 제안된 방법은 Caltech-256 데이터의 FC7 레이어로 73.9 %의 정확도를 얻었을 때와 비교하여 75.6 %의 정확도를 보였고 VOC07 데이터의 FC8 레이어로 얻은 69.2 %의 정확도와 비교하여 73.1 %의 정확도를 보였으며 SUN397 데이터의 FC7 레이어로 48.7%의 정확도를 얻었을 때와 비교하여 52.2%의 정확도를 보였다. 본 논문에 제안된 방법은 Caltech-256, VOC07 및 SUN397 데이터에서 각각 기존에 제안된 방법과 비교하여 2.8 %, 2.1 % 및 3.1 %의 성능 향상을 보였다.