• ETRI Journal
• /
• 제46권1호
• /
• pp.48-58
• /
• 2024

This paper presents the development of language tutoring systems for nonnative speakers by leveraging advanced end-to-end automatic speech recognition (ASR) and proficiency evaluation. Given the frequent errors in non-native speech, high-performance spontaneous speech recognition must be applied. Our systems accurately evaluate pronunciation and speaking fluency and provide feedback on errors by relying on precise transcriptions. End-to-end ASR is implemented and enhanced by using diverse non-native speaker speech data for model training. For performance enhancement, we combine semisupervised and transfer learning techniques using labeled and unlabeled speech data. Automatic proficiency evaluation is performed by a model trained to maximize the statistical correlation between the fluency score manually determined by a human expert and a calculated fluency score. We developed an English tutoring system for Korean elementary students called EBS AI Peng-Talk and a Korean tutoring system for foreigners called KSI Korean AI Tutor. Both systems were deployed by South Korean government agencies.

• ETRI Journal
• /
• 제46권1호
• /
• pp.59-70
• /
• 2024

We introduce a high-performance named entity recognition (NER) model for written and spoken language. To overcome challenges related to labeled data scarcity and domain shifts, we use transfer learning to leverage our previously developed KorBERT as the base model. We also adopt a meta-pseudo-label method using a teacher/student framework with labeled and unlabeled data. Our model presents two modifications. First, the student model is updated with an average loss from both human- and pseudo-labeled data. Second, the influence of noisy pseudo-labeled data is mitigated by considering feedback scores and updating the teacher model only when below a threshold (0.0005). We achieve the target NER performance in the spoken language domain and improve that in the written language domain by proposing a straightforward rollback method that reverts to the best model based on scarce human-labeled data. Further improvement is achieved by adjusting the label vector weights in the named entity dictionary.

• 분석과학
• /
• 제24권2호
• /
• pp.127-134
• /
• 2011

본 연구에서는 기존 대한약전외 일반시험법 중 파라옥시안식향산에스텔 및 그 염류의 함량시험법의 이동상의 조성을 acetonitrile water (containing 1% glacial acetic acid) mixture (30:70 v/v)로 변화시켜 첨가제로 사용된 보존제성분과 제품에서 기인하는 방해물질과의 완전한 분리를 통하여 액상한약제제 분석의 효율성을 기하였다. 유통되고 있는 한약제제 중 액상제품 총 47품목을 대상으로 안식향산나트륨, 디히드로 초산나트륨, 파라옥시안식향산메칠, 파라옥시안식향산에칠, 파라옥시안식향산프로필 등 5종의 함량을 모니터링 하였다. 그 결과 액상한약제제 37품목 중 보존제가 표시된 31품목은 보존제가 표시된 함량에 맞게 함유되어 있었다. 안식향산과 디히드로초산이 함유된 7품목 중 6품목은 디히드로초산이 표시량에 비해 낮게 검출되었거나 검출되지 않았다. 보존제가 미표시된 10품목 중 3품목에서 보존제가 검출되었다. 3건 모두 안식향산이 검출되었고 그 중 2건에서 디히드로초산이 검출되었으며 1건에서 메틸파라벤이 검출되었다.

• 생명과학회지
• /
• 제15권1호
• /
• pp.55-60
• /
• 2005

생쥐의 도파민 수용체 조절인자 (DRRF)유전자는 몇몇 Spl 결합부위를 가지고 TATA가 없는 프로모터로부터 전사된다. 본 연구에서는 이 유전자의 발현을 조절하는 기능성 조절인자들을 밝힌다. $D_2$ 도파민 수용체를 발현하는 NB41A3 세포에서 Spl은 pCAT-DRRF-l153/+17에 포함된 DRRF 프로모터부터 의 전사를 촉진시키지만 DRRF는 전사를 억제시켰다. -1153과 -1122 사이의 31 bp 단편의 결손에 의해 전사활성은 약 $60\%$ 정도 감소하였다. 이 단편은 기능성 AP1 결합부위를 포함하고 있다 게다가, -901과 -772사이의 129 bp영역의 결손에 의해 전사활성이 더욱 더 감소하였다. 이 영역은 기능성 AP2 결합부위를 가진다. DRRF_AP1 (bases -1153 to -1121) 탐침을 이용한 gel shift실험에서 특정 벤드가 관찰되었고, 이 벤드는 API 상보성 경쟁자에 의해 효과적으로 사라졌다. 더욱이, DRRF_AP2 (bases -873 to -846) 탐침을 이용한 gel shift실험에서도 특정 벤드가 관찰되었고, 이 벤드도 AP2상보성 경쟁자에 의해 효과적으로 사라졌다. 본 연구결과로, Spl과 DRRF가 DRRF 프로모터를 효과적으로 조절한다는 사실과, AP1과 AP2 역시 이 유전자를 조절한다는 사실을 알 수 있었다.

• 방송공학회논문지
• /
• 제24권3호
• /
• pp.472-484
• /
• 2019

본 논문에서는 심층신경망을 이용한 시간 영역 음향 이벤트 검출 알고리즘을 제시한다. 본 시스템에서는 주파수 영역으로 변환되지 않은 시간 영역의 음향 데이터를 심층신경망의 입력으로 사용한다. 전반적인 구조는 CRNN 구조를 사용하였으며, GLU, ResNet, Squeeze-and-excitation 블럭을 적용하였다. 그리고 여러 계층에서 추출된 특징을 함께 고려하는 구조를 제안하였다. 또한 본 연구에서는 강한 라벨이 있는 훈련 데이터를 확보하는 것이 현실적으로 어렵다는 전제 아래에서 약한 라벨이 있는 훈련 데이터 약간 그리고 다수의 라벨이 없는 훈련 데이터를 활용하여 훈련을 수행하였다. 적은 수의 훈련 데이터를 효과적으로 사용하기 위해 타임 스트레칭, 피치 변화, 동적 영역 압축, 블럭 혼합 등의 데이터 증강 방법을 적용하였다. 라벨이 없는 데이터에는 의사 라벨을 붙여 부족한 훈련 데이터를 보완하였다. 본 논문에서 제안한 신경망과 데이터 증강 방법을 사용하는 경우, 종래의 방식으로 CRNN 구조의 신경망을 훈련하여 사용하는 경우보다, 음향 이벤트 검출 성능이 약 6 % (f-score 기준)가 개선되었다.

• 인터넷정보학회논문지
• /
• 제24권6호
• /
• pp.91-98
• /
• 2023

오늘날 인공지능 산업이 발전함에 따라 여러 분야에 걸쳐 인공지능을 통한 자동화 및 최적화가 이루어지고 있다. 국내의 철도 분야 또한 지도 학습을 이용한 레일의 결함을 검출하는 연구들을 확인할 수 있다. 그러나 철도에는 레일만이 아닌 다른 구조물들이 존재하며 그중 선로 체결 장치는 레일을 다른 구조물에 결합시켜주는 역할을 하는 장치로 안전사고의 예방을 위해서 주기적인 점검이 필요하다. 본 논문에는 선로 체결 장치의 데이터를 이용하여 준지도 학습(semi-supervised learning)과 전이 학습(transfer learning)을 이용한 분류기를 학습시켜 선로 안전 점검에 사용되는 비용을 줄이는 방안을 제안한다. 사용된 네트워크는 Resnet50이며 imagenet으로 선행 학습된 모델이다. 레이블이 없는 데이터에서 무작위로 데이터를 선정 후 레이블을 부여한 뒤 이를 통해 모델을 학습한다. 학습된 모델의 이용하여 남은 데이터를 예측 후 예측한 데이터 중 클래스 별 확률이 가장 높은 데이터를 정해진 크기만큼 훈련용 데이터에 추가하는 방식을 채택하였다. 추가적으로 초기의 레이블된 데이터의 크기가 끼치는 영향력을 확인해보기 위한 실험을 진행하였다. 실험 결과 최대 92%의 정확도를 얻을 수 있었으며 이는 지도 학습 대비 5% 내외의 성능 차이를 가진다. 이는 제안한 방안을 통해 추가적인 레이블링 과정 없이 비교적 적은 레이블을 이용하여 분류기의 성능을 기존보다 향상시킬 수 있을 것으로 예상된다.

• Korean Journal of Radiology
• /
• 제24권6호
• /
• pp.541-552
• /
• 2023

Objective: Detection of pneumoperitoneum using abdominal radiography, particularly in the supine position, is often challenging. This study aimed to develop and externally validate a deep learning model for the detection of pneumoperitoneum using supine and erect abdominal radiography. Materials and Methods: A model that can utilize "pneumoperitoneum" and "non-pneumoperitoneum" classes was developed through knowledge distillation. To train the proposed model with limited training data and weak labels, it was trained using a recently proposed semi-supervised learning method called distillation for self-supervised and self-train learning (DISTL), which leverages the Vision Transformer. The proposed model was first pre-trained with chest radiographs to utilize common knowledge between modalities, fine-tuned, and self-trained on labeled and unlabeled abdominal radiographs. The proposed model was trained using data from supine and erect abdominal radiographs. In total, 191212 chest radiographs (CheXpert data) were used for pre-training, and 5518 labeled and 16671 unlabeled abdominal radiographs were used for fine-tuning and self-supervised learning, respectively. The proposed model was internally validated on 389 abdominal radiographs and externally validated on 475 and 798 abdominal radiographs from the two institutions. We evaluated the performance in diagnosing pneumoperitoneum using the area under the receiver operating characteristic curve (AUC) and compared it with that of radiologists. Results: In the internal validation, the proposed model had an AUC, sensitivity, and specificity of 0.881, 85.4%, and 73.3% and 0.968, 91.1, and 95.0 for supine and erect positions, respectively. In the external validation at the two institutions, the AUCs were 0.835 and 0.852 for the supine position and 0.909 and 0.944 for the erect position. In the reader study, the readers' performances improved with the assistance of the proposed model. Conclusion: The proposed model trained with the DISTL method can accurately detect pneumoperitoneum on abdominal radiography in both the supine and erect positions.

• Biomolecules & Therapeutics
• /
• 제32권1호
• /
• pp.154-161
• /
• 2024

Amyotrophic lateral sclerosis (ALS) is a fatal motor neuron disorder that causes progressive paralysis. L-Citrulline is a nonessential neutral amino acid produced by L-arginine via nitric oxide synthase (NOS). According to previous studies, the pathogenesis of ALS entails glutamate toxicity, oxidative stress, protein misfolding, and neurofilament disruption. In addition, L-citrulline prevents neuronal cell death in brain ischemia; therefore, we investigated the change in the transport of L-citrulline under various pathological conditions in a cell line model of ALS. We examined the uptake of [¹⁴C]L-citrulline in wild-type (hSOD1wt/WT) and mutant NSC-34/ SOD1^G93A (MT) cell lines. The cell viability was determined via MTT assay. A transport study was performed to determine the uptake of [¹⁴C]L-citrulline. Quantitative real-time polymerase chain reaction (qRT-PCR) analysis was performed to determine the expression levels of rat large neutral amino acid transported 1 (rLAT1) in ALS cell lines. Nitric oxide (NO) assay was performed using Griess reagent. L-Citrulline had a restorative effect on glutamate induced cell death, and increased [¹⁴C]L-citrulline uptake and mRNA levels of the large neutral amino acid transporter (LAT1) in the glutamate-treated ALS disease model (MT). NO levels increased significantly when MT cells were pretreated with glutamate for 24 h and restored by co-treatment with L-citrulline. Co-treatment of MT cells with L-arginine, an NO donor, increased NO levels. NSC-34 cells exposed to high glucose conditions showed a significant increase in [¹⁴C]L-citrulline uptake and LAT1 mRNA expression levels, which were restored to normal levels upon co-treatment with unlabeled L-citrulline. In contrast, exposure of the MT cell line to tumor necrosis factor alpha, lipopolysaccharides, and hypertonic condition decreased the uptake significantly which was restored to the normal level by co-treating with unlabeled L-citrulline. L-Citrulline can restore NO levels and cellular uptake in ALS-affected cells with glutamate cytotoxicity, pro-inflammatory cytokines, or other pathological states, suggesting that L-citrulline supplementation in ALS may play a key role in providing neuroprotection.

• Bulletin of the Korean Chemical Society
• /
• 제34권9호
• /
• pp.2725-2730
• /
• 2013

Single C-reactive protein (CRP) molecules, which are non-specific acute phase markers and products of the innate immune system, were quantitatively detected on a gold-nanopatterned biochip using evanescent field-enhanced fluorescence imaging. The $4{\times}5$ gold-nanopatterned biochip (spot diameter of 500 nm) was fabricated by electron beam nanolithography. Unlabeled CRP molecules in human serum were identified with single-molecule sandwich immunoassay by detecting secondary fluorescence generated by total internal reflection fluorescence (TIRF) microscopy. With decreased standard CRP concentrations, relative fluorescence intensities reduced in the range of 33.3 zM-800 pM. To enhance fluorescence intensities in TIRF images, the distance between biochip surface and CRP molecules was optimally adjusted by considering the quenching effect of gold and the evanescent field intensity. As a result, TIRF only detected one single-CRP molecule on the biochip the first time.

• BMB Reports
• /
• 제29권2호
• /
• pp.169-174
• /
• 1996

Yeast cytochrome c (cyt c) was modified at cysteine-102 with a thiol-specific spin label and its interaction with liposomes containing acidic phospholipids was studied by electron paramagnetic resonance (EPR) spectroscopy. Association of cyt c with liposomes resulted in a significant reduction in the mobility of the spin label and a fraction of cyt c even seemed to be immobilized. Based on a large spectral change upon binding and the proximity of the spin-label to lysine-86 and -87, we propose these two residues to be the potential binding site at neutral pH. The interaction is electrostatic in nature because the spectral changes were reversed by addition of anions. Dissociation of the bound cyt c by anions, however, became less effective as the lipid/protein ratio increased. This suggests a repulsive lateral interaction among the bound cyt c. Unlabeled cyt c molecules added to preformed cyt c-liposome complex displaced the bound (spin labeled) cyt c and the process was competitive and reversible.