• 제목/요약/키워드: Self-Attention

검색결과 1,163건 처리시간 0.027초

뇌전증 소아청소년 환아의 자아개념에 영향을 미치는 요인에 대한 연구 (A Study on the Factors Affecting Self-Concept of Children and Adolescents with Epilepsy)

  • 하수희;최희연;이향운;김의정
    • Journal of the Korean Academy of Child and Adolescent Psychiatry
    • /
    • 제28권4호
    • /
    • pp.252-259
    • /
    • 2017
  • Objective: The purpose of this study was to investigate the impact of clinical and psychological factors on the self-concept of children and adolescents with epilepsy. Methods: Children and adolescents with epilepsy (n=60; age range=9-17 years) completed questionnaires about their epilepsy-related variables, self-concept, depressive symptoms, anxiety, family functions, and behavioral problems. The T-test and one-way analysis of variance were used to examine the variables affecting the total self-concept scores. To determine the independent variables by adjusting the significant variables, a stepwise regression analysis was performed. Results: In the correlational analysis, age, depressive symptoms, anxiety, social problems, attention problems, and internalizing problems had significantly negative correlations with self-concept. On the other hand, IQ and family functions showed positive correlations with selfconcept. Age (${\beta}=-0.177$, p=0.015), depressive symptoms (${\beta}=-0.487$, p<0.001), anxiety (${\beta}=-0.298$, p=0.008), and attention problems (${\beta}=-0.138$, p=0.048) were analyzed as independent factors to assess their impact on self-concept, and were found to account for 78.3% of the variance in self-concept by stepwise regression analysis. Conclusion: Parents and clinicians should pay attention to improving the self-concept of children and adolescents with epilepsy, especially if they have problems with depression, anxiety, or attention.

일부 지역 중학생의 흡연경험에 따른 자기효능감과 학습태도의 관련성 (Relationship between self-efficacy and learning attitude according to smoking experience in the middle school students)

  • 손은주;장경애
    • 한국치위생학회지
    • /
    • 제15권5호
    • /
    • pp.805-811
    • /
    • 2015
  • Objectives: The purpose of the study is to investigate the relationship between self-efficacy and learning attitude according to smoking experience in the middle school students. Methods: A self-reported questionnaire was completed by 608 middle school students in Gyeongnam from July 1 to 23, 2013. The questionnaire consisted of general characteristics of the subjects, smoking behavior, self-efficacy, and learning attitude. The questionnaire was adapted and modified from Kang, Park, and Koh. The self-efficacy was divided into general efficacy and social efficacy. The learning attitude was divided into attention concentration, learning method, and self learning. Data were analyzed using SPSS Win 21.0 program. Results: The nonsmoking students tended to have higher general efficacy and social efficacy than the smokers (p<0.01). The nonsmokers had more attention concentration in learning attitude than the smokers (p<0.001). The learning method (p<0.001) and self learning (p<0.001) showed the same results between the two groups. The smoking experience had the negative correlation with general efficacy (r=-0.164) and social efficacy(r=-0.154). The general efficacy is positively related to social efficacy (r=0.568). The smoking experience had the negative correlation to attention concentration (r=-0.235), learning method (r=-0.211) and self learning (r=-0.148). The attention concentration was positive relation with learning method (r=0.690) and self learning(r=0.662. The learning method had positive relation to self learning (r=0.764). Conclusions: The smoking students tended to have lower self-efficacy and learning attitude, so it is necessary to implement the smoking prevention program in the middle school students.

인문계 고등학생의 사회부과 완벽주의가 우울과 사회불안에 미치는 영향: 자기초점적 주의와 자기비난의 매개효과 (Influence of Socially-Prescribed Perfectionism on Social anxiety and Depression in Academic High School Students: Mediation Effects of Self-focused Attention and Self-Criticism)

  • 김슬기;이동귀
    • 한국심리학회지:학교
    • /
    • 제15권2호
    • /
    • pp.243-264
    • /
    • 2018
  • 본 연구는 고등학생의 사회부과 완벽주의가 우울 및 사회불안에 미치는 영향 관계에서 자기초점적 주의와 자기비난의 매개효과를 검증하고자 하였다. 이를 위해 경기도 소재의 인문계 고등학교에 재학 중인 남녀 고등학생 273명(남학생 83명, 여학생 190명)을 대상으로 약 3주간의 간격을 두고 총 2회에 걸쳐 사회부과 완벽주의, 사회불안, 우울, 자기초점적 주의, 자기비난의 척도에 대한 설문을 실시하였다. 분석 결과, 첫째, 사회부과 완벽주의, 우울, 사회불안, 자기초점적 주의, 자기비난 사이에 모두 정적인 상관관계가 있었다. 둘째, 사회부과 완벽주의가 자기초점적 주의를 거쳐 우울로 이행되는 매개경로는 통계적으로 유의하였으나, 사회부과 완벽주의가 자기비난을 거쳐 우울로 이행되는 매개효과는 유의하지 않았다. 셋째, 우울 대신 사회불안을 기준변인으로 했을 때도 동일한 매개효과 패턴이 관찰되었다. 본 연구 결과는 사회부과 완벽주의가 자기초점적 주의를 매개로 하여 각각 우울 및 사회불안으로 이행되는 과정을 경험적으로 밝혔고, 특히 사회불안의 경우에는 한국 고등학생을 대상으로 Clark와 Wells의 사회불안장애 인지모델을 적용하는 것의 타당성에 대한 간접적인 증거가 될 수 있음을 증명하였다. 끝으로 본 연구의 의의 및 제한점, 후속 연구를 위한 제언을 논의하였다.

Self-Attention 기반의 문장 임베딩을 이용한 효과적인 문장 유사도 기법 기반의 FAQ 시스템 (An Effective Sentence Similarity Measure Method Based FAQ System Using Self-Attentive Sentence Embedding)

  • 김보성;김주애;이정엄;김선아;고영중;서정연
    • 한국정보과학회 언어공학연구회:학술대회논문집(한글 및 한국어 정보처리)
    • /
    • 한국정보과학회언어공학연구회 2018년도 제30회 한글 및 한국어 정보처리 학술대회
    • /
    • pp.361-363
    • /
    • 2018
  • FAQ 시스템은 주어진 질문과 가장 유사한 질의를 찾아 이에 대한 답을 제공하는 시스템이다. 질의 간의 유사도를 측정하기 위해 문장을 벡터로 표현하며 일반적으로 TFIDF, Okapi BM25와 같은 방법으로 계산한 단어 가중치 벡터를 이용하여 문장을 표현한다. 하지만 단어 가중치 벡터는 어휘적 정보를 표현하는데 유용한 반면 단어의 의미적인(semantic) 정보는 표현하기 어렵다. 본 논문에서는 이를 보완하고자 딥러닝을 이용한 문장 임베딩을 구축하고 단어 가중치 벡터와 문장 임베딩을 조합한 문장 유사도 계산 모델을 제안한다. 또한 문장 임베딩 구현 시 self-attention 기법을 적용하여 문장 내 중요한 부분에 가중치를 주었다. 실험 결과 제안하는 유사도 계산 모델은 비교 모델에 비해 모두 높은 성능을 보였고 self-attention을 적용한 실험에서는 추가적인 성능 향상이 있었다.

  • PDF

복소 스펙트럼 기반 음성 향상의 성능 향상을 위한 time-frequency self-attention 기반 skip-connection 기법 연구 (A study on skip-connection with time-frequency self-attention for improving speech enhancement based on complex-valued spectrum)

  • 정재희;김우일
    • 한국음향학회지
    • /
    • 제42권2호
    • /
    • pp.94-101
    • /
    • 2023
  • 음성 향상에서 많이 사용되는 U-Net과 같이 인코더와 디코더로 구성된 심층 신경망 모델은 skip-connection을 통해 인코더의 특징을 디코더에 연결하는 구조로 구성되어 있다. Skip-connection은 디코더에서 향상된 스펙트럼을 재구성하는데 도움을 주며 인코더를 통해 손실된 정보를 보완해줄 수 있다. 이때 skip-connection을 통해 연결되는 인코더의 특징과 디코더의 특징의 의미는 서로 다르다. 본 논문에서는 복소 스펙트럼 기반 음성 향상의 성능 향상을 위해 디코더에 연결되는 인코더의 특징을 디코더 특징의 의미에 가깝게 변환해주도록 skip-connection에 Self-Attention(SA)을 적용하는 방안을 연구하였다. SA는 시퀀스-시퀀스 문제에서 출력 시퀀스를 생성할 때, 입력 시퀀스의 가중 산술 평균을 이용하여 결정적인 부분을 집중해서 볼 수 있도록 하는 기법으로, 음성 향상 분야에서도 이를 적용함으로써 성능 향상에 효과적임을 입증하는 연구가 진행되었다. SA를 skip-connection에 적용하기 위해 인코더 특징과 디코더 특징을 이용하는 총 3가지의 방법에 대해 연구하였다. TIMIT 데이터베이스를 이용한 음성 향상 실험 결과, 제안하는 방법이 기존 skip-connection으로만 연결된 Deep Complex U-Net(DCUNET)과 비교하여 모든 성능 평가 지표에서 향상된 결과를 보였다.

Time-Series Forecasting Based on Multi-Layer Attention Architecture

  • Na Wang;Xianglian Zhao
    • KSII Transactions on Internet and Information Systems (TIIS)
    • /
    • 제18권1호
    • /
    • pp.1-14
    • /
    • 2024
  • Time-series forecasting is extensively used in the actual world. Recent research has shown that Transformers with a self-attention mechanism at their core exhibit better performance when dealing with such problems. However, most of the existing Transformer models used for time series prediction use the traditional encoder-decoder architecture, which is complex and leads to low model processing efficiency, thus limiting the ability to mine deep time dependencies by increasing model depth. Secondly, the secondary computational complexity of the self-attention mechanism also increases computational overhead and reduces processing efficiency. To address these issues, the paper designs an efficient multi-layer attention-based time-series forecasting model. This model has the following characteristics: (i) It abandons the traditional encoder-decoder based Transformer architecture and constructs a time series prediction model based on multi-layer attention mechanism, improving the model's ability to mine deep time dependencies. (ii) A cross attention module based on cross attention mechanism was designed to enhance information exchange between historical and predictive sequences. (iii) Applying a recently proposed sparse attention mechanism to our model reduces computational overhead and improves processing efficiency. Experiments on multiple datasets have shown that our model can significantly increase the performance of current advanced Transformer methods in time series forecasting, including LogTrans, Reformer, and Informer.

A Multi-task Self-attention Model Using Pre-trained Language Models on Universal Dependency Annotations

  • Kim, Euhee
    • 한국컴퓨터정보학회논문지
    • /
    • 제27권11호
    • /
    • pp.39-46
    • /
    • 2022
  • 본 논문에서는 UD Korean Kaist v2.3 코퍼스를 이용하여 범용 품사 태깅, 표제어추출 그리고 의존 구문분석을 동시에 예측할 수 있는 보편적 다중 작업 모델을 제안하였다. 제안 모델은 사전학습 언어모델인 다국어 BERT (Multilingual BERT)와 한국어 BERT (KR-BERT와 KoBERT)을 대상으로 추가학습 (fine-tuning)을 수행하여 BERT 모델의 자가-집중 (self-attention) 기법과 그래프 기반 Biaffine attention 기법을 적용하여 제안 모델의 성능을 비교 분석하였다.

Self-Attention 기반의 변분 오토인코더를 활용한 신약 디자인 (De Novo Drug Design Using Self-Attention Based Variational Autoencoder)

  • ;최종환;서상민;김경훈;박상현
    • 정보처리학회논문지:소프트웨어 및 데이터공학
    • /
    • 제11권1호
    • /
    • pp.11-18
    • /
    • 2022
  • 신약 디자인은 단백질 수용체와 같은 생물학적 표적과 상호작용할 수 있는 약물 후보물질을 식별하는 과정이다. 전통적인 신약 디자인 연구는 약물 후보 물질 탐색과 약물 개발 단계로 구성되어 있으나, 하나의 신약을 개발하기 위해서는 10년 이상의 장시간이 요구된다. 이러한 기간을 단축하고 효율적으로 신약 후보 물질을 발굴하기 위하여 심층 학습 기반의 방법들이 연구되고 있다. 많은 심층학습 기반의 모델들은 SMILES 문자열로 표현된 화합물을 재귀신경망을 통해 학습 및 생성하고 있으나, 재귀신경망은 훈련시간이 길고 복잡한 분자식의 규칙을 학습시키기 어려운 단점이 있어서 개선의 여지가 남아있다. 본 연구에서는 self-attention과 variational autoencoder를 활용하여 SMILES 문자열을 생성하는 딥러닝 모델을 제안한다. 제안된 모델은 최신 신약 디자인 모델 대비 훈련 시간을 1/26로 단축하는 것뿐만 아니라 유효한 SMILES를 더 많이 생성하는 것을 확인하였다.

부모요인과 아동의 기질 및 내재적 통제소재가 자기조절능력에 미치는 영향 (Effects of Parental Variables, Temperament and Internal Locus of Control on Self-Regulation of Children)

  • 이경님
    • 가정과삶의질연구
    • /
    • 제28권6호
    • /
    • pp.47-57
    • /
    • 2010
  • This study examines the effects of parental variable(parental support and supervision), temperament(activity level, attention span/persistence, and emotionality) and the internal locus of control on self-regulation of children. Data were collected from 455 5th and 6th graders and analyzed with Pearson's correlations and pathway analysis. The results were as follows : Children's temperament, internal locus of control and parental variable directly affected children's self-regulation. Parental variables mediated between children's temperament and internal locus of control and self-regulation. Internal locus of control mediated between children's temperament and self-regulation: in addition, the most important variable predicting children's self-regulation was children's attention span/persistence temperament.

아침 결식이 경기지역 남녀 중학생의 영양섭취상태, 피로자각도 및 주의집중력에 미치는 영향 (Effects of Skipping Breakfast on Nutrition Status, Fatigue Level, and Attention Level among Middle School Students in Gyunggi Province, Korea)

  • 임경숙
    • 한국식생활문화학회지
    • /
    • 제29권5호
    • /
    • pp.464-475
    • /
    • 2014
  • Eating breakfast provides crucial nutrition for brain function and helps promote overall health. It is especially critical in growing adolescents, as it is known to form good eating habits and better study habits. This study investigated the effects of skipping breakfast on nutritional state, fatigue level, and attention level. A cross-sectional study was conducted in 2010 on total of 828 adolescents composed of 414 boys and 414 girls. Students who ate breakfast never to twice per week were placed in the breakfast-skipper group while students who ate breakfast more than five times per week were included in the breakfast-eater group. Students performed a self-reported questionnaire on food behaviors, amount of food consumption, fatigue level, attention deficient hyperactivity disease (ADHD) level by Conners-Wells' Adolescent Self-Report Scales, depression scale, and self-esteem level. Statistical analysis was conducted using the SAS program (version 9.1). A total of 135 boys (32.6%) and 138 girls (33.3%) were included in the breakfast-skipper group, whereas 241 boys (58.2%) and 223 girls (53.9%) were included in the breakfast-eater group. The breakfast-skipper group showed irregular food behaviors and lacked nutrients. Specifically, energy (p< .001), protein (p< .001), dietary fiber (p< .001), calcium (p< .01), vitamin A (p< .01), thiamin (p< .05), niacin (p< .001) levels in boy breakfast-skippers were statistically lower compared to boy breakfast-eaters. Intakes of all nutrients except fat in girl breakfast-skippers were statistically lower than in girl breakfast-eaters. Girl breakfast-skippers (41.3%) showed significantly higher fatigue risks compared to girl breakfast-eaters (21.5%). Low attention level was also observed only in girls in the breakfast-skipping group. Moreover, students in the breakfast-skipper group showed higher scores for depression and low self-esteem (p< .001). In conclusion, skipping breakfast has effects on young adolescents' nutrition, manifesting as high fatigue level and low attention level, especially in girls.