• 제목/요약/키워드: Hyper-Parameters

검색결과 190건 처리시간 0.02초

관계 추론 심층 신경망 모델의 성능개선 연구 (A Study on Improving Performance of the Deep Neural Network Model for Relational Reasoning)

  • 이현옥;임희석
    • 정보처리학회논문지:소프트웨어 및 데이터공학
    • /
    • 제7권12호
    • /
    • pp.485-496
    • /
    • 2018
  • 지금까지 인공지능의 한 분야인 딥러닝 방법은 구조화되지 않은 데이터로부터 문제를 해결하는 놀라울만한 성과를 이루어왔지만, 인간처럼 여러 상황들을 종합적으로 판단, 그것들의 연관성을 추론하고, 그 다음 상황을 예측하는 수준의 지능을 갖는데 도달하지 못하였다. 최근 발표된 복잡한 관계 추론을 수행하는 심층 신경망은 인공지능이 인간의 핵심 지적 능력인 관계 추론을 보유할 수 있다는 것을 증명하였다. 본 논문에서는 관계 추론 심층 신경망 중에서 Relation Networks (RN)의 성능을 분석 및 관찰해 보고자 Sort-of-CLEVR 데이터 셋을 사용한 시각적 질의응답과 bAbI task를 사용한 텍스트 기반 질의응답 두 유형의 RN 기반 심층 신경망 모델을 구축하여 baseline 모델과의 비교를 통한 성능검증을 하였다. 또한 모델의 성능을 극대화하기 위하여 하이퍼 파라미터 튜닝 등 다양각도의 성능개선 실험으로 관계 추론을 위한 RN 기반 심층 신경망 모델의 성능개선 방법을 제안하였다. 제안한 성능개선 방법은 시각적 질의응답 모델과 텍스트 기반 질의응답 모델에 적용하여 그 효과를 검증하였고, 기존의 RN 모델에서 사용해보지 않았던 Dialog-based LL 데이터 셋을 사용하여 새로운 도메인에서의 제안한 성능개선 방법의 효과를 다시 한 번 검증하였다. 실험 결과 두 유형의 RN 모델 모두에서 초기 학습률이 모델의 성능을 결정하는 핵심 요인임을 알 수 있었고, 제안한 random search 방법에 의해 찾은 최적의 초기 학습률 설정이 모델의 성능을 최고 99.8%까지 향상 시킬 수 있다는 것을 확인하였다.

머신러닝을 사용한 서리 예측 연구 (A study on frost prediction model using machine learning)

  • 김효정;김삼용
    • 응용통계연구
    • /
    • 제35권4호
    • /
    • pp.543-552
    • /
    • 2022
  • 서리는 표면 근처의 공기의 이슬점 온도가 빙점 이하일 때 수증기가 승화, 응축되어 땅이나 물체에 얼게 되는 작은 얼음 결정체이다. 서리가 내리면 농작물이 직접 피해를 입는다. 농작물이 낮은 온도에 접촉하면 조직이 얼어서 세포막이나 엽록체가 딱딱해지고 파괴되거나 건조한 세포가 죽습니다. 2020년 7월, 세계 최대 커피 생산국인 브라질 미나스제라이스 주에 갑작스러운 영하의 날씨와 서리가 내려 지역 커피 나무의 약 30%가 피해를 입었다. 이로 인해 피해로 커피값이 크게 올랐고, 피해가 심각한 농가는 농작물이 회복되기까지 3년이 걸리기 때문에 2024년에야 커피를 생산할 수 있다. 본 논문에서는 심한 서리가 내리는 것을 방지하기 위해 기상청이 제공하는 서리 발생 데이터와 기상관측 데이터를 이용해 서리를 예측하려고 했다. 관측 지점의 고도 및 풍속, 온도, 습도, 강수량, 흐림 등의 기상 요인을 반영하여 모델을 구축하였다. XGB, SVM, Random Forest, MLP 모델을 사용하여 다양한 하이퍼 파라미터를 학습 데이터로 적용하여 각 모델에 가장 적합한 모델을 선택하였다. 마지막으로, 결과는 테스트 데이터에서 정확도(acc)와 중요 성공 지수(CSI)로 평가되었다. XGB는 90.4%의 acc와 64.4%의 CSI로 다른 모델에 비해 최고의 모델이었고, SVM은 89.7%의 acc와 61.2%의 CSI로 그 뒤를 이었다. 랜덤 포레스트와 MLP는 약 89%의 acc와 약 60%의 CSI로 비슷한 성능을 보였다.

TBM 데이터와 머신러닝 기법을 이용한 디스크 커터마모 예측에 관한 연구 (A Study on the Prediction of Disc Cutter Wear Using TBM Data and Machine Learning Algorithm)

  • 강태호;최순욱;이철호;장수호
    • 터널과지하공간
    • /
    • 제32권6호
    • /
    • pp.502-517
    • /
    • 2022
  • TBM의 활용이 증가하면서 최근 국내외에서 머신러닝 기법으로 TBM 데이터를 분석하여 디스크커터의 교환주기 예측 및 굴진율을 예측하는 연구가 증가하고 있다. 본 연구에서는 굴진 시 획득되는 기계 데이터와 지반 데이터를 기반으로 최근에 다양한 분야에서 널리 사용되고 있는 머신러닝 기법들 중 회귀 모델을 접목하여 슬러리 쉴드 TBM 현장의 디스크 커터 마모 예측을 하였다. 디스크 커터 마모 예측을 위해서 Training과 Test 데이터를 7:3으로 분할하였으며, 최적의 파라미터를 선정을 위해서 분할 교차검증을 포함하는 그리드 서치를 활용하였다. 그 결과, 앙상블 계열의 그레디언트 부스팅 모델이 결정계수가 0.852, 평균 제곱근 오차가 3.111로 좋은 성능을 보여주었고 특히 학습성능과 더불어 학습속도에서 우수한 결과를 보여주었다. 현재 도출된 결과로 볼 때, 슬러리 쉴드 TBM의 기계데이터와 지반정보가 포함된 데이터를 활용한 디스크 커터 마모 예측 모델의 적합성은 높다고 보인다. 추가적으로 지반조건의 다양성과 디스크 마모 측정 데이터양을 늘리는 연구가 필요한 것으로 판단된다.

합성곱 네트워크 기반의 Conv1D 알고리즘에서 시간 종속성을 반영한 선박 연료계통 장비의 고장 진단 모델 (The Fault Diagnosis Model of Ship Fuel System Equipment Reflecting Time Dependency in Conv1D Algorithm Based on the Convolution Network)

  • 김형진;김광식;황세윤;이장현
    • 한국항해항만학회지
    • /
    • 제46권4호
    • /
    • pp.367-374
    • /
    • 2022
  • 본 연구는 자율운항 선박의 연료 계통 펌프와 청정기를 대상으로 고장을 진단 사례를 제시하였다. 계측된 신호의 시간종속성을 반영한 심층학습(Deep learning) 알고리즘 적용 절차를 구성하고, 장비의 정상 운전상태와 고장 상태에서 계측한 진동 신호를 고장 패턴 학습에 사용하였다. 특히, 진동 신호에 내포된 열화의 시간 종속성을 반영할 수 있는 방법을 찾고자 하였으며, 슬라이딩 윈도우 연산 과정을 가진 Conv1D를 이용하여고장의 시간 종속성을 반영하였다. 또한 계측된 신호의 차수를 2차원에서 3차원으로 확장하여 시간 영역의 특징을 반영할 수 있는 데이터 전처리과정을 고안하였다. Conv1D 알고리즘의 적층과 변수를 결정하는 과정에서 그리드 탐색 기법을 사용하여 초매개변수의 최적 값을 결정하였다. 마지막으로 제안한 데이터 전처리 방법과 시계열 데이터의 시간 종속성을 반영한 Conv1D 모델이 이상 감지 및 고장 진단에 타당성이 있음을 확인하였다.

LSTM을 활용한 고속도로 교통정보 예측 모델 개발 방법론 (Methodology for Developing a Predictive Model for Highway Traffic Information Using LSTM)

  • 이요셉;진형석;김예진;박성호;윤일수
    • 한국ITS학회 논문지
    • /
    • 제22권5호
    • /
    • pp.1-18
    • /
    • 2023
  • 최근 빅데이터 및 딥러닝 기술의 발전으로 다양한 교통정보가 널리 수집 및 활용되고 있다. 특히 시계열 특성을 갖는 교통정보 예측 분야에서는 장단기 메모리(long short term memory, LSTM)가 널리 사용되고 있다. LSTM에 입력되는 시계열 데이터의 추세, 계절성, 주기 등이 상이하기 때문에 시계열 데이터를 기반으로 한 예측 모델에서도 데이터의 특성에 따라 하이퍼 파라미터의 적합한 값을 찾는 시행착오법이 필수적이다. 이에 적합한 하이퍼 파라미터를 찾는 방법론이 정립된다면, 정확도가 높은 모델 구성에 소요되는 시간을 줄일 수 있다. 따라서, 본 연구에서는 국내 고속도로 차량검지기 데이터와 LSTM을 기반으로 교통정보 예측 모델을 개발하였으며, LSTM의 하이퍼 파라미터별 평가지표 변화를 통해 예측 결과에 미치는 영향평가를 수행하였다. 또한, 이를 기반으로 교통분야에서 고속도로 교통정보 예측에 적합한 하이퍼 파라미터를 찾는 방법론을 제시하였다.

주의력결핍 과잉행동장애 아동에서의 심박 변이도와 양육 스트레스 (Heart Rate Variability and Parenting Stress Index in Children with Attention-Deficit/Hyperactivity Disorder)

  • 김수영;이문수;양재원;정인과
    • 정신신체의학
    • /
    • 제19권2호
    • /
    • pp.74-82
    • /
    • 2011
  • 연구목적: 본 연구의 목적은 소아 청소년 정신과 외래를 방문하는 주의력결핍 과잉행동장애(Attention-Deficit/Hyper-activity Disorder, ADHD) 아동의 주의력 결핍 정도와 심박 변이도(Heart Rate Variability, HRV)의 인자와의 관계를 비교하고 주의력 결핍 과잉행동의 검사 척도를 통한 증상의 정도와 부모 양육 스트레스 정도와의 연관성을 평가하고자 하였다. 방 법: 2007년 8월부터 2009년 7월까지 고려대학교 구로병원 정신건강의학과의 소아 클리닉을 방문하여 ADHD 진단을 받은 환자 중 이전에 약물 치료를 받은 기왕력이 없는 환자를 대상으로 하였다. ADHD 진단 및 평가에 주의력 장애 진단 시스템(ADHD diagnostic system, ADS)과 ADHD 평가 척도(ADHD rating scale, ARS)를 이용하였고, HRV 측정은 5분 동안 시행되는 것으로 평가하였다. 또한 부모의 양육 스트레스 정도를 측정하기 위하여 부모의 양육 스트레스 척도를 이용하였고 지능검사로는 한국판 아동용 웩슬러 지능검사가 이용되었다. Pearson 상관 분석을 통해 ARS 변수, ADS 변수와 HRV의 인자, 양육 스트레스 변수들 간의 상관관계에 대하여 알아보았다. 결 과: ADHD로 진단 받은 59명의 환자가 본 연구에 최종 참여하였다. HRV 인자 중 주파수 영역 분석법에서 저주파 스펙트럼은 ADS 변수 중 반응 시간 변산성(r=0.325, p<0.05)과 유의한 상관관계를 보였으나, 그 외 ADS 변수들과 ARS 변수들과는 유의한 상관 관계를 보이지 않았다. 부모 양육 스트레스에서는 ARS의 부주의 인자의 증상 정도가 심해질수록 부모-자녀의 역기능적 상호작용과 자녀의 기질과 관련된 척도가 유의하게 증가하였고 과활동성 인자의 증상 정도가 심해질수록 부모의 스트레스와 자녀의 기질과 관련된 척도가 유의하게 증가되었으며 그 외에는 유의한 차이를 보이지 않았다. 결 론: 본 연구에서는 ADHD 아동들에서의 임상적 변인과 HRV의 인자 사이에서 일부 연관성을 보여주었다. 따라서 차후 HRV가 임상적으로 ADHD 아동들에 있어서 치료를 받은 후 정신적 할당에 향상되었는지를 알아볼 수 있는 도구 중 하나가 될 가능성을 보여 주는 것이라 할 수 있겠고 이후 이에 따른 양육스트레스의 변화 또한 전향적인 연구가 필요할 것으로 생각된다.

  • PDF

동물플랑크톤 군집의 수생태계 환경 평가 지표 활용: 부영양화 저수지 수질 평가를 위한 윤충류 기능성 그룹의 적용 (Zooplankton Community as an Indicator for Environmental Assessment of Aquatic Ecosystem: Application of Rotifer Functional Groups for Evaluating Water Quality in Eutrophic Reservoirs)

  • 오혜지;장광현;서동일;남귀숙;이의행;정현기;윤주덕;오종민
    • 환경영향평가
    • /
    • 제26권6호
    • /
    • pp.404-417
    • /
    • 2017
  • 본 연구에서는 수생태계 환경 지표로써 윤충류 군집의 활용 가능성을 평가하기 위해 부영양화 진행 정도에 따른 윤충류 군집의 반응 양상을 분석하였다. 윤충류 군집의 시,공간적 분포와 수질과의 관계를 평가하기 위해 지리상 인접하게 위치해 있으나 수질 항목 및 부영양화 정도가 서로 다른 충청남도 소재의 전대저수지와 초대저수지를 연구 대상지로 선정하였다. 분석을 위해 두 저수지에서 2013년 4월부터 11월까지 수질 및 윤충류 군집의 월별 조사를 실시하여 상관관계 분석 및 회귀 분석을 실시하였다. 윤충류 군집은 종 조성과 기능성 그룹 조성으로 나누어 적용하였으며, 기능성 그룹의 경우 섭식 성향을 대변할 수 있는 트로피(trophi)의 구조와 형태 및 개체 크기, 생태를 고려하여 분류하였다. 분석 결과, 종을 기반으로 한 조성의 경우 일관적인 경향이 나타나지 않았으나, 기능성 그룹 조성의 경우 부영양화 정도에 따른 그룹 특이적 증감 경향이 관찰되었다. 이러한 결과는 수생태계, 특히 과영양 상태의 저수지에 대한 환경지표로써 윤충류 기능성 그룹 조성의 활용 가능성을 제시한다. 반면, 본 연구에서는 제한된 연구 지점에서의 현장 결과를 바탕으로 하고 있어, 향후 윤충류 기능성 그룹의 섭식 성향에 따른 환경 적응과 관련한 추가 연구가 이루어진다면 윤충류 군집을 수생태계 내 다양한 변화의 모니터링과 평가 및 비교에 적용 가능할 것으로 여겨진다.

충남 농촌 지역 주민의 고혈압 전단계와 고혈압의 위험요인 (The Risk Factors of the Pre-hypertension and Hypertension of Rural Inhabitants in Chungnam-do)

  • 엄지숙;이태용;박선주;안윤진;정영진
    • Journal of Nutrition and Health
    • /
    • 제41권8호
    • /
    • pp.742-753
    • /
    • 2008
  • 본 연구는 우리나라 충청지역 농촌 주민을 대상으로 고혈압전단계와 고혈압의 위험 요인을 파악하고자 2006년 1${\sim}$2월 사이에 보건복지부 질병관리본부 한국인유전체역학조사사업에 참여한 40${\sim}$70세 사이의 금산군 주민 994명에 대한 자료를 분석하였다. 전체 대상자 중 이미 고혈압의 진단을 받아 혈압강하제를 복용하는 170명을 제외한 824명을 대상자로 선정하고, 2003년 JNC7 보고서에서 발표한 고혈압 기준에 따라 정상혈압군, 고혈압 전단계군, 고혈압군으로 나누어 세 군간의 일반적 특성, 식습관 및 생활습관, 신체계측치와 체구성 및 혈액의 생화학성분의 농도차이를 살펴보았다. 조사대상자들 중 정상혈압군은 23.3%, 고혈압 전단계군은 39.7%, 고혈압군은 37.0%로 분포하였고, 혈압이 높을 수록 평균연령이 높았다. 고혈압 전단계군에서는 여자와 50대의 비율이 높았고, 고혈압군에서는 남자와 60대와 70대, 그리고 당뇨병전단계와 당뇨병에 속한 사람의 비율이 다른 두 군에 비해 높았다. 혈압수준별로 과거와 현재 흡연, 음주빈도, 음주량, 운동횟수의 백분율은 유의적인 차이를 보였으나, 흡연량, 음주유무, 운동의 규칙성, 식습관의 분포에서는 유의적인 차이를 보이지 않아 흡연, 음주, 운동 등 생활습관은 빈도가 양적인 면 보다 혈압에 더 영향을 미칠수 있는 것으로 나타났다. 체질량지수는 정상혈압군에 비해 고혈압 전단계군과 고혈압군이 높았고, 허리-엉덩이 둘레비는 고혈압군, 고혈압 전단계군, 정상혈압군 순으로 높게 나타났으며, 체중과 체질량지수, 허리-엉덩이 둘레비와 혈압간에는 유의적인 양의 상관관계를 보였다. 혈청성분 중에서 혈청 알부민, 크레아티닌, 공복혈당, 당부하 2시간 후 혈당, 혈청중성지방농도가 고혈압 전단계군과 고혈압군에서 정상혈압군에 비해 모두 높게 나타났고, 혈청 총단백은 혈압 단계별로 높았다. 혈압과 양의 상관성을 나타낸 요인은 위에서 언급된 요인들과 함께 혈중요소질소이었다. 혈압수준에 영향을 주는 위험요인에 대한 고혈압 전단계군과 고혈압군의 교차비 계산 결과, 남자, 50대 연령 과거흡연, 음주빈도, 체질량지수, 체지방율, 허리둘레, 허리-엉덩이둘레비, 당뇨병, 혈청 알부민농도는 고혈압 전단계와 고혈압의 공통 위험요인으로 나타났으며, 이들 모든 변수에서 고혈압의 위험도가 고혈압 전단계보다 더 높았다. 혈압수준별로 각기 다르게 나타난 위험요인은 고혈압 전단계의 경우 25 이상의 BMI와 혈청요소질소이었고, 고혈압의 경우, 60${\sim}$70대 연령, 교육유무, 고혈압 가족력, 당뇨전단계, 당부하 2시간 후 혈당, 혈청 총단백, 음주량이었다. 즉 고혈압전단계의 예방을 위해서는 음주, 흡연, 체중 관리외에 50대 연령에서 혈청 요소질소가 증가하지 않도록 섭취와 운동, 체중관리에 주의가 요구되며, 고혈압의 예방을 위해서는 특히 고혈압의 가족력이 있는 경우, 당뇨 및 혈당증가 방지나 음주량의 제한등 위험 요인을 줄이는 것이 중요하다. 결론적으로 고혈압 전단계의 위험요인에는 생활습관, 체지방, 혈청성분등 상대적으로 회복이 가능한 요인들이 관련되나, 고혈압은 회복하기 힘든 가족력이나 당뇨병 전단계 등이 위험요인으로 작용할 수 있음을 나타내었다.

김치 추출 프로바이오틱스 섭취가 아토피 동물모델 NC/Nga mice에서 면역 지표에 미치는 영향 (Effects of Probiotic Extracts of Kimchi on Immune Function in NC/Nga Mice)

  • 이인회;이순희;이인석;박유경;정대균;조여원
    • 한국식품과학회지
    • /
    • 제40권1호
    • /
    • pp.82-87
    • /
    • 2008
  • 아토피 피부염에서 유산균의 유익성에 대해서는 이미 많이 알려져 있고 우리나라 전통식품인 김치유산균의 유익성에 대한 연구도 많이 진행되었으나 아토피 피부염에서 김치 유산균의 효과에 관한 연구는 아직 미비한 실정이다. 본 연구에서는 아토피 동물 모델인 NC/Nga mice에 김치유산균에서 추출한 유산균(L.plantarum K8)의 파쇄물과 유산균 및 ${\gamma}$-리놀렌산 복합체(L.rhamnosus GG 생균, B. lactis Bb-12Lb 생균, L. plantarum K8생균, L. plantarum K8 파쇄물, ${\gamma}$-리놀렌산)를 경구 투여한 후 혈청 면역지표(IgE, IL-4, IL-5, IFN-${\gamma}$)와 비장 배양액에서 IgE 농도를 측정하였다. 실험동물의 체중 및 사료섭취량은 사육기간이 지남에 따라 증가하는 경향을 보였으며 각 군 간에 유의적인 차이는 관찰되지 않았다. 실험 시작 시 혈청 IgE 농도는 각 군 간에 차이가 나타나지 않았으나 실험 전 기간 4주 동안 유산균 파쇄물(DPF), 유산균 및 ${\gamma}$-리놀렌산 복합체(DPOC), 항히스타민(DAH)을 섭취한 군에서 증류수(DDW)만을 섭취군에 비하여 유의적으로 낮게 나타났다. 혈청 IFN-${\gamma}$ 농도는 각 군에서 유의적인 차이가 나타나지 않았으나 혈청 IL-4 농도는 유산균 및 ${\gamma}$-리놀렌산 복합체를 섭취한 군(DPOC)에서 대조군에 비하여 유의적으로 낮게 나타났다. 혈청 IL-5 농도는 유산균 파쇄물(DPF), 유산균 및 ${\gamma}$-리놀렌산 복합체(DPOC), 항히스타민(DAH)을 섭취한 군에서 모두 대조군에 비하여 유의적으로 낮았다. 비장 임파구 배양 상층액의 IgE 농도는 각 군에서 군 간 유의적인 차이가 나타나지 않았다. 결론적으로, 아토피 동물모델 NC/Nga mice에 유산균 파쇄물(DPF)과 유산균 및 감마리놀렌산 복합체(DPOC)의 경구투여는 혈청 IgE, IL-4, IL-5를 감소시키는 것으로 나타났으며, 김치로부터 추출한 프로바이오틱스를 아토피 환자에게 섭취시켰을 때 IgE, IL-4, IL-5 감소와 같은 긍정적인 효과를 볼 수 있을 것으로 기대한다. 여러 종류의 프로바이오틱스는 아토피의 증상완화 또는 면역 체계에 미치는 영향과 정확한 메카니즘을 밝히기 위하여 과학적인 연구가 필요한 것으로 사료된다.

빅데이터와 딥러닝을 활용한 동물 감염병 확산 차단 (Animal Infectious Diseases Prevention through Big Data and Deep Learning)

  • 김성현;최준기;김재석;장아름;이재호;차경진;이상원
    • 지능정보연구
    • /
    • 제24권4호
    • /
    • pp.137-154
    • /
    • 2018
  • 조류인플루엔자와 구제역 같은 동물감염병은 거의 매년 발생하며 국가에 막대한 경제적 사회적 손실을 일으키고 있다. 이를 예방하기 위해서 그간 방역당국은 다양한 인적, 물적 노력을 기울였지만 감염병은 지속적으로 발생해 왔다. 최근 빅데이터와 딥러닝 기술을 활용하여 감염병의 예측모델을 개발하고자 하는 시도가 시작되고 있지만, 실제로 활용가능한 모델구축 연구와 사례보고는 활발히 진행되고 있지 않은 실정이다. KT와 과학기술정보통신부는 2014년부터 국가 R&D사업의 일환으로 축산관련 차량의 이동경로를 분석하여 예측하는 빅데이터 사업을 수행하고 있다. 동물감염병 예방을 위하여 연구진은 최초에는 차량이동 데이터를 활용한 회귀분석모델을 기반으로 한 예측모델을 개발하였다. 이후에는 기계학습을 활용하여 좀 더 정확한 예측 모델을 구성하였다. 특히, 2017년 예측모델에서는 시설물에 대한 확산 위험도를 추가하였고 모델링의 하이퍼 파라미터를 다양하게 고려하여 모델의 성능을 높였다. 정오분류표와 ROC 커브를 확인한 결과, 기계 학습 모델보다 2017년 구성된 모형이 우수함을 확인 할 수 있었다. 또한 2017에는 결과에 대한 설명을 추가하여 방역당국의 의사결정을 돕고 이해관계자를 설득할 수 있는 근거를 확보하였다. 본 연구는 빅데이터를 활용하여 동물감염병예방시스템을 구축한 사례연구로 모델주요변수값, 이에따른 실제예측성능결과, 그리고 상세하게 기술된 시스템구축 프로세스는 향후 감염병예방 영역의 지속적인 빅데이터활용 및 분석 모델 개발에 기여할 수 있을 것이다. 또한 본 연구에서 구축한 시스템을 통해 보다 사전적이고 효과적인 방역을 할 수 있을 것으로 기대한다.