• 제목/요약/키워드: 다층 인공 신경망

검색결과 79건 처리시간 0.034초

신경망 규칙 추출에서 규칙 결합의 bottom-up 접근 방법 (Bottom-up Approach of Rule Rewriting in Neural Network Rule Extraction)

  • 이은헌;김현철
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2018년도 추계학술발표대회
    • /
    • pp.916-919
    • /
    • 2018
  • 심층신경망 모델은 우수한 성능을 갖고 있음에도 불구하고 모델이 어떤 판단 과정을 통해 결론을 내렸는지 파악하기 어렵다. 그에 따라 판단에 대한 근거가 중요한 분야에서는 심층신경망 모델을 적용한 실제 사례를 찾기 어렵다. 인공신경망 모델을 해석하기 어렵다는 문제를 해결하기 위해 내부 구조를 이용하여 규칙을 추출하는 decompositional 접근법이 제안되었으나 기존의 연구는 대부분 은닉층이 1개인 다층 퍼셉트론 모델에서 규칙을 생성하는 것을 가정하고 있다. 오늘날 사용하는 심층신경망 모델은 일반적으로 여러 은닉층을 가지고 있기 때문에 기존의 접근법을 그대로 적용할 경우 규칙 불확실성에 따라 잘못된 규칙을 추출하는 문제가 발생한다. 본 논문은 decompositional 접근법에 존재하는 규칙 불확실성 문제를 완화하고 깊이가 깊은 심층신경망 모델에 규칙을 추출하는 방법을 제안한다. 제안한 접근법은 실제 활성화 값을 통해 지식을 추출하며, 이를 통해 규칙 불확실성 문제를 완화할 수 있었다.

간단한 비선형 시냅스 회로를 이용한 MEBP 학습 회로의 구현 (Implementation of ME8P Learning Circuitry With Simple Nonlinear Synapse Circuit)

  • 조화현;채종석;이은상;박진성;최명렬
    • 대한전기학회:학술대회논문집
    • /
    • 대한전기학회 1999년도 하계학술대회 논문집 G
    • /
    • pp.2977-2979
    • /
    • 1999
  • 본 논문에서는 MEBP(Modified Error Back-Propagation) 학습 규칙을 간단한 비선형 회로를 이용하여 구현하였다. 인공 신경 회로망(ANNs : Artificial Neural Networks)은 많은 수의 뉴런을 필요하기 때문에 표준 CMOS 기술을 이용하는 간단한 비선형 시냅스(synapse) 회로는 인공 신경 회로망 구현에 적합하다. 학습회로는 비선형 시냅스 회로. 시그모이드(sigmoid) 회로. 그리고 선형 곱셈기로 구성되어 있다. 학습 회로의 출력은 각 입력 패턴에 따라 유일한 값으로 결정되어진다. 제안한 학술회로를 $2{\times}2{\times}1$$2{\times}3{\times}1$ 다층 feedforward 신경 회로망 모델에 적용하였다. MEBP 하드웨어 구현은 HSPICE 회로 시뮬레이터를 이용하여 검증하였다. 제안한 학술 회로는 on-chip 학습회로를 포함한 대규모 신경회로망 구현에 매우 적합하리라 예상된다.

  • PDF

딥러닝 기반의 뉴스 분석을 활용한 주제별 최신 연관단어 추출 기법 (A Topic Related Word Extraction Method Using Deep Learning Based News Analysis)

  • 김성진;김건우;이동호
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2017년도 춘계학술발표대회
    • /
    • pp.873-876
    • /
    • 2017
  • 최근 정보검색의 효율성을 위해 데이터를 분석하여 해당 데이터를 가장 잘 나타내는 연관단어를 추출 및 추천하는 연구가 활발히 이루어지고 있다. 현재 관련 연구들은 출현 빈도수를 사용하는 방법이나 LDA와 같은 기계학습 기법을 활용해 데이터를 분석하여 연관단어를 생성하는 방법을 제안하고 있다. 기계학습 기법은 결과 값을 찾는데 사용되는 특징들을 전문가가 직접 설계해야 하며 좋은 결과를 내는 적절한 특징을 찾을 때까지 많은 시간이 필요하다. 또한, 파라미터들을 직접 설정해야 하므로 많은 시간과 노력을 필요로 한다는 단점을 지닌다. 이러한 기계학습 기법의 단점을 극복하기 위해 인공신경망을 다층구조로 배치하여 데이터를 분석하는 딥러닝이 최근 각광받고 있다. 본 논문에서는 기존 기계학습 기법을 사용하는 연관단어 추출연구의 한계점을 극복하기 위해 딥러닝을 활용한다. 먼저, 인공신경망 기반 단어 벡터 생성기인 Word2Vec를 사용하여 다양한 텍스트 데이터들을 학습하고 룩업 테이블을 생성한다. 그 후, 생성된 룩업 테이블을 바탕으로 인공신경망의 한 종류인 합성곱 신경망을 활용하여 사용자가 입력한 주제어와 관련된 최근 뉴스데이터를 분석한 후, 주제별 최신 연관단어를 추출하는 시스템을 제안한다. 또한 제안한 시스템을 통해 생성된 연관단어의 정확률을 측정하여 성능을 평가하였다.

다층퍼셉트론 신경망 모형을 이용한 한반도 가뭄 예측성 평가

  • 정민수;장호원;이주헌;문영일
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2016년도 학술발표회
    • /
    • pp.86-86
    • /
    • 2016
  • 본 연구는 가뭄 예측에 대한 오차를 알고리즘과 결합하여 다층 퍼셉트론 (Multi-layer Perceptron, MLP) 네트워크 구조를 인공신경망 모형에 적용하고, 표준강수지수(Standard Precipitation Index, SPI)를 입 력 및 출력 변수로 구성하여 가뭄예측을 시도하였다. 예측모델을 평가하기 위해 기상청 산하의 59개 관측소에 대한 1980년부터 2015년까지의 기상자료를 적용하였으며, 수립된 자료를 활용하여 한반도 전역의 가뭄에 대한 시공간적인 분석을 수행하였다. 단기가뭄 예측성능을 평가하기 위해 2000년에서 2015년까지 16년간의 모의결과를 ROC 분석을 통하여 시공간적 단기가뭄 예측성능을 평가하고 혼동행렬(Conversion Matrix) 구성에 대한 조건적 확률의 다각적 검토를 통해 모델 예측에 대한 정확성(Accuracy), 신뢰성(Precision) 등 다양한 예측성능에 대한 평가를 수행하고 2016년 가뭄전망을 제시하고자 한다.

  • PDF

배후지 지하수위를 고려한 인공신경망 기반의 수평정별 취수량 결정 기법 (Determination of the Groundwater Yield of horizontal wells using an artificial neural network model incorporating riverside groundwater level data)

  • 김규범;오동환
    • 지질공학
    • /
    • 제28권4호
    • /
    • pp.583-592
    • /
    • 2018
  • 최근들어 방사형 집수정 방식의 대용량 강변여과수 개발에 따른 배후지의 지하수위 강하에 대한 우려가 존재하고 있다. 본 연구에서는 안성천의 방사형 집수정을 대상으로 Modflow를 활용하여 수평정의 취수량에 따른 배후지의 수위 강하를 예측하였으며, 이 데이터를 기반으로 배후지 수위 강하가 최소가 되는 수평정별 취수량을 결정하는 다층퍼셉트론 기반의 인공신경망 모델을 개발하였다. 하천 방향으로 굴착된 수평정 HW-6의 취수량을 높이는 것이 OW-7 및 OB-11 관측정의 지하수위를 높게 유지하는데 필요한 것으로 평가되었다. 또한, 모델 입력 자료의 수 및 훈련과 검증 자료의 분류는 인공신경망 모델 결과에 영향을 미치므로 유의하여야 한다. 향후 현장의 실제 운영 자료와 수치모델의 비교를 통하여 인공신경망 모델을 보완한다면 배후지의 지하수 관리에 기여할 것으로 본다.

기업부도예측을 위한 인공신경망 모형에서의 사례선택기법에 의한 데이터 마이닝 (Data Mining using Instance Selection in Artificial Neural Networks for Bankruptcy Prediction)

  • Kim, Kyoung-jae
    • 지능정보연구
    • /
    • 제10권1호
    • /
    • pp.109-123
    • /
    • 2004
  • 기업부도예측은 재무와 경영의사결정문제에서의 주된 인공신경망 응용분야라 할 수 있다. 일반적으로 인공신경망은 이 분야에서 매우 좋은 성과를 보이는 것으로 알려져 있지만 종종 잡음이 심한 데이터에 대해서는 일관성 있고 예측가능한 성과를 보이지 못하는 경우가 있다. 특히 학습용 자료가 매우 많아서 학습시간과 자료수집비용이 과대한 경우에는 적절한 자료의 축소가 되지 않고는 인공신경망을 학습시키는 것이 불가능한 경우도 있다. 사례선택기법은 자료의 차원을 축약시켜 주며 직접적으로 자료를 축소시켜 주는 방법이다. 사례기반 학습기법에서는 이미 몇 연구가 사례선택기법의 필요성을 주장한 바 있으나 인공신경망 모형에서 사례선택기법의 필요성을 주장한 연구는 거의 없다. 본 연구에서는 기업부도예측을 위한 인공신경망 모형에서 유전자 알고리즘을 이용한 사례선택기법을 제안한다. 본 연구에서 유전자 알고리즘은 다층 인공신경망에서의 계층별 연결강도를 최적화하고, 동시에 학습에 적합한 사례를 선택한다. 유전자 알고리즘에 의해 결정된 계층별 연결강도는 역전파오류 학습기법에서 종종 발생하는 국부 최적해에 수렴하는 현상을 최소화해 줄 것으로 기대되고, 선택된 학습용 사례는 학습시간의 단축과 예측성과를 향상시켜 줄 것으로 기대된다. 본 연구에서는 제안한 모형과 주요 데이터 마이닝 기법들의 성과를 비교 연구한다. 실험결과, 제안된 방법이 인공신경망에서의 사례선택기법으로 유용한 것으로 나타났다.

  • PDF

비압밀-비배수(UU) 삼축실험과 피에조콘 실험결과를 이용한 국내 연약지반의 비배수전단강도 추정 인공신경망 모델 개발 (Development of Neural Network Model for Estimation of Undrained Shear Strength of Korean Soft Soil Based on UU Triaxial Test and Piezocone Test Results)

  • 김영상
    • 한국지반공학회논문집
    • /
    • 제21권8호
    • /
    • pp.73-84
    • /
    • 2005
  • 본 논문에서는 피에조콘 관입시험 결과와 상재하중으로부터 점토의 비배수전단강도를 간단히 예측하기 위한 피에조콘 인공신경망 모델 구축에 대하여 기술하였다. 피에조콘 인공신경망 모델의 구축을 위하여 먼저 국내 8개 지역에서 수행된 피에조콘 관입시험 결과와 불교란 시료에 대해 수행된 비압밀-비배수 삼축압축실험(UU)으로 얻어진 비배수전단강도 결과를 바탕으로 데이터베이스가 구축되었으며 오차역전파 알고리즘에 의하여 다층 구조를 갖는 최적 인공신경망 모델이 구성되었다. 구성된 인공신경망 모델은 모델 구축 시에 사용되지 않은 새로운 검증자료에 대해 비배수전단강도 예측을 수행하고 실내시험 결과와 비교함으로써 모델의 타당성이 검증되었다. 또한 피에조콘으로부터 비배수 전단강도의 예측을 위해 제안된 기존의 경험적 방법으로 예측된 비배수전단강도와 제안된 모델의 예측결과를 비교하였다. 인공신경망 모델들은 사용된 전달함수에 따라 단일 은닉층 내에 존재하는 최적 뉴우런 개수는 다르지만 학습자료와 검증자료에 대해 공통적으로 결정계수 $R^2=0.69\~0.72$ 범위의 예측정확도를 보여 국내 연약지반에서 피에조콘 관측결과들과 비배수전단강도 간의 비선형적 상관관계를 정의하는 데에 유용함을 알 수 있었다. 또한 구성된 인공신경망 모델은 지역적인 조정(site calibration)을 필요로 하는 기존의 경험적 방법들에 비하여 전 지역에서 고르게 예측신뢰성이 높으며 이는 학습과정을 통하여 각 지역의 지반공학적 특성을 일반화하는 데에 성공했기 때문으로 인공신경망 모델이 국내 전 지역에서 적용될 수 있는 일반화된 모델로 발전할 수 있음을 의미한다.

주행속도 예측을 위한 모형 개발 (2차로 지방부 도로 중심으로) (Development of a model to predict Operating Speed)

  • 이종필;김성호
    • 대한교통학회지
    • /
    • 제20권1호
    • /
    • pp.131-139
    • /
    • 2002
  • 본 연구는 도로의 설계일관성 평가를 위해 지방부 2차로 도로의 평면 곡선부 85백분위 주행속도 예측모형을 기존의 회귀모형에 비해 보다 효율적이고 신뢰성 높은 인공신경 망 이론을 적용하여 개발하였다. 곡선반경, 곡선길이, 교차각, 시거, 차로폭, 차선(안쪽, 바깥쪽)과 같은 기하구조 특성에 의해 속도가 결정된다는 가정하에 30개 조사지점을 통해 얻어진 자료를 모형의 입력층 자료로 이용하였고, 입력층 변수에 따라 네 가지 유형의 신경망 모형을 제시하였다. 신경망 모형 중 다층신경 망 모형을 적용하여 은닉충의 유니트 수, 학습계수, 모멘텀계수, 학습횟수의 변화에 따른 최적 모형 구조를 도출하였다. 신경망 모형의 학습성능을 검증하기 위하여 선정된 30개 조사지점에서 20개 지점을 모형의 학습자료로 나머지 학습되지 않은 10개 지점을 예측자료로 활용하였다. 분석결과, 네 가지 유형의 신경망 모형 중에서 모형 D가 통계적 검증결과 $R^2$값이 85%이며, %RMSE=0.0204로 가장 실제값에 유사한 모형으로 평가되었다.

Atari Deep Q Network Model을 이용한 장애물 회피에 특화된 실내 자율주행 적용에 관한 연구 (A Study about Application of Indoor Autonomous Driving for Obstacle Avoidance Using Atari Deep Q Network Model)

  • 백지훈;오현택;이승진;김상훈
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2018년도 추계학술발표대회
    • /
    • pp.715-718
    • /
    • 2018
  • 최근 다층의 인공신경망 모델이 수많은 분야에 대한 해결 방안으로 제시되고 있으며 2015년 Mnih이 고안한 DQN(Deep Q Network)는 Atari game에서 인간 수준의 성능을 보여주며 많은 이들에게 놀라움을 자아냈다. 본 논문에서는 Atari DQN Model을 실내 자율주행 모바일 로봇에 적용하여 신경망 모델이 최단 경로를 추종하며 장애물 회피를 위한 행동을 학습시키기 위해 로봇이 가지는 상태 정보들을 84*84 Mat로 가공하였고 15가지의 행동을 정의하였다. 또한 Virtual world에서 신경망 모델이 실제와 유사한 현재 상태를 입력받아 가장 최적의 정책을 학습하고 Real World에 적용하는 방법을 연구하였다.

다층 퍼셉트론 인공신경망 모형을 이용한 가뭄예측 (Drought Forecasting Using the Multi Layer Perceptron (MLP) Artificial Neural Network Model)

  • 이주헌;김종석;장호원;이장춘
    • 한국수자원학회논문집
    • /
    • 제46권12호
    • /
    • pp.1249-1263
    • /
    • 2013
  • 장기간의 가뭄에 의한 피해를 최소화하기 위해서는 유역에 적합한 가뭄관리 대책의 수립과 함께 미래에 발생하게 될 가뭄을 미리 예측할 수 있는 기술이 구축되어야 한다. 또한 미래의 가뭄에 대한 합리적 대응 방안을 수립하기 위해서는 가뭄의 지속기간(duration)과 심도(severity)의 정량적인 예측이 선행되어야 한다. 본 연구에서는 수문 시계열의 예측에 가장 많이 이용되고 있는 대표적인 통계학적 기법인 인공신경망 모형(Artificial Neural Network Model)과 가뭄지수를 이용하여 남한지역의 서울, 대전, 대구, 광주 등의 4개 기상관측소를 선정하여 가뭄예측을시도하였다. 가뭄 예측을 위하여 남한지역 내 선정한 기상관측소의 관측된 과거 강수량 자료를 이용하여 산정된 SPI (Standardized Precipitation Index)를 입력변수로 하여 다층 퍼셉트론(Multi Layer Perceptron) 인공신경망 모델에 적용하였으며, 매개변수 보정을 위한 학습기간으로 1976~2000년과 2001~2010년을 예측을 위한 검증기간으로 선정하여, 학습 및 예측을 시도하였다. 학습된 최적의 예측모형을 이용하여 서로 다른 선행예보시간(1~6개월)을 갖고 SPI (3), SPI (6), SPI (12)별로 가뭄을 예측하였으며, 가뭄예측 결과, SPI (3)의 경우에는 1개월 선행예보에서만 좋은 결과를 나타내었으며, SPI (6)의 경우 1~3개월 후의 가뭄을 예측하는 경우에 비교적 관측자료와 잘 일치하는 결과를 나타내었다. SPI (12)의 경우에는 약5개월 후까지의 가뭄예측에 양호한 결과를 나타내었다.