• 제목/요약/키워드: 인공 신경망 최적화

검색결과 167건 처리시간 0.034초

WFSO 알고리즘을 이용한 인공 신경망과 합성곱 신경망의 학습 (Training Artificial Neural Networks and Convolutional Neural Networks using WFSO Algorithm)

  • 장현우;정성훈
    • 디지털콘텐츠학회 논문지
    • /
    • 제18권5호
    • /
    • pp.969-976
    • /
    • 2017
  • 본 논문에서는 최적화 알고리즘으로 개발된 WFSO(Water Flowing and Shaking Optimization) 알고리즘을 사용한 인공신경망 과합성공 신경망의 학습 방법을 제안한다. 최적화 알고리즘은 다수의 후보 해를 기반으로 탐색해 나가기 때문에 일반적으로 속도가 느린 단점이 있으나 지역 최소값에 거의 빠지지 않고 병렬화가 용이하며 미분 불가능한 활성화함수를 갖는 인공신경망 학습도 가능하고 구조와 가중치를 동시에 최적화 할 수 있는 장점이 있다. 본 논문에서는 WFSO 알고리즘을 인공신경망 학습에 적용하는 방법을 설명하고 다층 인공신경망과 합성곱 신경망에서 오류역전파 알고리즘과 성능을 비교한다.

스프레드시트를 활용한 지도학습 인공신경망 매개변수 최적화와 활성화함수 기초교육방법 (Supervised Learning Artificial Neural Network Parameter Optimization and Activation Function Basic Training Method using Spreadsheets)

  • 허경
    • 실천공학교육논문지
    • /
    • 제13권2호
    • /
    • pp.233-242
    • /
    • 2021
  • 본 논문에서는 비전공자들을 위한 교양과정으로, 기초 인공신경망 과목 커리큘럼을 설계하기 위해, 지도학습 인공신경망 매개변수 최적화 방법과 활성화함수에 대한 기초 교육 방법을 제안하였다. 이를 위해, 프로그래밍 없이, 매개 변수 최적화 해를 스프레드시트로 찾는 방법을 적용하였다. 본 교육 방법을 통해, 인공신경망 동작 및 구현의 기초 원리 교육에 집중할 수 있다. 그리고, 스프레드시트의 시각화된 데이터를 통해 비전공자들의 관심과 교육 효과를 높일 수 있다. 제안한 내용은 인공뉴런과 Sigmoid, ReLU 활성화 함수, 지도학습데이터의 생성, 지도학습 인공신경망 구성과 매개변수 최적화, 스프레드시트를 이용한 지도학습 인공신경망 구현 및 성능 분석 그리고 교육 만족도 분석으로 구성되었다. 본 논문에서는 Sigmoid 뉴런 인공신경망과 ReLU 뉴런 인공신경망에 대해 음수허용 매개변수 최적화를 고려하여, 인공신경망 매개변수 최적화에 대한 네가지 성능분석결과를 교육하는 방법을 제안하고 교육 만족도 분석을 실시하였다.

ReLU 함수의 예측을 통한 인공 신경망 추론 연산 최적화 (Optimization of Artificial Neural Network Inference by ReLU Function Prediction)

  • 박상우;김한이;서태원
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2018년도 추계학술발표대회
    • /
    • pp.699-701
    • /
    • 2018
  • 본 연구는 인공 신경망 '추론'과정에서 연산량을 줄이는 아이디어를 고안했고, 이를 구현하여 기존 알고리즘과 성능을 비교 분석하였다. 특정 데이터 셋에 대한 실험을 통해 ReLU(Rectified Linear Unit) 함수의 결과를 분석했고, 그 결과를 통해 ReLU 함수의 결과가 예측가능함을 확인했다. 또한 인공 신경망 알고리즘에 ReLU 함수의 결과 예측 기법을 적용하여 인공 신경망 추론과정을 최적화했다. 이 아이디어를 기반으로 구현된 인공 신경망은 기존 아이디어로 구현된 인공 신경망에 비해 약 3배 빠른 성능을 보였다.

Approximate computing 기법을 이용한 FPGA 기반 인공 신경망 가속기 최적화 (FPGA-based Artificial Neural Network Accelerator Optimization Using Approximate Computing)

  • 박상우;김한이;서태원
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2019년도 춘계학술발표대회
    • /
    • pp.479-481
    • /
    • 2019
  • 본 연구에서는 이미지를 분류하는 인공 신경망 가속기를 최적화했고, 이를 구현하여 기존 인공 신경망 가속기와 성능을 비교 분석했다. FPGA(Field Programmable Fate Array) 보드를 이용하여 가속기를 구현했으며, 해당 보드의 내부 메모리인 BRAM 을 FIFO(First In First Out)구조로 설계하여 메모리 시스템을 구현했다. Approximate computing 기법을 효율적으로 적용하기 위해 FWL(Fractional Word Length)최적점을 분석했고, 이를 기반으로 인공 신경망 가속기의 부동 소수점 연산을 고정 소수점 연산으로 변환했다. 구현된 인공 신경망 가속기는 기존의 인공 신경망에 비해, 약 7.4%더 효율적인 전력소모량을 보였다.

인공신경망과 유전자알고리즘을 이용한 수위예측에 관한 연구 (Study on Water Stage Prediction by Artificial Neural Network and Genetic Algorithm)

  • 여운기;지홍기;이순탁
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2010년도 학술발표회
    • /
    • pp.1159-1163
    • /
    • 2010
  • 최근의 극심한 기상이변으로 인하여 발생되는 유출량의 예측에 관한 사항은 치수 이수는 물론 방재의 측면에서도 역시 매우 중요한 관심사로 부각되고 있다. 강우-유출 관계는 유역의 수많은 시 공간적 변수들에 의해 영향을 받기 때문에 매우 복잡하여 예측하기 힘든 요소이다. 과거에는 추계학적 예측모형이나 확정론적 예측모형 혹은 경험적 모형 등을 사용하여 유출량을 예측하였으나 최근에는 인공신경망과 퍼지모형 그리고 유전자 알고리즘과 같은 인공지능기반의 모형들이 많이 사용되고 있다. 하지만 유출량을 예측하고자 할 때 학습자료 및 검정자료로써 사용되는 유출량은 수위-유량 관계곡선식으로부터 구하는 경우가 대부분으로 이렇게 유도된 유출량의 경우 오차가 크기 때문에 그 신뢰성에 문제가 있을 것으로 판단된다. 따라서 본 논문에서는 선행우량 및 수위자료로부터 단시간 수위예측에 관해 연구하였다. 신경망은 과거자료의 입 출력 패턴에서 정보를 추출하여 지식으로 보유하고, 이를 근거로 새로운 상황에 대한 해답을 제시하도록 하는 인공지능분야의 학습기법으로 인간이 과거의 경험과 훈련으로 지식을 축적하듯이 시스템의 입 출력에 의하여 연결강도를 최적화함으로서 모형의 구조를 스스로 조직화하기 때문에 모형의 구조에 적합한 최적 매개변수를 추정할 수 있다. 따라서 정확한 예측이 어려운 하천수위를 과거의 자료로 부터 학습된 신경망의 수학적 알고리즘을 통해 유출량의 예측에 적용할 수 있을 것이다. 유전자 알고리즘은 적자생존의 생물학 원리에 바탕을 둔 최적화 기법중의 하나로 자연계의 생명체 중 환경에 잘 적응한 개체가 좀 더 많은 자손을 남길 수 있다는 자연선택 과정과 유전자의 변화를 통해서 좋은 방향으로 발전해 나간다는 자연 진화의 과정인 자연계의 유전자 메커니즘에 바탕을 둔 탐색 알고리즘이다. 즉, 자연계의 유전과 진화 메커니즘을 공학적으로 모델화함으로써 잠재적인 해의 후보들을 모아 군집을 형성한 뒤 서로간의 교배 혹은 변이를 통해서 최적 해를 찾는 계산 모델이다. 따라서 본 연구에서는 인공신경망의 가중치를 유전자 알고리즘에 의해 최적화시킨후 오류역전파알고리즘에 의해 신경망의 학습을 진행하는 모형으로 감천유역의 선산수위표지점의 수위를 1시간~6시간까지 예측하였다.

  • PDF

인공 신경망을 이용한 구조 최적화 기법

  • 양영순;문상훈
    • 대한조선학회지
    • /
    • 제31권1호
    • /
    • pp.39-42
    • /
    • 1994
  • 인공 신경망은 빠른 속도와 안정성 등의 많은 장점을 갖고 있기 때문에 최근 들어서 여러 분야 에서 그 응용이 활발히 연구되고 있다. 인공 신경망의 한 모델인 홉필드 네트워크는 네트워크의 에너지를 최소화시키는 방향으로 네트워크의 상태를 바꾸며, 최소 에너지 상태에서 안정 상태를 유지하는 특징을 갖고 있다. 이러한 흡필드 네트워크의 특징은 흡필드 네트워크를 최적화 문 제에 적용시킬 수 있는 가능성을 제시하고 있다. 기존의 최적화 기법은 기본적으로 국부적인 탐색 기법을 사용하기 때문에, 전역적 최적해를 구하기 위해 초기점을 달리하여 여러번 계산을 수행하여 그 중 가장 좋은 결과를 취하는 방법을 사용하여야 한다. 따라서 이러한 방법은 초 기점의 선택이 결과에 큰 영향을 미치게 되는데, 설계 변수가 많고 제한 조건이 복잡할 경우 초기점 선택에 어려움이 따른다. 본 연구에서는 흡필드 네트워크와 시뮬레이티드 어닐링을 결 합하여 전역적 최적해를 찾는 기법으로서 뉴드-옵티마이저 모델을 제시하고 있다.

  • PDF

알고리즘을 이용한 일최심신적설 측정 가능성 연구 (Possibility Study of Estimating Maximum Depth of Daily Snow Cover by using Algorithm)

  • 이건;김동균
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2017년도 학술발표회
    • /
    • pp.170-170
    • /
    • 2017
  • 본 연구의 목표는 극한 지역의 대비 시스템을 구축하기 위하여 인공 신경망(Artificial Neural Networks)을 이용하여 보다 관측하기 쉬운 기상 인자들로부터 적설량을 실시간 측정 가능성을 제시하는 것이다. 본 연구에서 사용한 데이터베이스는 기상청의 기상자료개방포털에서 사람이 직접 측정한 종관기상관측의 자료다. 이 중에서 일최대 기온, 일최저 기온, 일평균 기온, 강수량을 사용하여 오차를 줄여나가는 최적화방법으로 인공 신경망 시스템을 설계하였다. 설계된 시스템으로 500회 시뮬레이션한 연구 결과는 상관계수가 적설량 측정에 대한 인공 신경망의 크기(노드의 개수)와 관계없이 평균적으로 0.8627인 것을 보여준다. 추가적으로 보조 입력 값인 고도를 사용한 결과, 성능은 좋아졌지만 상관계수의 차이는 평균 0.0044로 미세했다. 또한 Cross-Validation을 통해 기존의 보간법인 Kriging기법과 비교하여 미 관측 지역에서 인공 신경망(ANNs) 사용이 Kriging기법 보다 우수하다는 것을 2차원 Regression's map을 통해 나타냈다. 마지막으로 오차가 크게 발생했을 경우 보안할 수 있는 확률적인 방안을 제시하였다.

  • PDF

교사교육을 위한 인공신경망 이미지인식원리 교육사례연구 (An Educational Case Study of Image Recognition Principle in Artificial Neural Networks for Teacher Educations)

  • 허경
    • 정보교육학회논문지
    • /
    • 제25권5호
    • /
    • pp.791-801
    • /
    • 2021
  • 본 논문은 예비교사와 현직교사를 위한 인공지능 소양 교육으로 적용할 수 있는 교육 사례를 연구하였다. 이를 위해, 이미지를 인식하는 인공신경망의 동작 원리를 교육하는 사례를 제안하였다. 본 교육 사례는 인공신경망 동작 및 구현의 기초 원리 교육에 초점을 맞추어, 인공신경망 구현에 필요한 매개변수 최적화 해들을 스프레드시트로 찾는 방법을 적용하였다. 본 논문에서는 지도학습 방식의 인공신경망에 초점을 맞추었다. 첫 번째로, 인공신경망 원리 교육 사례로서 2종 이미지를 인식하는 인공신경망 교육 사례를 제안하였다. 두번째로 인공신경망 확장 교육 사례로서 3종 이미지를 인식하는 인공신경망 교육 사례를 제안하였다. 마지막으로 인공신경망 교육 사례를 분석한 결과와 교육 만족도 분석 결과를 제시하였다. 제안한 교육 사례를 통해, 인공신경망 동작 원리, 학습 데이터 작성 방법, 학습 데이터양에 따라 실행되는 매개변수 계산 회수 그리고 매개변수 최적화에 대해 학습할 수 있다. 예비교사와 현직교사에 대한 교육 만족도 조사 결과는 각 조사 항목에 대해 모두 70%이상 긍정적인 응답 결과를 나타내어, 높은 수업 적용 적합성을 나타내었다.

인공신경망과 베이지안 최적화 모델을 이용한 고효율 페로브스카이트 구조제안 방법 (A Vibration Signal-based Deep Learning Model for Bearing Diagnosis)

  • 김산;김재광
    • 한국방송∙미디어공학회:학술대회논문집
    • /
    • 한국방송∙미디어공학회 2022년도 하계학술대회
    • /
    • pp.1258-1260
    • /
    • 2022
  • 재료공학에서 머신러닝을 이용해 목적 성능에 부합하는 물질의 조성을 탐색하는 연구가 있다. 물질의 성능은밀도 범함수 계산을 통해 시뮬레이션 할 수 있지만, 계산량이 많은 문제가 있다. 본 연구를 통해 우리는 고효율 페로브스카이트 태양광전지를 만들기 위한 페로브스카이트 조성을 추천하는 심층신경망과 베이지안 최적화 모델을 제안했다. 본 연구에서 높은 전력효율이 예상되는 페로브스카이트 조성을 심층신경망과 베이지안 최적화 방법을 통해 추천하는 모델을 구현하였다. 심층신경망 모델은 주어진 조성과 실험조건에서 예상되는 전력효율을 예측해 베이지안 최적화를 통한 탐색과정에서 소요되는 실험비용을 줄인다. 베이지안 최적화 모델은 실험공간을 입력으로 받아 고효율이 예상되는 실험조건을 출력하는데, 미리 설정한 실험공간만을 탐색하기 때문에 실험적으로 가능한 출력값만을 제시 할 수 있다. 본 연구는 심층신경망과 베이지안 최적화 방법을 조합해 주어진 실험공간을 탐색하는 시간과 비용을 최소화하는 방법을 제시한다

  • PDF

피에조콘을 이용한 선행압밀하중 결정 신경망 모델의 구조 최적화 및 초기 연결강도 의존성 개선 (Structural Optimization and Improvement of Initial Weight Dependency of the Neural Network Model for Determination of Preconsolidation Pressure from Piezocone Test Result)

  • 김영상;주노아;박현일;박솔지
    • 대한토목학회논문집
    • /
    • 제29권3C호
    • /
    • pp.115-125
    • /
    • 2009
  • 지반의 응력이력을 정의하는데 이용되는 선행압밀하중은 일반적으로 일차원 실내압밀실험으로부터 결정되어져 왔으나 피에조콘과 같은 원위치 시험의 관측값을 이용한 이론적인 방법과 경험적인 상관관계를 통한 결정도 가능하다. 최근 선행압밀하중을 결정하기 위한 인공신경망 모델들이 제안된 바 있으며, 기존의 이론적 경험적 선행압밀하중 추정 방법들이 갖는 지역의존성의 문제를 극복하고 예측 정확도 면에서도 크게 개선된 것으로 보고되었다. 그러나 인공신경망 모델은 모델구조와 학습과정에서 초기에 무작위로 부여되는 연결강도에 영향을 받아 예측에 변동성이 존재한다. 본 연구에서는 기존의 피에조콘 결과를 이용한 선행압밀하중 추정 인공신경망 모델이 연약지반에서 선행압밀하중 예측 시 보이는 변동성을 개선하기 위하여 신경망 모델의 구조 최적화를 수행하고 군집신경망 모델을 구축하였다. 제안된 군집신경망 모델을 이용한 예측결과는 기존의 다층신경망 모델 및 이론적 경험적 모델들과 비교되었다. 연구결과, 최적화된 구조를 갖는 다층신경망 모델일지라도 초기 연결강도에 따라 최종 학습 후 예측결과의 변동성이 여전히 존재하나, 다층신경망을 네트워크로 연결하여 제안된 군집신경망 모델은 기존의 다층신경망 모델들이 갖는 초기 연결강도 의존성을 개선하여 다층신경망 모델에 비해 일관성 있으며 보다 정확한 예측이 가능한 것으로 나타났다.