• 한국콘텐츠학회논문지
• /
• 제5권6호
• /
• pp.57-64
• /
• 2005

다층 퍼셉트론의 학습을 빠르게 하기 위한 방법으로 층별 학습이 제안되었었다. 이 방법에서는 각 층별로 오차함수가 주어지고, 이렇게 층별로 주어진 오차함수를 최적화 방법을 사용하여 감소시키도록 학습이 이루어진다. 이 경우 중간층 오차함수가 학습의 성능에 큰 영향을 미치는 데, 이 논문에서는 층별 학습의 성능을 개선하기 위한 중간층 오차함수를 제안한다. 이 중간층 오차함수는 출력층 오차함수에서 중간층 가중치의 학습에 관계된 성분을 유도하는 형태로 제안된다. 제안한 방법은 필기체 숫자 인식과 고립단어인식 문제의 시뮬레이션으로 효용성을 확인하였다.

• 한국콘텐츠학회:학술대회논문집
• /
• 한국콘텐츠학회 2005년도 추계 종합학술대회 논문집
• /
• pp.364-370
• /
• 2005

다층 퍼셉트론의 학습을 빠르게 하기 위한 방법으로 층별 학습이 제안되었었다. 이 방법에서는 각 층별로 주어진 오차함수를 최적화 방법을 사용하여 감소시키도록 학습이 이루어진다. 이 경우 중간층 오차함수가 학습의 성능에 큰 영향을 미치는 데, 이 논문에서는 층별 학습의 성능을 개선하기 위한 중간층 오차함수를 제안한다. 이 중간층 오차함수는 출력층 오차함수에서 중간층 가중치의 학습에 관계된 성분을 유도하는 형태로 제안된다. 제안한 방법은 필기체 숫자 인식과 고립단어인식 문제의 시뮬레이션으로 효용성을 확인하였다.

• 한국융합학회논문지
• /
• 제9권5호
• /
• pp.1-6
• /
• 2018

스마트그리드에서 정확한 단기 부하 예측을 통한 자원의 이용 계획은 에너지 시스템 운영의 불확실성을 줄이고 운영 효율을 높이는데 있어서 매우 중요하다. 단기 부하 예측에 얕은 신경회로망을 포함한 다수의 머신 러닝 기법이 적용되어왔지만 예측 정확도의 개선이 요구되고 있다. 최근에는 컴퓨터 비전이나 음성인식 분야에서 심층 신경회로망의 뛰어난 연구 결과로 인해 심층 신경회로망을 단기 전력수요 예측에 적용해 예측 정확도를 개선하려는 시도가 주목 받고 있다. 본 논문에서는 일별 전력 부하 첨두치를 예측하기 위한 다층신경회로망 구조의 심층 신경회로망 모델을 제안한다. 제안된 심층 신경회로망은 층별 학습이 선행된 후 전체 모델의 학습이 이루어진다. 한국전력거래소에서 얻은 4년 동안의 일별 전력 수요 데이터를 사용, 하루 및 이틀 앞선 전력수요 첨두치를 예측하는 심층 신경회로망 모델을 구축하고 예측 정확도를 비교, 평가한다.

• 한국융합학회논문지
• /
• 제9권6호
• /
• pp.39-44
• /
• 2018

심층 신경회로망은 적합한 수학적 모델에 대한 어떠한 가정 없이 데이터로부터 유용한 정보를 추출해서 예측에 필요한 입출력 관계를 정의할 수 있기 때문에 최근 시계열 예측 분야에서 주목 받고 있다. 본 논문에서는 주가의 일별 종가를 예측하기 위한 심층 신경회로망 모델을 제안한다. 제안된 심층 신경회로망은 예측 정밀도를 높이기 위해 단일 층의 오토인코더와 4층의 신경회로망이 결합된 구조를 갖는다. 오토인코더 층은 주가 예측에 필요한 최적의 입력 특징을 추출하고 4층의 신경회로망은 추출된 특징을 사용해 주가 예측에 필요한 동특성을 반영하여 주가를 출력한다. 제안된 심층 신경회로망의 학습은 층별로 단계적으로 이뤄지며 최종 단계에서 전체 심층 신경회로망에 대해 한 번 더 학습이 실행된다. 본 논문에 제안된 방법으로 KOrea composite Stock Price Index (KOSPI) 일별 종가를 예측하는 심층 신경회로망을 구현하고 기존 방법과 예측 정확도를 비교, 평가한다.

• 대한수학교육학회지:수학교육학연구
• /
• 제19권3호
• /
• pp.425-441
• /
• 2009

공간감각력은 도형영역의 학습과 관련하여 제7차 교육과정 이후 강조되어온 수학적 능력이다. 공간감각력의 신장을 위해 수학 6-가 단계의 교과서에는 쌓기나무단원과 관련하여 쌓인 입체의 위, 앞, 옆에서 본 모양이 주어질 때 쌓인 모양을 알아보는 활동이 포함되어 있다. 본 연구의 목표는 쌓기나무 단원의 전술한 활동을 지도하기 위해 교과서에서 제시한 층별 구성적 접근과 달리 새로운 접근법으로서 부분제거법을 제안하고, 그 방법을 6학년 학생들에게 적용해봄으로써 그 지도 가능성 및 효과를 알아보는 것이다.

• 응용통계연구
• /
• 제32권5호
• /
• pp.693-702
• /
• 2019

딥러닝은 대용량의 데이터의 분류 및 예측하는 방법으로 각광받고 있다. 데이터의 양이 많아지면서 신경망의 구조는 더 깊어 지고 있다. 이때 초기값이 지나치게 클 경우 층이 깊어 질수록 활성화 함수의 기울기가 매우 작아지는 포화(Saturation)현상이 발생한다. 이러한 포화현상은 가중치의 학습능력을 저하시키는 현상을 발생시키기 때문에 초기값의 중요성이 커지고 있다.이런 포화현상 문제를 해결하기 위해 Glorot과 Bengio (2010)과 He 등 (2015) 층과 층 사이에 데이터가 다양하게 흘러야 효율적인 신경망학습이 가능하고 주장했다. 데이터가 다양하게 흐르기 위해서는 각 층의 출력에 대한 분산과 입력에 대한 분산이 동일해야 한다고 제안했다. Glorot과 Bengio (2010)과 He 등 (2015)는 각 층별 활성화 값의 분산이 같다고 가정해 초기값을 설정하였다. 본 논문에서는 절단된 코쉬 분포와 절단된 정규분포를 활용하여 초기값을 설정하는 방안을 제안한다. 출력에 대한 분산과 입력에 대한 분산의 값을 동일하게 맞춰주고 그 값이 절단된 확률분포의 분산과 같게 적용함으로써 큰 초기값이 나오는 걸 제한하고 0에 가까운 값이 나오도록 분포를 조정하였다. 제안된 방법은 MNIST 데이터와 CIFAR-10 데이터를 DNN과 CNN 모델에 각각 적용하여 실험함으로써 기존의 초기값 설정방법보다 모델의 성능을 좋게 한다는 것을 보였다.