• 제목/요약/키워드: 최소연결 문제

검색결과 119건 처리시간 0.03초

2개층 전방향 인공신경망에서의 이원적인 기울기 하강 알고리즘 (Dual Gradient Descent Algorithm On Two-Layered Feed-Forward Artificial Neural Networks)

  • 최범기;이주홍;박태수
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2006년도 추계학술발표대회
    • /
    • pp.3-6
    • /
    • 2006
  • 멀티레벨의 feed-forward 네트워크에 대한 학습 방법은 기울기 방법과 전역 최적화방법으로 나눌 수 있다. 역전파 또는 그 변형적인 방법들과 같은 기울기 하강 방법은 편리하기 때문에 여러 분야에서 다양하게 사용되고 있다. 하지만, 역전파와 관련된 가장 큰 문제는 지역 최소점에 빠진다는 것이다. 따라서 본 논문에서 기울기 하강 방법의 단순성을 침범하지 않고 지역 최소점을 극복할 수 있는 개선된 기울기 하강 방법을 제안한다. 제안하는 방법은 상위 연결과 하위연결을 분리하여 훈련하고 평가하기 때문에 이원적인 기울기 하강 방법이라 칭한다. 그렇기 때문에, 은닉층 유닛의 목표 값들은 하위 연결의 평가 툴로써 사용한다. 논문에서 제안하는 방법의 성능은 다양한 실험을 통해서 검증된다.

  • PDF

Local maxima 를 해결하기 위해 개선된 오류역전파 알고리즘 (Developed BackPropagation which solve the problem of Local maxima)

  • 서원택;조범준
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2001년도 추계학술발표논문집 (상)
    • /
    • pp.605-608
    • /
    • 2001
  • 다층 신경망의 학습에 쓰이는 오류 역전파 학습은 매우 효과적이지만 학습 속도가 너무 느리고 최적의 은닉충의 뉴런의 수를 결정하는 해답은 아직 없는 실정이다. 또한 가끔은 국부 최소점(Local maxima)에 빠져 학습이 끝내 이루어지지 않는 경우가 있다. 이에 본 논문에서는 이러한 Local maxima 를 효과적으로 탈출 할 수 있는 방법에 대해서 연구해 보았다. 국부 최소점은 연결강도와 전체 오차 사이의 이차원 공간에서 표현할 수 있는데 본 알고리즘은 이러한 연결강도와 오차와의 관계를 인위적으로 변화시켜 결론적으로 Local maxima 를 탈출하게 하는 방법을 소개한다. 본 연구에서 사용된 방법은 네트웍이 학습중에 Local maxima 에 빠졌을 때 은닉층의 뉴런의 수를 추가하여 인위적으로 연결강도 평면의 위상을 변조시킨다. 또한 은닉충의 뉴런의 수를 동적으로 변화 시키면서 최적의 뉴런의 수를 결정할 수 있게 하였다. 위 알고리즘의 성능을 평가하기 위해서 XOR 문제와 $10{\times}8$ 영문폰트와 숫자의 학습에 적용하여 일반적인 역전파 학습과 비교 평가하였다.

  • PDF

모듈 방향 결정 문제 해결을 위한 정규화된 평균장 어닐링 알고리즘 (Normalized Mean Field Annealing Algorithm for Module Orientation Problem)

  • 정균락
    • 한국정보과학회논문지:시스템및이론
    • /
    • 제27권12호
    • /
    • pp.988-995
    • /
    • 2000
  • 각 모듈들의 위치가 배치 알고리즘에 의해 결정된 후에도 모듈들을 종축 또는 횡축을 중심으로 뒤집거나 회전시킴으로써 회로의 효율성과 연결성을 향상시킬 수 있다. 고집적 회로설계의 한 단계인 모듈방향 결정 문제는 모듈간에 연결된 선의 길이의 합이 최소가 되도록 각 모듈의 방향을 결정하는 문제이다. 최근에 평균장 어닐링 방법이 조합적 최적화 문제에 사용되어 좋은 결과를 보여 주고 있다. 평균장 어닐링은 신경회로망의 따른 수렴 특성과 시뮬레이티드 어닐링의 우수한 해를 생성하는 특성이 결합된 방법이다. 본 논문에서는 정규화된 평균장 어닐링을 사용해서 모듈 방향 결정 문제를 해결하였고 실험을 통해 기존의 Hopfield 네트워크 방법과 시뮬레이티드 어닐링과 그 결과를 비교하였다. 시뮬레이티드 어닐링, 정규화된 평균장 어닐링과 Hopfield 네트워크의 총 길이 감소율은 각각 19.86%, 19.85%, 19.03%였으며, 정규화된 평균장 어닐링의 실행 시간은 Hopfield 네트워크보다는 1.1배, 시뮬레이티드 어닐링보다는 11.4배 정도 빨랐다.

  • PDF

무게 있는 리프 이진 트리 균형 문제를 해결하는 알고리즘 (Algorithms for Balancing Weighted-Leaf Binary Tree)

  • 이동규;백낙훈;이종원;류관우
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2000년도 봄 학술발표논문집 Vol.27 No.1 (A)
    • /
    • pp.692-694
    • /
    • 2000
  • 본 논문에서는 이진 트리 형태를 가지는 다관절체의 균형을 잡거나 이진 트리 모양으로 연결된 네트워크 상에서 단말 노드들의 부하를 균형 있게 하는데 이용할 수 있는 무게 있는 리프 이진 트리 균형 문제를 제안한다. 또한 무게 있는 리프 이진 트리 균형 문제를 리프들의 무게 변화량의 쌍의 {{{{ { l}_{ 1} }}}}-norm, {{{{ { l}_{2 } }}}}-norm, {{{{ { l}_{3 } }}}}-norm 각각을 최소로 하면서 해결하는 방법들을 제안한다. 이 방법들은 무게 있는 리프 이진 트리 균형 문제의 특성을 이용하여 n개 변수를 하나의 변수의 양의 상수배로 나타냄으로써 해결할 수 있음을 보인다.

  • PDF

은닉노드의 목표 값을 가진 2개 층 신경망의 분리학습 알고리즘 (Separate Learning Algorithm of Two-Layered Networks with Target Values of Hidden Nodes)

  • 최범기;이주홍;박태수
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2006년도 한국컴퓨터종합학술대회 논문집 Vol.33 No.1 (B)
    • /
    • pp.160-162
    • /
    • 2006
  • BP 알고리즘은 지역 최소점이나 고원 문제와 같은 수렴 실패문제와 학습 속도가 느리다고 알려져 있다. 이제까지 알려진 BP 알고리즘의 대체 방법들은 수렴 속도와 인자에 따른 수렴의 안정성에 대한 불균형을 해소하는데 치중했다. 기존의 전통적인 BP 알고리즘에서 발생하는 위와 같은 문제를 해결하기 위하여, 본 논문에서는 적은 용량의 저장 공간만을 요구하며 수렴이 빠르고 상대적으로 안정성이 보장되는 알고리즘을 제안한다. 이 방법은 상위연결(upper connections), 은닉층-출력층(hidden to output), 하위연결(lower connections), 입력층-은닉층(input to hidden)에 대해 개별적으로 훈련을 시키는 분리 학습방법을 적용한다.

  • PDF

강 뼈대구조물의 총 경비와 부재연결과의 상반관계에 관한 연구 (Computational Approach for the Trade-Off Study between the Total Cost and the Member Connections in Steel Frames)

  • 최병한;임정환
    • 한국강구조학회 논문집
    • /
    • 제19권1호
    • /
    • pp.15-27
    • /
    • 2007
  • 지난 10년간 건설 환경에서 노무비는 재료비에 대해 상대적으로 계속해서 증가하고 있다. 따라서 강구조물의 최적 설계를 위해 널리 쓰이고 있는 최소중량설계는 더 이상 최소경비설계를 의미하지 못한다. 최근의 강 구조물의 제작 시 재료비 외에 부재연결에 소요되는 경비가 실제로 총 제작비에 커다란 영향을 미치는 것을 알 수 있다. 그럼에도 불구하고 대부분의 연구가 최소 중량설계나 구조물의 고등해석에만 이루어지고 있다. 따라서 본 연구는 횡 방향 하중에 효과적으로 저항하도록 보와 기둥이 모멘트 연결된 강 뼈대 구조물을 대상으로 안정성에 문제가 없이 경비절감에 효과적인 설계를 위해 재료비뿐만 아니라 제작비 및 현장에서 가설 시 부재연결에 소요되는 경비를 포함하는 최소 경비 설계를 수행하고자 한다. 하중저항계수설계법에 따른 전단과 처짐 및 보-기둥 상관관계식을 포함하는 비선형 해석과정과 유전알고리즘을 바탕으로 한 최적화 알고리즘을 결합하여 모멘트 부재연결의 수를 줄이고 또한 효과적인 배치를 수행함으로 최적 설계 해 및 모멘트 연결의 수와 총 경비와의 상반관계를 나타내고 이로부터 최적의 모멘트 연결의 수 및 그 배치를 구하였다. 현실적인 하중조건을 고려한 수치 예를 통해 본 연구의 적용성과 효율성을 나타내었다.

초등 영재교육에 적용 가능한 이산수학 주제의 내용 구성에 관한 소고 -네트워크 문제를 중심으로- (A Study on Discrete Mathematics Subjects Focused on the Network Problem for the Mathematically Gifted Students in the Elementary School)

  • 최근배
    • 대한수학교육학회지:학교수학
    • /
    • 제7권4호
    • /
    • pp.353-373
    • /
    • 2005
  • 최근의 급속한 정보화 사회로의 전환에 편승하여 이산수학에 대한 관심과 이에 따른 연구가 활발해지고 있으며, 제 7차 교육과정에서 이산수학을 선택과목으로 지정할 만큼 그 중요성이 인정되고 있다. 본 연구는 네트워크문제와 관련된 이중계수 문제, 한붓그리기, 그리고 도로망문제를 중심으로, 초등 수학영재학생을 위한 학습프로그램을 구성하는 문제와 관련된 교수학적 변환에 대하여 논의하였다.

  • PDF

공간 지역성과 PTAS를 활용한 대형 GOSST의 효과적 구성 (Efficient Construction of Large Scale Grade of Services Steiner Tree Using Space Locality and Polynomial-Time Approximation Scheme)

  • 김인범
    • 한국컴퓨터정보학회논문지
    • /
    • 제16권11호
    • /
    • pp.153-161
    • /
    • 2011
  • GOSST의 생성은 NP-Complete 영역에 속하므로, 이 문제를 위한 휴리스틱들은, 다수의 입력 노드에 대해서 많은 시간과 계산을 요구한다. 본 논문에서는 가중치를 가지는 많은 입력 노드에 대해, 공간 지역성을 반영한 PTAS를 적용하여 GOSST를 효과적으로 구성하는 방법을 제안한다. 최대 가중치가 100인 40,000개의 입력 노드에 대하여 16개의 단위 영역으로 설계된 공간 지역성 PTAS GOSST는, 가중치 최소 신장 트리를 이용한 방법과 비교하여 연결비용은 약 4.00%, 실행시간은 89.26%를 절감할 수 있었으며, PTAS를 이용하지 않은 근사 GOSST 방법(SGOSST)에 비해서 연결비용은 0.03% 증가했으나, 실행시간은 96.39% 감소시켰다. 따라서 제안된 공간 지역성 PTAS GOSST 방법은 수많은 가중치 입력 노드들을 최소비용으로 신속히 연결하려는 다양한 응용에 잘 적용될 수 있을 것이다.

P-가지 색을 가진 점들의 할당에 대한 밀도 최소화 (Density Minimization for the Assignment of P-color Points)

  • 김재훈
    • 한국정보통신학회논문지
    • /
    • 제18권8호
    • /
    • pp.1981-1986
    • /
    • 2014
  • 본 논문에서 다루는 문제는 채널의 위쪽 행에 위치한 P가지 색을 가지는 점들을 아래쪽 행의 점들에 밀도가 최소가 되도록 연결하는 채널 라우팅 문제이다. 위쪽 행에 위치한 점들이 동일한 색을 가지거나 단지 2가지 색을 가지는 경우는 [1, 2]에서 다루어졌다. 본 논문에서는 P가지 색을 가지는 경우로 일반화한다. 우선 임의의 값 d가 주어질 때, d이하의 밀도를 가지는 할당이 존재하는지 결정하는 문제를 O(p(n+m)log(n+m))시간에 풀 수 있음을 보인다. 이를 이용해서 최소 밀도 값의 할당을 찾는 문제를 해결할 수 있음을 보인다.

개인통신망 설계를 위한 최소 비용 경로 (Minimum Cost Path for Private Network Design)

  • 최홍식;이주영
    • 한국정보과학회논문지:시스템및이론
    • /
    • 제26권11호
    • /
    • pp.1373-1381
    • /
    • 1999
  • 이 논문에서는 통신망 설계 응용분야의 문제를 그래프 이론 문제로써 고려해 보았다. 개별 기업체가 서로 떨어진 두 곳을 연결하고자 할 때 공용통신망의 회선을 빌려 통신망을 구축하게 되는데 많은 경우 여러 종류의 회선들이 공급됨으로 어떤 회선을 선택하느냐의 문제가 생긴다. 일반적으로 빠른 회선(low delay)은 느린 회선(high delay)에 비해 비싸다. 그러나 서비스의 질(Quality of Service)이라는 요구사항이 종종 종단지연(end-to-end delay)시간에 의해 결정되므로, 무조건 낮은 가격의 회선만을 사용할 수는 없다. 결국 개별 기업체의 통신망을 위한 통로를 공용 통신망 위에 덮어씌워(overlaying) 구축하는 것의 여부는 두 개의 상반된 인자인 가격과 속도의 조절에 달려 있다. 따라서 일반적인 최소경로 찾기의 변형이라 할 수 있는 다음의 문제가 본 논문의 관심사이다. 두 개의 지점을 연결하는데 종단지연시간의 한계를 만족하면서 최소경비를 갖는 경로에 대한 해결을 위하여, 그래프 채색(coloring) 문제와 최단경로문제를 함께 포함하는 그래프 이론의 문제로 정형화시켜 살펴본다. 배낭문제로의 변환을 통해 이 문제는 {{{{NP-complete임을 증명하였고 {{{{O($\mid$E$\mid$D_0 )시간에 최적값을 주는 의사선형 알고리즘과O($\mid$E$\mid$)시간의 근사 알고리즘을 보였다. 특별한 경우에 대한 {{{{O($\mid$V$\mid$ + $\mid$E$\mid$)시간과 {{{{O($\mid$E$\mid$^2 + $\mid$E$\mid$$\mid$V$\mid$log$\mid$V$\mid$)시간 알고리즘을 보였으며 배낭 문제의 해결책과 유사한 그리디 휴리스틱(greedy heuristic) 알고리즘이 그물 구조(mesh) 그래프 상에서 좋은 결과를 보여주고 있음을 실험을 통해 확인해 보았다.Abstract This paper considers a graph-theoretic problem motivated by a telecommunication network optimization. When a private organization wishes to connect two sites by leasing physical lines from a public telecommunications network, it is often the cases that several categories of lines are available, at different costs. Typically a faster (low delay) lines costs more than a slower (high delay) line. However, low cost lines cannot be used exclusively because the Quality of Service (QoS) requirements often impose a bound on the end-to-end delay. Therefore, overlaying a path on the public network involves two diametrically opposing factors: cost and delay. The following variation of the standard shortest path problem is thus of interest: the shortest route between the two sites that meets a given bound on the end-to-end delay. For this problem we formulate a graph-theoretical problem that has both a shortest path component as well as coloring component. Interestingly, the problem could be formulated as a knapsack problem. We have shown that the general problem is NP-complete. The optimal polynomial-time algorithms for some special cases and one heuristic algorithm for the general problem are described.