• 인터넷정보학회논문지
• /
• 제4권5호
• /
• pp.69-76
• /
• 2003

본 논문에서는 패턴 분류를 위한 새로운 학습 알고리즘을 소개한다. 이 알고리즘은 학습 데이터 집합에 포함된 오류 때문에 네트워크 구조가 너무 복잡하게 되는 점증적 학습 알고리즘의 문제를 해결하기 위해 고안되었다. 이 문제를 위한 접근 방법으로 미리 정의된 판단기준을 가지고 학습 과정을 중단하는 전지 방법을 사용한다. 이 과정에서 적절한 처리과정에 의해 3층 전향구조를 가지는 반복적 모델이 점증적 모델로부터 유도된다 여기서 이 네트워크 구조가 위층과 아래층 사이에 완전연결이 아니라는 점을 주목한다. 전지 방법의 효율성을 확인하기 위해 이 네트워크는 EBP로 다시 학습한다. 이 결과로부터 제안된 알고리즘이 시스템 성능과 네트워크 구조를 이루는 노드의 수 면에서 효과적임을 발견할 수 있다.

• KSII Transactions on Internet and Information Systems (TIIS)
• /
• 제4권5호
• /
• pp.939-955
• /
• 2010

With the progress of IT and mobile positioning technologies, various types of location-based services (LBS) have been proposed and implemented. Finding a shortest path between two nodes is one of the most fundamental tasks in many LBS related applications. So far, there have been many research efforts on the shortest path finding problem. For instance, $A^*$ algorithm estimates neighboring nodes using a heuristic function and selects minimum cost node as the closest one to the destination. Pruning method, which is known to outperform the A* algorithm, improves its routing performance by avoiding unnecessary exploration in the search space. For pruning, shortest paths for all node pairs in a map need to be pre-computed, from which a shortest path container is generated for each edge. The container for an edge consists of all the destination nodes whose shortest path passes through the edge and possibly some unnecessary nodes. These containers are used during routing to prune unnecessary node visits. However, this method shows poor performance as the number of unnecessary nodes included in the container increases. In this paper, we focus on this problem and propose a new border line-based pruning scheme for path routing which can reduce the number of unnecessary node visits significantly. Through extensive experiments on randomly-generated, various complexity of maps, we empirically find out optimal number of border lines for clipping containers and compare its performance with other methods.

• 반도체공학회 논문지
• /
• 제1권1호
• /
• pp.23-30
• /
• 2023

최근 거대 IT 기업들의 Generative AI 기술 개발로 Transformer 모델의 규모가 조 단위를 넘어가며 기하급수적으로 증가하고 있다. 이러한 AI 서비스를 지속적으로 가능케 하기 위해선 모델 경량화가 필수적이다. 본 논문에서는 하드웨어 친화적으로 구조화된(structured) 프루닝 패턴을 찾아 Transformer 모델의 경량화 방법을 제안한다. 이는 모델 알고리즘의 특성을 살려 압축을 진행하기 때문에 모델의 크기는 줄어들면서 성능은 최대한 유지할 수 있다. 실험에 따르면 GPT2 와 BERT 언어 모델을 프루닝할 때 제안하는 구조화된 프루닝 기법은 희소성이 높은 영역에서도 미세 조정된(fine-grained) 프루닝과 거의 흡사한 성능을 보여준다. 이 접근 방식은 미세 조정된 프루닝 대비 0.003%의 정확도 손실로 모델매개 변수를 80% 줄이고 구조화된 형태로 하드웨어 가속화를 진행할 수 있다.

• 한국정보과학회논문지:정보통신
• /
• 제37권3호
• /
• pp.175-186
• /
• 2010

다양한 어플리케이션의 등장과 인터넷 사용자의 급속한 성장으로 인하여, 인터넷 라우터는 패킷이 입력되는 속도와 같은 속도로 패킷 분류작업을 수행하여 패킷의 클래스에 따른 품질 보장을 제공할 것이 요구되고 있다. 패킷 분류란 라우터에 입력된 패킷의 헤더가 가지고 있는 여러 개의 필드에 대해 다차원 검색을 수행하여, 미리 정의된 룰과 일치하는 결과 가운데 최우선순위를 갖는 룰을 찾아내는 과정을 말한다. 빠른 패킷 분류를 위하여 다양한 패킷 분류 알고리즘이 제안되어오고 있으며, 튜플 공간 제거(tuple space pruning) 알고리즘은 일치 가능한 룰을 갖는 튜플들만을 해싱을 사용하여 검색함으로 빠른 검색 성능을 제공한다. 블룸 필터(Bloom filter)는 특정 집합에 속하는 원소들의 멤버쉽에 관한 정보를 간단한 비트-벡터로 표현하는 데이터 구조로서, 특정 입력 값이 집합에 속한 원소인지를 알려주는 선-필터(pre-filter)로 사용된다. 본 논문에서는 블룸 필터를 이용하여 일치 가능성이 없는 튜플을 효율적으로 제거하는 새로운 튜플 제거 알고리즘을 제안한다. 실제 라우터에서 사용되는 룰 셋과 비슷한 특성을 갖는다고 알려진 데이터 베이스에 대한 성능 비교를 통하여, 본 논문에서 제안하는 구조가 패킷 분류 성능 및 메모리 사용량에 있어서 기존의 튜플공간 제거 알고리즘과 비교하여 월등히 우수함을 보았다.

• 한국정보처리학회논문지
• /
• 제7권2호
• /
• pp.385-391
• /
• 2000

최근, 기존의 통계적 분석방법과는 달리 시계열 데이터를 이용하여 미래의 연속적인 지배의 법칙을 예측하기 위한 신경회로망 연구가 진행되고 있다. 본 논문에서는 빠르고 정확한 기상예측을 위하여 초기 임의 설계된 신경회로망의 은닉층중과(過)설계된 은닉노드를 제거하는 Pruning 알고리즘을 제안하며, 이 제안한 알고리즘의 효율성을 증명하기 위하여 1987년부터 1996년까지의 수집된 기상 데이터 22080건을 이용하여 기상예측 실험을 실행하였다. 실험을 통하여 초기 임의 구성된 $26{\times}50{\times}1$의 신경망은 제안된 pruning 알고리즘을 통하여 $26{\times}2{\times}1$ 구조로 최적화 되었고, 최적화된 신경망($26{\times}2{\times}1$)의 경우 오차온도 ${\pm}0.5^{\circ}C$의 경우 평균 33.55%, ${\pm}1^{\circ}C$의 경우 61.57%로 임의 설계된 구조 ($26{\times}50{\times}1$)dml 29.31%, 54.47%에 비하여 우수하게 나타났고, 또한 계산 횟수에서도 임의 구성 신경망에 비하여 최고 25배이상 계산횟수를 줄일 수 있었다.

• 한국산업정보학회논문지
• /
• 제14권2호
• /
• pp.16-22
• /
• 2009

이동 애드 혹 네트워크에 있어서 브로드캐스팅을 실현할 때에 전달 메시지가 과중하게 중복 발생하는 것을 줄이기 위해 메시지를 수신하고 전달하는 역할을 맡는 전탈 노드들을 in-fly 형태로 지정하도록 하는 기법 중 가장 실용적인 것으로는 PDP(Partial Dominant Pruning) 기법[1]을 들 수 있다 본 논문에서는 PDP를 확장하여 방향성 안테나를 이용하는 애드 혹 네트워크에 있어서 전달 노드들의 수는 물론, 이때 수반되는 안테나 요소 수를 동시에 줄이도록 하는 확장된 DPDP (Directional PDP) 기법을 제안한다. 시뮬레이션을 통해 사용 안테나 요소 수(K)가 증가함에 따라 선정되는 전달 노드의 수는 전 방향 안테나를 사용하는 경우에 비해 다소 증가하지만 안테나 요소 별 평균 전달 노드 수와 노드 별 메시지 중복수신 수에서는 모두 PDP 기법에 비해 우수함을 보였다.

• 호남수학학술지
• /
• 제38권4호
• /
• pp.833-847
• /
• 2016

We are interested in the problem of finding the Hausdorff distance between two objects in ${\mathbb{R}}^2$, or in ${\mathbb{R}}^3$. In this paper, we develop an algorithm for computing the Hausdorff distance between two ellipses in ${\mathbb{R}}^3$. Our algorithm is mainly based on computing the distance between a point $u{\in}{\mathbb{R}}^3$ and a standard ellipse $E_s$, equipped with a pruning technique. This algorithm requires O(log M) operations, compared with O(M) operations for a direct method, to achieve a comparable accuracy. We give an example,and observe that the computational cost needed by our algorithm is only O(log M).

• 한국정보과학회논문지:데이타베이스
• /
• 제31권2호
• /
• pp.91-98
• /
• 2004

DHP 연관 규칙 탐사 알고리즘은 후보 빈발 항목 집합들에 대한 계수를 유지하기 위한 해쉬트리의 크기를 가능한 한 줄이기 위하여, 독립된 직접 해쉬 테이블을 미리 준비해 놓았다가 후보 빈발 항목 집합을 생성할 때 적용함으로써 전지 효과를 얻는다. 이 때 직접 해쉬 테이블의 크기가 클수록 전지효과는 커지며, 특히 길이 2인 후보 빈발 항목 집합을 생성하는 단계에서의 전지 효과는 알고리즘 전체의 성능을 좌우할 만큼 큰 영향을 발휘한다. 따라서 급속도로 보편화되고 있는 대용량 주기억장치 시스템 추세에 따라 단계 2에서의 직접 해쉬 테이블 크기의 극단적인 증가에 대한 시도가 이루어지고 있으며, 이러한 것 중의 하나가 완전 해쉬 테이블이다. 그러나 단계 2에서의 완전 해쉬 테이블을 사용할 경우, 이를 단순히 기존 DHP 알고리즘에 적용하여 버켓 크기(｜H$_2$｜)만을 재 설정하는 것 보다, DHP 알고리즘 자체를 조금 변경했을 때 약 20% 이상의 추가 성능 이득을 얻을 수 있음이 밝혀졌다. 이 논문에서는 단계 2에서의 완전 해쉬 테이블의 타당성을 조명해 본 후, 그 특성을 충분히 활용하도록 DHP를 개선한 PHP 알고리즘을 제안하며 그 결과를 실험적 환경에서 검증한다.

• 한국정보과학회논문지:정보통신
• /
• 제35권6호
• /
• pp.482-496
• /
• 2008

인터넷 라우터에서의 패킷 분류는 들어오는 모든 패킷에 대하여 패킷이 입력되는 속도와 같은 속도로 수행되어야 하는데, 여러 헤더 필드에 대해 다차원 검색을 수행하여야 하므로, 라우터 설계에 있어 가장 어려운 문제중의 하나이다. 계층적 패킷 분류 구조는 하나의 필드 검색이 끝날 때마다 검색 영역이 현저하게 줄어듦으로 매우 효율적이다. 그러나 계층적 구조들은 빈 노드와 역추적이라는 두가지 문제를 내재하고 있다. 본 논문에서는 두가지 문제를 동시에 해결하는 새로운 계층적 패킷분류 구조를 제안한다. 역추적 문제는 셋-프루닝 기법을 이용하여 해결하였으며, 이진 검색트리를 적용하여 빈노드를 제거하였다. 시뮬레이션 결과 제안된 알고리즘은 메모리 요구량의 증가 없이 검색 성능을 현저히 향상시킴을 확인하였다. 또한 셋-프루닝에 있어 제한된 룰의 복사를 적용하는 최적화 기법을 제안한다.

• 한국통신학회논문지
• /
• 제36권11B호
• /
• pp.1285-1296
• /
• 2011

패킷분류는 라우터의 가장 기본적이면서도 중요한 기능 중의 하나이며, 실시간 전송을 요구하는 새로운 인터넷 응용 프로그램의 등장과 더불어 그 중요성이 더욱 커지고 있다. 패킷분류는 입력 패킷에 대하여 선속도로 이루어져야 하며, 여러 헤더 필드에 대해 다차원 검색을 수행해야 하기 때문에 라우터 설계의 어려운 문제 중에 하나이다. 고속의 패킷분류를 제공하기 위한 다양한 패킷분류 알고리즘이 제안되어 왔으며, 그 중 계층적 접근 방식을 사용한 알고리즘은 하나의 필드에 대하여 검색이 수행될 때마다 많은 검색 영역이 제거되기 때문에 효율적이다. 그러나 계층적 구조는 역추적이라는 문제를 내재하고 있으며, 이를 해결하기 위해 사용되는 셋-프루닝 트라이나그리드-오브-트라이는 지나치게 많은 노드 복사를 야기하거나, 선-계산이라는 복잡한 과정을 요구한다. 본 논문에서는 셋-프루닝 하위 트라이의 간단한 합병을 통하여 복사되는 노드의 개수를 줄일 수 있는 스마트 셋-프루닝 구조를 제안한다. 시뮬레이션 결과 제안된 구조는 셋-프루닝 트라이와 비교하여 복사되는 노드 수 및 룰 수가 2-8% 줄어듦을 확인하였다.