• 제목/요약/키워드: layer pruning

검색결과 29건 처리시간 0.03초

템플릿 재사용을 통한 패러미터 효율적 신경망 네트워크 (Parameter-Efficient Neural Networks Using Template Reuse)

  • 김대연;강우철
    • 정보처리학회논문지:소프트웨어 및 데이터공학
    • /
    • 제9권5호
    • /
    • pp.169-176
    • /
    • 2020
  • 최근 심층 신경망 (Deep Neural Networks, DNNs)는 모바일 및 임베디드 디바이스에 인간과 유사한 수준의 인공지능을 제공해 많은 응용에서 혁명을 가져왔다. 하지만, 이러한 DNN의 높은 추론 정확도는 큰 연산량을 요구하며, 따라서 기존의 사용되던 모델을 압축하거나 리소스가 제한적인 디바이스를 위해 작은 풋프린트를 가진 새로운 DNN 구조를 만드는 방법으로 DNN의 연산 오버헤드를 줄이기 위한 많은 노력들이 있어왔다. 이들 중 최근 작은 메모리 풋프린트를 갖는 모델 설계에서 주목받는 기법중 하나는 레이어 간에 패러미터를 공유하는 것이다. 하지만, 기존의 패러미터 공유 기법들은 ResNet과 같이 패러미터에 중복(redundancy)이 높은 것으로 알려진 깊은 심층 신경망에 적용되어왔다. 본 논문은 ShuffleNetV2와 같이 이미 패러미터 사용에 효율적인 구조를 갖는 소형 신경망에 적용할 수 있는 패러미터 공유 방법을 제안한다. 본 논문에서 제안하는 방법은 작은 크기의 템플릿과 레이어에 고유한 작은 패러미터를 결합하여 가중치를 생성한다. ImageNet과 CIFAR-100 데이터셋에 대한 우리의 실험 결과는 ShuffleNetV2의 패러미터를 15%-35% 감소시키면서도 기존의 패러미터 공유 방법과 pruning 방법에 대비 작은 정확도 감소만이 발생한다. 또한 우리는 제안된 방법이 최근의 임베디드 디바이스상에서 응답속도 및 에너지 소모량 측면에서 효율적임을 보여준다.

리기다소나무 임분에서 산림관리작업이 토양의 물리성 및 산림의 수질정화기능에 미치는 영향 (Influence of Forest Practices on Soil Physical Properties and Facility of Purifying Water Quality in Pinus rigida Stands)

  • 박재현
    • 한국환경복원기술학회지
    • /
    • 제10권2호
    • /
    • pp.61-70
    • /
    • 2007
  • This study aims to clarify the effect of forest management practices(thinning and pruning) on soil physical properties and water quality to get the fundamental information on the facility of purifying water quality after forestry practices. Rainfall, throughfall, stemflow, soil and stream water were sampled at the study site which consists of Pinus rigida in Jinju National University Experimental Forest for 4 years from Mar. 1, 2002 to Nov. 30, 2006. Averaged tree height of the management site increased by 1.6m, compared to the value of the non-management site in Pinus rigida. Increment of averaged D. B. H. at the management site showed 4.2cm more in Pinus rigida compared with that at non-management sites. Mesopore ratios (pF2.7) and total porosities of A layer soil at the management site increased more than those at the non-management sites in both stands. Otherwise, soil bulk density resulted in being reversely. Water qualities of throughfall, stemflow and buffered soil water were influenced more positively by the management practice. The average electrical conductivity of stream water was $32.9{\mu}S/cm$ within the range of non-polluted stream water.

인공신경망의 연결압축에 대한 연구 (A Study on Compression of Connections in Deep Artificial Neural Networks)

  • 안희준
    • 한국산업정보학회논문지
    • /
    • 제22권5호
    • /
    • pp.17-24
    • /
    • 2017
  • 최근 딥러닝, 즉 거대 또는 깊은 인공신경망을 사용한 기술이 놀라운 성능을 보이고 있고, 점차로 그 네트워크의 규모가 커지고 있다. 하지만, 신경망 크기의 증가는 계산양의 증가로 이어져서 회로의 복잡성, 가격, 발열, 실시간성 제약 등의 문제를 야기한다. 또한, 신경망 연결에는 많은 중복성이 존재한다, 본 연구에서는 이 중복성을 효과적으로 제거하여 이용하여 원 신경망의 성능과 원하는 범위안의 차이를 보이면서, 네트워크 연결의 수를 줄이는 방법을 제안하고 실험하였다. 특히, 재학습에 의하여 성능을 향상시키고, 각 계층별 차이를 고려하기 위하여 계층별 오류율을 할당하여 원하는 성능을 보장할 수 있는 간단한 방법을 제안하였다. 대표적인 영상인식 신경망구조인 FCN (전연결) 구조와 CNN (컨벌루션 신경망) 구조에서 대하여 실험한 결과 약 1/10 정도의 연결만으로도 원 신경망과 유사한 성능을 보일 수 있음을 확인하였다.

Dependent Quantization for Scalable Video Coding

  • ;김문철;함상진;이근식;박근수
    • 한국방송∙미디어공학회:학술대회논문집
    • /
    • 한국방송공학회 2006년도 학술대회
    • /
    • pp.127-132
    • /
    • 2006
  • Quantization in video coding plays an important role in controlling the bit-rate of compressed video bit-streams. It has been used as an important control means to adjust the amount of bit-streams to at]owed bandwidth of delivery networks and storage. Due to the dependent nature of video coding, dependent quantization has been proposed and applied for MPEG-2 video coding to better maintain the quality of reconstructed frame for given constraints of target bit-rate. Since Scalable Video Coding (SVC) being currently standardized exhibits highly dependent coding nature not only between frames but also lower and higher scalability layers where the dependent quantization can be effectively applied, in this paper, we propose a dependent quantization scheme for SVC and compare its performance in visual qualities and bit-rates with the current JSVM reference software for SVC. The proposed technique exploits the frame dependences within each GOP of SVC scalability layers to formulate dependent quantization. We utilize Lagrange optimization, which is widely accepted in R-D (rate-distortion) based optimization, and construct trellis graph to find the optimal cost path in the trellis by minimizing the R-D cost. The optimal cost path in the trellis graph is the optimal set of quantization parameters (QP) for frames within a GOP. In order to reduce the complexity, we employ pruning procedure using monotonicity property in the trellis optimization and cut the frame dependency into one GOP to decrease dependency depth. The optimal Lagrange multiplier that is used for SVC is equal to H.264/AVC which is also used in the mode prediction of the JSVM reference software. The experimental result shows that the dependent quantization outperforms the current JSVM reference software encoder which actually takes a linear increasing QP in temporal scalability layers. The superiority of the dependent quantization is achieved up to 1.25 dB increment in PSNR values and 20% bits saving for the enhancement layer of SVC.

  • PDF

속리산국립공원 법주사지구 소나무림 식생천이와 식생관리 연구 (Vegetation Succession and Vegetation Management of the Pinus densiflora S. et Z. Forest in the Beopjusa Area, Songnisan National $Park^{1a}$)

  • 이경재;기경석;최진우
    • 한국환경생태학회지
    • /
    • 제23권2호
    • /
    • pp.208-219
    • /
    • 2009
  • 본 연구는 속리산국립공원 법주사 주변 소나무림을 대상으로 식생구조를 규명하고 17년간의 식생구조 변화를 비교 분석하여 소나무림의 보전관리방안 수립을 목적으로 하였다. 조사대상지는 속리산국립공원 법주사지구 내 속리산관리사무소$\sim$법주사지구의 $3.6km^2$이다. 현존식생 조사결과 전체면적 360ha중 소나무 우점림은 64.7%이었고 소나무-낙엽활엽수 혼효림이 3.2%로 주로 계곡 사면과 능선에 걸쳐 소나무림이 분포하고 있었고 계곡 토지이용지 주변은 소나무와 낙엽활엽수가 혼효된 지역이 산재하였다. 조사구별 평균 상대우점치에 의한 우점종의 구성으로 식생유형을 분류한 결과 천이잠재성이 낮은 소나무군집, 천이잠재성이 높은 소나무군집, 천이진행중인 소나무군집, 도태중인 소나무군집으로 구분할 수 있었다. 17년간 식생구조 변화 분석결과 소나무군집의 천이경향은 천이잠재성이 낮은 소나무군집(소나무 순림)$\rightarrow$천이 잠재성이 높은 소나무군집(아교목층에 낙엽활엽수가 우점하는 소나무림)$\rightarrow$천이진행 중인 소나무군집(소나무-산벚나무군집, 소나무-졸참나무군집)$\rightarrow$도태중인 소나무군집(졸참나무-소나무군집, 갈참나무-소나무군집)$\rightarrow$낙엽활엽수혼효군집으로 발달하는 것으로 파악되었다. 소나무림 식생관리 방안으로 천이잠재성이 높은 소나무군집은 아교목층 낙엽활엽수를 제거하는 적극적인 관리가 필요하며 천이진행중인 소나무군집은 교목층 낙엽활엽수 가치치기 정도의 소극적인 관리가 필요하였다. 도태되는 소나무군집은 소나무림이 유지되기 어려우므로 낙엽활엽수림으로 자연적인 천이가 될 수 있도록 유지하는 방안을 제시하였다.

과실 봉지에 따른 배 '만수' 품종의 미세 열과 발생 (Occurrence of Micro-cracking According to Bagging Paper in 'Mansoo' Pear Fruits)

  • 최진호;임순희;김성종;이한찬;권용희
    • 원예과학기술지
    • /
    • 제33권4호
    • /
    • pp.479-485
    • /
    • 2015
  • 본 연구는 배 '만수' 품종의 열과 발생의 원인과 재배 조건을 구명하여 발생을 경감시킬 수 있는 재배 방법을 제안하고자 수행하였다. 미세 열과는 성숙기 과실에서 발견되었다. 미세 열과의 발생은 8월 중의 일조 시간과 밀접한 관련을 나타내었다. 발생이 심했던 해에는 일조 시간이 부족하였으며, 발생이 적었던 해에는 일조 시간이 길고 일조량이 많은 날이 연속되어 광 조건이 우수하였다. Y자 수형보다는 평덕식에서 많이 발생하였고, 인공 관수구와 무관수 처리구에서 미세 열과 발생률의 차이는 나타나지 않았다. 무대 처리구에서는 미세 열과가 전혀 발생하지 않았으나, 외피가 흑색과 황색인 봉지를 이용한 처리구에서의 미세 열과 발생은 각각 62.2% 및 17.3%로 흑색 봉지 처리구에서 미세 열과가 심하게 발생하였다. 따라서 '만수' 과실의 미세열과 발생은 일조 시간, 수형 및 봉지 색에 따라 차이를 보여 광 조건이 가장 크게 작용하는 것으로 판명되었다. '만수' 과실의 미세열과를 방지하기 위해서는 적합한 수형 및 봉지 색을 선택하고, 하계전정 등을 통해 광 조건을 개선하는 것이 요구된다.

전나무림, 잣나무림 유역(流域)에서 산림시업(山林施業)이 산림(山林)의 수질정화기능(水質淨火機能)에 미치는 영향(影響)(I) (Influence of Forest Management on the Facility of Purifying Water Quality in Abies holophylla and Pinus koraiensis Watershed (I))

  • 정용호;박재현;김경하;이봉수
    • 한국산림과학회지
    • /
    • 제88권3호
    • /
    • pp.364-373
    • /
    • 1999
  • 이 연구는 전나무림과 잣나무림에서 산림시업(山林施業)(간벌 및 가지치기)이 토양(土壤)의 물리성(物理性) 및 수질변화(水質變化) 등에 미치는 영향(影響)을 파악함으로써 산림시업(山林施業)에 따른 산림(山林)의 수질정화기능(水質淨化機能)을 평가(評價)하기 위한 기초자료(基礎資料)를 제공(提供)하기 위하여 실시하였다. 1996년 3월부터 5월까지 산림시업을 한 광릉시험림 31, 33임반내 전나무림과 잣나무림 유역에서 1998년 3월 1일부터 1998년 8월 4일까지 임분특성(林分特性), 토양(土壤)의 물리적(物理的) 특성(特性), 그리고 강우(降雨), 임내우(林內雨)(수관통과우(樹冠通過雨), 수간류(樹幹流)), 토양수(土壤水), 계류수(溪流水)의 수질동태(水質動態)를 분석(分析)하였다. 산림시험 후 약 2년 6개월이 경과된 1998년 9월 현재, 전나무림과 잣나무림에서 임목의 평균수고(平均樹高), 평균흉고직경(平均胸高直徑)은 시업구가 비시업구 보다 각각 1.8m, 0.6m, 4.7cm, 1.4cm 더 성장하였으며, 시업구는 비시업구 보다 A층 토양에서의 조공극율(粗孔隙率), 총공극율(總孔隙率)은 증가하였으나, 토양(土壤)의 가비중(假比重)은 감소하여 전나무림과 잣나무림에서는 산림시업(山林施業)에 따라 산림토양(山林土壤)의 강수침투구조(降水浸透構造)는 개선(改善)되는 것으로 나타났다. 또한, 전나무림과 잣나무림에서 산림시업(山林施業)으로 임우내(林內雨) 및 토양수(土壤水)의 완충효과(緩衝效果)가 증대(增大)되는 것으로 분석(分析)되었다.

  • PDF

마라도에 번식하는 섬개개비의 번식지 특성 (Breeding Site Characteristics of Styan's Grasshopper Warblers(Locustella pleskei) on Mara Islet, Jeju Province, Korea)

  • 김은미;김화정;최창용;강창완;강희만;박찬열
    • 한국환경생태학회지
    • /
    • 제23권6호
    • /
    • pp.528-534
    • /
    • 2009
  • 국제적 멸종위기종이며, 동아시아에 국한하여 분포하는 섬개개비(Locustella pleskei)는 한국의 추자도, 마라도, 칠발도, 홍도 등에서 번식하는 것으로 알려져 왔으나, 구체적인 번식 정보는 아직 알려져 있지 않다. 본 연구는 마라도(N $33^{\circ}$ 06', E $126^{\circ}$ 16')에 번식하는 섬개개비의 번식 현황과 번식지 특성을 파악하기 위하여 실시되었다. 2008년 5월부터 9월까지 섬개개비 총 11쌍이 번식하는 것을 확인하였고, 번식하는 둥지는 곰솔숲의 관목층에 주로 분포하였다. 둥지는 곰솔숲의 관목층에 주로 분포하였으며, 동백나무(Camellia japonica)와 돈나무(Pittosporum tobira) 등 관목성 나무를 둥지목으로 선호하는 것으로 나타났다. 둥지목의 수고는 $2.77{\pm}1.10m$, 지면으로부터 둥지의 높이는 $1.75{\pm}0.56m$였으며, 둥지목의 수고는 다른 주변의 나무보다 낮은 것으로 나타나 마라도의 강한 해풍을 피하는데 유리한 것으로 판단되었다. 주로 억새잎이나 사초과 식물의 잎을 이용하여 밥그릇 형태의 둥지를 만들었으며, 둥지의 지름은 $11.9{\pm}0.5cm$, 높이는 $11.1{\pm}1.1cm$, 깊이는 $5.8{\pm}0.4cm$로 나타났으며, 산좌지름은 6.0cm였다. 마라도에서 섬개개비는 다른 섬지역보다 번식시기가 다소 늦었으며, 한배산란수는 3개로서 보통 다른 번식지의 4-5개보다 작았다. 이는 번식시기가 늦어질수록 한배산란수가 적어지는 일반적인 경향을 따르는 것으로 보인다. 이상의 결과로 볼 때, 마라도 곰솔숲의 솎아베기와 관목층 제거는 밀집된 관목층을 둥지로 선호하는 섬개개비의 번식에 영향을 미칠 수 있다. 따라서 섬개개비 번식 생태 및 서식지에 지속적이고 체계적인 조사가 요구되며, 숲가꾸기 수행에 있어서도 섬개개비의 보전을 위한 세심한 배려가 필요하다.

남부권역 삼나무조림지의 식생구조와 생장특성에 관한연구 (Vegetation Structure and Growth Characteristics of Cryptomeria japonica(Thunb. ex L.f.) D.Don Plantations in the Southern Region of Korea)

  • 박준형;이광수;주남규;강영제;유석봉;유병오;박용배;김형호;정수영
    • 농업생명과학연구
    • /
    • 제50권1호
    • /
    • pp.105-115
    • /
    • 2016
  • 남부지역의 효율적인 삼나무 임분 관리방안을 마련하기 위하여 20m×20m 규모의 총 67개 조사구를 설치하였으며, 층위별 식생 및 임분구조 조사에 따른 군락유형 및 생장조사를 실시하였다. 군집분석을 실시한 결과 삼나무군락(C1)과 삼나무-편백군락으로 구분되었으며, 삼나무-편백군락은 다시 졸참-곰솔군락(C2), 졸참-편백군락(C3)으로 구분되었다. 교목층 삼나무의 중요치는 C1 97.2%, C2 80.7%, C3 47.6%로 유형간 차이가 나타났으며, 아교목층에는 C1 8.9%, C2 15.2%, C3 5.7%로 C2에서 가장 높게 나타났다. C3의 경우 아교목층에 솜대 및 이대가 나타나 이에 대한 관리가 필요한 것으로 사료된다. 관목층의 경우 C1 9.2%, C2 7.0% 이었으나, C3에서는 삼나무가 나타나지 않았다. 교목층의 종다양도는 C1이 0.059로 가장 낮았으며, C3에서 0.548로 가장 높았다. 우점도는 C1에서 0.958로 나타나 삼나무가 우점하는 것으로 나타났으며, C3은 우점도가 낮게 나타나(0.393) 다수의 종이 경쟁하고 있는 것으로 사료된다. 평균직경연년생장량은 7.01(C2)~8.04(C1)mm/yr의 범위로 나타났으며, 유형별 관리방안은 C1의 경우 경쟁목제거, 가지치기, 솎아베기가 적합하며, C2의 경우 경쟁수종 제거를 통한 삼나무 전형군으로의 유도 및 수하식재를 통한 타 수종으로의 갱신이 더욱 유리할 것으로 판단되었다.