• 제목/요약/키워드: 히든 레이어

검색결과 65건 처리시간 0.033초

전이학습 기반 다중 컨볼류션 신경망 레이어의 활성화 특징과 주성분 분석을 이용한 이미지 분류 방법 (Transfer Learning using Multiple ConvNet Layers Activation Features with Principal Component Analysis for Image Classification)

  • 바트후 ?바자브;주마벡 알리하노브;팡양;고승현;조근식
    • 지능정보연구
    • /
    • 제24권1호
    • /
    • pp.205-225
    • /
    • 2018
  • Convolutional Neural Network (ConvNet)은 시각적 특징의 계층 구조를 분석하고 학습할 수 있는 대표적인 심층 신경망이다. 첫 번째 신경망 모델인 Neocognitron은 80 년대에 처음 소개되었다. 당시 신경망은 대규모 데이터 집합과 계산 능력이 부족하여 학계와 산업계에서 널리 사용되지 않았다. 그러나 2012년 Krizhevsky는 ImageNet ILSVRC (Large Scale Visual Recognition Challenge) 에서 심층 신경망을 사용하여 시각적 인식 문제를 획기적으로 해결하였고 그로 인해 신경망에 대한 사람들의 관심을 다시 불러 일으켰다. 이미지넷 첼린지에서 제공하는 다양한 이미지 데이터와 병렬 컴퓨팅 하드웨어 (GPU)의 발전이 Krizhevsky의 승리의 주요 요인이었다. 그러므로 최근의 딥 컨볼루션 신경망의 성공을 병렬계산을 위한 GPU의 출현과 더불어 ImageNet과 같은 대규모 이미지 데이터의 가용성으로 정의 할 수 있다. 그러나 이러한 요소는 많은 도메인에서 병목 현상이 될 수 있다. 대부분의 도메인에서 ConvNet을 교육하기 위해 대규모 데이터를 수집하려면 많은 노력이 필요하다. 대규모 데이터를 보유하고 있어도 처음부터 ConvNet을 교육하려면 많은 자원과 시간이 소요된다. 이와 같은 문제점은 전이 학습을 사용하면 해결할 수 있다. 전이 학습은 지식을 원본 도메인에서 새 도메인으로 전이하는 방법이다. 전이학습에는 주요한 두 가지 케이스가 있다. 첫 번째는 고정된 특징점 추출기로서의 ConvNet이고, 두번째는 새 데이터에서 ConvNet을 fine-tuning 하는 것이다. 첫 번째 경우, 사전 훈련 된 ConvNet (예: ImageNet)을 사용하여 ConvNet을 통해 이미지의 피드포워드 활성화를 계산하고 특정 레이어에서 활성화 특징점을 추출한다. 두 번째 경우에는 새 데이터에서 ConvNet 분류기를 교체하고 재교육을 한 후에 사전 훈련된 네트워크의 가중치를 백프로퍼게이션으로 fine-tuning 한다. 이 논문에서는 고정된 특징점 추출기를 여러 개의 ConvNet 레이어를 사용하는 것에 중점을 두었다. 그러나 여러 ConvNet 레이어에서 직접 추출된 차원적 복잡성을 가진 특징점을 적용하는 것은 여전히 어려운 문제이다. 우리는 여러 ConvNet 레이어에서 추출한 특징점이 이미지의 다른 특성을 처리한다는 것을 발견했다. 즉, 여러 ConvNet 레이어의 최적의 조합을 찾으면 더 나은 특징점을 얻을 수 있다. 위의 발견을 토대로 이 논문에서는 단일 ConvNet 계층의 특징점 대신에 전이 학습을 위해 여러 ConvNet 계층의 특징점을 사용하도록 제안한다. 본 논문에서 제안하는 방법은 크게 세단계로 이루어져 있다. 먼저 이미지 데이터셋의 이미지를 ConvNet의 입력으로 넣으면 해당 이미지가 사전 훈련된 AlexNet으로 피드포워드 되고 3개의 fully-connected 레이어의 활성화 틀징점이 추출된다. 둘째, 3개의 ConvNet 레이어의 활성화 특징점을 연결하여 여러 개의 ConvNet 레이어의 특징점을 얻는다. 레이어의 활성화 특징점을 연결을 하는 이유는 더 많은 이미지 정보를 얻기 위해서이다. 동일한 이미지를 사용한 3개의 fully-connected 레이어의 특징점이 연결되면 결과 이미지의 특징점의 차원은 4096 + 4096 + 1000이 된다. 그러나 여러 ConvNet 레이어에서 추출 된 특징점은 동일한 ConvNet에서 추출되므로 특징점이 중복되거나 노이즈를 갖는다. 따라서 세 번째 단계로 PCA (Principal Component Analysis)를 사용하여 교육 단계 전에 주요 특징점을 선택한다. 뚜렷한 특징이 얻어지면, 분류기는 이미지를 보다 정확하게 분류 할 수 있고, 전이 학습의 성능을 향상시킬 수 있다. 제안된 방법을 평가하기 위해 특징점 선택 및 차원축소를 위해 PCA를 사용하여 여러 ConvNet 레이어의 특징점과 단일 ConvNet 레이어의 특징점을 비교하고 3개의 표준 데이터 (Caltech-256, VOC07 및 SUN397)로 실험을 수행했다. 실험결과 제안된 방법은 Caltech-256 데이터의 FC7 레이어로 73.9 %의 정확도를 얻었을 때와 비교하여 75.6 %의 정확도를 보였고 VOC07 데이터의 FC8 레이어로 얻은 69.2 %의 정확도와 비교하여 73.1 %의 정확도를 보였으며 SUN397 데이터의 FC7 레이어로 48.7%의 정확도를 얻었을 때와 비교하여 52.2%의 정확도를 보였다. 본 논문에 제안된 방법은 Caltech-256, VOC07 및 SUN397 데이터에서 각각 기존에 제안된 방법과 비교하여 2.8 %, 2.1 % 및 3.1 %의 성능 향상을 보였다.

Hidden Layer의 개수가 Deep Learning Algorithm을 이용한 콘크리트 압축강도 추정 모델의 성능에 미치는 영향에 관한 기초적 연구 (A Basic Study on the Effect of Number of Hidden Layers on Performance of Estimation Model of Compressive Strength of Concrete Using Deep Learning Algorithms)

  • 이승준;이한승
    • 한국건축시공학회:학술대회논문집
    • /
    • 한국건축시공학회 2018년도 춘계 학술논문 발표대회
    • /
    • pp.130-131
    • /
    • 2018
  • The compressive strength of concrete is determined by various influencing factors. However, the conventional method for estimating the compressive strength of concrete has been suggested by considering only 1 to 3 specific influential factors as variables. In this study, nine influential factors (W/B ratio, Water, Cement, Aggregate(Coarse, Fine), Fly ash, Blast furnace slag, Curing temperature, and humidity) of papers opened for 10 years were collected at 4 conferences in order to know the various correlations among data and the tendency of data. The selected mixture and compressive strength data were learned using the Deep Learning Algorithm to derive an estimated function model. The purpose of this study is to investigate the effect of the number of hidden layers on the prediction performance in the process of estimating the compressive strength for an arbitrary combination.

  • PDF

e헬스케어 비즈니스모델에 관한 연구: 비즈니스생태계 접근 중심으로 (A Study on e-Healthcare Business Model: Focusing on Business Ecosystem Approach)

  • 김영수;정재진
    • 벤처창업연구
    • /
    • 제14권1호
    • /
    • pp.167-185
    • /
    • 2019
  • 대부분의 G20 국가에서 향후 수십 년 동안 의료 지출이 급격하게 성장할 것으로 예상하고 있듯이, 고연령 인구와 만성질환자의 증가로 인해 전 세계적으로 의료비 부담은 지속적으로 늘어나고 있으며 의료서비스의 지속적인 질 개선도 해결해야 할 과제로 대두되고 있다. 그러나 헬스케어와 IT 융합의 급변하는 기술 환경 하에서 이런 변화를 제대로 인식하지 못하고 적절한 대비를 하지 않는데서 그 문제가 더 커질 수 있다. 패러다임 변화와 의료 분야 문제 증대 상황에서 기술적, 제도적, 사업적 측면에서의 복합적인 대응이 절실히 필요하다. 핵심은 의료분야에 IT를 융합한 사업에 적합한 비즈니스모델의 도출이라 할 수 있다. 4차 산업혁명시대의 도래와 함께 사물인터넷 등의 신기술이 e헬스케어에 적용되면서 새로운 비즈니스모델의 필요성이 대두 되었다. 기존 인터넷 시대의 e헬스케어에서는 전통적인 조직 기반 (Firm-centric) 비즈니스모델이 되었으나 사물인터넷 시대에는 사물인터넷의 역동성 (Dynamics) 및 복잡성 (Complex)의 특성으로 인하여 단위 조직 (Firm-Centric)보다는 비즈니스생태계 (Business Ecosystem)기반의 접근이 필요하다. 본 논문에서는 사물인터넷 등 이머징 기술 (Emerging Technology)기반의 e헬스케어의 비즈니스생태계에 대한 연구 결과로 e헬스케어 비즈니스생태계의 3-레이어 (Layer) 구조에 기반한 생태계의 주요 발전 인자를 분석 제시한다. 3-레이어 비즈니스생태계는 (1) 인프라 스트럭처 레이어 (Infrastructure Layer), (2) 특성 레이어 (Characteristics Layer) 및 (3) 이해당사자 레이어 (Stakeholder Layer)로 정의하여 분석하였다. e헬스케어 비즈니스생태계의 주요 발전 인자측면에서는 (1) i헬스케어 개념의 도입, (2) 비즈니스생태계의 확장, (3) 비즈니스생태계 변화 프로세스 혁신, (4) 비즈니스생태계 리더쉽 혁신의 4가지 인자를 제안한다.

다중 안테나 시스템에서 적응적 조기 종료를 이용한 낮은 복잡도 반복 검출 및 복호기 (Low Complexity Iterative Detection and Decoding using an Adaptive Early Termination Scheme in MIMO system)

  • 정현승;최경준;김경준;김광순
    • 한국통신학회논문지
    • /
    • 제36권8C호
    • /
    • pp.522-528
    • /
    • 2011
  • 다중 안테나를 이용한 통신 시스템에서 반복 검출 및 복호 수신기 (iterative detction and decoding)는 비트 오류율은 상당히 줄일 수 있으나, 각 비트마다 연판정 값을 계산하여야 하므로 높은 계산 복잡도를 요구한다. 본 논문에서는 적은 계산 복잡도로 연판정 값을 얻을 수 있는 수신기 구조를 제안한다. 반복 검출 및 복호 수신기는 대부 복호기로 구 복호기 (sphere decoder)를 사용하고 외부 복호기로 저 밀도 패리티 부호 (low density parity check) 복호기를 사용한다. 연판정 값을 얻기 위한 구 복호기의 복잡도를 줄이기 위하여 트리 탐색을 레이어 별로 레이어 심볼 탐색 (Layer symbol search, LSS)를 제안한다. 그리고 채널과 잡음 상황에 따라 달라지는 구 복호기의 동작 시간을 제한하기 위하여 반복 복호 횟수를 줄이는 적응적 조기 종료를 제안한다. 제안한 알고리즘은 기존의 알고리즘 대비 20dB에서 70% 정도 낮은 계산 복잡도를 갖으며 유사한 성능을 얻을 수 있다.

GPGPU 기반 Convolutional Neural Network의 효율적인 스레드 할당 기법 (Efficient Thread Allocation Method of Convolutional Neural Network based on GPGPU)

  • 김민철;이광엽
    • 예술인문사회 융합 멀티미디어 논문지
    • /
    • 제7권10호
    • /
    • pp.935-943
    • /
    • 2017
  • 많은 양의 데이터 기반으로 학습하는 neural network 중 이미지 분류나 음성 인식 등에 사용되어 지고 있는 CNN(Convolution neural network)는 현재까지도 우수한 성능을 가진 구조로 계속적으로 발전되고 있다. 제한된 자원을 가진 임베디드 시스템에서 활용하기에는 많은 어려움이 있다. 그래서 미리 학습된 가중치를 사용하지만 여전히 한계점이 있기 때문에 이를 해결하기 위해 GPU의 범용 연산을 위해서 사용하는 GP-GPU(General-Purpose computing on Graphics Processing Units)를 활용하는 추세다. CNN은 단순하고 반복적인 연산을 수행하기 때문에 SIMT(Single Instruction Multiple Thread)기반의 GPGPU에서 스레드 할당과 활용 방법에 따라 연산 속도가 많이 달라진다. 스레드로 Convolution 연산과 Pooling 연산을 수행할 때 쉬어야 하는 스레드가 발생하는 데 이러한 문제를 해결하기 위해 남은 스레드가 다음 피쳐맵과 커널 계산에 활용되는 방법을 사용함으로써 연산 속도를 증가시켰다.

다차원 하천공간정보 표준화 및 효율적 유지관리 기술 연구 (A Study for Standardizing and Efficient Maintaining Multi-dimensional Geospatial River Data)

  • 김동수;김경동;유호준;여홍구
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2021년도 학술발표회
    • /
    • pp.56-56
    • /
    • 2021
  • 하천단면이나 하상변동 추적 등 하천공간정보는 유량이나 강우 등 수문시계열 정보와 더불어 계획홍수위 산정이나 하천구조물 신설로 인한 하천의 변화를 추적하는 데 있어 근간을 이루는 주요 정보로 국가차원의 유지 및 관리가 필요하다. 국내의 하천공간정보는 RIMGIS, WAMIS, 하천 일람, WINS와 같은 웹기반 시스템에서 정보화 되어 관리되고 있다. 그러나, RIMGIS는 여러 가지 문제점을 노정하고 있어 개선을 적극적으로 검토해볼 시점이라고 볼 있다. 우선, RIMGIS는 구축이 10년 이상된 기술로 구성되어 온라인 시스템 실행속도가 느리고, 물관리 일원화 와중에 관리주체가 불분명해진 상태이며, 제공되는 정보도 하천망이나 유역 정도로 차원 및 정확도도 낮고 활용도 및 현행화도 부족한 상태이다. 또한 공간정보 관리 DB표준으로 효율적인 관계형 구조 대신 하천대장 등을 수치화한 개념의 레이어 단위의 주제도로 관리하다보니 자료중복이 불가피하여 시스템이 무겁고, 자료간 연관검색이 거의 불가하고, 신속한 하천지형 변화 업데이트가 어려운 상태이다. 최근 진행되고 있는 RIMGIS 개선 사업은 여전히 종래의 레이어 단위의 주제도들을 추가하거나 개정하는 데 머물고 있는 상태이다. 이러다 보니 현재 우리나라의 대표적인 하천정보시스템인 RIMGIS의 실무 활용도는 낮은 것으로 알려져 있다. 가장 실무활용도를 저하시키고 현행화 상의 문제로 지적되는 부분은 하천정비기본계획 수립 시 발생한 공간자료 관리 부실이다. 현재 RIMGIS에서는 하천기본계획보고서만 PDF 형태로 제공할 뿐, 실제 지형자료는 과업을 수행한 설계사에 개별 보관되어 활용도뿐만아니라 망실의 우려가 높은 상황이다. 본 연구에서는 하천기본계획수립 시 측량되는 단면을 포함한 다양한 공간자료를 관계형으로 표준화 DB에 효율적으로 저장할 수 있게 하는 방안을 제시하고자 한다.

  • PDF

Kubelka-Munk모델을 응용한 실시간 3차원 수묵담채화 렌더링 (Real-Time 3D Oriental Color-Ink Painting)

  • 오수정;남양희
    • 한국컴퓨터그래픽스학회논문지
    • /
    • 제11권1호
    • /
    • pp.1-7
    • /
    • 2005
  • 본 논문에서는 3D 게임이나 가상현실, 인터렉티브 아트 등의 실시간 환경의 컨텐츠 제작에 활용가능한 수묵담채화풍의 렌더링 기법을 제안한다. 제안된 기법은 기존의 3차원 수묵화 렌더링 연구에서는 다루지 않았던, 색채표현법과 그 합성법을 중심으로 연구되었다. 색채표현법의 경우, 일반적으로 삼색을 단계적으로 겹쳐서 표현하는 수묵담채화의 특성에 따라, 실제 그림을 그릴 때에 적용되는 삼색의 혼합방법과 순서가 자동으로 적용될 수 있는 삼색기반 구조를 통해 농담과 질감효과를 표현했으며, 또한 이러한 삼색레이어의 합성을 위해서는 안료의 광학적 성질을 반영하여 실제 회화매체에 가까운 색상을 재현할 수 있는 Kubelka-Munk(KM)모델을 적용한다. 기존의 KM모델은 비사실적 렌더링 연구 분야에서 수채화, 유화 등 서양화를 대상으로 한 색채 합성에 적용되어 왔기 때문에 기존의 연구에서 제시한 방법만으로는 삼색레이어가 겹쳐질 때 나타나는 수묵담채화의 특징과 천연 재료를 사용하는 동양 안료의 색상을 정확히 반영할 수 없었다. 따라서 본 논문에서는 실제 수묵담채화에 이용되는 전통안료의 색상 분석을 통해 KM모델에 적용할 파라미터들을 추출하고, 앞에서 설계한 삼색 기반 구조에 따라 색상을 합성하는 방법을 제시한다.

  • PDF

역운동학 기법을 이용한 다양한 리깅 콘텐츠 제작 활용에 관한 연구 (A Study on Various Rigging Contents Production using Inverse Kinematics techniqe)

  • 주헌식
    • 한국컴퓨터정보학회:학술대회논문집
    • /
    • 한국컴퓨터정보학회 2015년도 제51차 동계학술대회논문집 23권1호
    • /
    • pp.187-188
    • /
    • 2015
  • 본 논문에서는 IK 리깅을 이용한 캐릭터 콘텐츠 영상 제작을 제안한다. IK 콘텐츠를 2D와 3D로 제작할 수 있는데 본 연구에서는 2D로 캐릭터의 이미지를 레이어로 제작하고, IK의 bone은 스크립트로 생성하였다. 따라서 인체의 각 관절에 해당하는 부위에 리깅을 부여하여 자유로운 캐릭터를 제작하였고, 이러한 캐릭터의 제작은 모션 캡처 제작비용에 비해서 상당히 비용부담이 적은 경제성을 나타내고, 다양한 영역에서 활용 할 수 있다고 사료한다.

  • PDF

모바일 환경에서의 센서 프레임워크에 대한 제안 (A Proposal of Sensor Framework Architecture in the Mobile Environment)

  • 최은영;배두환
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2007년도 추계학술발표대회
    • /
    • pp.888-890
    • /
    • 2007
  • 최근 유비쿼터스가 활성화되면서 센서에 대한 관심이 높아지게 되었고, 모바일 환경에서의 센서 프레임워크에 대한 정의가 명확히 이루이지지 않은 상황에서 지금까지 센서 데이터를 얻어오는 주체는 어플리케이션에 있었다. 본 논문에서는 모바일 기기에서 여러 가지 센서를 관리하고 센서 데이터를 가져오기 위한 센서 프레임워크를 레이어드 아키텍처로 제안하고 제안된 센서 프레임워크에 대한 효용성에 대해 논의한다.

스마트 능동 레이어 센서 개발 (II): 저작 및 적용 연구 (Development of Smart Active Layer Sensor (II): Manufacturing and Application)

  • 이영섭;이상일;권재화;윤동진
    • 비파괴검사학회지
    • /
    • 제24권5호
    • /
    • pp.476-486
    • /
    • 2004
  • 본 논문은 두 편으로 구성된 스마트능동레이어 (smart active layer, SAL) 센서 개발에 관한 두 번째 것이다. 이미 첫 번째 논문에서 언급되었지만, 구조물 건전성 감시 (structural health monitoring, SHM)는 구조물 안전 감시의 비용과 편리성을 개선하기 위한 방법으로서, 산업현장에서 그 응용이 점차 증가하는 새로운 기술이며, 최근 실제 응용을 하기 위한 스마트 센서의 개발 및 연구가 매우 활발하다. 본 논문에서는 첫 번째 논문에 기술된 SAL 센서의 이론 및 개념 연구에 이어서 실제 제작 및 적용연구에 관해 기술한다. 본 연구에서는 탄성파 감지를 위한 스마트 압전 센서 SAL을 개발하였는데, 압전 소자, 전자기파 차폐층 (EMI shielding lave.) 및 보호 층(protection layer)으로 구성되었다. 보호층에 일정 간격으로 분포된 압전 센서가 부착되고, 이들을 전기적으로 연결하는 회로층이 위치하고 있다. 모두 4종류의 SAL 센서가 설계, 제작 및 시험되었으며 이에 대해 상세히 기술하고 있다. 본 연구를 통해 SAL 센서는 SHM의 수행과 탄성파에 의한 손상 위치를 표정하는데 적용 가능할 것으로 예상된다.