DOI QR코드

DOI QR Code

Development of Methodology for Measuring Water Level in Agricultural Water Reservoir through Deep Learning anlaysis of CCTV Images

딥러닝 기법을 이용한 농업용저수지 CCTV 영상 기반의 수위계측 방법 개발

  • Joo, Donghyuk (Department of Rural and Bio-Systems Engineering & BK21 Education and Research Unit for Climate-smart Reclaimed-Tideland Agriculture, Chonnam National University) ;
  • Lee, Sang-Hyun (Department of Agricultural and Rural Engineering, Chungbuk National University) ;
  • Choi, Gyu-Hoon (Department of Rural and Bio-Systems Engineering, Chonnam National University) ;
  • Yoo, Seung-Hwan (Department of Rural and Bio-Systems Engineering & BK21 Education and Research Unit for Climate-smart Reclaimed-Tideland Agriculture, Chonnam National University) ;
  • Na, Ra (Department of Rural and Bio-Systems Engineering & BK21 Education and Research Unit for Climate-smart Reclaimed-Tideland Agriculture, Chonnam National University) ;
  • Kim, Hayoung (Department of Rural and Bio-Systems Engineering & BK21 Education and Research Unit for Climate-smart Reclaimed-Tideland Agriculture, Chonnam National University) ;
  • Oh, Chang-Jo (Research Planning Office, Rural Research Institute, KRC) ;
  • Yoon, Kwang-Sik (Department of Rural and Bio-Systems Engineering & BK21 Education and Research Unit for Climate-smart Reclaimed-Tideland Agriculture, Chonnam National University)
  • Received : 2022.04.22
  • Accepted : 2022.10.26
  • Published : 2023.01.31

Abstract

This study aimed to evaluate the performance of water level classification from CCTV images in agricultural facilities such as reservoirs. Recently, the CCTV system, widely used for facility monitor or disaster detection, can automatically detect and identify people and objects from the images by developing new technologies such as a deep learning system. Accordingly, we applied the ResNet-50 deep learning system based on Convolutional Neural Network and analyzed the water level of the agricultural reservoir from CCTV images obtained from TOMS (Total Operation Management System) of the Korea Rural Community Corporation. As a result, the accuracy of water level detection was improved by excluding night and rainfall CCTV images and applying measures. For example, the error rate significantly decreased from 24.39 % to 1.43 % in the Bakseok reservoir. We believe that the utilization of CCTVs should be further improved when calculating the amount of water supply and establishing a supply plan according to the integrated water management policy.

Keywords

Ⅰ. 서론

최근 기상이변으로 수자원 재해가 증가하고 있고, 이에 따라 현장에 CCTV 관제시스템이 구축 및 확산되고 있다 (Lee, 2014; Kim et al., 2020). 또한 한국농어촌공사 (2020)에서는 전체 13,327개소에 달하는 농업시설 관리를 위해 공사 관리 CCTV를 설치⋅확대할 뿐만 아니라 기존 재해⋅재난 감시 목적의 범위를 넘어 디지털 영상에서 사람, 사물 등 특정 객체나 재해 등 특정 상황을 자동으로 검출하고 식별하는 지능형 기술이 결합된 지능형 CCTV로 고도화시키고 있다.

과거부터 현재까지 원격지에서 현장 감시를 위한 CCTV 순기능에 대한 기대로 최근 4∼5년 동안 CCTV의 설치대수가 연평균 54%로 급증하고 있으며, 한국농어촌공사 또한 약 3,000여 개의 CCTV를 설치⋅운영하고 있다 (KRC, 2020). 이러한 환경에서 CCTV의 설치⋅운영과 관련하여 활용성을 제고하기 위해 지사 단위로 독립되어 운영 중인 영상정보를 지역단위로 묶고 본사의 용수시설통합운영관리시스템 (TOMS, Total Operation Management System)으로부터 CCTV 영상정보와 딥러닝 기술을 활용하여 통합물관리 정책에 따른 농업용수 공급수량의 정확한 계측 및 데이터를 구축하고, 축적된 데이터를 기반으로 적정 용수공급량 산정 및 공급계획 수립역량 제고를 지원하고자 하고 있다 (KRC, 2020).

일반적으로 농업기반시설 중 농업용 저수지의 재해 및 재난 관리 대응을 위해서는 수위데이터의 실시간 수집⋅분석과 이를 통한 농업용수 공급량 산정이 중요하다. 수위를 측정하기 위한 기존 측정 시스템으로는 센서의 종류에 따라 압력식, 초음파식, 영상정보를 이용한 방식 등 3가지의 종류로 구분할 수 있다. 하지만 압력식의 경우, 사통 내부로의 토사물 유입 및 퇴적 토사 등으로 인한 불확실성과 장기간 사용 시 센서를 빈번히 교체해야 하며, 초음파식의 경우, 정확도가 우수하나, 입사각, 습도 등에 따른 특성이 다양할 뿐만 아니라 설치 장소에 따라 설치 위치의 설계가 복잡한 면이 있다. 위 두 가지 수위측정시스템과는 다르게 영상정보를 이용한 방식에서는 실시간 수위 측정의 기준이 되는 목자판 영상 등의 확인이 가능할 뿐만 아니라 주변 환경의 다양한 정보가 포함되어 있어 신속한 유지⋅관리 및 신뢰성을 확보할 수 있다 (Kim et al., 2010; Bang et al., 2017).

한편, 2000년대 이후 GPU 등 하드웨어 기술의 급격한 발달과 기존 신경망 학습 과정 중 발생하는 문제를 해결하기 위한 지속적인 소프트웨어 공학적 트릭 연구에 따라 딥러닝 기술은 발전하고 있다. 이에 따라 객체인식 지능형 영상분석 기술 또한 발전되어 교통 및 생활안전, 시설물 관리 등 여러 분야에 있어 그 활용도가 증가하는 추세에 있다. 객체인식 지능형 영상분석 기술 알고리즘은 LeNet-5, AlexNet, VGGNet, ResNet 등 그 종류가 다양하며, 모두 영상 내 객체의 클래스를 분류, 인식하는 과정에서 뛰어난 성능을 보여주고 있다 (Go et al., 2017; Kim et al., 2020).

위와 같은 객체 인식 지능형 영상분석 기술 알고리즘의 발달과 함께 영상 기반 수위 측정 관련 연구가 국내⋅외에서 활발히 진행되고 있다. Kim et al. (2010)은 수위 측정 시 사용되는 목자판에 토사, 부유물, 조명 등에 의한 오염상태에 적응적인 영상 기반 수위 계측 기법을 제안하였다. 하지만 이 기법은 목자판이 있는 시설에만 적용가능하므로 모든 저수지에 일괄적으로 적용하기에는 한계가 있다. Hwang et al. (2013)은 영상 내의 수면 경계를 Mean-shift 알고리즘과 Watershed 기법을 통해 수위를 검출하는 방법을 제안하였으며, Yu et al.(2010)은 수위측정기법으로 수평엣지 분석을 도입하여 수면 및 마커를 인식하는 방법론을 제시하였다. Hong et al. (2014)은 현장에 적합한 지능형 CCTV 영상 기반의 자동수위감지 알고리즘 개발과 자동 수위감지 사전경고 시스템을 구축하였으며, CCTV 기종별 자동 수위감지 알고리즘의 성능을 평가하였다. 하지만 이 연구는 하천을 대상으로 하였으며, 농업용 저수지와 같이 관개기에 의해 수위변화가 큰 사상을 고려하는 데에 한계가 있다. Kim et al. (2015)은 참조용 광패턴을 교각이나 제방 등에 동적으로 조사하고, 카메라 장치로부터 조사된 광패턴 영상을 실시간 분석⋅처리하여 자동 수위측정 및 조사 대상까지의 거리 측정을 위한 새로운 방법을 제시하였다. Kim et al. (2020)은 주변 환경에 따라 오검출 현상이 있었던 기존 영상기반 수위감지 알고리즘의 한계점을 개선하기 위해 화소 개체를 가지고 영역을 확장하는 리전 그로잉(Region growing)기법을 활용하여 고도화된 수위감지 알고리즘을 제시하였지만 하천의 재난감시 목적에 초점이 맞춰진 연구로서 농업용 저수지의 수위인식과는 상이한 접근법을 가지고 있다. 일본의 Takagi et al. (2000)은 경사 수위표를 이용하여 정지수면의 수위검출 방법론을 제시하였고, Saito and Iwahashi (2006)은 동기가산 영상을 활용하여 수면인식의 정확성을 높이는 방법을 제안하였다. 네덜란드의 Bruhn et al.(2003)은 일정 간격의 영상을 비교하여 사물이나 표면의 운동 패턴을 분석하여 운동 방향 및 크기에 대한 정보를 얻는 방법인 Optical flow 기법을 수면의 수위 검출 방법론으로 제시하였다. 중국의 Wei and Zhang (2016)은 대상 영역에 만수가 되더라도 수위 검출이 가능한 GLCM 알고리즘을 적용하여 Texture 분석 기반의 수위검출 방법론을 제시하였다. 기존 연구는 대부분 하천의 정지 수면에 대한 수위 검출 방법론과 주변환경에 따른 오검출 현상의 보정에 대한 내용이 주를 이루고 있으며, 실시간 CCTV 영상에서의 수위정보 추출 및 이를 통한 수위 분류⋅검증과 CCTV 제어와 이미지 처리기술 개선방안까지 제시한 연구는 미비하였으며, 특히 농업용 저수지를 대상으로 딥러닝 알고리즘을 활용한 실시간 CCTV 영상의 수위 인식에 적용한 연구는 미비하였다.

본 연구에서는 충북지역의 5개 저수지에 설치된 1시간 단위 CCTV 영상자료를 한국농어촌공사 용수시설통합운영관리시스템 (TOMS)에서 수집하여 수리시설 운영에 기본이 되는 수위를 인식하였다. 수위계측의 자료 특성상 분류 및 검증에 있어 인력 및 시간이 많이 소요되며, 목자판과 같은 수위표가 없는 저수지가 다양하게 존재하여 일괄적으로 적용하기 어려운 점을 고려하여 딥러닝 알고리즘 모델 중 이미지 및 비디오 분야에서 흔히 사용되는 CNN (Convolutional Neural Network)을 활용하여 수위별 분류성능을 평가하고, 이를 통해 평균 에러율 개선방안 및 영상자료를 활용한 수위분석 과정의 보완사항을 도출해보고자 하였다.

Ⅱ. 재료 및 방법

본 연구에서는 한국농어촌공사 용수시설통합운영관리시스템 (TOMS)을 통해 획득한 충북 지역의 5개 저수지를 대상으로 구축된 CCTV 영상정보를 데이터 전처리한 후 CNN 중 ResNet-50 네트워크를 적용하여 특성 추출⋅최적화 학습을 진행하였고, 테스트 데이터 세트 (Test dataset)를 통해 예측 및 시각화하여 학습 모델의 수위별 분류 성능을 평가하였으며, 평균 에러율 분석을 통해 향후 CCTV 제어기술 및 이미지 처리기술에 대해 개선방안을 제시하였다. 본 연구의 흐름은 Fig. 1과 같다.

NGHHCI_2023_v65n1_15_f0001.png 이미지

Fig. 1 Flowchart of this study

1. CNN 기반 딥러닝 모델과 네트워크 구조

가. CNN 기반 딥러닝 모델구조

딥러닝은 여러 비선형 변환기법의 조합을 통해 다량의 데이터나 복잡한 자료속에서 핵심적인 내용 또는 기능을 요약하는 기계학습의 일종으로 컴퓨터비전, 음성인식, 자연어처리, 음성/신호처리 분야에 적용되며, 이중 CNN은 영상인식을 포함한 여러 영역에 적용되어 사용되고 있는 신경망 아키텍처이다.

일반적으로 CNN은 수십 또는 수백개의 계층을 가질 수 있으며, 각 계층은 CCTV로부터 수집된 영상 (이미지)의 서로 다른 특징을 추출한다. 또한 각각 수집된 이미지는 학습 과정에서 서로 다른 해상도의 필터가 적용되고, 컨볼루션된 각각의 이미지는 다른 계층의 입력으로 사용된다. 이때 적용되는 필터는 밝기, 경계 등 간단한 특징부터, 객체를 고유하게 정의하는 특징으로 복잡도를 증가시킬 수 있다.

CNN 구조는 다른 신경망 구조와 같이 입력계층 (input), 출력층 (ouput), 두 개의 층 사이에 여러 은닉층으로 구성된다. 또한 CCTV 영상으로부터 수위를 추출하기 위한 상세화하는 과정은 Fig. 2와 같다. CNN 구조에서 특징을 추출하기 위한 은닉층은 입력영상을 컨벌루션 필터에 통과시켜, 이미지의 특징을 활성화하기 위한 컨벌루션 층과 활성화된 특징을 전달하는하기 위해 활성화 또는 ReLU (Rectified Linear Unit)층, 비선형 다운샘플링을 수행하여 신경망이 학습해야 하는 파라미터의 개수를 줄여 출력을 단순화하기 위한 풀링 층으로 구성된다. 이와 같이 CNN은 Convolution과 Pooling을 반복적으로 사용하면서 불변하는 특징을 찾고, 그 특징을 입력데이터로 Fully-Connected 신경망에 전달하여 분류를 수행한다. 또한 그 특징을 입력데이터로 이미지 분류를 위해 이미지 특징을 추출하는 부분과 이미지 분류를 하는 부분 사이에 데이터 형태를 배열로 바꾸기 위해 Flatten 층이 있다. CCTV 영상의 경우, RGB 3차원 데이터를 Flatten 층이 1차원 데이터로 전환하고 완전연결 신경망 (Fully Connected)에 적용한 후 0과 9 사이의 숫자일 확률을 구하기 위한 소프트맥스 함수를 적용하여 최대 확률을 가진 값을 구하는 argmax 함수를 통해 이미지를 분류하여 영상으로부터 수위를 추출한다.

NGHHCI_2023_v65n1_15_f0002.png 이미지

Fig. 2 Traditional CNN architecture

나. CCTV 영상기반 수위추출을 위한 사전학습모델

CCTV 영상을 통한 수위추출 기법을 개발하기 위해 TOMS에 저장된 이미지를 활용하였으며, 전이학습을 통해 사전에 학습된 모델 (AlexNet, GoogleNet, ResNet 등)을 적용 후 분류된 수위 정보를 추출하였다. 대표적인 모델로 Caffe기반 알렉스넷은 ImageNet에서 정확도 84.7%를 나타냄과 동시에 비교적 구조가 간단하지만, 필터의 크기를 크게 하는 경우, 파라미터 수가 많아져 모델이 복잡해지고, 영상 이미지에서 정보를 추출하는 횟수가 적어 학습에 오류가 발생할 수도 있다. 이에 비해 ResNet-50 모델은 일부 기능을 학습하는 대신 잔여 학습을 사용하는 모델로 잔차는 단순히 해당 층의 입력에서 학습한 특징을 제외하는 특징이 있다. 또한 하나 이상의 층을 건너 뛰는 바로가기를 통해 인식의 속도와 분류 정확성을 높이는 방식으로, 50개 계층으로 구성된 CNN으로 ImageNet 데이터베이스의 1백만 개가 넘는 영상에 대해 훈련된 신경망의 사전 훈련된 모델을 통해 키보드, 마우스, 연필, 각종 동물 등 1,000가지 사물 범주로 분류할 수 있는 모델이다 (Cengil et al., 2017; Mukti et al., 2019). 이에 본 연구에서는 다양한 CNN 중에서 ResNet-50 모델을 적용하여 CCTV 영상분류를 수행하였다.

2. 딥러닝을 통한 CCTV 영상의 수위분석 방법

가. CCTV 영상 자료의 수집

일반적으로 CCTV 설치⋅운영 및 기술 등과 관련해서는 관련 지침 및 권고안을 제정하여 공표하고 있지만, 다양한 환경에서 개별 설치⋅운영되는 상황을 고려하면 영상분석을 위한 시스템 구축 및 유지관리가 어려운 실정이다. 현장에서 운영 중인 CCTV 시스템의 영상분석을 위한 시스템 구축을 위해서는 신규 설치와 더불어 기존 CCTV 시스템의 교체도 필요하지만, 예산확보 등의 문제점으로 인하여 현실적으로 매우 어려운 상황에 있다. 따라서 용도별 CCTV 시스템 호환성을 확보하고 영상관리 서버를 활용하여 이미지를 저장하는 것이 가장 효과적인 방안이라고 할 수 있다. CCTV 영상정보의 저장 방법은 크게 두 가지 방안으로 나누어진다. 먼저 웹을 통한 서비스를 하기 위한 시스템 구성 중 실시간 영상저장시스템은 시스템 부하 및 저장용량 관리 측면을 고려하여, 한국농어촌공사 지사에서 영상관리프로그램 (VMS, Video Management System) 서비스를 통해 저장⋅제공한다. 두 번째로 웹을 통해 제공되는 서비스에서는 현장에서 수집된 10분 단위 영상 이미지를 한국농어촌공사 본부에 있는 영상 스트리밍서버에서 실시간 스트리밍 표준프로토콜 (RSTP, Real Time Streaming Protocol)을 분석 및 디코딩하여, 용수시설통합운영관리시스템 서버에서 한국농어촌공사 본사에 제공 시 XML (eXtensible Markup Language) 방식으로 10분 단위 영상이미지 정보를 저장⋅제공하는 방법이 있다 (KRC, 2020).

본 연구에서는 스트리밍 서버의 부하를 최소화하면서 영상 저장이 가능한 직접 수집방안으로 이미지를 저장하였으며, 10분 1회, 1시간 1회 등의 이미지 저장 테스트와 데이터 수집량에 따라 과금이 발생하는 구조를 고려하여 충북지역 5개 저수지의 1시간 단위 영상을 저장하였다. Table 1, 2는 각각 연구대상지의 위치 및 제원과 연구지역별 이미지 저장 현황을 나타내었다.

Table 1 Specification of target reservoirs

NGHHCI_2023_v65n1_15_t0001.png 이미지

NGHHCI_2023_v65n1_15_f0003.png 이미지

Fig. 3 Reservoir location

Table 2 Details in the CCTV image storage systems by study reservoirs

NGHHCI_2023_v65n1_15_t0002.png 이미지

나. 수위분석을 위한 CCTV 영상 분류 및 정확도 검증 방법

딥러닝 영상 분석을 위해 저장한 충북 지역 5개 저수지의 1시간 영상자료는 6월 이후 저장하였지만, 저수율이 대부분 60%∼70% 이상의 값을 나타내었으며, 영상분류를 위해 각 5% 단위로 영상을 분류하였다. 하지만 목동저수지의 경우 80%∼90% 까지의 수집된 영상이 3∼8장으로 일부 구간의 학습이 제외되었다. 특히, 저수율별로 수집된 영상자료의 양이 불균형한 부분은 저수지 및 기상 특성에 의한 것으로 판단되며, 다른 저수율에 비해 특히 자료의 양이 적은 저수율의 경우에는 분류 성능이 낮은 값을 보이며, 이는 향후 장기간의 데이터 구축을 통해 해결가능할 것으로 분석된다. 테스트 데이터 세트는 각 저수율별로 무작위 영상자료 및 자료의 분포개수를 선정하여 구성하였으며, 다른 저수율에 비해 자료의 양이 적은 저수율에 대해서는 학습이 불가능하다고 판단되어 제외하였다. Table 3, 4는 저수지별 입력 영상자료의 개수와 딥러닝 분석 과정 중 학습에 적용한 테스트 데이터의 개수이며, Fig. 4는 대상 저수지별 최고 및 최저수위 이미지를 나타낸다.

Table 3 Number of input images processed for deep learning by water storage rates​​​​​​​

NGHHCI_2023_v65n1_15_t0003.png 이미지

Table 4 Number of test dataset for deep learning by water storage rates​​​​​​​

NGHHCI_2023_v65n1_15_t0004.png 이미지

NGHHCI_2023_v65n1_15_f0004.png 이미지

Fig. 4 Samples of CCTV images in case of maximum (left) and minimum (right) water leve​​​​​​​l

각 수위에 대해 학습된 영상분석 네트워크 모듈을 적용하여 결과를 도출하였으며, 1차 결과는 주간, 야간을 모두 포함하면서 Fig. 5과 같이 영상 취득과정에 발생한 오류 및 현장변화 (강우, 거미줄, 날파리 등)의 영상을 모두 반영하면서 인식 정확도를 판단하였다. 예측정확도 표출은 시설별 영상분류에 의한 예측정확도를 수치화하고, 분류의 정도를 단계별로 자료화하여 표출하였다.

NGHHCI_2023_v65n1_15_f0005.png 이미지

Fig. 5 Exaples of images filtered in the setup of datasets​​​​​​​

본 연구에서 영상취득지점의 수위데이터는 농업용 수리시설에 관련된 다양한 계측정보를 저장하고 있으며, 사용자가 용이하게 조회 및 저장이 가능한 한국농어촌공사 농촌용수종합정보시스템 (RAWRIS, Rural Agricultural Water Resource Information System)을 통해 획득하였으며, 수집된 수위데이터는 각 10분 데이터로 저장하여 DB를 구축하여 검증자료로써 활용하였다.

Ⅲ. 결과 및 고찰

1. 수위별 영상자료 분류 정확도 분석

충북 지역 5개 저수지의 평균 에러율 및 분류 성능은 Table 5와 같으며, 목동저수지의 경우, 저장된 이미지 개수가 적은 80%, 85%, 90%는 학습이 제외되었다. 특히, 저장된 영상의 개수가 많은 저수율 구간일수록 분류 정확도가 높으며, 적은 구간일수록 낮아지는 것으로 분석되었다.

Table 5 Average error rate and Classification performance by reservoir​​​​​​​

NGHHCI_2023_v65n1_15_t0005.png 이미지

Table 5를 보면 명경저수지를 제외한 4개 저수지에서는 저수율 100% 구간, 명경저수지의 경우 저수율 80, 95% 구간에서 가장 높은 분류성능을 보였으며, 기존 수집된 양에 따라 명경저수지에서는 85% 구간, 목동저수지 75% 구간, 미전저수지 90%, 박석저수지 85, 95%, 범화저수지 80, 85% 구간에서 가장 낮은 분류성능을 보였다. 특히 목동저수지에서는 저수율 80, 85%, 미전저수지에서는 저수율 100%에서 다른 저수율에 비해 수집된 자료의 양이 상당히 적어 학습이 불가능하였다. 이는 기존 수집된 자료의 양에 따라 분류성능이 크게 좌우되는 것으로 판단할 수 있으며, 저수율별 CCTV 이미지의 양과 질을 높이는 것이 분류성능을 개선하는 것으로 판단할 수 있다.

2. 수위 영상분석 성능 개선 방안 고찰

앞서 1차로 진행된 딥러닝 영상분석의 경우 오류 영상을 포함하여 분석이 시행되었으며, 실제 시스템 구축 시 오류를 최소화하는 측면에서 (야간, 안개, 강우, 이미지 저장 오류, 역광 등)을 제외하여 동일한 영상분석을 시행하였으며, 동일지점에 대한 평균 오류율 개선 효과를 검증하였다.

특히 기존에 분류된 영상 자료 중에 야간 영상, 저장 오류, 강우 영상 등을 제외하고 새로운 학습데이터를 구성하여 동일한 영상분석 절차를 시행하였을 때, 박석저수지의 경우 평균에러율이 24.39%에서 1.43%로 개선된 것으로 분석되었다. 하지만 저수율 85%의 경우 오류영상을 제외하였음에도 불구하고 예측클래스에서 14.3%의 오류율을 보인 것은 다른 저수율에 비해 자료의 양이 현저히 적어 발생하는 오류로 판단된다.

Fig. 6은 재학습을 위해 오류 이미지를 제외한 과정을 나타내었다.

NGHHCI_2023_v65n1_15_f0006.png 이미지

Fig. 6 Error images deletion process for re-learning​​​​​​​

Table 6 Average error rate performance improvement​​​​​​​

NGHHCI_2023_v65n1_15_t0006.png 이미지

평균 에러율 개선 결과에서 볼 수 있듯이 CCTV 영상 자료를 활용한 딥러닝 영상분석을 위해 가장 선행되어야 하는 것은 충분한 학습데이터라고 말할 수 있으며, 특히 오류 이미지(야간, 안개, 저장 오류 등)가 최소화된 영상 자료가 필요하다. 그러나 현재 한국농어촌공사에 설치된 CCTV의 대부분이 시설감시를 목적으로 설치되어 영상분석을 위해서는 부적합한 상태에 있다. 향후 고도화된 CCTV 영상자료 딥러닝 분석을 위해서는 짧은 간격 및 다수의 영상자료 확보와 오류 이미지를 최소화할 수 있는 프로시저의 독립적 운영, 야간 영상 촬영 시 조명을 설치하는 방안 등이 고려되어야 한다. 특히 수로부의 경우, Fig. 7과 같이 시기별로 다른 지점을 관리하는 현장의 상황을 고려하여 영상 취득 시 CCTV가 고장 난 부분의 위치로 이동시켜 저장하는 제어 기술이 필요하다.

NGHHCI_2023_v65n1_15_f0007.png 이미지

Fig. 7 An example of images simultaneously taken at different viewpoints​​​​​​​

본 연구에서는 용수시설통합운영관리시스템 (TOMS)의 저장된 저수지 전경을 촬영한 CCTV 영상을 통해 시설 전체의 정보를 얻을 수 있었지만, 수위변동 이미지가 상대적으로 너무 작게 나타나 실제 수위 변동이 이미지만으로 분류되지 않는 문제가 있었으며, 이는 세밀한 저수위 분류에 한계를 가지고 있다. 그렇기에 CCTV를 원격으로 제어하여 수위가 명확히 구분된 영상을 획득하는 것이 가장 좋은 방안이라고 할 수 있지만, 제어가 불가능한 경우에는 저수지 전경표시 영상의 여수토 부분을 확대하는 방안도 존재한다. 그러나 이미지 해상도가 낮아 실제로 수위변동을 정확히 구분하기 어려운 문제가 존재할 가능성이 있다. 이러한 상황의 경우에는 이미지 처리기법을 통해 해상도가 높은 영상을 생성하여 수위별 영상을 획득하여 분류 성능의 정확도를 높일 필요성이 있다. 또한 향후 고도화된 이미지 처리기법을 적용하여 안개, 폭우 등의 자연환경에 대한 오류를 최소화하기 위한 기술 개발도 필요하며, 이를 통해 더욱 신뢰할 수 있는 영상정보 획득과 분석을 제공할 것으로 기대된다. Fig. 8은 이미지 처리기술을 통한 영상 인식의 개선을 나타낸다.

NGHHCI_2023_v65n1_15_f0008.png 이미지

Fig. 8 An example of image improvement with image process techniques​​​​​​​

Ⅳ. 요약 및 결론

본 연구에서는 CNN 딥러닝 네트워크 중 ResNet-50을 적용하여 CCTV영상 정보를 통한 저수위 추정 기술을 개발하였고, 농촌용수종합정보시스템 (RAWRIS)의 저수율을 활용하여 검증하였다. 본 연구에서는 단순히 딥러닝 방법을 적용한다는 것이 아닌 다양한 딥러닝 방법 중 CCTV 이미지 분석에 적합한 딥러닝 방법을 분석하고, 이를 적용한 후 수위 분류 성능 및 CCTV 제어기술과 이미지 처리기술의 개선방안까지 제시한다는 점에서 기존의 딥러닝 분석 연구와는 차별성이 있다. 특히, 위성영상 이미지 또는 드론 영상 이미지가 아닌 시설물 관리에 주로 사용되는 CCTV 영상 이미지를 활용하였다는 점과 대표적인 농업용 수리시설인 농업용 저수지를 적용하였다는 점에서 농공분야의 발전에 기여할 것으로 판단된다. 특히, 실시간 관리를 위한 CCTV의 효용성을 확장하여 시설물 관리에 중요한 정보를 추출하는 방법을 개발함으로서 향후 실시간 정보추출 시스템 개발을 위한 기초모듈로서 본 연구의 의의가 있다. 특히, 본 연구에서는 CCTV 영상의 불확실성 개선을 위한 오류해석 부분을 포함함으로써 본 연구결과의 활용성을 높이고자 하였다. 예를 들어, 충북지역 5개 저수지의 경우 오류 이미지 (안개, 야간 및 강우 영상 등)에 의해 수위 분류 성능이 저하되는 현상을 발견하여 오류 이미지를 제외하여 분류 성능을 높이는 과정을 진행하였다. CCTV 저장 정보를 기반으로 수집되는 영상은 평균 약 10∼20% 정도 오류를 가지고 있는 것으로 확인되었으며, 이는 저수율 5% 단위 변화를 기준으로 보았을 때 큰 오류의 범위라고 할 수 있으며, 박석 저수지의 경우, 오류 영상을 제외한 수위분석의 평균에러율은 24.39%에서 1.43%로 이미지 처리 후 분류 성능이 초기에 비해 상당히 증가하는 것을 확인하였다. 따라서 본 연구는 수위계 및 인력에 의한 수위계측에서 오는 불확실성과 시간 절감 등을 해소하는 방법론으로써 제안할 수 있으며, 특히, 목자판과 같은 수위표가 없는 저수지에서도 일괄적으로 적용가능할 것으로 사료된다.

그러나 1년 동안 1시간 단위의 저수율별 영상자료를 분석하였기 때문에 다양한 저수율에서의 입력자료가 부족하였고, 따라서 본 연구의 모델이 다양한 규모의 범용적으로 적용가능한지에 대해서는 추가적인 연구가 필요하다. 특히, 본 연구에서 제시하는 CCTV 영상을 통한 수위정보 추출결과의 정확도를 높이기 위해서는 오류가 최소화된 학습용 데이터 (이미지)와 수위별로 학습가능한 충분한 양의 자료이며, 이를 위해서는 CCTV의 제어기술의 개선을 통한 명확한 수위자료의 수집 및 동일 수위표의 도입을 통한 자연환경의 오류를 최소화하는 방안이 필요하다.

이와 같은 한계점에도 불구하고 본 연구는 CCTV 영상정보와 딥러닝 기술의 개선을 통해 수위계측을 위한 인력 및 시간절감에 기여할 수 있을 뿐 아니라, 실시간 관리를 위한 기술을 실시간 정보추출이라는 기술로서 영역을 확장하는데 기여할 것으로 기대된다. 나아가 보다 정확한 물관리를 위한 물관리 시설 정보화 시스템 구축을 위한 요소기술로서 활용된 것으로 기대된다.

감사의 글

이 논문은 2021학년도 충북대학교 학술연구지원사업의 연구비 지원에 의하여 연구되었음.

References

  1. Bruhn, A., J. Weickert, C. Feddern, T. Kohlberger, and C. Schnorr, 2003. Real-time optic flow computation with variational methods. Computer Analysis of Images and Patterns, Groningen, The Netherlands, Aug. 25-Aug. 27, LNCS 2756, 222-229. doi:10.1007/978-3-540-45179-2_28
  2. Cengil, E., A. Cinar and E. Ozbay, 2017. Image classification with caffe deep learning framework. 2017 International Conference on Computer Science and Engineering (UBMK), 440-444, doi:10.1109/UBMK.2017.8093433.
  3. Ko, K. E., and K. B. Sim, 2017. Trend of object recognition and detection technology using deep learning. Journal of the Institute of Control, Robotics and Systems, 23(3): 17-24. (in Korean). https://doi.org/10.5302/J.ICROS.2017.17.0095
  4. Hwang, U., J. S. Yoo, and J. C. Jeong, 2013. Computer Vision based Water-level Detection. Proceedings of the Korean Society of Broadcast Engineers Conference, 303-306. (in Korean).
  5. Hong, S. W., Y. G. Park, and H. C. Lee, 2014. Experimental and Analytical Study on the Water Level Detection and Early Warning System with Intelligent CCTV. Journal of the Korea Society of Disaster Information, 10(1): 105-115. (in Korean). doi:10.15683/kosd.2014.10.1.105.
  6. Mukti, I. Z., and D. Biswas, 2019. Transfer Learning Based Plant Diseases Detection Using ResNet50. 4th International Conference on Electrical Information and Communication Technology (EICT), 1-6, doi:10.1109/EICT48899.2019.906 8805.
  7. Torres, J., 2016. First Contact with Tensorflow (Haeseon Park, Trans.), Hanbit Media, Inc., 117.
  8. Korea Rural Community Corporation (KRC). 2020. Water level analysis using cctv video informations. (in Korean).
  9. Kim, O. J., J. W. Lee, J. Y. Park, and M. H. Cho, 2020. A Study on the Improvement of Image-Based Water Level Detection Algorithm Using the Region growing. Korean Journal of Remote Sensing, 36(5-4): 1245-1254. (in Korean). doi:10.7780/kjrs.2020.36.5.4.9.
  10. Kim, N. W., S. C. Son, M. S. Lee, G. H. Min, and B. T. Lee, 2015. Active Water-Level and Distance Measurement Algorithmusing Light Beam Pattern. Journal of the Institute of Electronics and Information Engineers, 52(4): 156-163. (in Korean). doi:10.5573/ieie.2015.52.4.156.
  11. Kim, J. D., Y. G. Han, and H. S. Hahn, 2010. Image-based Water Level Measurement Method Adapting to Ruler's Surface Condition. Journal of the Korea Society of Computer and Information, 15(9): 67-76. (in Korean). doi:10.9708/jksci.2010.15.9.067.
  12. Lee, N. J., and K. K. Yu, 2017. A Novel Method to Measure River Water Stage by Using Spatio-Temporal Image Analyses. Journal of the Korea Society of Hazerd Mitigation, 17(2): 461-469. (in Korean). doi:10.9798/KOSHAM.2017.17.2.461.
  13. Lee, J. M., 2014. The importance of safety management and subsequent damage management of agricultural production infrastructure in response to changes. Magazine of the Korean Society of Agricultural Engineers, 56(3): 38-46. (in Korean).
  14. Lee, E. H., J. Y. Nam, and B. C. Ko, 2015. Speed-limit Sign Recognition Using Convolutional Neural Network Based on Random Forest. Journal of Broadcast Engineering, 20(6): 938-949. (in Korean). doi:10.5909/JBE.2015.20.6.938.
  15. National Disaster Management Research Institute (NDMI), 2012. The practical study of flood forecasting and warning system with auto water level detection process using intellingent CCTV. (in Korean).
  16. Seo, M. B., C. J. Lee, and D. G. Kim, 2013. A Water Surface Detection Method by Correlation Analysis of Watermark Images with Time Interval. Journal of the Korea Academia-Industrial Cooperation Society, 14(1): 470-477. (in Korean). doi:10.5762/KAIS.2013.14.1.470.
  17. Saito, A., and M. Iwahashi, 2006. Water level detection algorithm based on synchronous frame addition and filtering. Proceedings of the 19th Workshop on Circuits and Systems in Karuizawa, 525-530. (in Japanese).
  18. Takagi, Y., H. Mori, A. Tsujikawa, T. Saito, and K. Karube, 2000. The geometrical and optical analysis concerning the feature of the water surface interface of an inclined plate which is used the water level measuring. J. of EICA, 4(4): 9-18. (in Japanese).
  19. Kim, T. W., H. S. Moon, and J. H. Kim, 2020. The Study on CNN based Helicopter Type Classification Model. Journal of Institute of Control, Robotics and Systems, 26(6): 479-486. (in Korean). doi:10.5302/J.ICROS.2020.20.0017.
  20. Wei, Y., and Y. Zhang, 2016. Effective Waterline Detection of Unmanned Surface Vehicles Based on Optical Images. Sensors, 16(10). (in Chinese) doi:10.3390/s16101590.
  21. Yu, J., and H. Hahn, 2010. Remote detection and monitoring of a water level using narrow band channel. Journal of Information Science and Engineering, 26(1): 71-82. (in Korean). doi:10.6688/JISE.2010.26.1.6.