DOI QR코드

DOI QR Code

Development of an Image Processing Algorithm for Paprika Recognition and Coordinate Information Acquisition using Stereo Vision

스테레오 영상을 이용한 파프리카 인식 및 좌표 정보 획득 영상처리 알고리즘 개발

  • Hwa, Ji-Ho (Dept. of Bio-Mechatronic Engineering, Sungkyunkwan University) ;
  • Song, Eui-Han (Dept. of Bio-Mechatronic Engineering, Sungkyunkwan University) ;
  • Lee, Min-Young (Dept. of Bio-Mechatronic Engineering, Sungkyunkwan University) ;
  • Lee, Bong-Ki (Dept. of Bio-Mechatronic Engineering, Sungkyunkwan University) ;
  • Lee, Dae-Weon (Dept. of Bio-Mechatronic Engineering, Sungkyunkwan University)
  • 화지호 (성균관대학교 바이오메카트로닉스학과) ;
  • 송의한 (성균관대학교 바이오메카트로닉스학과) ;
  • 이민영 (성균관대학교 바이오메카트로닉스학과) ;
  • 이봉기 (성균관대학교 바이오메카트로닉스학과) ;
  • 이대원 (성균관대학교 바이오메카트로닉스학과)
  • Received : 2015.07.09
  • Accepted : 2015.09.08
  • Published : 2015.09.30

Abstract

Purpose of this study was a development of an image processing algorithm to recognize paprika and acquire it's 3D coordinates from stereo images to precisely control an end-effector of a paprika auto harvester. First, H and S threshold was set using HSI histogram analyze for extracting ROI(region of interest) from raw paprika cultivation images. Next, fundamental matrix of a stereo camera system was calculated to process matching between extracted ROI of corresponding images. Epipolar lines were acquired using F matrix, and $11{\times}11$ mask was used to compare pixels on the line. Distance between extracted corresponding points were calibrated using 3D coordinates of a calibration board. Non linear regression analyze was used to prove relation between each pixel disparity of corresponding points and depth(Z). Finally, the program could calculate horizontal(X), vertical(Y) directional coordinates using stereo camera's geometry. Horizontal directional coordinate's average error was 5.3mm, vertical was 18.8mm, depth was 5.4mm. Most of the error was occurred at 400~450mm of depth and distorted regions of image.

본 연구에서는 파프리카 수확기 개발의 일환으로 엔드이펙터의 정확한 제어를 위하여 스테레오 영상으로 파프리카를 인식하고 인식된 파프리카의 공간 좌표를 획득하기 위하여 영상처리 알고리즘을 개발하고자 하였다. 먼저, 색상 정보를 이용하여 파프리카 영상을 추출하기 위하여 히스토그램 분석을 수행하였고 결과에 따른 임계값을 설정하였다. 임계값에 의해 추출된 파프리카 영역에 대해 스테레오 대응을 수행하기 위해 실험에 사용된 스테레오 영상의 F 행렬을 구하였고 이를 이용하여 에피폴라 선을 구하여 대응을 수행하였다. 대응을 수행 할 때는 색상 영상을 이용하여 강조 마스크와 컨벌루션을 통해 중심 픽셀과 수직, 수평방향 이웃 픽셀에 가중치를 적용하여 강조한 후 최소 자승 오차를 갖는 점을 대응점으로 추출하였다. 추출 된 대응 점간의 거리를 스테레오 영상의 기하학적인 관계를 이용하여 실제 거리를 계산하였고, 계산된 거리(Z)값을 이용하여 수평(X), 수직(Y) 방향 공간 좌표를 획득하였다. 그 결과 수평 방향 오차 평균 5.3mm, 수직 방향 오차 평균 18.8mm, 거리 오차 평균 5.4mm로 나타났으며, 거리 400~450mm 구간과 영상의 모서리 부분의 왜곡이 발생하는 부분에서 오차가 다른 구간에 비해 크게 나타나는 것을 확인 할 수 있었다.

Keywords

References

  1. E. Palau, A. Torregrosa, 1997, Mechanical Harvesting of Paprika Peppers in Spain, Journal of Agricultural Engineering Research V.66 no.3:195-201 https://doi.org/10.1006/jaer.1996.0133
  2. Fredriksson Johan, Enqvist Olof, Kahl Fredrik, 2014, Fast and Reliable Two-View Translation Estimation, Computer Vision and Pattern Recognition(CVPR), IEEE conference on 2014 June:1606-1612
  3. Ha, Y. S. and T. W. Kim. 2013. Design factor analysis of end effector for oriental melon harvesting robot in greenhouse cultivation. Protected Horticulture and Plant Factory, 22(3):1-7.(in Korean) https://doi.org/10.12791/KSBEC.2013.22.1.001
  4. Ha Y. S. Kim T. W., 2014, Development of Oriental Melon Harvesting Robot in Greenhouse Cultivation, Protected Horticulture and Plant Factory, vol. 23, No. 2:123-130.(in Korean) https://doi.org/10.12791/KSBEC.2014.23.2.123
  5. Hwa, J. H. Lee, B. K. Lee, M. Y. Lee, D. W., 2014, Research of Paprika Recognition and Corresponding Points Acquisition Algorithms for Automation of Paprika Harvesting, Sungkyunkwan university journal of biotechnology and bioengineering, vol. 20, No. 1, 13-17.(in Korean)
  6. Kang, S. J., 2014, HSI-Based Color Error-Aware Subpixel Rendering Technique, Journal of display technology v.10 no.4:251-254 https://doi.org/10.1109/JDT.2014.2304716
  7. Kim, D. G., 2014, A Study on the Improvement of Production and Export in Paprika Industry. MS Diss. Kyungsang Univ. p. 12.(in Korean)
  8. Lee, D. W. Kim H. T. Min B. R. Kim W. Kim D. W., 2000. Development of a end-effector for grapes harvester. Proceedings of the Bio-Environment Control 9(2):98-103.(in Korean)
  9. Rafael C. Gonzalez, Richard E. Woods, 2009, Digital Image Processing Third Edition, Pearson Prentice Hall, 407-414
  10. Richard Hartley, 2003, Multiple View Geometry in Computer Vision Second Edition, Cambridge University press, 239-360
  11. Um, Y. C. Choi, C. S. Seo, T. C. Lee, J. G. Jang, Y. A. Lee, S. G. Oh, S. S. Lee, H. J., 2013, Comparison of Growth and Yield by Sweet Pepper Varieties at Glass Greenhouse in Reclaimed land and Farms, Journal of Agriculture & Life Science, 47(6):33-41.(in Korean) https://doi.org/10.14397/jals.2013.47.6.33
  12. Yamamoto, S., S. Hayashi, H. Yoshida, K. Kobayashi, and K. Shigematsu. 2008. Development of an end effector for a strawberry-harvesting robot. Acta Horticulturae 801(1):565-572