Unsupervised Non-rigid Registration Network for 3D Brain MR images

3차원 뇌 자기공명 영상의 비지도 학습 기반 비강체 정합 네트워크

  • 오동건 (서울대학교 컴퓨터공학부) ;
  • 김보형 (한국외국어대학교 바이오메디컬공학부) ;
  • 이정진 (숭실대학교 컴퓨터학부) ;
  • 신영길 (서울대학교 컴퓨터공학부)
  • Received : 2019.09.09
  • Accepted : 2019.10.10
  • Published : 2019.10.31

Abstract

Although a non-rigid registration has high demands in clinical practice, it has a high computational complexity and it is very difficult for ensuring the accuracy and robustness of registration. This study proposes a method of applying a non-rigid registration to 3D magnetic resonance images of brain in an unsupervised learning environment by using a deep-learning network. A feature vector between two images is produced through the network by receiving both images from two different patients as inputs and it transforms the target image to match the source image by creating a displacement vector field. The network is designed based on a U-Net shape so that feature vectors that consider all global and local differences between two images can be constructed when performing the registration. As a regularization term is added to a loss function, a transformation result similar to that of a real brain movement can be obtained after the application of trilinear interpolation. This method enables a non-rigid registration with a single-pass deformation by only receiving two arbitrary images as inputs through an unsupervised learning. Therefore, it can perform faster than other non-learning-based registration methods that require iterative optimization processes. Our experiment was performed with 3D magnetic resonance images of 50 human brains, and the measurement result of the dice similarity coefficient confirmed an approximately 16% similarity improvement by using our method after the registration. It also showed a similar performance compared with the non-learning-based method, with about 10,000 times speed increase. The proposed method can be used for non-rigid registration of various kinds of medical image data.

비강체 정합은 임상적 필요성은 높으나 계산 복잡도가 높고, 정합의 정확성 및 강건성을 확보하기 어려운 분야이다. 본 논문은 비지도 학습 환경에서 3차원 뇌 자기공명 영상 데이터에 딥러닝 네트워크를 이용한 비강체 정합 기법을 제안한다. 서로 다른 환자의 두 영상을 입력받아 네트워크를 통하여 두 영상 간의 특징 벡터를 생성하고, 변위 벡터장을 만들어 기준 영상에 맞추어 다른 쪽 영상을 변형시킨다. 네트워크는 U-Net 형태를 기반으로 설계하여 정합 시 두 영상의 전역적, 지역적인 차이를 모두 고려한 특징 벡터를 만들 수 있고, 손실함수에 균일화 항을 추가하여 3차원 선형보간법 적용 후에 실제 뇌의 움직임과 유사한 변형 결과를 얻을 수 있다. 본 방법은 비지도 학습을 통해 임의의 두 영상만을 입력으로 받아 단일 패스 변형으로 비강체 정합을 수행한다. 이는 반복적인 최적화 과정을 거치는 비학습 기반의 정합 방법들보다 빠르게 수행할 수 있다. 실험은 50명의 뇌를 촬영한 3차원 자기공명 영상을 가지고 수행하였고, 정합 전·후의 Dice Similarity Coefficient 측정 결과 평균 0.690으로 정합 전과 비교하여 약 16% 정도의 유사도 향상을 확인하였다. 또한, 비학습 기반 방법과 비교하여 유사한 성능을 보여주면서 약 10,000배 정도의 속도 향상을 보여주었다. 제안 기법은 다양한 종류의 의료 영상 데이터의 비강체 정합에 활용이 가능하다.

Keywords

References

  1. 송영찬, 이정진, 신영길, "B-스플라인 기반 관심 영역 고정밀 비강체 정합 기법: 흉부 CT 영상에의 응용", 한국차세대컴퓨팅학회 논문지, 제12권, 제2호, pp.87-96, 2016. 4.
  2. 울라 아민, 아마드 자밀, 무하마드 칸, 메흐무르 이르판, 이미영, 박준렬, 백성욱, "키프레임의 딥특징을 사용하여 영화장면에서의 동작 인식", 한국차세대컴퓨팅학회 논문지, 제13권, 제3호, pp.7-14, 2017. 6.
  3. 이여진, 정다운, 유성준, 구영현, 박철호, 윤학림, 박종한, "병해충 검색을 위한 이미지 검색 및 인식 통합 시스템", 한국차세대컴퓨팅학회 논문지, 제13권, 제4호, pp.100-111, 2017. 8.
  4. 박현철, 이은지, 김윤재, 이상웅, "합성곱 신경망을 이용한 대장내시경 영상 분류", 한국차세대컴퓨팅학회 논문지, 제14권, 제1호, pp.89-98, 2018. 2.
  5. K. Marstal, F. Berendsen, M. Staring, and S. Klein, "SimpleElastix: a user-friendly multilingual library for medical image registration," Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition Workshop. pp.134-142, 2016.
  6. T. Vercauteren, X. Pennec, A. Perchant, and N. Ayache, "Diffeomorphic Demons: Efficient Non-Parametric Image Registration," NeuroImage. 45, 1, pp.S61-S72, Mar. 2009. https://doi.org/10.1016/j.neuroimage.2008.10.040
  7. B. B. Avants, C. L. Epstein, M. Grossman, and J. C. Gee, "Symmetric Diffeomorphic Image Registration with Cross-Correlation: Evaluating Automated Labeling of Elderly and Neurode-generative Brain," Medical Image Analysis. 12, 1, pp.26-41, Feb. 2008.
  8. J. Krebs, T. Mansi, H. Delingette, L. Zhang, F. C. Ghesu, S. Miao, A. K. Maier, N. Ayache, R. Liao, and A. Kamen, "Robust Non-Rigid Registration Through Agent-Based Action Learning," Medical Image Computing and Computer Assisted Intervention. 10433, pp.344-352, Sep. 2017.
  9. H. Sokooti, B. de Vos, F. Berendsen, B. P. F. Lelieveldt, I. Isgum, and M. Staring, "Nonrigid Image Registration Using Multi-scale 3D Convolutional Neural Networks," Medical Image Computing and Computer Assisted Intervention. 10433, pp.232-239, Sep. 2017.
  10. G. Wu, M. Kim, Q. Wang, B. C. Munsell, and D. Shen, "Scalable High-Performance Image Registration Framework by Unsupervised Deep Feature Representations Learning," IEEE Transactions on Biomedical Engineering. 63, 7, pp.1505-1516, Jul. 2016. https://doi.org/10.1109/TBME.2015.2496253
  11. M. Jaderberg, K. Simonyan, A. Zisserman, and K. Kavukcuoglu, "Spatial Transformer Networks," Advances in Neural Information Processing Systems. pp.2017-2025, Dec. 2015.
  12. B. D. de Vos, F. F. Berendsen, M. A. Viergever, M. Staring and I. Isgum, "End-to-End Unsupervised Deformable Image Registration with a Convolutional Neural Network," Deep Learning in Medical Image Analysis and Multimodal Learning for Clinical Decision Support. pp.204-212, Sep. 2017.
  13. A. Sheikhjafari, M. Noga, K. Punithakumar and N. Ray, "Unsupervised Deformable Image Registration with Fully Connected Generative Neural Network," International Conference on Medical Imaging with Deep Learning. Apr. 2018.
  14. O. Ronneberger, P. Fischer and T. Brox, "U-net: Convolutional Networks for Biomedical Image Segmentation," Medical Image Computing and Computer Assisted Intervention. 9351, pp.234-241, Nov. 2015.
  15. IXI Dataset. https://brain-development.org/ixi-dataset/
  16. B. Fischl, "FreeSurfer," NeuroImage. 62, 2, pp.774-781, Aug. 2012. https://doi.org/10.1016/j.neuroimage.2012.01.021
  17. A. Klein, J. Andersson, B. A. Ardekani, J. Ashburner, B. Avants, M. Chiang, G. E. Christensen, D. L. Collins, J. Gee, P. Hellier, J. H. Song, M. Jenkinson, C. Lepage, D. Rueckert, P. Thompson, T. Vercauteren, R. P. Woods, J. J. Mann and R. V. Parsey, "Evaluation of 14 Nonlinear Deformation Algorithms Applied to Human Brain MRI Registration," NeuroImage. 46, 3, pp.786-802, Jul. 2009. https://doi.org/10.1016/j.neuroimage.2008.12.037