Martian image classification based on iterative pruning VGGNet

LIU Meng; LIU Jin; YIN Li-jun; KANG Zhi-wei; MA Xin

doi:10.37188/CJLCD.2022-0229

您当前的位置：

首页 >

文章列表页 >

Martian image classification based on iterative pruning VGGNet

Image Processing | 更新时间：2023-04-10

- Martian image classification based on iterative pruning VGGNet
- Chinese Journal of Liquid Crystals and Displays Vol. 38, Issue 4, Pages: 507-514(2023)
- 作者机构：
  
  1.武汉科技大学信息科学与工程学院，湖北武汉 430081
  2.湖南大学信息科学与工程学院，湖南长沙 410082
  3.北京航空航天大学仪器科学与光电工程学院，北京 100191
- 作者简介：
- 基金信息：
  
  General Program of National Natural Science Foundation of China(61873196;61772187);Project of Innovation and Entrepreneurship Training of Undergraduate of Wuhan University of Science and Technology(22Z096)
- DOI：10.37188/CJLCD.2022-0229
  CLC： TP391.4;TP181
- Received：05 July 2022，
  
  Revised：17 August 2022，
  
  Published：05 April 2023
- 稿件说明：
移动端阅览
LIU Meng, LIU Jin, YIN Li-jun, et al. Martian image classification based on iterative pruning VGGNet[J]. Chinese journal of liquid crystals and displays, 2023, 38(4): 507-514.
DOI：

LIU Meng, LIU Jin, YIN Li-jun, et al. Martian image classification based on iterative pruning VGGNet[J]. Chinese journal of liquid crystals and displays, 2023, 38(4): 507-514. DOI： 10.37188/CJLCD.2022-0229.

摘要

VGGNet能提供高精度的火星图像分类，但需消耗大量内存资源。鉴于器载计算机内存资源有限，为解决这一矛盾，本文提出了基于迭代剪枝VGGNet的火星图像分类方法。首先，采用迁移学习训练网络的连通性，以便评估神经元的重要性；其次，通过迭代剪枝方法修剪不重要的神经元，以便将全连接层的参数量和内存占用量减少；最后，采用K-means++聚类实现权重参数的量化，利用霍夫曼编码压缩迭代剪枝与量化后的VGGNet权重参数，达到减少存储量和浮点数运算量的作用。此外，通过5种数据增强方法进行数据扩充，目的是解决类别不平衡的问题。实验结果表明，压缩后的VGGNet模型的所占内存、Flops和准确率分别为62.63 Mb、150.6 MFlops和96.15%。与ShuffleNet、MobileNet和EfficientNet等轻量级图像分类算法相比，所提模型具有更好的性能。

Abstract

VGGNet can provide high-precision Martian image classification， but consumes vast memory resources. Considering the limitation of memory resources of the onboard computer， a Martian image classification method based on iterative pruning VGGNet is proposed to solve this contradiction. Firstly， the transfer learning is used to train the connectivity of the network in order to evaluate the importance of neurons. Secondly， to reduce the number of fully connected layer parameters and memory consumption， the iterative pruning method is used to prune unimportant neurons. Finally， K-means++ clustering is used to quantify the weight parameters， and Huffman coding compresses the weight parameters of VGGNet after iterative pruning and quantization to reduce the storage capacity and floating point arithmetic. Furthermore， the data augmentation is carried out through five data augmentation methods to address the class imbalance. Experimental results show that the memory， Flops and accuracy of the compressed VGGNet model are 62.63 Mb， 150.6 MFlops and 96.15%， respectively. Compared with lightweight image classification algorithms such as ShuffleNet， MobileNet and EfficientNet， the performance of the proposed model is better.

关键词

Keywords

references

HASKIN L A ， WANG A L ， JOLLIFF B L ， et al . Water alteration of rocks and soils on Mars at the Spirit rover site in Gusev Crater ［J］. Nature ， 2005 ， 436 （ 7047 ）： 66 - 69 . doi: 10.1038/nature03640 http://dx.doi.org/10.1038/nature03640

SQUYRES S W ， KNOLL A H ， ARVIDSON R E ， et al . Two years at meridiani planum： results from the opportunity rover ［J］. Science ， 2006 ， 313 （ 5792 ）： 1403 - 1407 . doi: 10.1126/science.1130890 http://dx.doi.org/10.1126/science.1130890

CHRISTENSEN P R ， WYATT M B ， GLOTCH T D ， et al . Mineralogy at meridiani planum from the mini-TES experiment on the opportunity rover ［J］. Science ， 2004 ， 306 （ 5702 ）： 1733 - 1739 . doi: 10.1126/science.1104909 http://dx.doi.org/10.1126/science.1104909

MCSWEEN JR H Y . Petrology on mars ［J］. American Mineralogist ， 2015 ， 100 （ 11/12 ）： 2380 - 2395 . doi: 10.2138/am-2015-5257 http://dx.doi.org/10.2138/am-2015-5257

LI J L ， ZHANG L ， WU Z C ， et al . Autonomous Martian rock image classification based on transfer deep learning methods ［J］. Earth Science Informatics ， 2020 ， 13 （ 3 ）： 951 - 963 . doi: 10.1007/s12145-019-00433-9 http://dx.doi.org/10.1007/s12145-019-00433-9

房建成，宁晓琳，刘劲 . 航天器自主天文导航原理与方法（第2版）［M］. 北京：国防工业出版社， 2017 .

FANG J C ， NING X L ， LIU J . Principles and Methods of Spacecraft Celestial Navigation （ Second Edition ）［M］. Beijing ： National Defense Industry Press ， 2017 . （in Chinese）

CHAKRAVARTHY A S ， ROY R ， RAVIRATHINAM P . MRSCAtt： a spatio-channel attention-guided network for Mars rover image classification ［C］// Proceedings of 2021 IEEE/CVF Conference on Computer Vision and Pattern Recognition Workshops . Nashville ： IEEE ， 2021 ： 1961 - 1970 . doi: 10.1109/cvprw53098.2021.00224 http://dx.doi.org/10.1109/cvprw53098.2021.00224

SHANG C J ， BARNES D . Fuzzy-rough feature selection aided support vector machines for Mars image classification ［J］. Computer Vision and Image Understanding ， 2013 ， 117 （ 3 ）： 202 - 213 . doi: 10.1016/j.cviu.2012.12.002 http://dx.doi.org/10.1016/j.cviu.2012.12.002

WAGSTAFF K ， LU Y ， STANBOLI A ， et al . Deep Mars： CNN classification of mars imagery for the PDS imaging atlas ［J］. Proceedings of the AAAI Conference on Artificial Intelligence ， 2018 ， 32 （ 1 ）. doi: 10.1609/aaai.v32i1.11404 http://dx.doi.org/10.1609/aaai.v32i1.11404

LU S ， WAGSTAFF K L ， ALANIS R ， et al . Tutorial： how to access， process， and label PDS image data for machine learning ［J］. Machine Learning for Planetary Science ， 2022 ： 91 - 110 . doi: 10.1016/b978-0-12-818721-0.00013-6 http://dx.doi.org/10.1016/b978-0-12-818721-0.00013-6

柳思聪，童小华，刘世杰，等 . “天问一号” 着陆区遥感形貌建模与制图分析［J］. 深空探测学报， 2022 ， 9 （ 3 ）： 1 - 10 .

LIU S C ， TONG X H ， LIU S J ， et al . Topography modeling， mapping and analysis of china’s first mars mission tianwen-1 landing area from remote sensing images ［J］. Journal of Deep Space Exploration ， 2022 ， 9 （ 3 ）： 338 - 347 . （in Chinese）

王旖旎 . 基于Inception V3的图像状态分类技术［J］. 液晶与显示， 2020 ， 35 （ 4 ）： 389 - 394 . doi: 10.3788/yjyxs20203504.0389 http://dx.doi.org/10.3788/yjyxs20203504.0389

WANG Y N . Image classification technology based on inception V3 ［J］. Chinese Journal of Liquid Crystals and Displays ， 2020 ， 35 （ 4 ）： 389 - 394 . （in Chinese） . doi: 10.3788/yjyxs20203504.0389 http://dx.doi.org/10.3788/yjyxs20203504.0389

SIMONYAN K ， ZISSERMAN A . Very deep convolutional networks for large-scale image recognition ［J/OL］. arXiv ， 2014 ： 1409 . 1556 .

MA N N ， ZHANG X Y ， ZHENG H T ， et al . ShuffleNet V2： practical guidelines for efficient CNN architecture design ［C］// Proceedings of the 15th European Conference on Computer Vision . Munich ： Springer ， 2018 ： 122 - 138 . doi: 10.1007/978-3-030-01264-9_8 http://dx.doi.org/10.1007/978-3-030-01264-9_8

KOONCE B . MobileNetV3 ［M］//KOONCE B. Convolutional Neural Networks with Swift for Tensorflow . Berkeley， CA ： Apress ， 2021 ： 125 - 144 . doi: 10.1007/978-1-4842-6168-2_11 http://dx.doi.org/10.1007/978-1-4842-6168-2_11

KOONCE B . EfficientNet ［M］//KOONCE B. Convolutional Neural Networks with Swift for Tensorflow . Berkeley， CA ： Apress ， 2021 ： 109 - 123 . doi: 10.1007/978-1-4842-6168-2_10 http://dx.doi.org/10.1007/978-1-4842-6168-2_10

MCSWEEN H Y ， ARVIDSON R E ， BELL III J F ， et al . Basaltic rocks analyzed by the spirit rover in Gusev Crater ［J］. Science ， 2004 ， 305 （ 5685 ）： 842 - 845 . doi: 10.1126/science.3050842 http://dx.doi.org/10.1126/science.3050842

MCSWEEN H Y ， WYATT M B ， GELLERT R ， et al . Characterization and petrologic interpretation of olivine-rich basalts at Gusev Crater， Mars ［J］. Journal of Geophysical Research： Planets ， 2006 ， 111 （ E2 ）： E02 S 10 . doi: 10.1029/2005je002477 http://dx.doi.org/10.1029/2005je002477

MCSWEEN H Y ， RUFF S W ， MORRIS R V ， et al . Alkaline volcanic rocks from the Columbia Hills， Gusev Crater， Mars ［J］. Journal of Geophysical Research： Planets ， 2006 ， 111 （ E9 ）： E09 S 91 . doi: 10.1029/2006je002698 http://dx.doi.org/10.1029/2006je002698

MCSWEEN H Y ， RUFF S W ， MORRIS R V ， et al . Mineralogy of volcanic rocks in Gusev Crater， Mars： reconciling mössbauer， alpha particle X-ray spectrometer， and miniature thermal emission spectrometer spectra ［J］. Journal of Geophysical Research： Planets ， 2008 ， 113 （ E6 ）： E06 S 04 . doi: 10.1029/2007je002970 http://dx.doi.org/10.1029/2007je002970

SQUYRES S W ， AHARONSON O ， CLARK B C ， et al . Pyroclastic activity at home plate in Gusev Crater， Mars ［J］. Science ， 2007 ， 316 （ 5825 ）： 738 - 742 . doi: 10.1126/science.1139045 http://dx.doi.org/10.1126/science.1139045

SCHMIDT M E ， CAMPBELL J L ， GELLERT R ， et al . Geochemical diversity in first rocks examined by the Curiosity Rover in Gale Crater： Evidence for and significance of an alkali and volatile-rich igneous source ［J］. Journal of Geophysical Research： Planets ， 2014 ， 119 （ 1 ）： 64 - 81 . doi: 10.1002/2013je004481 http://dx.doi.org/10.1002/2013je004481

LI B H ， HOU Y T ， CHE W X . Data augmentation approaches in natural language processing： a survey ［J］. AI Open ， 2022 ， 3 ： 71 - 90 . doi: 10.1016/j.aiopen.2022.03.001 http://dx.doi.org/10.1016/j.aiopen.2022.03.001

ZUO C ， QIAN J M ， FENG S J ， et al . Deep learning in optical metrology： a review ［J］. Light： Science & Applications ， 2022 ， 11 （ 1 ）： 39 . doi: 10.1038/s41377-022-00714-x http://dx.doi.org/10.1038/s41377-022-00714-x

HE K M ， ZHANG X Y ， REN S Q ， et al . Deep residual learning for image recognition ［C］// Proceedings of 2016 IEEE Conference on Computer Vision and Pattern Recognition . Las Vegas ： IEEE ， 2016 ： 770 - 778 . doi: 10.1109/cvpr.2016.90 http://dx.doi.org/10.1109/cvpr.2016.90

IANDOLA F ， MOSKEWICZ M ， KARAYEV S ， et al . DenseNet： implementing efficient ConvNet descriptor pyramids ［J/OL］. arXiv ， 2014 ： 1404 . 1869 .

王苹 . 高精度视频配准算法中的静态图像配准算法［J］. 液晶与显示， 2020 ， 35 （ 6 ）： 612 - 618 . doi: 10.3788/yjyxs20203506.0612 http://dx.doi.org/10.3788/yjyxs20203506.0612

WANG P . Static image registration algorithm in high-precision video registration algorithm ［J］. Chinese Journal of Liquid Crystals and Displays ， 2020 ， 35 （ 6 ）： 612 - 618 . （in Chinese） . doi: 10.3788/yjyxs20203506.0612 http://dx.doi.org/10.3788/yjyxs20203506.0612

ONGKADINATA D ， PUTRI F P . Quality and size assessment of quantized images using K-Means++ clustering ［J］. Bulletin of Electrical Engineering and Informatics ， 2020 ， 9 （ 3 ）： 1183 - 1188 . doi: 10.11591/eei.v9i3.1985 http://dx.doi.org/10.11591/eei.v9i3.1985

Views

485

下载量

CSCD

Alert me when the article has been cited

提交

Tools

Publicity Resources

Neural architecture search combined with efficient attention for hyperspectral image classification

Remote sensing scene classification model based on improved ShuffleNetV2 network

Hyperspectral image classification based on spatial pyramid attention mechanism combined with ResNet

Reservoir computing based network for few-shot image classification

Diabetic retinopathy classification method based on cost sensitive regularization and EfficientNet

Related Author

WU Haibin

WANG Aili

LÜ Haoran

ZHANG Kang

CHEN Haisong

LI Ze

ZHAO Weichao

XU Huiwen

Related Institution

Heilongjiang Province Key Laboratory of Laser Spectroscopy Technology and Application， Harbin University of Science and Technology

School of Integrated Circuit， Shenzhen Polytechnic University

Digital Center， Changchun Institute of Optics， Fine Mechanics and Physics， Chinese Academy of Sciences

Heilongjiang Province Key Laboratory of Laser Spectroscopy Technology and Application， School of Measurement-Control Technology and Communications Engineering， Harbin University of Science and Technology

Integrated Data Center， State Grid Heilongjiang Electric Power Co. Ltd.

AI问答

Address：No.3888 Dong Nanhu Road, Changchun, Jilin, China 130033 Postal code：130033
Tel：0431-86176059 Email：yjxs@ciomp.ac.cn
Technical support is provided by Beijing Founder electronics co., LTD 吉ICP备11002662号-17 京公网安备11010802024621
It is recommended to read the content of this site in Chrome&IE9+. Please switch to extreme mode in browser 360.
Cookies We use cookies to help provide and enhance our service and tailor content. By continuing, you agree to the use of cookies.

⁰