高级检索

ISSN1001-3806CN51-1125/TN 网站地图

留言板

尊敬的读者、作者、审稿人, 关于本刊的投稿、审稿、编辑和出版的任何问题, 您可以本页添加留言。我们将尽快给您答复。谢谢您的支持!

姓名
邮箱
手机号码
标题
留言内容
验证码

结合K-L散度和互信息的无监督波段选择算法

王琪 杨桄 张俭峰 向英杰 田张男

引用本文:
Citation:

结合K-L散度和互信息的无监督波段选择算法

    作者简介: 王琪(1993-), 女, 硕士研究生, 现主要从事高光谱图像波段选择的研究.
    通讯作者: 杨桄, yg2599@126.com
  • 基金项目:

    吉林省科技发展计划资助项目 20140101213JC

    吉林省教育厅"十二五"科研资助项目 2015448

  • 中图分类号: TP751.1

Unsupervised band selection algorithm combined with K-L divergence and mutual information

    Corresponding author: YANG Guang, yg2599@126.com ;
  • CLC number: TP751.1

  • 摘要: 波段选择是重要的高光谱图像降维手段。为了达到降维的目的,提出结合K-L散度和互信息的无监督波段选择算法,并进行了理论分析和实验验证。首先选出信息熵最大的波段作为初始波段,然后将散度与互信息量的比值定义为联合散度互信息(KLMI)准则,选择KLMI值大且信息量也大的波段加入波段子集中,选出信息量大且相似度低的波段集合,最终利用k最近邻分类算法实现了基于最大方差主成分分析算法、聚类算法、互信息算法和本文中方法的真实高光谱数据分类实验。结果表明,本文中的算法总体分类精度和κ系数均达到0.8以上,高于其它算法;大多数地物的分类精度均得到提升,具有较好的分类性能。该算法是一种实用的高光谱图像降维算法。
  • Figure 1.  Synthetic false color image and real markings image

    Figure 2.  The results of band selection

    Figure 3.  Overall classification accuracy of different samples with various bands

    a—5% samples b—10% samples

    Table 1.  Comparison of band selection results and information

    band selection algorithm MVPCA MI AP K-L proposed algorithm
    band selection results 8, 20, 36, 62, 63, 69, 70, 72, 92, 95 9, 32, 30, 23, 13,89, 57, 97, 100, 110 112, 113, 31, 114, 121,125, 156, 127, 164, 51 15, 49, 33, 87, 21, 63, 101, 99, 71, 56 112, 42, 31, 40, 108, 51, 120, 150, 21, 9
    sum of entropy 67.1277 67.4139 67.0094 67.1058 67.7815
    下载: 导出CSV

    Table 2.  Classification accuracy of various types of objects (5% samples)

    class training samples test samples MVPCA MI AP algorithm in this paper
    alfalfa 23 23 0.53 0.43 0.38 0.94
    corn-N 34 1394 0.49 0.65 0.64 0.71
    corn-M 27 803 0.49 0.55 0.64 0.69
    corn 25 212 0.37 0.40 0.47 0.66
    grass-M 27 456 0.80 0.83 0.91 0.94
    grass-T 26 704 0.90 0.90 0.92 0.99
    grass-P 14 14 0.57 0.56 0.86 0.86
    hay-W 27 451 0.97 0.98 0.98 1.00
    oats 10 10 0.27 0.36 0.60 0.93
    soybean-N 30 942 0.62 0.63 0.76 0.84
    soybean-M 31 2424 0.64 0.77 0.79 0.81
    soybean-C 28 565 0.38 0.52 0.47 0.58
    wheat 25 180 0.91 0.89 0.98 0.99
    woods 30 1235 0.90 0.93 0.94 0.96
    buildings 27 359 0.38 0.53 0.47 0.77
    stone 26 67 0.86 0.86 0.90 0.96
    OA 0.65 0.71 0.76 0.82
    κ 0.61 0.69 0.70 0.81
    下载: 导出CSV

    Table 3.  Classification accuracy of various types of objects (10% samples)

    class training samples test samples MVPCA MI AP algorithm in this paper
    alfalfa 23 23 0.28 0.71 0.7 0.79
    corn-N 89 1428 0.64 0.60 0.74 0.74
    corn-M 73 830 0.75 0.60 0.71 0.81
    corn 66 237 0.49 0.49 0.49 0.64
    grass-M 71 730 0.96 0.86 0.88 0.82
    grass-T 81 478 0.73 0.92 0.94 0.98
    hrass-P 14 28 0.47 0.57 0.83 0.62
    hay-W 71 478 0.89 0.96 0.99 0.99
    oats 10 10 0.44 0.47 0.58 0.47
    soybean-N 76 896 0.76 0.74 0.71 0.72
    soybean-M 112 2343 0.66 0.71 0.85 0.87
    soybean-C 68 525 0.52 0.47 0.72 0.78
    wheat 67 138 0.97 0.93 0.94 0.98
    woods 89 1176 0.86 0.90 0.96 0.99
    buildings 68 318 0.72 0.45 0.62 0.91
    stone 47 46 0.20 0.91 0.88 0.91
    OA 0.71 0.72 0.81 0.85
    κ 0.63 0.69 0.75 0.82
    下载: 导出CSV
  • [1]

    ZHANG B.Current progress of hyperspectral remote sensing in China[J].Journal of Remote Sensing, 2016, 20(5):1062-1090(in Chinese). 
    [2]

    BIOUCAS-DIAS J M, PLAZA A, CAMPS-VALLS G, et al. Hyperspectral remote sensing data analysis and future challenges[J]. IEEE Geoscience & Remote Sensing Magazine, 2013, 1(2):6-36. 
    [3]

    XIANG Y J, YANG G, ZHANG J F, et al.Dimensionality reduction for hyperspectral imagery manifoldlearning based on spectral gradient angles[J].Laser Technology, 2017, 41(6):921-926(in Chinese). 
    [4]

    QIN F J, ZHANG A W, WANG Sh M, et al.Hyperspectral band selection based on spectral clustering and inter-class separability factor[J].Spectroscopy and Spectral Analysis, 2015, 35(5):1357-1364(in Chinese). 
    [5]

    TAN Y Q.Unsupervised band selection for hyperspectral image based on multiobjective optmization[D].Xi'an: Xidian University, 2014: 19-21(in Chinese).
    [6]

    MYRONENKO A, SONG X. Point set registration:Coherentpoint drifts[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2010, 32(12):2262-2275. doi: 10.1109/TPAMI.2010.46
    [7]

    CHENG H, WANG Zh Q, ZHANG Y Y.Research on geometric rectification of aerial images[J].Journal of Northeast Normal University, 2009, 41(3):50-54(in Chinese). 
    [8]

    BATTITI R. Using mutual information for selecting features in supervised neural net learning[J].IEEE Transactions on Neural Networks, 1994, 5(4):537-550. doi: 10.1109/72.298224
    [9]

    KWAK N, CHOI Ch H. Improved mutual information feature selector for neural networks in supervised learning[C]//Proceeding of 1999 International Joint Conference on Neural Networks.New York, USA: IEEE, 1999: 1313-1318. 
    [10]

    LIU X S, GE L, WANG B, et al.An unsupervised band selection algorithm for hyperspectral imagery based on maximal information[J].Journal of Infrared and Millimeter Waves, 2012, 31(2):166-176(in Chinese). doi: 10.3724/SP.J.1010.2012.00166
    [11]

    SHI Y, EBERHART R. A modified particle swarm optimizer[J].IEEE Xplore, 1998, 7803(5):69-73. 
    [12]

    KULLBACK S. Information theory and statistics[M]. New York, USA:John Wiley and Sons, 1959:55-70.
    [13]

    ZHOU Y, LI X R, ZHAO L Y. Modified linear-prediction based band selection for hyperspectral image[J].Atca Optica Sinica, 2013, 33(8):0828002(in Chinese). doi: 10.3788/AOS
    [14]

    LANDGREBE D. Multispectral data analysis: A signal theory perspective[R]. West Lafayette, USA: Purdue University, 1998: 56-89.
    [15]

    YANG J, HUA W Sh, LIU X, et al.Band selection algorithm for hyperspectral imagery based on K-L divergence and spectral divisibility distance[J].Journal of Applied Optics, 2014, 35(1):71-75(in Chinese). 
  • [1] 齐永锋马中玉 . 邻域谱概率协同表示的高光谱图像分类方法. 激光技术, 2019, 43(4): 448-452. doi: 10.7510/jgjs.issn.1001-3806.2019.04.003
    [2] 熊羽左小清黄亮陈震霆 . 基于多特征组合的彩色遥感图像分类研究. 激光技术, 2014, 38(2): 165-171. doi: 10.7510/jgjs.issn.1001-3806.2014.02.005
    [3] 龚文娟董安国韩雪 . 基于波段指数的高光谱影像波段选择算法. 激光技术, 2017, 41(4): 507-510. doi: 10.7510/jgjs.issn.1001-3806.2017.04.010
    [4] 严阳华文深张炎崔子浩刘恂 . 基于波段选择改进的高光谱端元提取方法. 激光技术, 2019, 43(4): 574-578. doi: 10.7510/jgjs.issn.1001-3806.2019.04.024
    [5] 张昕怡陈茂霖刘祥江姬翠翠赵立都 . 顾及点密度与未知角分辨率的地面点云分类. 激光技术, 2023, 47(1): 59-66. doi: 10.7510/jgjs.issn.1001-3806.2023.01.009
    [6] 杨晔张镇西蒋大宗 . 激光散射技术在细胞计数及分类中的应用. 激光技术, 1997, 21(4): 231-236.
    [7] 刘翠连陶于祥罗小波李青妍 . 混合卷积神经网络的高光谱图像分类方法. 激光技术, 2022, 46(3): 355-361. doi: 10.7510/jgjs.issn.1001-3806.2022.03.009
    [8] 金椿柏杨桄雷岩吴迪刘文婧 . Relief-F筛选波段的植被伪装揭露研究. 激光技术, 2022, 46(1): 125-128. doi: 10.7510/jgjs.issn.1001-3806.2022.01.013
    [9] 吴香伟郭宝峰陈春种沈宏海 . 基于加权组合核RX算法异物检测及其参量选择. 激光技术, 2015, 39(6): 745-750. doi: 10.7510/jgjs.issn.1001-3806.2015.06.003
    [10] 薛芳谭勇邬志强王玉诏 . 基于激光遥感的酒驾遥感探测技术研究. 激光技术, 2019, 43(1): 93-97. doi: 10.7510/jgjs.issn.1001-3806.2019.01.019
    [11] 孙越娇雷武虎胡以华赵楠翔任晓东 . 基于视觉显著模型的遥感图像舰船快速检测. 激光技术, 2018, 42(3): 379-384. doi: 10.7510/jgjs.issn.1001-3806.2018.03.017
    [12] 吴建军李磊方平凯孟小前谭均铭 . 电力巡线直升机激光扫描数据的高效组织与显示. 激光技术, 2019, 43(3): 318-323. doi: 10.7510/jgjs.issn.1001-3806.2019.03.006
    [13] 何艳坤白玉杰 . 基于残差偏置和查找表的高光谱图像无损压缩. 激光技术, 2014, 38(5): 643-646. doi: 10.7510/jgjs.issn.1001-3806.2014.05.014
    [14] 宗蓉郭伟仲凌志 . 毫米波雷达和激光雷达探测云边界的对比分析. 激光技术, 2016, 40(2): 171-177. doi: 10.7510/jgjs.issn.1001-3806.2016.02.005
    [15] 方俊龙郭宝峰沈宏海杨名宇 . 一种改进的基于自动形态学的端元提取算法. 激光技术, 2017, 41(1): 106-112. doi: 10.7510/jgjs.issn.1001-3806.2017.01.022
    [16] 王晓维梁应剑李翔龙彦志梅运桥 . 基于光学多普勒频移的低空速测量方法研究. 激光技术, 2016, 40(5): 629-632. doi: 10.7510/jgjs.issn.1001-3806.2016.05.003
    [17] 张昌赛刘正军杨树文左志权 . 基于LiDAR数据的布料模拟滤波算法的适用性分析. 激光技术, 2018, 42(3): 410-416. doi: 10.7510/jgjs.issn.1001-3806.2018.03.023
    [18] 刘璐邵慧孙龙陈杰徐恒胡玉霞肖晓 . 利用高光谱激光雷达检测木材的霉变与含水量. 激光技术, 2023, 47(5): 620-626. doi: 10.7510/jgjs.issn.1001-3806.2023.05.007
    [19] 范琪朱晓林周鼎富周杰罗雄陈春利童文皓杨泽后 . 激光测风雷达分析典型高原机场风场特征. 激光技术, 2020, 44(5): 525-531. doi: 10.7510/jgjs.issn.1001-3806.2020.05.001
    [20] 汪慧民邵慧孙龙李伟王程陈杰朱家兵 . 基于高光谱激光雷达的绿萝叶绿素3维重建. 激光技术, 2023, 47(5): 708-715. doi: 10.7510/jgjs.issn.1001-3806.2023.05.020
  • 加载中
图(3) / 表(3)
计量
  • 文章访问数:  3713
  • HTML全文浏览量:  2240
  • PDF下载量:  213
  • 被引次数: 0
出版历程
  • 收稿日期:  2017-06-12
  • 录用日期:  2017-06-28
  • 刊出日期:  2018-05-25

结合K-L散度和互信息的无监督波段选择算法

    通讯作者: 杨桄, yg2599@126.com
    作者简介: 王琪(1993-), 女, 硕士研究生, 现主要从事高光谱图像波段选择的研究
  • 空军航空大学 航空航天情报系, 长春 130022
基金项目:  吉林省科技发展计划资助项目 20140101213JC吉林省教育厅"十二五"科研资助项目 2015448

摘要: 波段选择是重要的高光谱图像降维手段。为了达到降维的目的,提出结合K-L散度和互信息的无监督波段选择算法,并进行了理论分析和实验验证。首先选出信息熵最大的波段作为初始波段,然后将散度与互信息量的比值定义为联合散度互信息(KLMI)准则,选择KLMI值大且信息量也大的波段加入波段子集中,选出信息量大且相似度低的波段集合,最终利用k最近邻分类算法实现了基于最大方差主成分分析算法、聚类算法、互信息算法和本文中方法的真实高光谱数据分类实验。结果表明,本文中的算法总体分类精度和κ系数均达到0.8以上,高于其它算法;大多数地物的分类精度均得到提升,具有较好的分类性能。该算法是一种实用的高光谱图像降维算法。

English Abstract

    • 相比于普通的遥感图像,高光谱图像增加了光谱维,不仅包含了丰富的空间信息还具有高光谱分辨率。高光谱遥感器能够同时获取目标区域的2维几何空间信息与1维光谱信息,因此高光谱数据具有图像立方体的形式和结构,体现出图谱合一的特点和优势[1-2]。高光谱图像丰富的光谱和空间信息对目标探测及地物分类具有重要作用。然而,高光谱图像维数众多,导致数据量增加,相邻波段之间信息冗余度大,存在“维数灾难”,使得高光谱影像的降维、目标检测等面临很大的难题,不利于数据处理[3]。如何高效充分地利用高光谱图像丰富的信息,又能提高数据处理的效率,是目前研究的重点。高光谱图像降维是解决这一问题的常用方法。

      针对高光谱图像数据冗余问题,常用降维方法来解决。波段选择是寻找与强化最具可分性的光谱波段的过程,它能在不损失重要信息的情况下有效降低维数[4]。波段选择方法是对高光谱源数据进行波段特征排序搜索和对光谱波段进行特征聚类[5],是对特定对象选择光谱特征空间中的一个子集,这个子集是一个简化了的光谱特征空间,但它包括了该对象的主要特征光谱,并且在一个含有多种目标对象的组合中,该子集能够最大限度地区别于其它地物。波段选择按是否需要先验知识可分为有监督波段选择和无监督波段选择。有监督波段选择是指已知目标或背景的先验知识条件下,最大限度地保留探测目标的信息。无监督波段选择是指在没有先验知识的情况下,选出信息量大的波段。由于高光谱图像目标或背景等先验信息通常未知,所以无监督波段选择算法具有较强的实用意义。

      当前对波段选择的研究有:基于搜索的方法,如结合遗传算法的蚁群算法,这类较为复杂,运算时间较长;基于排序的思想,如最大方差主成分分析(maximum-variance principle component analysis, MVPCA)方法[6]、聚类(affinity propagation,AP)算法[7]、基于互信息(mutual information, MI)的方法[8-9]、基于最大信息量的无监督波段选择算法[10],这类算法是利用某一指标(如信息量)进行排序忽略了波段间的相似性、冗余度,导致选择结果不准确。为了提高波段选择精度,本文中提出了一种结合K-L (Kullback-Leibler)散度和互信息的无监督波段选择算法,利用K-L散度和互信息的比值定义了联合K-L散度-互信息(joint K-L divergence-mutual information, KLMI)准则。首先按信息熵大小对波段排序,然后通过最大化波段间K-L散度和最小化波段间互信息量,选出高信息量低相似度的波段。本文中的算法既能保留原始波段的有用信息特征又考虑了波段间差异性,有利于提高目标探测效率和分类精度。

    • K-L散度同光谱相关系数、光谱角制图、离散度都是常见的相似性度量算法,分别从不同角度衡量波段间的相似性。K-L散度是一种在信息论中得到广泛应用的信号相似性度量[11]PQ是两个离散随机信号的概率分布函数,P =[P1, …, Pi, …, PN]T, Q =[Q1, …, Qi, …, QN]T,定义Q相对于P的K-L散度为:

      $ {D_{{\rm{K - L}}}}\left( {\mathit{\boldsymbol{P}} \cdot \mathit{\boldsymbol{Q}}} \right) = \sum\limits_{i = 1}^N {{\mathit{\boldsymbol{P}}_i}\ln \frac{{{\mathit{\boldsymbol{P}}_i}}}{{{\mathit{\boldsymbol{Q}}_i}}}} $

      (1)

      当且仅当$\sum\limits_{i = 1}^N {{\mathit{\boldsymbol{P}}_i}} = \sum\limits_{i = 1}^N {{\mathit{\boldsymbol{Q}}_i}} = 1 $时,(1)式成立。(1)式表示:用Q中元素表示P中元素所需的额外的信息量的大小。K-L散度越大,说明用Q中元素表示P中元素的难度越大,即QP之间相似度越低。从本质上讲,K-L散度是一种概率意义上的非对称距离,也可以理解为两个信号所包含的信息量之间的差[12]

      高光谱图像的每一个波段可以看成一个随机变量,因此可以利用K-L散度衡量两波段之间的相似性。假设一组高光谱图像数据共有L个波段,表示为X =[x1, x2, …, xL],xi=[xi, 1, xi, 2, …, xi, N]T是第i个波段列向量,其中N为像素个数。对xi进行归一化处理,得到$\overline {{\mathit{\boldsymbol{x}}_i}} = \frac{{{\mathit{\boldsymbol{x}}_i}}}{{\sum\limits_{n = 1}^N {{\mathit{\boldsymbol{x}}_{i, n}}} }} $,xi, n为第i个波段列向量的第n个分量。因此第j波段相对于第i个波段的K-L散度为:

      $ {D_{{\rm{K}} - {\rm{L}}}}\left( {\overline {{\mathit{\boldsymbol{x}}_i}} \cdot \overline {{\mathit{\boldsymbol{x}}_j}} } \right) = \sum\limits_{n = 1}^N {{\mathit{\boldsymbol{x}}_{i, n}}} \ln \frac{{\overline {{\mathit{\boldsymbol{x}}_{i, n}}} }}{{\overline {{\mathit{\boldsymbol{x}}_{j, n}}} }} $

      (2)

      由(2)式可知,K-L散度越大,用第j波段表示第i个波段的难度越大,两波段间信息量之差越大,相似度越低。

    • 互信息是信息论中的一个概念,它描述了两个系统的统计相关性,或者说一个系统存在于另一个系统中的信息量[13],可表示为:

      $ I\left( {\mathit{\boldsymbol{X}}, \mathit{\boldsymbol{Y}}} \right) = \int {_X} \int {_Y} P\left( {\mathit{\boldsymbol{x}}, \mathit{\boldsymbol{y}}} \right){\log _2}\frac{{P\left( {\mathit{\boldsymbol{x}}, \mathit{\boldsymbol{y}}} \right)}}{{P\left( \mathit{\boldsymbol{x}} \right)P\left( \mathit{\boldsymbol{y}} \right)}}{\rm{d}}\mathit{\boldsymbol{x}}{\rm{d}}\mathit{\boldsymbol{y}} $

      (3)

      式中,P(x, y)是随机变量XY的联合概率密度,P(x), P(y)分别是变量XY的边缘概率密度。

      互信息的实质是当某一随机变量已知的情况下,另一随机变量的不确定性的减小值,不仅可以衡量两随机变量共有信息量的多少,还可以衡量随机变量之间的相关程度。MI值越大,两变量之间的共有信息越多,相关度越大;当两变量相互独立时,MI的值为0。

      对于高光谱图像而言,给定的两波段图像XY,由(3)式可得图像XY的互信息为:

      $ I\left( {\mathit{\boldsymbol{X}}, \mathit{\boldsymbol{Y}}} \right) = \int {_X} \int {_Y} {P_{i, j}}\left( {\mathit{\boldsymbol{x}}, \mathit{\boldsymbol{y}}} \right){\log _2}\frac{{{P_{i, j}}\left( {\mathit{\boldsymbol{x}}, \mathit{\boldsymbol{y}}} \right)}}{{{P_i}\left( \mathit{\boldsymbol{x}} \right){P_j}\left( \mathit{\boldsymbol{y}} \right)}}{\rm{d}}\mathit{\boldsymbol{x}}{\rm{d}}\mathit{\boldsymbol{y}} $

      (4)

      式中,变量x为图像X中的元素,变量y为图像Y中的元素,Pi(x), Pj(y)为变量x和变量y在第i个状态和第j个状态下的边缘概率密度,Pi, j(x, y)为变量x, y的联合概率密度。

    • 对于高光谱图像波段选择而言,既要满足信息量最大的要求又要使地物目标之间的可分性最大化。为了选取高信息量的波段,需要计算波段信息量并进行排序,将排在前面的单个波段进行组合获得最优波段集合。衡量波段信息量的大小可以利用K-L散度指标。因此,可以选出K-L散度值较大的波段组成集合,根据(2)式最大化K-L散度可用如下公式表示:

      $ \max \left( {\frac{1}{N}\sum\limits_{n = 1}^N {{\mathit{\boldsymbol{x}}_{i, n}}} \ln \frac{{\overline {{\mathit{\boldsymbol{x}}_{i, n}}} }}{{\overline {{\mathit{\boldsymbol{x}}_{\mathit{j}, n}}} }}} \right) $

      (5)

      但是,高信息量的波段组合并不一定能最大程度上保持图像的原始波段信息,因为这些波段可能是邻近波段,相似性很大,提供的额外信息量几乎没有。有的波段虽然信息量不是很丰富,但是能提供与其它波段互补的信息。因此,就需要选择信息互补且相似度较低的波段。任意波段间的相似度可用互信息I(Xi, Xj)(1≤i, jN)衡量,根据(4)式,最小化互信息可用如下公式表示:

      $ \min \left[ {\frac{2}{{{N^2} - N}}\sum\limits_{1 \le i, j \le N} {I\left( {{\mathit{\boldsymbol{X}}_i}, {\mathit{\boldsymbol{X}}_j}} \right)} } \right] $

      (6)

      将(5)式和(6)式做比值,定义了联合散度互信息(KLMI)准则:

      $ \max \left( {\frac{{\left( {N - 1} \right)\sum\limits_{n = 1}^N {{\mathit{\boldsymbol{x}}_{i, n}}} \ln \frac{{\overline {{\mathit{\boldsymbol{x}}_{i, n}}} }}{{\overline {{\mathit{\boldsymbol{x}}_{\mathit{j}, n}}} }}}}{{2\sum\limits_{1 \le i, j \le N} {I\left( {{\mathit{\boldsymbol{X}}_i}, {\mathit{\boldsymbol{X}}_j}} \right)} }}} \right) $

      (7)

      由上述分析可知,KLMI值用于衡量各个波段之间的相似度,KLMI值越大,说明波段间相似度、冗余性越低,在该波段集合上的信息互补性和可分性越好。

      本文中提出的KLMI波段选择方法,通过最大化K-L散度和最小化波段之间的互信息来进行波段选择。首先计算原始波段中信息熵最大的波段作为初始波段,然后选择与初始波段的KLMI最大且自身信息熵也越大的波段作为第2个波段,组成波段子集。然后选择与波段子集中所有波段KLMI值越大且自身信息熵越大的波段归入所选波段子集,以此类推,选择包含k个波段的子集作为结果。

    • 本文中提出的KLMI波段选择算法步骤主要由4步组成:(1)利用信息熵指标选择信息量最大的波段b1作为初始波段,产生波段子集Φ1={b1};(2)利用联合散度互信息(KLMI)准则计算剩余波段与Φ1中元素的相似度,找出KLMI值最大时对应的波段,同时考虑波段自身的信息熵,选择KLMI值越大且信息熵大的波段b2,将b2波段加入子集Φ1中,即Φ2=Φ1∪{b2};(3)循环步骤(2),直到波段集合Φ中波段的数量满足分类需求; (4)更新波段集合ΦΦ中元素即为波段选择结果。

    • 实验中采用的是于1992年由AVIRIS传感器获取的高光谱图像数据Indian Pines,成像地区为美国印第安纳西北地区,该数据共220个波段,波长范围为0.4μm~ 2.5μm,光谱分辨率为10nm,空间分辨率为17m,图像大小为145pixel×145pixel,该数据常用于高光谱图像的分类研究。去除水的吸收带和噪声波段,处理后保留了200个有效波段用于本实验。Purdue大学给出了一份关于该地区的实地调查报告[14]。该地区主要被农作物(约占总面积2/3,包括大豆、玉米、小麦、干草堆)和植被(约占总面积的1/3,包括树林、草地等)所覆盖。除农作物与植被外,还有铁路、公路、高速公路、房屋和无线电发射塔等地物。实验数据的假彩色合成和地面真实标记如图 1所示。

      Figure 1.  Synthetic false color image and real markings image

    • 根据本文中算法步骤,进行实验验证,计算图像各波段的熵值,得出第112波段熵值最大,因此选择第112波段作为初始波段b1,最终选出10个波段。同时为了更好比较本文中算法性能,实验还实现了常用的MVPCA方法、AP方法、MI方法及K-L散度方法的波段选择结果。然后计算各波段选择算法结果中各波段的信息熵的总和,信息熵总和及波段选择结果如表 1所示。

      Table 1.  Comparison of band selection results and information

      band selection algorithm MVPCA MI AP K-L proposed algorithm
      band selection results 8, 20, 36, 62, 63, 69, 70, 72, 92, 95 9, 32, 30, 23, 13,89, 57, 97, 100, 110 112, 113, 31, 114, 121,125, 156, 127, 164, 51 15, 49, 33, 87, 21, 63, 101, 99, 71, 56 112, 42, 31, 40, 108, 51, 120, 150, 21, 9
      sum of entropy 67.1277 67.4139 67.0094 67.1058 67.7815

      表 1可知,本文中算法选择的波段信息熵之和最大,即信息量最大,而AP算法多所选波段包含的信息量最少。同时MVPCA, MI, AP及K-L散度方法4种方法得到的结果,波段比较集中,说明它们之间的冗余度较大;本文中方法所选波段分布范围较广,且远离光谱范围的边缘,效果较好。本文中方法所选前10个波段如图 2所示。

      Figure 2.  The results of band selection

    • Purdue大学给出的Indian Pines数据实地调查指出该区域有16类不同地物,每一类地物中,分别随机选取5%和10%数量的样本作为训练样本,剩余样本作为测试样本,将波段选择后的结果进行分类实验,本实验中采用k最近邻(k-nearest neighbor,KNN)分类算法,经过多次实验反复调整k值,选取最优近邻个数为k=7时分类精度最高且噪声数据干扰降到最低。各算法总体精度与波段维数的关系如图 3所示,横坐标为波段维数,纵坐标为分类精度。总体分类精度公式为:总体分类精度(overall acuracy, OA)=正确分类的像元数/像元总数。

      Figure 3.  Overall classification accuracy of different samples with various bands

      图 3可知,随着训练样本数量的增加,目标的先验知识就越多,分类的性能越好,分类的总体精度也就越高。在5%和10%的样本比例下,且维数大于2时,本文中算法相比于其它3种波段选择算法均取得了较好的分类效果。在样本比例仅为5%的条件下,本文中算法的分类精度就能达到82%。

      表 2表 3中给出了训练样本分别为5%和10%的情况下,不同算法中各类地物的分类精度、总体精度(OA)及κκ的计算公式[15]为:κ=(总体精度-期望精度)/(1-期望精度)。

      Table 2.  Classification accuracy of various types of objects (5% samples)

      class training samples test samples MVPCA MI AP algorithm in this paper
      alfalfa 23 23 0.53 0.43 0.38 0.94
      corn-N 34 1394 0.49 0.65 0.64 0.71
      corn-M 27 803 0.49 0.55 0.64 0.69
      corn 25 212 0.37 0.40 0.47 0.66
      grass-M 27 456 0.80 0.83 0.91 0.94
      grass-T 26 704 0.90 0.90 0.92 0.99
      grass-P 14 14 0.57 0.56 0.86 0.86
      hay-W 27 451 0.97 0.98 0.98 1.00
      oats 10 10 0.27 0.36 0.60 0.93
      soybean-N 30 942 0.62 0.63 0.76 0.84
      soybean-M 31 2424 0.64 0.77 0.79 0.81
      soybean-C 28 565 0.38 0.52 0.47 0.58
      wheat 25 180 0.91 0.89 0.98 0.99
      woods 30 1235 0.90 0.93 0.94 0.96
      buildings 27 359 0.38 0.53 0.47 0.77
      stone 26 67 0.86 0.86 0.90 0.96
      OA 0.65 0.71 0.76 0.82
      κ 0.61 0.69 0.70 0.81

      Table 3.  Classification accuracy of various types of objects (10% samples)

      class training samples test samples MVPCA MI AP algorithm in this paper
      alfalfa 23 23 0.28 0.71 0.7 0.79
      corn-N 89 1428 0.64 0.60 0.74 0.74
      corn-M 73 830 0.75 0.60 0.71 0.81
      corn 66 237 0.49 0.49 0.49 0.64
      grass-M 71 730 0.96 0.86 0.88 0.82
      grass-T 81 478 0.73 0.92 0.94 0.98
      hrass-P 14 28 0.47 0.57 0.83 0.62
      hay-W 71 478 0.89 0.96 0.99 0.99
      oats 10 10 0.44 0.47 0.58 0.47
      soybean-N 76 896 0.76 0.74 0.71 0.72
      soybean-M 112 2343 0.66 0.71 0.85 0.87
      soybean-C 68 525 0.52 0.47 0.72 0.78
      wheat 67 138 0.97 0.93 0.94 0.98
      woods 89 1176 0.86 0.90 0.96 0.99
      buildings 68 318 0.72 0.45 0.62 0.91
      stone 47 46 0.20 0.91 0.88 0.91
      OA 0.71 0.72 0.81 0.85
      κ 0.63 0.69 0.75 0.82

      κ > 0.8时说明分类精度高,κ在0.4~0.8之间,分类精度中等,κ < 0.4时,分类效果较差。在相同样本比例情况下,本文中方法的OA及κ均优于其它3种算法,分类效果比其它3类算法效果好。这是因为本文中算法采用KLMI准则进行波段选择,实现了波段的高信息量及波段间的低冗余度,使得同类别数据间的相似性突出,且不同类别的数据之间的差异性更加明显。同时,对于大多数地物,本文中方法的分类精度优于其它算法,但是存在少数地物分类精度不高。随着训练样本数量的增加,各类地物的分类精度、OA和κ均有所提高。综上所述,本文中算法取得了较好的分类效果,性能优于其它3种算法。

    • 本文中提出了一种结合K-L散度和互信息的无监督波段选择算法,将K-L散度与互信息的比值定义为新的联合散度互信息准则,通过最大化散度和最小化波段间的互信息量,从原始波段中选出高信息量且低相似度的波段集合。首先基于信息熵选择初始波段,然后利用KLMI准则进行后续波段的选择,最终将本文算法及MVPCA, AP, MI这3种无监督波段选择算法应用于高光谱图像分类实验。实验结果表明,本文中算法相比于其它算法在分类实验中取得了较好的效果,算法具有较为优越的性能。该算法存在的不足为波段选择数量阈值需要人为设定,算法没有实现自动确定阈值功能,这是下一步研究的重点,进一步提高算法的智能性和自动化水平。

参考文献 (15)

目录

    /

    返回文章
    返回