多核学习算法及其在高光谱图像分类中的应用研究进展
李广洋(1994- ),男,河北唐山人,硕士生,主要从事林业遥感与信息技术研究。E-mail: li15130574839@163.com |
收稿日期: 2020-09-17
要求修回日期: 2020-12-30
网络出版日期: 2021-05-25
基金资助
国家自然科学基金项目(31760181)
国家自然科学基金项目(31400493)
国家自然科学基金项目(31860181)
国家自然科学基金项目(1860320)
云南省农业基础研究联合专项项目(2017FG001-034)
云南省农业基础研究联合专项项目(2018FG001-059)
生物资源数字化开发应用(202002AA10007)
云南省“万人计划”青年拔尖人才项目
西南林业大学科研启动基金项目(111821)
版权
Multiple Kernel Learning Algorithm and its Application Research Progress in Hyperspectral Image Classification
Received date: 2020-09-17
Request revised date: 2020-12-30
Online published: 2021-05-25
Supported by
National Natural Science Foundation of China(31760181)
National Natural Science Foundation of China(31400493)
National Natural Science Foundation of China(31860181)
National Natural Science Foundation of China(1860320)
The Joint Special Project of Basic Agricultural Research in Yunnan Province(2017FG001-034)
The Joint Special Project of Basic Agricultural Research in Yunnan Province(2018FG001-059)
Digital Development and Application of Biological Resources(202002AA10007)
Yunnan "Ten Thousand People Plan" Youth Top-notch Talent Project
Southwest Forestry University Scientific Research Start-up Fund project(111821)
Copyright
多核学习算法在高光谱图像分类领域占据着十分重要的地位。与灰度图像、全色图像和多光谱图像等相比,高光谱图像因具有很强的分类识别能力等多方面优势而被广泛应用。为进一步提高高光谱图像的分类精度,促进多核学习算法在高光谱图像分类中的应用,本文对多核学习算法及其在高光谱图像分类中的应用进行了总结。首先在回顾核方法的基础上阐述了多核学习框架,其次对多核学习核函数组合方法进行综述,随后根据求解多核学习组合系数方法的不同将多核学习分为两类:固定规则的多核学习算法和基于优化的多核学习算法,并对两类多核学习算法在高光谱图像分类中的应用进行综述,总结各类算法在高光谱图像分类的应用进展。同时,为了便于研究者对多核学习算法及其在高光谱图像分类问题中的应用研究,本文对常用核函数和高光谱图像数据集进行了整理归纳。最后,讨论了多核学习算法在高光谱图像分类研究方面的不足,并对未来研究方向进行了展望,以期为该领域的研究和应用提供参考。
李广洋 , 寇卫利 , 陈帮乾 , 代飞 , 强振平 , 吴超 . 多核学习算法及其在高光谱图像分类中的应用研究进展[J]. 地球信息科学学报, 2021 , 23(3) : 492 -504 . DOI: 10.12082/dqxxkx.2021.200536
Hyperspectral images have been widely used in target detection, spectral decomposition, classification, and many other fields. They have higher recognition ability than grayscale images, panchromatic images, and multispectral images. However, how to effectively use hyperspectral images with large number of bands, huge data volume, and increased information redundancy is an important topic. Multiple kernel learning is a typical multi-view learning method that can make different kernel functions according to different feature spaces and group multiple kernel functions into an optimal kernel function for hyperspectral image classification. Compared to single kernel method, multiple kernel learning has unique advantages in solving problems such as the uneven spatial distribution of high-dimensional features, using information more efficiently, and improving classification accuracy greatly. At present, the research difficulty of multiple kernel learning algorithm are the combination of kernel functions and the selection of optimal weight coefficients. In order to improve the classification accuracy and promote the application of multiple kernel learning algorithm in hyperspectral image classification, we review the development history and current research progress of multiple kernel learning algorithms. First, the kernel learning method and the framework of multiple kernel learning algorithm are introduced. The specific methods of kernel function combination used in multiple kernel learning algorithm are summarized. According to many researches, it can be concluded that the linear method has been widely used because of its simplicity and efficiency. Moreover, according to the methods of determining weight coefficients in multiple kernel learning algorithm combination, multiple kernel learning algorithms can be generally divided into two categories: fixed-rule multiple kernel learning algorithm and optimization-based multiple kernel learning algorithm. Then, the applications of different multiple kernel learning algorithms from each category in hyperspectral image classification are reviewed. In order to facilitate researchers to discuss the problems of multiple kernel learning algorithm and hyperspectral image classification, the commonly used kernel functions and the widely used data sets in hyperspectral image classification are also reviewed. Finally, we discuss the deficiencies of multiple kernel learning algorithms in the field of hyperspectral image classification and point out the future research direction to help solve practical application problems.
表1 常用的核函数公式和特点比较Tab. 1 Commonly used kernel functions |
名称 | 公式 编号 | 参数介绍 | 特点 |
---|---|---|---|
线性核函数 | (3) | 表示和的内积 | 线性核函数参数少,速度快,对于线性可分的数据具有优良的性能,但不能对线性不可分的数据进行分类 |
多项式核函数 | (4) | 参数为阶数,对核函数的特征空间维数起决定性作用。参数用于空值不同阶数的单项式权重,一般令 | 多项式核依靠升维使线性不可分的数据变得可分,但其参数较多,计算复杂程度也相对较高,因此应用相对较少 |
径向基核函数 (高斯核) | (5) | 为尺度参数,用来控制核函数对样本的相似性度量能力 | 该核函数以欧氏距离来度量样本之间的相似性,因其计算相对简单且具有平移不变性等优点而成为应用最广泛的核函数,但也存在一定缺陷,如可解释性差、容易过拟合等 |
sigmoid核函数 | (6) | 参数是控制输入数据的幅度调节参数,是控制映射阈值的位移参数 | Sigmoid核来自神经网络的阈值函数,具有很强的分类能力,但由于其包含两个参数,增加了应用难度,且其只有在特定条件下才是半正矩阵,因此该核不是Mercer核,受到一定的应用限制 |
小波核函数 | (7) | 为尺度参数 | 小波核函数在多尺度分析方面具有优势,其可以逼近任意非线性函数,提升分类精度 |
表2 多核学习线性组合方法公式和特点比较Tab. 2 Multiple kernel learning linear combination method |
名称 | 公式 编号 | 参数介绍 | 特点 |
---|---|---|---|
直接求和核 | (11) | 为核的个数 | 构造简单,学习性能较为突出 |
加权求和核 | (12) | 表示核权重,即组合系数,M为常数 | 通过调整权重,可以更加灵活的调节混合核的学习能力,提升分类性能。相比于其他组合方式,更加适用于高光谱影像分类 |
加权多项式 扩展核 | (13) | 是核函数的扩展 | 当选取合适的权重系数时,能有效地保证模型的局部学习特性和全局扩展能力,使测试误差和训练误差均保留在一个较小的范围 |
表3 高光谱图像分类常用数据集信息比较Tab. 3 Commonly used data sets for hyperspectral image classification |
编号 | 数据集 名称 | 采集 年份 | 传感器 | 数据 地点 | 像素 | 空间 分辨率/m | 所包含地物类型数量 | 参考 文献 |
---|---|---|---|---|---|---|---|---|
1 | Indian Pines数据集 | 1992 | 机载可视/红外成像光谱仪(AVIRIS) | 美国印第安纳州一块印度松树 | 145×145 | 20 | 16类 | [12][29] |
2 | Pavia University数据集 | 2003 | 机载反射光学光谱成像仪(ROSIS-03) | 意大利的帕维亚城所成的像的部分高光谱数据 | 610×340 | 1.3 | 9类 | [26][27] |
3 | Salinas数据集 | 机载可视/红外成像光谱仪(AVIRIS) | 美国加利福尼亚州的Salinas山谷 | 512×217 | 3.7 | 16类 | [56] | |
4 | Cuprite数据集 | 1997 | 机载可视/红外成像光谱仪(AVIRIS) | 美国内华达州的Cuprite地区 | 20 | [57] | ||
5 | Kennedy Space Center数据集 | 1996 | 机载可视/红外成像光谱仪(AVIRIS) | 佛罗里达州肯尼迪航天中心(KSC) | 18 | 13类 | [58] | |
6 | Botswana数据集 | 2001 | NASA EO-1卫星 | 博茨瓦纳的奥卡万戈三角洲 | 30 | 14类 | [59] | |
7 | Washington DC数据 | Hydice传感器 | 华盛顿购物中心 | 1208×307 | 7类 | [60] | ||
8 | Houston数据 | 2013 | ITRES CASI-1500传感器 | 休斯顿大学校园和邻近的城市地区 | 349×1905 | 2.5 | 15类 | [61] |
9 | Houston数据 | 2012 | Compact Spectrographic Image(CASI) | 休斯敦大学校园及其附近地区 | 1905×349 | 2.5 | 20类 | [62] |
10 | 航空高光谱影像 Chikusei | 2014 | Headwall Hyperspec-VNIR-C传感器 | 日本筑西市(Chikusei) | 2517×2335 | 2.5 | 19类 | [63] |
[1] |
|
[2] |
|
[3] |
|
[4] |
|
[5] |
|
[6] |
|
[7] |
|
[8] |
|
[9] |
|
[10] |
宋恺涛, 彭甫镕, 陆建峰. 基于多核学习的协同滤波算法[J]. 数据采集与处理, 2018,33(3):496-503.
[
|
[11] |
高巍. 基于多核学习的高光谱图像分类方法研究[D]. 哈尔滨:哈尔滨工业大学, 2019.
[
|
[12] |
高巍, 彭宇. 基于马氏距离多核学习的高光谱图像分类[J]. 仪器仪表学报, 2018,39(3):250-257.
[
|
[13] |
邓利芳, 党建武, 王阳萍. 等. 结合混合核特征映射的空域图像隐写分析[J/OL]. 计算机工程与应用,2020:1-10, http://kns.cnki.net/kcms/detail/11.2127.TP.20200805.1833.034.html.
[
|
[14] |
|
[15] |
|
[16] |
|
[17] |
王福斌, 潘兴辰, 王宜文. 基于SVM的多核学习飞秒激光烧蚀光斑图像分类[J]. 激光杂志, 2020,41(4):86-91.
[
|
[18] |
|
[19] |
肖博林. 基于支持向量机的高光谱遥感影像分类[J]. 科技创新与应用, 2020(4):22-24.
[
|
[20] |
汪廷华, 陈峻婷. 核函数的选择研究综述[J]. 计算机工程与设计, 2012,33(3):1181-1186.
[
|
[21] |
张玲, 陈路路, 梁进科, 等. 一种基于支持向量机的雷达多目标分类方法[J]. 无线电工程, 2020,50(1):53-56.
[
|
[22] |
谭熊, 余旭初, 秦进春, 等. 高光谱影像的多核SVM分类[J]. 仪器仪表学报, 2014,35(2):405-411.
[
|
[23] |
|
[24] |
|
[25] |
余旭初, 谭熊, 付琼莹, 等. 联合纹理和光谱特征的高光谱影像多核分类方法[J]. 测绘通报, 2014(9):38-42.
[
|
[26] |
|
[27] |
|
[28] |
|
[29] |
|
[30] |
|
[31] |
李旭, 王士同. 原信息与映射信息组合的多核学习降维方法[J]. 计算机科学与探索, 2019,13(2):310-321.
[
|
[32] |
|
[33] |
李湘眷, 张峰, 李宇, 等. 基于波段选择和空-谱组合核函数的高光谱图像目标检测[J]. 国外电子测量技术, 2019,38(5):101-108.
[
|
[34] |
|
[35] |
郭跃东, 宋旭东. 梯度下降法的分析和改进[J]. 科技展望, 2016,26(15):115-117.
[
|
[36] |
|
[37] |
|
[38] |
|
[39] |
|
[40] |
|
[41] |
|
[42] |
谭熊, 余旭初, 张鹏强, 等. 基于多核支持向量机的高光谱影像非线性混合像元分解[J]. 光学精密工程, 2014,22(7):1912-1920.
[
|
[43] |
郭志民, 孙玉宝, 耿俊成, 等. 谱-空图嵌入的高光谱图像多核分类算法[J]. 小型微型计算机系统, 2018,39(11):2545-2550.
[
|
[44] |
|
[45] |
|
[46] |
|
[47] |
|
[48] |
王庆超, 付光远, 汪洪桥, 等. 多核融合多尺度特征的高光谱影像地物分类[J]. 光学精密工程, 2018,26(4):980-988.
[
|
[49] |
|
[50] |
晁拴社, 楚恒, 王兴. 高光谱图像数据的多尺度多核SVM分类[J]. 计算机与现代化, 2016(2):11-14,20.
[
|
[51] |
晁拴社, 楚恒. 基于稀疏MK-LSSVM的高光谱图像不平衡分类[J]. 城市勘测, 2016(2):69-73.
[
|
[52] |
|
[53] |
|
[54] |
陈允杰, 马辰阳, 孙乐, 等. 基于边缘修正的高光谱图像超像素空谱核分类方法[J]. 电子学报, 2019,47(1):73-81.
[
|
[55] |
|
[56] |
|
[57] |
钮宇斌, 王斌. 一种新的用于高光谱图像小目标探测的目标光谱学习算法[J]. 红外与毫米波学报, 2017,36(4):471-480.
[
|
[58] |
任守纲, 万升, 顾兴健, 等. 基于多尺度空谱鉴别特征的高光谱图像分类[J]. 计算机科学, 2018,45(12):243-250.
[
|
[59] |
张婧, 袁细国. 基于小样本学习的高光谱遥感图像分类算法[J]. 聊城大学学报(自然科学版), 2020,33(6):1-11.
[
|
[60] |
|
[61] |
万震. 基于深度学习的多源遥感数据融合分类方法研究[D]. 重庆:重庆大学, 2019.
[
|
[63] |
职露, 余旭初, 邹滨, 等. 多层级二值模式的高光谱影像空-谱分类[J]. 武汉大学学报·信息科学版, 2019,44(11):1659-1666.
[
|
/
〈 | 〉 |