本書對近年來稀疏學習、分類與識別領域常見的理論及技術進行了較為全面的闡述和總結,并結合作者多年的研究成果,對相關理論及技術在應用領域的實踐情況進行了展示和報告。
更多科學出版社服務,請掃碼獲取。
目錄
前言
第1章 引言 1
1.1 機器學習理論 1
1.1.1 維數(shù)約簡 2
1.1.2 稀疏與低秩 2
1.1.3 半監(jiān)督學習 4
1.2 壓縮感知理論 5
1.2.1 壓縮感知的研究意義 5
1.2.2 壓縮感知的理論框架 6
1.2.3 壓縮感知的重構算法介紹 8
1.3 高光譜遙感技術 9
1.3.1 遙感技術 9
1.3.2 高光譜遙感技術發(fā)展現(xiàn)狀 10
1.3.3 高光譜遙感技術的應用 13
參考文獻 15
第2章 機器學習理論基礎 19
2.1 維數(shù)約簡的研究進展 19
2.1.1 子空間分割 19
2.1.2 稀疏表示 21
2.1.3 矩陣恢復與填充21
2.1.4 非線性降維 22
2.2 半監(jiān)督學習與核學習的研究進展 23
2.2.1 半監(jiān)督學習 23
2.2.2 非參數(shù)核學習 24
參考文獻 25
第3章 快速密度加權低秩近似譜聚類 29
3.1 引言 29
3.2 背景與相關工作 30
3.2.1 譜聚類算法 30
3.2.2 近鄰傳播算法 30
3.2.3 Nystrom方法 31
3.3 全局距離測度與采樣算法 33
3.3.1 全局距離 33
3.3.2 快速采樣算法 34
3.4 快速兩階段譜聚類框架 35
3.4.1 采樣階段 36
3.4.2 正交化的密度加權近似譜聚類階段 36
3.5 算法分析 39
3.5.1 采樣算法比較 39
3.5.2 有效性分析 40
3.5.3 快速近鄰搜索 41
3.5.4 復雜度分析 42
3.6 實驗結果 42
3.6.1 雙螺旋線數(shù)據(jù) 42
3.6.2 實際數(shù)據(jù) 44
3.6.3 評價指標 44
3.6.4 比較算法 45
3.6.5 聚類結果 46
3.6.6 參數(shù)穩(wěn)定性分析 48
3.6.7 譜嵌入 50
參考文獻 50
附錄 52
第4章 雙圖正則非負矩陣分解 54
4.1 引言 54
4.2 相關工作 55
4.2.1 非負矩陣分解 55
4.2.2 圖正則非負矩陣分解 56
4.2.3 雙正則聯(lián)合聚類 57
4.3 雙圖正則非負矩陣分解方法 57
4.3.1 數(shù)據(jù)圖與特征圖 57
4.3.2 DNMF模型 58
4.3.3 迭代更新規(guī)則 59
4.3.4 收斂性分析 60
4.4 雙圖正則非負矩陣三分解 60
4.4.1 DNMTF模型 61
4.4.2 迭代規(guī)則 61
4.4.3 收斂性分析 62
4.4.4 復雜度分析 63
4.5 實驗 63
4.5.1 比較算法 63
4.5.2 UCI 數(shù)據(jù) 64
4.5.3 圖像數(shù)據(jù) 66
4.5.4 穩(wěn)定性分析 69
4.5.5 雷達高分辨距離像數(shù)據(jù) 70
參考文獻 72
附錄A (定理4.1的證明) 74
附錄B (定理4.2的證明) 75
第5章 學習魯棒低秩矩陣分解 77
5.1 引言 77
5.2 相關工作及研究進展 78
5.3 魯棒低秩矩陣分解框架 80
5.3.1 單子空間模型 80
5.3.2 多子空間模型 80
5.4 基于交替方向法的迭代算法 81
5.4.1 引入輔助變量 81
5.4.2 迭代求解算法 82
5.4.3 求解單子空間模型 85
5.4.4 拓展應用于矩陣填充 85
5.4.5 復雜度分析 87
5.5 實驗 87
5.5.1 人工數(shù)據(jù)聚類 87
5.5.2 人臉聚類 90
5.5.3 背景建模 93
5.5.4 圖像修復 94
參考文獻 95
第6章 學習譜表示應用于半監(jiān)督聚類 98
6.1 引言 98
6.2 圖的創(chuàng)建與譜表示 99
6.2.1 對稱偏好圖 99
6.2.2 圖拉普拉斯譜嵌入 100
6.3 問題模型與求解 101
6.3.1 目標函數(shù) 101
6.3.2 問題求解 102
6.4 算法 103
6.4.1 半監(jiān)督聚類 103
6.4.2 直推式分類 104
6.4.3 復雜度分析 106
6.5 實驗 106
6.5.1 比較算法與參數(shù)設置 106
6.5.2 人工數(shù)據(jù)集 107
6.5.3 向量型數(shù)據(jù) 108
6.5.4 圖結構數(shù)據(jù) 113
6.5.5 半監(jiān)督聚類應用 115
6.5.6 直推式分類應用 116
參考文獻 117
第7章 應用低秩矩陣填充學習數(shù)據(jù)表示 120
7.1 引言 120
7.2 學習譜表示框架 122
7.2.1 核矩陣填充 122
7.2.2 提升矩陣學習模型 123
7.3 特征值迭代閾值算法 123
7.3.1 改進的不動點算法 124
7.3.2 加速策略 125
7.3.3 半監(jiān)督聚類 127
7.3.4 推廣到分類問題 127
7.3.5 復雜度分析 128
7.4 收斂性分析 128
7.5 實驗 129
7.5.1 學習譜表示 129
7.5.2 比較算法與參數(shù)設置 130
7.5.3 向量型數(shù)據(jù) 131
7.5.4 圖結構數(shù)據(jù) 134
7.5.5 分類應用 136
參考文獻 137
附錄A (定理7.2的證明) 140
附錄B (定理7.3的證明) 140
附錄C (定理7.4的證明) 140
附錄D (定理7.6的證明) 141
第8章 結合約束與低秩核學習的半監(jiān)督學習 143
8.1 引言 143
8.2 符號與相關工作 145
8.3 復合信息半監(jiān)督學習框架 147
8.3.1 基本框架 147
8.3.2 核范數(shù)正則模型 147
8.4 半監(jiān)督學習算法 148
8.4.1 改進的不動點迭代算法 149
8.4.2 連續(xù)性策略和BB 步長技術 151
8.4.3 標簽傳播 152
8.5 算法分析 154
8.5.1 收斂性分析 154
8.5.2 合法核154
8.5.3 復雜度分析 155
8.5.4 歸納分類 155
8.6 實驗 155
8.6.1 比較算法與參數(shù)設置 156
8.6.2 交叉螺旋線數(shù)據(jù) 156
8.6.3 實際數(shù)據(jù) 157
8.6.4 直推式分類 158
8.6.5 歸納分類 162
參考文獻 163
第9章 基于子空間類標傳播和正則判別分析的單標記圖像人臉識別 166
9.1 引言 166
9.2 正則判別分析和稀疏保持判別分析 167
9.3 子空間類標傳播 168
9.4 基于子空間類標傳播和正則判別分析的半監(jiān)督維數(shù)約簡 169
9.5 相關方法比較 171
9.6 實驗 172
參考文獻 177
第10章 基于雙線性回歸的單標記圖像人臉識別 178
10.1 引言 178
10.2 LDA和RDA簡述 180
10.2.1 LDA 180
10.2.2 RDA 180
10.3 雙線性回歸 181
10.3.1 基于子空間假設的類標傳播 181
10.3.2 學習稀疏表示結構 182
10.3.3 稀疏保持正則項 183
10.3.4 基于雙線性回歸的半監(jiān)督維數(shù)約簡 184
10.3.5 核DLR 185
10.3.6 計算復雜性分析 186
10.4 相關方法比較 187
10.5 實驗 188
10.5.1 數(shù)據(jù)庫介紹 188
10.5.2 實驗設置 189
10.5.3 實驗結果與討論 190
10.5.4 DLR方法的進一步探索 194
參考文獻 196
第11章 基于旋轉(zhuǎn)擴展和稀疏表示的魯棒遙感圖像目標識別 200
11.1 引言 200
11.2 基于稀疏表示的識別 201
11.2.1 稀疏表示 201
11.2.2 稀疏表示用于識別 202
11.3 基于旋轉(zhuǎn)擴展和稀疏表示的遙感目標識別 203
11.4 實驗結果與分析 205
11.4.1 基于RETSRC的遙感圖像目標識別 206
11.4.2 旋轉(zhuǎn)擴展倍數(shù)對識別性能的影響 207
參考文獻 208
第12章 壓縮感知理論基礎 210
12.1 壓縮感知概述 210
12.1.1 基于字典的稀疏表示 210
12.1.2 壓縮觀測 213
12.1.3 結構化稀疏重構模型 215
12.2 稀疏重構方法 218
12.2.1 凸松弛方法 218
12.2.2 貪婪方法 220
12.2.3 其他重構方法 221
12.2.4 基于自然計算優(yōu)化方法的稀疏重構 222
參考文獻 223
第13章 基于分塊策略和過完備字典的非凸壓縮感知框架 232
13.1 引言 232
13.2 基于過完備字典的分塊壓縮感知框架 233
13.2.1 分塊壓縮感知 233
13.2.2 過完備字典 233
13.2.3 結構化壓縮感知模型 234
13.3 基于Ridgelet過完備字典的圖像稀疏表示 234
13.4 結構化重構模型 237
13.4.1 基于圖像自相似性的結構稀疏先驗 237
13.4.2 基于圖像塊方向結構估計的重構模型 238
13.5 非凸重構策略 238
參考文獻 239
第14章 基于協(xié)同優(yōu)化的稀疏重構 240
14.1 引言 240
14.2 基于過完備字典的協(xié)同壓縮感知 241
14.2.1 基于過完備字典的結構稀疏先驗 241
14.2.2 基于協(xié)同優(yōu)化的稀疏重構策略 241
14.2.3 相關工作 242
14.3 基于過完備字典的協(xié)同重構模型 244
14.3.1 基于字典的分塊稀疏重構 244
14.3.2 基于結構稀疏模型的協(xié)同重構 244
14.3.3 基于自回歸模型的協(xié)同重構 245
14.4 CR-CS協(xié)同重構算法 247
參考文獻 254
第15章 基于過完備字典的方向結構估計模型及重構方法 256
15.1 引言 256
15.2 基于方向結構估計的重構模型 257
15.2.1 基于過完備字典的方向結構估計 257
15.2.2 稀疏字典的優(yōu)化學習 257
15.2.3 基于方向結構估計的進化重構策略 258
15.3 相關工作 260
15.4 方向指導的稀疏字典優(yōu)化及結構稀疏重構模型 260
15.4.1 方向指導的稀疏字典優(yōu)化學習 260
15.4.2 基于稀疏子字典的結構稀疏重構模型 262
15.5 基于方向結構估計的非凸重構方法 263
15.5.1 基于字典的結構類型判定及方向結構估計 264
15.5.2 基于遺傳優(yōu)化的光滑圖像塊重構 266
15.5.3 基于遺傳和克隆選擇優(yōu)化的非光滑圖像塊重構 267
15.6 仿真實驗及結果分析 271
參考文獻 275
第16章 基于光譜信息散度與稀疏表示的高光譜圖像分類 276
16.1 高光譜圖像分類的研究現(xiàn)狀與挑戰(zhàn) 276
16.1.1 高光譜圖像分類研究現(xiàn)狀 276
16.1.2 高光譜圖像分類存在的挑戰(zhàn) 277
16.2 研究動機 278
16.3 光譜信息散度 279
16.4 基于SID的稀疏表示分類方法 280
16.5 基于SID的聯(lián)合稀疏表示分類方法 281
16.6 實驗結果和分析 282
16.6.1 三種測度的比較 283
16.6.2 稀疏表示分類方法的性能比較 284
16.6.3 參數(shù)影響分析 285
16.6.4 收斂性證明 287
參考文獻 287
第17章 基于多特征核稀疏表示學習的高光譜圖像分類 289
17.1 引言 289
17.2 基于多特征加權聯(lián)合的稀疏表示分類方法 291
17.3 基于多特征加權聯(lián)合的核稀疏表示非線性分類方法 293
17.4 實驗結果與分析 296
17.4.1 實驗基本設置 296
17.4.2 AVIRIS數(shù)據(jù)的實驗結果 297
17.4.3 ROSIS數(shù)據(jù)的實驗結果 304
參考文獻 307