半監(jiān)督學習

目錄
《信息科學技術學術著作叢書》序
前言
第1章 半監(jiān)督學習導論 1
1.1 有監(jiān)督、無監(jiān)督和半監(jiān)督學習 1
1.2 何時半監(jiān)督學習可以工作？ 4
1.3 算法分類和本書組織 6
參考文獻 10
第一部分 生成式模型
第2章 半監(jiān)督學習的分類體系 15
2.1 半監(jiān)督學習問題 15
2.2 半監(jiān)督學習的范式 16
2.3 實例 22
2.4 結論 29
參考文獻 30
第3章 用EM進行半監(jiān)督的文本分類 32
3.1 概述 32
3.2 文本的生成式模型 34
3.3 基本EM算法的實驗結果 39
3.4 使用更具表達能力的生成式模型 41
3.5 克服局部極大值的缺點 46
3.6 結論與總結 51
參考文獻 51
第4章 半監(jiān)督學習的風險 54
4.1 無標記數(shù)據(jù)對分類性能的影響 54
4.2 從漸進偏差的角度理解無標記數(shù)據(jù)的作用 57
4.3 生成式半監(jiān)督學習方法的漸進分析 60
4.4 有標記數(shù)據(jù)和無標記數(shù)據(jù)的用途 63
4.5 有限樣本集的影響 66
4.6 模型搜索和魯棒性 67
4.7 結論 68
參考文獻 68
第5章 有約束的概率半監(jiān)督聚類方法 71
5.1 引言 71
5.2 基于HMRF的半監(jiān)督聚類模型 73
5.3 HMRF-KMeans算法 77
5.4 獲取約束的主動學習方法 89
5.5 實驗結果 91
5.6 相關工作 96
5.7 結論 97
參考文獻 98
第二部分 低密度分割
第6章 基于TSVM的半監(jiān)督學習 105
6.1 引言 105
6.2 TSVM 107
6.3 在測試集上使用邊緣的原因 110
6.4 TSVM的實驗和應用 111
6.5 解決TSVM的優(yōu)化問題 113
6.6 與其他相關算法的聯(lián)系 114
6.7 結論與總結 115
參考文獻 115
第7章 基于SDP的半監(jiān)督學習 118
7.1 SVM直推問題的松弛 118
7.2 加速近似 124
7.3 一般的半監(jiān)督學習情形 126
7.4 經(jīng)驗結果 127
7.5 小結 130
7.6 附錄 130
參考文獻 132
第8章 高斯過程與空類別噪聲模型 134
8.1 引言 134
8.2 噪聲模型 137
8.3 過程模型與空類別的效果 139
8.4 后驗推斷與預測 141
8.5 結果 143
8.6 討論 147
參考文獻 147
第9章 熵正則化 148
9.1 引言 148
9.2 準則的推導 149
9.3 *優(yōu)化算法 152
9.4 相關方法 154
9.5 實驗 156
9.6 結論 161
參考文獻 163
第10章 數(shù)據(jù)相關的正則方法 166
10.1 引言 166
10.2 度量空間中的信息正則 170
10.3 信息正則與關系數(shù)據(jù) 179
10.4 討論 186
參考文獻 186
第三部分 基于圖的方法
第11章 標簽傳播和二次準則 191
11.1 引言 191
11.2 基于相似度圖的標簽傳播 192
11.3 二次代價準則 196
11.4 從直推式學習到歸納式學習 202
11.5 融合類先驗知識 203
11.6 半監(jiān)督學習的維度災難 204
11.7 討論 211
參考文獻 212
第12章 半監(jiān)督學習的幾何基礎 214
12.1 引言 214
12.2 正則中引入幾何 216
12.3 算法 219
12.4 半監(jiān)督學習中數(shù)據(jù)相關的核 224
12.5 大規(guī)模半監(jiān)督學習的線性方法 226
12.6 其他關聯(lián)算法和相關工作 228
12.7 未來工作 230
參考文獻 230
第13章 離散正則 232
13.1 引言 232
13.2 離散分析 233
13.3 離散正則 239
13.4 結論 242
參考文獻 243
第14章 基于條件調(diào)和混合的半監(jiān)督學習 244
14.1 引言 244
14.2 CHM 247
14.3 CHM模型的學習 248
14.4 融入先驗知識 252
14.5 學習條件分布 253
14.6 模型平均 253
14.7 實驗 254
14.8 結論 263
參考文獻 263
第四部分 表示的變換
第15章 譜變換圖核 269
15.1 圖拉普拉斯 269
15.2 譜變換核 271
15.3 核對齊 273
15.4 使用QCQP為半監(jiān)督學習優(yōu)化對齊 273
15.5 序約束的半監(jiān)督核 274
15.6 實驗結果 276
15.7 結論 282
參考文獻 283
第16章 使用譜方法進行維度約減 284
16.1 引言 284
16.2 線性方法 285
16.3 基于圖的方法 287
16.4 核方法 292
16.5 討論 295
參考文獻 297
第17章 修正距離 299
17.1 引言 299
17.2 估計DBD度量 302
17.3 計算DBD度量 311
17.4 采用基于密度的度量的半監(jiān)督學習 317
17.5 結論和未來工作 319
參考文獻 319
第五部分 半監(jiān)督學習實踐
第18章 大規(guī)模算法 323
18.1 引言 323
18.2 代價近似 324
18.3 子集選擇 327
18.4 討論 330
參考文獻 331
第19章 使用聚類核的半監(jiān)督蛋白質分類 332
19.1 引言 332
19.2 蛋白質序列的表示與核 334
19.3 蛋白質序列的半監(jiān)督核 336
19.4 實驗 340
19.5 討論 346
參考文獻 347
第20章 網(wǎng)絡中的蛋白質功能預測 350
20.1 引言 350
20.2 基于圖的半監(jiān)督學習方法 353
20.3 結合多張圖 354
20.4 蛋白質功能預測的實驗 357
20.5 結論和展望 362
參考文獻 362
第21章 基準測試分析 365
21.1 基準測試 365
21.2 半監(jiān)督學習方法應用 370
21.3 結果與討論 377
參考文獻 381
第六部分 視 角
第22章 用于半監(jiān)督學習的一個擴展PAC模型 385
22.1 引言 385
22.2 一個形式化的框架 388
22.3 樣本復雜度結果 390
22.4 算法的結果 399
22.5 相關模型和討論 403
參考文獻 406
第23章 基于度量的半監(jiān)督分類和回歸方法 410
23.1 引言 410
23.2 半監(jiān)督學習的度量結構 411
23.3 模型選擇 414
23.4 正則 424
23.5 分類 432
23.6 結論 437
參考文獻 438
第24章 直推式學習和半監(jiān)督學習 441
24.1 問題設置 441
24.2 歸納式和直推式學習的泛化問題 442
24.3 VC界的結構和直推式學習 444
24.4 對稱化引理和直推式 445
24.5 直推式學習的界 447
24.6 歸納和直推的結構風險*小原理 447
24.7 直推式學習中的組合學 449
24.8 等價類大小的度量 449
24.9 歸納和直推式SVM的算法 451
24.10 半監(jiān)督學習 455
24.11 直推式學習和學習的新問題 456
24.12 選擇性推理 456
參考文獻 457
第25章 關于半監(jiān)督學習和直推式學習的一個討論 459
參考文獻 462