自然語(yǔ)言處理導(dǎo)論

●第 1 部分 基礎(chǔ)技術(shù)
第 1 章 緒論 2
1.1 自然語(yǔ)言處理的基本概念 2
1.1.1 自然語(yǔ)言處理簡(jiǎn)史 2
1.1.2 自然語(yǔ)言處理的主要研究?jī)?nèi)容 5
1.1.3 自然語(yǔ)言處理的主要難點(diǎn) 7
1.2 自然語(yǔ)言處理的基本范式 10
1.2.1 基于規(guī)則的方法 11
1.2.2 基于機(jī)器學(xué)習(xí)的方法 12
1.2.3 基于深度學(xué)習(xí)的方法 14
1.2.4 基于大模型的方法 15
1.3 本書(shū)內(nèi)容安排 16
第 2 章 詞匯分析 18
2.1 語(yǔ)言中的詞匯 18
2.1.1 詞的形態(tài)學(xué) 18
2.1.2 詞的詞性 19
2.2 詞語(yǔ)規(guī)范化 23
2.2.1 詞語(yǔ)切分 23
2.2.2 詞形還原 24
2.2.3 詞干提取 24
2.3 中文分詞 25
2.3.1 中文分詞概述 25
2.3.2 基于優(yōu)選匹配的中文分詞算法 28
2.3.3 基于線性鏈條件隨機(jī)場(chǎng)的中文分詞算法 29
2.3.4 基于感知器的中文分詞算法 31
2.3.5 基于雙向長(zhǎng)短期記憶網(wǎng)絡(luò)的中文分詞算法 34
2.3.6 中文分詞評(píng)測(cè)方法 36
2.3.7 中文分詞語(yǔ)料庫(kù) 37
2.4 詞性標(biāo)注 38
2.4.1 基于規(guī)則的詞性標(biāo)注 39
2.4.2 基于隱馬爾可夫模型的詞性標(biāo)注 40
2.4.3 基于卷積神經(jīng)網(wǎng)絡(luò)的詞性標(biāo)注 42
2.4.4 詞性標(biāo)注評(píng)測(cè)方法 44
2.4.5 詞性標(biāo)注語(yǔ)料庫(kù) 45
2.5 延伸閱讀 46
2.6 習(xí)題 47
第 3 章 句法分析 48
3.1 句法概述 48
3.1.1 成分語(yǔ)法理論概述 49
3.1.2 依存語(yǔ)法理論概述 51
3.2 成分句法分析 53
3.2.1 基于上下文無(wú)關(guān)語(yǔ)法的成分句法分析 54
3.2.2 基于概率上下文無(wú)關(guān)語(yǔ)法的成分句法分析 59
3.2.3 成分句法分析評(píng)測(cè)方法 67
3.3 依存句法分析 69
3.3.1 基于圖的依存句法分析 70
3.3.2 基于神經(jīng)網(wǎng)絡(luò)的圖依存句法分析 74
3.3.3 基于轉(zhuǎn)移的依存句法分析 79
3.3.4 基于神經(jīng)網(wǎng)絡(luò)的轉(zhuǎn)移依存句法分析 82
3.3.5 依存句法分析評(píng)測(cè)方法 85
3.4 句法分析語(yǔ)料庫(kù) 86
3.5 延伸閱讀 89
3.6 習(xí)題 90
第 4 章 語(yǔ)義分析 91
4.1 語(yǔ)義學(xué)概述 91
4.1.1 詞匯語(yǔ)義學(xué) 92
4.1.2 句子語(yǔ)義學(xué) 96
4.2 語(yǔ)義表示 98
4.2.1 謂詞邏輯表示 99
4.2.2 框架表示 100
4.2.3 語(yǔ)義網(wǎng)絡(luò)表示 102
4.3 分布式表示 103
4.3.1 詞分布式表示 104
4.3.2 句子分布式表示 114
4.3.3 篇章分布式表示 117
4.4 詞義消歧 119
4.4.1 基于目標(biāo)詞上下文的詞義消歧算法 119
4.4.2 基于詞義釋義匹配的詞義消歧算法 122
4.4.3 基于詞義知識(shí)增強(qiáng)預(yù)訓(xùn)練的詞義消歧算法 126
4.4.4 詞義消歧評(píng)測(cè)方法 128
4.4.5 詞義消歧語(yǔ)料庫(kù) 128
4.5 語(yǔ)義角色標(biāo)注 132
4.5.1 基于句法樹(shù)的語(yǔ)義角色標(biāo)注算法 132
4.5.2 基于深度神經(jīng)網(wǎng)絡(luò)的語(yǔ)義角色標(biāo)注算法 135
4.5.3 語(yǔ)義角色標(biāo)注評(píng)測(cè)方法 140
4.5.4 語(yǔ)義角色標(biāo)注語(yǔ)料庫(kù)和語(yǔ)義角色標(biāo)注評(píng)測(cè) 140
4.6 延伸閱讀 143
4.7 習(xí)題 144
第 5 章 篇章分析 145
5.1 篇章理論概述 145
5.1.1 篇章的銜接 146
5.1.2 篇章的連貫 148
5.1.3 篇章的結(jié)構(gòu) 149
5.2 話語(yǔ)分割 153
5.2.1 基于詞匯句法樹(shù)的統(tǒng)計(jì)話語(yǔ)分割算法 154
5.2.2 基于循環(huán)神經(jīng)網(wǎng)絡(luò)的話語(yǔ)分割算法 155
5.3 篇章結(jié)構(gòu)分析 157
5.3.1 修辭結(jié)構(gòu)篇章分析 157
5.3.2 淺層篇章分析 161
5.4 指代消解 167
5.4.1 基于表述對(duì)的指代消解算法 168
5.4.2 基于表述排序的指代消解算法 170
5.4.3 基于實(shí)體的指代消解算法 175
5.5 延伸閱讀 179
5.6 習(xí)題 180
第 6 章 語(yǔ)言模型 181
6.1 語(yǔ)言模型概述 181
6.2 n 元語(yǔ)言模型 182
6.2.1 加法平滑 184
6.2.2 古德-圖靈估計(jì)法 184
6.2.3 Katz 平滑 185
6.2.4 平滑方法總結(jié) 187
6.3 神經(jīng)網(wǎng)絡(luò)語(yǔ)言模型 188
6.3.1 前饋神經(jīng)網(wǎng)絡(luò)語(yǔ)言模型 188
6.3.2 循環(huán)神經(jīng)網(wǎng)絡(luò)語(yǔ)言模型 189
6.4 預(yù)訓(xùn)練語(yǔ)言模型 191
6.4.1 動(dòng)態(tài)詞向量算法 ELMo 191
6.4.2 生成式預(yù)訓(xùn)練語(yǔ)言模型 GPT 193
6.4.3 掩碼預(yù)訓(xùn)練語(yǔ)言模型 BERT 195
6.4.4 序列到序列的預(yù)訓(xùn)練語(yǔ)言模型 BART 199
6.4.5 預(yù)訓(xùn)練語(yǔ)言模型的應(yīng)用 201
6.5 大規(guī)模語(yǔ)言模型 203
6.5.1 基礎(chǔ)大模型訓(xùn)練 205
6.5.2 指令微調(diào) 207
6.5.3 人類(lèi)反饋 209
6.6 語(yǔ)言模型評(píng)測(cè)方法 210
6.7 延伸閱讀 210
6.8 習(xí)題 212
第 2 部分 核心技術(shù)
第 7 章 信息抽取 214
7.1 信息抽取概述 214
7.2 命名實(shí)體識(shí)別 216
7.2.1 非嵌套命名實(shí)體識(shí)別 217
7.2.2 嵌套命名實(shí)體識(shí)別 225
7.2.3 多規(guī)范命名實(shí)體識(shí)別 230
7.2.4 命名實(shí)體識(shí)別評(píng)測(cè)方法 233
7.2.5 命名實(shí)體識(shí)別語(yǔ)料庫(kù) 233
7.3 關(guān)系抽取 235
7.3.1 有監(jiān)督關(guān)系抽取 236
7.3.2 遠(yuǎn)程監(jiān)督關(guān)系抽取 240
7.3.3 開(kāi)放關(guān)系抽取 245
7.3.4 關(guān)系抽取評(píng)測(cè)方法 249
7.3.5 關(guān)系抽取語(yǔ)料庫(kù) 250
7.4 事件抽取 251
7.4.1 限定域事件抽取 251
7.4.2 開(kāi)放域事件抽取 255
7.4.3 事件抽取評(píng)測(cè)方法 260
7.4.4 事件抽取語(yǔ)料庫(kù) 260
7.5 延伸閱讀 261
7.6 習(xí)題 262
第 8 章 機(jī)器翻譯.263
8.1 機(jī)器翻譯概述 263
8.1.1 機(jī)器翻譯的發(fā)展歷程 264
8.1.2 機(jī)器翻譯的現(xiàn)狀與挑戰(zhàn) 265
8.2 基于統(tǒng)計(jì)的機(jī)器翻譯方法 266
8.2.1 任務(wù)定義與基本問(wèn)題 266
8.2.2 IBM 模型Ⅰ 270
8.2.3 IBM 模型Ⅱ 274
8.2.4 IBM 模型Ⅲ 275
8.2.5 IBM 模型Ⅳ 276
8.2.6 IBM 模型Ⅴ 277
8.3 基于神經(jīng)網(wǎng)絡(luò)的機(jī)器翻譯方法 278
8.3.1 循環(huán)神經(jīng)網(wǎng)絡(luò)翻譯模型 279
8.3.2 卷積神經(jīng)網(wǎng)絡(luò)翻譯模型 281
8.3.3 自注意力神經(jīng)網(wǎng)絡(luò)翻譯模型 284
8.4 機(jī)器翻譯語(yǔ)料庫(kù) 288
8.5 延伸閱讀 290
8.6 習(xí)題 291
第 9 章 情感分析 292
9.1 情感分析概述 292
9.1.1 情感模型 293
9.1.2 情感分析的主要任務(wù) 297
9.2 篇章級(jí)情感分析 300
9.2.1 基于支持向量機(jī)的篇章級(jí)情感分析 301
9.2.2 基于層次結(jié)構(gòu)的篇章級(jí)情感分析 303
9.2.3 篇章級(jí)情感分析語(yǔ)料庫(kù) 305
9.3 句子級(jí)情感分析 307
9.3.1 基于詞典的句子級(jí)情感分析 308
9.3.2 基于遞歸神經(jīng)張量網(wǎng)絡(luò)的句子級(jí)情感分析 309
9.3.3 基于情感知識(shí)增強(qiáng)預(yù)訓(xùn)練的句子級(jí)情感分析 310
9.3.4 句子級(jí)情感分析語(yǔ)料庫(kù) 312
9.4 屬性級(jí)情感分析 313
9.4.1 情感信息抽取 313
9.4.2 屬性級(jí)情感分類(lèi) 319
9.4.3 屬性級(jí)情感分析語(yǔ)料庫(kù) 329
9.5 延伸閱讀 331
9.6 習(xí)題 331
第 10 章 智能問(wèn)答 332
10.1 智能問(wèn)答概述 332
10.1.1 智能問(wèn)答的發(fā)展歷程 333
10.1.2 智能問(wèn)答的主要類(lèi)型 334
10.2 閱讀理解 336
10.2.1 基于特征的閱讀理解算法 337
10.2.2 基于深度神經(jīng)網(wǎng)絡(luò)的閱讀理解算法 340
10.2.3 閱讀理解語(yǔ)料庫(kù) 346
10.3 表格問(wèn)答 347
10.3.1 基于特征的表格問(wèn)答方法 348
10.3.2 基于深度學(xué)習(xí)的表格問(wèn)答模型 349
10.3.3 表格問(wèn)答語(yǔ)料庫(kù) 350
10.4 社區(qū)問(wèn)答 351
10.4.1 基于特征的語(yǔ)義匹配算法 352
10.4.2 基于深度學(xué)習(xí)的語(yǔ)義匹配算法 353
10.4.3 社區(qū)問(wèn)答語(yǔ)料庫(kù) 356
10.5 開(kāi)放領(lǐng)域問(wèn)答 357
10.5.1 基于檢索-閱讀理解架構(gòu)的開(kāi)放領(lǐng)域問(wèn)答模型 358
10.5.2 基于端到端架構(gòu)的開(kāi)放領(lǐng)域問(wèn)答模型 360
10.5.3 開(kāi)放領(lǐng)域問(wèn)答語(yǔ)料庫(kù) 362
10.6 延伸閱讀 363
10.7 習(xí)題 364
第 11 章 文本摘要 365
11.1 文本摘要概述 365
11.1.1 文本摘要的發(fā)展歷程 365
11.1.2 文本摘要的主要任務(wù) 367
11.2 抽取式文本摘要 368
11.2.1 基于排序的方法 368
11.2.2 基于序列標(biāo)注的方法 373
11.3 生成式文本摘要 377
11.3.1 序列到序列生成式文本摘要 378
11.3.2 抽取與生成結(jié)合式文本摘要 384
11.4 文本摘要評(píng)測(cè) 388
11.4.1 人工評(píng)測(cè) 389
11.4.2 自動(dòng)評(píng)測(cè) 390
11.5 文本摘要語(yǔ)料庫(kù) 393
11.5.1 單文檔摘要語(yǔ)料庫(kù) 393
11.5.2 多文檔摘要語(yǔ)料庫(kù) 393
11.5.3 對(duì)話摘要語(yǔ)料庫(kù) 393
11.5.4 多模態(tài)文本摘要語(yǔ)料庫(kù) 394
11.5.5 跨語(yǔ)言文本摘要語(yǔ)料庫(kù) 394
11.6 延伸閱讀 394
11.7 習(xí)題 395
第 12 章 知識(shí)圖譜 396
12.1 知識(shí)圖譜概述 396
12.1.1 知識(shí)圖譜的發(fā)展歷程 398
12.1.2 知識(shí)圖譜的研究?jī)?nèi)容 399
12.2 知識(shí)圖譜的表示與存儲(chǔ) 400
12.2.1 知識(shí)圖譜的符號(hào)表示 401
12.2.2 知識(shí)圖譜的向量表示 404
12.2.3 基于表的知識(shí)圖譜存儲(chǔ) 407
12.2.4 基于圖的知識(shí)圖譜存儲(chǔ) 410
12.3 知識(shí)圖譜的獲取與構(gòu)建 413
12.3.1 屬性補(bǔ)全 415
12.3.2 實(shí)體鏈接 417
12.3.3 實(shí)體對(duì)齊 421
12.4 知識(shí)圖譜推理 426
12.4.1 基于符號(hào)邏輯的知識(shí)圖譜推理 427
12.4.2 基于表示學(xué)習(xí)的知識(shí)圖譜推理 430
12.5 知識(shí)圖譜問(wèn)答 434
12.5.1 基于語(yǔ)義解析的知識(shí)圖譜問(wèn)答 435
12.5.2 基于信息檢索的知識(shí)圖譜問(wèn)答 437
12.5.3 基于深度學(xué)習(xí)的知識(shí)圖譜問(wèn)答 441
12.5.4 知識(shí)圖譜問(wèn)答語(yǔ)料庫(kù) 445
12.6 延伸閱讀 446
12.7 習(xí)題 447
第 3 部分 模型分析
第 13 章 模型穩(wěn)健性 449
13.1 穩(wěn)健性概述 449
13.1.1 穩(wěn)健性的基本概念 450
13.1.2 穩(wěn)健性的主要研究?jī)?nèi)容 451
13.2 數(shù)據(jù)偏差消除 452
13.3 文本對(duì)抗攻擊方法 454
13.3.1 字符級(jí)別的攻擊方法 455
13.3.2 詞級(jí)別的攻擊方法 456
13.3.3 句子級(jí)別的攻擊方法 458
13.3.4 后門(mén)攻擊 459
13.4 文本對(duì)抗防御方法 463
13.4.1 基于對(duì)抗訓(xùn)練的文本對(duì)抗防御方法 463
13.4.2 基于表示壓縮的文本對(duì)抗防御方法 465
13.4.3 基于數(shù)據(jù)增強(qiáng)的文本對(duì)抗防御方法 466
13.4.4 對(duì)抗樣本檢測(cè) 468
13.5 模型穩(wěn)健性評(píng)測(cè)基準(zhǔn) 469
13.5.1 特定任務(wù)穩(wěn)健性評(píng)測(cè)基準(zhǔn) 469
13.5.2 模型穩(wěn)健性通用評(píng)測(cè)基準(zhǔn) 472
13.6 延伸閱讀 477
13.7 習(xí)題 478
第 14 章 模型可解釋性 479
14.1 可解釋性概述 479
14.1.1 可解釋性的分類(lèi) 480
14.1.2 解釋方法評(píng)估 481
14.2 解釋性分析方法 483
14.2.1 局部分析方法 483
14.2.2 全局分析方法 489
14.3 自然語(yǔ)言處理算法的解釋性分析方法 492
14.3.1 模型解釋性分析方法 492
14.3.2 數(shù)據(jù)解釋性分析方法 496
14.3.3 可解釋評(píng)估 498
14.4 延伸閱讀 500
14.5 習(xí)題 500
參考文獻(xiàn) 501
索引 564