機器學(xué)習(xí)與精據(jù)挖掘：方法和應(yīng)用

第1部分 基 本 概 念
第1章 機器學(xué)習(xí)方法概述 （2）
1.1 導(dǎo)論 （2）
1.2 機器學(xué)習(xí)任務(wù) （4）
1.2.1 認知觀點 （5）
1.2.2 表示問題 （7）
1.3 泛化空間的搜索 （11）
1.3.1 學(xué)習(xí)的歸納本質(zhì) （11）
1.3.2 窮盡搜索 （13）
1.3.3 啟發(fā)式搜索 （14）
1.4 學(xué)習(xí)經(jīng)典任務(wù) （16）
1.4.1 分而治之學(xué)習(xí)法 （16）
1.4.2 主動覆蓋：AQ學(xué)習(xí) （24）
1.4.3 學(xué)習(xí)算法評估 （27）
1.5 如何利用謂詞邏輯 （29）
1.5.1 從關(guān)系中學(xué)習(xí)Horn子句 （30）
1.5.2 反轉(zhuǎn)歸并 （34）
1.5.3 理論修正 （36）
1.5.4 構(gòu)造歸納 （38）
1.6 人工發(fā)現(xiàn) （40）
1.6.1 概念形成 （41）
1.6.2 尋找自然定律 （46）
1.6.3 動態(tài)系統(tǒng)的發(fā)現(xiàn) （49）
1.7 如何處理搜索空間過大 （50）
1.7.1 類比提供搜索啟發(fā) （50）
1.7.2 基于示例學(xué)習(xí) （51）
1.8 機器學(xué)習(xí)的近鄰 （53）
1.8.1 人工神經(jīng)網(wǎng)絡(luò) （53）
1.8.2 遺傳算法 （55）
1.9 混合系統(tǒng)與多策略學(xué)習(xí) （57）
1.9.1 熵網(wǎng)絡(luò) （58）
1.9.2 基于知識的神經(jīng)網(wǎng)絡(luò) （59）
1.9.3 AQ泛化中的遺傳搜索 （60）
1.9.4 GA與神經(jīng)網(wǎng)絡(luò)的結(jié)合 （61）
1.10 展望 （61）
參考文獻 （62）
第2章 數(shù)據(jù)挖掘與知識發(fā)現(xiàn)：對問題和多策略方法的回顧 （65）
2.1 前言 （65）
2.2 機器學(xué)習(xí)與多策略數(shù)據(jù)分析 （67）
2.2.1 從具體實例中抽取通用規(guī)則 （68）
2.2.2 概念聚類 （72）
2.2.3 構(gòu)造性歸納 （73）
2.2.4 選擇最有代表性的樣本 （74）
2.2.5 定性與定量結(jié)合的發(fā)現(xiàn) （75）
2.2.6 定性預(yù)測 （75）
2.2.7 基于機器學(xué)習(xí)方法的總結(jié) （77）
2.3 數(shù)據(jù)分析任務(wù)中的分類 （78）
2.4 INLEN中各操作的集成 （81）
2.5 聚類和學(xué)習(xí)操作的說明 （84）
2.6 數(shù)據(jù)與規(guī)則的可視化 （86）
2.7 結(jié)構(gòu)屬性的規(guī)則學(xué)習(xí) （89）
2.8 從決策規(guī)則中學(xué)習(xí)決策結(jié)構(gòu) （91）
2.9 表示空間的自動改善 （93）
2.9.1 確定最相關(guān)的屬性 （93）
2.9.2 新屬性的產(chǎn)生 （94）
2.10 應(yīng)用展示：經(jīng)濟與人口統(tǒng)計數(shù)據(jù)中的發(fā)現(xiàn) （94）
2.10.1 背景 （94）
2.10.2 實驗1：多操作的集成 （95）
2.10.3 實驗2：子群中的異常識別 （96）
2.10.4 實驗3：利用結(jié)構(gòu)屬性 （97）
2.10.5 實驗4：利用構(gòu)造性歸納運算操作 （99）
2.11 總結(jié) （100）
參考文獻
（101）
第3章 機器學(xué)習(xí)在多個領(lǐng)域的應(yīng)用 （102）
3.1 前言 （102）
3.2 規(guī)則歸納在多個領(lǐng)域中的應(yīng)用 （103）
3.2.1 提高化工過程控制中的產(chǎn)量 （103）
3.2.2 信用評估決策 （104）
3.2.3 機械設(shè)備故障診斷 （105）
3.2.4 天體對象的自動分類 （106）
3.2.5 監(jiān)測旋轉(zhuǎn)乳液的質(zhì)量 （107）
3.2.6 減少照排印刷時的條紋現(xiàn)象 （107）
3.2.7 改善油氣分離質(zhì)量 （108）
3.2.8 預(yù)防電力變壓器故障 （109）
3.2.9 規(guī)則歸納在其他領(lǐng)域的應(yīng)用 （110）
3.3 規(guī)則歸納的其他應(yīng)用研究 （110）
3.3.1 填表工作的自動化 （111）
3.3.2 支持知識庫維護 （111）
3.3.3 航天飛機引擎的測試 （112）
3.3.4 嚴重暴風(fēng)雨的預(yù)報 （112）
3.3.5 直升機葉片的修理 （112）
3.3.6 預(yù)測蛋白質(zhì)結(jié)構(gòu) （113）
3.3.7 鋼廠調(diào)度自動化 （113）
3.3.8 更多應(yīng)用及其相關(guān)方法 （113）
3.4 若干策略和經(jīng)驗 （114）
3.4.1 問題的明確描述 （114）
3.4.2 確定表示方法 （115）
3.4.3 訓(xùn)練數(shù)據(jù)的收集 （115）
3.4.4 評估學(xué)習(xí)獲得的知識 （116）
3.4.5 知識庫的具體應(yīng)用 （116）
3.4.6 機器學(xué)習(xí)應(yīng)用的效能來源 （117）
參考文獻 （118）
第4章 歸納邏輯編程的應(yīng)用 （120）
4.1 前言 （120）
4.2 ILP方法與其他機器學(xué)習(xí)方法的比較 （122）
4.3 預(yù)測化合物的誘變性 （123）
4.4 放電機器中的技能重建 （125）
4.4.1 表示方法的設(shè)計 （125）
4.4.2 學(xué)習(xí)結(jié)果和專家評估 （126）
4.5 ILP的一些其他應(yīng)用 （128）
4.6 總結(jié) （130）
參考文獻 （131）
第2部分 設(shè)計與工程
第5章 機器學(xué)習(xí)在有限元計算中的應(yīng)用 （134）
5.1 簡介 （134）
5.2 向FEM產(chǎn)生器添加一個專家系統(tǒng) （136）
5.3 學(xué)習(xí)問題. 實例和背景知識 （137）
5.3.1 問題的關(guān)系特性 （137）
5.3.2 實例來源 （137）
5.3.3 正面實例 （138）
5.3.4 反面實例 （139）
5.3.5 背景知識 （139）
5.3.6 學(xué)習(xí)集概要 （141）
5.4 以前的實驗 （142）
5.4.1 GOLEM的實驗 （142）
5.4.2 FOIL的實驗 （143）
5.4.3 mFOIL的實驗 （144）
5.4.4 CLAUDIEN的實驗 （144）
5.4.5 MILP的實驗 （144）
5.4.6 FOSSIL的實驗 （145）
5.4.7 屬性值算法的實驗 （145）
5.5 選擇一個合適的學(xué)習(xí)算法 （145）
5.6 根據(jù)CLAUDIEN學(xué)習(xí) （147）
5.7 歸納的規(guī)則的后期處理 （150）
5.8 結(jié)果 （152）
5.8.1 知識庫與ES Shell （152）
5.8.2 對專家系統(tǒng)的評價 （153）
5.9 總結(jié) （156）
參考文獻 （157）
第6章 歸納學(xué)習(xí)和基于事例的推理在工業(yè)機器故障檢測方面的應(yīng)用 （159）
6.1 簡介 （159）
6.2 歸納學(xué)習(xí)與基于事例的推理 （160）
6.3 更好地利用經(jīng)驗 （162）
6.4 應(yīng)用 （162）
6.4.1 CFM 56-3引擎的故障檢測 （163）
6.4.2 機器人軸心的故障檢測 （165）
參考文獻 （168）
第7章 經(jīng)驗裝配序列規(guī)劃：多策略構(gòu)造學(xué)習(xí)方法 （170）
7.1 前言 （170）
7.2 NOMAD中的表示與規(guī)劃 （172）
7.3 多策略構(gòu)造學(xué)習(xí) （176）
7.4 NOMAD的學(xué)習(xí)場景 （177）
7.5 與先前研究進行比較 （181）
7.6 結(jié)束語 （183）
參考文獻 （184）
第8章 歸納學(xué)習(xí)設(shè)計入門：關(guān)于防摩擦軸承系統(tǒng)的
設(shè)計方法和實例研究 （186）
8.1 導(dǎo)論 （186）
8.2 一種學(xué)習(xí)設(shè)計規(guī)則的方法 （187）
8.2.1 概述 （187）
8.2.2 學(xué)習(xí)規(guī)則集的經(jīng)驗性錯誤 （188）
8.2.3 應(yīng)用已學(xué)習(xí)到的規(guī)則處理新例子 （189）
8.3 一個示范問題的描述 （189）
8.4 歸納方法的應(yīng)用 （191）
8.4.1 變量的定性值 （192）
8.5 訓(xùn)練與事件測試 （193）
8.5.1 設(shè)計知識源 （193）
8.5.2 樣本數(shù)據(jù)庫 （194）
8.6 結(jié)果分析 （194）
8.6.1 從訓(xùn)練樣本中學(xué)習(xí)規(guī)則 （195）
8.6.2 以遞增學(xué)習(xí)方法評估預(yù)備樣本 （196）
8.6.3 得到結(jié)果的可信度 （197）
8.7 總結(jié) （199）
參考文獻 （200）
第3部分 文本. 圖像和音樂模式的測定
第9章 找出文本之間的關(guān)聯(lián) （202）
9.1 介紹 （202）
9.2 FACT系統(tǒng)結(jié)構(gòu) （204）
9.3 關(guān)聯(lián) （207）
9.4 查詢語言 （208）
9.5 查詢操作 （210）
9.6 關(guān)系表達式 （213）
9.7 對新聞數(shù)據(jù)運用FACT系統(tǒng) （213）
9.8 總結(jié) （216）
參考文獻 （217）
第10章 學(xué)習(xí)圖像中的模式 （220）
10.1 導(dǎo)論 （220）
10.2 計算機視覺中機器學(xué)習(xí)的研究工作 （221）
10.3 室外場景彩色圖像的語義解釋 （224）
10.3.1 MIST方法 （224）
10.3.2 實現(xiàn)和實驗結(jié)果 （226）
10.4 檢查行李X光圖像中的引爆雷管 （229）
10.4.1 預(yù)備知識 （229）
10.4.2 問題描述 （231）
10.4.3 方法和實驗結(jié)果 （232）
10.5 視頻圖像序列中的動作識別 （234）
10.5.1 來自動作的功能 （234）
10.5.2 運動的計算 （236）
10.5.3 實驗 （238）
10.6 結(jié)論與未來的研究 （242）
10.6.1 室外場景彩色圖像的語義解釋 （242）
10.6.2 行李X管圖像中的引爆雷管檢測 （242）
10.6.3 識別視頻圖像序列中的動作 （242）
10.6.4 在視覺系統(tǒng)中結(jié)合學(xué)習(xí)的優(yōu)點 （243）
參考文獻 （244）
第11章 機器學(xué)習(xí)在音樂研究領(lǐng)域的應(yīng)用：深入音樂
表達現(xiàn)象的經(jīng)驗調(diào)查 （246）
11.1 介紹 （246）
11.2 學(xué)習(xí)對象：富有表現(xiàn)力的音樂演奏 （248）
11.3 背景知識的特性和價值 （248）
11.4 方法一：在音樂符號的層次上學(xué)習(xí) （250）
11.4.1 目標概念 （251）
11.4.2 定性的領(lǐng)域理論 （251）
11.4.3 IBL-SMART學(xué)習(xí)算法 （254）
11.4.4 實驗 （255）
11.5 方法二：在結(jié)構(gòu)層次上學(xué)習(xí) （258）
11.5.1 實驗 （260）
11.6 對真實藝術(shù)的演奏的一次機器學(xué)習(xí)分析 （263）
11.7 實驗結(jié)果的討論 （266）
11.7.1 定量的分析 （267）
11.7.2 對于音樂理論有用的定性結(jié)果 （269）
11.8 總結(jié) （269）
參考文獻 （270）
第4部分 計算機系統(tǒng)和控制系統(tǒng)
第12章 網(wǎng)頁哨兵：萬維網(wǎng)頁學(xué)習(xí)者 （274）
12.1 概述 （274）
12.2 網(wǎng)頁哨兵 （274）
12.3 學(xué)習(xí) （280）
12.3.1 該學(xué)些什么 （280）
12.3.2 怎樣描述Pages, Links和Goals （280）
12.3.3 應(yīng)該用什么樣的學(xué)習(xí)方法 （282）
12.4 實驗結(jié)果 （283）
12.4.1 UserChoice？能學(xué)習(xí)到多精確的程度 （283）
12.4.2 犧牲覆蓋率能改進準確率嗎 （285）
12.5 總結(jié) （286）
參考文獻 （287）
第13章 計算機病毒的生物啟發(fā)式防御 （288）
13.1 介紹 （288）
13.2 背景 （289）
13.2.1 計算機病毒 （289）
13.2.2 病毒的檢測. 清除和分析 （290）
13.3 病毒種類的檢測 （291）
13.3.1 特征選取 （294）
13.3.2 分類器的訓(xùn)練和性能 （295）
13.4 計算機免疫系統(tǒng) （296）
13.4.1 未知檢測 （298）
13.4.2 掃描已知病毒 （299）
13.4.3 清除病毒 （300）
13.4.4 誘餌 （300）
13.4.5 病毒自動分析 （301）
13.4.6 自動特征抽取 （302）
13.4.7 免疫的記憶 （304）
13.4.8 用自我復(fù)制對付自我復(fù)制 （304）
13.5 結(jié)論與展望 （305）
參考文獻 （306）
第14章 控制技術(shù)的行為復(fù)制 （308）
14.1 引言 （308）
14.2 行為復(fù)制 （310）
14.3 桿平衡 （311）
14.3.1 問題 （311）
14.3.2 桿的選擇 （312）
14.3.3 時間延遲 （312）
14.3.4 清除效果 Clean-up Effect （312）
14.3.5 敏感性 （313）
14.3.6 歸納規(guī)則的透明性 （314）
14.4 學(xué)習(xí)飛行 （314）
14.4.1 問題 （314）
14.4.2 樣本選擇 （315）
14.4.3 時間延遲 （315）
14.4.4 清除效果 （316）
14.4.5 敏感性 （316）
14.4.6 歸納規(guī)則的透明度 （317）
14.5 集裝箱起重機 （317）
14.5.1 問題 （317）
14.5.2 選擇例子 （318）
14.5.3 時間延遲 （319）
14.5.4 清除效果 （319）
14.5.5 敏感性 （320）
14.5.6 推導(dǎo)規(guī)則的透明度 （321）
14.6 生產(chǎn)線調(diào)度 （322）
14.6.1 問題 （322）
14.6.2 樣本的選擇 （322）
14.6.3 時延 （322）
14.6.4 清除效果 （323）
14.6.5 敏感性 （323）
14.6.6 歸納規(guī)則的透明度 （323）
14.7 討論 （323）
參考文獻 （325）
第15章 空中交通控制一階知識的獲取 （327）
15.1 引言 （327）
15.2 基于知識的關(guān)系歸納 （330）
15.2.1 零階與一階表示的對比 （330）
15.2.2 OGUST介紹 （333）
15.3 ATC的應(yīng)用 （341）
15.3.1 簡介 （341）
15.3.2 選擇表示語言 （341）
15.3.3 確定要學(xué)習(xí)的概念 （341）
15.3.4 獲取例子并重寫它們 （342）
15.3.5 用Horn子句重寫背景知識 （353）
15.3.6 算法對結(jié)構(gòu)化對象的應(yīng)用 （355）
15.3.7 重寫歸納 （357）
15.4 總結(jié) （360）
參考文獻 （362）
第5部分 醫(yī)學(xué)和生物學(xué)
第16章 機器學(xué)習(xí)在醫(yī)學(xué)診斷中的應(yīng)用 （366）
16.1 介紹 （366）
16.2 醫(yī)學(xué)診斷 （367）
16.3 醫(yī)生與機器學(xué)習(xí)診斷結(jié)果的比較 （368）
16.4 選擇適當(dāng)?shù)臋C器學(xué)習(xí)系統(tǒng) （370）
16.4.1 機器學(xué)習(xí)系統(tǒng)的具體要求 （371）
16.4.2 測試的算法描述 （372）
16.4.3 醫(yī)學(xué)問題上算法效果的比較 （374）
16.4.4 醫(yī)學(xué)診斷的實用性 （375）
16.5 實踐中的認同 （378）
16.6 總結(jié) （379）
參考文獻 （381）
第17章 學(xué)習(xí)對生物醫(yī)學(xué)信號進行分類 （383）
17.1 介紹 （383）
17.2 兩個醫(yī)學(xué)領(lǐng)域 （384）
17.2.1 睡眠分類 （384）
17.2.2 從腦電波信號中識別肌肉運動指令 （386）
17.3 基于神經(jīng)網(wǎng)絡(luò)初始化的決策樹方法 （388）
17.3.1 TBNN基本思想 （389）
17.3.2 初始化權(quán)值和相鄰層的完全連接 （390）
17.3.3 弱化間隔和神經(jīng)網(wǎng)絡(luò)的微調(diào) （392）
17.4 基于樹的RBF網(wǎng)絡(luò)初始化 （393）
17.4.1 RBF網(wǎng)絡(luò)及其參數(shù) （393）
17.4.2 基于參數(shù)設(shè)置的決策樹 （395）
17.5 試驗 （396）
17.6 討論 （399）
參考文獻 （401）
第18章 機器學(xué)習(xí)在河流水質(zhì)的生物分類中的應(yīng)用 （402）
18.1 簡介 （402）
18.2 英國河流生物分類中的規(guī)則學(xué)習(xí) （404）
18.2.1 數(shù)據(jù) （405）
18.2.2 實驗 （406）
18.3 對斯洛文尼亞河流數(shù)據(jù)的分析 （410）
18.3.1 理化參數(shù)對選定生物體的影響 （412）
18.3.2. 生物分類 （416）
18.4 討論 （419）
參考文獻 （421）