人工神經(jīng)網(wǎng)絡(luò)導(dǎo)論

前言
1 引論
1. 1 智能與思維科學(xué)
1. 1. 1 智能
1. 1. 2 思維科學(xué)
1. 1. 3 思維的類型
1. 2 人工智能
1. 2. 1 人工智能的概念
1. 2. 2 人工智能的發(fā)展簡史
1. 2. 3 人工智能的研究目標(biāo)
1. 2. 4 人工智能研究的基本內(nèi)容
1. 2. 5 人工智能的研究途徑
1. 2. 6 人工智能的研究領(lǐng)域
1. 3 人工神經(jīng)網(wǎng)絡(luò)概述
1. 3. 1 人工神經(jīng)網(wǎng)絡(luò)研究簡史
1. 3. 2 人工神經(jīng)網(wǎng)絡(luò)研究基本內(nèi)容
1. 3. 3 人工神經(jīng)網(wǎng)絡(luò)分類
2 基礎(chǔ)知識
2. 1 人腦神經(jīng)系統(tǒng)的構(gòu)成
2. 1. 1 小腦
2. 1. 2 間腦
2. 1. 3 腦干
2. 1. 4 大腦
2. 2 人腦神經(jīng)細(xì)胞工作概況
2. 2. 1 神經(jīng)細(xì)胞的基本結(jié)構(gòu)
2. 2. 2 信號在軸突內(nèi)的傳遞
2. 3 人工神經(jīng)網(wǎng)絡(luò)的構(gòu)思
*2. 4 系統(tǒng)的穩(wěn)定性
2. 4. 1 動力系統(tǒng)
2. 4. 2 自治系統(tǒng)與非自治系統(tǒng)
2. 4. 3 奇點與常點. 穩(wěn)定性
2. 4. 4 奇點的穩(wěn)定與漸近穩(wěn)定
2. 4. 5 極限環(huán)的穩(wěn)定性
2. 4. 6 一般運動穩(wěn)定性概念 Lyapunov穩(wěn)定性
2. 4. 7 穩(wěn)定性的定性理論
2. 4. 8 系統(tǒng)軌道穩(wěn)定性
2. 4. 9 結(jié)構(gòu)穩(wěn)定性
2. 4. 10 穩(wěn)定性在神經(jīng)網(wǎng)絡(luò)設(shè)計中的重要性
**2. 5 混沌與神經(jīng)網(wǎng)絡(luò)
2. 5. 1 動力學(xué)系統(tǒng)
2. 5. 2 穩(wěn)態(tài)行為與極限集
2. 5. 3 龐加萊映射
2. 5. 4 極限集的穩(wěn)定性
2. 5. 5 維數(shù)
3 神經(jīng)元模型
3. 1 神經(jīng)元的通用功能模型
3. 1. 1 輸入?yún)^(qū)
3. 1. 2 處理區(qū)
3. 1. 3 輸出區(qū)
3. 2 簡單線性神經(jīng)元
3. 3 位勢神經(jīng)元
3. 4 邏輯神經(jīng)元
3. 4. 1 功能函數(shù)用邏輯函數(shù)表示
3. 4. 2 功能函數(shù)用表格形式表示
3. 4. 3 邏輯函數(shù)拓廣到連續(xù)變量
3. 5 勢態(tài)神經(jīng)元
3. 6 其他神經(jīng)元
3. 6. 1 G神經(jīng)元模型
3. 6. 2 RM元
4 聯(lián)接方式
4. 1 分層神經(jīng)元網(wǎng)的一般結(jié)構(gòu)
4. 2 聯(lián)接矩陣圖
4. 3 神經(jīng)元網(wǎng)絡(luò)的多層組織
5 訓(xùn)練和學(xué)習(xí)
5. 1 乘積學(xué)習(xí)規(guī)則
5. 1. 1 給定一個訓(xùn)練樣本對時權(quán)矩陣的設(shè)計
5. 1. 2 給定多個訓(xùn)練樣本對時權(quán)矩陣的設(shè)計
5. 2 關(guān)聯(lián)學(xué)習(xí)
5. 2. 1 學(xué)習(xí)規(guī)則與公式
5. 2. 2 與乘積學(xué)習(xí)規(guī)則的區(qū)別
5. 2. 3 局限性與改進(jìn)
5. 3 線性元網(wǎng)絡(luò)的差值規(guī)則訓(xùn)練法
5. 3. 1 乘積規(guī)則的缺陷
5. 3. 2 基本差值規(guī)則 用于單層線性網(wǎng)絡(luò)
5. 3. 3 基本差值訓(xùn)練算法的收斂性分析
5. 4 準(zhǔn)線性元網(wǎng)絡(luò)的差值規(guī)則
5. 4. 1 準(zhǔn)線性神經(jīng)元
5. 4. 2 多層準(zhǔn)線性元網(wǎng)絡(luò) 多層感知器, MLP 的反向傳遞算法（BP）
5. 5 隨機訓(xùn)練
5. 5. 1 差值訓(xùn)練算法缺點
5. 5. 2 逃離局部最小點的策略
5. 5. 3 神經(jīng)網(wǎng)絡(luò)的隨機訓(xùn)練法
5. 5. 4 隨機訓(xùn)練算法的具體實施方案
6 前饋網(wǎng)絡(luò)
6. 1 感知器
6. 1. 1 感知器模型
6. 1. 2 用來進(jìn)行模式識別
6. 1. 3 用來實現(xiàn)邏輯函數(shù)
6. 1. 4 異或 XOR 問題
6. 2 多層感知器 MLP
6. 2. 1 多層感知器的功能
6. 2. 2 多層感知器的學(xué)習(xí)算法 反向傳遞算法
6. 2. 3 多層感知器存在的問題與局限性
6. 3 徑向基函數(shù) RBF 網(wǎng)絡(luò)
6. 3. 1 RBF的基本功能
6. 3. 2 RBF網(wǎng)的學(xué)習(xí)算法
6. 3. 3 RBF網(wǎng)的擴展
6. 3. 4 RBF網(wǎng)的學(xué)習(xí)復(fù)雜度
6. 4 前饋網(wǎng)絡(luò)與其他模式分類器
6. 4. 1 高斯分類器
6. 4. 2 混合高斯法與窗函數(shù)法
6. 4. 3 區(qū)分函數(shù)分類器
6. 4. 4 距離分類器
7 動態(tài)網(wǎng)絡(luò)
7. 1 延時網(wǎng)絡(luò) TDNN
7. 2 雙向聯(lián)想存儲
7. 2. 1 一些預(yù)備知識
7. 2. 2 雙向聯(lián)想存儲
BAM
7. 3 Hopfield
7. 4 遞歸網(wǎng)絡(luò)
7. 4. 1 神經(jīng)元方程
7. 4. 2 學(xué)習(xí)算法
7. 4. 3 例子
7. 5 Bolzmann機
7. 5. 1 問題的提出
7. 5. 2 自聯(lián)想Bolzmann機
7. 5. 3 異聯(lián)想Bolzmann機
7. 5. 4 例子
8 競爭網(wǎng)絡(luò)
8. 1 漢明網(wǎng)
8. 1. 1 漢明網(wǎng)的拓?fù)浣Y(jié)構(gòu)
8. 1. 2 權(quán)矩陣的計算 存儲
8. 1. 3 神經(jīng)元功能函數(shù)
8. 1. 4 網(wǎng)絡(luò)的運行
8. 1. 5 Hamming網(wǎng)的優(yōu)越性
8. 1. 6 實現(xiàn)獨活型競爭 選極大 的其他網(wǎng)網(wǎng)絡(luò)結(jié)構(gòu)
8. 2 自組織特征映射
8. 2. 1 自組織特征映射的思想來源
8. 2. 2 自組織特征映射的網(wǎng)絡(luò)模型
8. 2. 3 仿真實例
8. 2. 4 幾點注意事項
8. 2. 5 關(guān)于SOFM的幾點評論
8. 3 適應(yīng)諧振網(wǎng)--ART1
8. 3. 1 Grossberg及其自適應(yīng)諧振網(wǎng)理論
8. 3. 2 ART1拓?fù)浣Y(jié)構(gòu)
8. 3. 3 ART1的運行 無師學(xué)習(xí)算法
8. 3. 4 運行實例
8. 3. 5 ART1的優(yōu)缺點
8. 4 自適應(yīng)諧振網(wǎng)-ART2
8. 4. 1 ART2的拓?fù)浣Y(jié)構(gòu)
8. 4. 2 F1層短期記憶方程
8. 4. 3 F2層短期記憶方程
8. 4. 4 重置方程
8. 4. 5 學(xué)習(xí)議程
8. 4. 6 權(quán)初值的選取
8. 4. 7 對參數(shù)c, d的約束
8. 4. 8 ART2的學(xué)習(xí)算法
8. 4. 9 ART2的特點
8. 4. 10 仿真實例
8. 4. 11 ART2的另外兩種結(jié)構(gòu)
8. 4. 12 ART2的缺點
9 模糊自適應(yīng)網(wǎng)
9. 1 模糊自適應(yīng)諧振網(wǎng) FuzzyART
9. 1. 1 基本思想
9. 1. 2 符號與術(shù)語
9. 1. 3 模糊自適應(yīng)諧振算法
9. 1. 4 算法說明
9. 1. 5 算法的幾何解釋
9. 1. 6 例子
9. 1. 7 模糊自適應(yīng)諧振網(wǎng)的缺點
9. 2 模糊極小一極大網(wǎng)
9. 2. 1 FMM網(wǎng)的輸入空間
9. 2. 2 超盒. 模糊集與隸屬函數(shù)
9. 2. 3 拓?fù)浣Y(jié)構(gòu)與神經(jīng)元
9. 2. 4 網(wǎng)絡(luò)的運行
9. 2. 5 網(wǎng)絡(luò)的有師訓(xùn)練算法
9. 2. 6 例子
9. 2. 7 總結(jié)
9. 3 一般模糊極小一極大 GFMM 網(wǎng)
9. 3. 1 拓?fù)浣Y(jié)構(gòu)
9. 3. 2 超盒模糊集的隸屬函數(shù)
9. 3. 3 學(xué)習(xí)算法
9. 3. 4 網(wǎng)絡(luò)的運行
9. 3. 5 模擬例子
**9. 4 模糊格神經(jīng)網(wǎng)絡(luò) FLNN
9. 4. 1 模糊格理論基礎(chǔ)
9. 4. 2 模糊格神經(jīng)網(wǎng)絡(luò)
9. 4. 3 VL中包含測度的定義
9. 4. 4 實驗結(jié)果
*9. 5 遞歸自組織模糊推理網(wǎng)絡(luò) RSONFIN
9. 5. 1 基本思想
9. 5. 2 RSONFIN的模型
9. 5. 3 RSONFIN的結(jié)構(gòu)學(xué)習(xí)
9. 5. 4 參數(shù)學(xué)習(xí)
9. 5. 5例子
**10 統(tǒng)計學(xué)習(xí)理論
10. 1 學(xué)習(xí)理論的背景
10. 1. 1 預(yù)報函數(shù)估計模型
10. 1. 2 風(fēng)險極小化問題準(zhǔn)則
10. 1. 3 三種主要的學(xué)習(xí)問題
10. 1. 4 經(jīng)驗函數(shù)極小化推導(dǎo)準(zhǔn)則
10. 1. 5 ERM與經(jīng)典方法
10. 1. 6 學(xué)習(xí)理論的四部分
10. 2 學(xué)習(xí)過程一致性理論
10. 2. 1 學(xué)習(xí)理論的基本定理
10. 2. 2 一致收斂的充要條件
10. 2. 3 學(xué)習(xí)理論中的三個里程碑
10. 3 學(xué)習(xí)過程收斂率的界限
10. 3. 1 增長函數(shù)的結(jié)構(gòu)
10. 3. 2 VC維數(shù)的等價定義
10. 3. 3 兩個重要例子
10. 3. 4 不依賴于分布的學(xué)習(xí)過程收斂率
10. 3. 5
依賴分布 構(gòu)造嚴(yán)格上界
10. 4 控制學(xué)習(xí)機泛化性能的理論
10. 5 構(gòu)造性學(xué)習(xí)算法的理論
10. 5. 1 劃分超平面法及其推廣
10. 5. 2 示性函數(shù)的S型逼近與神經(jīng)網(wǎng)絡(luò)
10. 5. 3 最優(yōu)劃分超平面
10. 5. 4 支承向量機
10. 5. 5 為什么神經(jīng)網(wǎng)絡(luò)與支承向量機能夠泛化
10. 6 結(jié)論
參考文獻(xiàn)