深度學(xué)習(xí)

第1章 緒論
1．1 引言
1．2 基本術(shù)語
1．3 監(jiān)督學(xué)習(xí)算法
1．3．1 支持向量機(jī)
1．3．2 決策樹
1．4 無監(jiān)督學(xué)習(xí)算法
1．4．1 主成分分析
1．4．2 K-均值聚類
1．5 機(jī)器學(xué)習(xí)
1．6 深度學(xué)習(xí)的趨勢
1．6．1 與日俱增的數(shù)據(jù)量
1．6．2 愈發(fā)龐大的計(jì)算資源
1．6．3 越來越高的性能以及解決實(shí)際問題的潛力
思考題
參考文獻(xiàn)
第2章 TensorFlow和Keras簡介
2．1 TensorFlow簡介
2．1．1 概述
2．1．2 TensorFlow的使用
2．1．3 TensorFlow的可視化
2．2 Keras簡介
2．2．1 Keras概述
2．2．2 Keras的使用
2．2．3 Keras的可視化
思考題
參考文獻(xiàn)
第3章 簡單神經(jīng)網(wǎng)絡(luò)
3．1 人腦是如何學(xué)習(xí)的
3．2 模仿人腦——神經(jīng)元（感知器）
3．3 非線性神經(jīng)元
3．4 神經(jīng)網(wǎng)絡(luò)架構(gòu)
3．5 梯度下降
3．5．1 代價(jià)函數(shù)
3．5．2 梯度下降
3．6 反向傳播
3．6．1 多層神經(jīng)網(wǎng)絡(luò)的數(shù)學(xué)表示
3．6．2 反向傳播算法原理
3．7 實(shí)現(xiàn)簡單神經(jīng)網(wǎng)絡(luò)
思考題
參考文獻(xiàn)
第4章 圖像類數(shù)據(jù)處理
4．1 二維卷積神經(jīng)網(wǎng)絡(luò)的基本原理
4．1．1 卷積神經(jīng)網(wǎng)絡(luò)的原理
4．1．2 參數(shù)共享
4．1．3 池化
4．1．4 分類原理
4．2 簡單卷積神經(jīng)網(wǎng)絡(luò)實(shí)例
4．3 過度擬合
4．3．1 容量、過擬合與欠擬合的基本概念
4．3．2 數(shù)據(jù)集增強(qiáng)
4．3．3 L2正則化一
4．3．4 L1正則化
4．3．5 Dropout
4．3．6 提前終止
4．4 時(shí)間優(yōu)化
4．4．1 交叉熵代價(jià)函數(shù)
4．4．2 批標(biāo)準(zhǔn)化
4．4．3 隨機(jī)梯度下降
4．4．4 動(dòng)量
4．4．5 Nesterov動(dòng)量
4．5 綜合二維卷積神經(jīng)網(wǎng)絡(luò)實(shí)例
思考題
參考文獻(xiàn)
第5章 序列類數(shù)據(jù)處理
5．1 一維卷積神經(jīng)網(wǎng)絡(luò)
5．1．1 一維卷積神經(jīng)網(wǎng)絡(luò)的原理
5．1．2 一維卷積神經(jīng)網(wǎng)絡(luò)實(shí)例
5．2 循環(huán)神經(jīng)網(wǎng)絡(luò)
5．2．1 循環(huán)神經(jīng)網(wǎng)絡(luò)的基本原理
5．2．2 循環(huán)神經(jīng)網(wǎng)絡(luò)的輸出
5．2．3 上下文依賴型數(shù)據(jù)處理
5．2．4 序列到序列的數(shù)據(jù)處理
5．3 遞歸神經(jīng)網(wǎng)絡(luò)
5．3．1 遞歸神經(jīng)網(wǎng)絡(luò)的基本原理
5．3．2 長期依賴性
5．4 長短期記憶LSTM網(wǎng)絡(luò)
5．4．1 長短期記憶網(wǎng)絡(luò)的基本原理
5．4．2 長短期記憶網(wǎng)絡(luò)工程實(shí)例
思考題
參考文獻(xiàn)
第6章 深度學(xué)習(xí)模型優(yōu)化
6．1 參數(shù)初始化
6．2 超參數(shù)尋優(yōu)算法
6．2．1 手動(dòng)超參數(shù)尋優(yōu)
6．2．2 超參數(shù)尋優(yōu)算法
6．3 基于梯度的自適應(yīng)學(xué)習(xí)算法
6．3．1 AdaGrad算法一
6．3．2 RMSProp算法
6．3．3 Adam算法
6．4 生成對(duì)抗神經(jīng)網(wǎng)絡(luò)及實(shí)例
6．5 遷移學(xué)習(xí)及實(shí)例
6．6 強(qiáng)化學(xué)習(xí)
6．7 模型優(yōu)化的局限性
6．7．1 局部極小值
6．7．2 梯度消失、梯度爆炸與懸崖
6．7．3 鞍點(diǎn)
6．7．4 長期依賴
6．7．5 梯度的非精確性
思考題
參考文獻(xiàn)
第7章 數(shù)據(jù)和模型的處理與調(diào)試
7．1 模型評(píng)價(jià)
7．2 數(shù)據(jù)預(yù)處理
7．3 基礎(chǔ)模型的選擇
7．4 模型調(diào)試
思考題
參考文獻(xiàn)
第8章 現(xiàn)代深度學(xué)習(xí)模型概述
8．1 玻爾茲曼機(jī)
8．1．1 標(biāo)準(zhǔn)玻爾茲曼機(jī)
8．1．2 受限玻爾茲曼機(jī)
8．1．3 深層玻爾茲曼機(jī)
8．2 自編碼器
8．2．1 標(biāo)準(zhǔn)自編碼器
8．2．2 稀疏自編碼器
8．2．3 降噪自編碼器
8．3 深度信念網(wǎng)絡(luò)及實(shí)例
8．4 殘差神經(jīng)網(wǎng)絡(luò)及實(shí)例
8．5 膠囊神經(jīng)網(wǎng)絡(luò)及實(shí)例
思考題
參考文獻(xiàn)
附錄
附錄A 基于深度學(xué)習(xí)的視頻目標(biāo)跟蹤研究進(jìn)展綜述
附錄B Q-Learning算法的參考代碼