普林斯頓概率論讀本

第 一部分 一般性理論
第 1章 引言　　2
1．1 生日問題　　3
1．1．1 陳述問題　　3
1．1．2 解決問題　　6
1．1．3 對問題和答案的推廣：效率　　11
1．1．4 數(shù)值檢驗(yàn)　　14
1．2 從投籃到幾何級數(shù)　　16
1．2．1 問題和解答　　16
1．2．2 相關(guān)問題　　22
1．2．3 一般問題的解決技巧　　25
1．3 賭博　　28
1．3．1 2008年超級碗賭注　　29
1．3．2 預(yù)期收益　　29
1．3．3 對沖的價(jià)值　　31
1．3．4 結(jié)論　　32
1．4 總結(jié)　　33
1．5 習(xí)題　　35
第 2章 基本概率定律　　41
2．1 悖論　　42
2．2 集合論綜述　　44
2．2．1 編程漫談　　48
2．2．2 無窮大的大小和概率　　50
2．2．3 開集和閉集　　52
2．3 結(jié)果空間、事件和概率公理　　54
2．4 概率公理　　59
2．5 基本概率規(guī)則　　61
2．5．1 全概率公式　　62
2．5．2 并的概率　　63
2．5．3 包含的概率　　66
2．6 概率空間和σ代數(shù)　　67
2．7 附錄：實(shí)驗(yàn)性地找出規(guī)律　　72
2．7．1 乘積求導(dǎo)法則　　73
2．7．2 并的概率　　74
2．8 總結(jié)　　75
2．9 習(xí)題　　75
第3章 計(jì)數(shù)I：紙牌　　80
3．1 階乘和二項(xiàng)式系數(shù)　　81
3．1．1 階乘函數(shù)　　81
3．1．2 二項(xiàng)式系數(shù)　　85
3．1．3 總結(jié)　　90
3．2 撲克牌　　90
3．2．1 規(guī)則　　91
3．2．2 最小牌型　　93
3．2．3 對子　　95
3．2．4 兩對　　98
3．2．5 三條　　99
3．2．6 順子、同花和同花順　　99
3．2．7 葫蘆和鐵支　　100
3．2．8 撲克牌型練習(xí)：I　　102
3．2．9 撲克牌型練習(xí)：II　　103
3．3 單人紙牌　　105
3．3．1 克朗代克紙牌　　105
3．3．2 Aces Up紙牌　　108
3．3．3 《空當(dāng)接龍》　　110
3．4 橋牌　　112
3．4．1 井字游戲　　113
3．4．2 橋牌牌局的個(gè)數(shù)　　115
3．4．3 將牌的分配　　121
3．5 附錄：計(jì)算概率的代碼　　125
3．5．1 將牌的分配和代碼　　125
3．5．2 撲克牌型的代碼　　127
3．6 總結(jié)　　130
3．7 習(xí)題　　130
第4章 條件概率、獨(dú)立性和貝葉斯定理　　134
4．1 條件概率　　135
4．1．1 猜測條件概率公式　　137
4．1．2 期望計(jì)數(shù)法　　138
4．1．3 文氏圖法　　140
4．1．4 蒙提霍爾問題　　141
4．2 一般乘法法則　　142
4．2．1 陳述． 　　142
4．2．2 撲克牌的例子　　143
4．2．3 帽子問題和糾錯(cuò)碼　　144
4．2．4 高等注解：條件概率的定義　　145
4．3 獨(dú)立性　　146
4．4 貝葉斯定理　　148
4．5 劃分和全概率法則　　154
4．6 回顧貝葉斯定理　　157
4．7 總結(jié)　　158
4．8 習(xí)題　　158
第5章 計(jì)數(shù)II：容斥原理　　162
5．1 階乘和二項(xiàng)式問題　　163
5．1．1 “有多少個(gè)”與“概率是什么”　　163
5．1．2 選組　　165
5．1．3 循環(huán)次序　　166
5．1．4 選擇套裝　　168
5．2 容斥方法　　170
5．2．1 容斥原理的特例　　170
5．2．2 容斥原理的陳述　　173
5．2．3 容斥公式的證明　　175
5．2．4 利用容斥原理：同花色牌型　　177
5．2．5 從“至少”到“恰好”的方法　　180
5．3 錯(cuò)排　　182
5．3．1 錯(cuò)排的個(gè)數(shù)　　183
5．3．2 錯(cuò)排數(shù)的概率　　184
5．3．3 錯(cuò)排試驗(yàn)的代碼　　185
5．3．4 錯(cuò)排的應(yīng)用　　187
5．4 總結(jié)　　188
5．5 習(xí)題　　190
第6章 計(jì)數(shù)III：高等組合學(xué)　　193
6．1 基本計(jì)數(shù)　　194
6．1．1 枚舉法I　　194
6．1．2 枚舉法II　　195
6．1．3 有放回抽樣和無放回抽樣　　199
6．2 單詞排序　　207
6．2．1 排序方法數(shù)　　208
6．2．2 多項(xiàng)式系數(shù)　　210
6．3 劃分　　213
6．3．1 餅干問題　　213
6．3．2 彩票　　216
6．3．3 其他劃分　　220
6．4 總結(jié)　　223
6．5 習(xí)題　　223
第二部分 介紹隨機(jī)變量
第7章 離散型隨機(jī)變量　　228
7．1 離散型隨機(jī)變量：定義　　228
7．2 離散型隨機(jī)變量：概率密度函數(shù)　　230
7．3 離散型隨機(jī)變量：累積分布函數(shù)　　233
7．4 總結(jié)　　241
7．5 習(xí)題　　243
第8章 連續(xù)型隨機(jī)變量　　246
8．1 微積分基本定理　　247
8．2 概率密度函數(shù)和累積分布函數(shù)：定義　　259
8．3 概率密度函數(shù)和累積分布函數(shù)：例子　　251
8．4 單元素事件的概率　　256
8．5 總結(jié)　　258
8．6 習(xí)題　　259
第9章 工具：期望　　262
9．1 微積分預(yù)備知識　　263
9．2 期望值和矩　　265
9．3 均值和方差　　268
9．4 聯(lián)合分布　　273
9．5 期望的線性性質(zhì)　　277
9．6 均值和方差的性質(zhì)　　282
9．7 偏斜度與峰度　　287
9．8 協(xié)方差　　287
9．9 總結(jié)　　288
9．10 習(xí)題． 　　289
第 10章 工具：卷積和變量替換　　292
10．1 卷積：定義和性質(zhì)　　293
10．2 卷積：擲骰子的例子　　296
10．2．1 理論計(jì)算　　296
10．2．2 卷積碼　　297
10．3 多變量的卷積　　298
10．4 變量替換公式：敘述　　301
10．5 變量替換公式：證明　　305
10．6 附錄：隨機(jī)變量的乘積與商　　309
10．6．1 乘積的概率密度函數(shù)　　310
10．6．2 商的概率密度函數(shù)　　311
10．6．3 例子：指數(shù)分布的商　　311
10．7 總結(jié)　　313
10．8 習(xí)題　　313
第 11章 工具：微分恒等式　　317
11．1 幾何級數(shù)的例子　　318
11．2 微分恒等式法　　321
11．3 在二項(xiàng)分布隨機(jī)變量上的應(yīng)用　　322
11．4 在正態(tài)分布隨機(jī)變量上的應(yīng)用　　326
11．5 在指數(shù)分布隨機(jī)變量上的應(yīng)用　　328
11．6 總結(jié)　　330
11．7 習(xí)題　　331
第三部分 特殊分布
第 12章 離散分布　　334
12．1 伯努利分布　　334
12．2 二項(xiàng)分布　　335
12．3 多項(xiàng)分布　　339
12．4 幾何分布　　341
12．5 負(fù)二項(xiàng)分布　　343
12．6 泊松分布　　347
12．7 離散均勻分布　　350
12．8 習(xí)題　　353
第 13章 連續(xù)型隨機(jī)變量：均勻分布與指數(shù)分布　　357
13．1 均勻分布　　357
13．1．1 均值和方差　　358
13．1．2 服從均勻分布的隨機(jī)變量之和　　359
13．1．3 例子　　362
13．1．4 均勻地生成隨機(jī)數(shù)　　364
13．2 指數(shù)分布　　365
13．2．1 均值和方差　　366
13．2．2 服從指數(shù)分布的隨機(jī)變量之和　　369
13．2．3 服從指數(shù)分布的隨機(jī)變量的例子與應(yīng)用　　372
13．2．4 從指數(shù)分布中生成隨機(jī)數(shù)　　373
13．3 習(xí)題　　376
第 14章 連續(xù)型隨機(jī)變量：正態(tài)分布　　379
14．1 確定標(biāo)準(zhǔn)化常數(shù)　　380
14．2 均值和方差　　383
14．3 服從正態(tài)分布的隨機(jī)變量之和　　386
14．3．1 情形1：μX = μY = 0且σX^2 = σY^ 2 = 1　　388
14．3．2 情形2：一般化的μX、μY 和σX^2、σY^2 　　390
14．3．3 兩個(gè)服從正態(tài)分布的隨機(jī)變量之和：更快的代數(shù)運(yùn)算　　393
14．4 從正態(tài)分布中生成隨機(jī)數(shù)　　394
14．5 例子與中心極限定理　　400
14．6 習(xí)題　　401
第 15章 伽馬函數(shù)與相關(guān)分布　　405
15．1 Γ(s) 的存在性　　405
15．2 Γ(s) 的函數(shù)方程　　407
15．3 階乘函數(shù)與Γ(s) 　　411
15．4 Γ(s) 的特殊值　　412
15．5 貝塔函數(shù)與伽馬函數(shù)　　414
15．5．1 基本關(guān)系式的證明　　415
15．5．2 基本關(guān)系式和Γ(1=2) 　　417
15．6 正態(tài)分布與伽馬函數(shù)　　418
15．7 隨機(jī)變量族　　419
15．8 附錄：余割等式的證明　　421
15．8．1 余割等式：第 一種證明　　421
15．8．2 余割等式：第二種證明　　425
15．8．3 余割等式：s = 1=2的特殊情形　　427
15．9 柯西分布　　429
15．10 習(xí)題　　431
第 16章 卡方分布　　433
16．1 卡方分布的起源　　434
16．2 X ~x^2(1) 的均值與方差　　436
16．3 卡方分布與服從正態(tài)分布的隨機(jī)變量之和　　437
16．3．1 直接積分求平方和　　439
16．3．2 利用變量替換定理求平方和　　440
16．3．3 卷積法求平方和　　444
16．3．4 服從卡方分布的隨機(jī)變量之和　　446
16．4 總結(jié)　　447
16．5 習(xí)題　　449
第四部分 極限定理
第 17章 不等式和大數(shù)定律　　452
17．1 不等式　　452
17．2 馬爾可夫不等式　　454
17．3 切比雪夫不等式　　456
17．3．1 陳述　　456
17．3．2 證明　　458
17．3．3 正態(tài)分布與均勻分布的例子　　460
17．3．4 指數(shù)分布的例子　　462
17．4 布爾不等式與邦弗倫尼不等式　　462
17．5 收斂類型　　464
17．5．1 依分布收斂　　464
17．5．2 依概率收斂　　466
17．5．3 幾乎必然收斂與必然收斂　　467
17．6 弱大數(shù)定律與強(qiáng)大數(shù)定律　　467
17．7 習(xí)題　　469
第 18章 斯特林公式　　472
18．1 斯特林公式與概率　　474
18．2 斯特林公式與級數(shù)的收斂性　　476
18．3 從斯特林公式到中心極限定理　　477
18．4 積分判別法與較弱的斯特林公式　　481
18．5 得到斯特林公式的基本方法　　484
18．5．1 二進(jìn)分解　　484
18．5．2 斯特林公式的下界：I　　486
18．5．3 斯特林公式的下界：II　　488
18．5．4 斯特林公式的下界：III　　490
18．6 靜態(tài)相位與斯特林公式　　491
18．7 中心極限定理與斯特林公式　　492
18．8 習(xí)題　　494
第 19章 生成函數(shù)與卷積　　496
19．1 動機(jī)　　496
19．2 定義　　498
19．3 生成函數(shù)的唯一性和收斂性　　503
19．4 卷積I：離散型隨機(jī)變量　　504
19．5 卷積II：連續(xù)型隨機(jī)變量　　508
19．6 矩母函數(shù)的定義與性質(zhì)　　514
19．7 矩母函數(shù)的應(yīng)用　　521
19．8 習(xí)題　　525
第 20章 中心極限定理的證明　　527
20．1 證明的關(guān)鍵思路　　537
20．2 中心極限定理的陳述　　529
20．3 均值、方差與標(biāo)準(zhǔn)差　　531
20．4 標(biāo)準(zhǔn)化　　532
20．5 矩母函數(shù)的相關(guān)結(jié)果　　536
20．6 特殊情形：服從泊松分布的隨機(jī)變量之和　　538
20．7 利用MGF證明一般的CLT　　541
20．8 使用中心極限定理　　543
20．9 中心極限定理與蒙特卡羅積分　　544
20．10 總結(jié)　　546
20．11 習(xí)題　　547
第 21章 傅里葉分析與中心極限定理　　552
21．1 積分變換　　553
21．2 卷積與概率論　　557
21．3 中心極限定理的證明　　560
21．4 總結(jié)　　563
21．5 習(xí)題　　564
第五部分 其他主題
第 22章 假設(shè)檢驗(yàn)　　568
22．1 Z檢驗(yàn)　　569
22．1．1 原假設(shè)與備擇假設(shè)　　569
22．1．2 顯著性水平　　570
22．1．3 檢驗(yàn)統(tǒng)計(jì)量　　572
22．1．4 單側(cè)檢驗(yàn)與雙側(cè)檢驗(yàn)　　575
22．2 p值　　578
22．2．1 非凡的主張與p值　　578
22．2．2 大的p值　　579
22．2．3 關(guān)于p值的誤解　　579
22．3 t檢驗(yàn)　　581
22．3．1 估算樣本方差　　581
22．3．2 從z檢驗(yàn)到t檢驗(yàn)　　582
22．4 假設(shè)檢驗(yàn)的問題　　585
22．4．1 I型錯(cuò)誤　　585
22．4．2 II型錯(cuò)誤　　585
22．4．3 錯(cuò)誤率與司法系統(tǒng)　　586
22．4．4 功效　　587
22．4．5 效應(yīng)量　　588
22．5 卡方分布、擬合優(yōu)度　　588
22．5．1 卡方分布與方差檢驗(yàn)　　589
22．5．2 卡方分布與t分布　　592
22．5．3 列表數(shù)據(jù)的擬合優(yōu)度　　593
22．6 雙樣本檢驗(yàn)　　595
22．6．1 雙樣本z檢驗(yàn)：方差已知　　595
22．6．2 雙樣本t檢驗(yàn)：方差未知但相等　　598
22．6．3 方差未知且不相等　　599
22．7 總結(jié)　　601
22．8 習(xí)題　　 602
第 23章 差分方程、馬爾可夫過程和概率論　　 604
23．1 從斐波那契數(shù)到輪盤賭　　604
23．1．1 翻倍加一策略　　604
23．1．2 對斐波那契數(shù)的快速回顧　　606
23．1．3 遞推關(guān)系與概率　　608
23．1．4 討論與推廣　　609
23．1．5 輪盤賭問題的代碼　　610
23．2 遞推關(guān)系的一般理論　　612
23．2．1 表示法　　612
23．2．2 特征方程　　612
23．2．3 初始條件　　614
23．2．4 關(guān)于不同根意味著可逆性的證明　　616
23．3 馬爾可夫過程　　617
23．3．1 遞推關(guān)系與種群動力學(xué)　　617
23．3．2 一般的馬爾可夫過程　　619
23．4 總結(jié)　　620
23．5 習(xí)題　　620
第 24章 最小二乘法　　622
24．1 問題的描述　　622
24．2 概率論與統(tǒng)計(jì)學(xué)回顧　　623
24．3 最小二乘法　　625
24．4 習(xí)題　　629
第 25章 兩個(gè)著名問題與一些代碼　　632
25．1 婚姻/秘書問題　　632
25．1．1 假設(shè)與策略　　632
25．1．2 成功的概率　　633
25．1．3 秘書問題的代碼　　637
25．2 蒙提霍爾問題　　639
25．2．1 一個(gè)簡單的解決方案　　639
25．2．2 一種極端情形　　640
25．2．3 蒙提霍爾問題的代碼　　641
25．3 兩個(gè)隨機(jī)程序　　642
25．3．1 有放回取樣與無放回取樣　　642
25．3．2 期望　　643
25．4 習(xí)題　　644
附錄A 證明技巧（圖靈社區(qū)下載）
附錄B 分析學(xué)結(jié)果（圖靈社區(qū)下載）
附錄C 可數(shù)集與不可數(shù)集（圖靈社區(qū)下載）
附錄D 復(fù)分析與中心極限定理（圖靈社區(qū)下載）