Python網(wǎng)絡(luò)爬蟲

定　價：￥49.00

作　者：	耿興隆
出版社：	電子工業(yè)出版社
叢編項：
標　簽：	暫缺

購買這本書可以去

ISBN：	9787121438103	出版時間：	2023-03-01	包裝：	平裝
開本：	16開	頁數(shù)：		字數(shù)：

內(nèi)容簡介

　　本書介紹如何結(jié)合Python進行網(wǎng)絡(luò)爬蟲程序的開發(fā)，從Python語言的基本特性入手，詳細介紹了Python網(wǎng)絡(luò)爬蟲開發(fā)的各個方面，涉及HTTP、HTML、JavaScript、正則表達式、自然語言處理、數(shù)據(jù)科學等不同領(lǐng)域的內(nèi)容。全書共10章，包括Python基礎(chǔ)知識、網(wǎng)站分析、網(wǎng)頁解析、Python文件讀寫、Python與數(shù)據(jù)庫、AJAX技術(shù)、模擬登錄、文本與數(shù)據(jù)分析、網(wǎng)站測試、Scrapy爬蟲框架、爬蟲性能等多個主題。本書可作為高等職業(yè)院校計算機類專業(yè)的專業(yè)課教材，也可供計算機相關(guān)從業(yè)人員選用參考。

作者簡介

　　耿興隆，Autodesk中國認證考試中心首席專家，全面負責Autodesk中國官方認證考試大綱制定、題庫建設(shè)、技術(shù)咨詢和師資力量培訓工作。其創(chuàng)作的很多教材成為國內(nèi)具有引導性的旗幟作品，在國內(nèi)相關(guān)專業(yè)方向圖書創(chuàng)作領(lǐng)域具有舉足輕重的地位。

圖書目錄

目錄
項目一 Python 基礎(chǔ)認知 ????????????????????????????????????????????????????????????????????????????????????．1
任務(wù)一 Python 概述 ???????????????????????????????????????????????????????????????????????????????????????????????????????．1
一、Python 簡介 ??????????????????????????????????????????????????????????????????????????????????????????????????????．1
二、安裝Python ??????????????????????????????????????????????????????????????????????????????????????????????????????．2
三、安裝PyCharm ???????????????????????????????????????????????????????????????????????????????????????????????????．6
四、Python 語法規(guī)范 ???????????????????????????????????????????????????????????????????????????????????????????????．11
任務(wù)二 Python 命令的組成 ?????????????????????????????????????????????????????????????????????????????????????????????．13
一、基本符號 ?????????????????????????????????????????????????????????????????????????????????????????????????????????．14
二、常量與變量 ??????????????????????????????????????????????????????????????????????????????????????????????????????．16
三、數(shù)據(jù)類型 ?????????????????????????????????????????????????????????????????????????????????????????????????????????．19
四、功能符號 ?????????????????????????????????????????????????????????????????????????????????????????????????????????．24
任務(wù)三程序結(jié)構(gòu) ?????????????????????????????????????????????????????????????????????????????????????????????????????????．26
一、表達式語句 ??????????????????????????????????????????????????????????????????????????????????????????????????????．26
二、順序結(jié)構(gòu) ?????????????????????????????????????????????????????????????????????????????????????????????????????????．27
三、選擇結(jié)構(gòu) ?????????????????????????????????????????????????????????????????????????????????????????????????????????．28
四、循環(huán)結(jié)構(gòu) ?????????????????????????????????????????????????????????????????????????????????????????????????????????．30
五、條件表達式 ??????????????????????????????????????????????????????????????????????????????????????????????????????．31
六、程序的流程控制 ????????????????????????????????????????????????????????????????????????????????????????????????．32
項目實戰(zhàn) ?????????????????????????????????????????????????????????????????????????????????????????????????????????????????????．33
實戰(zhàn) 輸出百度網(wǎng)址 ????????????????????????????????????????????????????????????????????????????????????????????????．33
項目二網(wǎng)絡(luò)爬蟲基礎(chǔ)認知 ????????????????????????????????????????????????????????????????????????????????．35
任務(wù)一網(wǎng)絡(luò)爬蟲概述 ???????????????????????????????????????????????????????????????????????????????????????????????????．35
一、網(wǎng)絡(luò)爬蟲的基本原理 ??????????????????????????????????????????????????????????????????????????????????????????．36
二、網(wǎng)絡(luò)爬蟲系統(tǒng)框架 ?????????????????????????????????????????????????????????????????????????????????????????????．37
三、爬行策略 ?????????????????????????????????????????????????????????????????????????????????????????????????????????．37
四、網(wǎng)絡(luò)爬蟲的分類 ????????????????????????????????????????????????????????????????????????????????????????????????．38
五、開源網(wǎng)絡(luò)爬蟲框架/項目 ??????????????????????????????????????????????????????????????????????????????????????．39
任務(wù)二 HTTP ?????????????????????????????????????????????????????????????????????????????????????????????????????????????．41
一、HTTP 的工作原理 ?????????????????????????????????????????????????????????????????????????????????????????????．41
二、Urllib 模塊庫 ???????????????????????????????????????????????????????????????????????????????????????????????????．42
三、URL 定義 ???????????????????????????????????????????????????????????????????????????????????????????????????????．43
四、URL 編碼設(shè)置 ?????????????????????????????????????????????????????????????????????????????????????????????????．47
任務(wù)三網(wǎng)頁請求過程 ???????????????????????????????????????????????????????????????????????????????????????????????????．50
一、發(fā)送請求報文 ??????????????????????????????????????????????????????????????????????????????????????????????????．51
二、返回響應(yīng) ????????????????????????????????????????????????????????????????????????????????????????????????????????．52
三、HTTP 消息 ??????????????????????????????????????????????????????????????????????????????????????????????????????．53
項目實戰(zhàn) ?????????????????????????????????????????????????????????????????????????????????????????????????????????????????????．54
實戰(zhàn)一搜索商品網(wǎng)址 ????????????????????????????????????????????????????????????????????????????????????????????．54
實戰(zhàn)二搜索食品價格網(wǎng)址 ??????????????????????????????????????????????????????????????????????????????????????．56
項目三 Urllib 請求模塊庫的應(yīng)用 ????????????????????????????????????????????????????????????????????????．58
任務(wù)一發(fā)送網(wǎng)頁請求 ???????????????????????????????????????????????????????????????????????????????????????????????????．58
一、基本HTTP 請求 ???????????????????????????????????????????????????????????????????????????????????????????????．58
二、Request 網(wǎng)絡(luò)請求 ?????????????????????????????????????????????????????????????????????????????????????????????．66
三、設(shè)置請求頭 ?????????????????????????????????????????????????????????????????????????????????????????????????????．67
四、Handler 方法發(fā)送請求 ???????????????????????????????????????????????????????????????????????????????????????．69
五、設(shè)置代理IP ????????????????????????????????????????????????????????????????????????????????????????????????????．71
六、身份驗證 ????????????????????????????????????????????????????????????????????????????????????????????????????????．73
任務(wù)二網(wǎng)頁下載 ?????????????????????????????????????????????????????????????????????????????????????????????????????????．77
一、網(wǎng)頁結(jié)構(gòu) ????????????????????????????????????????????????????????????????????????????????????????????????????????．77
二、寫入網(wǎng)頁文件 ??????????????????????????????????????????????????????????????????????????????????????????????????．77
三、網(wǎng)頁文件下載 ??????????????????????????????????????????????????????????????????????????????????????????????????．79
項目實戰(zhàn) ?????????????????????????????????????????????????????????????????????????????????????????????????????????????????????．82
實戰(zhàn)一下載Python 學習網(wǎng)址 ??????????????????????????????????????????????????????????????????????????????????．82
實戰(zhàn)二下載公司網(wǎng)頁HTML 文件 ????????????????????????????????????????????????????????????????????????????．85
項目四安裝Urllib3 請求模塊庫并發(fā)送請求 ??????????????????????????????????????????????????????????．87
任務(wù)一安裝Urllib3 請求模塊庫 ??????????????????????????????????????????????????????????????????????????????????????．87
一、安裝Anaconda ?????????????????????????????????????????????????????????????????????????????????????????????????．87
二、安裝Urllib3 模塊庫 ???????????????????????????????????????????????????????????????????????????????????????????．92
任務(wù)二發(fā)送請求 ?????????????????????????????????????????????????????????????????????????????????????????????????????????．95
一、創(chuàng)建代理對象 ??????????????????????????????????????????????????????????????????????????????????????????????????．96
二、請求方法 ????????????????????????????????????????????????????????????????????????????????????????????????????????．98
三、定義請求頭 ?????????????????????????????????????????????????????????????????????????????????????????????????????．99
四、設(shè)置代理IP ???????????????????????????????????????????????????????????????????????????????????????????????????．101
五、自動重試 ???????????????????????????????????????????????????????????????????????????????????????????????????????．102
六、重定向 ??????????????????????????????????????????????????????????????????????????????????????????????????????????．103
項目實戰(zhàn) ????????????????????????????????????????????????????????????????????????????????????????????????????????????????????．104
實戰(zhàn) 發(fā)送請求訪問淘寶 ????????????????????????????????????????????????????????????????????????????????????????．104
項目五 Requests 請求模塊庫的應(yīng)用 ?????????????????????????????????????????????????????????????????．106
任務(wù)一網(wǎng)頁請求 ???????????????????????????????????????????????????????????????????????????????????????????????????????．106
一、標準的HTTP 請求 ???????????????????????????????????????????????????????????????????????????????????????????．107
二、返回響應(yīng)消息 ?????????????????????????????????????????????????????????????????????????????????????????????????．109
三、JSON 格式數(shù)據(jù) ???????????????????????????????????????????????????????????????????????????????????????????????．114
任務(wù)二發(fā)送請求方法 ?????????????????????????????????????????????????????????????????????????????????????????????????．117
一、發(fā)送GET 請求方法 ?????????????????????????????????????????????????????????????????????????????????????????．118
二、發(fā)送POST 請求方法 ????????????????????????????????????????????????????????????????????????????????????????．120
三、其他請求方法 ?????????????????????????????????????????????????????????????????????????????????????????????????．125
任務(wù)三復雜網(wǎng)絡(luò)請求 ?????????????????????????????????????????????????????????????????????????????????????????????????．126
一、復雜請求頭 ????????????????????????????????????????????????????????????????????????????????????????????????????．126
二、上傳文件 ???????????????????????????????????????????????????????????????????????????????????????????????????????．129
三、Cookies 驗證 ??????????????????????????????????????????????????????????????????????????????????????????????????．131
四、會話保持 ???????????????????????????????????????????????????????????????????????????????????????????????????????．131
任務(wù)四異常處理 ???????????????????????????????????????????????????????????????????????????????????????????????????????．133
一、try-except 語句 ????????????????????????????????????????????????????????????????????????????????????????????????．133
二、Urllib 異常處理模塊 ?????????????????????????????????????????????????????????????????????????????????????????．134
三、Urllib3 異常處理模塊 ???????????????????????????????????????????????????????????????????????????????????????．135
四、request 異常處理模塊 ???????????????????????????????????????????????????????????????????????????????????????．135
項目實戰(zhàn) ???????????????????????????????????????????????????????????????????????????????????????????????????????????????????．138
實戰(zhàn) 爬取豆瓣最受歡迎的影評網(wǎng)址 ?????????????????????????????????????????????????????????????????????????．138
項目六解析網(wǎng)頁 ???????????????????????????????????????????????????????????????????????????????????????????．141
任務(wù)一正則表達式解析網(wǎng)頁 ????????????????????????????????????????????????????????????????????????????????????????．141
一、正則表達式模式 ??????????????????????????????????????????????????????????????????????????????????????????????．142
二、使用re 模塊實現(xiàn)正則表達式 ??????????????????????????????????????????????????????????????????????????????．143
三、字符串查找 ????????????????????????????????????????????????????????????????????????????????????????????????????．144
四、字符串替換 ????????????????????????????????????????????????????????????????????????????????????????????????????．148
五、字符串分割 ????????????????????????????????????????????????????????????????????????????????????????????????????．149
任務(wù)二 XPath 解析網(wǎng)頁 ???????????????????????????????????????????????????????????????????????????????????????????????．150
一、XPath 概述 ????????????????????????????????????????????????????????????????????????????????????????????????????．150
二、XPath 網(wǎng)頁解析 ??????????????????????????????????????????????????????????????????????????????????????????????．152
三、獲取節(jié)點信息 ?????????????????????????????????????????????????????????????????????????????????????????????????．154
四、節(jié)點關(guān)系 ???????????????????????????????????????????????????????????????????????????????????????????????????????．160
五、查找節(jié)點信息 ?????????????????????????????????????????????????????????????????????????????????????????????????．162
六、屬性節(jié)點 ???????????????????????????????????????????????????????????????????????????????????????????????????????．163
七、XPath 運算符 ?????????????????????????????????????????????????????????????????????????????????????????????????．165
八、XML 節(jié)點軸 ??????????????????????????????????????????????????????????????????????????????????????????????????．168
任務(wù)三 BeautifulSoup 解析網(wǎng)頁 ??????????????????????????????????????????????????????????????????????????????????????．170
一、安裝BeautifulSoup ???????????????????????????????????????????????????????????????????????????????????????????．171
二、創(chuàng)建BeautifulSoup 對象 ????????????????????????????????????????????????????????????????????????????????????．171
三、通過屬性獲取節(jié)點內(nèi)容 ?????????????????????????????????????????????????????????????????????????????????????．173
四、根據(jù)節(jié)點關(guān)系獲取節(jié)點 ?????????????????????????????????????????????????????????????????????????????????????．176
五、查找節(jié)點內(nèi)容 ?????????????????????????????????????????????????????????????????????????????????????????????????．178
六、通過CSS 選擇器查找節(jié)點內(nèi)容 ???????????????????????????????????????????????????????????????????????????．182
項目實戰(zhàn) ????????????????????????????????????????????????????????????????????????????????????????????????????????????????????．183
實戰(zhàn)一獲取查詢網(wǎng)中河北省石家莊市的郵編區(qū)號 ???????????????????????????????????????????????????????．183
實戰(zhàn)二爬取銷售熱門圖書名稱 ???????????????????????????????????????????????????????????????????????????????．186
實戰(zhàn)三下載銷售熱門圖書的圖片 ????????????????????????????????????????????????????????????????????????????．188
項目七 Scrapy 網(wǎng)絡(luò)爬蟲框架 ???????????????????????????????????????????????????????????????????????????．190
任務(wù)一 Scrapy 網(wǎng)絡(luò)爬蟲框架基礎(chǔ)認知 ?????????????????????????????????????????????????????????????????????????????．190
一、Scrapy 網(wǎng)絡(luò)爬蟲框架基礎(chǔ) ??????????????????????????????????????????????????????????????????????????????????．190
二、Scrapy 常用命令 ??????????????????????????????????????????????????????????????????????????????????????????????．192
三、創(chuàng)建Scrapy 項目 ?????????????????????????????????????????????????????????????????????????????????????????????．193
任務(wù)二使用模板創(chuàng)建Spider 文件 ??????????????????????????????????????????????????????????????????????????????????．194
一、創(chuàng)建網(wǎng)絡(luò)爬蟲文件命令 ?????????????????????????????????????????????????????????????????????????????????????．195
二、創(chuàng)建basic 模板文件 ?????????????????????????????????????????????????????????????????????????????????????????．196
三、創(chuàng)建crawl 模板文件 ?????????????????????????????????????????????????????????????????????????????????????????．197
四、創(chuàng)建csvfeed 模板文件 ??????????????????????????????????????????????????????????????????????????????????????．198
五、創(chuàng)建xmlfeed 模板文件 ??????????????????????????????????????????????????????????????????????????????????????．198
任務(wù)三 Scrapy 網(wǎng)絡(luò)爬蟲文件 ?????????????????????????????????????????????????????????????????????????????????????????．199
一、Spider 類 ???????????????????????????????????????????????????????????????????????????????????????????????????????．199
二、配置網(wǎng)絡(luò)爬蟲 ?????????????????????????????????????????????????????????????????????????????????????????????????．201
三、啟動網(wǎng)絡(luò)爬蟲 ?????????????????????????????????????????????????????????????????????????????????????????????????．202
四、提取數(shù)據(jù) ???????????????????????????????????????????????????????????????????????????????????????????????????????．207
項目實戰(zhàn) ????????????????????????????????????????????????????????????????????????????????????????????????????????????????????．209
實戰(zhàn) 提取景區(qū)名稱 ??????????????????????????????????????????????????????????????????????????????????????????????．209