Python 3网络爬虫开发实战epub+pdf+mobi

书籍介绍

在信息爆炸的时代,网络爬虫作为获取和处理大规模数据的重要工具,其应用价值日益凸显。《Python3 网络爬虫开发实战》深入浅出地引领读者步入这个充满机遇与挑战的领域,不仅教授技术知识,还分享了作者个人的学习经验和实践心得,帮助读者在学习过程中少走弯路。

作者简介

崔庆才,他是一位热衷于研究和分享知识的博主。他在北京航空航天大学获得了硕士学位,并运营着一个名为静觅博客(https://cuiqingcai. com/)的技术平台,其中关于爬虫技术的文章浏览量已经超过了百万次。他的专业素养和对生活的热爱驱使着他不断学习和分享,他也在个人微信公众号“进击的Coder”上积极与读者互动,深受大家的喜爱和关注。

推荐理由

《Python3 网络爬虫开发实战》一书详尽地介绍了如何运用 Python 3 进行网络数据采集的全过程,从环境配置到实战案例,旨在帮助读者掌握相关技能,应对挑战,提升在大数据时代个人或企业的竞争力。无论是对编程感兴趣的学习者,还是希望利用网络数据进行分析的专业人士,都能从中受益。

适合哪些人读

对 Python 编程感兴趣并希望扩展技能到网络数据采集领域的初学者
已经具备一定编程基础,需要系统学习网络爬虫技术的专业人士
从事数据分析、信息提取或互联网产品开发的工程师
对于移动应用数据采集和分布式爬虫感兴趣的开发者。

书籍目录

第1章 开发环境配置  1
1.1 Python 3的安装  1
1.1.1 Windows下的安装  1
1.1.2 Linux下的安装  6
1.1.3 Mac下的安装  8
1.2 请求库的安装  10
1.2.1 requests的安装  10
1.2.2 Selenium的安装  11
1.2.3 ChromeDriver的安装  12
1.2.4 GeckoDriver的安装  15
1.2.5 PhantomJS的安装  17
1.2.6 aiohttp的安装  18
1.3 解析库的安装  19
1.3.1 lxml的安装  19
1.3.2 Beautiful Soup的安装  21
1.3.3 pyquery的安装  22
1.3.4 tesserocr的安装  22
1.4 数据库的安装  26
1.4.1 MySQL的安装  27
1.4.2 MongoDB的安装  29
1.4.3 Redis的安装  36
1.5 存储库的安装  39
1.5.1 PyMySQL的安装  39
1.5.2 PyMongo的安装  39
1.5.3 redis-py的安装  40
1.5.4 RedisDump的安装  40
1.6 Web库的安装  41
1.6.1 Flask的安装  41
1.6.2 Tornado的安装  42
1.7 App爬取相关库的安装  43
1.7.1 Charles的安装  44
1.7.2 mitmproxy的安装  50
1.7.3 Appium的安装  55
1.8 爬虫框架的安装  59
1.8.1 pyspider的安装  59
1.8.2 Scrapy的安装  61
1.8.3 Scrapy-Splash的安装  65
1.8.4 Scrapy-Redis的安装  66
1.9 部署相关库的安装  67
1.9.1 Docker的安装  67
1.9.2 Scrapyd的安装  71
1.9.3 Scrapyd-Client的安装  74
1.9.4 Scrapyd API的安装  75
1.9.5 Scrapyrt的安装  75
1.9.6 Gerapy的安装  76
第2章 爬虫基础  77
2.1 HTTP基本原理  77
2.1.1 URI和URL  77
2.1.2 超文本  78
2.1.3 HTTP和HTTPS  78
2.1.4 HTTP请求过程  80
2.1.5 请求  82
2.1.6 响应  84
2.2 网页基础  87
2.2.1 网页的组成  87
2.2.2 网页的结构  88
2.2.3 节点树及节点间的关系  90
2.2.4 选择器  91
2.3 爬虫的基本原理  93
2.3.1 爬虫概述  93
2.3.2 能抓怎样的数据  94
2.3.3 JavaScript渲染页面  94
2.4 会话和Cookies  95
2.4.1 静态网页和动态网页  95
2.4.2 无状态HTTP  96
2.4.3 常见误区  98
2.5 代理的基本原理  99
2.5.1 基本原理  99
2.5.2 代理的作用  99
2.5.3 爬虫代理  100
2.5.4 代理分类  100
2.5.5 常见代理设置  101
第3章 基本库的使用  102
3.1 使用urllib  102
3.1.1 发送请求  102
3.1.2 处理异常  112
3.1.3 解析链接  114
3.1.4 分析Robots协议  119
3.2 使用requests  122
3.2.1 基本用法  122
3.2.2 高级用法  130
3.3 正则表达式  139
3.4 抓取猫眼电影排行  150
第4章 解析库的使用  158
4.1 使用XPath  158
4.2 使用Beautiful Soup  168
4.3 使用pyquery  184
第5章 数据存储  197
5.1 文件存储  197
5.1.1 TXT文本存储  197
5.1.2 JSON文件存储  199
5.1.3 CSV文件存储  203
5.2 关系型数据库存储  207
5.2.1 MySQL的存储  207
5.3 非关系型数据库存储  213
5.3.1 MongoDB存储  214
5.3.2 Redis存储  221
第6章 Ajax数据爬取  232
6.1 什么是Ajax  232
6.2 Ajax分析方法  234
6.3 Ajax结果提取  238
6.4 分析Ajax爬取今日头条街拍美图  242
第7章 动态渲染页面爬取  249
7.1 Selenium的使用  249
7.2 Splash的使用  262
7.3 Splash负载均衡配置  286
7.4 使用Selenium爬取淘宝商品  289
第8章 验证码的识别  298
8.1 图形验证码的识别  298
8.2 极验滑动验证码的识别  301
8.3 点触验证码的识别  311
8.4 微博宫格验证码的识别  318
第9章 代理的使用  326
9.1 代理的设置  326
9.2 代理池的维护  333
9.3 付费代理的使用  347
9.4 ADSL拨号代理  351
9.5 使用代理爬取微信公众号文章  364
第10章 模拟登录  379
10.1 模拟登录并爬取GitHub  379
10.2 Cookies池的搭建  385
第11章 App的爬取  398
11.1 Charles的使用  398
11.2 mitmproxy的使用  405
11.3 mitmdump爬取“得到”App电子书
信息  417
11.4 Appium的基本使用  423
11.5 Appium爬取微信朋友圈  433
11.6 Appium+mitmdump爬取京东商品  437
第12章 pyspider框架的使用  443
12.1 pyspider框架介绍  443
12.2 pyspider的基本使用  445
12.3 pyspider用法详解  459
第13章 Scrapy框架的使用  468
13.1 Scrapy框架介绍  468
13.2 Scrapy入门  470
13.3 Selector的用法  480
13.4 Spider的用法  486
13.5 Downloader Middleware的用法  487
13.6 Spider Middleware的用法  494
13.7 Item Pipeline的用法  496
13.8 Scrapy对接Selenium  506
13.9 Scrapy对接Splash  511
13.10 Scrapy通用爬虫  516
13.11 Scrapyrt的使用  533
13.12 Scrapy对接Docker  536
13.13 Scrapy爬取新浪微博  541
第14章 分布式爬虫  555
14.1 分布式爬虫原理  555
14.2 Scrapy-Redis源码解析  558
14.3 Scrapy分布式实现  564
14.4 Bloom Filter的对接  569
第15章 分布式爬虫的部署  577
15.1 Scrapyd分布式部署  577
15.2 Scrapyd-Client的使用  582
15.3 Scrapyd对接Docker  583
15.4 Scrapyd批量部署  586
15.5 Gerapy分布式管理  590

用户评论

看书比听课快多了… 作者github放了书稿所有内容和源代码。最后的scrapy框架和分布式爬虫用到再仔细看吧。
框架和风格非常棒,自学该以术为先
国人写的,鼓励下给五星
写得太好了太适合爬虫国内网站了,但是我看到redis到底怎么实现的那一部分已经昏古七了……只能无脑跟步骤走了….
非专业学习,一脸懵逼
作者写的很好,很详细全是干货
干货很多,深度有限
入门爬虫编程的好材料。 讲解了爬虫相关的知识点,
有点过时了
国内爬虫书的良心之作了,那些差评才是刷的,点开都是只读过一本书的僵尸账号。

网盘地址

1_1029728111_171_84_3_945987393_08c33c5ad8632cd66337b6dfb0595991.png