手把手教你用Python网络爬虫实现起点小说下载

开发 后端
今天要跟大家分享一个小说爬取案例--------起点小说的小说下载。

[[390839]]

今天要跟大家分享一个小说爬取案例--------起点小说的小说下载。

在做这个案例之前,我们需要对其进行分析,

1.界面分析,如图:

通过分析很容易就找到了我们的get请求参数,然后获取相应页面的小说名和链接:

获取到数据之后,我们就随机挑选一篇小说来进行下载,我们选第一篇,

然后打开它的文章目录,可以看到是这样的,如图:

基本上这篇小说很长,可以看到它卷一和卷二是免费的,后面的收费,那么今天我们就只爬免费的章节。

那么我们现在开始分析网页结构,如图:

那么,我们可以先把卷一的名字和章节数以及章节下的每个章节的名字都打印出来。

首先我们可以分析下这个网页地址,如图:

  1. https://book.qidian.com/info/1014243481#Catalog 

发觉前面的没变,基本就是后面的变了,增加了一个info/1014243481#Catalog,下面开始分析:

info:信息的意思,

1014243481:小说对应的ID,

#Catalog:数据补全,无太大意义

因为刚刚已经将文章链接的内容爬取出来,所以现在只需要拼接一个#Catalog 即可:

下面我们就可以对它发起请求然后在分析它的页面了,首先发起get请求,按照前面的网页分析结构来看,我们应该这样写:

可以看出,因为这里有异步加载,所以我们的请求不会一下子全部显示出来,需要不断的请求,当然最好加个延迟。

这样我们就获取到了这个页面所有的小说,也可以这样,因为我们没找接口,所以强行解析只能解析部分内容,但是也很全面了。如图:

找的还算挺详细,只不过没有找接口时所拿到的数据那么规范好看了。

 

责任编辑:姜华 来源: Python爬虫与数据挖掘
相关推荐

2021-01-30 10:37:18

ScrapyGerapy网络爬虫

2021-08-09 13:31:25

PythonExcel代码

2021-12-11 20:20:19

Python算法线性

2022-10-19 14:30:59

2021-05-10 06:48:11

Python腾讯招聘

2021-03-23 09:05:52

PythonExcelVlookup

2021-02-10 09:34:40

Python文件的压缩PyCharm

2021-02-02 13:31:35

Pycharm系统技巧Python

2017-10-27 10:29:35

人脸识别UbuntuPython

2011-03-28 16:14:38

jQuery

2021-02-06 14:55:05

大数据pandas数据分析

2021-02-04 09:00:57

SQLDjango原生

2017-10-29 21:43:25

人脸识别

2022-08-04 10:39:23

Jenkins集成CD

2018-12-29 09:38:16

Python人脸检测

2021-05-17 21:30:06

Python求均值中值

2009-04-22 09:17:19

LINQSQL基础

2021-09-02 08:56:48

JavaBMIHashSet

2020-11-13 08:17:48

App(滑动切换)

2021-01-21 09:10:29

ECharts柱状图大数据
点赞
收藏

51CTO技术栈公众号