假如你已经开始学Python,对爬虫没有头绪,不妨看看这几个案例!

开发 后端
这几个案例以前是给一些想进入Python行业的朋友写的,看到大家都比较满意,所以就再次拿了出来,如果你已经开始学python,对爬虫没有头绪,不妨看看这几个案例!
 一、论述

这几个案例以前是给一些想进入Python行业的朋友写的,看到大家都比较满意,所以就再次拿了出来,如果你已经开始学python,对爬虫没有头绪,不妨看看这几个案例!

二、环境准备

Python 3

requests库 、lxml库、beautifulsoup4库

pip install XX XX XX一并安装。

假如你已经开始学python,对爬虫没有头绪,不妨看看这几个案例!

 

三、Python爬虫小案例

1、获取本机的公网IP地址

利用python的requests库+公网上查IP的接口,自动获取IP地址

假如你已经开始学python,对爬虫没有头绪,不妨看看这几个案例!

 

2、利用百度的查找接口,Python编写url采集工具

需要用到requests库、BeautifulSoup库,观察百度搜索结构的URL链接规律,绕过百度搜索引擎的反爬虫机制的方法为在程序中设置User-Agent请求头。

假如你已经开始学python,对爬虫没有头绪,不妨看看这几个案例!

 

Python源代码:

假如你已经开始学python,对爬虫没有头绪,不妨看看这几个案例!

 

Python语言编写好程序后,利用关键词inurl:/dede/login.php 来批量提取某网cms的后台地址:

假如你已经开始学python,对爬虫没有头绪,不妨看看这几个案例!

 

3、利用Python打造搜狗壁纸自动下载爬虫

搜狗壁纸的地址是json格式,所以用json库解析这组数据,爬虫程序存放图片的磁盘路径改成欲存图片的路径就可以了。

假如你已经开始学python,对爬虫没有头绪,不妨看看这几个案例!

 

效果图:

假如你已经开始学python,对爬虫没有头绪,不妨看看这几个案例!

 

4、Python自动填写问卷调查

假如你已经开始学python,对爬虫没有头绪,不妨看看这几个案例!

 

与一般网页一样,多次提交数据会要输入验证码,这就是反爬机制。

假如你已经开始学python,对爬虫没有头绪,不妨看看这几个案例!

 

如图:

假如你已经开始学python,对爬虫没有头绪,不妨看看这几个案例!

 

那么如何绕过验证码的反爬措施?利用X-Forwarded-For伪造IP地址访问即可,Python代码如下:

假如你已经开始学python,对爬虫没有头绪,不妨看看这几个案例!

 

效果:

假如你已经开始学python,对爬虫没有头绪,不妨看看这几个案例!

 

假如你已经开始学python,对爬虫没有头绪,不妨看看这几个案例!

 

假如你已经开始学python,对爬虫没有头绪,不妨看看这几个案例!

 

5、获取西刺代理上的IP,验证这些代理被封禁掉的可能性与延迟时间

可以把Python爬取的代理IP添加到proxychain里面,就可以进行一般的渗透任务了。这里直接调用了linux的系统命令ping -c 1 " + ip.string + " | awk 'NR==2{print}' - ,在Windows中运行此程序需要修改倒数第三行os.popen里的命令,修改为Windows能够执行的就可以了。

假如你已经开始学python,对爬虫没有头绪,不妨看看这几个案例!

 

爬取到的数据如图:

假如你已经开始学python,对爬虫没有头绪,不妨看看这几个案例!

 

演示:

假如你已经开始学python,对爬虫没有头绪,不妨看看这几个案例!

 

结论

其实我们能够用python做许多非常有趣的事。 

责任编辑:庞桂玉 来源: 今日头条
相关推荐

2021-07-13 12:21:34

PythonRPC通信

2019-03-25 22:15:16

程序员产品经理开发工具

2021-09-29 09:06:09

开源CMSJava

2021-03-26 06:00:37

编程语言CPU

2021-03-25 16:01:11

编程语言CPU机器语言

2018-04-18 06:56:26

iPhone手机电量

2021-08-10 23:09:55

区块链数据技术

2021-02-18 14:03:19

Linux命令行history

2017-11-10 09:30:43

Linux系统启动故障修复

2019-10-10 09:34:19

Python网络爬虫GitHub

2011-08-19 10:13:05

iPhone开发

2023-03-17 18:58:36

日志查询同步

2017-03-20 14:30:47

香港服务器租用

2015-12-09 14:37:30

2015-12-09 09:03:22

2020-08-26 13:30:18

代码设计模式前端

2011-04-06 15:01:20

BI数据库书评

2024-11-08 13:24:43

2018-11-06 05:35:48

自动化网络安全事件响应

2018-04-03 14:03:28

点赞
收藏

51CTO技术栈公众号