前端工程师的一大神器:puppeteer

开发 前端
本文主要讲述一下Google出版并一直在不断维护的神器puppeteer,通过学习本文你将了解其基本使用和常用功能。

本文主要讲述一下Google出版并一直在不断维护的神器puppeteer,通过学习本文你将了解其基本使用和常用功能。

一、Puppeteer简介

Puppeteer 是一个 Node 库,它提供了一个高级 API 来通过 DevTools 协议控制 Chromium 或 Chrome,利用Puppeteer可以获取页面DOM节点、网络请求和响应、程序化操作页面行为、进行页面的性能监控和优化、获取页面截图和PDF等,利用该神器就可以操作Chrome浏览器玩出各种花样。

二、Puppeteer核心组成结构

Puppeteer的结构也反映了浏览器的结构,其核心结构如下所示:

图片

Browser:这是一个浏览器实例,可以拥有浏览器上下文,可通过 puppeteer.launch 或 puppeteer.connect 创建一个 Browser 对象。

BrowserContext:该实例定义了一个浏览器上下文,可拥有多个页面,创建浏览器实例时默认会创建一个浏览器上下文(不能关闭),此外可以利用 browser.createIncognitoBrowserContext()创建一个匿名的浏览器上下文(不会与其它浏览器上下文共享cookie/cache).

Page:至少包含一个主框架,除了主框架外还有可能存在其它框架,例如iframe。

Frame:页面中的框架,在每个时间点,页面通过page.mainFrame()和frame.childFrames()方法暴露当前框架的细节。对于该框架中至少有一个执行上下文

ExecutionCOntext:表示一个JavaScript的执行上下文。

Worker:具有单个执行上下文,便于与 WebWorkers 交互。

三、基本使用和常用功能

该神器整体使用起来比较简单,下面就开始我们的使用之路。

3.1 启动Browser

核心函数就是异步调用puppeteer.launch()函数,根据相应的配置参数创建一个Browser实例。 

  1. const path = require('path');  
  2. const puppeteer = require('puppeteer');  
  3. const chromiumPath = path.join(__dirname, '../', 'chromium/chromium/chrome.exe');  
  4. async function main() {  
  5.     // 启动chrome浏览器  
  6.     const browser = await puppeteer.launch({  
  7.         // 指定该浏览器的路径  
  8.         executablePath: chromiumPath,  
  9.         // 是否为无头浏览器模式,默认为无头浏览器模式  
  10.         headless: false  
  11.     });  
  12.   
  13. main(); 

3.2 访问页面

访问页面首先需要创建一个浏览器上下文,然后基于该上下文创建一个新的page,最后指定要访问的网址。 

  1. async function main() {  
  2.     // 启动chrome浏览器  
  3.     // ……  
  4.     // 在一个默认的浏览器上下文中被创建一个新页面  
  5.     const page1 = await browser.newPage();  
  6.     // 空白页访问该指定网址  
  7.     await page1.goto('https://51yangsheng.com');  
  8.     // 创建一个匿名的浏览器上下文  
  9.     const browserContext = await browser.createIncognitoBrowserContext();  
  10.     // 在该上下文中创建一个新页面  
  11.     const page2 = await browserContext.newPage();  
  12.     page2.goto('https://www.baidu.com');  
  13.    
  14. main(); 

3.3 设备模拟

经常需要不同类型的机型的浏览结果,此时就可以采用设备模拟实现,下面模拟一个iPhone X的设备的浏览器结果 

  1. async function main() {  
  2.     // 启动浏览器  
  3.     // 设备模拟:模拟一个iPhone X  
  4.     // user agent  
  5.     await page1.setUserAgent('Mozilla/5.0 (iPhone; CPU iPhone OS 11_0 like Mac OS X) AppleWebKit/604.1.38 (KHTML, like Gecko) Version/11.0 Mobile/15A372 Safari/604.1') 
  6.      // 视口(viewport)模拟  
  7.     await page1.setViewport({  
  8.         width: 375,  
  9.         height: 812  
  10.     });      
  11.     // 访问某页面  
  12.  
  13. main(); 

3.4 获取DOM节点

获取DOM节点有两种方式,一种方式是直接调用page所带的原生函数,另一种是通过执行js代码获取。 

  1. async function main() {  
  2.     // 启动chrome浏览器  
  3.     const browser = await puppeteer.launch({  
  4.         // 指定该浏览器的路径  
  5.         executablePath: chromiumPath,  
  6.         // 是否为无头浏览器模式,默认为无头浏览器模式  
  7.         headless: false  
  8.     });  
  9.     // 在一个默认的浏览器上下文中被创建一个新页面  
  10.     const page1 = await browser.newPage();  
  11.     // 空白页访问该指定网址  
  12.     await page1.goto('https://www.baidu.com');  
  13.     // 等待title节点出现  
  14.     await page1.waitForSelector('title');  
  15.     // 用page自带的方法获取节点 
  16.     const titleDomText1 = await page1.$eval('title', el => el.innerText);  
  17.     console.log(titleDomText1);// 百度一下  
  18.     // 用js获取节点  
  19.     const titleDomText2 = await page1.evaluate(() => {  
  20.         const titleDom = document.querySelector('title');  
  21.         return titleDom.innerText;  
  22.     });  
  23.     console.log(titleDomText2);  
  24.  
  25. main(); 

3.5 监听请求和响应

下面就来监听一下百度中某一js脚本的请求和响应,request事件是监听请求,response事件是监听响应。 

  1. async function main() {  
  2.     // 启动chrome浏览器  
  3.     const browser = await puppeteer.launch({  
  4.         // 指定该浏览器的路径  
  5.         executablePath: chromiumPath,  
  6.         // 是否为无头浏览器模式,默认为无头浏览器模式  
  7.         headless: false  
  8.     });  
  9.     // 在一个默认的浏览器上下文中被创建一个新页面  
  10.     const page1 = await browser.newPage();  
  11.     page1.on('request', request => {  
  12.         if (request.url() === 'https://s.bdstatic.com/common/openjs/amd/eslx.js') {  
  13.             console.log(request.resourceType());  
  14.             console.log(request.method());  
  15.             console.log(request.headers());  
  16.         }  
  17.     });  
  18.     page1.on('response', response => {  
  19.         if (response.url() === 'https://s.bdstatic.com/common/openjs/amd/eslx.js') {  
  20.             console.log(response.status());  
  21.             console.log(response.headers()); 
  22.         }  
  23.     })  
  24.     // 空白页刚问该指定网址  
  25.     await page1.goto('https://www.baidu.com');  
  26.  
  27. main(); 

3.6 拦截某一请求

默认情况下request事件只有只读属性,不能够拦截请求,若想拦截该请求则需要通过page.setRequestInterception(value)启动请求拦截器,然后利用request.abort, request.continue 和 request.respond 方法决定该请求的下一步操作。 

  1. async function main() {  
  2.     // 启动chrome浏览器  
  3.     const browser = await puppeteer.launch({  
  4.         // 指定该浏览器的路径  
  5.         executablePath: chromiumPath,  
  6.         // 是否为无头浏览器模式,默认为无头浏览器模式  
  7.         headless: false  
  8.     });  
  9.     // 在一个默认的浏览器上下文中被创建一个新页面  
  10.     const page1 = await browser.newPage();  
  11.     // 拦截请求开启  
  12.     await page1.setRequestInterception(true);// true开启,false关闭  
  13.     page1.on('request', request => {  
  14.         if (request.url() === 'https://s.bdstatic.com/common/openjs/amd/eslx.js') {  
  15.             // 终止该请求  
  16.             request.abort();  
  17.             console.log('该请求被终止!!!');  
  18.         }  
  19.         else {  
  20.             // 继续该请求  
  21.             request.continue();  
  22.         }  
  23.     });  
  24.     // 空白页访问该指定网址  
  25.     await page1.goto('https://www.baidu.com');  
  26.  
  27. main(); 

3.7 截图

截图是一个很有用的功能,通过截取就可以保存一份快照,方便后期问题的排查。(注:在无头模式下进行截图,否则截的图可能有问题) 

  1. async function main() {  
  2.  // 启动浏览器,访问页面的操作     
  3.     // 截屏操作,使用Page.screenshot函数  
  4.     // 截取整个页面:Page.screenshot函数默认截取整个页面,加上fullPage参数就是全屏截取  
  5.     await page1.screenshot({  
  6.         path: '../imgs/fullScreen.png',  
  7.         fullPage: true  
  8.     });  
  9.     // 截取屏幕中一个区域的内容  
  10.     await page1.screenshot({  
  11.         path: '../imgs/partScreen.jpg',  
  12.         type: 'jpeg',  
  13.         quality: 80,  
  14.         clip: {  
  15.             x: 0,  
  16.             y: 0,  
  17.             width: 375,  
  18.             height: 300  
  19.         }  
  20.     });  
  21.     browser.close();  
  22.  
  23. main(); 

3.8 生成pdf

除了利用截图保留快照外,还可以使用pdf保留快照。 

  1. async function main() {  
  2.  // 启动浏览器,访问页面的操作    
  3.     // 根据网页内容生成pdf文件,使用Page.pdf——注意:必须在无头模式下才可以调用  
  4.     await page1.pdf({  
  5.         path: '../pdf/baidu.pdf'  
  6.     });  
  7.     browser.close();  
  8.  
  9. main();  

 

责任编辑:庞桂玉 来源: 前端大全
相关推荐

2021-01-31 20:51:55

PuppeteerNode核心

2021-09-13 09:28:10

PuppeteerNode 库DevTools 协议

2023-12-06 07:36:27

前端开发

2015-08-26 14:18:25

Web前端工程师价值

2015-09-30 10:25:03

前端工程师

2018-11-15 15:55:44

前端工程师Web云计算

2010-01-13 10:53:51

Web前端工程师定位

2019-07-29 16:05:48

前端DockerNode.js

2015-08-17 10:32:06

前端工程师优秀

2015-08-24 09:02:49

前端工程师

2016-01-28 11:18:09

卓越前端工程师

2016-09-22 16:14:45

前端设计Photoshop

2015-03-16 16:01:40

Web前端前端工程师Web

2010-01-13 10:10:07

Web前端工程师

2014-12-23 14:55:23

前端

2019-06-24 09:40:17

前端前端工程师开发工具

2011-05-25 16:59:20

前端工程师

2012-06-28 14:23:32

Web

2019-12-18 10:30:24

前端开发技术

2012-11-29 10:05:20

点赞
收藏

51CTO技术栈公众号