百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

实战Puppeteer-与page交互一

nanshan 2024-11-20 19:25 11 浏览 0 评论

概述

前面章节我们从场景出发,初步了解利用Puppeteer可以解决我们实际哪些问题。后续我们将分两个大的部分来介绍Puppeteer技术。

  • 第一个部分介绍Puppeteer基本的使用技术,重点就是如何使用page对象,对实际的网页进行操作等。
  • 第二个部分我们将介绍一个实际的工具,基于可视化方式完成puppeteer脚本的生成。我们将从零开始介绍如何实现这样的小工具。

基本概念

我们可以简单看下官网(https://zhaoqize.github.io/puppeteer-api-zh_CN/#/)提供的资料,Puppeteer提供几个关键概念,可以直观从字面上就可以理解的:

  • browser:对应浏览器对象。

当 Puppeteer 连接到一个 Chrome 实例的时候就会创建一个 Browser 对象,有以下两种方式:

Puppeteer.launch 和 Puppeteer.connect.

我们在前面章节中已经看到使用launch方法就可以在本地进程中实例化一个Chrome浏览器,Puppeteer会自动建立与这个实例的连接,并生成Browser对象。同样,我们可以不希望在本地进程中启动浏览器,而是希望连接单独启动的浏览器或远程启动的浏览器,则我们可以使用connect来建立连接,连接成功后也会生成一个browser对象。

const puppeteer = require('puppeteer');

let browser = await puppeteer.launch()

如果我们希望使用connect连接已有的浏览器,则需要在启动浏览器时开启连接端口:

chrome.exe  --remote-debugging-port=9222

这个浏览器启动后,我们需要获取其websocket连接信息,可以在浏览器地址中输入如下地址来获取:

http://localhost:9222/json/version 

使用如下的命令我们就可以获得browser对象

const browser = await puppeteer.connect({
    browserWSEndpoint: webSocketDebuggerUrl
});
  • page:对应我们打开的一个网页。

显然,一个浏览器对象,可以包含多个page对象。

我们可以简单地使用如下的代码,来生成page对象

const puppeteer = require('puppeteer');

let browser = await puppeteer.launch()
let page = await browser.newPage();//生成一个空白page
await page.goto('https://www.163.com');//加载一个网页
await page.screenshot({path: 'screenshot.png'});//把当前的网页可视区域导出成图片
await browser.close();//关闭浏览器对象
  • keyboard:键盘对象

每一个页面对象都有一个键盘对象。通过键盘对象,我们可以模拟出键盘的操作:

await page.keyboard.type('Hello World!');
await page.keyboard.press('ArrowLeft');

await page.keyboard.down('Shift');
for (let i = 0; i < ' World'.length; i++)
  await page.keyboard.press('ArrowLeft');
await page.keyboard.up('Shift');

await page.keyboard.press('Backspace');
// 结果字符串最终为 'Hello!'

上述代码直观上是比较容易理解的。

  • mouse:鼠标对象

同样,一个页面对象也拥有一个mouse对象,通过这个对象我们可以模拟鼠标的各种操作。

// 使用 ‘page.mouse’ 追踪 100x100 的矩形。
await page.mouse.move(0, 0);
await page.mouse.down();
await page.mouse.move(0, 100);
await page.mouse.move(100, 100);
await page.mouse.move(100, 0);
await page.mouse.move(0, 0);
await page.mouse.up();
  • frame对象

frame对象可以看做是page访问一个网页后形成的对象。这个说法也不准确。一个page对象会包含一个主Frame,如页面包含iframe标签,将会产生childFrame。其生命周期由三个事件控制:

  1. frameattached
  2. framenavigated
  3. framedetached

我们通过下面的例子来看看mainFrame和childFrame具体内容:

const puppeteer = require('puppeteer');

puppeteer.launch().then(async browser => {
  const page = await browser.newPage();
  await page.goto('http://www.163.com');
  page.frames().map(f=>{
  	console.log(f)
  })
  await browser.close();

});

一个复杂的例子

自动登录

自动登录在很多应用场景中都是必须的一个环节。从人工操作视角看,登录需要做如下几个事情:

访问登录页面

输入用户名称

输入用户密码

点击登录按钮

对于需要验证码的情况,需要某种破解技术,我们在此不考虑。

const puppeteer = require('puppeteer');
let myUserName="XXX"
let myPassword="XXX"
(async ()=>{

        let browser = await puppeteer.launch({headless: false});//打开有界面的浏览器
        let page = await browser.newPage()
        await page.goto('https://juejin.cn')
        await page.waitFor(1000)

        var login = await page.$('.login-button')
        await login.click()
        var login1 = await page.$('div[class=prompt-box]>span[class=clickable]')
        await login1.click()
        await page.waitFor(1000)
        var loginPhoneOrEmail = await page.$("input[name=loginPhoneOrEmail]")
        //console.log('loginPhoneOrEmail:', loginPhoneOrEmail);
        await loginPhoneOrEmail.click()
        await loginPhoneOrEmail.type(myUsername, {delay: 20})

        var password = await page.$('[placeholder=请输入密码]')
        //console.log('password:', password);
        await password.click()
        await password.type(myPassword, {delay: 20})

        var authLogin = await page.$('button[class=btn]')
        console.log('authLogin:', authLogin);
        await authLogin.click()

})()

有几个地方需要说明:

  1. 在启动浏览器时,我们增加一个参数headless: false,目的是让Puppeteer启动一个可视的浏览器,便于我们看到自动化操作过程
  2. 我们在几个地方专门调用await page.waitFor(1000),目的是让浏览器完成相关加载
  3. page.$()函数是一个查询选择器,返回第一个满足查询条件的element
  4. 这个element对象是ElementHandle类型对象,ElementHandle可以看做就是DOM对象,我们获得这个对象后,可以调用其方法click、type等。click就是点击事件,type就是输入。

当我们看到界面上出现滑窗验证码时,表明我们上述代码正确执行了。

相关推荐

Linux 的磁盘系统,和你了解的Windows差别很大

我的C盘去哪了?一个系统,如果没有存储,那么也就不能称之为系统。存储性是一个完整系统的重要组成部分。例如AWS最开始的服务就是S3(用来存储数据的云服务),足以见得存储对于一个应用平台是多么的重要。...

一文读懂 Linux 硬盘挂载:从问题到解决方案

各位互联网大厂的后端开发伙伴们!在咱们日常工作中,操作Linux系统是常有的事儿吧。你们有没有遇到过这样的场景:新添加了一块硬盘,满心欢喜准备用来存储重要数据或者部署新的应用服务,却突然发现不知道...

硬盘分区(硬盘分区格式)

 磁盘(硬盘)分区,可以分C、D、E等分区,大家可能都会用,会根据自已的需要确定所需的空间,但分区是如何工作的呢,内容如下。Windows中有3类:MBR分区:MasterBootRecord,也...

parted命令工具分区介绍(particle命令)

linux系统磁盘分区通常可以使用fdisk和parted命令,当分区大小小于2TB的时候,两种皆可以使用,当分区大于2TB的话,就需要用parted分区。以下介绍parted命令相关使用,以sdb为...

Linux 服务器上查看磁盘类型的方法

方法1:使用lsblk命令lsblk输出说明:TYPE列显示设备类型,如disk(物理磁盘)、part(分区)、rom(只读存储)等。NAME列显示设备名称(如sda、nvme0n1)。TR...

Linux分区命令fdisk和parted使用介绍

摘要:一般情况下,Linux分区都是选择fdisk工具,要求硬盘格式为MBR格式,能支持的最大分区空间为2T。但是目前在实际生产环境中使用的磁盘空间越来越大,呈TB级别增长;而常用的fdisk这个工具...

linux 分区原理与名词解释(linux操作系统中的分区类型)

分区的意义将磁盘分成几份,每份挂在到文件系统的那个目录在linux里的文件系统Ext2:早期的格式,不支持日志功能Ext3:ext2改良版,增加了日志功能,是最基本且最常用的使用格式了Ext4:针对e...

linux 分区合并(linux合理分区)

查看虚拟机当前磁盘挂载情况fdisk-l选择磁盘fdisk/dev/sda查看磁盘分区情况p重新选择分区n选择主分区p保存w创建物理卷pvcreate/dev/sda3查看物理卷信息pvdi...

如何在 Linux 系统中永久禁用交换分区 ?

Linux操作系统中的交换分区或交换文件充当硬盘上的临时存储区域,当物理内存(RAM)满时,系统使用该存储区域。它用于交换较少使用的内存页,这样系统就不会因为运行应用程序而耗尽物理内存。随着技术的发...

Linux 如何知道硬盘已用多少空间、未用多少空间

刚出社会时,去了一家公司上班,老板为了省钱,买的服务器是低配的,硬盘大小只有40G,有一次网站突然不能访问了,排查半天才知道原来服务器的硬盘空间已用完,已无可用空间。第一步是查看硬盘的使用情况,第二步...

用Linux系统管理磁盘空间 就该这么来

要想充分有效的管理使用Linux系统中的存储空间,用户必须要做的就是双管齐下,一边扩充空间一边限制空间。不得不说的就是很多时候磁盘空间就像水资源,需节制水流。说到要如何实现限制空间就离不开使用LVM技...

Windows 11 磁盘怎么分区?(windows11磁盘怎么分区)

Windows11磁盘分区技术解析与操作指南:构建高效存储体系一、磁盘分区的技术本质与系统价值磁盘分区作为存储系统的基础架构,通过逻辑划分实现数据隔离与管理优化。Windows11采用NTF...

linux上创建多个文件分区,格式化为 ext2、ext3、ext4、XFS 文件

以下是在Linux系统上创建多个20GB文件分区并格式化为不同文件系统的分步指南:步骤1:创建基础文件(4个20GB文件)bash#创建4个20GB稀疏文件(实际占用空间随写入量增长)ddif=/...

救命的U盘低格哪家最强?(低格优盘)

周二时有位童鞋留言说U盘之前做过引导盘,现在格式化不了,用各种工具都不行,而且因为U盘厂商的关系,查不到U盘主控,无法量产恢复,特来求助。小编花了点时间特意弄坏一个U盘分区,终于试出方法了,特来分享一...

Linux 查看硬件磁盘存储大小和磁盘阵列(RAID)的组合方式

一、查看硬件磁盘存储大小查看所有磁盘信息:#lsblk该命令会列出所有磁盘(如/dev/sda、/dev/nvme0n1)及其分区和挂载点。查看磁盘总容量:fdisk-l#或parted-...

取消回复欢迎 发表评论: