| |
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
-> 开发测试 -> 【爬虫】selenium 获取不定页数的数据 -> 正文阅读 |
|
[开发测试]【爬虫】selenium 获取不定页数的数据 |
简介: ?爬取界面的页数不知道几个;从第一个点下一页,一直到最后一页。 思路:我们如果知道需要点下页多少次,那么就可以遍历每一页,从而获取数据。 点多少次,则需要知道确定的页数。 不定页数的情况有三种 第一个是只有一页,那么也就没有页数 如下图,为空白,没有表格 ?第二个是有,但只有几个,但不够最大隐藏页数的长度 如下图,有表格,但没有?... ?第三个是有,而且很多 如下图,有表格,有?... 解决 :找特征分类 先判断有表格的xpath是否存在 不存在,就是 没有表格,是第一种情况,直接提取数据即可 可以用下面的代码判断
存在,就是第二第三种情况 XPath为表格的xpath 先用正则表达式提取 '上一页' 和 '下一页' 之间的数字 此时有两种情况 一个是只有一个元素的列表 ?此时对应 思路里的第三种情况 ?列表里着唯一的元素的最后一位就是我们所需要的页数 另一个是两个元素的列表 此时对应 思路里的第三种情况 ?列表的最后一个元素就是我们所需要的页数
提供两个网站为例 ?https://www.gaokao.cn/special/267?sort=1&special_type=3 https://www.gaokao.cn/special/354?sort=1&special_type=3 ? |
|
开发测试 最新文章 |
pytest系列——allure之生成测试报告(Wind |
某大厂软件测试岗一面笔试题+二面问答题面试 |
iperf 学习笔记 |
关于Python中使用selenium八大定位方法 |
【软件测试】为什么提升不了?8年测试总结再 |
软件测试复习 |
PHP笔记-Smarty模板引擎的使用 |
C++Test使用入门 |
【Java】单元测试 |
Net core 3.x 获取客户端地址 |
|
上一篇文章 查看所有文章 |
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 | -2024/11/17 22:46:01- |
|
网站联系: qq:121756557 email:121756557@qq.com IT数码 |