IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 开发测试 -> 【爬虫】selenium 获取不定页数的数据 -> 正文阅读

[开发测试]【爬虫】selenium 获取不定页数的数据

简介:

?爬取界面的页数不知道几个;从第一个点下一页,一直到最后一页。

思路:

我们如果知道需要点下页多少次,那么就可以遍历每一页,从而获取数据。

点多少次,则需要知道确定的页数。

不定页数的情况有三种

第一个是只有一页,那么也就没有页数

如下图,为空白,没有表格

?第二个是有,但只有几个,但不够最大隐藏页数的长度

如下图,有表格,但没有?...

?第三个是有,而且很多

如下图,有表格,有?...

解决 :

找特征分类

先判断有表格的xpath是否存在

不存在,就是 没有表格,是第一种情况,直接提取数据即可

可以用下面的代码判断

def iselement(browser, xpaths):
    """
    基本实现判断元素是否存在
    :param browser: 浏览器对象
    :param xpaths: xpaths表达式
    :return: 是否存在
    """
    try:
        browser.find_element(By.XPATH,xpaths)
        return True
    except exceptions.NoSuchElementException:
        return False

存在,就是第二第三种情况

XPath为表格的xpath

先用正则表达式提取 '上一页' 和 '下一页' 之间的数字

此时有两种情况

一个是只有一个元素的列表

?此时对应 思路里的第三种情况

?列表里着唯一的元素的最后一位就是我们所需要的页数

另一个是两个元素的列表

此时对应 思路里的第三种情况

?列表的最后一个元素就是我们所需要的页数

#判断最大页数
page=driver.find_element(By.XPATH,'//*[@id="root"]/div/div[1]/div/div/div[1]/div[2]/div[1]/div[2]/div/div/div/div/div[3]/div[3]/div[2]/div[3]/div[11]/div[1]/div/ul').text
print(page)
page=re.findall('\d+',page)
print(page)
if len(page)==1:
    page_max=int(''.join(page))%10
else:
    # num_list_new = page[1]
    page_max=int(''.join(page[1]))
print(page_max)

提供两个网站为例

?https://www.gaokao.cn/special/267?sort=1&special_type=3

https://www.gaokao.cn/special/354?sort=1&special_type=3

?

  开发测试 最新文章
pytest系列——allure之生成测试报告(Wind
某大厂软件测试岗一面笔试题+二面问答题面试
iperf 学习笔记
关于Python中使用selenium八大定位方法
【软件测试】为什么提升不了?8年测试总结再
软件测试复习
PHP笔记-Smarty模板引擎的使用
C++Test使用入门
【Java】单元测试
Net core 3.x 获取客户端地址
上一篇文章           查看所有文章
加:2022-09-04 01:41:58  更:2022-09-04 01:42:39 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年5日历 -2024/5/19 9:41:28-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码