IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 开发测试 -> python实验selenium爬取网页链接 -> 正文阅读

[开发测试]python实验selenium爬取网页链接

真的是自己找点资料好痛苦,这个东西是我自己想出来的,已经验证了可以使用,反正我会一点就立刻发出来一点

from selenium import webdriver
#打开一个浏览器
from selenium.webdriver.common.by  import By
import re,time
from urllib.request import urlopen
from bs4 import BeautifulSoup
from lxml import etree
browser = webdriver.Chrome()
#准备一个网址
url = 'http://www.baidu.com'

browser.get(url)
#获取元素
#login = browser.find_element(By.PARTIAL_LINK_TEXT,"新闻").click()
browser.find_element(By.PARTIAL_LINK_TEXT,"新闻").click()

#print(login.find_element_by_tag_name('title'))
#print(login)
f=browser.page_source

def pa(html):
    bs = BeautifulSoup(html, 'html.parser')  # 解析网页
    return bs

def Find(string):
    # findall() 查找匹配正则表达式的字符串
    url = re.findall('https?://(?:[-\w.]|(?:%[\da-fA-F]{2}))+', string)
    return url
k=Find(f)

#time.sleep(3)
for i in k:
    print(i)

正则表达式筛选汉字和title,上面的这个是筛选链接的

提取汉字
importre
def Find(string):
    # findall() 查找匹配正则表达式的字符串
    url = re.findall('https?://(?:[-\w.]|(?:%[\da-fA-F]{2}))+', string)
    return url



提取标题---可以由它类推到很多
import re
import requests        # 导入requests包
strhtml = requests.get('https://www.bilibili.com/video/av70290801?from=search&seid=8276641641400784929')        # Get方式获取网页数据
# print(strhtml.text)
print(re.findall(r"<title.*?>(.+?)</title>", strhtml.text))

  开发测试 最新文章
pytest系列——allure之生成测试报告(Wind
某大厂软件测试岗一面笔试题+二面问答题面试
iperf 学习笔记
关于Python中使用selenium八大定位方法
【软件测试】为什么提升不了?8年测试总结再
软件测试复习
PHP笔记-Smarty模板引擎的使用
C++Test使用入门
【Java】单元测试
Net core 3.x 获取客户端地址
上一篇文章      下一篇文章      查看所有文章
加:2022-04-15 00:30:46  更:2022-04-15 00:31:36 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 -2024/11/18 0:33:43-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码