IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> Python知识库 -> 使用playwright--python 爬虫简单使用(vscode、tb、保存到CSV文件) -> 正文阅读

[Python知识库]使用playwright--python 爬虫简单使用(vscode、tb、保存到CSV文件)

目录

分析结构

安装

爬取数据基本api

代码


分析结构

  • ??价格、付款人数
  • ?文本
  • 厂家地址
  • 活动(不使用)

安装

pip install --upgrade pip
pip install playwright
playwright install

爬取数据基本api

  • page.query_selector_all(selector)?--元素选择器,返回标签列表<List[ElementHandle]>?
  • element_handle.query_selector_all(selector)?--子元素也可使用query
  • page.wait_for_timeout(1000)?--等待时间
  • page.wait_for_selector(selector, **kwargs)?--等待元素
  • element_handle.get_attribute(name)?--获取元素标签属性值
  • page.inner_text(selector, **kwargs)?--标签文本
  • page.set_default_timeout(timeout)?--等待时间

代码

import asyncio
from playwright.async_api import async_playwright
import csv


async def main():
    async with async_playwright() as p:
        browser = await p.chromium.launch(headless=False)
        page = await browser.new_page()
        fp = open("./tbData.csv", 'a', newline='', encoding='utf-8-sig')
        writer = csv.writer(fp)
        # 写入内容
        writer.writerow(('价格', '购买人数', '文本', '厂址信息'))
        await page.goto("https://s.taobao.com/search?initiative_id=tbindexz_20170306&ie=utf8&spm=a21bo.jianhua.201856-taobao-item.2&sourceId=tb.index&search_type=item&ssid=s5-e&commend=all&imgfile=&q=%E7%AC%94%E8%AE%B0%E6%9C%AC%E7%94%B5%E8%84%91&suggest=history_1&_input_charset=utf-8&wq=&suggest_query=&source=suggest&bcoffset=-14&ntoffset=-14&p4ppushleft=2%2C48&s=264")
        # url = await page.get_attribute("#a1 > div.dplayer-video-wrap > video", " src")
        await page.wait_for_timeout(60000)
        for i in range(100):
            await page.wait_for_timeout(10000)
            await page.goto("https://s.taobao.com/search?q=%E7%AC%94%E8%AE%B0%E6%9C%AC%E7%94%B5%E8%84%91&bcoffset="+str(4-i*3)+"&ntoffset="+str(4-i*3)+"&p4ppushleft=2%2C48&s="+str(i*44))
            await page.wait_for_timeout(10000)
            list = await page.query_selector_all("#mainsrp-itemlist > div > div > div:nth-child(1) > div > div.ctx-box.J_MouseEneterLeave.J_IconMoreNew")
            # print(await j.inner_text())
            for j in list:
                price = await j.query_selector(".price.g_price.g_price-highlight")
                count = await j.query_selector(".deal-cnt")
                txt = await j.query_selector(".row.row-2.title")
                home = await j.query_selector(".row.row-3.g-clearfix")

                price_csv = await price.inner_text()
                count_csv = await count.inner_text()
                txt_csv = await txt.inner_text()
                home_csv = await home.inner_text()
                writer.writerow((str(price_csv), str(count_csv),
                                str(txt_csv), str(home_csv)))

                print('价格', price_csv)
                print('购买人数', count_csv)
                print('文本', txt_csv)
                print('地址店家', home_csv)
        await browser.close()
        fp.close()
asyncio.run(main())

  Python知识库 最新文章
Python中String模块
【Python】 14-CVS文件操作
python的panda库读写文件
使用Nordic的nrf52840实现蓝牙DFU过程
【Python学习记录】numpy数组用法整理
Python学习笔记
python字符串和列表
python如何从txt文件中解析出有效的数据
Python编程从入门到实践自学/3.1-3.2
python变量
上一篇文章      下一篇文章      查看所有文章
加:2022-01-01 13:51:09  更:2022-01-01 13:51:13 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 -2024/11/16 3:36:49-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码