IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> Python知识库 -> 1-7 Burpsuite 爬虫介绍 -> 正文阅读

[Python知识库]1-7 Burpsuite 爬虫介绍

Burpsuite Spider介绍

Burp Spider的功能主要使用于大型的应用系统测试,它能在很短的时间内帮助我们快速地了解系统的结构和分布情况,抓取到某些隐藏的页面等等

在这里插入图片描述

Burpsuite Spider Control介绍

具有开关爬虫的功能,以及设置爬取状态、爬取目标。默认在Target设置。

在这里插入图片描述

Spider is running:开关爬虫的功能

Clear queues:清空爬虫之后的队列

在这里插入图片描述

可以通过设置Spider Score来表示我们要爬取那些目标域

同时我们也可以自定义设置,设置的方式跟Target设置是一样的

实战演示

打开代理拦截功能

在这里插入图片描述

打开想要爬取的网站

在这里插入图片描述

转发到Spider

在这里插入图片描述

点击Target,选Site map,点Filter,勾上Show only in-scope items

在这里插入图片描述

选Scope,选Target Scope,点Add,添加爬取的网站,点OK,点Yes

在这里插入图片描述

爬取完后会在站点地图逐一显示

在这里插入图片描述

Burpsuite Spider Option选项

Spider可选项设置由抓取设置、抓取代理设置、表单提交设置、应用登陆设置、蜘蛛引擎设置、请求消息头设置六个部分组成

在这里插入图片描述

这个是抓取设置

Maximum link depth:爬取的最大深度

Burpsuite Spider Option选项

被动爬取,不与服务器发生交互。发送新的请求抓取某些页面

在这里插入图片描述

Burpsuite Spider Option选项

表单提交,用来匹配和自动提交表单内容。

在这里插入图片描述

可以通过更详细的表单提交,来达到对站点更准确的爬虫

Burpsuite Spider Option选项

设置应用程序登录与蜘蛛爬虫引擎。

在这里插入图片描述

Burpsuite Spider Option选项

设置爬虫HTTP消息头

在这里插入图片描述

可以应对网站的反爬虫机制以及加入cookie值进行对应的爬取

想要爬取登录后的界面,可以添加cookie

在这里插入图片描述

这样我们每次爬取请求的时候,都会加入cookie值,从而使我们的爬取更加准确

想要修改消息头也可以

在这里插入图片描述

通过控制和可选项使我们的爬虫更加强大和灵活

总结

1、掌握Burpsuite爬虫引擎选项。

特别是登录页面的站点,我们要加入cookie值才可以爬取登录后的目录结构,否则无法进行爬取

2、掌握Burpsuite爬取站点的方法。

3、HTTP加密的,爬取不了,只能选择http协议的

  Python知识库 最新文章
Python中String模块
【Python】 14-CVS文件操作
python的panda库读写文件
使用Nordic的nrf52840实现蓝牙DFU过程
【Python学习记录】numpy数组用法整理
Python学习笔记
python字符串和列表
python如何从txt文件中解析出有效的数据
Python编程从入门到实践自学/3.1-3.2
python变量
上一篇文章      下一篇文章      查看所有文章
加:2021-11-26 08:49:10  更:2021-11-26 08:50:09 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 -2024/11/16 1:37:16-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码