IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 开发测试 -> selenium webdriver 防爬问题 C# -> 正文阅读

[开发测试]selenium webdriver 防爬问题 C#

一、常见的方法是使用如下配置解决window.navigator.webdriver属性值问题,确实有用,有些网站正常可以打开,selenium中打不开,或者返回错误,可以试下

? ? ? ? ? ? ? ?

 options.AddArgument("--disable-blink-features=AutomationControlled");

再进阶点,利用浏览器端开发霸权强制写入一段js,修改变量值window.navigator.webdriver

? driver.execute_cdp_cmd("Page.addScriptToEvaluateOnNewDocument", {
? ? ? ? "source": """
? ? ? ? ? ? ? ? ? ? Object.defineProperty(navigator, 'webdriver', {
? ? ? ? ? ? ? ? ? ? ? get: () => undefined
? ? ? ? ? ? ? ? ? ? })
? ? ? ? ? ? ? ? ? """
? ? })

二、我遇到的问题比较奇葩,第一次可以打开,一旦使用driver.findxxx(),或者driver.getxx()之后就会触发反爬策略,症状就是之后任何请求都会报错,具体原因没搞清楚。但是,f12执行js是不会导致以上情况。基于f12无问题的原则,翻了chrome dev tools的开发文档:

Chrome DevTools Protocol - Runtime domain

发现有一个可以执行js的接口,而且还可以有接收返回值,奈何资料实在太少,好不容易跑通,执行了个alert没有触发,代码如下

(??C#代码,注意引用最新版webdriver,nuget搜selenium前两个)???????????????

?string path = AppDomain.CurrentDomain.BaseDirectory + "/test.js";

? ? ? ? ? ? ? ? string str2 = File.ReadAllText(path);

? ? ? ? ? ? ? ? //没找到怎么传参, 用这个low方法把

? ? ? ? ? ? ? ? str2 = str2.Replace("_name_", name);

? ? ? ? ? ? ? ? //log("注入的js代码:" + str2);

? ? ? ? ? ? ? ? p.Add("expression", str2);

? ? ? ? ? ? ? ? //调用Runtime.evaluate,传入p执行

? ? ? ? ? ? ? ? driver.ExecuteCdpCommand("Runtime.evaluate", p);

(js代码)

? ? ? ? ? ? ?

 ?alert(1);

三、继续尝试如何接收返回值,毕竟要爬东西。

? ? ? ? (C#)?????????????

???string path = AppDomain.CurrentDomain.BaseDirectory + "/test2.js";

? ? ? ? ? ? ? ? string str2 = File.ReadAllText(path);

? ? ? ? ? ? ? ? p.Add("expression", str2);//代码

? ? ? ? ? ? ? ? p.Add("returnByValue", true);//接收返回值【注意,js中return必须是json格式,不然收不到!!!】

? ? ? ? ? ? ? ? p.Add("awaitPromise", true);//是否异步

? ? ? ? ? ? ? ? //执行,并接收返回值

? ? ? ? ? ? ? ? Dictionary<string, Object> r =(Dictionary<string,Object>)driver.ExecuteCdpCommand("Runtime.evaluate", p);

????????(js:匿名函数,直接执行,【同步返回】)? ? ? ? ? ? ? ?

 (function(){

????????? ? ? ? ? ? ? ? ? ? return {a:1}

???????????????????})();

? ? ? ? (js:匿名函数,异步返回)? ? ? ? ? ? ? ?

(async function(){

????????????????????????return new Promise((resolve, reject) => {

????????????????????????????????resolve({a:1});

? ? ? ? ? ? ? ? ? ? ? ? ? });

???????????????????})();

over,能写js,随时随地执行,能传参,能接返回值,还能异步,还有什么做不了的呢?

  开发测试 最新文章
pytest系列——allure之生成测试报告(Wind
某大厂软件测试岗一面笔试题+二面问答题面试
iperf 学习笔记
关于Python中使用selenium八大定位方法
【软件测试】为什么提升不了?8年测试总结再
软件测试复习
PHP笔记-Smarty模板引擎的使用
C++Test使用入门
【Java】单元测试
Net core 3.x 获取客户端地址
上一篇文章      下一篇文章      查看所有文章
加:2022-08-06 11:12:24  更:2022-08-06 11:12:50 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 -2024/11/17 22:48:24-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码