??欢迎订阅《从实战学python》专栏，用python实现爬虫、办公自动化、数据可视化、人工智能等各个方向的实战案例，有趣又有用！??无所遁形
让子弹飞一会
前言
近日，csdn的热榜可以说是”乌烟瘴气“，培训机构，公众号引流，打擦边球，层出不穷。作为热榜的密切关注者，决不能让这片热土毁于一旦。正义可以会迟到，但绝不会缺席。连夜写了这个热榜监控的程序。功能如下：
- 爬取热榜文章
- 分析其文章内容，一旦发现微信引流
- 通过邮件通知我
- 每小时执行一次
话不多说，快来看如何实现吧！
爬取文章
这一步还是比较简单的，发送请求就好了。
将链接在浏览器打开，得到如下json串，将作者，文章标题，文章链接解析出来。
{
"code": 200,
"message": "success",
"data": [
{
"hotRankScore": "91055.0",
"pcHotRankScore": "9.1w",
"loginUserIsFollow": false,
"nickName": "退休的龙叔",
"avatarUrl": "https://profile.csdnimg.cn/9/0/1/3_zhiguigu",
"userName": "zhiguigu",
"articleTitle": "Pycharm常用的小技巧汇总，Python新手上路必备，快上车！",
"articleDetailUrl": "https://blog.csdn.net/zhiguigu/article/details/119449173",
"commentCount": "68",
"favorCount": "528",
"viewCount": "5745",
"hotComment": null
},
...
]
}
代码：
for i in range(2):
res = requests.get(f"https://blog.csdn.net/phoenix/web/blog/hotRank?page={i}&pageSize=50",headers=headers).json()
if res["code"] == 200:
data = res["data"]
for d in data:
nickName = d["nickName"]
articleTitle = d["articleTitle"]
articleDetailUrl = d["articleDetailUrl"]
print(articleDetailUrl)
解析文章
上一步我们拿到了文章的url，现在就要逐一访问文章，解析其内容。老规矩，还是xpath解析。
因为链接都存在于标签，所以拿到所有的href就可以了。
代码：
request = requests.get(articleDetailUrl, headers=headers)
time.sleep(1)
html = request.text
# print(html)
content = etree.HTML(html)
# 使用xpath匹配阅读量
a_href = content.xpath('//*[@id="content_views"]//a/@href')
检测引流链接
这里我们用正则表达式匹配微信引流连接。将检测到含有引流链接的文章信息写入文件。
代码：
for value in a_href:
r = re.compile(r'http[s]?://mp.weixin.qq.com/', )
match = r.findall(str(value))
if (len(match) > 0):
if (is_out):
f.write(str(id) + '\t' + nickName + '\t' + articleTitle + '\t' + articleDetailUrl + '\n')
f.write("微信引流链接如下：" + '\n')
is_out = False
f.write(value + '\n')
print(value)
发送邮件
所有文章都检测完后，将文件里的内容通过邮件发送给我。
代码：
def send_mail():
message = ""
with open("result.txt", 'r', encoding='utf-8') as f:
lines = f.readlines()
for i in lines:
message = message + i
mail_host = 'smtp.qq.com'
mail_user = ''
mail_pass = ''
# 发送方，可以自己给自己发
sender = '@qq.com'
# 邮件接受方邮箱地址，可多写
receivers = ['@qq.com']
# 邮件内容设置，将第一个参数修改成你要发送的内容即可
message = MIMEText(message, 'plain', 'utf-8')
# 邮件主题
message['Subject'] = 'CSDN热榜监控'
# 发送方信息
message['From'] = sender
# 接受方信息
message['To'] = receivers[0]
try:
smtpObj = smtplib.SMTP_SSL(mail_host)
# 登录到服务器
smtpObj.login(mail_user, mail_pass)
# 发送
smtpObj.sendmail(
sender, receivers, message.as_string())
# 退出
smtpObj.quit()
print('success')
except smtplib.SMTPException as e:
print('error', e) # 打印错误
定时执行
为了实时的查看热榜，需要将脚本放到服务器，每小时定时执行一次。
命令
crontab -e
0 * * * * python /hot_monitor.py
关于0 * * * *这几个参数的作用，请自行百度。
关于云服务器，可以参考一条这篇文章《阿里云服务器购买及SSH免密登录》进行购买和配置。
🌈寻宝
?今天是坚持刷题更文的第25/100天
?各位的点赞、关注、收藏、评论、订阅就是一条创作的最大动力
为了回馈各位粉丝，礼尚往来，给大家准备了一条多年积累下来的优质资源，包括 学习视频、面试资料、珍藏电子书等
大家可以评论留言或者私信我领取
