[Python知识库]微信公众号文章信息（阅读量、在看、点赞数）获取

??实现这一个功能主要用到了selenium、mitmproxy和wechatarticles，利用selenium可以实现脚本模拟浏览器访问，mitmproxy配合wechatarticles获取文章信息。
参考文章：
python爬取微信公众号文章（包含文章内容和图片）
记一次微信公众号爬虫的经历（微信文章阅读点赞的获取）
微信公众号文章全自动采集（使用mitmproxy抓包，然后用pywinauto实现自动点击）微信app_msg动态获取

selenium

??selenium有一个官网，建议通过官网的教程入门。Getting Started主要有两步（我用的是python）,一个是安装python的包，另一个就是还要下载浏览器的驱动文件，并且设置好环境变量。

mitmproxy

??mitmproxy也有一个官网，在官网文档里的Getting Started里面写了，它默认监听本地的8080端口。有了这个代理，我们就可以获取网络传输中的数据包，要把它用起来就需要对代理进行设置。因为后面需要微信客户端的数据包收发进行监听，所以我直接对系统的代理进行了设置。
??可以直接在windows桌面的搜索栏中搜索“代理”，就可以找到“代理服务器设置”，然后手动如图设置代理即可。

具体实现流程

??具体步骤分为两步：

• 首先要获取想了解的公众号的所有文章链接；
• 再通过这些文章链接获取具体的文章信息

文章链接获取

??按照上面第一篇参考文章中的方法，获取文章链接。值得一提的是，只要有微信和一个邮箱，就可以注册一个订阅号。这个邮箱绑定了订阅号之后就不能用来绑定其他的东西了，比如小程序。就一开始我的微信用一个邮箱绑定了一个小程序，然后微信登录的时候一直只有小程序的选项。这个时候其实只需要再搞一个邮箱，然后注册一个订阅号就可以了。
??公众号管理界面可能跟上面文章中所说的不一样了，但实际上变化不大，还是只需要通过创建新的图文消息，来进入公众号文章链接引用的界面。

??利用login.py和get_article_link.py两个文件获取所有文章链接。首先用login.py获取cookies，再用get_articleInfo.py获取文章链接。在使用的时候发现，这个网页也有反爬的机制，出现错误之后就等几个小时再继续。
??和参考的文章中不一样的地方在于，我用的是Edge浏览器，然后在获取文章链接的同时还获取了文章的发布时间。具体的参数需要参考原文。

# -!- coding: utf-8 -!-
# login.py 用于保存微信帐号登录信息
# 以下代码中的微信登录帐号密码需要修改
from selenium import webdriver
import time
import json
driver = webdriver.Edge()
driver.get("https://mp.weixin.qq.com/") # 微信公众平台网址
driver.find_element_by_link_text("使用帐号登录").click() # 切换到用帐号密码登录
driver.find_element_by_name("account").clear()
driver.find_element_by_name("account").send_keys("帐号")  # 自己的微信公众号
time.sleep(2)
driver.find_element_by_name("password").clear()
driver.find_element_by_name("password").send_keys("密码")  # 自己的微信公众号密码
driver.find_element_by_class_name("icon_checkbox").click()
time.sleep(2)
driver.find_element_by_class_name("btn_login").click()
time.sleep(15)
#此时会弹出扫码页面，需要微信扫码
cookies = driver.get_cookies()  # 获取登录后的cookies
print(cookies)
cookie = {}
for items in cookies:
    cookie[items.get("name")] = items.get("value")
# 将cookies写入到本地文件，供以后程序访问公众号时携带作为身份识别用
with open('cookies.txt', "w") as file:
    #  写入转成字符串的字典
    file.write(json.dumps(cookie))

# -*- coding:utf-8 -*- 
# get_article_link.py
# 参考第一篇文章链接，需要对一些参数进行修改
# 在参考文章的基础上，增加了文章发布时间的条目
import requests
import json
import re
import time

with open("cookies.txt", "r") as file:
    cookie = file.read()
cookies = json.loads(cookie)
url = "https://mp.weixin.qq.com"

response = requests.get(url, cookies=cookies)
print(response.url)
token = re.findall(r'token=(\d+)', str(response.url))[0]  # 从url中获取token

headers = {
    "User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/94.0.4606.81 Safari/537.36 Edg/94.0.992.50", # 需要根据需求修改
    "Referer": "https://mp.weixin.qq.com/cgi-bin/appmsg?t=media/appmsg_edit_v2&action=edit&isNew=1&type=77&createType=0&token="+token+"&lang=zh_CN", # 需要根据需求修改
    "Host": "mp.weixin.qq.com",
}
with open('article_link.txt', "w", encoding='utf-8') as file:
    for j in range(1, 53, 1): # 循环次数根据实际情况进行设置
        begin = (j-1)*5
        requestUrl = "https://mp.weixin.qq.com/cgi-bin/appmsg?action=list_ex&begin="+str(begin)+"&count=5&fakeid=MzU4MjY2OTY2NQ==&type=9&query=&token="+token+"&lang=zh_CN&f=json&ajax=1"
        search_response = requests.get(requestUrl, cookies=cookies, headers=headers)
        re_text = search_response.json()
        list = re_text.get("app_msg_list")
        for i in list:
            timestr = i["create_time"]
            timeArray = time.localtime(int(timestr))
            otherStyleTime = time.strftime("%Y-%m-%d %H:%M:%S", timeArray) # 文章发布时间
            file.write(i["aid"]+"<=====>"+i["title"]+"<=====>"+i["link"] + "<=====>" + otherStyleTime + "\n")
            print(i["aid"]+"<=====>"+i["title"]+"<=====>"+i["link"] + "<=====>" + otherStyleTime)
        time.sleep(20)

??获得的文本文件，可以导入Excel做成表格。在Excel中选择从文本导入数据，分隔符设置为“$<=====>$”。我在导入的时候遇到了一点问题，就有些地方它不识别这个分割符号。我就把这个$“<=====>”$，在文本文件中全部替换成分号，再用Excel导入就没问题了。

获取文章信息

??获取文章信息是参考第二和第三篇文章做的。想要获取微信公众号文章的阅读量、点赞等信息，在浏览器中打开微信公众号文章是没有用的。只有通过微信打开才能拿到这些信息。所以在第三篇文章中，原作者就搞了一个自动控制微信的脚本，在文件传输助手中点击文章链接来产生带cookie和appmsg_token的包。但如果文章数量比较少，其实可以手动点。经过测试，每次获得的cookie和appmsg_token至少可以用来获取100篇文章的信息。

# -*- coding:utf-8 -*- 
# write_cookies.py
import urllib
import sys
from mitmproxy import ctx
from mitmproxy import io, http
# command: mitmdump -s write_cookies.py -w dat mp.weixin.qq.com/mp/getappmsgext

class WriterCookie:
    """
    mitmproxy的监听脚本，写入cookie和url到文件
    """

    def __init__(self,outfile: str) -> None:
        self.f = open(outfile, "w")

    def response(self, flow: http.HTTPFlow) -> None:
        """
        完整的response响应
        :param flow: flow实例，
        """
        # 获取url
        url = urllib.parse.unquote(flow.request.url)
        # 将url和cookie写入文件
        if "mp.weixin.qq.com/mp/getappmsgext" in url:
            self.f.write(url + '\n')
            self.f.write(str(flow.request.cookies))
            self.f.close()
            # 退出
            exit()

# 第四个命令中的参数
addons = [WriterCookie(sys.argv[4])]

??write_cookies.py是mitmproxy的监听脚本，可以从下面的命令看出来，当它监听到“mp.weixin.qq.com/mp/getappmsgext”这种请求包时，就把请求包的内容保存下来。这种请求就是每次微信打开公众号文章是发出的请求包。

"mitmdump -s {}/write_cookies.py -w {} mp.weixin.qq.com/mp/getappmsgext".format('./cookie.txt')

# -*- coding:utf-8 -*- 
# get_Info.py
import re
import os
import threading
from wechatarticles import ArticlesInfo
import time

class ReadCookie(object):
    """
    启动write_cookie.py 和 解析cookie文件，
    """

    def __init__(self,outfile):
        self.outfile = outfile
        print(self.outfile)
    def parse_cookie(self):
        """
        解析cookie
        :return: appmsg_token， biz， cookie_str·
        """
        with open(self.outfile) as f:
            data = f.read()
        appmsg_token_string = re.findall("appmsg_token.+?&", data)[0].split('=')[1]
        cookies = re.findall(r"\['(.*?)'\]", data)
        Wechat_cookies = {}
        for cookie in cookies:
            cookie = cookie.split("', '")
            Wechat_cookies[cookie[0]] = cookie[1]
        return appmsg_token_string,Wechat_cookies

    def write_cookie(self):
        """
        启动 write_cookies。py
        :return:
        """

        #当前文件路径
        path = os.path.split(os.path.realpath(__file__))[0]
        #path = os.getcwd()
        print(path)
        # mitmdump -s 执行脚本 -w 保存到文件 本命令
        command = "mitmdump -s {}/write_cookies.py -w {} mp.weixin.qq.com/mp/getappmsgext".format(
            path,self.outfile)

        os.system(command)

def get_cookie():
    rc = ReadCookie('cookie.txt')
    rc.write_cookie()
    appmsg_token_string, cookies = rc.parse_cookie()
    return appmsg_token_string, cookies


fp_src = open('links.txt', 'r')
fp_dst = open('articleInfo.txt', 'w')

count = 0
while True:
    # 登录微信PC端获取文章信息
    appmsg_token, cookies = get_cookie()
    # print(appmsg_token_string)
    cookie = ''
    for ck in cookies.items():
        if not cookie:
            cookie = cookie + ck[0] + '=' + ck[1]
        else:
            cookie = cookie + '; ' + ck[0] + '=' + ck[1]
    print(cookie)

    for i in range(100):
        url = fp_src.readline()
        if not url:
            break
        article_url = url
        test = ArticlesInfo(appmsg_token, cookie)
        read_num, like_num, old_like_num = test.read_like_nums(article_url)
        count = count + 1
        print(str(count) + " read_like_num:", read_num, like_num, old_like_num)
        fp_dst.write(str(read_num) + ';' + str(like_num) + ';' + str(old_like_num) + '\n')
        time.sleep(3)

??对监听到的包解析之后就可以获取我们需要的cookie和appmsg_token，然后那这个去获取微信公众号的文章信息，重复100次后，再去更新cookie和appmsg_token。在此之前，我已经事先把所有文章的链接都存到了一个文本文件“links.txt”中，每次都从里面读一行就是一个文章链接。

??然后每到100条记录之后，我就手动点这个文件传输窗口中的链接，就是每次命令行提示下面的信息的时候，我就点一下上面文件传输助手中的链接来更新cookie和appmsg_token。

Proxy server listening at http://*:8080