@python初学者爬虫的一些感想/关于文件的导出
做作业爬数据,对一个网页进行了简单爬虫。各种bug频出,泪洒键盘,遂记之。
DataFrame输出文件
1、地址数据的逗号分隔符引发的问题 跑完代码,发现偶尔会出现一些不听话的,如图: 首先,第三个对象的address、price、type数据均存在(说明抓取过程没有问题) 由于csv文件的默认分隔方式为逗号“,” ,第三个对象的地址存在多个逗号,被csv误认为要分隔开来 (但是为什么大部分对象不会出现这个问题呢?暂时无解)
遂放弃了csv格式,选择了导出为xlsx,结果就正常了: 2、乱码问题 由于爬的内容含有繁体字+英文,导出文件的时候写了如下代码:
df.to_excel(save_path + os.sep + str(ticker) + '_' + str(amount) + '.xlsx')
结果导致输出的繁体字全部是乱码的 解决方式:增加一个encoding就完事了,简体繁体用utf-8都是可以滴:
df.to_excel(save_path + os.sep + str(ticker) + '_' + str(amount) + '.xlsx',encoding = 'utf-8-sig')
|