scrapyd服务
完成scrapy项目创建:scrapy项目创建 在pycharm控制台安装scrapyd和scrapyd-client。
>pip install scrapyd
>pip install scrapyd-client
完成之后跳转到scrapyd安装位置,比如d:\anaconda3\Lib\site-packages,执行scrapyd,开启服务。
>cd d:\anaconda3\Lib\site-packages
>scrapyd
对于出现的url, http://localhost:6800/,点击会有如下显示。 配置scrapy.cfg文件,在scrapy项目hello下,可以pycharm打开更改,更改为
[settings]
default = hello.settings
[deploy:hello]
url = http://localhost:6800/
project = hello
配置scrapyd-client命令,仅windows系统,在scrapyd-client.exe文件目录D:\anaconda3\Scripts下新建scrapyd-client.bat文件。文件内容为
@echo off
"D:\anaconda3\python.exe" "D:\anaconda3\Scripts\scrapyd-deploy" %*
此时scrapyd-client可以部署项目,新开控制台,原控制台服务保留,执行以下命令
>scrapyd-deploy hello -p hello
第一个hello是项目名,第二个是重命名。重命名可以更改,项目名与scrapy项目一致。 部署完成之后scrapyd-deploy相关命令也可以执行了。 scrapyd-deploy相关命令
gerapy模块
在pycharm控制台安装gerapy模块
>pip install gerapy
然后确认gerapy,然后初始化。
>gerapy
>gerapy init
再切换gerapy目录,重置数据库,创建超级用户。设置用户名和密码。
>cd gerapy
>gerapy migrate
>gerapy createsuperuser
再开启gerapy服务。
>gerapy runserver
显示出本地网址http://127.0.0.1:8000/,进入 使用超级用户登录。 然后创建主机、项目。 部署项目,更改描述打包,主机部署。 然后新建任务,查看状态,修改之后定时执行。
|