阿里云服务器定时在线运行python爬虫代码「建议收藏」

阿里云服务器定时在线运行python爬虫代码「建议收藏」服务器:centos任务管理:cron服务对于cron服务不了解的可以看我这篇文章

大家好,又见面了,我是你们的朋友全栈君。

前言

这是我听老师讲课做的笔记

作者:神的孩子都在跳舞

关注我的csdn博客,更多python知识还在更新

前言:

为了参加计算机设计大赛,我和我的团队做了个数据分析项目,由于涉及到数据的爬取,实时更新等,所以有了这一篇文章

思路:

其实定时爬取并不难,无非就是在linux上跑程序,加上一个时间给它,如果你学过linux那么一定听说过这个cron服务,接下来我们就用它弄个定时任务就可以了

服务器:centos
任务管理:cron服务
环境:python3.7

对于cron服务不了解的可以看我这篇文章cron服务——Linux计划任务管理

使用xshell连接服务器

  1. 我们先查看crontab服务是否开启
    在这里插入图片描述

如果是active说明开启了否则需要start启动

  1. 调用文本编辑器对cron任务进行编辑
crontab -e

定时运行python爬虫文件的设置命令是这样的

分钟 小时 天数 月份 星期 python 运行文件名

由于我的项目已经在服务器上部署好了,项目运行是在虚拟环境下面的,所以我需要进入指定目录和环境

0 0 * * 7 cd /www/wwwroot/RecruitDataVsible-master1 && source ./ccccc_venv/bin/activate && python dataView/数据爬取/总的爬取项目/conten2.py

我这里的意思是每个星期天0点0分(就是晚上12点整)cd进入项目文件,source启动进入环境,使用python命令运行conten2.py这个文件

具体的修改查看命令可以看上面的文章

目前我的项目是这样子的,总共有九个类别的数据
在这里插入图片描述
现在我们让它爬取两个类别,看看设定定时任务后能否自动爬取,然后存入数据库,自行展示
在这里插入图片描述
为了方便演示我这里设定了每分钟爬一次,’/’就是每的意思

*/1 * * * *

在这里插入图片描述

然后我们等一分钟,在我们没有做任何操作的情况下数据发生了改变,之前的数据被替换了,这就起到了定时爬取页面展示的效果

在这里插入图片描述
也可以手动运行代码
在这里插入图片描述

本人博客:https://blog.csdn.net/weixin_46654114
本人b站求关注:https://space.bilibili.com/391105864
转载说明:跟我说明,务必注明来源,附带本人博客连接。

请给我点个赞鼓励我吧
在这里插入图片描述

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/144967.html原文链接:https://javaforall.net

(0)
上一篇 2022年5月18日 上午11:00
下一篇 2022年5月18日 上午11:20


相关推荐

  • C语言中的输入输出流和缓冲区(重点)详解

    C语言中的输入输出流和缓冲区(重点)详解导读 C 语言中我们用到的最频繁的输入输出方式就是 scanf 与 printf scanf 从标准输入设备 键盘 读取数据 并将值存放在变量中 printf 将指定的文字 字符串输出到标准输出设备 屏幕 注意宽度输出和精度输出控制 C 语言借助了相应的缓冲区来进行输入与输出 如上的简图 OK 我们接下来进入正题 1 流是什么 流

    2026年3月18日
    3
  • steam游戏直连工具

    steam游戏直连工具本文章说下客户端的软件设计客户端比较简单 读取免费云服务器中的游戏 IP 地址 这个 IP 地址可以参考我的另外一个文章 本次采用的是三丰云的免费云主机 设置很简单 直接上获取 IP 地址代码 PublicSubLIS FTP file addressAsStr Dimtext1AsSt

    2026年3月18日
    2
  • 汇总几个常用的AI智能体(Agent)一文搞懂什么是智能体?

    汇总几个常用的AI智能体(Agent)一文搞懂什么是智能体?

    2026年3月16日
    2
  • PHP本地web服务器搭建教程(通俗易懂版)

    PHP本地web服务器搭建教程(通俗易懂版)PHP本地服务器搭建教程(通俗易懂)

    2022年7月17日
    17
  • OpenCV | 直线拟合fitline函数(Python)

    OpenCV | 直线拟合fitline函数(Python)简介之前做直线拟合时 自己写了一个利用最小二乘做直线拟合的程序 但是由于直线检测的误差比较大 拟合的效果并不好 个人不知道是什么原因 因此想尝试更改一下直线拟合的算法 后来找到了 OpenCV 中的 fitline 函数 也是一个距离最小化函数 它完全包含了最小二乘法 由于网上没有找到相关的与 python 有关的资源 这里总结如下 1 函数调用 python3 中 fitline 函数的调用形式如下 im

    2026年3月19日
    2
  • 滑环密封防水等级

    滑环密封防水等级默孚龙生产各种高密封滑环 水下密封 IP68 滑环图纸方案 300 多种 滑环密封包括安装在摩擦侧的标准 O 形环密封和抗摩擦密封 减摩密封圈一般是由实心聚四氟乙烯定制的摩擦密封圈 他还可以定制适合你的密封圈形状 与之匹配的凹槽深度略大于标准尺寸 因为无论是 O 型圈还是滑块密封圈都会由凹槽来维持 这意味着需要使用特殊的密封工具或采用加热膨胀的方法将滑块密封圈延伸到位 冷却状态的尺寸恢复正常 滑环密封环适用于压力高达 400 巴的液压应用 是挡圈的紧凑替代品 由于它们的低摩擦 它们在气动系统的活塞杆和气缸密封圈中也有特殊用

    2026年3月19日
    1

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号