pytest 执行用例_python分布式爬虫

pytest 执行用例_python分布式爬虫前言平常我们功能测试用例非常多时,比如有1千条用例,假设每个用例执行需要1分钟,如果单个测试人员执行需要1000分钟才能跑完当项目非常紧急时,会需要协调多个测试资源来把任务分成两部分,于是执行时间

大家好,又见面了,我是你们的朋友全栈君。如果您正在找激活码,请点击查看最新教程,关注关注公众号 “全栈程序员社区” 获取激活教程,可能之前旧版本教程已经失效.最新Idea2022.1教程亲测有效,一键激活。

Jetbrains全系列IDE使用 1年只要46元 售后保障 童叟无欺

前言

  • 平常我们功能测试用例非常多时,比如有1千条用例,假设每个用例执行需要1分钟,如果单个测试人员执行需要1000分钟才能跑完
  • 当项目非常紧急时,会需要协调多个测试资源来把任务分成两部分,于是执行时间缩短一半,如果有10个小伙伴,那么执行时间就会变成十分之一,大大节省了测试时间
  • 为了节省项目测试时间,10个测试同时并行测试,这就是一种分布式场景
  • 同样道理,当我们自动化测试用例排常多的时候, 一条条按顺序执行会非常慢(虽然接口很快),pytest-xdist的出现就是为了让自动化测试用例可以分布式执行,从而节省自动化测试时间
  • pytest-xdist是属于进程级别的并发
     

安装

pip3 install pytest-xdist

 

pytest-xdist插件扩展了一些独特的测试执行模式pytest:

  • 测试运行并行化:如果有多个CPU或主机,则可以将它们用于组合测试运行。会加快运行速度

  • –looponfail:在子进程中重复运行测试。每次运行之后,pytest会等待,直到项目中的文件发生更改,然后重新运行以前失败的测试。重复此过程直到所有测试通过,之后再次执行完整运行。

  • 多平台覆盖:您可以指定不同的Python解释器或不同的平台,并在所有平台上并行运行测试。

在远程运行测试之前,pytest有效地将您的程序源代码“rsyncs”到远程位置。报告所有测试结果并显示给您的本地终端。您可以指定不同的Python版本和解释器。
 

并行测试

多cpu并行执行用例,直接加个-n参数即可,后面num参数就是并行数量,比如num设置为3

pytest -n 3

运行以下代码,项目结构如下

web_xdist是项目工程名称
│  conftest.py
│  __init__.py
│              
├─baidu
│  │  conftest.py
│  │  test_1_baidu.py
│  │  test_2.py
│  │  __init__.py 
│          
├─blog
│  │  conftest.py
│  │  test_2_blog.py
│  │  __init__.py 

具体代码

# web_conf_py/conftest.py
import pytest

@pytest.fixture(scope="session")
def start():
    print("\n打开首页")
    return "jkc"

# web_xdist/baidu/conftest.py
import pytest

@pytest.fixture(scope="session")
def open_baidu():
    print("打开百度页面_session")

# web_xdist/baidu/test_1_baidu.py
import pytest
import time

def test_01(start, open_baidu):
    print("测试用例test_01")
    time.sleep(1)
    assert start == "jkc"

def test_02(start, open_baidu):
    print("测试用例test_02")
    time.sleep(1)
    assert start == "jkc"

if __name__ == "__main__":
    pytest.main(["-s", "test_1_baidu.py"])


# web_xdist/baidu/test_2.py
import pytest
import time

def test_06(start, open_baidu):
    print("测试用例test_01")
    time.sleep(1)
    assert start == "jkc"
def test_07(start, open_baidu):
    print("测试用例test_02")
    time.sleep(1)
    assert start == "jkc"

if __name__ == "__main__":
    pytest.main(["-s", "test_2.py"])


# web_xdist/blog/conftest.py
import pytest

@pytest.fixture(scope="function")
def open_blog():
    print("打开blog页面_function")

# web_xdist/blog/test_2_blog.py

import pytest
import time
def test_03(start, open_blog):
    print("测试用例test_03")
    time.sleep(1)
    assert start == "jkc"

def test_04(start, open_blog):
    print("测试用例test_04")
    time.sleep(1)
    assert start == "jkc"

def test_05(start, open_blog):
    '''跨模块调用baidu模块下的conftest'''
    print("测试用例test_05,跨模块调用baidu")
    time.sleep(1)
    assert start == "jkc"

if __name__ == "__main__":
    pytest.main(["-s", "test_2_blog.py"])

 

不使用分布式测试的命令和所需执行时间:7.09s

collecting ... 
 web_xdist/baidu/test_1_baidu.py ✓✓                                                                                                                                                                       29% ██▉       
 web_xdist/baidu/test_2.py ✓✓                                                                                                                                                                             57% █████▊    
 web_xdist/blog/test_2_blog.py ✓✓✓                                                                                                                                                                       100% ██████████

Results (7.09s):
       7 passed

 

使用分布式测试的命令和所需执行时间:2.77s

pytest -n auto

测试结果

gw0 [7] / gw1 [7] / gw2 [7] / gw3 [7] / gw4 [7] / gw5 [7] / gw6 [7] / gw7 [7] / gw8 [7] / gw9 [7] / gw10 [7] / gw11 [7]

 web_xdist/baidu/test_2.py ✓✓                                                                                                                                                                            100% ██████████
 web_xdist/baidu/test_1_baidu.py ✓✓                                                                                                                                                                       71% ███████▎  
 web_xdist/blog/test_2_blog.py ✓✓✓                                                                                                                                                                        86% ████████▋ 

Results (2.77s):
       7 passed

 

知识点

  • 可以看到,最终运行时间只需要2.77s,我的电脑是真6核,假12核
  • -n auto:可以自动检测到系统的CPU核数;从测试结果来看,检测到的是逻辑处理器的数量,即假12核
  • 使用auto等于利用了所有CPU来跑用例,此时CPU占用率会特别高
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/166025.html原文链接:https://javaforall.net

赞 (0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • js排序——sort()排序用法

    js排序——sort()排序用法sort()方法用于对数组的元素进行排序,并返回数组。默认排序顺序是根据字符串Unicode码点。语法:array.sort(fun);参数fun可选。规定排序顺序。必须是函数。注:如果调用该方法时没有使用参数,将按字母顺序对数组中的元素进行排序,说得更精确点,是按照字符编码的顺序进行排序。如果想按照其他规则进行排序,就需要提供比较函数,该函数要比较两个值,然后返回…

    2022年10月20日
  • 通过cmd命令快速进入MySQL

    通过cmd命令快速进入MySQL想直接通过cmd直接进入MySQL的设置方法:1.找到MySQL安装路径C:\ProgramFiles\MySQL\MySQLServer5.5\bin,然后复制。2.然后点我的电脑右键属性-》高级系统设置-》高级-》环境变量-》系统变量-》编辑path,在path中将上面的路径复制进去就可以了。3.然后在cmd中直接输入mysql-uroot-p123456即可…

    2022年5月27日
  • traceroute的工作原理

    traceroute的工作原理MyySophia5个月前traceroute的工作原理是利用ICMP差错控制报文中的TTL超时会回向源点发送一个时间超时报文。例如A主机tracerouteB主机,A会封装一些分组,这些分组很特殊,例如第一个分组的TTL设置为1,第二个分组的TTL设置为2以此类推…….当第一个分组到达第一个路由器时,发现TTL变成了0就会给源主机发送一个时间超时报文,这也就知道了这…

    2022年7月21日
  • 小旋风虚拟服务器怎么用,超级小旋风asp服务器软件使用图文教程

    小旋风虚拟服务器怎么用,超级小旋风asp服务器软件使用图文教程超级小旋风asp服务器软件是由残剑无敌[1]在NETBOX核心下开发的一套强大简洁的ASPWEB服务器软件,使用这个软件的您完全可以抛弃体积庞大的WINNT,WIN2000服务器系统及漏洞百出的IIS了。可以在任何一个系统上调试和发布ASP程序。目前测试通过的操作系统为:Windows98;Windows98SE;WindowsME;WindowsNT+IE4;Windows2000;W…

    2022年10月25日
  • pycharm每次新建项目都要重新安装一些第三方库解决办法

    pycharm每次新建项目都要重新安装一些第三方库解决办法目前有三个解决办法,也是亲测有用的:第一个方法:因为之前有通过pycharm的projectinterpreter里的+号添加过一些库,但添加的库只是指定的项目用的,如果想要用,就必须用之前的项目的python解释器,举个例子:这个是我之前的项目的解释器,这个项目解释器是继承的python的解释器,同时又安装了上面你看到的这些库,包含numpy和opencv-python等,然后我新…

    2022年5月17日
  • 解密excel文件打开密码「建议收藏」

    解密excel文件打开密码「建议收藏」excel文件带有打开密码,忘记了密码或者是不知道密码的情况下,想要打开文件是需要解密工具帮助的,因为需要找到正确的密码才能够打开文件,其他方法好像还没办法成功解决文件打开密码。解密工具:【EXCEL解密大师】快速找回密码_轻松移除使用限制-奥凯丰okfone打开软件,选择【找回密码】功能,将文件添加进去,选择一个找回方法,点击【开始】之后等待软件找回密码关于找回方法:组合激活成功教程、掩码激活成功教程:适用于可以提供密码信息的情况,这两种方法可以根据密码信息更快速的找回密码,六位数及一下的密码,十分钟

    2022年6月28日

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号