python常见的5种框架

python常见的5种框架1.scrapy框架scrapy框架是一套比较成熟的python爬虫框架,是使用python开发的快速、高层次的信息爬取框架,可以高效率地爬取web页面并提取出我们关注的结构化数据。scrapy框架的应用领域有许多,比如网络爬虫,数据挖掘、数据监测、自动化测试等。scrapy框架是一套开源的框架,…

大家好,又见面了,我是你们的朋友全栈君。

1.scrapy框架

               scrapy框架是一套比较成熟的python爬虫框架,是使用python开发的快速、高层次的信息爬取框架,可以高效率地爬取web页面并提取出我们关注的结构化数据。

               scrapy框架的应用领域有许多,比如网络爬虫,数据挖掘、数据监测、自动化测试等。

               scrapy框架是一套开源的框架,开源也就意味着我们能够看到并且免费试用scrapy的所有代码。

2.crawley框架

               crawley也是使用python开发出来的一款爬虫框架,该框架致力于改变人们从互联网中提取数据的方式,让大家可以更高效地从互联网中爬取对应内容。

                crawley框架的主要特点有:

                1>高速爬取对应网站内容

                 2> 可以将爬取到内容轻松地存储到数据库中,比如:postgres,mysql,oracle,sqlite等数据库

                 3>可以将爬取到的数据导出为json,xml等格式

                 4>支持非关系型数据库,比如:mongodb,couchdb等

                 5>支持使用命令行工具

                 6>可以使用你喜欢的工具提取数据,比如使用xpath或者pyquery等工具

                 7>支持使用cookie登陆并访问哪些只有登陆才能够访问的网页

                 8>简单易学

3.portia框架

                  portia框架是一款允许没有任何编程基础的用户可视化地爬取网页的爬虫框架,给出你要爬取的网页中感兴趣的数据内容,通过portia框架,可以将你所需要的信息从相似的网页中自动提取出来,如果需要,可以子啊github上的主页进行获取。如果需要,上百度自己查吧,,具体的我就不写了。

 4.newspaper框架

                   newspaper框架是一种用来提取新闻、文章以及内容分析的python爬虫框架。更准确地说,newspaper是一个python的库,只不过这个库是由第三方开发的,可以归为一种框架。

                    newspaper框架在的主要特点:

                     1>比较简单

                     2>速度比较快

                     3>支持多线程

                     4>支持十多种语言

                     由此我们可以知道newspaper框架是轻量级框架,并且就爬取文章信息这一功能来说,使用起来很方便

5.Python-goose框架

                      coose本来是一款用java写的文章提取工具,Xavier Grangier用python重写了goose,并将重写后goose命名为python-goose。

                      所以,python-coose框架实现的功能同样是进行文章提取。

 

 

以上是python常用的5种框架,这是我知道,,如果各位大神,还有其他的 ,也可以留言,相互沟通,学习。另外后面3种框架可以再github上找到。

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/134623.html原文链接:https://javaforall.net

(0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • 常用的微信编辑器

    常用的微信编辑器

    2021年10月12日
    151
  • springboot整合jedisCluster[通俗易懂]

    springboot整合jedisCluster[通俗易懂]JedisClusterjedis客户端提供的一个操作集群的连接对象;底层封装了单个节点电连接对象,封装了连接池的对外使用的集群对象;测试连接代码•收集节点信息(redis-cluster可以只提供若干个节点) @Test publicvoidtest(){ //收集若干个节点信息 Set<HostAndPort>set=newHashSet<Ho…

    2022年10月14日
    2
  • Jsoup-jar包下载

    Jsoup-jar包下载Jsoup:jsoup是一款Java的HTML解析器,可直接解析某个URL地址、HTML文本内容。它提供了一套非常省力的API,可通过DOM,CSS以及类似于jQuery的操作方法来取出和操作数据。*快速入门:*步骤:1.导入jar包链接:https://pan.baidu.com/s/1KPQw3sYdxHaGB3pYaoGvdQ提取码:6a7x下载完成后解压,将jso…

    2022年5月14日
    39
  • Error:Execution failed for task toolchains\mips64el-linux-android-4.9\prebuilt\windows-x86_64.异常处理

    Error:Execution failed for task toolchains\mips64el-linux-android-4.9\prebuilt\windows-x86_64.异常处理

    2021年3月12日
    141
  • ETL开发流程小记(1)[通俗易懂]

    ETL开发流程小记(1)[通俗易懂][原创]ETL开发流程随笔ETL开发ETL工作目标ETL工作目的主要有:ETL工作流程准备工作ETL设计ETL开发ETL测试功能快捷键合理的创建标题,有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能,丰富你的文章U…

    2022年5月1日
    131
  • java applet编程_JavaApplet编程技巧

    java applet编程_JavaApplet编程技巧JavaApplet编程技巧陈冲——————————————————————————–1.JavaApplet概述JavaApplet程序分为两类:Java小程序(Applet)和Java应用程序(Application),这两类程序…

    2022年7月8日
    20

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号