python爬虫:爬取网站视频

python爬虫:爬取网站视频

python爬取百思不得姐网站视频http://www.budejie.com/video/

新建一个py文件,代码如下:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
#!/usr/bin/python
# -*- coding: UTF-8 -*-

 

import 
urllib,re,requests
import 
sys
reload
(sys)
sys.setdefaultencoding(
'utf-8'
)

 

url_name 
= 
[] 
#url name

 

def 
get():
    
#获取源码
    
hd 
= 
{

"User-Agent"
:
"Mozilla/5.0 (Windows NT 6.3; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.36"
}
    
url 
= 
'http://www.budejie.com/video/'
    
html 
= 
requests.get(url,headers
=
hd).text
    
url_content 
= 
re.
compile
(r
'(<div class="j-r-list-c">.*?</div>.*?</div>)'
,re.S) 
#编译
    
url_contents 
= 
re.findall(url_content,html) 
#匹配

 

    
for 

in 
url_contents:
        
#匹配视频
        
url_reg 
= 
r
'data-mp4="(.*?)"'  
#视频地址
        
url_items 
= 
re.findall(url_reg,i)
        
#print url_items
        
if 
url_items:  
#判断视频是否存在
            
name_reg 
= 
re.
compile
(r
'<a href="/detail-.{8}?.html">(.*?)</a>'
,re.S)
            
name_items 
= 
re.findall(name_reg,i)
            
#print name_items[0]
            
for 
i,k 
in 
zip
(name_items,url_items):
                
url_name.append([i,k])
                
print 
i,k
    
for 

in 
url_name:  
#i[1]=url i[0]=name
        
urllib.urlretrieve(i[
1
],
'video\\%s.mp4' 
% 
(i[
0
].decode(
'utf-8'
)))

 

if 
__name__ 
=
= 
"__main__"
:
    
get()

 

在 py 文件下新建一个 video 文件夹,执行后结果如下:

wKiom1kkMz-i8-RdAAIVKL2KXsw022.png

在 video 文件夹可以看到下载好的视频

wKioL1kkM1KQyw43AAQpNrfCuQc669.png

 

注意报错:

UnicodeEncodeError: ‘ascii’ codec can’t encode characters in position 0-9: ordinal not in range(128)

解决:

import sys
reload(sys)

sys.setdefaultencoding(‘utf-8’)

 

 

转载:http://blog.51cto.com/xiaogongju/2061754

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/112606.html原文链接:https://javaforall.net

(0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • Linux Ubuntu 虚拟机不能连网、Linux Ubuntu 虚拟机怎么连网

    主机与虚拟机文件传递移步:https://blog.csdn.net/qq_38786209/article/details/79984879notice:!!!虚拟机不能上网,可能会有很多原因,但是如果没有特殊要求,只是想尽快连上网使用的话,推荐采用以下方式。虚拟机不能上网:情形1:如果是刚刚安装好虚拟机,主机是无线网络(WIFI)连接,但是虚拟机不能上网,切记可以直接把网络模式…

    2022年4月7日
    82
  • QMap类说明[通俗易懂]

    QMap类说明[通俗易懂]QMap是一个模板类,提供了一个红黑树结构的查找字典。注:红黑树结构是自平衡二叉树QMap是一个QT常用的容器类,它存储键值队,并且可以很快的根据键查找值。QMap和QHash提供很类似的功能,他们的区别如下:1. QHash的查找性能更好;2.在遍历QHash时,里面是已经按字母排序好的,但是对于QMap,里面的东西都是按键分类的。3.QHash的键类型必须提供一

    2022年5月29日
    44
  • Android startActivityForResult()的用法

    Android startActivityForResult()的用法领导说我基础差,我也没反驳,知识忘记了,用到的时候查一下不久行了吗,自己最近在回顾知识好好的在补充一下,今天礼拜日,趁着空闲事件记录一下简单的知识startActivityForResult()也是经常使用到比如我们做城市选择点击城市,返回点击的城市等等,使用startActivityForResult()方法你需要清楚1startActivityForResult(Inten…

    2022年7月11日
    16
  • 以太网Flow Control相关

    以太网Flow Control相关pausepkt,MAC0为self-station,MAC1为link-partnerstationflow如下step1~2:MAC1向MAC0TXpkt,MAC0RX到pkt后送给后续moduleA处理。step3:MAC0来不及处理源源不断的MAC1送来的pkt,此时拉低FC_rdy(一般有RXctrl相关module起)(flowcontrolready)信号,表明此时需要进行flowcontrol;step4:MAC0TX端看到FC_rd.

    2022年6月5日
    44
  • 菜鸟教程python3 mysql_MySQL菜鸟教程

    菜鸟教程python3 mysql_MySQL菜鸟教程页眉内容MySQL教程Mysql是最流行的关系型数据库管理系统,在WEB应用方面MySQL是最好的RDBMS(RelationalDatabaseManagementSystem:关系数据库管理系统)应用软件之一。在本教程中,会让大家快速掌握Mysql的基本知识,并轻松使用Mysql数据库。什么是数据库?数据库(Database)是按照数据结构来组织、存储和管理数据的仓库,每个数据库都有一个或多个…

    2025年7月30日
    1
  • 五个最佳FTP客户端工具「建议收藏」

    五个最佳FTP客户端工具「建议收藏」概述无论你是做网站工作,还是运行一个家庭FTP服务器,或者你只是喜欢高速下载,一个稳定且功能齐全的FTP客户端工具都可以节省你大量时间和生命,现在有大量的免费或者收费的FTP客户端软件供大家选择,这里总结了五个流行的FTP客户端软件。FileZilla(所有平台)FileZillaFileZilla是一个免费开源的适合Windows、Mac和Linux的FTP客户端软件,因为其实免费跨平台和易用性,因此它是很多FTP用户的最初选择,FileZilla下载速度非常快,功能齐全,如果你是Wind

    2022年8月30日
    2

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号